KI-basierte Apps werden mit offenen Türen ausgeliefert
Der schnellste Weg, Unternehmensdaten im Jahr 2026 zu verlieren, ist, mit einem KI-Tool etwas Nützliches zu bauen und zu vergessen, wer sonst noch darauf zugreifen kann. Zwei Geschichten aus der vergangenen Woche zeigen das gleiche Versäumnis aus entgegengesetzten Richtungen. In der einen erstellen Mitarbeitende Apps mit einem KI-Builder und lassen sie für jeden mit einem Link erreichbar. In der anderen wurde der Connector eines Hosting-Anbieters für KI-Assistenten zum Einfallstor.
Sicherheitsforscher von Claroc fanden zehntausende mit Grok erstellte Apps, die ohne Anmeldung zugänglich waren, darunter 24 von Mitarbeitenden von SpaceXSI und X. Unabhängig davon berichtete der deutsche Webhoster Mittwald, dass Angreifer eine Schwachstelle im Model Context Protocol Server ausnutzten, um 56 Kundenprojekte zu kompromittieren. Die eine Geschichte handelt davon, was Menschen mit KI bauen. Die andere davon, worauf KI zugreifen darf.
Beide enden am selben Punkt: Vertrauliche Inhalte stehen hinter einer Tür, die niemand kontrolliert hat, und das Unternehmen erfährt es erst von außen. Für einen CISO oder Chief Compliance Officer ist die Lehre nicht, dass ein Anbieter versagt hat. Sondern, dass KI die Kosten für das Erstellen und Verbinden von Systemen viel schneller gesenkt hat als die Kosten für deren Governance.
Wichtige Erkenntnisse
- Einfach zu bauen heißt einfach zu exponieren. Claroc berichtete, dass 35.578 mit Grok erstellte Apps ohne Account zugänglich waren – etwa 94,7 Prozent der antwortenden Apps.
- Die Ersteller waren keine unachtsamen Externen. 24 der offenen Apps wurden von Mitarbeitenden von SpaceXSI und X erstellt, was zeigt: Voreinstellungen und Gewohnheiten sind wichtiger als Expertise.
- KI-Connectoren sind eine Angriffsfläche. Mittwald führte den Vorfall mit 56 kompromittierten Kundenprojekten auf eine Schwachstelle im Server zurück, der das Hosting-Panel mit KI-Assistenten verbindet.
- Erkennung erfolgte in beiden Fällen verzögert. Mittwald bemerkte die Ausnutzung erst nach acht Tagen, und die exponierten Grok-Apps wurden von externen Forschern entdeckt.
- Governance muss beim Schutz der Daten beginnen. Entscheidend ist, zu kontrollieren, worauf KI-Apps und KI-Connectoren zugreifen können – und dies zu protokollieren – statt jedes Tool einzeln zu überwachen.
Was Claroc in Grok-Apps fand
Claroc veröffentlichte seine Ergebnisse im Bericht GhostShares 2. Die folgenden Zahlen stammen aus diesem Bericht, der seine Methodik selbst beschreibt.
Die Forscher listeten Namen unter der grok.me-Domain aus einem kommerziellen passiven DNS-Dienst auf, wobei sie die Liste am 8. November 2026 nach täglichen Abfragen seit dem 31. Oktober zogen. Sie zählten 43.551 verschiedene Apps, die geladen wurden, und 35.578 davon waren ohne Anmeldung zugänglich. Weitere 1.993 lieferten einen Authentifizierungsfehler. Claroc schätzt, dass etwa 94,7 Prozent der antwortenden Apps für jeden offen waren. Der Bericht berücksichtigt die übrigen Apps in der Gesamtzahl nicht.
Dann zum Inhalt: Die KI-gestützte Bewertung von Claroc ergab, dass etwa jede zehnte App vertrauliches Material, interne Unternehmensdaten oder personenbezogene Daten enthielt. Rund 2 Prozent wurden als hoch oder kritisch eingestuft; die Autoren merken an, dass ihre strengere zweite Prüfung vermutlich zu hoch zählt und die reale Zahl eher bei 650 bis 800 Apps liegt. 150 Exponierungen wurden manuell bestätigt. Beispiele waren ein Patientenbriefing auf der Intensivstation, ein Dienstplan für Krankenhauspersonal, ein Schichtplan der Feuerwehr und eine Zeiterfassungs-App mit Passwörtern im Klartext. Insgesamt wurden 30 Organisationen neben SpaceXSI und X identifiziert, davon 26 mit mehr als 1.000 Mitarbeitenden und sechs aus der Fortune 500.
Die Methodik verdient eine Anmerkung, da sie die Zahlen beeinflusst. Claroc rief jede Startseite einmal ohne Account ab, nutzte keine gefundenen Zugangsdaten und renderte die Seiten offline. Eine Stichprobe von 100 KI-bewerteten Apps zeigte, dass 75 davon zutrafen. Das sind also vorsichtige Schätzungen, kein vollständiges Audit aller Apps.
SpaceXSIs Reaktion laut Bericht: Grok-Apps seien privat, bis der Ersteller sie teilt, und Mitarbeiterkonten hätten standardmäßig die Einstellung „Only you“. Die Forscher widersprechen, dass zusätzliche Veröffentlichungsschritte Daten schützen, und verweisen darauf, dass in ihrem eigenen Account die Option „Anyone with the link“ vorausgewählt war. SpaceXSI entfernte die 24 von Mitarbeitenden erstellten Apps nach Rückfragen eines Reporters, aber nicht die Apps anderer Nutzer.
Voreinstellungen sind die eigentliche Schwachstelle
Es ist verlockend, dies als Einstellungsproblem eines einzelnen Anbieters zu sehen. Doch das greift zu kurz.
Wenn ein Tool das Erstellen trivial macht, ist der Ersteller selten ein Security Engineer. Ein Marketing-Analyst baut ein Dashboard, eine Pflegedienstleitung einen Dienstplan, ein Finanzmitarbeiter eine Zeiterfassungs-App. Alle wollen mit Kollegen teilen – und der einfachste Weg ist ein Link. Ob dieser Link eine Anmeldung erfordert, hängt von einer Einstellung ab, die die meisten Ersteller nie sehen.
Das ist Schatten-IT im Zeitraffer. Vor zehn Jahren war das nicht genehmigte System eine per E-Mail geteilte Tabelle. Heute ist es eine gehostete Anwendung mit öffentlicher Adresse, dahinter eine Datenbank und möglicherweise eingebettete Zugangsdaten. Die Dimension ist eine andere – und auch der Entdeckungspfad. Angreifer und Forscher können öffentliche Apps über DNS-Einträge aufspüren, ohne Ihr Netzwerk zu berühren. Wenn Sie warten, bis Ihre eigenen Scanner sie finden, sind Sie später dran als sie.
Die NCA und CybSafe-Studie „Oh, Behave!“ berichtete, dass 32 Prozent der KI-Nutzer am Arbeitsplatz vertrauliche Unternehmensdaten ohne Wissen des Arbeitgebers geteilt haben. Kombiniert man das mit einem KI-Builder, der standardmäßig veröffentlicht, entstehen die Bedingungen, die Claroc gefunden hat. Sehen Sie es als Ergebnis einer Umfrage – aber beachten Sie, wie gut es zum Verhalten passt.
Mittwald und das KI-Connector-Problem
Die zweite Geschichte betrifft Software, die zwischen KI-Assistenten und einer Plattform vermittelt. Mittwald CM Service, ein deutscher Webhoster für Agenturen, betreibt ein Hosting-Management-Panel namens mStudio. Dafür wurde ein Model Context Protocol Server angeboten, damit Kunden KI-Assistenten an das Panel anbinden konnten.
Mittwalds eigener Bericht, wie von webhosting.today und The Record berichtet, schildert den Ablauf so: Ein Angreifer testete im Oktober eine Schwachstelle im MCP-Server, bewegte sich als normaler Anwender durch die Plattform und nutzte die Lücke am 27. Oktober aus – fünf Minuten nach Registrierung eines weiteren Accounts. Der Angreifer las Session-Tokens, nicht Passwörter, von Kunden, die den Server nutzten, und kompromittierte 56 Projekte. Mittwald bemerkte am 4. November ungewöhnliches Verhalten, nahm Teile der Systeme offline, identifizierte den MCP-Server als Einstiegspunkt und schaltete ihn ab. Externe Forensiker wurden hinzugezogen, die zuständigen Behörden informiert, Tokens widerrufen und API-Keys vorsorglich gesperrt.
Einige Details sind hervorzuheben: Mittwald gibt an, die Schwachstelle gefunden und geschlossen zu haben, aber noch nicht, ob der MCP-Server zurückkehrt. Nach aktuellem Stand waren Kunden, die den Server nie nutzten, nicht betroffen. Bislang gibt es keine Hinweise, dass Kundendaten veröffentlicht wurden, die Prüfungen laufen aber noch. Der Geschäftsführer erwartet, dass KI-gestützte Angriffe zunehmen, und das Unternehmen sieht in der Geschwindigkeit des Angreifers Hinweise auf den Einsatz von KI-Tools.
Mittwald nennt die Schwachstelle, beschreibt sie aber nicht – daher keine Spekulationen über die Ursache über das hinaus, was das Unternehmen selbst sagt.
Was die beiden Fälle verbindet
Oberflächlich sind sie unterschiedlich: Ein KI-Builder für Endnutzer, ein Connector im Unternehmenshosting. Doch drei Dinge stimmen überein.
Die Autorisierung war schwach. Im Grok-Fall war ein offener Link die Zugangskontrolle. Im Mittwald-Fall waren Session-Tokens der Schlüssel. In beiden Fällen war kein raffinierter Angriff nötig – Zugangsdaten oder Links reichten, wenn man sie hatte.
Die Transparenz war gering. Niemand in den betroffenen Unternehmen hatte eine vollständige Übersicht über die gebauten oder verbundenen Systeme. Mittwald brauchte acht Tage von der Ausnutzung bis zur Entdeckung. Claroc fand Exponierungen über öffentliche DNS-Daten, die jedem Außenstehenden zugänglich sind.
Der Schaden folgte den Daten. Tokens öffneten Projekte, offene Links legten Unternehmensinhalte offen. Was ein Angreifer erreichen konnte, hing davon ab, worauf die App oder der Connector zugreifen durfte – nicht von der Raffinesse des Angriffs.
Deshalb hilft zero trust generative AI-Denken: Jede KI-App und jeder KI-Connector gilt als nicht vertrauenswürdig. Jede Anfrage muss authentifiziert werden, der Zugriff wird begrenzt und alles wird protokolliert.
Was ein CISO dieses Quartal tun sollte
Beginnen Sie mit der Bestandsaufnahme. Nutzen Sie externe Asset-Discovery, um öffentliche Hostnamen Ihres Unternehmens – auch auf KI-Builder-Domains – zu identifizieren, und fragen Sie die Fachbereiche, was sie gebaut haben. Verlassen Sie sich nicht auf eine Richtlinie, die das Bauen verbietet. Gehen Sie davon aus, dass es trotzdem passiert ist.
Setzen Sie dann Regeln für KI-Builder: Entscheiden Sie, welche Tools zugelassen sind, verlangen Sie Anmeldung für alles, was Unternehmens- oder personenbezogene Daten berührt, und machen Sie privat zur Voreinstellung. Wo das technisch nicht geht, beschränken Sie die Nutzung auf nicht vertrauliche Zwecke.
Inventarisieren Sie Ihre KI-Connectoren: Listen Sie jeden MCP-Server, jedes Plugin und jede API-Verbindung, die einem KI-Assistenten Aktionen auf Ihren Systemen erlaubt. Für jeden Eintrag: Wer darf ihn nutzen, was kann er lesen und schreiben, wie wird authentifiziert, wohin gehen die Logs? Der Mittwald-Fall zeigt, was passiert, wenn ein Connector ein vertrauenswürdiger Pfad mit Schwachstelle ist.
Verkürzen Sie anschließend die Erkennungszeit: Leiten Sie Connector- und Anwendungs-Logs in Ihr SIEM und alarmieren Sie bei ungewöhnlicher Token-Nutzung, neuen Accounts mit schnellen Privilegien oder Zugriff auf sensible Pfade. Acht Tage sind eine lange Zeit für einen Angreifer mit aktiver Session.
Drehen Sie nach jedem Vorfall mit Tokens die Zugangsdaten: Mittwalds Empfehlung an Kunden, Passwörter zu ändern, Zwei-Faktor-Authentifizierung zu aktivieren, API-Keys zu prüfen und Drittanbieter-Zugangsdaten in Projekten zu erneuern, ist ein sinnvolles Muster. MFA verhindert gestohlene Session-Tokens nicht allein, aber schränkt die Angriffswege ein.
Was ein Chief Compliance Officer fragen sollte
Compliance-Verantwortliche stehen vor einer anderen Variante des Problems: Eine mit KI gebaute App, die personenbezogene Daten enthält, kann auch ohne böswilligen Akteur einen Datenschutzvorfall auslösen. Enthält die App Gesundheitsdaten, greifen HIPAA-Pflichten. Enthält sie Daten von EU-Bürgern, gelten DSGVO-Vorgaben – unabhängig davon, wer die App gebaut hat oder wie schnell.
Stellen Sie fünf Fragen: Welche KI-Builder und Connectoren sind im Einsatz und wer hat sie genehmigt? Welche Kategorien regulierter Daten wurden darin abgelegt? Welche davon verlangen Authentifizierung? Wo liegen die Logs und wie lange werden sie aufbewahrt? Und wie läuft der Prozess zur Entdeckung, Bewertung und ggf. Meldung einer Exponierung?
Wenn die Antworten auf Vertrauen statt auf Nachweisen beruhen, haben Sie das gleiche Transparenzproblem wie Claroc und Mittwald. Regulierer oder Auditoren verlangen Inventar und Protokoll, nicht Absichtserklärungen. Starke Access Controls und Third Party Risk Management gelten für KI-Anbieter wie für jeden anderen Lieferanten.
Governance für die Daten hinter den Apps
Jedes KI-Tool einzeln zu überwachen, ist aussichtslos – jede Woche erscheinen neue Builder und Connectoren. Die nachhaltige Kontrolle liegt bei den Daten: Die Policy folgt dem Inhalt, egal welches Tool darauf zugreift.
Das Muster hat vier Elemente: KI-Assistenten und Agents erreichen vertrauliche Inhalte nur über einen kontrollierten Kanal. Jede Anfrage wird authentifiziert und gegen attributbasierte Richtlinien geprüft. Authentifizierungsdaten bleiben außerhalb der Reichweite des Modells, sodass ein Prompt sie nicht extrahieren kann. Und jede Aktion landet in einem Audit-Log, das das Security-Team abfragen kann.
Kiteworks integriert dies im Secure MCP Server, der KI-Assistenten den Zugriff auf Inhalte im sicheren Datenaustausch von Kiteworks ermöglicht – mit den Berechtigungen des Nutzers und Tokens im Credential Store des Betriebssystems. Kiteworks Compliant AI erweitert dieselbe Policy-Engine und das Logging auf KI-Workflows. Der Scope ist klar: Kiteworks sichert keine Apps, die in anderen KI-Tools gebaut wurden, und läuft nicht im Control Panel eines Hosting-Anbieters. Es steuert den KI-Zugriff auf Inhalte in der Kiteworks-Plattform und protokolliert diesen Zugriff. Für Unternehmen, deren sensibelste Dateien dort liegen, wird so aus vielen Unbekannten eine klar umrissene Frage mit Protokoll dahinter. Für das Gesamtbild siehe AI Data Protection und Role Based Access Control.
Die übergeordnete Lehre
KI hat verändert, wer Software erstellen kann und wie schnell. Sie hat nicht verändert, was Angreifer wollen: zugängliche Daten. Jedes Unternehmen wird mehr Apps, mehr Connectoren und mehr Ersteller haben, als das Security-Team manuell prüfen kann.
Definieren Sie daher im Voraus, was nicht verhandelbar ist: Vertrauliche Daten sind nur über kontrollierte Kanäle erreichbar. Jeder KI-Zugriff ist authentifiziert und begrenzt. Jeder Zugriff wird protokolliert. Messen Sie dann, wie lange es dauert, bis Sie etwas entdecken, das Sie nicht kannten. Wenn die Antwort in Tagen gemessen wird – wie bei Mittwald – oder nie, wie bei den offenen Grok-Apps, ist das die wichtigste Kennzahl für Verbesserungen.
Warum klassische Application Security diese Apps nicht erfasst
Application-Security-Programme sind für Code entstanden, den Engineering-Teams schreiben, prüfen und durch kontrollierte Pipelines deployen. Die Apps aus der Claroc-Studie folgen diesem Weg nicht. Sie werden von Business-Anwendern in der Umgebung eines Anbieters erstellt und mit einem Klick veröffentlicht.
Das bricht mehrere Annahmen: Es gibt keinen Pull Request zur Prüfung, keinen Scan in der Build-Pipeline, kein Ticket in der Security Queue. Der Hostname liegt auf der Domain des Anbieters und taucht nicht im eigenen DNS-Inventar auf. Die Daten können über ein Formular eingehen, das der Ersteller selbst gebaut hat – ohne Datenklassifizierung. Und die verantwortliche Person sieht sich womöglich gar nicht als Softwareersteller.
Eine Kontrollstrategie muss dort ansetzen, wo die Exponierung entsteht. Die Entdeckung sollte nach außen schauen – mit Tools zur Attack Surface Discovery und passiven DNS-Suchen nach Firmennamen und Marken auf KI-Builder-Domains. Die Governance muss auf die Daten schauen, denn das Gefährliche an einer App ist ihr Inhalt. Und die Policy muss den Anwender erreichen, denn die Entscheidung zur Veröffentlichung liegt bei ihm.
Ein einfaches Regelwerk: Jede mit KI gebaute App, die Kunden-, Patienten-, Mitarbeiter- oder Finanzdaten verarbeitet, muss Authentifizierung verlangen und einen namentlich benannten Owner haben. Apps ohne Registrierung werden nach Ankündigung entfernt. Sensible Kategorien sind für KI-Builder grundsätzlich gesperrt, es sei denn, der Builder ist ein zugelassenes Enterprise-Tool mit vertraglichen Schutzmaßnahmen. Diese Regeln sind leicht zu formulieren und durchzusetzen, sobald Sie die Apps sehen können.
Ein Review-Gate für Connectoren und Builder
Jeder neue KI-Builder, jedes Plugin oder jeder MCP-Connector sollte vor dem Einsatz mit Unternehmensdaten ein schlankes Review durchlaufen. Das muss nicht langsam sein – eine Checkliste auf einer Seite deckt die meisten Risiken ab.
Authentifizierung: Unterstützt das Tool Single Sign-on und verlangt standardmäßig Anmeldung für veröffentlichte Inhalte? Können Administratoren diese Einstellung erzwingen?
Autorisierung: Was kann der Connector lesen und schreiben? Lassen sich Berechtigungen auf die eigenen Zugriffsrechte des Nutzers beschränken oder läuft er mit einem weitreichenden Service-Account? Im Mittwald-Fall waren Tokens das Ziel – wie sie ausgegeben, gespeichert und widerrufen werden, ist entscheidend.
Logging: Zeichnet das Tool auf, wer es wann und wie genutzt hat? Können diese Logs im passenden Format ins SIEM übertragen werden?
Datenverarbeitung: Wohin gehen die Daten, wie lange bleiben sie dort und werden sie für Training verwendet? Was passiert bei Projektlöschung?
Vulnerability Management: Wie meldet und behebt der Anbieter Schwachstellen? Gibt es einen Security-Kontakt und zugesicherte Reaktionszeiten?
Exit: Können Sie das Tool bei Problemen schnell deaktivieren und Ihre Daten exportieren oder löschen?
Dokumentieren Sie das Ergebnis und prüfen Sie es jährlich oder früher, falls der Anbieter einen Vorfall hat. Der Prozess ähnelt dem, was viele Teams bereits für SaaS-Anwendungen tun – nur ist das Volumen und die Geschwindigkeit höher, daher muss er schlank bleiben. Ergänzen Sie ihn durch Third Party Risk Management für große Anbieter und durch Supply Chain Risk Management für Open-Source-Komponenten.
Metriken, die zeigen, ob es funktioniert
Ohne Messgrößen wird Governance zur Formalie. Einige Kennzahlen sorgen für Transparenz:
Anzahl bekannter KI-Apps und Connectoren mit namentlich benanntem Owner. Anteil, der Authentifizierung verlangt. Durchschnittliche Zeit von der Erstellung einer exponierten App bis zur Entdeckung durch das eigene Team – im Vergleich dazu, wann ein Außenstehender sie hätte finden können. Anzahl der Connectoren mit weitreichendem Service-Account-Zugriff. Durchschnittliche Zeit bis zum Widerruf von Tokens nach einem Vorfall. Und Anteil der KI-Datenzugriffe, die über einen kontrollierten, protokollierten Kanal laufen.
Verfolgen Sie diese Werte im Zeitverlauf und zeigen Sie den Trend. Ein steigender Anteil kontrollierter Zugriffe und sinkende Entdeckungszeiten sind aussagekräftiger als eine statische Risikoliste. Wenn die Zahlen stagnieren, prüfen Sie die Ursachen – oft liegt es an einem Fachbereich, der den genehmigten Weg als zu langsam empfindet.
Vorsicht bei Scheinmetriken: Die Zahl blockierter Anfragen kann steigen, weil Angreifer testen – oder weil Ihr Tooling zu viele Fehlalarme produziert. Bevorzugen Sie Outcome-Metriken, die sich auf Exponierung und Nachweise beziehen. Ergänzen Sie sie durch regelmäßige Übungen: Ein Red Team, das versucht, öffentliche KI-Apps der eigenen Mitarbeitenden zu finden, bringt mehr Erkenntnisse als ein Dashboard.
Wie ein kontrollierter KI-Connector Policy durchsetzt und jede Anfrage protokolliert, können Sie im Kiteworks-Demo gemeinsam mit unserem Team erleben.
Häufig gestellte Fragen
Nutzen Sie externe Asset-Discovery, um Hostnamen Ihres Unternehmens auf KI-Builder-Domains zu finden, durchsuchen Sie passive DNS-Daten und fragen Sie die Fachbereiche offen und ohne Sanktionen. Kombinieren Sie die Ergebnisse mit Netzwerk- und Identitäts-Logs. Fordern Sie dann Anmeldung und Freigabe für alles, was Unternehmensdaten berührt. Siehe AI Data Governance.
Ein Model Context Protocol Server ermöglicht es KI-Assistenten, sich mit einem System zu verbinden und Aktionen über eine standardisierte Schnittstelle auszuführen. Er wird zum Risiko, wenn er weitreichende Berechtigungen vergibt oder Schwachstellen aufweist – wie im Mittwald-Fall. Begrenzen Sie die Rechte, authentifizieren Sie jede Anfrage und protokollieren Sie alles.
Das hängt vom Tool und den Einstellungen ab. In der Claroc-Studie war die Option „Anyone with the link“ im Account der Forscher vorausgewählt, auch wenn SpaceXSI angibt, Apps seien privat, bis der Ersteller sie teilt. Prüfen Sie die Voreinstellungen jedes Tools selbst und machen Sie privat zum Standard. Stärken Sie die Access Controls rund um diese Apps.
Nehmen Sie den Connector offline, widerrufen Sie Tokens und API-Keys, prüfen Sie die Logs auf Aktivitäten im Exponierungszeitraum, drehen Sie Zugangsdaten in betroffenen Systemen und informieren Sie betroffene Parteien wie vorgeschrieben. Das Vorgehen von Mittwald ist ein sinnvolles Muster. Folgen Sie Ihrem Incident Response-Plan.
Nicht allein. MFA schützt den Login, aber ein gestohlenes Session-Token kann sie umgehen. Kombinieren Sie MFA mit kurzen Token-Laufzeiten, Widerruf, Conditional Access und Monitoring auf ungewöhnliche Nutzung. Mehr zu MFA im Kontext.
Weitere Ressourcen
- Blogbeitrag Zero Trust Architecture: Never Trust, Always Verify
- Video Microsoft GCC High: Nachteile, die Verteidigungsunternehmen zu intelligenteren Lösungen bewegen
- Blogbeitrag Wie man klassifizierte Daten sichert, nachdem DSPM sie erkannt hat
- Blogbeitrag Vertrauen in Generative KI aufbauen mit Zero Trust
- Video Der definitive Leitfaden für die sichere Speicherung sensibler Daten für IT-Führungskräfte