Das größte KI-Risiko trägt einen Mitarbeiterausweis
Das größte KI-Risiko, das Sicherheitsverantwortliche beschäftigt, ist nicht ein Hacker mit einem ausgeklügelten Prompt. Es ist ein Kollege mit einer Deadline, einem Ausweis und einem Browser-Tab, der zu einem Chatbot geöffnet ist.
Das ist das zentrale Ergebnis einer O’Reilly-Umfrage unter 209 Sicherheitsexperten im September 2026. 49 Prozent nannten das Risiko, dass sensible Daten über kommerzielle KI-Tools abfließen, als Hauptsorge. Weitere 49 Prozent gaben an, dass Mitarbeitende KI-Ausgaben ungeprüft vertrauen. Prompt Injection, das Thema vieler Konferenzen, wurde nur von 11 Prozent genannt.
Die Zahlen zeigen eine Lücke zwischen der Formulierung einer Richtlinie und der tatsächlichen Kontrolle über Daten. Die meisten Unternehmen verfügen über eine KI-Richtlinie. Deutlich weniger können belegen, dass diese Richtlinie das Verhalten ändert, wenn jemand einen Vertrag, eine Kundendatei oder Quellcode in ein KI-Tool einfügt. Dieser Beitrag zeigt die Umfrageergebnisse, erklärt, warum eine Richtlinie allein die Lücke nicht schließt, und was sich ändert, wenn KI-Zugriffe auf sensible Daten über eine Control Plane für sichere Datenbewegungen mit Richtliniendurchsetzung und einheitlichem Audit Log laufen – das Modell hinter Kiteworks Compliant AI und dem Kiteworks Secure MCP Server.
Wichtige Erkenntnisse
1. Das größte KI-Risiko ist intern.
In der O’Reilly-Umfrage nannten 49 Prozent das Abfließen von Daten über kommerzielle KI-Tools und ebenso viele das blinde Vertrauen in ungeprüfte KI-Ausgaben. Prompt Injection lag bei 11 Prozent.
2. Eine Richtlinie ist keine Kontrolle.
72 Prozent verfügen über eine KI-Nutzungsrichtlinie, aber nur 44 Prozent bezeichnen sie als umfassend. Verbreitete Schatten-KI wurde von 35 Prozent der Befragten mit einer einfachen Richtlinie gemeldet, gegenüber 17 Prozent mit einer umfassenden Richtlinie.
3. Schatten-KI ist ein Wahrnehmungssignal, keine Leckrate.
59 Prozent glauben, dass Kollegen zumindest gelegentlich KI außerhalb der Richtlinie nutzen. Validieren Sie diese Annahme mit eigenen Telemetriedaten, bevor Sie sie als gemessene Gefährdung berichten.
4. Agents verschärfen das Identitätsproblem zusätzlich zum Verhaltensproblem.
Befragte sorgten sich um zu weitreichende Berechtigungen oder unklare Zuständigkeiten (28 Prozent), schwaches Monitoring und mangelnde Revisionssicherheit (19 Prozent) sowie die fehlende Möglichkeit zu prüfen, ob ein Agent in seiner Rolle geblieben ist (18 Prozent).
5. Richtlinien am Speicherort der Daten durchsetzen.
Wenn KI-Zugriffe auf sensible Daten über eine Control Plane laufen, können Sie Identitäten authentifizieren, Richtlinien bei jeder Anfrage anwenden und ein manipulationssicheres Audit Log schreiben.
Was die O’Reilly-Umfrage gemessen hat
O’Reilly führte die Umfrage im September 2026 durch und analysierte die Antworten von 209 Sicherheitsexperten. Zwei Einschränkungen sind wichtig, bevor man daraus zitiert: Die Befragten sind selbstselektiert, und 209 ist eine kleine Stichprobe – die Ergebnisse zeigen also, wo sich Sicherheitsexperten exponiert fühlen, nicht wie häufig Vorfälle tatsächlich auftreten.
Die zweite Einschränkung betrifft die Schatten-KI-Zahl. O’Reilly definiert Schatten-KI als KI-Nutzung außerhalb einer klaren Richtlinie. Die 59-Prozent-Zahl (36 Prozent gelegentlich, 23 Prozent verbreitet) gibt den Anteil der Befragten an, die glauben, dass Kollegen KI so nutzen. Es handelt sich um eine Annahme über das Verhalten, nicht um eine gemessene Rate sensibler Datenabflüsse aus dem Unternehmen. Formulieren Sie das auch so in Ihrem Bericht für den Vorstand.
Trotz dieser Einschränkungen ist die Rangfolge aufschlussreich. Wenn Sicherheitsexperten zwischen exotischen und alltäglichen Risiken wählen, entscheiden sie sich für das Alltägliche. Ihre größte Sorge ist ein gewöhnlicher Mitarbeiter, der mit einem sehr leistungsfähigen Tool eine alltägliche Aufgabe erledigt.
Sie vertrauen darauf, dass Ihr Unternehmen sicher ist. Aber können Sie es nachweisen?
Jetzt lesen
Eine Richtlinie auf Papier ändert kein Verhalten
72 Prozent der O’Reilly-Befragten geben an, dass ihr Unternehmen eine KI-Nutzungsrichtlinie hat. Nur 44 Prozent bezeichnen sie als umfassend. Das zeigt sich im Verhalten: Befragte mit umfassenden Richtlinien meldeten verbreitete Schatten-KI zu 17 Prozent. Bei einfachen Richtlinien lag der Wert bei 35 Prozent, bei Unternehmen ohne Richtlinie bei 37 Prozent.
Lesen Sie das genau: Umfassende Richtlinien gehen mit weniger Schatten-KI einher – eine gute Nachricht für alle, die in die Erstellung investiert haben. Aber 17 Prozent bedeuten immer noch, dass fast jedes fünfte Unternehmen trotz bester Dokumentation von verbreiteter Nutzung außerhalb der Richtlinie berichtet.
Eine weitere Umfrage zeigt das gleiche Muster aus Auditsicht. Schellman befragte 525 US-Profis in Großunternehmen: 64 Prozent haben eine formelle KI-Nutzungsrichtlinie, die an Mitarbeitende kommuniziert wird. 74 Prozent glauben, sie könnten heute ein KI-Compliance-Audit bestehen. Nur 27 Prozent beschreiben ihr Governance-Programm als vollständig ausgereift, und 44 Prozent verfügen über KI-spezifische Incident-Response-Prozesse. Schellman bietet KI-Assessments an und die Stichprobe unterscheidet sich von O’Reilly, daher sollten die Werte nicht addiert, sondern nebeneinander betrachtet werden.
Die Lücke zwischen „wir haben eine Richtlinie“ und „wir können beweisen, dass sie wirkt“ ist der Bereich, in dem Compliance-Verantwortliche gefährdet sind. Ein Auditor, eine Aufsichtsbehörde oder ein Kläger fragt nicht, ob es eine Richtlinie gibt, sondern verlangt Nachweise, was an einem bestimmten Tag mit bestimmten Daten passiert ist. Der Kiteworks Data Security and Compliance Risk: 2026 Annual Survey Report zeigt, wie Unternehmen reagieren, wenn sie diese Lücke erkennen. Von 459 befragten Sicherheits- und Compliance-Experten fanden 65 Prozent im letzten Jahr Mitarbeitende, die nicht genehmigte KI-Tools mit Unternehmensdaten nutzten, und nur etwa 28 Prozent hatten KI-spezifische Data Loss Prevention im Einsatz. Die häufigste Reaktion war eine aktualisierte Richtlinie. Weniger als die Hälfte der Unternehmen mit Schatten-KI setzten technische Kontrollen ein. Alle Ergebnisse sind selbstberichtete Werte, und die Entdeckung hängt ebenso von der Detektionsfähigkeit wie von der Verbreitung ab.
Die Telemetriedaten zeigen in die gleiche Richtung
Wahrnehmung ist das eine – was sagen die Logs? Der Verizon 2026 Data Breach Investigations Report fand heraus, dass inzwischen 45 Prozent der Mitarbeitenden regelmäßig KI auf Unternehmensgeräten nutzen – im Vorjahr waren es 15 Prozent. Von diesen Nutzern greifen 67 Prozent über nicht-unternehmenseigene Konten auf KI-Dienste zu. Das sind Vorfalldaten, keine Umfrage, und sie beschreiben Konten, nicht Absichten. Dennoch zeigt es die praktische Bedeutung von Schatten-KI: Die Daten landen in einem Konto, das das Unternehmen weder kontrolliert noch protokolliert.
Auch Mitarbeitende berichten das selbst. Im National Cybersecurity Alliance und CybSafe Report gaben 32 Prozent der Beschäftigten, die KI am Arbeitsplatz nutzen, an, sensible Unternehmensinformationen ohne Wissen des Arbeitgebers mit KI-Tools geteilt zu haben. Die Basis sind 5.000 Erwachsene aus den USA, Großbritannien, Indien, Brasilien und Singapur, die Angaben sind selbstberichtete Werte. Betrachtet man O’Reillys Wahrnehmungsdaten, die NCA-Selbstauskünfte und die Verizon-Telemetrie zusammen, ergibt sich ein klares Bild: Menschen nutzen KI am Arbeitsplatz, oft außerhalb genehmigter Konten, und Unternehmen haben nur begrenzte Nachweise über die ein- und ausgehenden Daten.
Agents machen aus einem Mitarbeiterproblem ein Identitätsproblem
O’Reilly fragte auch nach KI-Agents. Die größten Sorgen: zu weitreichende Berechtigungen oder unklare Zuständigkeiten (28 Prozent), fehlendes Monitoring oder mangelnde Revisionssicherheit (19 Prozent) sowie die fehlende Möglichkeit zu prüfen, ob ein Agent in seiner Rolle geblieben ist (18 Prozent). Keine dieser Sorgen betrifft das Modell selbst, sondern Identität, Autorisierung und Nachweisbarkeit.
Die Governance-Praxis hat noch nicht aufgeholt. In der Schellman-Umfrage haben nur 22 Prozent Schwellenwerte definiert, die eine menschliche Überprüfung von Agent-Aktionen auslösen. 38 Prozent prüfen nur risikoreiche Aktionen, 32 Prozent überprüfen alle.
Die praktische Lehre: Agents sind kein eigenes Risikofeld, sondern eine weitere Identitätsklasse, die auf Daten zugreift und dieselbe Governance-Strenge benötigt wie die Menschen, die sie einsetzen. Ein Agent braucht einen namentlich benannten menschlichen Verantwortlichen, aufgabenspezifische Berechtigungen und einen Audit-Trail, der genauso belastbar ist wie der eines Mitarbeitenden. Die Frage ist für beide gleich: Wer hat worauf, unter welcher Richtlinie, mit welchem Ergebnis zugegriffen?
Was sich ändert, wenn KI-Zugriffe über eine Control Plane laufen
Wenn Mitarbeitende ohnehin KI nutzen, ist der beste Weg, ihnen einen genehmigten, einfacheren Pfad zu bieten, der Nachweise hinterlässt. Das ist die Idee hinter der Steuerung von KI-Zugriffen über eine Control Plane.
Kiteworks Compliant AI steuert den Zugriff von KI-Agents auf regulierte Daten auf der Datenebene – unabhängig vom Modell, Prompt oder Agent-Framework. Jede Anfrage durchläuft vier Prüfungen: Die Plattform authentifiziert die Identität per OAuth 2.0, setzt attribute-based access control um, schützt Daten mit FIPS 140-3-validierter Verschlüsselung und schreibt manipulationssichere Audit Logs, die an ein SIEM gestreamt werden. Der Kiteworks Secure MCP Server wendet dieselbe Logik auf Model Context Protocol-Verbindungen an. Er verbindet LLM-Clients wie Claude und Copilot mit in Kiteworks gespeicherten Daten, prüft jede Anfrage anhand rollen- und attributbasierter Richtlinien und gibt nur frei, was die Richtlinie erlaubt. Die Plattform autorisiert und protokolliert jede Operation in der Control Plane für sichere Datenbewegungen.
Das Argument für die Datenebene ist einfach: Ein Systemprompt oder ein Modell-Sicherheitsfilter kann von einem entschlossenen oder kreativen Nutzer umgangen werden – das ist die Position von Kiteworks und der Grund, warum die Richtlinie am Speicherort der Daten durchgesetzt wird. Eine Zugriffsentscheidung auf der Datenebene hängt nicht davon ab, was dem Modell vorgegeben wurde. Die Data Policy Engine bewertet Nutzer, Daten und Aktion bei jeder Anfrage, und dieselben zero trust data exchange-Prinzipien gelten, egal ob der Anfragende eine Person oder ein Agent ist. Wer den umfassenden Rahmen sucht, findet ihn im AI Data Governance Guide und im Leitfaden zu zero trust und generativer KI.
Der zweite Vorteil ist der Nachweis: Im Kiteworks 2026 Annual Survey Report können nur 27 Prozent der Unternehmen innerhalb eines Werktages einen vollständigen KI-Audit-Nachweis liefern, 17 Prozent schaffen es innerhalb einer Stunde. Das ist dieselbe Schwäche, die 19 Prozent der O’Reilly-Befragten beim Monitoring und der Revisionssicherheit sehen. Ein einheitliches Audit Log, das Menschen, Systeme und KI-Agents über E-Mail, Filesharing, APIs und KI-Integrationen hinweg abdeckt, macht aus „wir glauben“ ein „hier ist der Nachweis“.
Ein Punkt muss klar benannt werden: Die Steuerung von KI über eine Control Plane regelt den Zugriff auf sensible Daten, die darin gespeichert sind, und KI-Zugriffe, die diesen Weg nehmen. Sie verhindert nicht, dass ein Mitarbeiter Text in einen Consumer-Chatbot im Browser einfügt. Diese Gefährdung erfordert Data Loss Prevention, die auf KI-Tools abgestimmt ist, sowie Endpoint- und Browser-Kontrollen und Schulungen. Die stärksten Programme kombinieren einen genehmigten, überwachten Pfad mit Kontrollen für die nicht genehmigten Wege.
Ein praxisnaher 90-Tage-Plan für CISOs und Compliance-Verantwortliche
Sicherheits- und Compliance-Verantwortliche können die Umfrage in konkrete Maßnahmen umsetzen, ohne auf einen neuen Budgetzyklus zu warten. Starten Sie mit diesen sechs Schritten:
- Messen Sie, bevor Sie glauben. Ersetzen Sie Wahrnehmungswerte durch Telemetrie. Zählen Sie KI-Tool-Nutzung nach Kontotyp, Datenklasse und Abteilung.
- Jeder Richtliniensatz braucht eine Kontrolle und eine Nachweisquelle. Wenn eine Klausel „keine Kundendaten in nicht genehmigte Tools eingeben“ fordert, benennen Sie die Kontrolle, die das durchsetzt, und das Log, das es belegt. Gute Data Governance funktioniert so.
- Bauen Sie zuerst den genehmigten Pfad. Ermöglichen Sie Mitarbeitenden KI-Zugriff auf die Daten, die sie wirklich benötigen – mit Access Controls, die den Daten folgen.
- Registrieren Sie Agents wie Identitäten. Jeder Agent erhält einen namentlich benannten Verantwortlichen, aufgabenspezifische Berechtigungen und einen Widerrufspfad. Überprüfen Sie die Aktionen mit derselben Frequenz wie bei privilegierten Nutzern.
- Üben Sie die Audit-Anfrage. Wählen Sie einen Tag des letzten Monats und versuchen Sie, einen vollständigen Nachweis aller KI-Interaktionen mit sensiblen Daten zu liefern. Stoppen Sie die Zeit. Vergleichen Sie Ihr Ergebnis mit den oben genannten 27- und 17-Prozent-Benchmarks.
- Berichten Sie mit klaren Quellen. Teilen Sie dem Vorstand mit, aus welcher Umfrage, welcher Stichprobe und welcher Frage jede Zahl stammt. Geben Sie Führungskräften eine zentrale CISO Dashboard-Ansicht des KI-Zugriffs über alle Kanäle.
Der Mitarbeiterausweis wird nicht verschwinden – und das KI-Tool auf dem Bildschirm daneben auch nicht. Die Unternehmen, die das souverän steuern, sind diejenigen, die mit Nachweisen belegen können, welche KI auf welche Daten zugegriffen hat und unter wessen Autorität.
Erfahren Sie mehr darüber, wie Kiteworks KI-Zugriffe auf sensible Daten steuert – vereinbaren Sie eine Demo.
Häufig gestellte Fragen
Schatten-KI bezeichnet die Nutzung von KI-Tools außerhalb einer klaren organisatorischen Richtlinie oder Genehmigung. In der O’Reilly-Umfrage glauben 36 Prozent der Befragten, dass Teammitglieder dies gelegentlich tun, und 23 Prozent halten es für weit verbreitet. Da dies oft über persönliche Konten läuft, können sensible Datenübertragungen vor dem Sicherheitsteam verborgen bleiben. Mehr dazu im Leitfaden zum KI-Datenschutz.
Die Umfrage unter 209 Sicherheitsexperten ergab, dass das größte Risiko intern ist. 49 Prozent nannten Datenabfluss über kommerzielle KI-Tools, 49 Prozent das ungeprüfte Vertrauen in KI-Ausgaben. 55 Prozent hatten im letzten Jahr KI-generiertes Phishing erlebt, und nur 7 Prozent sahen keinen Kompetenzmangel.
Eine Richtlinie beschreibt die Absicht, eine Kontrolle liefert den Nachweis. O’Reilly fand verbreitete Schatten-KI bei 35 Prozent der Unternehmen mit einfacher Richtlinie und 17 Prozent mit umfassender Richtlinie. Im Kiteworks Data Security and Compliance Risk: 2026 Annual Survey Report fanden 65 Prozent der Unternehmen Mitarbeitende, die nicht genehmigte KI-Tools mit Unternehmensdaten nutzten, und weniger als die Hälfte setzte technische Kontrollen ein. Wie Incident Response-Planung dazu passt, erfahren Sie hier.
Behandeln Sie Agents als weitere Identitätsklasse mit derselben Sorgfalt wie Personen. Jeder Agent erhält einen namentlich benannten Verantwortlichen, aufgabenspezifische Berechtigungen, Richtlinienprüfungen bei jeder Anfrage und einen Audit-Trail. Der Data Policy Engine-Ansatz bewertet Identität, Daten und Aktion gemeinsam, sodass ein Agent nur erhält, was die Richtlinie erlaubt.
Kiteworks Compliant AI und der Kiteworks Secure MCP Server leiten KI-Zugriffe auf sensible Daten durch die Kiteworks Control Plane, wo bei jeder Anfrage Richtlinien durchgesetzt und ein einheitliches Audit Log erstellt wird. Sie steuern die in Kiteworks gespeicherten Daten und die KI-Zugriffe, die diesen Weg nehmen. Die Nutzung nicht genehmigter öffentlicher Tools außerhalb dieses Pfads erfordert weiterhin ergänzende Kontrollen wie KI-spezifische Data Loss Prevention.
Weitere Ressourcen
- Blog Post
Zero‑Trust-Strategien für erschwinglichen KI-Datenschutz - Blog Post
Wie 77 % der Unternehmen bei der KI-Datensicherheit scheitern - eBook
KI-Governance-Lücke: Warum 91 % der kleinen Unternehmen 2025 russisches Roulette mit Datensicherheit spielen - Blog Post
Für Ihre Daten gibt es kein „–dangerously-skip-permissions“ - Blog Post
Regulierungsbehörden fragen nicht mehr, ob Sie eine KI-Richtlinie haben. Sie wollen den Nachweis, dass sie funktioniert.