Maßgeschneiderte KI-Anwendungen gehen in Produktion, bevor die Sicherheit Schritt hält

Gartners Prognose vom März 2026 beziffert, was Sicherheitsverantwortliche seit Monaten spüren: Bis 2028 wird die Hälfte aller unternehmensweiten Cybersecurity-Incident-Response-Arbeiten auf maßgeschneiderte KI-Anwendungen entfallen. Die Prognose, veröffentlicht von SecurityBrief, spiegelt einen Markt wider, in dem KI-gesteuerte Software schneller in Geschäftsprozesse und kundenorientierte Services eingeführt wird, als Sicherheitsteams sie bewerten, testen oder entsprechende Reaktionsverfahren entwickeln können.

Wichtige Erkenntnisse

1. Gartner prognostiziert, dass bis 2028 die Hälfte aller unternehmensweiten Cybersecurity-Incident-Response-Maßnahmen maßgeschneiderte KI-Anwendungen betreffen wird. Den meisten Sicherheitsteams fehlen Playbooks, Erkennungstools und Eindämmungsverfahren für KI-spezifische Vorfälle.
2. Manuelle KI-Compliance-Prozesse werden bis Ende 2027 75% der regulierten Unternehmen Bußgeldern von über 5% des weltweiten Umsatzes aussetzen. Unternehmen, die weiterhin auf Tabellenkalkulationen und Ad-hoc-Nachweiserhebung setzen, schaffen eine regulatorische Haftung, die mit jeder neuen KI-Einführung wächst.
3. Ein Drittel aller IT-Arbeiten bis 2030 wird für die Behebung von „KI-Datenschulden“ aufgewendet – also für die Behebung von Schwachstellen in den Datensätzen, auf die KI-Systeme angewiesen sind. Unstrukturierte, schlecht klassifizierte und inkonsistent gesicherte Daten, verteilt über Fileshares, SaaS-Plattformen und Altsysteme, bilden das Fundament, auf dem Unternehmen ihre KI-Strategien aufbauen.
4. Sicherheitsteams entwickeln KI-Systeme, die sie im Fehlerfall nicht untersuchen können. Ein KI-Vorfall kann wie ein Sicherheitsereignis, ein Softwarefehler, ein Datenqualitätsproblem – oder alles gleichzeitig – aussehen. 60% der Unternehmen fehlt es an Tools zur Anomalieerkennung, um den Unterschied zu erkennen.
5. Die Lücke zwischen Governance und Eindämmung bedeutet, dass die meisten Unternehmen zwar sehen können, wenn ein KI-Agent sich fehlverhält, ihn aber nicht stoppen können. 63% können keine Zweckbindung durchsetzen, 60% können einen fehlverhaltenden Agenten nicht beenden und 55% können KI nicht von sensiblen Systemen isolieren.

Christopher Mixter, VP Analyst bei Gartner, beschreibt das Problem architektonisch: Diese Systeme sind komplex, dynamisch und im Zeitverlauf schwer abzusichern. Maßgeschneiderte KI-Anwendungen verändern sich nach der Einführung – Modelle werden neu trainiert, Datenpipelines verschieben sich, Integrationen entwickeln sich weiter. Die Sicherheitsannahmen, die beim Start galten, sind nach drei Monaten oft nicht mehr zutreffend.

Der Kiteworks Data Security and Compliance Risk Forecast Report 2026 bestätigt dieses Muster im großen Maßstab. 100% der befragten Unternehmen haben agentische KI auf ihrer Roadmap. Dennoch fehlt 60% die KI-gestützte Anomalieerkennung, 51% arbeiten mit manuellen Incident-Response-Playbooks und 52% haben ihre Recovery-Zeiten oder Recovery-Point-Objectives nicht getestet. Die grundlegenden Fähigkeiten – unveränderliche Backups (68%), Audit-Trails (67%) – sind vorhanden. Die für maßgeschneiderte KI-Deployments erforderlichen KI-spezifischen Erkennungs- und Reaktionsfähigkeiten fehlen jedoch.

KI-Vorfälle sehen nicht aus wie klassische Sicherheitsereignisse

Incident-Response-Teams sind auf eine vertraute Abfolge trainiert: Erkennung, Eindämmung, Beseitigung, Wiederherstellung. KI-Systeme durchbrechen dieses Modell. Ein Fehler in einer maßgeschneiderten KI-Anwendung kann sich als Sicherheitsereignis zeigen – etwa durch unbefugten Datenzugriff, ausgelöst durch ein Modell, das außerhalb seines vorgesehenen Rahmens agiert. Oder es sieht wie ein Softwarefehler aus – etwa ein Integrationsproblem zwischen Modell und nachgelagertem Service. Oder es handelt sich um ein Datenqualitätsproblem – etwa eine Trainingspipeline, die ungeeignete Daten verarbeitet hat. Häufig ist es eine Kombination aus allem.

Diese Mehrdeutigkeit macht die Reaktion auf KI-Vorfälle grundsätzlich schwieriger. Traditionelle Vorfälle haben einen klaren Wirkungsbereich. KI-Vorfälle einen diffusen. Eine Agents of Chaos-Studie, veröffentlicht im Februar 2026 von 20 Forschern aus MIT, Harvard, Stanford und CMU, dokumentiert dieses Muster in Live-Deployments: KI-Agenten gaben vertrauliche Informationen preis, erfüllten unbefugte Anfragen und führten Aktionen außerhalb ihres vorgesehenen Zwecks aus – alles, ohne herkömmliche Sicherheitsalarme auszulösen. Die Fehler waren keine klassischen Exploits, sondern emergentes Verhalten, das bestehende Erkennungstools nicht erfassen konnten.

Der Kiteworks Forecast zeigt: Behörden stehen am schlechtesten da – 76% fehlt die KI-Anomalieerkennung und 76% arbeiten mit manuellen IR-Playbooks. Im Gesundheitswesen fehlen 64% die KI-Anomalieerkennung und 77% testen keine Recovery-Fähigkeiten. Gerade diese Sektoren verarbeiten die sensibelsten regulierten Daten und sind am wenigsten auf die von Gartner prognostizierte Vorfallart vorbereitet.

Manuelle KI-Compliance ist eine Haftung mit Ablaufdatum

Gartners zweite Prognose ist ebenso eindeutig: Bis Ende 2027 werden manuelle KI-Compliance-Prozesse 75% der regulierten Unternehmen Bußgeldern von mehr als 5% des weltweiten Umsatzes aussetzen. Die Prognose richtet sich an Unternehmen, die KI-Risiken weiterhin mit Tabellenkalkulationen, Ad-hoc-Nachweiserhebung und manuellen Freigabeprozessen verwalten – Verfahren, die akzeptabel waren, als Compliance periodisch und KI experimentell war.

Diese Bedingungen gelten nicht mehr. Der EU AI Act wird bis 2026 schrittweise eingeführt, mit vollständig durchsetzbaren Pflichten für Hochrisikosysteme ab August 2026. Das Colorado AI Act tritt 2026 in Kraft. Kaliforniens CPPA-Regelungen für automatisierte Entscheidungsfindung gelten ab Januar 2027. Jedes neue Regelwerk erweitert den Umfang der zu dokumentierenden, zu überwachenden und zu berichtenden Anforderungen – und jedes verlangt kontinuierliche Nachweise, keine quartalsweisen Momentaufnahmen.

Der Kiteworks Forecast quantifiziert die operative Lücke: 25% aller Unternehmen setzen weiterhin auf manuelle oder periodische Compliance als primären Ansatz. Im öffentlichen Sektor verlassen sich 38% auf manuelle Compliance-Prozesse. Im Gesundheitswesen sind es 32%. Diese Unternehmen werden laut Gartner-Prognose am ehesten betroffen sein – nicht, weil sie Compliance ignorieren, sondern weil ihre Compliance-Infrastruktur mit der Geschwindigkeit ihrer KI-Einführungen nicht Schritt halten kann.

KI-Datenschulden: Das versteckte Infrastrukturproblem

Bis 2030 prognostiziert Gartner, dass 33% der IT-Arbeit für die Behebung sogenannter „KI-Datenschulden“ aufgewendet werden – Schwächen in den zugrundeliegenden Datensätzen, auf die Unternehmen für KI-Systeme angewiesen sind. Der Begriff umfasst unstrukturierte, schlecht klassifizierte und inkonsistent gesicherte Daten, verteilt über Fileshares, SaaS-Plattformen und Altsysteme.

Das ist das grundlegende Problem. KI-Anwendungen sind nur so gut geregelt wie die Daten, auf die sie zugreifen. Wenn die Datenklassifizierung unvollständig ist, Zugriffskontrollen inkonsistent sind und Aufbewahrungsrichtlinien nicht durchgesetzt werden, übernimmt jedes darauf aufbauende KI-System dieselben Schwachstellen.

Der Kiteworks Forecast dokumentiert dies auf Kontrollebene: 61% der Unternehmen können keine konsistente Datenkennzeichnung durchsetzen. 78% können Daten nicht validieren, bevor sie in KI-Trainingspipelines gelangen. 53% können Trainingsdaten nach einem Vorfall nicht wiederherstellen. Der 2026 Thales Data Threat Report liefert eine weitere Dimension: Nur 33% der Unternehmen wissen genau, wo ihre Daten gespeichert sind. Wenn zwei Drittel der Unternehmen nicht wissen, wo ihre Daten liegen, sind KI-Datenschulden kein zukünftiges, sondern ein aktuelles Risiko.

Data Loss Prevention (DLP)-Programme werden erweitert, um KI-gesteuerte Datenflüsse abzudecken, stoßen dabei aber an architektonische Grenzen. Die Überwachung von Anfragen durch generative KI-Tools und agentische KI-Systeme, die Informationen aus mehreren Quellen abrufen, erfordert eine Governance-Schicht auf Datenebene – nicht auf Modell- oder Applikationsebene. Traditionelle DLP-Lösungen wurden für Menschen entwickelt, die Dateien versenden, nicht für KI-Agenten, die API-Aufrufe über verschiedene Datensysteme tätigen. Der Black Kite 2026 Third-Party Breach Report dokumentierte allein 2025 insgesamt 136 verifizierte Drittparteien-Breach-Events – und da KI-Systeme die Zahl automatisierter Verbindungen zu internen und Partner-Datenspeichern erhöhen, wächst die Angriffsfläche exponentiell.

Souveränität, Identität und die wachsende KI-Angriffsfläche

Gartners weitere Prognosen zeichnen ein Bild sich verstärkender Herausforderungen. Bis 2027 werden 30% der Unternehmen umfassende Souveränität über ihre Cloud-Sicherheitskontrollen verlangen – getrieben durch geopolitische Unsicherheiten und regulatorische Anforderungen an Speicherort, Zugriffsrechte und Sicherheitsadministration über Ländergrenzen hinweg. Bis 2028 werden 70% der CISOs Sichtbarkeit und Intelligenz im Bereich Identitätsmanagement einführen, um die Angriffsfläche für Identitäts- und Zugriffsmanagement zu verringern.

Beide Prognosen stehen in direktem Zusammenhang mit KI-Sicherheit. Der Kiteworks Data Sovereignty Report 2026 ergab, dass jedes dritte Unternehmen im vergangenen Jahr einen Vorfall zur Datensouveränität meldete. 29% der Unternehmen im Kiteworks Forecast sehen grenzüberschreitende KI-Datenexponierung als Risiko – aber nur 36% wissen, wo KI-Systeme tatsächlich Daten verarbeiten. Speicher-Souveränität reicht nicht aus, wenn KI-Verarbeitung in einer anderen Jurisdiktion erfolgt.

Auch Identität ist exponiert. KI-Agenten schaffen eine neue Klasse von Maschinenidentitäten, die bestehende IAM-Tools nicht verwalten können. Der CrowdStrike 2026 Global Threat Report dokumentiert, dass 82% der Erkennungen inzwischen ohne Malware erfolgen – Angreifer nutzen gültige Zugangsdaten und native Tools. Wenn KI-Agenten ebenfalls mit gültigen Zugangsdaten und nativen Tools agieren, wird die Unterscheidung zwischen legitimer Automatisierung und anmeldebasiertem Angriff ohne speziell entwickelte KI-Identity-Governance extrem schwierig.

Gartner prognostiziert zudem, dass bis 2028 mehr als 50% der Unternehmen KI-Sicherheitsplattformen einführen werden, um sowohl Drittanbieter-KI-Services als auch maßgeschneiderte Anwendungen zu verwalten. Die Nachfrage wird durch Prompt-Injection-Angriffe, Datenmissbrauch und inkonsistente Kontrollen getrieben, wenn verschiedene Unternehmensbereiche unterschiedliche KI-Services ohne zentrale Aufsicht einsetzen. Sicherheitsverantwortliche sollten prüfen, ob ihre Tools sowohl interne als auch externe KI-Nutzung abdecken – einschließlich Transparenz über KI-Aktivitäten und Richtliniendurchsetzung für alle Deployment-Modelle. Der DTEX 2026 Insider Threat Report unterstreicht die Dringlichkeit: Schatten-KI ist inzwischen der Haupttreiber für nachlässige Insider-Vorfälle, aber nur 13% der Unternehmen haben KI in ihre Sicherheitsstrategie integriert.

Wie Kiteworks Sicherheits- und Compliance-Lücken bei maßgeschneiderter KI schließt

Die Gartner-Prognosen beschreiben einen Markt, in dem KI-Systeme schneller eingeführt werden, als sie gesichert, untersucht oder manuell gesteuert werden können. Kiteworks begegnet diesen Lücken architektonisch – nicht durch eine weitere Monitoring-Schicht, sondern durch Governance auf Datenebene, unabhängig davon, welches KI-Modell, Framework oder welcher Agent eingesetzt wird.

Für KI-Incident-Response erfasst Kiteworks einen manipulationssicheren Audit-Trail jeder Interaktion von KI-Agenten mit sensiblen Daten – wer den Agenten autorisiert hat, auf welche Daten zugegriffen wurde, unter welcher Richtlinie und wann. Im Vorfallfall müssen Ermittler nicht aus fragmentierten Logs in fünf Systemen rekonstruieren, was passiert ist. Die Beweise sind bereits gesammelt, strukturiert und exportierbar.

Für die Automatisierung der KI-Compliance ersetzt Kiteworks manuelle Prüfprozesse durch kontinuierliche Governance. Jeder KI-Agenten-Workflow übernimmt automatisch Compliance-Kontrollen – Attribut-basierte Zugriffskontrolle (ABAC), FIPS 140-3-validierte Verschlüsselung und Zweckbindung, die die Befugnisse der Agenten begrenzt. Vorgefertigte Compliance-Dashboards sind direkt auf HIPAA, CMMC, DSGVO, PCI DSS und SOX ausgerichtet und verwandeln den periodischen Audit-Stress in kontinuierliche Nachweiserzeugung.

Für KI-Datenschulden fungiert Kiteworks als Steuerungsebene für sicheren Datenaustausch – eine Policy-Engine, ein Audit-Log, eine Sicherheitsarchitektur für E-Mail, Filesharing, SFTP, Managed File Transfer, APIs, Datenformulare und KI-Integrationen über den Secure MCP Server. Datenklassifizierung und Zugriffskontrollen werden über alle Kanäle hinweg konsistent durchgesetzt und schließen die Lücke zwischen „Wir wissen, wo unsere Daten sind“ und „Wir steuern, wie KI darauf zugreift“.

Was Sicherheitsverantwortliche vor 2028 priorisieren sollten

Erstens: Entwickeln Sie jetzt KI-spezifische Incident-Response-Playbooks. Der Kiteworks Forecast zeigt, dass 51% der Unternehmen weiterhin manuelle IR-Playbooks nutzen und 89% Incident-Response nie mit Drittparteien geübt haben. Ein KI-Vorfall, der Modellverhalten, Datenverarbeitung und Serviceintegration umfasst, lässt sich nicht mit klassischen Breach-Playbooks untersuchen.

Zweitens: Automatisieren Sie die Erhebung von KI-Compliance-Nachweisen. Gartners Prognose, dass manuelle Compliance 75% der regulierten Unternehmen hohen Bußgeldern aussetzt, ist eine Frist, keine Vorhersage. Setzen Sie Plattformen ein, die kontinuierliche, manipulationssichere Compliance-Nachweise liefern – keine quartalsweisen Audit-Ordner.

Drittens: Erfassen und klassifizieren Sie die Daten, auf die Ihre KI-Systeme zugreifen. Der Kiteworks Forecast zeigt, dass 61% der Unternehmen keine konsistente Datenkennzeichnung durchsetzen können. Sie können den KI-Datenzugriff nicht steuern, wenn Sie nicht wissen, welche Daten vorhanden sind und wo sie gespeichert werden.

Viertens: Implementieren Sie Governance auf Datenebene für alle KI-Integrationen. Guardrails auf Modellebene und Systemprompts sind keine Compliance-Kontrollen. Der Kiteworks Forecast dokumentiert, dass 63% der Unternehmen keine Zweckbindung für KI-Agenten durchsetzen können. Governance auf Datenebene – Identitätsprüfung, ABAC-Richtliniendurchsetzung und Audit-Logging in Beweisqualität – ist der einzige Ansatz, der über Modelle, Frameworks und Deployment-Modelle hinweg skaliert.

Fünftens: Erweitern Sie Souveränitätskontrollen auf die KI-Verarbeitung, nicht nur auf die KI-Speicherung. Gartner prognostiziert, dass 30% der Unternehmen bis 2027 umfassende Cloud-Security-Souveränität verlangen werden. Der Kiteworks Data Sovereignty Report zeigt, dass die meisten Unternehmen Souveränitätskontrollen nicht über die Speicherung hinaus ausgedehnt haben – KI-Verarbeitung bleibt damit eine unüberwachte grenzüberschreitende Schwachstelle.

Gartners Prognosen beschreiben ein Zeitfenster von zwei Jahren. Unternehmen, die es nutzen, um KI-bewusste Incident-Response, automatisierte Compliance-Infrastruktur und Governance auf Datenebene aufzubauen, sind vorbereitet auf eine Welt, in der die Hälfte aller Cybervorfälle maßgeschneiderte KI betrifft. Die anderen werden ihre Lücken erst im Vorfall entdecken – was der teuerste Weg ist, zu lernen.