So führen Sie eine Datenschutz-Folgenabschätzung für KI-Systeme durch

Eine Datenschutz-Folgenabschätzung (DPIA) ist erforderlich, bevor ein KI-System eingesetzt wird, das ein hohes Risiko für die Rechte und Freiheiten von Personen darstellt. Die meisten KI-Einsätze in Unternehmen fallen darunter. Die Mehrheit der Unternehmen führt jedoch keine DPIA durch – und wenn doch, wird das Verfahren oft nur formal erfüllt, ohne verwertbare Ergebnisse zu liefern.

Standardisierte DPIA-Vorlagen wurden für klassische Datenverarbeitungssysteme entwickelt. KI-Systeme weisen jedoch ein qualitativ anderes Risikoprofil auf – autonome Entscheidungsfindung, Memorierung von Trainingsdaten, Modell-Drift und intransparente Ergebnisse – das von Standard-Frameworks nicht ausreichend abgedeckt wird. Eine DPIA für ein KI-System, die nur eine generische Checkliste abarbeitet, übersieht die entscheidenden Risiken.

Dieser Leitfaden erklärt, wann eine DPIA für KI erforderlich ist, wie DSGVO, HIPAA, der EU AI Act und das NIST AI RMF das KI-Risikomanagement jeweils angehen und wie Sie eine DPIA durchführen, die belastbare Ergebnisse und konkrete Maßnahmen zur Risikominderung liefert.

Executive Summary

Kernaussage: Eine DPIA für ein KI-System erfordert mehr als das Ausfüllen einer Standard-Checkliste – sie verlangt eine systematische Bewertung KI-spezifischer Risiken wie automatisierte Entscheidungsfindung, Offenlegung von Trainingsdaten, Modell-Intransparenz und die Angemessenheit technischer Kontrollen auf Datenebene vor dem Einsatz.

Warum das wichtig ist: Artikel 35 der DSGVO macht eine DPIA vor dem Einsatz risikoreicher KI-Verarbeitung verpflichtend. Der EU AI Act führt parallele Konformitätsprüfungen ein. HIPAA verlangt eine Sicherheitsrisikoanalyse für jedes System, das PHI verarbeitet. Der Einsatz von KI ohne diese Bewertungen verstößt gegen gesetzliche Vorgaben – und macht Ihr KI-Governance blind für die Risiken, die am ehesten Schaden anrichten.

Wichtige Erkenntnisse

1. Eine DPIA ist nach Artikel 35 DSGVO verpflichtend, bevor KI-Systeme eingesetzt werden, die systematisches Profiling, automatisierte Entscheidungsfindung oder großflächige Verarbeitung sensibler Daten umfassen – die meisten KI-Einsätze in Unternehmen erfüllen mindestens eines dieser Kriterien.
2. Standardisierte DPIA-Vorlagen unterschätzen KI-spezifische Risiken – Modell-Intransparenz, Memorierung von Trainingsdaten, automatisierte Entscheidungs-Bias und Löschpflichten erfordern spezielle Bewertungsschritte über herkömmliche Datenschutz-Checklisten hinaus.
3. DSGVO, HIPAA, der EU AI Act und das NIST AI RMF legen überlappende Anforderungen an die Risikobewertung fest – eine gut strukturierte KI-DPIA kann mehrere Frameworks gleichzeitig erfüllen.
4. Eine DPIA ist nur so wertvoll wie ihre Ergebnisse – das Resultat muss ein Maßnahmenplan mit konkreten technischen Kontrollen sein, nicht ein Risikoregister, das im Compliance-Ordner verschwindet.
5. Technische Kontrollen aus einer DPIA müssen auf der Datenebene durchgesetzt werden – Zugriffskontrollen, validierte Verschlüsselung, manipulationssichere Audit-Trails – um revisionssicher zu sein, nicht auf der Modellebene, wo sie umgangen werden können.

Wann eine DPIA für KI-Systeme erforderlich ist

Für die meisten KI-Einsätze in Unternehmen ist die Pflicht zur Durchführung einer DPIA nicht optional. Nach Artikel 35 DSGVO ist eine DPIA verpflichtend, wenn die Verarbeitung „voraussichtlich ein hohes Risiko“ für die Rechte und Freiheiten natürlicher Personen mit sich bringt. Die Verordnung nennt drei Kategorien, die die Pflicht automatisch auslösen – und alle drei sind bei KI in Unternehmen häufig gegeben:

• Systematisches und umfangreiches Profiling oder automatisierte Entscheidungsfindung, die rechtliche oder ähnlich erhebliche Auswirkungen auf Personen haben – Kredit-Scoring, HR-Screening, Versicherungsprämien, Betrugserkennung und klinische Triage-KI fallen darunter.
• Großflächige Verarbeitung besonderer Kategorien von Daten – Gesundheitsdaten, biometrische Daten, Finanzdaten, Strafregister oder Daten zur rassischen oder ethnischen Herkunft. Jedes KI-System, das PHI, CUI oder sensible personenbezogene Daten im Unternehmensmaßstab verarbeitet, ist betroffen.
• Systematische Überwachung öffentlich zugänglicher Bereiche – einschließlich KI-gestützter Überwachung und Verhaltensanalysesysteme.

EU-Aufsichtsbehörden haben Listen von Verarbeitungstypen veröffentlicht, für die in ihrem Zuständigkeitsbereich eine DPIA erforderlich ist – KI-gestützte Verarbeitung steht auf nahezu jeder dieser Listen. Falls Ihr Unternehmen unsicher ist, ob eine DPIA notwendig ist, lautet die Antwort fast immer ja.

Über die DSGVO hinaus gelten parallele Anforderungen in anderen Frameworks:

• HIPAA verlangt eine Sicherheitsrisikoanalyse, bevor ein System eingesetzt wird, das elektronische PHI erstellt, empfängt, speichert oder überträgt – einschließlich KI-Systemen, die Patientendaten verarbeiten. Die HIPAA-Risikoanalyse ist nicht identisch mit einer DSGVO-DPIA, aber eine gut strukturierte KI-DPIA kann beide Anforderungen erfüllen, wenn sie richtig abgegrenzt ist.
• EU AI Act verlangt Konformitätsprüfungen für Hochrisiko-KI-Systeme vor dem Inverkehrbringen – darunter KI in Gesundheitswesen, Bildung, Beschäftigung, kritischer Infrastruktur, Strafverfolgung und Finanzdienstleistungen. Hochrisiko-KI-Systeme müssen Anforderungen an Daten-Governance, Transparenz, menschliche Aufsicht und Genauigkeit erfüllen, die direkt mit DPIA-Ergebnissen korrespondieren.
• NIST AI RMF bietet einen freiwilligen Rahmen für das KI-Risikomanagement in den USA, strukturiert um vier Funktionen – Map, Measure, Manage und Govern – die eng mit dem DPIA-Prozess verknüpft sind und zunehmend in der öffentlichen Beschaffung und branchenspezifischen Leitlinien referenziert werden.

Warum Standard-DPIA-Vorlagen für KI nicht ausreichen

Die meisten DPIA-Vorlagen wurden für klassische Datenverarbeitung entwickelt – Datenbanken, Webanwendungen, CRM-Systeme – bei denen die Beziehung zwischen Eingabedaten, Verarbeitung und Ausgaben deterministisch und prüfbar ist. KI-Systeme durchbrechen mehrere dieser Annahmen, weshalb eine DPIA auf Basis einer generischen Checkliste oft die entscheidenden Risiken übersieht.

Modell-Intransparenz. Standard-DPIAs bewerten, welche Daten verarbeitet werden und wie. KI-Systeme verarbeiten Daten jedoch auf eine Weise, die selbst für Entwickler nicht vollständig nachvollziehbar ist. Eine DPIA für ein KI-System muss nicht nur bewerten, welche Daten in das Modell eingehen, sondern auch, was das Modell damit macht und ob Ausgaben personenbezogene Informationen offenlegen könnten, die nicht beabsichtigt waren.

Offenlegung von Trainingsdaten. KI-Modelle können Eingaben memorieren und auf gezielte Prompts hin wortwörtliche Passagen aus Trainingsdaten wiedergeben. Eine DPIA muss bewerten, ob Trainingsdaten personenbezogene Informationen enthalten, die nach dem Einsatz aus dem Modell extrahiert werden können, und welche technischen Kontrollen dies verhindern.

Risiko automatisierter Entscheidungen. Standard-DPIAs fragen, ob automatisierte Entscheidungen getroffen werden. KI-DPIAs müssen weiter gehen: Wie hoch ist die Fehlerquote des Modells und wie verteilt sie sich auf verschiedene demografische Gruppen? Gibt es Hinweise auf Diskriminierung? Ist der Mechanismus menschlicher Aufsicht wirklich wirksam oder nur eine Formalität? DSGVO Artikel 22 und der EU AI Act verlangen, dass diese Fragen vor dem Einsatz beantwortet werden.

Das Recht-auf-Löschung-Problem. Für KI-Systeme, die mit personenbezogenen Daten trainiert wurden, reicht es nicht, einen Datenbankeintrag zu löschen – es kann ein erneutes Training des Modells erforderlich sein. Eine DPIA muss bewerten, wie Löschanfragen bearbeitet werden, welche Ausnahmen gelten und welche Zusagen zum Retraining oder Machine Unlearning vorliegen.

Modell-Drift. Das Risikoprofil eines klassischen Systems ist nach dem Einsatz weitgehend statisch. Die Ausgaben eines KI-Modells können sich jedoch mit veränderten Datenverteilungen ändern und neue Risiken schaffen. Eine vollständige KI-DPIA muss daher einen Überwachungs- und Überprüfungsplan enthalten, der diesem dynamischen Profil Rechnung trägt.

Der KI-DPIA-Prozess: Schritt für Schritt

Eine DPIA für ein KI-System sollte einem strukturierten Prozess folgen, der sowohl Standard-Datenschutzanforderungen als auch KI-spezifische Risikodimensionen abdeckt. Das folgende Framework erfüllt die verpflichtenden Elemente von Artikel 35 DSGVO und integriert zusätzliche Bewertungsschritte, die KI-Systeme erfordern.

Schritt 1: Verarbeitung definieren und Notwendigkeit prüfen. Dokumentieren Sie Zweck, verarbeitete personenbezogene Daten, Rechtsgrundlage, betroffene Personengruppen und die geplanten Ausgaben des KI-Systems. Prüfen Sie, ob die Verarbeitung notwendig und verhältnismäßig ist – lässt sich das gleiche Ergebnis mit weniger Daten erzielen? Dies entspricht Artikel 35(7)(a) DSGVO und dem Grundsatz der Datenminimierung nach Artikel 5. Für den EU AI Act dokumentieren Sie, ob das System in eine Hochrisikokategorie fällt und welcher Konformitätsweg gilt.

Schritt 2: KI-spezifische Risiken identifizieren und klassifizieren. Über die Standard-Datenschutzrisiken hinaus dokumentieren Sie für das zu bewertende System Folgendes:

• Entscheidungsrisiko: Trifft das System Entscheidungen mit erheblichen Auswirkungen auf Personen? Wie hoch ist die Fehlerquote und deren Verteilung auf demografische Gruppen? Wie sieht der Mechanismus menschlicher Aufsicht aus?
• Trainingsdatenrisiko: Welche personenbezogenen Daten wurden für das Training verwendet? Können Trainingsdaten durch gezielte Prompts extrahiert werden?
• Ausgaberisiko: Kann das Modell Ausgaben erzeugen, die personenbezogene Informationen über Personen offenlegen, die nicht direkt mit dem System interagieren?
• Drift-Risiko: Wie wird das Verhalten des Modells im Zeitverlauf überwacht? Was löst eine Neubewertung aus?
• Drittparteienrisiko: Auf welche Daten hat ein KI-Anbieter Zugriff und entstehen dadurch eigene Compliance-Pflichten?

Schritt 3: Risiken gegenüber Rechten und Freiheiten bewerten. Bewerten Sie für jedes identifizierte Risiko die Eintrittswahrscheinlichkeit und Schwere des Schadens. Die DSGVO verlangt die Berücksichtigung von Wahrscheinlichkeit und Auswirkung. Die „Severity Ladder“ des EU AI Act gilt für Hochrisiko-KI: Risiken für Gesundheit, Sicherheit oder Grundrechte wiegen am schwersten. Für HIPAA entspricht dies der Bedrohungs- und Schwachstellenbewertung der Security Rule.

Schritt 4: Technische und organisatorische Maßnahmen identifizieren. Dokumentieren Sie für jedes Risiko die spezifischen Kontrollen, die es auf ein akzeptables Niveau senken. Unklare Kontrollen gelten nicht als Ergebnis. Konkrete Kontrollen schon: ABAC-Durchsetzung auf Operationsebene, FIPS 140-3 Level 1 validierte Verschlüsselung während der Übertragung und im ruhenden Zustand, manipulationssichere Audit-Trails mit Zuordnung zu menschlichen Authorisierern und ein dokumentierter Löschprozess.

Schritt 5: Restrisiko bestimmen und Ergebnis dokumentieren. Nach Anwendung der Kontrollen bewerten Sie das Restrisiko. Ist das Restrisiko hoch, verlangt Artikel 36 DSGVO vor dem Einsatz eine vorherige Konsultation der Aufsichtsbehörde. Dokumentieren Sie die Entscheidung mit Begründung und führen Sie sie in Ihren Artikel-30-Aufzeichnungen. Überprüfen Sie die DPIA bei jeder wesentlichen Systemänderung.

Schritt 6: Monitoring- und Überprüfungsrhythmus festlegen. Dokumentieren Sie, wie das Risikoprofil des Systems nach dem Einsatz überwacht wird, was eine DPIA-Überprüfung auslöst (Modell-Update, neue Datenquelle, Use-Case-Änderung, regulatorische Änderung oder Beschwerde eines Betroffenen) und wer verantwortlich ist. Für die NIST AI RMF-Alignment entspricht dies den Funktionen Manage und Govern – die Operationalisierung der Ergebnisse in eine laufende Überwachung.

Typische DPIA-Ergebnisse für KI-Systeme – und was sie erfordern

Über die Risikodimensionen, die KI-DPIAs regelmäßig aufdecken, treten vier Befunde besonders häufig auf – und jeder erfordert eine spezifische technische Kontrolle auf Datenebene, um revisionssicher zu sein.

Ergebnis: Unzureichende Zugriffskontrolle für KI-Agenten-Dateninteraktionen. KI-Systeme, die ohne operationale Zugriffsbeschränkung auf personenbezogene Daten zugreifen, verursachen einen strukturellen Verstoß gegen das Prinzip der Datenminimierung. Die erforderliche Kontrolle ist die Durchsetzung von ABAC auf Operationsebene: Der KI-Agent ist für bestimmte Operationen auf bestimmten Datenklassen in bestimmten Kontexten autorisiert, und jeder Zugriff darüber hinaus wird vorab blockiert. Dies erfüllt Artikel 5 und 25 DSGVO, die HIPAA Minimum Necessary Rule und die Daten-Governance-Anforderungen des EU AI Act gleichzeitig.

Ergebnis: Fehlender Audit-Trail für KI-Dateninteraktionen. Die meisten KI-Einsätze können nicht nachweisen, auf welche personenbezogenen Daten das System wann, mit welcher Autorisierung und zu welchem Zweck zugegriffen hat – was die Einhaltung von Artikel 30 DSGVO, den Audit-Anforderungen der HIPAA Security Rule und den Logging-Pflichten des EU AI Act verhindert. Die erforderliche Kontrolle ist ein manipulationssicherer Audit-Trail auf Operationsebene – Interaktionsprotokolle, die jeden Datenzugriff einem authentifizierten Agenten und einem menschlichen Authorisierer zuordnen und in Ihr SIEM einspeisen.

Ergebnis: Verschlüsselung entspricht nicht dem regulatorischen Standard. TLS auf Netzwerkebene allein genügt nicht für Artikel 32 DSGVO, die HIPAA Security Rule oder bundesweite Datenschutzanforderungen für KI-Systeme, die sensible personenbezogene Daten verarbeiten. FIPS 140-3 Level 1 validierte Verschlüsselung während der Übertragung und im ruhenden Zustand ist der Standard, der Regulierungsbehörden in Hochrisikokontexten überzeugt – angewendet auf Daten, auf die KI-Agenten zugreifen, nicht nur auf ruhende Daten im Speicher.

Ergebnis: Kein dokumentierter Löschprozess. Wenn eine DPIA ergibt, dass das KI-System personenbezogene Daten verarbeitet hat, für die Löschanfragen eingehen können, ist das Fehlen eines Löschprozesses ein wesentlicher Befund. Die erforderliche Kontrolle ist eine vor dem Einsatz dokumentierte Position: Welche Ausnahme vom Recht auf Löschung gilt, wie der Zeitrahmen für das Retraining aussieht oder welche Machine-Unlearning-Funktion verfügbar ist. Dieser Befund kann auch auslösen, dass eine DPO-Konsultation nach Artikel 36 DSGVO vor dem Einsatz erforderlich ist.

DPIA-Ergebnisse in revisionssichere KI-Governance überführen

Eine DPIA, die Risiken identifiziert, aber keine durchsetzbaren technischen Kontrollen hervorbringt, ist ein Compliance-Artefakt, kein Compliance-Programm. Die Befunde, die KI-DPIAs am häufigsten liefern – unzureichende Zugriffsbeschränkungen, fehlende Audit-Trails, unzureichende Verschlüsselung und ungelöste Löschpflichten – weisen alle auf die gleiche strukturelle Lücke hin: KI-Systeme werden ohne Daten-Governance eingesetzt, die die DPIA-Empfehlungen tatsächlich durchsetzt.

Kiteworks compliant AI integriert diese Kontrollen im Private Data Network, bevor ein KI-Agent mit personenbezogenen Daten interagiert. Erkennt eine DPIA unzureichende Zugriffsbeschränkungen, erzwingt Kiteworks ABAC-Policies auf Operationsebene. Wird ein fehlender Audit-Trail festgestellt, erfasst Kiteworks einen manipulationssicheren Audit-Trail pro Interaktion, zugeordnet zu einem menschlichen Authorisierer, strukturiert für die Anforderungen aus Artikel 30 DSGVO, der HIPAA Security Rule und den Logging-Pflichten des EU AI Act. Werden Verschlüsselungslücken identifiziert, setzt Kiteworks FIPS 140-3 Level 1 validierte Verschlüsselung während der Übertragung und im ruhenden Zustand ein, mit kundengesteuerten Schlüsseln für Datenhoheit.

Das Ergebnis: DPIA-Befunde, die sonst monatelange Nachbesserungen erfordern, lassen sich direkt mit bestehenden Kiteworks-Funktionen abdecken. KI-Daten-Governance wird nicht zum nachgelagerten DPIA-Projekt, sondern zur Architektur, mit der jede künftige DPIA von Anfang an beherrschbar bleibt.

Kiteworks Compliant AI: Entwickelt, um DPIA-Anforderungen zu erfüllen

Die technischen Kontrollen, die eine DPIA für KI-Systeme regelmäßig empfiehlt – Zugriffsbeschränkungen auf Operationsebene, manipulationssichere Audit-Trails, validierte Verschlüsselung, authentifizierte Agentenidentität – sind nicht schwer zu spezifizieren. Sie sind jedoch schwer so zu implementieren, dass sie kontinuierlich, durchsetzbar und revisionssicher für jede KI-Agenten-Interaktion mit personenbezogenen Daten gelten.

Kiteworks compliant AI setzt alle vier Kontrollen im Private Data Network um, bevor Daten bewegt werden:

• ABAC-Policy auf Operationsebene gemäß Artikel 5 und 25 DSGVO sowie der HIPAA Minimum Necessary Rule;
• FIPS 140-3 Level 1 validierte Verschlüsselung während der Übertragung und im ruhenden Zustand für die Anforderungen aus Artikel 32 und der HIPAA Security Rule;
• Ein manipulationssicherer Audit-Trail pro Interaktion, der Ihr SIEM für Artikel 30 und die Logging-Compliance des EU AI Act speist;
• Authentifizierte Agentenidentität, verknüpft mit einem menschlichen Authorisierer für vollständige Delegationsketten-Nachvollziehbarkeit.

Wenn Ihr DPO oder Auditor fragt, wie Ihr Unternehmen die von Ihrer DPIA identifizierten Kontrollen umsetzt, ist die Antwort: Architektur – kein Projektplan.

Kontaktieren Sie uns, um zu erfahren, wie Kiteworks Ihre DPIA-Ergebnisse abdeckt.

Weitere Ressourcen

• Blog Post
  Zero‑Trust-Strategien für erschwinglichen KI-Datenschutz
• Blog Post
  Wie 77 % der Unternehmen beim KI-Datenschutz versagen
• eBook
  AI Governance Gap: Warum 91 % kleiner Unternehmen 2025 russisches Roulette mit Datensicherheit spielen
• Blog Post
  Für Ihre Daten gibt es kein „–dangerously-skip-permissions“
• Blog Post
  Regulierungsbehörden wollen keinen KI-Policy-Nachweis mehr. Sie verlangen Belege für die Wirksamkeit.