KI-Agents im öffentlichen Sektor und die Governance-Lücke
Ein neuer Beamter erhält am ersten Tag keinen Zugriff auf alle Bürgerdaten. Der Zugriff wird auf seine Rolle beschränkt, ein Vorgesetzter überwacht ihn und es gibt eine Protokollierung aller Aktionen. Die meisten Behörden, die KI-Agents in ihren Datenverwaltungssystemen einsetzen, verzichten auf alle drei Maßnahmen. Der Agent wird angebunden, erhält weitreichende Zugriffsrechte für schnelle Abläufe und arbeitet mit deutlich weniger Kontrolle, als es selbst der unerfahrenste, am wenigsten vertrauenswürdige neue Beamte je tun dürfte.
Diese Lücke ist kein kleiner Fehler. Ein KI-Agent, der Bürgerdaten lesen, Kommunikationen versenden oder Daten im Namen einer Behörde bewegen kann, ist faktisch ein Akteur mit Zugang zu sensiblen Systemen – genau wie ein Beamter. Dieser Artikel beleuchtet, warum KI-Agents im öffentlichen Sektor routinemäßig weniger Governance erhalten als Menschen und was es konkret bedeutet, denselben Standard auch für sie anzuwenden.
Executive Summary
Behörden, die einem neuen Beamten niemals uneingeschränkten Zugriff auf alle Bürgerdaten gewähren würden, tun dies regelmäßig bei KI-Agents, weil deren Einführung als technisches Integrationsprojekt und nicht als Governance-Thema betrachtet wird. Das Ergebnis: Systeme, die Bürgerdaten lesen, bewegen und versenden können, unterliegen weniger Kontrollen als die Menschen, die sie entwickelt haben. Für IT- und Compliance-Verantwortliche stellt sich die praktische Frage: Wäre dieses Zugriffslevel akzeptabel, wenn es sich um eine Person handeln würde? Und wenn nicht, warum ist es dann für einen Agent akzeptabel?
wichtige Erkenntnisse
- KI-Agents im öffentlichen Sektor erhalten oft weitreichendere Zugriffsrechte auf Bürgerdaten als neue Mitarbeitende. Die Geschwindigkeit der Einführung überholt die grundlegenden Governance-Maßnahmen, die Behörden für Menschen längst etabliert haben.
- Ein Agent sollte die Berechtigungen der Person übernehmen, die ihn autorisiert, und nicht über ein separates, dauerhaftes Konto verfügen. Ein breit angelegtes Servicekonto für einen KI-Agent stellt genau die überprivilegierten Zugriffe wieder her, die Behörden für Menschen über Jahre abgeschafft haben.
- Sensible Aktionen, wie das externe Teilen von Bürgerdaten, erfordern eine Genehmigung – unabhängig davon, wer oder was sie auslöst.
- Jede KI-Aktion muss einer bestimmten Person zugeordnet und so sorgfältig wie menschliche Aktivitäten protokolliert werden. Ein Audit-Trail, der „die KI war es“ als ausreichende Zuordnung betrachtet, ist kein Audit-Trail.
- Governance, die von Anfang an für KI-Agents mitgedacht wird, benötigt keine neue Infrastruktur. Das bestehende Modell für Zugriffskontrolle, Genehmigungen und Protokollierung für Mitarbeitende lässt sich direkt auf Agents übertragen.
Warum KI-Agents mit weniger Kontrolle als Menschen eingebunden werden
Die Lücke entsteht selten absichtlich. Sie ist eine Folge davon, wie schnell sich die Fähigkeiten von Agents von experimentell zu operativ entwickelt haben – und wie unterschiedlich technische und Compliance-Teams das Problem betrachten.
Die Geschwindigkeit der Einführung überholt Governance durch Technikgestaltung
Die Anbindung eines KI-Agents an ein Datenverwaltungssystem ist oft eine Konfigurationsaufgabe von wenigen Minuten: API-Schlüssel vergeben, Berechtigungsumfang festlegen, fertig. Die entsprechende Governance für neue Mitarbeitende – definierte Rollen, dokumentierte Zugriffsprüfung – wurde für Menschen und deren Eintritt in Behörden mit menschlichem Tempo entwickelt.
„Es ist nur ein Tool“ unterschätzt die Fähigkeiten eines Agents
Da ein KI-Agent als Tool und nicht als Anwender beschrieben wird, betrachten Behörden ihn eher wie Software als wie eine Person mit Zugang zu Bürgerdaten. Ein Tool, das eigenständig Bürgerdaten lesen, weiterleiten oder auf Anweisungen im verarbeiteten Inhalt reagieren kann, trifft Entscheidungen, wie es eine Tabellenkalkulation nicht tut.
Was „gleiche Governance wie für Menschen“ tatsächlich bedeutet
Die Übertragung menschlicher Governance-Standards auf KI-Agents ist keine neue Disziplin. Es sind dieselben drei Komponenten, die Behörden bereits für Menschen anwenden – nur eben konsequent auch für Agents.
Identitätsübernahme statt dauerhafter Privilegien
Die wichtigste Designentscheidung ist, ob ein Agent mit eigenen, breit angelegten, dauerhaften Zugangsdaten arbeitet oder die spezifischen Berechtigungen der autorisierenden Person übernimmt. Ein dauerhaftes Servicekonto mit weitreichendem Zugriff auf Bürgerdaten stellt exakt die überprivilegierten Konten wieder her, die Sicherheitsteams bei Menschen über Jahre abgeschafft haben. Ein Agent, der nur das tun kann, was der authentifizierende Anwender ohnehin dürfte, bleibt genauso begrenzt wie ein menschlicher Kollege, der im Auftrag handelt.
Genehmigungsschritte vor folgenreichen Aktionen
Ein Beamter, der Bürgerdaten extern teilt, muss in der Regel eine Bestätigung abgeben. Ein KI-Agent, der dieselbe Aktion ausführt, sollte denselben Genehmigungsschritt durchlaufen.
Zuordnung und Audit – nicht nur Aktivitätsprotokolle
Menschliche Audit-Trails ordnen jede Aktion einer bestimmten verantwortlichen Person zu. Für KI-Agents gilt derselbe Standard: Nicht „ein automatisierter Prozess hat das gemacht“, sondern: Wer hat den Agent autorisiert und was wurde tatsächlich ausgeführt?
Wo die Lücke in der Praxis bei Behörden sichtbar wird
Das häufigste Muster ist ein einziges, breit angelegtes Zugangskonto, das einmal vergeben und dann unbegrenzt genutzt wird – zusammen mit Agents, die Bürgerdaten ohne Bestätigungsschritt teilen, weil die technische Umsetzung einer Pause mehr Aufwand bedeutet, als den Agent einfach machen zu lassen. Selbst wenn Aktivitäten protokolliert werden, kann das Protokoll oft nicht beantworten, welche konkrete Person für eine Aktion verantwortlich ist.
Agent-Governance auf Basis des bestehenden Zugriffsmodells aufbauen
Der praktische Weg ist kein neues Governance-Framework speziell für KI. Es geht darum, das bestehende Modell für Identität, Genehmigung und Audit, das für Mitarbeitende gilt, konsequent auch auf Agents anzuwenden.
Wie eine Data Control Plane menschliche Governance auf KI-Agents überträgt
Die Kiteworks Data Control Plane verbindet KI-Agents über eine sichere Schnittstelle mit OAuth 2.0-Authentifizierung. Jede Agent-Operation übernimmt die bestehenden Berechtigungen des authentifizierten Anwenders, statt ein separates, dauerhaftes Konto zu nutzen. Dynamische attributbasierte Richtlinien bewerten Agent-Anfragen genauso wie menschliche Anfragen. Sensible Aktionen – etwa Mitgliederänderungen oder das Versenden nach außen – erfordern eine explizite Bestätigung, bevor sie ausgeführt werden. Administratoren können destruktive Tools global deaktivieren. Jede Agent-Operation wird in einem fälschungssicheren, ungedrosselten Audit-Log erfasst, der der autorisierenden Person zugeordnet wird und direkt in SIEM-Tools fließt. So ist die Aktivität eines Agents genauso nachvollziehbar wie die eines Beamten.
Behörden, die prüfen möchten, ob ihre aktuellen KI-Agents denselben Zugriffsreview bestehen würden wie neue Mitarbeitende, können eine individuelle Demo vereinbaren, um zu sehen, wie identitätsbasierte, auditierte Agent-Governance in ihrer eigenen Umgebung funktioniert.
Häufig gestellte Fragen
Behörden betrachten die Einführung von Agents als technische Integrationsaufgabe und nicht als Governance-Thema. So erhalten Agents innerhalb von Minuten weitreichenden API-Zugriff – ohne rollenbasierte Einschränkungen, Aufsicht durch Vorgesetzte oder Zugriffsprüfungen, wie sie für menschliche Neueinstellungen erforderlich sind.
Ein Agent sollte die spezifischen Berechtigungen der autorisierenden Person übernehmen, statt ein separates, dauerhaftes Servicekonto mit weitreichenden, beständigen Zugangsdaten zu erhalten, die überprivilegierten Zugriff ermöglichen.
Sensible Aktionen wie das externe Teilen von Bürgerdaten erfordern eine explizite Bestätigung – genauso wie bei einem Beamten –, um unkontrollierte autonome Entscheidungen zu verhindern.
Jede Aktion muss einer bestimmten verantwortlichen Person (dem Autorisierer) zugeordnet und mit derselben Sorgfalt wie menschliche Aktivitäten protokolliert werden – nicht nur mit dem Hinweis, dass ein automatisierter Prozess stattgefunden hat.