Menschliche Governance für KI-Agents im Gesundheitswesen

Ein neuer Kliniker in einem Krankenhaus erhält am ersten Tag keinen Zugriff auf alle Patientendaten. Der Zugriff wird entsprechend seiner Rolle eingeschränkt, von einem Vorgesetzten überwacht und jede Aktivität wird protokolliert. Die meisten Gesundheitssysteme, die KI-Agents in klinischen Systemen einsetzen, verzichten auf alle drei Maßnahmen. Der Agent wird angebunden, erhält weitreichende Zugriffsrechte, um schnell zu agieren, und arbeitet mit deutlich weniger Kontrolle als selbst der neueste und am wenigsten vertraute Kliniker.

Diese Lücke ist kein nebensächlicher Fehler. Ein KI-Agent, der Patientendaten lesen, Kommunikationen versenden oder Daten im Namen eines Gesundheitssystems bewegen kann, ist faktisch ein Akteur mit Zugang zu sensiblen Systemen – genau wie ein Kliniker. Dass er auf einem Modell statt auf einer Gehaltsliste läuft, ändert nichts daran, worauf er zugreifen kann oder was passieren könnte, wenn er auf die falsche Patientenakte zugreift. Dieser Artikel beleuchtet, warum KI-Agents im Gesundheitswesen routinemäßig weniger Governance erhalten als Menschen und was es tatsächlich bedeutet, denselben Standard anzuwenden.

Executive Summary

Gesundheitssysteme, die einem neuen Kliniker niemals uneingeschränkten Zugriff auf alle Patientendaten gewähren würden, geben genau diesen Zugriff routinemäßig an KI-Agents weiter, weil deren Einsatz als technisches Integrationsproblem und nicht als Governance-Frage betrachtet wird. Das Ergebnis sind Systeme, die Patientendaten lesen, verschieben und versenden können – mit weniger Kontrollen als die Menschen, die sie entwickelt haben. Für Compliance- und IT-Verantwortliche stellt sich die praktische Frage: Wäre dieses Zugriffslevel akzeptabel, wenn es sich um eine Person handeln würde? Und wenn nicht, warum ist es dann für einen Agenten akzeptabel?

Wichtige Erkenntnisse

1. KI-Agents im Gesundheitswesen werden häufig mit weiter gefassten, weniger überprüften Zugriffsrechten eingesetzt, als es ein neuer Mitarbeiter erhalten würde. Die Geschwindigkeit der Einführung überholt die grundlegenden Governance-Maßnahmen, die Gesundheitssysteme bereits für Menschen anwenden.
2. Ein Agent sollte die Berechtigungen der Person übernehmen, die ihn autorisiert, und nicht über ein separates, dauerhaftes Konto verfügen. Ein weitreichendes Servicekonto für einen KI-Agenten schafft genau die überprivilegierten Zugriffe, die Gesundheitssysteme für Menschen über Jahre hinweg abgeschafft haben.
3. Sensible Aktionen, wie das externe Teilen von Patientendaten, benötigen eine Freigabe – unabhängig davon, wer oder was sie auslöst.
4. Jede KI-Aktion muss einer bestimmten Person zugeordnet und mit derselben Sorgfalt protokolliert werden wie menschliche Aktivitäten. Ein Audit-Trail, der „die KI hat es gemacht“ als ausreichende Zuordnung betrachtet, ist kein Audit-Trail.
5. Governance, die von Anfang an für KI-Agents entwickelt wird, erfordert keine neue Infrastruktur. Das Zugriffs-, Freigabe- und Protokollierungsmodell, das Gesundheitssysteme bereits für Mitarbeitende nutzen, lässt sich direkt auf Agents übertragen.

Warum KI-Agents mit weniger Kontrolle als Menschen eingebunden werden

Die Lücke entsteht selten absichtlich. Sie ist ein Nebenprodukt der schnellen Entwicklung von Agentenfähigkeiten – vom Experiment zum operativen Einsatz – und der unterschiedlichen Sichtweisen von Technik- und Compliance-Teams auf das Problem.

Die Geschwindigkeit der Einführung überholt Governance by Design

Die Anbindung eines KI-Agenten an ein klinisches System ist oft eine Konfigurationsaufgabe, die in wenigen Minuten erledigt ist: API-Schlüssel vergeben, Berechtigungen freigeben, fertig. Die entsprechende Governance für neue Kliniker – definierte Rollen, Legitimation, dokumentierte Zugriffsprüfung – wurde für Menschen entwickelt, die in einem menschlichen Tempo in ein Gesundheitssystem eintreten.

„Es ist nur ein Tool“ unterschätzt die Möglichkeiten eines Agenten

Da ein KI-Agent als Tool und nicht als Anwender beschrieben wird, neigen Gesundheitssysteme dazu, ihn wie Software zu behandeln – nicht wie eine Person mit Zugriff auf Patientendaten. Ein Tool, das eigenständig Patientenakten lesen, sie weiterleiten oder auf Anweisungen im verarbeiteten Inhalt reagieren kann, trifft Entscheidungen auf eine Weise, wie es eine Tabellenkalkulation nicht tut.

Was „gleiche Governance wie für Menschen“ tatsächlich bedeutet

Die Ausweitung menschlicher Governance auf KI-Agents ist kein neues Fachgebiet. Es sind dieselben drei Komponenten, die Gesundheitssysteme bereits für Menschen anwenden – nur konsequent auch für Agents.

Identitätsübernahme statt dauerhafter Privilegien

Die wichtigste Designentscheidung ist, ob ein Agent mit eigenen, breiten und dauerhaften Zugangsdaten arbeitet oder die spezifischen Berechtigungen der Person übernimmt, die ihn für diese Sitzung und Aufgabe autorisiert hat. Ein dauerhaftes Servicekonto mit weitreichendem Zugriff auf Patientendaten schafft genau die überprivilegierten Konten, die Sicherheitsteams über Jahre hinweg abzuschaffen versuchen. Ein Agent, der nur das tun kann, was der authentifizierende Anwender ohnehin dürfte, ist genauso begrenzt wie ein menschlicher Kollege, der im Auftrag einer anderen Person handelt.

Freigabeschritte vor kritischen Aktionen

Ein Kliniker, der Patientendaten extern teilt, muss in der Regel einen Bestätigungsschritt durchlaufen. Ein KI-Agent, der eine vergleichbare Aktion ausführt, sollte auf denselben Freigabeschritt treffen: Ein Moment, in dem ein Mensch den Umfang, die Empfänger oder die Konsequenzen bestätigt, bevor die Aktion abgeschlossen wird.

Zuordnung und Audit – nicht nur Aktivitätsprotokolle

Menschliche Audit-Trails ordnen jede Aktion einer bestimmten, verantwortlichen Person zu. Auch die Aktionen eines KI-Agenten benötigen diesen Standard: Nicht „ein automatisierter Prozess hat dies getan“, sondern welcher Anwender den Agenten autorisiert hat, was er tun durfte und was tatsächlich geschah.

Wo die Lücke in der Praxis bei Gesundheitssystemen sichtbar wird

Das häufigste Muster ist ein einziges, breit gefasstes Zugangskonto, das einmal vergeben und unbegrenzt genutzt wird – zusammen mit Agents, die Patientendaten ohne jeden Bestätigungsschritt teilen dürfen, weil die technische Umsetzung einer Pause mehr Aufwand erfordert, als den Agenten einfach agieren zu lassen. Selbst wenn Aktivitäten protokolliert werden, kann das Protokoll oft nicht beantworten, welche konkrete Person für eine Aktion verantwortlich ist – und scheitert damit an denselben Anforderungen, an denen ein menschlicher Audit-Trail ohne namentlichen Anwender scheitern würde.

Agenten-Governance auf dem bestehenden Zugriffsmodell aufbauen

Der praktische Weg ist kein neues Governance-Framework speziell für KI. Es geht darum, das Identitäts-, Freigabe- und Audit-Modell, das ein Gesundheitssystem bereits für seine Mitarbeitenden nutzt, konsequent auch auf Agents anzuwenden.

Wie eine Data Control Plane Governance auf KI-Agents auf menschlichem Niveau anwendet

Die Kiteworks Data Control Plane verbindet KI-Agents über eine sichere Schnittstelle mit OAuth 2.0-Authentifizierung. Jede Agentenoperation übernimmt die bestehenden Berechtigungen des authentifizierten Anwenders, statt ein separates, dauerhaftes Konto zu nutzen. Dynamische attributbasierte Richtlinien bewerten Agenten-Anfragen genauso wie menschliche Anfragen. Sensible Aktionen – etwa Änderungen von Mitgliedschaften oder das Versenden nach außen – erfordern eine explizite Bestätigung, bevor sie ausgeführt werden. Administratoren können destruktive Tools global deaktivieren oder einschränken, welche Aktionen ein Agent überhaupt versuchen darf. Jede Agentenoperation wird in einem fälschungssicheren, ungedrosselten Audit-Log erfasst, dem autorisierenden Anwender zugeordnet und direkt in SIEM-Tools eingespeist. So ist die Aktivität eines Agenten genauso nachvollziehbar wie die eines Klinikers.

Gesundheitssysteme, die prüfen möchten, ob ihre aktuellen KI-Agenten denselben Zugriffsreview bestehen würden wie ein neuer Mitarbeiter, können eine individuelle Demo vereinbaren, um zu sehen, wie identitätsbasierte, auditierte Agenten-Governance in ihrer eigenen Umgebung funktioniert.