Toepassen van mensgerichte governance op AI-agenten in de zorg

Een nieuwe arts in een ziekenhuis krijgt op dag één geen toegang tot elk patiëntendossier. Ze krijgen toegang op basis van hun rol, toezicht van een supervisor en een registratie van wat ze hebben ingezien. De meeste zorgsystemen die AI agents inzetten op klinische systemen slaan al deze drie stappen over. De agent wordt aangesloten, krijgt brede toegang om snel te kunnen werken en opereert met aanzienlijk minder toezicht dan de nieuwste, minst vertrouwde arts ooit zou krijgen.

Die kloof is geen klein detail. Een AI agent die patiëntendossiers kan lezen, communicatie kan versturen of gegevens kan verplaatsen namens een zorgsysteem, is in feite een actor met toegang tot gevoelige systemen, net als een arts. Het feit dat het op een model draait in plaats van op een loonlijst, verandert niet wat het kan aanraken of wat er mis kan gaan als het het verkeerde patiëntendossier opent. Dit artikel onderzoekt waarom AI agents in de zorg routinematig minder governance krijgen dan een mens, en wat het daadwerkelijk betekent om dezelfde standaard toe te passen.

Samenvatting

Zorgsystemen die een nieuwe arts nooit onbeperkte toegang tot alle patiëntendossiers zouden geven, geven AI agents routinematig precies die toegang, omdat de inzet van agents wordt gezien als een technisch integratieprobleem in plaats van een governancevraagstuk. Het resultaat zijn systemen die patiëntgegevens kunnen lezen, verplaatsen en versturen met minder controles dan de mensen die ze hebben gebouwd. Voor compliance- en IT-leiders is de praktische vraag eenvoudig: zou dit niveau van toegang acceptabel zijn als de actor een persoon was, en zo niet, waarom is het dan wel acceptabel voor een agent?

Belangrijkste inzichten

1. AI agents in de zorg worden vaak ingezet met bredere, minder gecontroleerde toegang dan een nieuwe medewerker zou krijgen. De snelheid van adoptie is de basis governancehygiëne die zorgsystemen al op mensen toepassen, voorbijgestreefd.
2. Een agent moet de rechten erven van de persoon die hem autoriseert, niet een apart, permanent account. Een brede serviceaccount voor een AI agent creëert precies de te ruime toegang die zorgsystemen jarenlang bij mensen hebben proberen te elimineren.
3. Gevoelige handelingen, zoals het extern delen van patiëntendossiers, vereisen een goedkeuringsstap ongeacht wie of wat deze initieert.
4. Elke AI-actie moet worden toegeschreven aan een specifieke persoon en met dezelfde grondigheid worden gelogd als menselijke activiteiten. Een audittrail waarin “de AI deed het” als voldoende wordt beschouwd, is geen audittrail.
5. Governance die vanaf het begin voor AI agents is ingericht, vereist geen nieuwe infrastructuur. Het toegangsbeheer-, goedkeurings- en loggingmodel dat zorgsystemen al voor personeel gebruiken, is direct toepasbaar op agents.

Waarom AI agents met minder controle worden onboard dan mensen

De kloof is zelden bewust. Het is een bijproduct van hoe snel agent-capaciteiten van experimenteel naar operationeel zijn gegaan, en hoe verschillend technische teams en compliance-teams het probleem benaderen.

Snelheid van adoptie sneller dan governance by design

Het aansluiten van een AI agent op een klinisch systeem is vaak een configuratietaak die in minuten is geregeld: een API-sleutel toekennen, scope autoriseren, klaar. De bijbehorende governance die een nieuwe arts doorloopt—bepaalde rollen, credentialing, een gedocumenteerde toegangscontrole—was ingericht op mensen die op menselijk tempo toetreden tot een zorgsysteem.

“Het is maar een tool”-denken onderschat wat een agent kan doen

Omdat een AI agent wordt omschreven als een tool in plaats van een gebruiker, is het makkelijk om erover na te denken zoals zorgsystemen over software denken, in plaats van zoals ze denken over mensen met toegang tot patiëntendossiers. Een tool die autonoom een patiëntendossier kan lezen, besluiten het door te sturen of te handelen op basis van instructies in de inhoud die het verwerkt, oefent beoordelingsvermogen uit op een manier die een spreadsheet niet doet.

Wat “dezelfde governance als mensen” daadwerkelijk vereist

Het uitbreiden van governance op menselijk niveau naar AI agents is geen nieuwe discipline. Het zijn dezelfde drie componenten die zorgsystemen al op mensen toepassen, consequent toegepast op agents.

Identiteitserfenis in plaats van permanente rechten

De belangrijkste ontwerpkeuze is of een agent opereert onder een eigen breed, hardnekkig account of de specifieke rechten erft van de persoon die hem autoriseert, voor die sessie, voor die taak. Een permanent serviceaccount met brede toegang tot patiëntendossiers creëert precies het overgeprivilegieerde account dat beveiligingsteams jarenlang hebben geprobeerd te elimineren. Een agent die alleen kan doen wat de authenticerende gebruiker al mocht doen, is begrensd op dezelfde manier als een menselijke collega die namens iemand anders handelt.

Goedkeuringsmomenten vóór ingrijpende acties

Een arts die patiëntgegevens extern deelt, krijgt doorgaans een bevestigingsstap voordat dit gebeurt. Een AI agent die dezelfde soort actie onderneemt, moet tegen hetzelfde soort poort aanlopen: een moment waarop een mens de scope, ontvangers of gevolgen bevestigt voordat de actie wordt uitgevoerd.

Toeschrijving en audit, niet alleen logs

Audittrails op menselijk niveau attribueren elke actie aan een specifieke verantwoordelijke persoon. De acties van een AI agent moeten aan dezelfde standaard voldoen: niet “een geautomatiseerd proces deed dit”, maar welke gebruiker de agent heeft geautoriseerd, wat het mocht doen en wat het daadwerkelijk heeft uitgevoerd.

Waar de kloof in de praktijk zichtbaar wordt voor zorgsystemen

Het meest voorkomende patroon is een enkele, breed ingestelde credential die één keer wordt uitgegeven en vervolgens onbeperkt blijft bestaan, naast agents die zijn geconfigureerd om patiëntgegevens te delen zonder enige bevestigingsstap, omdat het bouwen van zo’n pauze meer technische inspanning kost dan de agent gewoon te laten doorgaan. Zelfs waar activiteiten worden gelogd, kan de log vaak niet aangeven welke specifieke persoon verantwoordelijk is voor een bepaalde actie, waardoor dezelfde toets wordt gemist als een menselijke audittrail zonder naam van de gebruiker.

Agent governance bouwen op het toegangsmodel dat je al hebt

De praktische weg vooruit is geen nieuw governance framework speciaal voor AI. Het is het toepassen van het identiteits-, goedkeurings- en auditmodel dat een zorgsysteem al voor zijn personeel gebruikt, consequent op zijn agents.

Hoe een Data Control Plane governance op menselijk niveau toepast op AI agents

Het Kiteworks Data Control Plane verbindt AI agents via een beveiligde interface gebouwd op OAuth 2.0-authenticatie, waarbij elke agent-operatie de bestaande rechten van de geauthenticeerde gebruiker erft in plaats van een apart, permanent account, en dynamische op attributen gebaseerde beleidsregels agentverzoeken beoordelen zoals ze dat bij een mens zouden doen. Gevoelige acties, waaronder wijziging van lidmaatschappen en uitgaande verzendingen, vereisen expliciete bevestiging voordat ze doorgaan, en beheerders kunnen destructieve tools wereldwijd uitschakelen of beperken welke acties een agent überhaupt mag proberen. Elke agent-operatie wordt vastgelegd in een manipulatiebestendige, onbeperkte auditlog, toegeschreven aan de autoriserende gebruiker en direct doorgezet naar SIEM-tools, zodat de activiteiten van een agent net zo verantwoord zijn als die van een arts.

Zorgsystemen die willen weten of hun huidige AI agent-inzet dezelfde toegangscontrole zou doorstaan als een nieuwe medewerker, kunnen een aangepaste demo plannen om te zien hoe identiteitsgebonden, geauditeerde agent governance werkt in hun eigen omgeving.