Inzicht in en implementatie van de nieuwe Britse gedragscode voor AI-cyberbeveiliging: een praktische gids

De onlangs gepubliceerde Code of Practice voor AI-cybersecurity van de Britse overheid markeert een belangrijke mijlpaal in het aanpakken van de unieke beveiligingsuitdagingen die kunstmatige intelligentiesystemen met zich meebrengen. Nu organisaties AI steeds vaker integreren in hun processen, is het begrijpen en implementeren van deze Code of Practice essentieel geworden om een robuuste beveiligingsstatus te behouden en te voldoen aan opkomende normen.

De Britse Code of Practice voor AI Cybersecurity, gepubliceerd in januari 2025, vormt een uitgebreid raamwerk dat is ontworpen om de specifieke beveiligingsuitdagingen van AI-systemen aan te pakken. Met een overweldigende steun van 80% van de respondenten op de Call for Views van het Department for Science, Innovation and Technology, stelt deze vrijwillige code basisbeveiligingsvereisten vast die toekomstige standaarden van het European Telecommunication Standards Institute (ETSI) zullen beïnvloeden.

Voor IT-, risico- en complianceprofessionals biedt dit raamwerk essentiële richtlijnen voor het beveiligen van AI-systemen gedurende hun hele levenscyclus, van ontwerp tot buitengebruikstelling. De allesomvattende aanpak van de Code erkent de complexe wisselwerking tussen traditionele cybersecuritymaatregelen en de unieke uitdagingen van AI-technologieën.

In deze post verkennen we dit nieuwe raamwerk en bieden we praktische stappen om jouw organisatie te helpen de richtlijnen van het framework te volgen, zodat je gevoelige data beschermd blijft tegen AI-ontsluiting.

Belangrijkste onderdelen van de Code of Practice

De Code of Practice bestaat uit dertien fundamentele principes die de volledige levenscyclus van een AI-systeem beslaan. Deze principes vormen een uitgebreid raamwerk dat zowel traditionele cybersecurityzorgen als AI-specifieke uitdagingen adresseert. Laten we deze kernonderdelen in detail bekijken.

Beveiligingsbewustzijn en ontwerpprincipes

De Code begint met het benadrukken van het belang van AI-beveiligingsbewustzijn binnen organisaties. Het vereist regelmatige beveiligingstrainingen die specifiek zijn afgestemd op AI-systemen, waarbij organisaties up-to-date moeten blijven met opkomende dreigingen en kwetsbaarheden. Deze basis van bewustzijn ondersteunt de daaropvolgende eis van security-by-design, waarbij organisaties beveiliging vanaf de vroegste ontwikkelfases van AI-systemen gelijkwaardig aan functionaliteit en prestaties moeten meenemen.

Bedreigingsanalyse en risicobeheer

Centraal in de Code staat de vereiste voor continue dreigingsevaluatie en risicobeheer. Organisaties moeten uitgebreide dreigingsmodellen implementeren die specifiek AI-gerelateerde aanvallen adresseren, zoals data poisoning, modelinversie en membership inference. De Code benadrukt dat traditionele risicobeheerbenaderingen moeten worden aangepast om AI-specifieke kwetsbaarheden en aanvalsvectoren te dekken.

Menselijk toezicht en verantwoordelijkheid

Met oog voor de unieke uitdagingen van AI-governance stelt de Code duidelijke eisen aan menselijk toezicht. Organisaties moeten technische maatregelen implementeren die zinvol menselijk toezicht op AI-systemen mogelijk maken, zodat uitkomsten kunnen worden beoordeeld en geverifieerd. Dit omvat het interpreteerbaar maken van modeluitkomsten en het vastleggen van duidelijke verantwoordelijkheden voor systeemkeuzes.

Assetmanagement en infrastructuurbeveiliging

De Code vereist grondige assetmanagementpraktijken, waarbij organisaties volledige inventarissen moeten bijhouden van AI-gerelateerde assets, waaronder modellen, trainingsdata en bijbehorende infrastructuur. Dit strekt zich uit tot infrastructuurbeveiliging, met specifieke controles voor API’s, ontwikkelomgevingen en trainingspijplijnen. Dit onderdeel benadrukt vooral de noodzaak van veilige toegangscontroles en het scheiden van omgevingen.

Beveiliging van de toeleveringsketen en documentatie

Met erkenning van de complexiteit van AI-ontwikkeling bevat de Code specifieke eisen voor beveiliging van de toeleveringsketen. Organisaties moeten veilige software supply chain-processen implementeren en gedetailleerde documentatie bijhouden van modelcomponenten, bronnen van trainingsdata en systeemwijzigingen. Dit omvat eisen voor cryptografische verificatie van modelcomponenten en uitgebreide audittrails.

Test- en inzetcontroles

De Code stelt strenge eisen aan testen en evaluatie, waarbij beveiligingsbeoordelingen verplicht zijn vóór systeeminzet. Organisaties moeten onafhankelijke beveiligingstests uitvoeren en potentiële kwetsbaarheden in modeluitkomsten beoordelen. Deze eisen gelden ook voor inzetpraktijken, waarbij organisaties duidelijke instructies aan eindgebruikers moeten geven en transparant moeten communiceren over systeemcapaciteiten en -beperkingen.

Monitoring- en onderhoudsvereisten

Doorlopende systeemmonitoring vormt een cruciaal onderdeel van de Code, waarbij organisaties het gedrag van systemen moeten volgen, activiteiten moeten loggen en prestatiepatronen analyseren. Dit omvat monitoring op afwijkingen die kunnen wijzen op beveiligingsincidenten of onverwachte gedragsveranderingen. De Code vereist ook regelmatige beveiligingsupdates en patchbeheerprocessen die specifiek zijn voor AI-systemen.

Einde-levensduur overwegingen

Het laatste onderdeel behandelt veilige buitengebruikstelling van systemen, waarbij organisaties correcte procedures voor het verwijderen van data en modellen moeten implementeren. Dit omvat specifieke eisen voor het overdragen van eigendom van trainingsdata en modellen, zodat beveiliging ook na de operationele levensduur van AI-systemen gewaarborgd blijft.

Met deze onderdelen stelt de Code een allesomvattend raamwerk vast dat de unieke beveiligingsuitdagingen van AI-systemen erkent en praktische handvatten biedt voor implementatie. Elk principe bouwt voort op bestaande cybersecuritypraktijken en introduceert aanvullende vereisten die nodig zijn om de specifieke kenmerken van AI-technologieën te adresseren.

De Code of Practice en haar doelstellingen uitgelegd

De Code of Practice richt zich specifiek op AI-systemen, waaronder systemen met deep neural networks en generatieve AI. In tegenstelling tot traditionele softwarebeveiligingsraamwerken, adresseert deze code unieke AI-specifieke kwetsbaarheden en operationele aandachtspunten in vijf belangrijke levenscyclusfasen: veilig ontwerp, ontwikkeling, inzet, onderhoud en einde levensduur.

Wat dit raamwerk onderscheidt, is de erkenning van de specifieke beveiligingsuitdagingen van AI. Traditionele softwarebeveiligingsmaatregelen zijn weliswaar noodzakelijk, maar blijken onvoldoende om AI-specifieke dreigingen zoals data poisoning, modelobfuscatie en indirecte prompt injection-aanvallen te voorkomen. De Code stelt een duidelijke hiërarchie van verantwoordelijkheden vast en definieert specifieke rollen voor diverse stakeholders binnen het AI-ecosysteem.

Het raamwerk erkent ontwikkelaars als organisaties die AI-modellen en -systemen creëren of aanpassen, terwijl systeemoperators verantwoordelijk zijn voor de inzet en het beheer. Data-eigenaren spelen een cruciale rol in het beheren van datatoestemmingen en het waarborgen van integriteit, samenwerkend met eindgebruikers die actief met deze systemen omgaan. De Code erkent ook getroffen entiteiten – individuen en systemen die indirect worden beïnvloed door AI-beslissingen – en zorgt zo voor een allesomvattende benadering van beveiliging en verantwoordelijkheid.

De groeiende behoefte aan AI-beveiligingsstandaarden

Het moment van de Code of Practice had niet beter gekozen kunnen zijn. Nu organisaties AI-technologieën in hoog tempo adopteren, zijn het aanvalsoppervlak en de potentiële impact van beveiligingsincidenten drastisch toegenomen. AI-systemen brengen unieke beveiligingsuitdagingen met zich mee die traditionele cybersecurityraamwerken niet afdoende aanpakken.

Data poisoning is een van de meest verraderlijke bedreigingen voor de integriteit van AI-systemen. Tegenstanders kunnen trainingsdata manipuleren op manieren die de modelintegriteit ondermijnen, wat kan leiden tot bevooroordeelde of gevaarlijke uitkomsten. De uitdaging zit niet alleen in het voorkomen van dergelijke aanvallen, maar ook in het detecteren ervan, omdat de effecten soms pas na inzet zichtbaar worden.

Modelobfuscatie vormt een ander aanzienlijk risico. Kwaadwillenden kunnen modelarchitecturen misbruiken om ongeautoriseerde functionaliteiten of achterdeurtjes te verbergen, waardoor beveiligingslekken ontstaan die traditionele testprotocollen mogelijk niet opmerken. Dit risico wordt extra groot naarmate modellen complexer worden en hun besluitvorming ondoorzichtiger.

De opkomst van grote taalmodellen en generatieve AI heeft nieuwe kwetsbaarheden geïntroduceerd via indirecte prompt injection-aanvallen. Deze geavanceerde aanvallen kunnen AI-systemen manipuleren om ongeautoriseerde of schadelijke uitkomsten te produceren, waarbij traditionele beveiligingscontroles worden omzeild en juist de flexibiliteit wordt misbruikt die deze systemen waardevol maakt.

Implementatie-uitdagingen

Organisaties die de Code of Practice implementeren, staan voor diverse onderling verbonden uitdagingen die zorgvuldige afweging en strategische planning vereisen. De technische infrastructuurvereisten vragen veel aandacht, omdat organisaties veilige ontwikkelomgevingen moeten opzetten en uitgebreide monitoringsystemen moeten implementeren. Deze systemen moeten veilige datapijplijnen waarborgen en robuuste testframeworks ondersteunen gedurende de hele AI-levenscyclus.

Afstemming tussen stakeholders voegt een extra laag complexiteit toe. Organisaties moeten verantwoordelijkheden over verschillende afdelingen op elkaar afstemmen en zorgen voor heldere en effectieve communicatiekanalen. Het beheer van relaties met derden wordt bijzonder belangrijk, net als de coördinatie van beveiligingsreacties over organisatorische grenzen heen.

Toewijzing van middelen vereist een zorgvuldige balans. Organisaties moeten investeren in training en het bijscholen van personeel, maar ook middelen toewijzen aan beveiligingstools en platforms. Het onderhouden van documentatiesystemen en het ondersteunen van voortdurende monitoring en updates vraagt om blijvende inzet en investeringen.

Essentiële acties voor naleving van de Code of Practice

Succesvolle implementatie van de Code of Practice vereist dat organisaties diverse kritieke acties ondernemen. Allereerst moeten organisaties uitgebreide AI-beveiligingstrainingsprogramma’s opzetten. De Code verplicht regelmatige beveiligingstraining die is afgestemd op specifieke rollen binnen de organisatie. Deze training moet voortdurend evolueren naarmate nieuwe dreigingen opkomen, zodat personeel altijd op de hoogte is van AI-specifieke beveiligingsuitdagingen en mitigatiestrategieën.

Risicobeheer vormt een andere basis van naleving. Organisaties moeten systematische dreigingsmodellen ontwikkelen en onderhouden die specifiek AI-gerelateerde kwetsbaarheden adresseren. Dit houdt in dat er regelmatig risicobeoordelingen moeten plaatsvinden die niet alleen traditionele cybersecuritydreigingen, maar ook AI-specifieke uitdagingen zoals modelmanipulatie en data poisoning meenemen. Het documenteren van risicobeslissingen en mitigatiestrategieën is essentieel om naleving aan te tonen en zorgvuldigheid te waarborgen.

Assetbescherming vereist een geavanceerde aanpak onder de Code of Practice. Organisaties moeten volledige inventarissen bijhouden van hun AI-assets, waaronder modellen, trainingsdata en bijbehorende infrastructuur. Versiebeheer is bijzonder belangrijk bij AI-systemen, omdat wijzigingen aan modellen of trainingsdata grote gevolgen kunnen hebben voor systeembeveiliging en prestaties. Toegangscontroles moeten granulaire en contextafhankelijke zijn, afgestemd op de specifieke vereisten van AI-ontwikkeling en inzet.

Documentatie is een kritisch onderdeel van naleving. Organisaties moeten gedetailleerde verslagen bijhouden van hun systeemarchitectuur, beveiligingscontroles en operationele procedures. Deze documentatie moet duidelijke audittrails bevatten die wijzigingen aan modellen en systemen bijhouden, uitgebreide incidentlogs en gedetailleerde verslagen van beveiligingsbeoordelingen en herstelacties.

Monitoring is misschien wel de meest dynamische vereiste van de Code. Organisaties moeten continue monitoring van het gedrag van hun AI-systemen implementeren, prestatie-indicatoren volgen en letten op tekenen van compromittering of manipulatie. Deze monitoring moet verder gaan dan traditionele beveiligingsstatistieken en ook AI-specifieke indicatoren omvatten, zoals modeldrift en onverwachte outputpatronen.

Stappenplan voor implementatie

Organisaties moeten naleving van de Code of Practice benaderen als een gefaseerde reis in plaats van een eenmalig project. De beoordelingsfase duurt doorgaans één tot twee maanden, waarin organisaties hun huidige AI-systemen en beveiligingscontroles grondig evalueren. Deze evaluatie moet beveiligingsgaten in kaart brengen en bestaande processen documenteren, wat de basis vormt voor verdere planning.

De planningsfase, die meestal twee tot drie maanden duurt, richt zich op het ontwikkelen van een uitgebreide implementatiestrategie. Dit omvat toewijzing van middelen, het ontwikkelen van trainingsprogramma’s en het opzetten van monitoringsystemen. Organisaties moeten in deze fase vooral aandacht besteden aan het integreren van nieuwe beveiligingscontroles met bestaande infrastructuur.

De implementatiefase is het meest intensief en duurt doorgaans drie tot zes maanden. In deze periode voeren organisaties beveiligingscontroles uit, organiseren ze trainingsprogramma’s en zetten ze documentatiesystemen op. De focus moet liggen op het behouden van operationele continuïteit terwijl de beveiligingsmaatregelen worden versterkt.

Evaluatie en optimalisatie gaan continu door, omdat organisaties hun beveiligingsstatus regelmatig moeten beoordelen en hun controles moeten bijwerken in reactie op nieuwe dreigingen. Dit doorlopende proces omvat regelmatige beveiligingsbeoordelingen, beleidsupdates en voortdurende training van personeel.

Kiteworks helpt organisaties voldoen aan de nieuwe Britse Code of Practice met een AI Data Gateway

De Britse Code of Practice voor AI Cybersecurity is een cruciale stap vooruit in het beveiligen van AI-systemen. Hoewel er implementatie-uitdagingen zijn, zullen organisaties die systematisch aan naleving werken beter in staat zijn hun AI-assets te beschermen en te voldoen aan regelgeving.

Succes vereist een allesomvattende benadering die technische controles, robuuste processen en voortdurende toewijding aan beveiliging combineert. Door gebruik te maken van tools zoals de Kiteworks AI Data Gateway kunnen organisaties hun nalevingstraject versnellen en tegelijkertijd de beveiliging en integriteit van hun AI-systemen waarborgen.

Organisaties doen er verstandig aan nu al te starten met hun nalevingstraject, ook al is de Code vrijwillig, omdat deze waarschijnlijk toekomstige verplichte standaarden zal beïnvloeden en de huidige beste practices in AI-beveiliging weerspiegelt. Investeren in naleving vandaag betaalt zich uit in betere beveiliging, verhoogde operationele efficiëntie en minder risico morgen.

De Kiteworks AI Data Gateway biedt essentiële functionaliteiten die naadloos aansluiten op de eisen van de Code. Met veilige AI-data-toegang implementeert het platform een zero-trust-architectuur die direct aansluit op Principe 6 van de Code. Deze architectuur zorgt ervoor dat elk data-accessverzoek wordt geverifieerd, ongeacht de bron, terwijl de strikte toegangscontroles van Principe 5 worden gehandhaafd.

Governance- en compliancefunctionaliteiten in het Kiteworks-platform dekken diverse kritieke vereisten van de Code. Het systeem handhaaft automatisch beveiligingsbeleid en houdt gedetailleerde auditlogs bij die voldoen aan de documentatievereisten van Principe 12. Real-time monitoring stelt organisaties in staat potentiële beveiligingsincidenten snel te signaleren en te reageren.

Databescherming wordt volledig afgedekt door end-to-end encryptie en geavanceerde toegangsregistratie. Het platform houdt gedetailleerde verslagen bij van alle data-access en -overdracht, zodat organisaties kunnen aantonen dat ze voldoen aan databeschermingsvereisten en tegelijkertijd operationele efficiëntie behouden.

De ondersteuning van Retrieval-Augmented Generation (RAG) door het platform is vooral waardevol voor organisaties die AI-systemen implementeren. Door veilige data-opvraging te combineren met strikte toegangscontroles, stelt Kiteworks organisaties in staat hun modelnauwkeurigheid te verbeteren zonder concessies te doen aan beveiliging. Deze functionaliteit wordt steeds belangrijker naarmate organisaties AI-prestaties willen verbeteren en tegelijkertijd aan de Code willen voldoen.

Voor meer informatie over het implementeren van de Code of Practice of om te bespreken hoe Kiteworks jouw nalevingstraject kan ondersteunen, neem contact op met ons team van beveiligingsexperts.

Met het Kiteworks Private Content Network beschermen organisaties hun gevoelige content tegen AI-risico’s met een zero trust-aanpak voor Generative AI. De Kiteworks AI Data Gateway biedt een naadloze oplossing voor veilige data-toegang en effectief gegevensbeheer om risico’s op datalekken te minimaliseren en naleving van regelgeving aan te tonen. Kiteworks levert content-gedefinieerde zero trust-controles, met least-privilege access op contentniveau en next-gen DRM-functionaliteit die downloads door AI-ontsluiting blokkeert.

Met nadruk op veilige data-toegang en strikte governance stelt Kiteworks je in staat AI-technologieën te benutten en tegelijkertijd de integriteit en vertrouwelijkheid van je data-assets te waarborgen.

Wil je meer weten over Kiteworks en het beschermen van je gevoelige data tegen AI-ontsluiting, plan dan vandaag nog een demo op maat.