Hoe AI wordt gebruikt in cyberbeveiliging en cybercriminaliteit [een checklist]

Het snel veranderende landschap van kunstmatige intelligentie (AI) technologie zet bedrijven onder enorme druk om AI-ontwikkelingen te integreren in hun bestaande processen. De snelheid van verandering die werd ingezet met de lancering van ChatGPT eind vorig jaar, zorgt voor ingrijpende generatieverschuivingen en vooruitgang (de ethische overwegingen even buiten beschouwing gelaten).

Ondanks dat er waarborgen zijn ingebouwd in ChatGPT om te voorkomen dat kwaadwillenden het voor kwaadaardige doeleinden gebruiken, verschenen er kort na de aankondiging in november al berichten over het gebruik ervan om phishingmails op te stellen, kwaadaardige code te schrijven en meer. Volgens onderzoek van Blackberry gelooft 51% van de IT-beslissers dat er binnen een jaar een succesvolle cyberaanval zal plaatsvinden die aan ChatGPT wordt toegeschreven, en vindt 95% dat overheden de verantwoordelijkheid hebben om geavanceerde technologieën zoals ChatGPT te reguleren. Tegelijkertijd is het potentieel om AI in te zetten voor het goede van het cyberdomein minstens zo groot. AI kan taken automatiseren, de reactietijd bij incidenten verkorten, cyberaanvallen sneller detecteren en DevSecOps stroomlijnen, om maar enkele voorbeelden te noemen.

Cybersecurity-pionier Richard Stiennon besprak deze en andere onderwerpen in een recente aflevering van Kitecast. Stiennon is Chief Research Analyst bij IT-Harvest, een data-gedreven analistenbureau, en zit in het bestuur van diverse organisaties.

6 manieren waarop AI cyberbeveiliging versterkt

Al vóór de baanbrekende aankondiging van ChatGPT afgelopen november was AI een gamechanger op het gebied van cyberbeveiliging. Tegenwoordig bieden door AI ondersteunde cyberbeveiligingssystemen geavanceerde mogelijkheden zoals geautomatiseerde dreigingsdetectie en -respons, voorspellende analyses en realtime monitoring. Nu, met de komst van ChatGPT en Google Bard, wordt AI door cybersecurityprofessionals ingezet voor nog grotere verbeteringen en versnelling. Hieronder volgen enkele van de meest prominente manieren waarop AI wordt ingezet binnen cyberbeveiliging:

AI bij dreigingsdetectie

Traditionele cyberbeveiligingsoplossingen, zoals firewalls, antivirus en inbraakdetectiesystemen (IDS), vertrouwen op vooraf gedefinieerde regels om cyberaanvallen te detecteren en te voorkomen. Deze systemen zijn echter niet effectief tegen geavanceerde bedreigingen die complexe aanvalstechnieken gebruiken. Door AI ondersteunde cyberbeveiligingsoplossingen gebruiken machine-learning-algoritmen om grote datasets te analyseren en patronen van verdachte activiteiten te identificeren. Deze algoritmen kunnen nieuwe en onbekende bedreigingen detecteren door te leren van eerdere aanvalspatronen en gedrag. AI-gebaseerde dreigingsdetectiesystemen kunnen bedreigingen in realtime identificeren en waarschuwingen geven aan beveiligingsanalisten.

AI bij kwetsbaarheidsbeheer

Kwetsbaarheidsbeheer is een cruciaal onderdeel van cyberbeveiliging. Het identificeren van kwetsbaarheden in software en applicaties is essentieel om aanvallen te voorkomen voordat ze plaatsvinden. AI-gebaseerde kwetsbaarheidsbeheersoplossingen kunnen automatisch netwerken scannen en kwetsbaarheden in realtime identificeren. Deze oplossingen kunnen kwetsbaarheden ook prioriteren op basis van hun ernst en aanbevelingen doen voor herstel. Dit vermindert de werklast voor beveiligingsanalisten en zorgt ervoor dat kritieke kwetsbaarheden snel worden aangepakt.

AI bij incidentrespons

Incidentrespons is het proces van het afhandelen van beveiligingsincidenten en het beperken van hun impact op de organisatie. Door AI ondersteunde incidentrespons-systemen kunnen het volledige incidentresponsproces automatiseren, van detectie tot herstel. Deze systemen kunnen de oorzaak van het incident identificeren en aanbevelingen doen voor herstel. Ze kunnen het incident ook indammen door getroffen systemen te isoleren en verdere schade te voorkomen.

AI bij gebruikersgedraganalyse

Gebruikersgedraganalyse (UBA) is het monitoren van gebruikersactiviteiten op netwerken en systemen om bedreigingen van binnenuit te detecteren. AI-gebaseerde oplossingen kunnen grote hoeveelheden gebruikersdata analyseren om abnormaal gedrag te identificeren. Deze oplossingen kunnen verdachte activiteiten detecteren, zoals ongeautoriseerde toegang, data-exfiltratie en accountovername. AI-gebaseerde oplossingen kunnen ook bedreigingen van binnenuit identificeren door patronen in gebruikersgedrag over tijd te analyseren, waarmee gebruikersauthenticatie en toegangscontroles worden verbeterd.

AI bij fraudedetectie

Door AI ondersteunde cyberbeveiligingsoplossingen kunnen ook worden ingezet om fraude te detecteren en te voorkomen. Fraudebestrijding omvat het analyseren van grote datasets om patronen van frauduleuze activiteiten te identificeren. AI-gebaseerde fraudedetectiesystemen leren van eerdere gevallen en herkennen nieuwe fraudepatronen. Deze systemen kunnen ook realtime waarschuwingen geven om frauduleuze activiteiten te voorkomen.

AI bij communicatie van gevoelige inhoud

Cybercriminelen en malafide staten begrijpen de waarde van gevoelige inhoud—zoals persoonlijk identificeerbare informatie (PII) en beschermde gezondheidsinformatie (PHI), intellectueel eigendom (IP), financiële documenten, fusie- en overnameactiviteiten en -plannen, marketingstrategieën en meer—en richten hun aanvallen op diverse communicatiekanalen met kwaadaardige aanvallen. Hun aanvallen maken gebruik van diverse technieken, waaronder man-in-the-middle aanvallen, diefstal van inloggegevens en advanced persistent threats, om toegang te krijgen tot communicatie met gevoelige inhoud. Door AI ondersteunde anomaliedetectie analyseert inhoudsactiviteiten om gedragsafwijkingen te identificeren die mogelijk kwaadaardige activiteiten onthullen.

7 manieren waarop cybercriminelen en malafide staten AI inzetten

Hoewel tools zoals ChatGPT veel voordelen bieden, brengen ze ook diverse cyberbeveiligingsrisico’s met zich mee die moeten worden aangepakt. AI, aangevoerd door ChatGPT, zou wel eens de grootste bedreiging voor cyberbeveiliging tot nu toe kunnen zijn. Hieronder volgen enkele van de meest zorgwekkende manieren waarop AI kwaadaardig kan worden ingezet.

Risico’s voor gegevensprivacy met AI

Een van de belangrijkste cyberbeveiligingsimplicaties van AI heeft betrekking op gegevensprivacy. Omdat deze tools leren van grote datasets met tekst, kunnen ze mogelijk gevoelige informatie over individuen of organisaties blootleggen als ze zijn getraind op vertrouwelijke data. Dit onderstreept het belang van het waarborgen van gegevensprivacy en ervoor zorgen dat AI-modellen alleen worden getraind op geschikte databronnen. Om het risico op datalekken te minimaliseren, moeten bedrijven ervoor zorgen dat gevoelige inhoud goed wordt beveiligd. Dit omvat het implementeren van data-encryptie, toegangscontroles en monitoringtools om ongeautoriseerde toegang te voorkomen.

Social engineering risico’s van AI

Social engineering is een tactiek die cybercriminelen gebruiken om mensen te manipuleren tot het delen van gevoelige informatie of het uitvoeren van handelingen die hun beveiliging in gevaar kunnen brengen. Chatbots zoals ChatGPT zijn bijzonder kwetsbaar voor social engineering-aanvallen omdat ze vertrouwen op natural language processing (NLP) om met gebruikers te communiceren. Cybercriminelen kunnen social engineering-tactieken gebruiken om ChatGPT te misleiden tot het onthullen van gevoelige informatie of het uitvoeren van acties die het systeem kunnen compromitteren.

Phishing risico’s van AI

Phishing blijft het meest gebruikte aanvalskanaal volgens het 2023 Hybrid Security Trends Report van Netwrix. Een belangrijk kenmerk van phishingpogingen was vroeger het gebruik van slechte grammatica of onjuiste taal. De uitzonderlijke vaardigheid van ChatGPT om mensachtige content te genereren, kan echter voordelig zijn voor cybercriminelen die overtuigende phishingmails willen maken. Het gebruik van ChatGPT of een andere tool kan de tijd en moeite die nodig is om een groot aantal phishingmails op te stellen aanzienlijk verkorten, vooral voor hackers die niet vloeiend Engels spreken.

AI inzetten voor kwetsbaarheden opsporen

Het proces van kwetsbaarheden opsporen kan bestaan uit dreigingsactoren die proberen de debug-mogelijkheden van ChatGPT te benutten om zwakke plekken in diverse applicaties en systemen te vinden. In plaats van talloze regels code door te nemen, kunnen deze personen ChatGPT eenvoudig vragen de code te analyseren en mogelijke fouten te vinden, waarna ze snel aanvallen kunnen ontwikkelen om die kwetsbaarheden uit te buiten.

AI-ondersteunde malware-aanval risico’s

Een ander cyberbeveiligingsrisico dat samenhangt met AI-tools zijn malware-aanvallen. Door AI aangestuurde malware kan zijn gedrag aanpassen om detectie door traditionele beveiligingsmaatregelen te ontwijken en zich voordoen als legitieme software om toegang te krijgen tot gevoelige informatie. Om malware-aanvallen te voorkomen, hebben bedrijven een beveiligingsaanpak nodig die gebruikmaakt van meerdere beveiligingslagen. Deze verminderen het risico op het uitbuiten van kwetsbaarheden en de ernst van de impact aanzienlijk.

Cyberaanvallen automatiseren met AI

AI-taalmodellen zoals ChatGPT kunnen ook worden gebruikt om cyberaanvallen te automatiseren, zoals automatisch hacken of het kraken van wachtwoorden. Dit is een groeiende zorg nu AI-modellen steeds complexer worden en in staat zijn om ingewikkelde taken als deze te automatiseren.

Compliance- en juridische kwesties met AI

AI-tools kunnen ook compliance- en juridische problemen opleveren voor bedrijven. Afhankelijk van de gegevens die met chatbots worden gedeeld, kunnen bedrijven onderworpen zijn aan regelgeving, zoals de General Data Protection Regulation (GDPR), die vereist dat zij de privacy van hun gebruikers beschermen. Om aan deze regelgeving te voldoen, moeten bedrijven robuuste beveiligingsmaatregelen implementeren die gebruikersdata beschermen en ervoor zorgen dat ze alleen gegevens verzamelen die noodzakelijk zijn voor hun bedrijfsvoering.

Cyberbeveiligingsrisico’s van AI-tools minimaliseren

In een poging de concurrentie voor te blijven, haasten organisaties zich om AI-technologieën zoals ChatGPT te implementeren, zonder volledig stil te staan bij de impact op hun cyberbeveiligingsstatus.

Met de integratie van AI in bedrijfsprocessen verzamelen bedrijven niet alleen data uit externe bronnen, maar ook uit hun interne processen. Dit brengt echter potentiële beveiligingsrisico’s met zich mee, omdat gevoelige bedrijfsinformatie en intellectueel eigendom in gevaar kunnen komen. Organisaties die AI-ondersteunde processen gebruiken, moeten een raamwerk opstellen om de beveiliging, privacy en het beheer van hun data te waarborgen. Het toepassen van dezelfde principes en waarborgen als voor andere bedrijfsdoeleinden is essentieel om de potentiële gevaren van AI te vermijden.

Bedrijven als Amazon en JPMorgan Chase, onder vele anderen, hebben het gebruik van ChatGPT door medewerkers verboden op basis van risico. We hebben zelfs gezien dat ChatGPT op landelijk niveau werd verboden, waarbij de Italiaanse overheid onlangs het gebruik van ChatGPT verbood totdat ontwikkelaar OpenAI de door de Italiaanse privacy-autoriteit geconstateerde problemen heeft opgelost.

Het is de verantwoordelijkheid van organisaties om de integriteit te waarborgen van alle dataprocessen die AI gebruiken en de data te beschermen tegen datacenterstoringen of ransomware-aanvallen. Het is cruciaal om door AI geproduceerde data te beschermen tegen verkeerde handen en te zorgen voor naleving van lokale regelgeving en wetten.

De toekomst van AI in cyberbeveiliging

Het staat buiten kijf dat naarmate het gebruik van AI in cyberbeveiliging toeneemt, regelgeving nodig is om ervoor te zorgen dat door AI aangestuurde systemen ethisch en verantwoord worden ingezet.

De regulering van AI met betrekking tot cyberbeveiliging is een complex vraagstuk dat een veelzijdige aanpak vereist. Hoewel er momenteel geen allesomvattend regelgevend kader is voor AI in cyberbeveiliging, zijn er verschillende initiatieven gaande om de juridische en ethische uitdagingen van door AI aangestuurde systemen aan te pakken.

AI-cyberbeveiligingsregulering

Een manier om AI in cyberbeveiliging te reguleren is via industrienormen en richtlijnen. Organisaties zoals het National Institute of Standards and Technology (NIST) hebben aanbevelingen ontwikkeld voor transparantie, verantwoordelijkheid en privacy. Deze richtlijnen kunnen organisaties een raamwerk bieden om hun eigen beleid en procedures te ontwikkelen voor het gebruik van AI in cyberbeveiliging.

Een andere aanpak voor het reguleren van AI in cyberbeveiliging is via overheidsregulering. Verschillende landen hebben toezichthoudende instanties ingesteld om de ontwikkeling en het gebruik van AI te monitoren, inclusief het gebruik ervan in cyberbeveiliging. Zo bevat de General Data Protection Regulation (GDPR) van de Europese Unie bepalingen voor het gebruik van AI bij gegevensverwerking.

Hoe Kiteworks kan helpen AI-ondersteunde cyberaanvallen te voorkomen

Een manier waarop Kiteworks kan helpen bij AI-ondersteunde cyberaanvallen is via de geavanceerde threat protection-mogelijkheden. Het platform gebruikt machine-learning-algoritmen om gebruikersgedrag te analyseren en potentiële bedreigingen te detecteren, zoals phishingaanvallen of malware-infecties. Hierdoor kan Kiteworks aanvallen detecteren en voorkomen die te subtiel of complex zijn voor traditionele beveiligingsmaatregelen.

Bovendien biedt Kiteworks functies zoals data-encryptie, toegangscontroles en audittrail, die kunnen helpen beschermen tegen datalekken en naleving van regelgeving aantonen. Deze beveiligingsmaatregelen zijn essentieel om te beschermen tegen AI-ondersteunde aanvallen, die mogelijk geavanceerde technieken zoals social engineering of machine-learning-algoritmen gebruiken om toegang te krijgen tot gevoelige inhoud.

Kiteworks ondersteunt multi-factor authentication om ervoor te zorgen dat alleen geautoriseerde gebruikers toegang hebben tot het netwerk. Dit voegt een extra beveiligingslaag toe om cyberaanvallen te voorkomen waarbij hackers proberen gebruikersgegevens te stelen.

Plan een op maat gemaakte demo van Kiteworks om te ontdekken hoe Kiteworks vandaag is gebouwd om AI-ondersteunde cyberaanvallen te weerstaan.