AI-gebouwde apps worden geleverd met de deuren wagenwijd open
De snelste manier om bedrijfsgegevens te lekken in 2026 is iets nuttigs bouwen met een AI-tool en vergeten te vragen wie er nog meer toegang heeft. Twee verhalen van afgelopen week tonen hetzelfde falen vanuit tegenovergestelde richtingen. In het ene geval bouwden medewerkers apps met een AI-bouwer en lieten ze deze toegankelijk voor iedereen met een link. In het andere geval werd de connector van een hostingbedrijf voor AI-assistenten de toegangspoort.
Beveiligingsonderzoekers van Claroc vonden tienduizenden apps gebouwd met Grok die zonder inloggen toegankelijk waren, waaronder 24 gebouwd door medewerkers van SpaceXSI en X. Los daarvan meldde de Duitse webhost Mittwald dat aanvallers een kwetsbaarheid in hun Model Context Protocol-server gebruikten om 56 klantprojecten te compromitteren. Het ene verhaal gaat over wat mensen bouwen met AI. Het andere over waar AI verbinding mee mag maken.
Beide eindigen op dezelfde plek. Gevoelige inhoud staat achter een deur die niemand heeft gecontroleerd, en de organisatie hoort het van een ander. Voor een CISO of Chief Compliance Officer is de les niet dat één leverancier faalde. Het is dat AI de kosten voor het creëren en verbinden van systemen veel sneller heeft verlaagd dan de kosten voor het beheren ervan.
Belangrijkste inzichten
- Makkelijk bouwen betekent makkelijk blootstellen. Claroc rapporteerde dat 35.578 Grok-apps zonder account geopend konden worden, ongeveer 94,7 procent van de apps die reageerden.
- De bouwers waren geen onzorgvuldige buitenstaanders. Vierentwintig van de open apps waren gemaakt door medewerkers van SpaceXSI en X, wat suggereert dat standaardinstellingen en gewoontes belangrijker zijn dan expertise.
- AI-connectors zijn een aanvalsvlak. Mittwald herleidde een datalek bij 56 klantprojecten tot een kwetsbaarheid in de server die hun hostingpaneel aan AI-assistenten koppelt.
- Detectie liep in beide gevallen achter. Mittwald deed er acht dagen over om misbruik te ontdekken, en de blootgestelde Grok-apps werden gevonden door externe onderzoekers.
- Governance moet bij de data beginnen. Bepalen waar AI-gebouwde apps en AI-connectors bij kunnen, en dit loggen, is belangrijker dan elk hulpmiddel afzonderlijk controleren.
Wat Claroc vond in Grok-gebouwde apps
Claroc publiceerde zijn bevindingen in een rapport getiteld GhostShares 2. De onderstaande cijfers komen uit dat rapport, dat zijn eigen methodologie beschrijft.
De onderzoekers verzamelden namen onder het grok.me-domein via een commerciële passieve DNS-dienst, waarbij de lijst op 8 november 2026 werd opgehaald na dagelijkse queries die begonnen op 31 oktober. Ze telden 43.551 unieke apps die laadden, waarvan 35.578 zonder inloggen toegankelijk waren. Nog eens 1.993 gaven een authenticatiefout. Volgens Claroc was ongeveer 94,7 procent van de apps die reageerden open voor iedereen. Het rapport verklaart de resterende apps in het totaal niet.
Dan de inhoud. De AI-ondersteunde beoordeling van Claroc schatte dat ongeveer één op de tien apps gevoelige informatie, interne bedrijfsgegevens of persoonsgegevens bevatte. Ongeveer 2 procent werd ingeschat als hoog of kritiek, en de auteurs geven aan dat hun strengere tweede beoordeling waarschijnlijk te hoog uitvalt, waardoor het werkelijke aantal rond de 650 tot 800 apps ligt. Ze bevestigden handmatig 150 blootstellingen. Voorbeelden waren onder meer een IC-patiëntenoverzicht, een ziekenhuispersoneelsrooster, een dienstrooster van de brandweer en een urenregistratie-app met wachtwoorden in platte tekst. Dertig organisaties werden geïdentificeerd naast SpaceXSI en X, waarvan 26 met meer dan 1.000 medewerkers en zes uit de Fortune 500.
De methode verdient aandacht, omdat deze bepaalt hoe je de cijfers leest. Claroc vroeg elke eerste pagina één keer op zonder account, gebruikte geen gevonden inloggegevens en renderde pagina’s offline. Een steekproef van 100 AI-geclassificeerde apps bleek in 75 gevallen te kloppen. Met andere woorden: dit zijn zorgvuldige schattingen, geen audit van elke app.
De reactie van SpaceXSI, zoals het rapport het weergeeft, was dat Grok-apps privé zijn totdat de maker ervoor kiest ze te delen, en dat medewerkersaccounts standaard op de instelling Alleen jij staan. De onderzoekers betwisten dat extra publicatiestappen data beschermen, en merken op dat de optie Iedereen met de link in hun eigen account vooraf geselecteerd was. SpaceXSI haalde de 24 door medewerkers gebouwde apps offline na vragen van een journalist, maar niet de apps van andere gebruikers.
Standaardinstellingen zijn het echte kwetsbaarheidspunt
Het is verleidelijk dit als een probleem van één leverancier te zien. Maar daarmee mis je het patroon.
Als een tool bouwen triviaal maakt, is de bouwer zelden een security engineer. Een marketinganalist maakt een dashboard, een verpleegkundig manager een dienstrooster, en een financieel medewerker een urenregistratie-app. Iedereen wil het delen met collega’s, en de makkelijkste manier is een link. Of de link inloggen vereist, hangt af van een instelling die de meeste bouwers nooit zien.
Dit is shadow IT met een snellere klok. Tien jaar geleden was het ongeautoriseerde systeem een spreadsheet die rondgemaild werd. Nu is het een gehoste applicatie met een publiek adres, een database erachter en mogelijk ingebedde inloggegevens. De schaal is anders, en ook het ontdekkingstraject. Aanvallers en onderzoekers kunnen publieke apps via DNS-records in kaart brengen zonder je netwerk te raken. Als je wacht tot je eigen scanners ze vinden, ben je later dan zij.
Uit het NCA en CybSafe Oh, Behave!-onderzoek bleek dat 32 procent van de AI-gebruikers op het werk gevoelige bedrijfsdata had gedeeld zonder medeweten van de werkgever. Combineer dat met een AI-bouwer die standaard publiceert en je hebt de voorwaarden voor wat Claroc vond. Zie het als het resultaat van één onderzoek, maar let op hoe goed het gedrag weerspiegelt.
Mittwald en het AI-connectorprobleem
Het tweede verhaal draait om software die tussen AI-assistenten en een platform zit. Mittwald CM Service, een Duitse webhost die bureaus bedient, draait een hostingmanagementpaneel genaamd mStudio. Het bood een Model Context Protocol-server zodat klanten AI-assistenten konden koppelen aan dat paneel.
Het eigen verslag van Mittwald, zoals gemeld door webhosting.today en The Record, verloopt als volgt. Een aanvaller testte eerst een kwetsbaarheid in de MCP-server in oktober, bewoog zich als gewone gebruiker door het platform en misbruikte de kwetsbaarheid op 27 oktober, vijf minuten na het registreren van een ander account. De aanvaller las sessietokens, geen wachtwoorden, van klanten die de server gebruikten en compromitteerde 56 projecten. Mittwald merkte ongebruikelijk gedrag op 4 november, zette delen van het systeem offline, identificeerde de MCP-server als toegangspunt en schakelde deze uit. Het schakelde externe forensische specialisten in, informeerde de relevante autoriteiten en trok tokens in en blokkeerde API-sleutels als voorzorgsmaatregel.
Verschillende details zijn het onderstrepen waard. Mittwald zegt dat het de kwetsbaarheid heeft gevonden en gesloten, en heeft nog niet gezegd of de MCP-server terugkomt. De huidige inschatting is dat klanten die de server nooit gebruikten niet zijn getroffen. Er is tot nu toe geen bewijs gevonden dat klantdata is gepubliceerd, hoewel controles doorgaan. De CEO verwacht dat AI-gedreven aanvallen vaker zullen voorkomen, en het bedrijf zegt dat de snelheid van de aanvaller suggereert dat AI-tools zijn gebruikt.
Mittwald zegt dat het de kwetsbaarheid heeft gevonden maar beschrijft deze niet, dus vermijd het benoemen van een oorzaak buiten wat het bedrijf zelf heeft gezegd.
Wat de twee verhalen gemeen hebben
Op het eerste gezicht lijken deze gevallen los van elkaar te staan. De ene betreft een consumentgerichte AI-bouwer, de andere een enterprise-hostingconnector. Onder de oppervlakte komen drie zaken overeen.
Autorisatie was zwak. In het Grok-geval was een open link de toegangscontrole. In het Mittwald-geval waren sessietokens die door de aanvaller werden verkregen de sleutel. Geen van beide betrof een complexe hack. Beide draaiden om inloggegevens of links die voor iedereen werkten die ze had.
Zichtbaarheid was slecht. Niemand bij de getroffen organisaties had een compleet overzicht van wat er gebouwd of gekoppeld was. Mittwald deed er acht dagen over tussen misbruik en detectie. Claroc vond blootstellingen via publieke DNS-data die elke buitenstaander kon gebruiken.
De impact volgde de data. Tokens openden projecten, en open links stelden bedrijfsinhoud bloot. Wat een aanvaller kon bereiken hing af van waar de app of connector bij mocht, niet van hoe slim de aanval was.
Dit is waarom zero trust generative AI denken helpt. Het behandelt elke AI-gebouwde app en elke AI-connector als een niet-vertrouwde gebruiker. Het vraagt bij elk verzoek om authenticatie, beperkt wat elke app of connector kan bereiken en registreert wat er gebeurt.
Wat een CISO dit kwartaal moet doen
Begin met inventariseren wat er bestaat. Gebruik externe asset discovery om publieke hostnamen die aan je bedrijf zijn gekoppeld in kaart te brengen, ook op AI-bouwerdomeinen, en vraag business units wat ze hebben gebouwd. Vertrouw niet op een beleid dat mensen verbiedt iets te bouwen. Ga ervan uit dat ze het toch doen.
Stel vervolgens een regel op voor AI-bouwers. Bepaal welke tools zijn goedgekeurd, eis inloggen voor alles wat bedrijfs- of persoonsgegevens raakt en maak privé de standaardinstelling. Kan een tool dat niet afdwingen, beperk het dan tot niet-gevoelige toepassingen.
Maak daarna een inventaris van je AI-connectors. Noteer elke MCP-server, plugin en API-verbinding waarmee een AI-assistent op je systemen kan werken. Leg per stuk vast wie het mag gebruiken, wat het kan lezen en schrijven, hoe het authenticatie regelt en waar de logs naartoe gaan. Het Mittwald-geval laat zien wat er gebeurt als de connector een vertrouwde route is met een kwetsbaarheid erin.
Verkort daarna de detectietijd. Stuur connector- en applicatielogs naar je SIEM en stel meldingen in op ongebruikelijk tokengebruik, nieuwe accounts die snel gevolgd worden door bevoorrechte acties en toegang tot gevoelige paden. Acht dagen is lang voor een aanvaller om een sessie vast te houden.
Draai tot slot inloggegevens om na elk incident waarbij tokens betrokken zijn. De aanbeveling van Mittwald aan klanten om wachtwoorden te wijzigen, multi-factor authentication in te schakelen, API-sleutels te herzien en in projecten opgeslagen externe inloggegevens te vernieuwen, is een goed voorbeeld. MFA voorkomt niet dat een gestolen sessietoken wordt misbruikt, maar beperkt wel de routes eromheen.
Wat een Chief Compliance Officer moet vragen
Compliance-leiders krijgen een andere variant van het probleem. Een AI-gebouwde app met persoonsgegevens kan een privacy-incident veroorzaken zonder kwaadwillende. Als de app gezondheidsinformatie bevat, gelden HIPAA-verplichtingen. Bevat het data van EU-inwoners, dan gelden GDPR-verplichtingen, ongeacht wie de app bouwde of hoe snel.
Stel vijf vragen. Welke AI-bouwers en connectors zijn in gebruik en wie heeft ze goedgekeurd? Welke categorieën gereguleerde data zijn erin geplaatst? Welke vereisen authenticatie? Waar zijn hun logs en hoe lang worden ze bewaard? En wat is het proces voor het ontdekken, beoordelen en zo nodig melden van een blootstelling?
Als de antwoorden afhangen van goede wil in plaats van registraties, heb je hetzelfde zichtbaarheidsgat dat Claroc en Mittwald blootlegden. Het bewijs dat een toezichthouder of auditor zal vragen is een inventaris en een log, niet een intentieverklaring. Sterke toegangscontroles en risicobeheer door derden gelden voor AI-leveranciers zoals voor elke leverancier.
Data governance achter de apps
Elke AI-tool afzonderlijk controleren is een verloren race. Elke week verschijnen er nieuwe bouwers en connectors. De duurzame controle zit bij de data, waar beleid de inhoud kan volgen, ongeacht welke tool erom vraagt.
Het patroon heeft vier onderdelen. AI-assistenten en -agenten bereiken gevoelige inhoud alleen via een gecontroleerd kanaal. Elk verzoek wordt geauthenticeerd en getoetst aan op attributen gebaseerde beleidsregels. Authenticatiegegevens blijven buiten het bereik van het model, zodat een prompt ze niet kan uitlezen. En elke handeling wordt vastgelegd in één auditlog die het securityteam kan raadplegen.
Kiteworks bouwt dit in zijn Secure MCP Server, waarmee AI-assistenten kunnen werken met inhoud in de beveiligde gegevensuitwisseling van Kiteworks, terwijl ze de gebruikersrechten overnemen en tokens in de credential store van het besturingssysteem blijven. Ook biedt het Kiteworks Compliant AI, dat dezelfde beleidsengine en logging uitbreidt naar AI-workflows. De scope is eerlijk gezegd beperkt. Kiteworks beveiligt geen apps gebouwd in andere AI-tools en draait niet binnen het controlepaneel van een hostingprovider. Het regelt AI-toegang tot de inhoud op het Kiteworks-platform en legt die toegang vast. Voor een organisatie waarvan de meest gevoelige bestanden daar staan, verandert dat een berg onbekenden in een afgebakende vraag met een log erachter. Voor het bredere ontwerp, zie AI data protection en rolgebaseerde toegangscontrole.
De grotere les
AI heeft veranderd wie software kan maken en hoe snel. Het heeft niet veranderd wat aanvallers willen: toegankelijke data. Elke organisatie krijgt meer apps, meer connectors en meer mensen die bouwen dan het securityteam handmatig kan beoordelen.
Bepaal daarom vooraf wat niet onderhandelbaar is. Gevoelige data is alleen bereikbaar via gecontroleerde kanalen. Elke AI-gebruiker wordt geauthenticeerd en beperkt. Elke toegang wordt gelogd. Meet vervolgens hoe lang het duurt voordat je iets ontdekt wat je niet wist dat bestond. Als het antwoord in dagen wordt gemeten, zoals bij Mittwald, of nooit, zoals bij de open Grok-apps, is dat het eerste getal om te verbeteren.
Waarom traditionele applicatiebeveiliging deze apps mist
Applicatiebeveiligingsprogramma’s zijn ontstaan rond code die engineeringteams schrijven, beoordelen en uitrollen via gecontroleerde pipelines. De apps in het Claroc-onderzoek volgen dat pad niet. Ze worden gemaakt door zakelijke gebruikers in de omgeving van een leverancier en met één klik gepubliceerd.
Dat doorbreekt verschillende aannames. Er is geen pull request om te beoordelen, geen scan in een build pipeline en geen ticket in de securityqueue. De hostname kan op het domein van de leverancier staan, waardoor deze niet in je DNS-inventaris voorkomt. De data kan binnenkomen via een formulier dat de bouwer zelf ontwierp, zonder dataclassificatie. En degene die verantwoordelijk is, ziet zichzelf vaak niet als softwarebouwer.
Een controlstrategie moet beginnen waar de blootstelling optreedt. Discovery moet naar buiten kijken, met externe attack surface-tools en passieve DNS-zoektochten naar je bedrijfsnamen en merken op AI-bouwerdomeinen. Governance moet naar de data kijken, want het gevaarlijke deel van een app is de inhoud. En beleid moet de gebruiker bereiken, want de keuze om te publiceren is aan hen.
Denk aan een eenvoudige set regels. Elke AI-gebouwde app die klant-, patiënt-, medewerkers- of financiële data verwerkt, moet authenticatie vereisen en geregistreerd zijn met een benoemde eigenaar. Apps zonder registratie worden na melding verwijderd. Gevoelige categorieën zijn helemaal geblokkeerd voor AI-bouwers, tenzij de bouwer een goedgekeurde enterprise-tool is met contractuele bescherming. Deze regels zijn eenvoudig te formuleren en te handhaven zodra je zicht hebt op de apps.
Een reviewstap voor connectors en bouwers
Elke nieuwe AI-bouwer, plugin of MCP-connector moet een lichte review doorlopen voordat deze met bedrijfsdata wordt gebruikt. De review hoeft niet traag te zijn. Een checklist van één pagina dekt het grootste deel van het risico.
Authenticatie. Ondersteunt de tool single sign-on en vereist deze standaard inloggen voor gepubliceerde output? Kunnen beheerders die instelling afdwingen?
Autorisatie. Wat kan de connector lezen en schrijven? Kunnen de rechten worden beperkt tot de toegang van de gebruiker, of draait het met een breed serviceaccount? In het geval van Mittwald waren tokens het doelwit, dus hoe tokens worden uitgegeven, opgeslagen en ingetrokken is belangrijk.
Logging. Registreert de tool wie hem gebruikt, wat hij aanraakt en wanneer? Kunnen die logs in bruikbaar formaat naar je SIEM?
Data-afhandeling. Waar gaat data naartoe, hoe lang blijft het en wordt het gebruikt voor training? Wat gebeurt er als het project wordt verwijderd?
Kwetsbaarheidshandling. Hoe meldt de leverancier problemen en hoe snel worden deze gepatcht? Is er een securitycontact en welke responstijden worden beloofd?
Exit. Kun je de tool snel uitschakelen als er iets misgaat, en kun je je data exporteren of verwijderen?
Leg de uitkomst vast en herzie deze jaarlijks, of eerder als de leverancier een incident heeft. Dit proces weerspiegelt wat veel teams al doen voor SaaS-applicaties. Het verschil is de hoeveelheid en snelheid, dus houd het licht zodat teams het echt gebruiken. Vul het aan met risicobeheer door derden voor grote leveranciers en met risicobeheer toeleveringsketen voor open source-componenten.
Metrics die laten zien of het werkt
Zonder metingen wordt governance een papieren tijger. Een paar metrics houden het eerlijk.
Telling van bekende AI-gebouwde apps en connectors, en aandeel met een benoemde eigenaar. Aandeel dat authenticatie vereist. Gemiddelde tijd van het aanmaken van een blootgestelde app tot ontdekking door je eigen team, vergeleken met wanneer een buitenstaander het had kunnen vinden. Telling van connectors met breed serviceaccounttoegang. Gemiddelde tijd tot het intrekken van tokens na een incident. En aandeel van AI-data-toegang dat via een gecontroleerd, gelogd kanaal loopt.
Volg deze cijfers in de tijd en toon de trend. Een stijgend aandeel gecontroleerde toegang en een dalende ontdekkingstijd vertellen een beter verhaal dan een statisch aantal risico’s. Als de cijfers stagneren, onderzoek waarom; vaak wijst dat op een business unit die de goedgekeurde route te langzaam vindt.
Wees voorzichtig met ijdelheidsgetallen. Het aantal geblokkeerde verzoeken kan bijvoorbeeld stijgen omdat aanvallers scannen of omdat je tooling veel lawaai maakt. Geef de voorkeur aan outcome-metrics die zijn gekoppeld aan blootstelling en bewijs. Combineer ze met periodieke oefeningen. Een red team dat probeert de publieke AI-gebouwde apps van je eigen medewerkers te vinden, leert je meer dan een dashboard.
Wil je zien hoe een gecontroleerde AI-connector beleid afdwingt en elk verzoek logt? Vraag een Kiteworks-demo aan en loop samen met ons team door het audittrail.
Veelgestelde vragen
Gebruik externe asset discovery om hostnamen die aan je bedrijf zijn gekoppeld op AI-bouwerdomeinen te zoeken, raadpleeg passieve DNS-data en vraag business units direct zonder sancties bij eerlijkheid. Combineer resultaten met netwerk- en identity logs. Eis daarna inloggen en goedkeuring voor alles wat bedrijfsdata raakt. Zie AI data governance.
Een Model Context Protocol-server laat AI-assistenten verbinden met een systeem en acties uitvoeren via een standaardinterface. Het wordt een risico als het brede toegang verleent of kwetsbaarheden bevat, zoals in het geval van Mittwald. Beperk de rechten, authenticeer elk verzoek en log alles.
Dat verschilt per tool en per instelling. In het Claroc-onderzoek was de optie Iedereen met de link vooraf geselecteerd in het account van de onderzoekers, hoewel SpaceXSI aangaf dat apps privé zijn totdat de maker ze deelt. Controleer zelf de standaardinstellingen van elke tool en maak privé de norm. Versterk toegangscontroles eromheen.
Haal de connector offline, trek tokens en API-sleutels in, bekijk logs op activiteiten uit het blootstellingsvenster, draai inloggegevens in getroffen systemen om en informeer betrokken partijen waar nodig. De reactie van Mittwald is een goed voorbeeld. Volg je incident response-plan.
Niet op zichzelf. MFA beschermt de inlogstap, maar een gestolen sessietoken kan het omzeilen. Combineer MFA met korte tokenlevensduur, intrekken van tokens, voorwaardelijke toegang en monitoring op ongebruikelijk gebruik. Lees meer over MFA in context.
Aanvullende bronnen
- Blog Post Zero Trust Architectuur: Nooit vertrouwen, altijd verifiëren
- Video Microsoft GCC High: Nadelen die defensie-aannemers richting slimmere voordelen drijven
- Blog Post Hoe je geclassificeerde data beveiligt zodra DSPM het signaleert
- Blog Post Vertrouwen opbouwen in generatieve AI met een Zero Trust-aanpak
- Video De definitieve gids voor veilige opslag van gevoelige data voor IT-leiders