Les applications conçues avec l’IA sont livrées grandes ouvertes
En 2026, la manière la plus rapide de divulguer des données d’entreprise sera de créer un outil utile avec une IA et d’oublier de vérifier qui peut y accéder. Deux actualités récentes illustrent ce même problème sous deux angles opposés. Dans l’un, des employés ont créé des applications avec un générateur IA, les rendant accessibles à toute personne disposant du lien. Dans l’autre, un connecteur d’un hébergeur pour assistants IA a servi de porte d’entrée.
Des chercheurs en sécurité chez Claroc ont identifié des dizaines de milliers d’applications créées avec Grok, accessibles sans authentification, dont 24 réalisées par des employés de SpaceXSI et X. Par ailleurs, l’hébergeur allemand Mittwald a signalé que des attaquants ont exploité une faille dans son serveur Model Context Protocol pour compromettre 56 projets clients. Une histoire porte sur ce que les utilisateurs créent avec l’IA, l’autre sur ce à quoi l’IA peut se connecter.
Les deux mènent au même constat. Du contenu sensible se retrouve derrière une porte que personne n’a vérifiée, et l’organisation l’apprend par un tiers. Pour un RSSI ou un Chief Compliance Officer, la leçon n’est pas l’échec d’un fournisseur, mais le fait que l’IA a accéléré la création et la connexion de systèmes bien plus vite que leur gouvernance.
Résumé des points clés
- Facile à construire, facile à exposer. Claroc a rapporté que 35 578 applications Grok étaient ouvertes sans compte, soit environ 94,7 % des applications ayant répondu.
- Les créateurs ne sont pas des externes négligents. Vingt-quatre de ces applications ouvertes ont été créées par des employés de SpaceXSI et X, ce qui montre que les paramètres par défaut et les habitudes comptent plus que l’expertise.
- Les connecteurs IA sont une surface d’attaque. Mittwald a retracé la compromission de 56 projets clients à une faille dans le serveur reliant son panneau d’hébergement aux assistants IA.
- La détection a pris du retard dans les deux cas. Mittwald a mis huit jours à détecter l’exploitation, et les applications Grok exposées ont été découvertes par des chercheurs externes.
- La gouvernance doit commencer au niveau des données. Contrôler ce que les applications et connecteurs IA peuvent atteindre, et journaliser ces accès, est plus important que de surveiller chaque outil.
Ce que Claroc a découvert dans les applications Grok
Claroc a publié ses résultats dans un rapport intitulé GhostShares 2. Les chiffres ci-dessous proviennent de ce rapport, qui détaille sa propre méthodologie.
Les chercheurs ont listé les noms sous le domaine grok.me à partir d’un service DNS passif commercial, récupérant la liste le 8 novembre 2026 après des requêtes quotidiennes débutées le 31 octobre. Ils ont compté 43 551 applications distinctes chargées, dont 35 578 ouvertes sans authentification. 1 993 autres ont renvoyé une erreur d’authentification. Claroc indique qu’environ 94,7 % des applications ayant répondu étaient accessibles à tous. Le rapport ne précise pas le sort des autres applications du total.
Puis le contenu. L’analyse assistée par IA de Claroc a révélé qu’environ une application sur dix contenait des données sensibles, internes ou personnelles. Environ 2 % étaient estimées contenir des informations jugées hautement sensibles ou critiques, et les auteurs précisent que leur seconde analyse, plus stricte, surestime probablement ce chiffre, qui serait plutôt de 650 à 800 applications. Ils ont confirmé manuellement 150 expositions. Parmi les exemples : un briefing patient en soins intensifs, un planning du personnel hospitalier, un tableau de service des pompiers et une application de feuilles de temps avec mots de passe en clair. Trente organisations ont été identifiées en dehors de SpaceXSI et X, dont 26 avec plus de 1 000 employés et six du Fortune 500.
La méthode mérite d’être soulignée, car elle influence la lecture des chiffres. Claroc a consulté chaque première page une seule fois sans compte, n’a pas utilisé les identifiants trouvés, et a rendu les pages hors ligne. Un contrôle aléatoire de 100 applications évaluées par IA a montré que 75 étaient conformes. Autrement dit, il s’agit d’estimations prudentes, pas d’un audit exhaustif.
La réponse de SpaceXSI, relayée dans le rapport, indique que les applications Grok sont privées tant que leur créateur ne les partage pas, et que les comptes employés sont par défaut sur l’option Only you. Les chercheurs contestent que des étapes de publication supplémentaires protègent les données, notant que l’option Anyone with the link était présélectionnée dans leur propre compte. SpaceXSI a supprimé les 24 applications créées par ses employés après les questions d’un journaliste, mais pas celles d’autres utilisateurs.
Les paramètres par défaut, vraie vulnérabilité
Il serait tentant de voir là un simple problème de configuration chez un fournisseur. Ce serait passer à côté du vrai schéma.
Quand un outil rend la création triviale, la personne qui construit n’est presque jamais un expert en sécurité. Un analyste marketing crée un tableau de bord, un cadre infirmier un planning, un employé de la finance une application de pointage. Chacun veut partager avec ses collègues, et le moyen le plus simple est un lien. Que ce lien nécessite une authentification dépend d’un paramètre que la plupart des créateurs ne voient jamais.
C’est du shadow IT à une cadence accélérée. Il y a dix ans, le système non autorisé était un tableur envoyé par e-mail. Aujourd’hui, c’est une application hébergée avec une adresse publique, une base de données derrière, et parfois des identifiants intégrés. L’échelle a changé, tout comme le mode de découverte. Les attaquants et chercheurs peuvent recenser les applications publiques via les enregistrements DNS sans toucher à votre réseau. Si vous attendez que vos propres scanners les trouvent, vous serez en retard.
Selon l’étude Oh, Behave! de la NCA et CybSafe, 32 % des utilisateurs d’IA en entreprise ont partagé des données sensibles sans que leur employeur le sache. Ajoutez à cela un générateur IA qui publie par défaut, et vous obtenez les conditions du cas Claroc. Prenez-le comme un résultat d’enquête, mais notez à quel point il colle aux comportements observés.
Mittwald et le problème du connecteur IA
La deuxième histoire concerne un logiciel intermédiaire entre assistants IA et une plateforme. Mittwald CM Service, hébergeur allemand pour agences, propose un panneau de gestion appelé mStudio. Il offrait un serveur Model Context Protocol pour permettre aux clients de connecter des assistants IA à ce panneau.
Selon webhosting.today et The Record, Mittwald raconte qu’un attaquant a d’abord testé une vulnérabilité du serveur MCP en octobre, s’est déplacé sur la plateforme comme un utilisateur ordinaire, puis a exploité la faille le 27 octobre, cinq minutes après avoir créé un autre compte. L’attaquant a lu des jetons de session, pas des mots de passe, de clients utilisant ce serveur, compromettant 56 projets. Mittwald a détecté un comportement inhabituel le 4 novembre, mis hors ligne certaines parties de ses systèmes, identifié le serveur MCP comme point d’entrée et l’a désactivé. L’entreprise a fait appel à des spécialistes externes, informé les autorités compétentes, révoqué les jetons et bloqué les clés API par précaution.
Plusieurs points méritent d’être soulignés. Mittwald indique avoir identifié et corrigé la faille, sans préciser si le serveur MCP sera rétabli. Selon l’évaluation actuelle, les clients n’ayant jamais utilisé ce serveur n’ont pas été affectés. Aucune preuve de publication de données clients n’a été trouvée à ce stade, mais les vérifications se poursuivent. Son CEO s’attend à une hausse des attaques pilotées par IA, et l’entreprise estime que la rapidité de l’attaque suggère l’utilisation d’outils IA.
Mittwald précise avoir localisé la faille mais ne la décrit pas, donc évitez d’avancer une cause au-delà de ce que l’entreprise a communiqué.
Ce que ces deux histoires ont en commun
En apparence, ces cas n’ont rien à voir. L’un concerne un générateur IA grand public, l’autre un connecteur d’hébergement d’entreprise. En réalité, trois points convergent.
L’autorisation était laxiste. Dans le cas Grok, un lien ouvert faisait office de contrôle d’accès. Chez Mittwald, les jetons de session récupérés par l’attaquant étaient la clé. Aucun piratage sophistiqué : dans les deux cas, des identifiants ou liens fonctionnaient pour quiconque les possédait.
La visibilité était faible. Personne dans les organisations concernées n’avait la liste complète des applications ou connexions créées. Mittwald a mis huit jours entre l’exploitation et la détection. Claroc a trouvé les expositions via des données DNS publiques accessibles à tous.
L’ampleur de l’incident dépendait des données. Les jetons ouvraient des projets, les liens ouverts exposaient du contenu métier. Ce que l’attaquant pouvait atteindre dépendait de ce que l’application ou le connecteur pouvait atteindre, pas de la sophistication de l’attaque.
C’est pourquoi la démarche zero trust generative AI est pertinente. Elle considère chaque application ou connecteur IA comme un accès non fiable, exige une authentification à chaque requête, limite les accès et journalise toutes les opérations.
Que doit faire un RSSI ce trimestre ?
Commencez par recenser l’existant. Utilisez des outils de découverte d’actifs externes pour lister les noms d’hôtes publics liés à votre entreprise, y compris sur les domaines des générateurs IA, et interrogez les métiers sur ce qu’ils ont créé. Ne vous fiez pas à une politique interdisant la création d’outils : partez du principe qu’ils existent.
Puis, définissez une règle pour les générateurs IA. Décidez des outils autorisés, imposez l’authentification pour tout ce qui touche à des données métier ou personnelles, et définissez la confidentialité par défaut. Si un outil ne permet pas cela, limitez-le à des usages non sensibles.
Ensuite, faites l’inventaire de vos connecteurs IA. Listez chaque serveur MCP, plugin et connexion API permettant à un assistant IA d’agir sur vos systèmes. Pour chacun, notez qui peut l’utiliser, ce qu’il peut lire et écrire, comment il s’authentifie et où vont ses logs. Le cas Mittwald montre ce qui se passe quand un connecteur constitue un chemin de confiance comportant une faille.
Après cela, réduisez le temps de détection. Alimentez vos logs de connecteurs et d’applications dans votre SIEM, et configurez des alertes sur l’utilisation inhabituelle de jetons, la création rapide de comptes suivie d’actions privilégiées, et l’accès à des chemins sensibles. Huit jours, c’est long pour qu’un attaquant conserve une session active.
Enfin, changez les identifiants après tout incident impliquant des jetons. Les recommandations de Mittwald à ses clients — changer les mots de passe, activer l’authentification à deux facteurs, revoir les clés API et renouveler les identifiants tiers stockés dans les projets — constituent un modèle pertinent. L’authentification multifactorielle ne bloque pas à elle seule le vol de jeton de session, mais elle réduit les chemins d’attaque.
Ce qu’un Chief Compliance Officer doit demander
Les responsables conformité font face à une variante du problème. Une application créée par IA qui contient des données personnelles peut provoquer un incident de confidentialité sans acteur malveillant. Si l’application contient des informations médicales, les obligations HIPAA s’appliquent. Si elle contient des données de résidents européens, les exigences RGPD s’imposent, quel que soit le créateur ou la rapidité de création.
Posez cinq questions. Quels générateurs et connecteurs IA sont utilisés, et qui les a validés ? Quelles catégories de données réglementées y ont été placées ? Lesquels exigent une authentification ? Où sont leurs logs, et combien de temps sont-ils conservés ? Quel est le processus pour découvrir, évaluer et, si besoin, déclarer une exposition ?
Si les réponses reposent sur la bonne volonté plutôt que sur des preuves, vous avez la même faille de visibilité que Claroc et Mittwald ont révélée. Ce qu’un régulateur ou auditeur demandera, c’est un inventaire et un journal, pas une déclaration d’intention. Des contrôles d’accès stricts et une gestion des risques liés aux tiers s’appliquent aux fournisseurs IA comme à tout autre prestataire.
Gouverner les données derrière les applications
Surveiller chaque outil IA est une course perdue d’avance. De nouveaux générateurs et connecteurs apparaissent chaque semaine. Le contrôle durable se situe au niveau des données, où la politique suit le contenu, quel que soit l’outil qui le sollicite.
Le schéma repose sur quatre axes. Les assistants et agents IA accèdent au contenu sensible uniquement via un canal contrôlé. Chaque requête est authentifiée et évaluée selon des règles basées sur des attributs. Les identifiants d’authentification restent hors de portée du modèle, donc une invite ne peut les extraire. Et chaque opération est consignée dans un journal d’audit consultable par l’équipe sécurité.
Kiteworks intègre cela dans son Serveur MCP sécurisé, qui permet aux assistants IA d’interagir avec le contenu dans l’espace d’échange sécurisé de Kiteworks tout en héritant des autorisations de l’utilisateur, avec des jetons stockés dans le gestionnaire d’identifiants du système d’exploitation. Il propose aussi Kiteworks Compliant AI, qui étend le moteur de règles et la journalisation aux workflows IA. Le périmètre est honnêtement limité : Kiteworks ne sécurise pas les applications créées dans d’autres outils IA, et n’opère pas dans le panneau de contrôle d’un hébergeur. Il régule l’accès IA au contenu hébergé sur la plateforme Kiteworks et trace ces accès. Pour une organisation dont les fichiers les plus sensibles résident sur la plateforme, cela transforme un ensemble d’inconnues en une question délimitée, avec un journal à l’appui. Pour la vision globale, voir protection des données IA et contrôle d’accès basé sur les rôles.
La grande leçon
L’IA a changé qui peut créer des logiciels, et à quelle vitesse. Elle n’a pas changé ce que recherchent les attaquants : des données accessibles. Chaque organisation aura plus d’applications, plus de connecteurs et plus de créateurs que son équipe sécurité ne pourra en auditer manuellement.
Décidez donc à l’avance ce qui n’est pas négociable. Les données sensibles ne sont accessibles que via des canaux régulés. Tout accès IA est authentifié et limité. Chaque accès est journalisé. Puis mesurez le temps nécessaire pour découvrir quelque chose dont vous ignoriez l’existence. Si la réponse se compte en jours, comme chez Mittwald, ou jamais, comme pour les applications Grok ouvertes, c’est ce chiffre qu’il faut améliorer en priorité.
Pourquoi la sécurité applicative classique passe à côté de ces applications
Les programmes de sécurité applicative se sont construits autour de code écrit, relu et déployé par des équipes d’ingénierie via des pipelines contrôlés. Les applications étudiées par Claroc ne suivent pas ce schéma. Elles sont créées par des utilisateurs métiers dans l’environnement d’un fournisseur et publiées en un clic.
Cela remet en cause plusieurs postulats. Il n’y a pas de pull request à relire, pas de scan dans un pipeline de build, pas de ticket dans la file sécurité. Le nom d’hôte peut se trouver sur le domaine du fournisseur, donc absent de votre inventaire DNS. Les données peuvent arriver via un formulaire conçu par le créateur, sans classification. Et la personne responsable ne se considère pas comme ayant développé un logiciel.
La stratégie de contrôle doit partir du point d’exposition. La découverte doit être externe, via des outils d’analyse de surface d’attaque et des recherches DNS passives sur vos noms et marques sur les domaines de générateurs IA. La gouvernance doit porter sur les données, car le risque vient du contenu hébergé. Et la politique doit s’adresser à l’utilisateur, car la décision de publier lui appartient.
Adoptez des règles simples. Toute application IA qui traite des données clients, patients, collaborateurs ou financières doit exiger une authentification et être enregistrée avec un propriétaire identifié. Les applications non enregistrées sont supprimées après notification. Les catégories sensibles sont interdites sur les générateurs IA, sauf si l’outil est validé en entreprise avec des garanties contractuelles. Ces règles sont faciles à formuler et à appliquer dès lors que vous avez la visibilité sur les applications.
Un passage en revue pour connecteurs et générateurs
Tout nouveau générateur IA, plugin ou connecteur MCP doit passer un examen rapide avant d’être utilisé avec des données d’entreprise. Ce contrôle n’a pas besoin d’être long : une checklist d’une page suffit à couvrir la plupart des risques.
Authentification. L’outil prend-il en charge le single sign-on et impose-t-il la connexion par défaut pour les contenus publiés ? Les administrateurs peuvent-ils forcer ce paramètre ?
Autorisation. Que peut lire ou écrire le connecteur ? Peut-on restreindre ses autorisations à celles de l’utilisateur, ou fonctionne-t-il avec un compte de service large ? Dans le cas Mittwald, les jetons récupérés étaient le butin, donc la gestion des jetons (émission, stockage, révocation) est cruciale.
Journalisation. L’outil trace-t-il qui l’utilise, ce qui est consulté et quand ? Les logs sont-ils exploitables dans votre SIEM ?
Gestion des données. Où vont les données, combien de temps sont-elles conservées, servent-elles à l’entraînement ? Que se passe-t-il à la suppression du projet ?
Gestion des vulnérabilités. Comment le fournisseur divulgue-t-il et corrige-t-il les failles ? Y a-t-il un contact sécurité, et quels délais de réponse sont annoncés ?
Sortie. Pouvez-vous désactiver rapidement l’outil en cas de problème, et exporter ou supprimer vos données ?
Consignez le résultat et réévaluez-le chaque année, ou plus tôt en cas d’incident chez le fournisseur. Ce processus s’inspire de ce que font déjà de nombreuses équipes pour les applications SaaS. La différence, c’est le volume et la rapidité, donc gardez-le suffisamment léger pour qu’il soit utilisé. Complétez-le par des revues de gestion des risques liés aux tiers pour les grands fournisseurs et par des pratiques de gestion des risques supply chain pour les composants open source.
Des indicateurs pour mesurer l’efficacité
Sans indicateurs, la gouvernance reste théorique. Quelques métriques permettent de garder le cap.
Nombre d’applications et connecteurs IA connus, et part avec propriétaire identifié. Part nécessitant une authentification. Délai moyen entre la création d’une application exposée et sa découverte par vos équipes, comparé à la possibilité pour un tiers de la trouver. Nombre de connecteurs utilisant un compte de service large. Délai moyen de révocation des jetons après incident. Et part des accès IA aux données passant par un canal régulé et journalisé.
Suivez ces indicateurs dans le temps et analysez la tendance. Une part croissante d’accès régulés et un temps de découverte en baisse sont de bons signaux. Si les chiffres stagnent, cherchez pourquoi : cela pointe souvent un service métier trouvant la voie officielle trop lente.
Méfiez-vous des chiffres trompeurs. Par exemple, le nombre de requêtes bloquées peut augmenter à cause de scans d’attaquants ou d’un outil trop bavard. Privilégiez des mesures liées à l’exposition réelle et à des preuves. Associez-les à des exercices réguliers. Une équipe red team qui cherche à trouver les applications IA publiques de vos propres employés vous apprendra plus qu’un tableau de bord.
Pour voir comment un connecteur IA régulé applique la politique et journalise chaque requête, demandez une démo Kiteworks et explorez la piste d’audit avec notre équipe.
Foire aux questions
Utilisez la découverte d’actifs externes pour rechercher les noms d’hôtes liés à votre entreprise sur les domaines de générateurs IA, analysez les données DNS passives et interrogez directement les métiers sans sanctionner l’honnêteté. Croisez les résultats avec les logs réseau et identité. Puis imposez l’authentification et la validation pour tout ce qui touche aux données métier. Voir gouvernance des données IA.
Un serveur Model Context Protocol permet à des assistants IA de se connecter à un système et d’agir via une interface standardisée. Il devient risqué s’il accorde des droits étendus ou présente des failles, comme dans le cas Mittwald. Limitez ses autorisations, exigez l’authentification à chaque requête et journalisez tout.
Cela dépend de l’outil et des paramètres. Dans l’étude Claroc, l’option Anyone with the link était présélectionnée dans le compte des chercheurs, même si SpaceXSI affirme que les applications sont privées tant que le créateur ne les partage pas. Vérifiez vous-même les paramètres par défaut de chaque outil et imposez la confidentialité comme standard. Renforcez les contrôles d’accès autour de ces applications.
Mettez le connecteur hors ligne, révoquez les jetons et clés API, analysez les logs pour détecter toute activité pendant la période d’exposition, changez les identifiants stockés dans les systèmes concernés et informez les parties affectées si nécessaire. La réponse de Mittwald constitue un modèle pertinent. Suivez votre plan de gestion des incidents.
Pas à elle seule. L’authentification multifactorielle protège l’étape de connexion, mais un jeton de session volé peut la contourner. Associez-la à des durées de vie courtes pour les jetons, leur révocation, un accès conditionnel et une surveillance des usages inhabituels. Pour en savoir plus sur l’authentification multifactorielle en contexte.
Ressources complémentaires
- Article de blog Zero Trust Architecture : Ne jamais faire confiance, toujours vérifier
- Vidéo Microsoft GCC High : Les inconvénients qui poussent les sous-traitants de la défense vers des alternatives plus intelligentes
- Article de blog Sécuriser les données classifiées après détection DSPM
- Article de blog Instaurer la confiance dans l’IA générative grâce au Zero Trust
- Vidéo Guide de référence pour le stockage sécurisé des données sensibles à destination des responsables IT