La confiance ne suffit pas sans une traçabilité d’audit basée sur l’IA
Une équipe conformité incapable de démontrer ce que son IA a consulté et ce qu’elle a restitué s’expose désormais à un risque d’amende chiffré. Enhesa a interrogé 273 décideurs seniors en conformité, gestion des risques, EHS, juridique et développement durable dans des entreprises de plus de 5 000 salariés : 37 % des équipes ayant suivi des recommandations d’IA sans vérification ont signalé une amende réglementaire. Pour les autres, ce chiffre tombe à 13 %. Près de trois fois moins.
C’est le genre de ratio dont un conseil d’administration se souvient. Compliance Week a relayé ces résultats en novembre, sur la base d’un rapport mené en ligne en août 2026 à la demande d’Enhesa. Deux précautions s’imposent d’emblée : le fournisseur commercialise des solutions de conformité, et une différence de taux d’amende entre deux groupes d’équipes indique une corrélation, non une causalité directe. Mais ces réserves ne rendent pas le résultat négligeable. Pour un RSSI ou un Chief Compliance Officer, la question utile n’est pas la précision du ratio, mais la capacité de l’organisation à prouver, aujourd’hui, que la production de son IA a bien été vérifiée.
Voici ma position, qui diffère de la plupart des recommandations. Conseiller de « faire confiance mais vérifier » ne suffit pas. Un rappel n’est pas un contrôle, et une vérification non tracée reste anecdotique. Un auditeur ou un régulateur demande des preuves de ce que l’IA a eu le droit de lire, de ce qu’elle a effectivement consulté et des actions humaines qui ont suivi. Ces preuves doivent venir de l’infrastructure, c’est précisément le problème autour duquel Kiteworks secure data exchange a été conçu, avec une politique qui détermine ce qu’un client IA peut atteindre et un journal d’audit qui consigne chaque action.
Résumé des points clés
- La gouvernance de l’IA représente désormais un risque d’amende mesurable. Dans une enquête déclarative menée auprès de 273 responsables conformité de grandes entreprises, 37 % des équipes ayant agi sur la base de recommandations IA non vérifiées ont signalé une amende, contre 13 % pour les autres.
- La confiance ne suffit que si la vérification est tracée. Demander aux équipes de relire la production de l’IA formalise une règle, mais consigner qui a vérifié quoi et sur quelle source constitue la preuve attendue.
- La Shadow AI efface toute traçabilité. La majorité des équipes interrogées saisissent des données sensibles dans des outils IA personnels, décrits comme dépourvus de journalisation et de piste d’audit.
- L’application des politiques limite ce que l’IA peut lire. Kiteworks Secure MCP Server et Kiteworks Compliant AI évaluent chaque requête selon des politiques basées sur les rôles et les attributs, au niveau de la donnée, pour que personne ni aucun agent n’accède à plus que ce que la politique autorise.
- Un journal d’audit unique transforme la vérification en preuve. Un seul journal pour les personnes et les agents indique quel client IA a accédé à quel fichier et sous quelle autorité, mais une validation humaine reste indispensable pour juger la pertinence du résultat.
Ce que prouve (ou non) l’enquête Enhesa
Commençons par le profil des répondants. Les 273 personnes interrogées sont des décideurs seniors d’organisations de plus de 5 000 salariés, opérant dans au moins deux pays : il s’agit donc d’une vision grands comptes, non d’un panorama exhaustif de toutes les équipes conformité. Les réponses sont auto-déclarées et le commanditaire commercialise une solution du secteur. Gardez ces deux éléments à l’esprit pour la lecture des chiffres suivants.
Dans cet échantillon, l’IA a déjà dépassé le stade du pilote. Selon Enhesa, 76 % des équipes utilisent l’IA sur l’ensemble de leur fonction conformité ou de façon totalement autonome sur au moins une tâche clé, et seuls 1 % n’utilisent pas du tout l’IA. Personne ici ne se demande s’il faut adopter l’IA, mais comment vivre avec.
C’est la vérification qui fait défaut. Selon le résumé de SecurityBrief, 40 % des équipes conformité agissent « toujours ou souvent » sur la base de recommandations réglementaires générées par l’IA sans validation d’un expert, et 56 % déclarent avoir subi un préjudice au cours des 12 derniers mois, attribué à une production IA non vérifiée ou erronée.
Lisez bien : plus de la moitié de ces équipes peuvent citer un incident lié à une absence de vérification, et quatre sur dix continuent de se passer d’un avis expert par habitude. La vérification existe sur le papier, pas dans la pratique.
Mais il y a des limites : le résumé public ne définit pas la vérification au-delà de la comparaison, ne précise pas la période des amendes ni leur montant. Le rapport complet, sous accès restreint, répond peut-être à ces questions. Les équipes qui négligent la vérification peuvent aussi négliger d’autres disciplines, donc l’écart 37 contre 13 signale des habitudes et une exposition, non l’effet mesuré d’un seul contrôle. Ce signal mérite d’être pris en compte, mais il ne doit pas être présenté à un conseil sans ses réserves.
Vous pensez que votre organisation est sécurisée. Mais pouvez-vous le prouver ?
Pour en savoir plus :
La pression du temps explique pourquoi les équipes sautent l’étape de vérification
Personne ne saute la vérification par négligence. C’est la cadence du travail qui dépasse la capacité de lecture humaine. Enhesa indique que 88 % des répondants déclarent que les exigences changent à nouveau avant même que la précédente évolution soit pleinement appliquée, et 45 % citent la multiplicité des sources à surveiller comme principal défi.
Dans ce contexte, l’IA n’est pas un gadget, mais la seule façon de suivre le rythme. SecurityBrief ajoute qu’Enhesa a recensé plus de 22 000 changements réglementaires majeurs en 2025 et plus de 15 000 en 2026 (jusqu’en août). Aucune équipe experte ne lit ce volume ligne par ligne : la tentation d’accepter un résumé convaincant et de passer à autre chose est structurelle, pas morale.
C’est là tout l’enjeu de ces données. Le risque ne vient pas d’un manque de sérieux, mais d’un processus où la voie rapide et la voie vérifiée sont distinctes, et seule la première est balisée. Balisez la voie vérifiée : appliquez la politique, limitez les sources, activez la journalisation, et la vérification cesse d’être en concurrence avec la date butoir.
La vérification sur l’honneur : l’échec de la traçabilité
Tout le monde répète « faire confiance mais vérifier ». Cette formule masque un défaut de conception : elle s’adresse à un individu, à son bureau, un mardi après-midi, face à une échéance. Elle lui demande de se souvenir de vérifier, de le faire correctement, sans laisser de trace. C’est ce que j’appelle la vérification sur l’honneur, et les chiffres d’Enhesa en dressent un constat terrain.
Deux réponses intuitives échouent ici. Interdire la production IA dans la conformité pousse les équipes à la contourner, comme le montre la section suivante. L’autoriser avec un simple rappel revient à instaurer la vérification sur l’honneur. La solution, c’est de rendre la vérification observable, c’est-à-dire de poser une frontière à l’entrée et de consigner une trace.
Regardez ce que les praticiens eux-mêmes disent manquer. Seuls 32 % des répondants Enhesa se disent très confiants de pouvoir défendre la logique d’une décision conformité pilotée par l’IA, soit le plus faible score des sept fonctions mesurées. Défendre la logique est d’abord un problème de preuve, avant d’être un problème d’intelligence. On la défend avec des sources, des horodatages et une traçabilité de qui a vu quoi.
Eux savent aussi ce qu’ils attendent. Selon SecurityBrief, 91 % jugent la citation des sources essentielle avant d’agir sur une production IA, et 88 % souhaitent une piste d’audit complète. Ce ne sont pas les régulateurs qui le réclament, mais les professionnels eux-mêmes, conscients que l’infrastructure ne peut pas se résumer à un rappel par e-mail.
Et le rôle de l’humain ? 43 % estiment qu’un binôme IA + conseil expert humain serait le plus utile à leur équipe sur les 12 prochains mois, contre 39 % pour l’IA seule et 4 % pour l’humain seul. L’humain dans la boucle s’impose. Ce qui reste à définir, c’est comment prouver que la boucle est bien bouclée.
Tout l’enjeu est là : la variable, c’est la preuve, pas l’intention. Les intentions ne résistent pas à une demande d’audit. Les preuves, si.
La Shadow AI transforme un manque d’habitude en manque de preuve
La vérification suppose que l’usage de l’IA soit visible, or ce n’est souvent pas le cas. Enhesa indique que 64 % des répondants ont saisi des données sensibles dans des outils IA personnels ou non-corporate, décrits comme dépourvus de journalisation et de piste d’audit.
Une équipe conformité peut avoir la meilleure habitude de relecture du secteur : si le travail s’effectue dans un outil sans traçabilité, l’audit n’a rien à examiner. La question de la vérification devient insoluble. Ce n’est pas une mauvaise réponse, c’est l’absence de réponse.
Les conséquences, selon SecurityBrief, sont déséquilibrées. Parmi les équipes ayant saisi des données sensibles dans de tels outils, 82 % déclarent un incident, contre 9 % pour celles qui s’en sont abstenues. 82 contre 9. Là encore, il s’agit d’une association dans une enquête auto-déclarée, et les équipes évitant les outils personnels peuvent différer sur d’autres points, mais un tel écart mérite attention avant le prochain audit.
Les agents IA font monter les enjeux
L’IA agentique aggrave la vérification sur l’honneur. Selon SecurityBrief, 37 % des équipes utilisent une IA totalement autonome ou agentique sur au moins une tâche, et 71 % d’entre elles déclarent un incident, contre 47 % des autres équipes.
Les mêmes réserves s’appliquent, donc prudence sur les chiffres. Mais la tendance reste la même. Un agent agit sans attendre qu’un humain le relise, ce qui rend la frontière d’entrée et la traçabilité d’autant plus cruciales. Le principe ne change pas : un agent accédant à des données réglementées est soumis aux mêmes politiques et journalisation qu’un humain.
La tendance se confirme sous un autre angle dans l’enquête Dynatrace auprès de 919 responsables impliqués dans la construction d’IA agentique dans des entreprises de plus de 100 millions de dollars de chiffre d’affaires, menée en novembre et décembre 2025. Parmi les mesures de validation citées, 47 % mentionnent la relecture humaine des résultats, mais seuls 27 % évoquent la journalisation et la traçabilité. L’échantillon est orienté ingénierie et opérations, pas sécurité, donc à lire comme le point de vue des bâtisseurs.
Les humains relisent. Mais rien ne prouve qu’ils l’ont fait. Une relecture non tracée ne peut être démontrée à personne, et c’est encore la vérification sur l’honneur, cette fois avec des agents.
Les régulateurs contrôlent la donnée, pas le modèle
Un examinateur ne note pas votre modèle. Il demande qui a accédé à quelles données, sous quelle autorité, avec quels contrôles, et si vous pouvez le prouver. Cela vaut aussi bien lorsqu’un humain ouvre un dossier que lorsqu’un assistant IA le fait pour lui. C’est le cadre partagé par le RSSI et le Chief Compliance Officer : produire des preuves défendables selon le calendrier du régulateur, non celui de l’équipe projet.
La plupart des dirigeants ne s’attendent pas à réussir ce test. Selon l’AI Impact Survey 2026 de Grant Thornton (950 dirigeants interrogés en février-mars 2026), 78 % n’ont pas confiance dans leur capacité à réussir un audit indépendant de gouvernance IA sous 90 jours. Grant Thornton vend du conseil IA, et l’enquête mesure la confiance, pas les résultats d’audit. Mais la confiance, c’est ce qu’un dirigeant emporte devant le régulateur.
Nos propres données vont dans le même sens. Dans le rapport annuel 2026 sur la sécurité et la conformité des données Kiteworks (459 répondants, T2 2026), seuls 17 % affirment pouvoir produire un audit IA complet en moins d’une heure à partir des tableaux de bord existants, et 72 % ne peuvent pas remonter une production IA à la donnée source.
Lisez ces deux enquêtes côte à côte : le constat est préoccupant. Les dirigeants manquent de confiance pour un audit, et la majorité des répondants ne peuvent pas remonter à la source, alors que c’est précisément ce que réclament les praticiens Enhesa avant d’agir. Une vérification sans traçabilité reste une discussion. Avec traçabilité, c’est une preuve. Le travail de gouvernance des données IA qui comble ce fossé commence par la donnée, pas par le modèle.
Premier contrôle : appliquer la politique sur ce que l’IA peut lire
La vérification commence avant même la production de l’IA. Si un client IA peut lire tout ce qu’un utilisateur connecté peut atteindre, plus ce que le connecteur expose, le relecteur vérifie une réponse issue d’un ensemble de sources non borné. Restreignez les entrées, la vérification devient gérable. C’est le premier contrôle, et Kiteworks considère qu’il doit s’appliquer au niveau de la donnée, pas dans le prompt, car les prompts et filtres de sécurité sont contournables, pas l’application de la politique sur la donnée.
Le Kiteworks Secure MCP Server connecte des clients IA comme Claude ou Copilot au contenu Kiteworks via le Model Context Protocol, et évalue chaque requête selon des politiques d’accès basées sur les rôles et les attributs. Un client IA ne reçoit que les données que la politique lui autorise, et hérite des autorisations de l’utilisateur connecté sans les dépasser. Les politiques sont évaluées en temps réel à chaque requête IA : un changement de statut utilisateur ou de classification de fichier s’applique dès la requête suivante, pas à la prochaine revue trimestrielle.
Les identifiants reçoivent le même traitement. Les jetons OAuth restent dans le coffre-fort sécurisé du système d’exploitation et ne sont jamais placés dans le contexte du modèle, ce qui limite ce qu’une attaque par prompt injection peut dérober. Des limites de débit configurables plafonnent ce qu’un client IA peut extraire sur une période donnée. Aucun client n’obtient d’accès implicite du seul fait d’être connecté : c’est le zero trust data exchange appliqué à l’IA.
Kiteworks Compliant AI applique la même logique à l’accès agentique au niveau de la donnée, indépendamment du modèle, du prompt ou du framework agent. Chaque interaction passe par quatre points de contrôle : l’identité de l’agent est vérifiée via OAuth 2.0 et liée à l’humain qui a délégué le workflow ; l’accès est évalué en temps réel selon la politique basée sur les attributs ; les données sont chiffrées en transit et au repos avec une cryptographie validée FIPS 140-3 ; et l’interaction est consignée dans une piste d’audit infalsifiable, transmise en temps réel à un SIEM.
Rien de tout cela ne traite l’agent comme un cas à part. Le Control Plane Kiteworks régit l’accès, l’utilisation et le partage des données pour les personnes et les agents via un moteur de politique de données unique et un journal unique, ce qui permet de répondre à une question agent ou humain à partir du même enregistrement.
Cela change aussi la notion de citation de source. Quand un outil cite un document, le relecteur peut vérifier que ce document faisait bien partie des sources autorisées par la politique. Une citation hors frontière indique d’où vient la réponse. Une citation dans la frontière prouve que la source était permise.
Deuxième contrôle : un journal d’audit unique pour humains et agents
La politique décide de ce que l’IA peut lire. Le journal prouve ce qu’elle a fait. Sans ce deuxième contrôle, le premier reste une promesse.
Chaque opération IA via le Secure MCP Server génère une entrée d’audit : upload, téléchargement, création de dossier, tentative d’accès, avec attribution à l’utilisateur authentifié. Les entrées comportent horodatage, adresse IP et métadonnées de l’opération, soit tout ce qu’il faut pour une reconstitution forensique.
Le journal est un flux unique, pas un empilement. Kiteworks normalise et agrège les données d’audit de toute la plateforme dans un flux unique, l’envoie en temps réel à un SIEM via syslog ou Splunk Universal Forwarder, et ne perd aucune entrée même en cas de trafic intense. Pour un Chief Compliance Officer, cela signifie qu’une interaction IA et un partage de fichier humain figurent dans le même enregistrement, au même format, et peuvent être interrogés ensemble. Savoir quel agent a accédé à quel fichier, pour qui et quand, n’est plus un casse-tête multi-systèmes, mais une simple requête sur le journal d’audit.
Ici, la preuve est le produit. Une chaîne de traçabilité pour un document ayant servi à une décision conformité montre qui a autorisé l’accès, quel client IA l’a réalisé et quand. Kiteworks Compliant AI ajoute un reporting conformité IA dédié et l’export des journaux d’audit unifiés pour audit ou réponse à incident, ce qui permet à une équipe conformité de montrer à un examinateur ce qui s’est passé, sans devoir tout reconstituer à la main.
Pensez aussi à la boucle humaine : le journal ne consigne l’approbation du relecteur que si cette validation a lieu dans Kiteworks. Reliez donc les validations humaines au journal d’audit par horodatage ou référence, dans l’outil de workflow que vous utilisez déjà. L’objectif : une chaîne traçable de bout en bout, de la source autorisée à la lecture IA, jusqu’à la décision humaine.
Pourquoi un journal séparé par outil IA ne suffit pas
Certains diront que leurs fournisseurs IA journalisent déjà. C’est vrai, mais ce journal répond à une question étroite : ce qui s’est passé dans ce produit. Or, un examinateur pose des questions transverses : qu’a lu l’IA, dans quel référentiel, pour quel utilisateur, et que devient la production ensuite ?
Si chaque outil IA conserve son propre journal, dans son format et avec sa propre rétention, répondre à cette question revient à croiser des enregistrements non conçus pour être reliés. L’approche Kiteworks consiste à faire passer tout accès IA aux contenus sensibles par un chemin gouverné et un journal unique, pour que la jointure soit déjà faite. Les journaux des autres outils restent utiles, mais la traçabilité de vos contenus les plus sensibles n’est plus éparpillée sur cinq produits.
Ce que Kiteworks ne vérifie pas
La précision est essentielle ici, car survendre constitue aussi un risque de conformité. Kiteworks régit la façon dont l’IA accède aux données, pas le comportement du modèle. Il ne vous dira pas si le résumé réglementaire rédigé par le modèle est correct. Un expert doit toujours relire et juger la production, ce qui correspond au modèle « conseil expert » plébiscité par 43 % des répondants Enhesa.
Ce que la plateforme change, c’est la qualité de la relecture : le relecteur travaille sur un ensemble borné de sources autorisées, et toutes les opérations IA sur le contenu gouverné sont tracées. Lorsqu’un client IA écrit un fichier ou un formulaire dans un dossier Kiteworks gouverné, cette opération est soumise à la politique et journalisée comme toute autre.
Le périmètre du relecteur se réduit, la traçabilité se renforce. Aucun ne remplace l’autre. Tout fournisseur prétendant que le logiciel seul comble le fossé de la vérification vend la même vérification sur l’honneur, avec une meilleure interface.
Que faire dès lundi matin ?
Cessez de débattre de la nécessité de vérifier la production IA. Commencez à auditer votre capacité à prouver que cela a été fait.
Faites un exercice : choisissez une décision conformité récente assistée par IA et demandez à l’équipe la trace de ce que l’IA a lu, qui a autorisé l’accès et qui a relu le résultat. Chronométrez. Si cela prend plus d’une journée, vous avez identifié le manque de preuve sans avoir à payer un audit externe.
Recensez les outils IA personnels et non-corporate utilisés pour la conformité. Les 64 % d’Enhesa prouvent que vous en trouverez. Remplacez-les par une solution officielle qui applique la politique et journalise chaque opération, car une simple interdiction renverrait le problème dans l’ombre.
Déplacez l’application des politiques au niveau de la donnée. Définissez les référentiels accessibles à un client IA, selon les rôles et attributs, et appliquez la politique là où résident les données. Appliquez la minimisation des données à l’IA comme à un fournisseur : ne donner que le strict nécessaire pour accomplir la tâche.
Définissez par écrit ce que « vérifié » signifie : qui vérifie, sur quelle source, selon quel standard, et où le résultat est consigné. Faites de « vérifié » un champ dans l’enregistrement, pas un ressenti dans la salle.
Envoyez le journal d’accès IA au SIEM et à la politique de rétention déjà en place, pour que la preuve IA ne reste pas dans un silo ignoré jusqu’à l’audit. Puis informez le conseil d’administration en termes simples : un risque d’amende mesurable, un processus de vérification non encore prouvable, et la date à laquelle vous pourrez produire une preuve IA en moins d’une heure.
Pour en savoir plus sur la production de preuves auditables pour l’accès IA aux données réglementées, réservez votre démo personnalisée dès aujourd’hui.
Foire aux questions
Dans une enquête, oui. Selon Enhesa (273 décideurs seniors de grandes organisations), 37 % des équipes ayant suivi des recommandations IA non vérifiées ont signalé une amende réglementaire, contre 13 % pour les autres. Ce résultat provient d’une enquête auto-déclarée commanditée par un fournisseur, et le résumé public ne définit pas la vérification ni le montant des amendes : il s’agit donc d’un signal fort, non d’un effet mesuré. La leçon concrète : faites de la vérification une preuve démontrable, car une enquête exige des traces, pas des intentions. Commencez par une bonne gouvernance des données IA et une piste d’audit couvrant l’accès IA.
Bâtissez la traçabilité autour des questions classiques sur l’accès aux données : qui a autorisé, quelles données l’IA pouvait atteindre, ce qu’elle a lu, ce qu’elle a produit, et qui a relu le résultat avant toute action. Les répondants Enhesa vont dans le même sens : 91 % jugent la citation des sources essentielle, 88 % souhaitent une piste d’audit complète. Kiteworks trace toutes les opérations d’un client IA sur le contenu gouverné, attribuées à l’utilisateur autorisant, et votre workflow doit consigner la validation humaine et la relier à cette entrée. Une chaîne de traçabilité claire est la colonne vertébrale, et les journaux d’audit en assurent la partie machine.
Appliquez la politique au niveau de la donnée, pas dans le prompt. Le Kiteworks Secure MCP Server évalue chaque requête d’un client IA selon des contrôles d’accès basés sur les rôles et les attributs, et l’IA hérite des autorisations de l’utilisateur connecté sans les dépasser. Les identifiants restent dans le coffre-fort sécurisé du système d’exploitation et ne sont jamais transmis au modèle, et des limites de débit configurables plafonnent ce qu’un client peut extraire. Consultez d’abord le Secure MCP Server et le modèle ABAC, puis décidez quels référentiels un client IA peut atteindre.
Il peut prouver les opérations d’un client IA sur le contenu gouverné, mais pas la validité du contenu généré par le modèle. Avec Kiteworks, les uploads, téléchargements, créations de dossiers et tentatives d’accès par un client IA sont journalisés avec horodatage, adresse IP et métadonnées, attribués à l’utilisateur autorisant, et transmis en temps réel à un SIEM. Quand l’IA écrit un fichier ou formulaire dans un dossier gouverné, cette écriture est journalisée et soumise à la politique. L’appréciation du fond reste humaine. Kiteworks Compliant AI ajoute une piste infalsifiable et un reporting conformité IA autour de ces opérations.
Recensez les outils, puis proposez une alternative gouvernée avant de durcir l’interdiction. Enhesa a constaté que 64 % des répondants avaient saisi des données sensibles dans des outils IA personnels ou non-corporate, et une interdiction sans solution de remplacement pousse souvent le problème hors de vue. Faites passer l’accès IA aux contenus sensibles par une voie qui applique la politique et journalise chaque opération, et classez les données pour que la politique puisse s’appliquer. Les recommandations du guide de protection des données IA constituent un bon point de départ.
Ressources complémentaires
- Article de blog
Stratégies Zero‑Trust pour une protection abordable de la vie privée face à l’IA - Article de blog
Comment 77 % des organisations échouent à sécuriser les données IA - eBook
AI Governance Gap : pourquoi 91 % des petites entreprises jouent à la roulette russe avec la sécurité des données en 2025 - Article de blog
Il n’existe pas de « –dangerously-skip-permissions » pour vos données - Article de blog
Les régulateurs ne se contentent plus de demander si vous avez une politique IA. Ils veulent la preuve de son efficacité.