Naviguer dans la gestion des risques liés à l’IA avec le NIST AI 600-1 et le NIST AI RMF 1.0
Kiteworks contribue à la protection et au contrôle des données
NIST AI 600-1 et NIST AI RMF 1.0 sont deux cadres complémentaires qui traitent des risques liés aux systèmes d’intelligence artificielle. NIST AI 600-1 cible les risques spécifiques à l’IA générative (GAI), tandis que NIST AI RMF 1.0 propose une approche plus globale de la gestion des risques. Les organisations spécialisées en IA doivent mettre en place une gestion des risques tout au long du cycle de vie de l’IA, couvrant la gouvernance, la cartographie, la mesure et la gestion des risques. Ces cadres mettent l’accent sur des caractéristiques de fiabilité telles que la validité, la sécurité, la sûreté et l’équité. Bien qu’ils soient facultatifs, il est essentiel d’y être conforme pour les secteurs manipulant des données sensibles ou prenant des décisions à forts enjeux. NIST AI 600-1 complète NIST AI RMF 1.0 avec des recommandations spécifiques sur les risques liés à l’IA générative, comme les hallucinations et les problèmes d’intégrité de l’information. Ensemble, ils permettent de développer et de déployer des systèmes d’IA responsables et éthiques dans de nombreux secteurs.
Points clés de la solution
- Journal d’audit consolidé
- Enterprise Connect
- Rôles administrateur personnalisés
- Tableau de bord CISO
- Intégration SIEM
Relier la gouvernance de l’IA et la traçabilité des données
La fonction Gouverner constitue un pilier essentiel pour instaurer une culture de gestion des risques dans les organisations travaillant avec des systèmes d’IA. Elle définit des processus pour anticiper, identifier et gérer les risques tout au long du cycle de vie de l’IA, en insistant sur l’importance de règles transparentes, de structures de responsabilité claires, de la diversité des équipes et d’un engagement fort avec les acteurs de l’IA concernés. Elle aborde aussi la gestion des risques liés aux logiciels et données tiers dans la supply chain de l’IA. La plateforme Kiteworks conserve un journal d’activité consolidé qui enregistre toutes les interactions sur le contenu, y compris celles réalisées par des tiers. Ce journal trace les consultations, téléchargements, ajouts, modifications et suppressions, ainsi que les identifiants utilisateurs, horodatages et métadonnées. La fonction Enterprise Connect étend cette traçabilité aux dépôts externes, garantissant un suivi continu des modifications de contenu dans tous les systèmes intégrés. Cette traçabilité favorise la provenance du contenu et protège la propriété intellectuelle dans les systèmes d’IA.
Cartographie des risques IA sur les interactions et règles de données
La fonction Cartographier permet de contextualiser les risques liés à un système d’IA et de prendre en compte les interdépendances entre activités et acteurs tout au long du cycle de vie de l’IA. Elle renforce la capacité de l’organisation à identifier les risques et les facteurs contributifs, servant de base aux fonctions Mesurer et Gérer, et guide les décisions clés concernant le développement et le déploiement des systèmes d’IA.
Le cadre de gestion des règles de risques de Kiteworks permet de journaliser les événements associés à des règles spécifiques, offrant une analyse détaillée de l’utilisation des données. Les rôles administrateur personnalisables donnent accès à des tableaux de bord détaillés, incluant des journaux d’activité système, des rapports personnalisés et des graphiques de tendances. Le tableau de bord CISO fournit une vue géographique des activités sur les données, tandis que les tableaux de bord dédiés à la conformité synthétisent la traçabilité des données pour des réglementations comme le RGPD et HIPAA. Ces fonctionnalités permettent aux organisations de contrôler et documenter la précision, la représentativité et la pertinence des données utilisées tout au long du cycle de vie de l’IA.
Gérer l’intégrité de l’information dans la gestion des risques
La fonction Gérer consiste à allouer les ressources pour traiter les risques identifiés et mesurés, à mettre en œuvre des plans de réponse et de reprise, et à communiquer sur les incidents ou événements. Elle exploite les informations issues des fonctions précédentes pour réduire la probabilité de défaillances et d’impacts négatifs, tout en instaurant des processus d’amélioration continue et de gestion des risques émergents. La plateforme maintient un journal d’activité unique et consolidé qui documente toutes les interactions sur les données : consultations, téléchargements, ajouts, modifications et suppressions. L’intégration SIEM en temps réel de Kiteworks permet une analyse immédiate des menaces et anomalies de sécurité. Le système enregistre les identifiants utilisateurs, horodatages et adresses IP pour chaque action, facilitant la traçabilité des sources de données d’entraînement et soutenant l’intégrité de l’information tout au long du cycle de vie de l’IA. Cette traçabilité et cette intégration renforcent la capacité de l’organisation à gérer et à répondre efficacement aux risques liés aux données.
Les fonctionnalités de Kiteworks contribuent à la conformité avec les cadres NIST AI 600-1 et AI RMF 1.0, en assurant un suivi rigoureux de la conformité au niveau des données. Le journal d’activité consolidé de la plateforme, l’intégration SIEM en temps réel et la fonction Enterprise Connect permettent un suivi et une surveillance approfondis de toutes les interactions sur les données, y compris celles impliquant des tiers. Le cadre de gestion des règles de risques de Kiteworks, les rôles administrateur personnalisables et les tableaux de bord dédiés à la conformité permettent aux organisations de contrôler et documenter l’utilisation des données tout au long du cycle de vie de l’IA. Ces fonctions, associées à des contrôles d’accès stricts, facilitent la traçabilité du contenu, garantissent l’intégrité de l’information et renforcent la capacité de l’organisation à gérer et à répondre efficacement aux risques liés aux données. En adoptant ces fonctionnalités, les organisations favorisent le développement responsable et éthique des systèmes d’IA tout en maintenant des standards élevés de protection des données.