La brecha de confianza en la gobernanza de IA es una brecha de evidencia

Casi todas las organizaciones ya cuentan con una política de gobernanza de IA, y ese hecho le dice casi nada a un regulador sobre si un sistema de IA se comportó realmente como indica la política. La política es una declaración de intenciones. La evidencia es un registro de lo que ocurrió. La mayoría de las empresas tienen mucho más de lo primero que de lo segundo.

La prueba más clara llegó en septiembre de 2026, cuando EY publicó su Encuesta de Riesgos y Gobernanza de IA a 202 responsables senior de IA en organizaciones estadounidenses. El informe de EY, «Realizing potential: confidence in AI,» reveló que el 98 por ciento tiene una política de gobernanza de IA y que el 47 por ciento ha saltado su propio proceso de gobernanza por una implementación urgente. Los mismos ejecutivos que redactaron la política admitieron haberla dejado de lado. Compliance Week destacó este hallazgo como advertencia central para los equipos de cumplimiento.

Para un CISO o Chief Compliance Officer, la cifra relevante es la distancia entre esos dos números. Una política que se salta bajo presión no puede generar pruebas listas para auditoría, porque justo en ese momento es cuando falta el registro. Este artículo analiza lo que muestran los datos de EY, por qué la brecha es estructural y no cultural, y cómo una disciplina operativa en la capa de datos, como el intercambio seguro de datos de Kiteworks, convierte la gobernanza de un documento en evidencia.

Puntos clave

1. La cobertura de políticas es casi total, y ahí está la trampa.

Con el 98 por ciento de las organizaciones contando con una política de gobernanza de IA, tener una ya no distingue a las empresas preparadas de las expuestas.

2. Saltarse el proceso es el principal indicador de una brecha de evidencia.

El 47 por ciento ha omitido su propio proceso de gobernanza por una implementación urgente, y cada paso omitido es un registro que falta.

3. Los agentes autónomos amplían la brecha más rápido.

Entre las organizaciones que usan IA agentica, el 85 por ciento opera sistemas que actúan sin intervención humana en tiempo real, mientras que el 49 por ciento no ha actualizado su marco de gobernanza para agentes.

4. No puedes evidenciar lo que no puedes ver.

El 41 por ciento de los responsables senior de IA dice que no tiene visibilidad sobre el uso de IA, y el 26 por ciento de los usuarios de IA agentica no puede detectar agentes no autorizados.

5. Los reguladores regulan los datos, no los modelos.

La respuesta defendible ante un auditor es un registro a prueba de manipulaciones, vinculado a un autorizador humano identificado, de cada vez que un sistema de IA accedió a datos regulados.

EY encuestó a quienes asumen la exposición

Las encuestas de gobernanza suelen consultar a profesionales uno o dos niveles alejados de las decisiones. EY fue directo a los responsables senior de IA, quienes aprueban las implementaciones y luego responden por ellas. Esa elección hace que los números principales sean más difíciles de descartar como un problema de percepción de la gerencia media.

El estudio se realizó del 28 de mayo al 15 de junio de 2026, y solo cubre organizaciones estadounidenses. Con 202 respuestas, EY cita un margen de error de más o menos 7 puntos porcentuales, lo que significa que las cifras individuales son orientativas. El patrón a lo largo del informe es lo que tiene peso, y el patrón es consistente. La confianza en el papeleo es alta, la confianza en la maquinaria detrás es baja.

El alcance importa aquí, y debe influir en cómo usas los datos. Una muestra solo de EE. UU. no dice nada definitivo sobre organizaciones europeas o del Golfo, y este artículo no lo trata así. Más adelante se muestra cómo reguladores en otras jurisdicciones llegan a la misma expectativa por sus propios caminos.

La cobertura de políticas es casi total y ahí está la trampa

El 98 por ciento de los encuestados reporta algún tipo de política de gobernanza de IA, y el 69 por ciento dice que la política está completamente unificada en toda la organización. Si lo lees rápido, parece un éxito. Si lo lees como responsable de cumplimiento, es una advertencia, porque el mismo informe revela que el 69 por ciento también está preocupado por la falta de experiencia interna para evolucionar los controles de gobernanza.

Pon esas dos cifras del 69 por ciento una al lado de la otra y se forma una imagen. La política existe, está unificada en papel, y quienes la gestionan dudan que sus equipos puedan mantenerla actualizada. Es la descripción de un documento que va por delante de la organización que lo sostiene.

Los datos sobre controles implementados refuerzan el punto. Los encuestados de EY afirman tener equipos de gobernanza establecidos (75 por ciento), procesos de revisión regulares (73 por ciento), requisitos de intervención humana (72 por ciento), capacitación (71 por ciento) y procedimientos de escalamiento (68 por ciento). Los requisitos para proveedores están en 65 por ciento, la trazabilidad de datos en 64 por ciento, y los marcos formales y registros de IA en 58 por ciento cada uno. Todos esos son insumos. Ninguno es un resultado que un regulador pueda inspeccionar.

Un examinador no pregunta si tienes un programa de capacitación. El examinador te pide mostrar, para una interacción específica de IA con datos regulados concretos, quién la autorizó, qué política aplicó y qué se devolvió. Un programa lleno de insumos sin una corriente de evidencia equivalente no responde a ninguna de esas preguntas. Esa es la trampa de la cobertura casi universal de políticas. Genera una sensación de preparación sin producir la prueba.

Saltarse el proceso es un problema de cola antes que de cultura

Cuando el 47 por ciento de las organizaciones admite saltarse la gobernanza por implementaciones urgentes, el diagnóstico instintivo es un fallo de disciplina. El personal recorta pasos, los líderes miran a otro lado y la solución parece ser más capacitación. La investigación de respaldo apunta a algo más útil.

El Informe de Gobernanza IA-Ready 2026 de OneTrust, una encuesta a 1,200 responsables en ocho mercados realizada en junio y julio de 2026, halló que el 33 por ciento de las organizaciones vio a empleados usar IA no aprobada porque el camino aprobado era demasiado lento. Otro 31 por ciento descubrió casos de uso solo después de que ya estaban en marcha. Las personas rodean el proceso cuando este no puede seguir el ritmo del negocio.

Eso redefine el salto como un problema de capacidad. Si una revisión de gobernanza tarda semanas y una unidad de negocio tiene un plazo de días, la revisión pierde. La organización entonces tiene una política en papel y una implementación sin revisar en producción, y la evidencia de esa implementación parte de cero.

Por eso la exhortación falla y la arquitectura funciona. Un control que está en una carpeta de políticas depende de que alguien decida seguirlo. Un control que se aplica justo cuando un sistema de IA solicita datos no puede saltarse por un plazo, porque es el propio camino que recorre el dato. La gobernanza integrada en el intercambio elimina el incentivo para saltarla. La ruta aprobada se convierte en la más rápida, ya que la autorización, las verificaciones de política y el registro suceden en la propia solicitud, sin tickets en una cola.

La IA agentica convierte la brecha de gobernanza en una brecha de acción

Un chatbot que responde una pregunta es una operación de lectura con un humano leyendo la respuesta. Un agente que ejecuta código, realiza pedidos o accede a registros es otra cosa. Actúa, y lo hace a velocidad de máquina en muchos sistemas.

EY halló que el 91 por ciento de los encuestados usa IA agentica de alguna forma. De esos, el 85 por ciento afirma tener al menos algunos sistemas agenticos ejecutando acciones sin intervención humana en tiempo real, y el 49 por ciento admite que su marco de gobernanza no se ha actualizado específicamente para cubrir los riesgos de IA agentica. Otro 26 por ciento no puede detectar agentes de IA no autorizados operando dentro de su propia organización.

Piénsalo en la práctica. Para aproximadamente uno de cada cuatro usuarios de IA agentica, un agente podría estar operando sin que nadie lo haya autorizado, accediendo a datos sin aprobación y la organización no tiene mecanismo para notarlo. La gobernanza para un sistema que no puedes ver es una esperanza, no un control.

La propiedad agrava el problema. EY informa que el 56 por ciento no tiene un único responsable de la gobernanza de IA y el 39 por ciento dice que la responsabilidad por decisiones autónomas está indefinida. Eso refleja un patrón que se repite en la investigación sobre IA empresarial en general. Quién asume el riesgo de IA sigue sin resolverse, y el resultado práctico es un vacío de responsabilidad.

La solución no es tratar a los agentes como una categoría misteriosa. Un agente de IA es una identidad que opera en nombre de una persona, y debe estar en el mismo modelo de gobernanza que el humano para el que trabaja. Cada acción de un agente debe estar vinculada a un autorizador humano identificado, evaluarse según las mismas políticas de datos que rigen a esa persona y quedar registrada en el mismo registro de auditoría. Cuando agentes y humanos comparten un solo modelo de identidad gobernada, la pregunta «¿quién autorizó esto?» siempre tiene respuesta. Cuando los agentes operan con cuentas de servicio compartidas o tokens sin atribución, la respuesta es el silencio.

La visibilidad es la condición previa y el 41 por ciento no la tiene

El 89 por ciento de los encuestados de EY afirma que su organización ya ha enfrentado riesgos de IA. El riesgo de ciberseguridad lidera con 52 por ciento, seguido del riesgo humano con 47 por ciento y la IA oculta con 46 por ciento. El 36 por ciento reporta un incidente real relacionado con IA. Sin embargo, el 41 por ciento dice que los responsables senior de IA carecen de visibilidad sobre cómo se usa la IA en toda la organización.

La visibilidad es donde el problema de la evidencia se vuelve tangible. Una pista de auditoría solo puede describir lo que está instrumentado. Si el uso de IA ocurre mediante herramientas no gestionadas, cuentas personales o agentes lanzados fuera del registro, no hay registro que lo capture y la organización no puede reconstruir los hechos cuando lo pide un regulador.

La propia investigación de Kiteworks apunta en la misma dirección. El Informe Anual de Seguridad de Datos y Riesgo de Cumplimiento de Kiteworks 2026, una encuesta autodeclarada de 459 participantes realizada en julio de 2026, halló que el 65 por ciento de las organizaciones había descubierto IA oculta en su entorno. Como es autodeclarada, tómala como orientativa, pero coincide con la tendencia de EY. El uso oculto de IA es común y el descubrimiento suele ocurrir después del hecho.

Observa también lo que implica la cifra de registro de EY. Solo el 58 por ciento reporta tener un registro de IA completo, con otro 39 por ciento en proceso. Un registro es un inventario, y el inventario es el punto de partida para la evidencia. No puedes adjuntar registros de autorización a un sistema que no está en la lista. El registro, el modelo de identidad y la pista de auditoría son tres vistas de un mismo problema: saber qué está funcionando, en nombre de quién y sobre qué datos.

La lección práctica para un CISO es dejar de tratar el descubrimiento como la meta. Encontrar IA oculta es útil, pero la pregunta de cumplimiento que sigue es otra. Para cada interacción de IA con datos regulados, ¿puedes demostrar que fue autorizada, cifrada y registrada? La detección te dice que algo ocurrió. La evidencia le dice a un regulador qué ocurrió y por qué se permitió.

Las revisiones de aseguramiento prueban que los controles fallan en silencio

Los datos de revisión de EY merecen una lectura atenta, porque contradicen la cómoda suposición de que los problemas de gobernanza son raros. Entre las organizaciones que realizan revisiones formales de aseguramiento de IA, el 92 por ciento encontró problemas. Las revisiones son frecuentes: el 98 por ciento las realiza al menos anualmente y el 80 por ciento mensualmente o trimestralmente, y generan consecuencias. En el último año, el 64 por ciento dijo que al menos una cuarta parte de los sistemas de IA revisados fueron modificados significativamente, el 29 por ciento dijo que al menos una cuarta parte se pausó y luego se reinició, y el 25 por ciento dijo que al menos una cuarta parte se detuvo por completo.

Los problemas más comunes que detectaron las revisiones fueron problemas de calidad de datos con 57 por ciento, deriva de modelos con 48 por ciento y IA oculta con 39 por ciento. Dos de esos tres son problemas de la capa de datos.

Esto es alentador en un sentido. Las organizaciones están mirando y actuando sobre lo que encuentran. Pero es preocupante en otro. Los problemas detectados en la revisión estaban, por definición, presentes y sin gestionar hasta que se realizó la revisión. Un control que solo funciona cuando una revisión periódica detecta el fallo es un control que falló en silencio durante el intervalo.

Considera el momento desde la perspectiva de un regulador. Una autoridad supervisora no acepta «lo encontramos en nuestra revisión trimestral» como la primera señal de un problema que lleva meses ocurriendo. Pide el registro continuo. El aseguramiento periódico y la evidencia continua resuelven problemas distintos, y un programa maduro necesita ambos. La revisión te dice si los controles están bien diseñados. La corriente de evidencia te dice si funcionaron, cada vez, en cada interacción.

Los reguladores regulan los datos, no los modelos

El marco más sólido disponible para un responsable de cumplimiento es también el más simple. Los reguladores regulan los datos, y la ley se aplica a los datos sin importar si los accedió un humano o un agente de IA. HIPAA no tiene una exención para algoritmos, y tampoco los regímenes de privacidad y seguridad que rigen datos financieros, de defensa o personales. Un agente que accede a un registro protegido activa las mismas obligaciones que un empleado que lo consulta.

Ese principio ya aparece en la legislación vigente en varias jurisdicciones, y los detalles importan, así que vale la pena exponerlos con precisión.

En Alemania, la ley de implementación NIS 2 (NIS2UmsuCG) entró en vigor el 6 de diciembre de 2025. El artículo 30 de la Ley BSI modificada establece las medidas de gestión de riesgos que deben implementar las entidades cubiertas, y el artículo 38 asigna la obligación de implementar y supervisar esas medidas al órgano de dirección. Los ejecutivos no pueden delegar la responsabilidad, que es la misma pregunta de propiedad que los encuestados de EY no logran responder.

En la Unión Europea, el Digital Omnibus sobre IA, Reglamento (UE) 2026/1744, entró en vigor el 27 de julio de 2026. Movió la fecha de aplicación para las obligaciones de IA de alto riesgo del Anexo III al 2 de diciembre de 2027 y para los sistemas del Anexo I al 2 de agosto de 2028, mientras que los deberes de transparencia bajo el Artículo 50 aplican desde el 2 de agosto de 2026. Un plazo aplazado para una categoría no retrasa las obligaciones de protección de datos, seguridad y responsabilidad que ya rigen los datos que usan estos sistemas.

En el Reino Unido, el Cyber Security and Resilience Bill fue aprobado en la Cámara de los Comunes el 16 de junio de 2026 y completó la etapa de informe en los Lores el 26 de octubre de 2026, con la tercera lectura programada para el 2 de noviembre. Junto a esto, el principio de responsabilidad del UK GDPR en el Artículo 5(2) ya exige a los responsables demostrar cumplimiento, no solo afirmarlo. Esa redacción resume todo el argumento de este artículo en una frase.

Los encuestados de EY ya sienten la presión. El 72 por ciento está preocupado por no poder cumplir con nuevas o emergentes regulaciones específicas de IA, y la misma proporción teme no poder rastrear o auditar la trazabilidad de los datos e insumos que alimentan modelos críticos de decisión de IA. La trazabilidad es otra palabra para evidencia. Un regulador que pregunta de dónde salió un resultado de IA está pidiendo la cadena de acceso a los datos detrás de él, y una organización que no puede reconstruir esa cadena no puede responder.

Ninguno de estos instrumentos es una norma estadounidense, y la muestra de EY es solo de EE. UU., así que no deben leerse como medición de la misma población. Importan porque muestran la dirección. En todas las jurisdicciones, los reguladores convergen en una sola exigencia: muestra el registro.

Cómo se ve una disciplina operativa en la capa de datos

Si la brecha es de evidencia, la solución debe generar evidencia como subproducto de la operación normal. Intentar armar la prueba a posteriori, reuniendo registros de cinco sistemas la semana antes de una auditoría, es lo que deja a los equipos con paquetes de evidencia que tardan semanas en compilarse cuando el reloj del regulador corre en días.

Una disciplina operativa funcional tiene cuatro partes, que corresponden a las preguntas que hará un auditor.

Identidad vinculada a un autorizador humano. Cada solicitud de IA debe llevar una identidad que se relacione con una persona responsable. Esto responde al vacío de responsabilidad, porque «¿quién autorizó esto?» devuelve un nombre en vez de una cuenta de servicio. La autorización delegada con OAuth 2.0 es el mecanismo estándar, y permite que agentes y humanos compartan un modelo de identidad gobernada.

Política evaluada por solicitud. Las decisiones de acceso deben reflejar los datos, el usuario y el contexto en el momento de la solicitud. El control de acceso basado en atributos (ABAC) evalúa esos atributos, así que un agente que actúa por un clínico solo ve lo que ese clínico puede ver y nada más. Eso también favorece la minimización de datos, ya que el agente nunca recibe datos sin autorización para usarlos.

Cifrado que cumple el estándar. Los datos regulados en movimiento y en reposo deben protegerse con cifrado FIPS 140-3 validado, para que el control sea verificable y no solo una afirmación.

Registro de auditoría a prueba de manipulaciones. Cada interacción debe registrarse en una pista de auditoría que no pueda alterarse en silencio y que se transmita a tu SIEM, para que el registro exista antes de que alguien lo solicite.

Estos cuatro puntos de control son la forma en que Kiteworks Compliant AI gobierna el acceso de IA a contenido regulado, con la política aplicada a través del Data Policy Engine. El Secure MCP Server permite que una plataforma de IA compatible con MCP acceda a contenido empresarial por esa misma ruta gobernada, así que la ruta aprobada también es la que cumple. Como la aplicación está en la ruta de datos y no dentro de un modelo, se aplica a cualquier herramienta de IA que adopte el negocio en el futuro.

La gobernanza en esta capa también cambia la conversación en la dirección. Un Panel de CISO que muestra la actividad de acceso de IA por identidad, política y clase de datos le da a la junta una medida de efectividad operativa, que es justo lo que los datos de EY sugieren que la mayoría de las organizaciones no tiene. Así, los líderes pueden alinear el programa a marcos como la función Govern del NIST CSF y extender la misma disciplina a la administración de riesgos de terceros, donde el 81 por ciento de los encuestados de EY dice estar preocupado por un ciberataque de IA de terceros que comprometa herramientas de IA.

Para una explicación más detallada de cómo se integran estos controles, consulta las guías de Kiteworks sobre gobernanza de datos de IA y zero trust para IA generativa.

Un plan inicial de 90 días para responsables de cumplimiento

La disciplina de evidencia no requiere rehacer todo el programa. Una secuencia enfocada lleva a la mayoría de las organizaciones de la política a la prueba en un trimestre, y comienza con preguntas que los datos de EY sugieren que muchos aún no pueden responder.

En los primeros treinta días, construye el inventario. Enumera cada sistema de IA, modelo, agente y herramienta de terceros que accede a datos regulados, y asigna una persona responsable para cada uno. La pregunta base de EY es el punto de partida correcto. ¿Puedes proporcionar un inventario completo de sistemas, modelos, agentes y herramientas de terceros de IA? Si la respuesta es no, nada posterior puede evidenciarse.

Entre los días treinta y sesenta, traslada la aplicación de controles a la ruta de datos. Haz que el acceso de IA a contenido regulado pase por un intercambio gobernado, de modo que la identidad, la evaluación de políticas y el registro sucedan en cada solicitud. Aquí también eliminas la razón para saltarse la gobernanza. Si la ruta aprobada es la más rápida, la presión de los plazos que impulsa ese 47 por ciento pierde fuerza.

Entre los días sesenta y noventa, pon a prueba la evidencia. Elige una solicitud típica de regulador, como «muestra cada acceso de IA a un conjunto de datos definido en los últimos treinta días, con la persona que lo autorizó». Cronometra cuánto tardas en responder. Si requiere días de ensamblar registros manualmente, la brecha sigue abierta. Si basta una consulta, tienes una disciplina operativa. Repite la prueba cada trimestre y reporta el resultado a la junta junto con los hallazgos de revisión.

Una advertencia aplica en todo momento. No dejes que el plan se convierta en otro documento. El objetivo es que cada control se convierta en un registro que un tercero pueda verificar sin tu ayuda.

Para saber más sobre cómo generar evidencia lista para auditoría del acceso de agentes de IA a datos regulados, agenda una demo personalizada hoy.

Recursos adicionales

• Artículo del Blog
  Estrategias Zero‑Trust para una protección de privacidad de IA asequible
• Artículo del Blog
  Cómo el 77% de las organizaciones está fallando en la seguridad de datos de IA
• eBook
  Brecha de gobernanza de IA: por qué el 91% de las pequeñas empresas juega a la ruleta rusa con la seguridad de datos en 2025
• Artículo del Blog
  No existe «–dangerously-skip-permissions» para tus datos
• Artículo del Blog
  Los reguladores ya no preguntan si tienes una política de IA. Quieren pruebas de que funciona.