La gobernanza de agentes de IA se ha convertido en un problema de evidencia
Un agente de IA que accede a datos confidenciales debe estar gobernado igual que el empleado que lo autorizó, y muchas organizaciones aún no pueden demostrar que así sea. El problema no es la falta de políticas, sino la falta de pruebas de que esas políticas se aplicaron justo cuando un agente leyó, movió o modificó un registro.
Una encuesta de Foundry y Rubrik, citada en un BrandPost patrocinado por Rubrik y publicado por CIO el 29 de octubre de 2026, pone cifras a esa brecha. De 200 responsables de TI e IA, el 38% afirmó que agentes habían exfiltrado datos o provocado una filtración de datos confidenciales, y el 42% señaló la gobernanza, los controles y el cumplimiento como obstáculos para implementar agentes. Lee estas cifras con cautela, ya que la fuente es patrocinada y la muestra pequeña, pero observa cómo coinciden con otras investigaciones publicadas en los últimos seis meses.
Para un CISO, un Chief Compliance Officer o un Responsable de Privacidad de Datos, la pregunta es la misma que haría un regulador. ¿Quién fue el usuario, bajo qué autoridad actuó el agente y dónde está el registro? Este artículo separa lo que la encuesta de Foundry y Rubrik puede y no puede respaldar, lo compara con hallazgos de EY y otros, y detalla el paquete de pruebas que permite a una organización gobernar agentes y personas bajo un solo conjunto de reglas. También explica cómo Kiteworks Compliant AI y el Control Plane de Kiteworks encajan cuando la capa de datos es donde se debe generar la evidencia.
Aspectos clave
1. La señal de la encuesta es real, pero la fuente es patrocinada.
Una encuesta patrocinada por Rubrik a 200 responsables informa que el 38% confirmó una filtración causada por un agente, lo cual es una razón para probar tus propios controles y no una referencia para citar como hecho.
2. La autonomía se puede gestionar, la autonomía sin atribución no.
Los agentes son una segunda clase de identidad que debe gobernarse junto a las personas, con cada acción trazable hasta una persona responsable.
3. La gobernanza es el cuello de botella declarado.
Investigaciones de EY y otros muestran que las políticas son comunes, mientras que el control operativo y la responsabilidad se quedan atrás.
4. Las reglas de datos existentes ya aplican a los agentes.
HIPAA, GDPR y las normativas sectoriales no contienen excepciones para el acceso automatizado a datos regulados, por lo que el estándar de evidencia para un agente es el mismo que para una persona.
5. La evidencia supera la intención.
Las organizaciones que pueden presentar un registro unificado y atribuible de acceso a datos por parte de agentes en cuestión de horas responderán a consultas que otras no podrán.
Lo que dice la encuesta de Foundry y Rubrik
El BrandPost informa que los agentes pueden actuar con autonomía total (26%) o limitada (35%). Indica que el 42% cita la gobernanza, los controles y el cumplimiento como obstáculos para implementar agentes, y que el 24% señala la seguridad y la gobernanza como la mayor barrera para escalar agentes. También reporta que el 38% confirmó que un agente exfiltró datos o provocó una filtración de datos confidenciales, y que casi la mitad tuvo que lidiar con un agente o chatbot que transmitía información falsa o incorrecta.
Ahora, las advertencias. El artículo es un BrandPost patrocinado por Rubrik, un proveedor que vende productos de gobernanza y recuperación de agentes, y no indica cuándo se realizó la encuesta ni cómo se seleccionaron los participantes. Una muestra de 200 no puede respaldar afirmaciones para toda la industria. La cifra del 38% es el propio testimonio de los encuestados, y el artículo no define qué cuenta como filtración ni cómo se confirmó.
Estas limitaciones no hacen que los hallazgos sean inútiles. Los convierten en una hipótesis que vale la pena probar en tu propio entorno. Si casi dos de cada cinco encuestados dicen que ya han visto a un agente filtrar datos, la pregunta para el resto es si lo sabrían. Una filtración que nadie detecta no queda registrada en ninguna encuesta.
La lectura más útil es estructural. Los encuestados afirman que están dando verdadera autonomía a los agentes mientras señalan la gobernanza como su principal obstáculo. Esos dos hechos juntos describen un programa que avanza más rápido que su base de evidencia.
La autonomía no es el problema, la atribución sí
Puede ser tentador leer una cifra como el 26% de autonomía total como una advertencia de que los agentes están fuera de control. La mejor pregunta es si cada acción autónoma puede rastrearse hasta una persona responsable y una política de gobierno. Un agente que actúa dentro de una autoridad delegada es parte normal del trabajo moderno. Un agente que actúa sin delegación registrada es un problema de cumplimiento.
La encuesta de EY afina el punto. En la Encuesta de Riesgos y Gobernanza de IA en EE. UU. de EY, publicada el 15 de septiembre de 2026, el 85% de los usuarios de IA agente dijeron que operan al menos algunos sistemas agentes que actúan sin intervención humana en tiempo real. La encuesta abarcó responsables de IA en empresas públicas estadounidenses con al menos mil millones de dólares de ingresos, así que describe grandes empresas y no todo el mercado. EY también es una firma de aseguramiento con interés en el tema.
La intervención humana en tiempo real no es la prueba adecuada de control. Nadie revisa cada consulta a la base de datos que realiza un empleado de confianza. Lo que lo hace aceptable es que el empleado tiene una identidad única, un rol, permisos acordes a su trabajo y un registro de auditoría que documenta lo que ocurrió. La misma arquitectura debe aplicarse a los agentes. Un agente es una segunda clase de identidad junto a la humana, gobernada por las mismas políticas, y la persona que lo autoriza sigue siendo responsable.
Ese enfoque cambia el requisito de diseño. El objetivo no es ralentizar a los agentes para que una persona apruebe cada acción. El objetivo es asegurar que un agente nunca pueda exceder el acceso del usuario que lo autorizó, que cada acción se atribuya a ese usuario y que el registro no pueda alterarse en silencio. Cuando se cumplen esas condiciones, la autonomía es una ventaja de productividad. Cuando no, es una vía de acceso sin registro.
La gobernanza es el cuello de botella declarado, y el registro de auditoría lo demuestra
El 42% que cita la gobernanza como obstáculo está describiendo algo que los datos de EY explican. La misma encuesta de EY encontró que el 98% de los encuestados reporta políticas formales de gobernanza de IA y el 69% una política totalmente unificada, pero el 47% dice que su organización ha saltado el proceso de gobernanza de IA por urgencia en la implementación. Entre los usuarios de IA agente, el 49% afirma que su marco de gobernanza no se ha actualizado específicamente para el riesgo de IA agente.
Al juntar esas cifras, aparece un patrón. Las políticas existen. La aplicación bajo presión de tiempo es desigual. El marco se escribió para IA que produce resultados y no ha alcanzado a la IA que toma acciones. Es la misma diferencia que ve un CISO entre un documento de política y un control que realmente opera.
La perspectiva de la evidencia es donde esto se convierte en un asunto de cumplimiento. Un auditor no pregunta si tienes una política de IA. Un auditor pide que muestres una muestra de acciones de agentes sobre datos confidenciales, la identidad bajo la que actuaron, la política que lo permitió y el registro que lo prueba. Si la respuesta tarda semanas en armarse, la política no se ha operacionalizado de una forma relevante para la auditoría.
El Informe Anual de Seguridad de Datos y Riesgo de Cumplimiento de Kiteworks: 2026 midió esa brecha directamente en una encuesta a 459 participantes de varias regiones. Solo alrededor de una cuarta parte (27%) podía presentar un registro completo de auditoría de IA en un día hábil, y solo el 17% en una hora. Estas cifras son autoinformadas en una encuesta de proveedor con muestra mixta, así que son orientativas, pero coinciden con la tendencia del hallazgo de EY. La política está generalizada, pero la prueba bajo demanda no. Cerrar esa brecha es el corazón de cualquier programa serio de gobernanza de datos de IA.
Visibilidad y reversión: las brechas silenciosas
Si la gobernanza es el obstáculo principal, la visibilidad y la recuperación son los retos menos visibles. Rubrik Zero Labs publicó un estudio aparte y más grande, The State of the Agent, el 16 de abril de 2026, basado en más de 1,600 responsables de TI y seguridad. Informa que el 86% espera que los agentes superen sus controles de seguridad en un año, que el 23% reporta visibilidad total sobre los agentes en su entorno y que el 88% afirma que no puede revertir acciones de agentes sin interrumpir sistemas. El propio comunicado dice que la cifra de visibilidad probablemente esté sobreestimada.
Se trata del mismo proveedor que patrocina el artículo de CIO, así que no es una corroboración independiente de los datos de Foundry y Rubrik. Es una segunda mirada desde una sola fuente, con una muestra mayor, aunque el comunicado ofrece pocos detalles metodológicos. Trátalo como la perspectiva de un proveedor y sopésalo en consecuencia.
Lo que sí ilustra el estudio es el ángulo de cumplimiento de la reversión. Si un agente modifica o expone un registro, la organización necesita saber qué registros, bajo qué autoridad y en qué periodo. Recuperar sin atribución es una solución técnica que deja la cuestión legal sin respuesta. Los reguladores preguntan qué pasó y a quién, no solo si el sistema fue restaurado.
Para el CCO, la conclusión práctica es que los incidentes de agentes requieren el mismo registro investigativo que los incidentes humanos. Eso significa que el registro de auditoría debe nombrar al agente, al usuario que lo autorizó, los datos accedidos y la política aplicada, y debe ser recuperable en el mismo formato que cualquier otro registro de acceso.
Agentes autorizados y herramientas no validadas: dos puertas al mismo dato
La encuesta de Foundry y Rubrik describe agentes que una organización decidió implementar. Una segunda exposición ocurre a través de herramientas que nunca eligió. Compliance Week informó el 29 de octubre de 2026 que reguladores y autoridades nacionales temen que las empresas puedan exponerse a riesgos significativos al adoptar herramientas de IA chinas más baratas, o software de código abierto que las utilice. El texto visible menciona preocupaciones de seguridad nacional, ciberseguridad y protección de datos, señala que esas herramientas pueden no cumplir los estándares más estrictos de la UE o EE. UU., y advierte que los datos ingresados podrían ser retenidos y usados por autoridades chinas. El artículo es solo para suscriptores tras los primeros párrafos, así que este artículo solo se basa en lo visible y no cita cifras.
El punto para un responsable de cumplimiento no es sobre un proveedor o país en particular. Es que una organización puede perder el control de datos confidenciales mediante una herramienta de IA que nadie aprobó, patrón conocido como shadow AI. Un agente autorizado que filtra datos y una herramienta no validada que los retiene son dos puertas al mismo cuarto, y la pregunta del regulador es idéntica. ¿Qué datos salieron, por qué herramienta, bajo qué autoridad y dónde está el registro?
Un artículo patrocinado por SailPoint, publicado por CIO como BrandPost, le da nombre a esta situación. Define el déficit de confianza en IA como lo que ocurre cuando una organización implementa agentes de IA autónomos más rápido de lo que puede demostrar que actúan dentro de la política. Cita una investigación de Omdia según la cual más de la mitad de las empresas ya están implementando IA agente, y recoge la opinión de Mike Kiser de SailPoint, quien afirma que la innovación en IA ha superado a la seguridad en IA. SailPoint es un proveedor de seguridad de identidad y este es contenido de proveedor, así que considera el enfoque como una perspectiva y no como un hallazgo. La definición sigue siendo útil porque vincula el problema con la prueba, no con la existencia de una política.
Observa la forma del déficit de confianza. No se afirma que los agentes sean inseguros. Se afirma que la organización no puede demostrar que actúan dentro de la política. Eso es un problema de evidencia, que es exactamente lo que resuelve un registro de auditoría y un control en la capa de datos. Ya sea por un agente autorizado o una herramienta no validada, la solución comienza con la misma disciplina: saber qué datos puede alcanzar cada herramienta y registrar cada acceso.
La titularidad sigue sin resolverse, y ese es el verdadero riesgo
Si preguntas a tres líderes de una organización quién es responsable de la seguridad de los agentes de IA, puedes obtener tres respuestas diferentes. Esa ambigüedad es un riesgo en sí misma, y los datos de EY muestran su coste. EY informa que el 26% de los usuarios de IA agente afirma que no puede detectar agentes de IA no autorizados operando en su organización, y una función que no puede ver un agente no puede ser responsable de él.
Un vacío de responsabilidad es la peor condición para generar evidencia, porque la evidencia requiere que alguien se haga cargo de la pregunta. Si el CIO implementa el agente, el CISO asegura la plataforma y el CCO responde al regulador, entonces nadie es dueño del registro que los conecta. Cuando llega una consulta, los tres líderes solo tienen una parte.
La solución es organizativa antes que técnica. Nombra a una sola persona responsable del acceso a datos por parte de agentes, dale autoridad sobre el registro de auditoría y haz que el CISO y el CCO sean consumidores del mismo registro. El Chief AI Officer o el CIO pueden encargarse de la adopción y la velocidad, pero el estándar de evidencia debe fijarse por quienes responden ante los reguladores, y una estructura clara de gobernanza, riesgo y cumplimiento evita que esos roles se separen.
Las reglas de datos existentes ya aplican a los agentes
El entorno normativo no trata a un agente como una categoría especial. HIPAA no distingue si un clínico o un agente de IA leyó el registro. Los deberes de seguridad y responsabilidad del GDPR aplican tanto si una persona como si un sistema accedió a los datos, y el Artículo 22 añade límites a decisiones totalmente automatizadas. La pregunta siempre es si el acceso a datos confidenciales fue autorizado, limitado a lo necesario y registrado.
La Security Rule de HIPAA muestra cómo funciona esto en la práctica. 45 CFR 164.308(a)(1)(ii) exige a las entidades cubiertas realizar un análisis de riesgos preciso y exhaustivo e implementar procedimientos para revisar regularmente los registros de actividad de los sistemas de información, y ambas especificaciones son obligatorias. Ninguna menciona quién o qué realiza la lectura. Un agente que accede a registros de pacientes activa las mismas obligaciones bajo la Security Rule de HIPAA que cualquier otro usuario, así que el análisis de riesgos debe incluirlo y la revisión de actividad debe poder detectarlo.
La misma lógica aplica en servicios financieros, donde las reglas de protección y seguridad de datos aplican sin importar si una persona o un agente accedió a los datos, y en entornos legales donde el privilegio y la confidencialidad del cliente se asocian a la información y no a la herramienta. El hilo común es que un agente de IA es una nueva vía para acceder a datos regulados, no una nueva categoría de actividad regulada.
Este es el argumento más sólido para gobernar en la capa de datos. La gobernanza del modelo importa para la precisión y el sesgo, pero la exposición de cumplimiento está donde se accede, usa e intercambia la información. Si puedes gobernar y registrar esa capa para cada identidad, humana o agente, la evidencia se genera.
Gobernar la capa de datos para personas y agentes juntos
Kiteworks Compliant AI parte de una premisa: gobernar la capa de datos, no el modelo. En la práctica, eso significa que los controles que protegen contenido confidencial para usuarios humanos también aplican cuando un sistema de IA accede a ese contenido. El servidor Kiteworks Secure MCP conecta clientes de IA con contenido empresarial bajo herencia de control de acceso basado en roles y control de acceso basado en atributos, así que un cliente de IA no puede exceder los permisos del usuario que lo autorizó. La autenticación usa OAuth 2.0 con PKCE, y la actividad se registra al usuario que autorizó al agente.
Esas acciones quedan en el mismo registro de auditoría unificado que documenta correo electrónico, uso compartido de archivos, SFTP, formularios y transferencia de archivos gestionada, con integraciones a un SIEM para correlación. El Data Policy Engine aplica políticas de datos de forma consistente, y el CISO Dashboard ofrece a los responsables de seguridad una visión integral de esa actividad. El Control Plane de Kiteworks gobierna el acceso, uso e intercambio de datos para personas y agentes bajo un solo conjunto de políticas, un solo modelo de identidad y un solo registro de auditoría.
Vale la pena aclarar dos límites. Un control en la capa de datos no reemplaza el análisis de riesgos, el comité de gobernanza de IA ni el responsable designado, que siguen siendo tareas humanas. Y gobierna el contenido confidencial que circula por el intercambio seguro de datos de Kiteworks, así que los agentes con acceso directo a almacenes de datos fuera de ese límite requieren sus propios controles. La arquitectura reduce el número de lugares donde armar un paquete de evidencia, pero no elimina la necesidad de saber dónde reside toda tu información.
Construye ahora el paquete de evidencia de los agentes
Empieza inventariando los agentes. Dado que el 26% de los encuestados en la encuesta de EY no puede detectar agentes no autorizados, un registro es el primer control a implementar, porque nadie puede gobernar lo que no puede listar. Registra cada agente, el usuario o equipo que lo autorizó, los datos a los que puede acceder y los sistemas con los que se conecta.
Luego, define la política en términos que un auditor pueda comprobar. Para cada agente, indica qué clases de datos puede leer, cuáles nunca puede leer y bajo qué condiciones. Expresa las reglas como políticas basadas en atributos que acompañan a los datos, no como recomendaciones en un documento. Una regla que solo existe en un PDF de política no puede demostrarse que se aplicó.
En tercer lugar, prueba la atribución. Elige una muestra de acciones de agentes del último mes y rastrea cada una hasta el usuario que la autorizó, la política aplicada y el registro correspondiente. Si falta algún eslabón en la cadena, has encontrado la brecha antes que el auditor. Repite el ejercicio cada trimestre y conserva los resultados.
En cuarto lugar, prueba tu respuesta. Realiza un ejercicio de simulación en el que se detecta que un agente accedió a datos que no debía. Mide cuánto tiempo lleva identificar los registros implicados, el usuario que autorizó y la brecha en la política, y compara ese tiempo con los plazos que te exigen tus regulaciones.
Por último, informa al consejo con evidencia, no con garantías. Un resumen de una página con los agentes en producción, clases de datos accesibles, última prueba de atribución y excepciones abiertas hará más que una puntuación de madurez. La pregunta del consejo es si la organización puede demostrar control, y la respuesta debe venir de los registros.
Para saber más sobre cómo gobernar agentes de IA y usuarios humanos bajo una sola política y un solo registro de auditoría, solicita una demo personalizada hoy.
Preguntas frecuentes
Cítala solo con su contexto. Proviene de un BrandPost patrocinado por Rubrik que informa de una encuesta a 200 responsables de TI e IA, y el artículo no indica fechas ni define qué es una filtración. Es un buen punto de partida para probar tus propios controles, pero no una referencia sectorial. Contrástala con fuentes independientes como la encuesta de EY, y pon a prueba ese número en tu propio entorno preguntando cuán rápido podrías detectar una filtración por agente. Si la respuesta honesta es «no lo sabríamos», ese es el hallazgo sobre el que actuar. La guía de riesgo de IA ofrece un punto de partida para esa revisión.
Una cuenta de servicio compartida es la opción más débil, porque rompe la atribución. Cuando un agente actúa a través de una cuenta genérica, el registro no puede mostrar qué persona autorizó la acción ni si el acceso coincidía con sus permisos. Los requisitos de identificación única y auditoría de HIPAA, y el principio de responsabilidad del GDPR, apuntan al acceso atribuible. El mejor patrón vincula cada acción de agente con el usuario que la autorizó mediante controles de gestión de identidades y accesos, de modo que el registro muestre tanto al agente como a la persona responsable. Trata a los agentes como una segunda clase de identidad junto a las personas, gobernados por un solo conjunto de políticas, en vez de dejar que usen una credencial compartida sin dueño.
Espera solicitudes de los mismos elementos que para el acceso humano. Eso incluye el análisis de riesgos que contempla al agente, la política que limitó su acceso, la identidad bajo la que operó y el registro de auditoría que muestre qué leyó o movió. Las reglas de protección y seguridad de datos ya aplican al acceso de agentes a datos regulados, así que la ausencia de una norma específica de IA no reduce la exigencia. Un registro de auditoría unificado entre canales reduce el tiempo de respuesta, porque la evidencia está en un solo lugar y no en cinco. Prepara el paquete antes de que llegue la solicitud y practica cómo recuperarlo.
La responsabilidad suele estar dividida entre el CIO, el CISO y las funciones de cumplimiento, y esa división es la causa de las brechas de evidencia. La respuesta práctica es nombrar a una sola persona responsable del acceso a datos por parte de agentes, darle autoridad sobre el registro de auditoría y hacer que el CISO y el Chief Compliance Officer sean consumidores del mismo registro. El CIO y el Chief AI Officer pueden encargarse de la adopción y la velocidad de entrega. Documenta la asignación para que la respuesta a «¿quién es responsable?» no dependa de a quién se pregunte, y revísala cada vez que un nuevo agente entre en producción. Una carta de gobernanza de datos es un buen lugar para dejar constancia.
La gobernanza del modelo aborda la precisión, el sesgo y el comportamiento del propio modelo. Un enfoque en la capa de datos gobierna qué contenido puede acceder, usar e intercambiar cualquier identidad, y registra cada acción. La exposición de cumplimiento está en la capa de datos, porque las leyes se aplican a los datos personales, de salud y financieros sin importar la herramienta que los tocó. Kiteworks Compliant AI sigue este enfoque, y el Secure MCP Server es una forma en que los clientes de IA se conectan bajo permisos heredados.
Recursos adicionales
- Artículo del Blog
Estrategias Zero‑Trust para proteger la privacidad de IA de forma asequible - Artículo del Blog
Cómo el 77% de las organizaciones está fallando en la seguridad de datos de IA - eBook
Brecha de gobernanza de IA: por qué el 91% de las pequeñas empresas juega a la ruleta rusa con la seguridad de datos en 2025 - Artículo del Blog
No existe «–dangerously-skip-permissions» para tus datos - Artículo del Blog
Los reguladores ya no preguntan si tienes una política de IA. Quieren pruebas de que funciona.