Las aplicaciones creadas con IA se están entregando con las puertas abiertas

La forma más rápida de provocar filtraciones de datos empresariales en 2026 es crear algo útil con una herramienta de IA y olvidarte de preguntar quién más puede abrirlo. Dos historias de la semana pasada muestran el mismo fallo desde direcciones opuestas. En una, empleados crearon apps con un generador de IA y las dejaron accesibles para cualquiera con el enlace. En la otra, el conector de una empresa de hosting para asistentes de IA se convirtió en la puerta de entrada.

Investigadores de seguridad de Claroc encontraron decenas de miles de apps creadas con Grok que se abrían sin iniciar sesión, incluidas 24 desarrolladas por empleados de SpaceXSI y X. Por otro lado, el proveedor alemán de hosting Mittwald informó que atacantes aprovecharon una vulnerabilidad en su servidor Model Context Protocol para comprometer 56 proyectos de clientes. Una historia trata sobre lo que las personas construyen con IA. La otra, sobre a qué puede conectarse la IA.

Ambas terminan igual. Contenido confidencial queda detrás de una puerta que nadie revisó, y la organización se entera por alguien externo. Para un CISO o un Chief Compliance Officer, la lección no es que un proveedor falló. Es que la IA ha reducido el coste de crear y conectar sistemas mucho más rápido de lo que ha reducido el coste de gobernarlos.

Aspectos clave

  1. Fácil de construir significa fácil de exponer. Claroc reportó que 35,578 apps creadas con Grok se abrían sin cuenta, alrededor del 94,7% de las apps que respondieron.
  2. Los creadores no eran externos descuidados. Veinticuatro de las apps abiertas fueron creadas por personal de SpaceXSI y X, lo que sugiere que los ajustes por defecto y los hábitos pesan más que la experiencia.
  3. Los conectores de IA son una superficie de ataque. Mittwald rastreó la brecha de 56 proyectos de clientes hasta una vulnerabilidad en el servidor que conecta su panel de hosting con asistentes de IA.
  4. La detección fue lenta en ambos casos. Mittwald tardó ocho días en notar la explotación, y las apps Grok expuestas fueron encontradas por investigadores externos.
  5. La gobernanza debe empezar en los datos. Controlar a qué pueden acceder las apps creadas con IA y los conectores de IA, y registrar esa actividad, importa más que vigilar cada herramienta.

Lo que Claroc encontró en las apps creadas con Grok

Claroc publicó sus hallazgos en un informe titulado GhostShares 2. Las cifras a continuación provienen de ese informe, que describe su propia metodología.

Los investigadores listaron nombres bajo el dominio grok.me usando un servicio comercial de DNS pasivo, obteniendo la lista el 8 de noviembre de 2026 tras consultas diarias iniciadas el 31 de octubre. Contaron 43,551 apps distintas que cargaron, y 35,578 de ellas se abrieron sin iniciar sesión. Otras 1,993 devolvieron un error de autenticación. Claroc afirma que aproximadamente el 94,7% de las apps que respondieron estaban abiertas para cualquiera. El informe no contabiliza el resto de apps en el total.

Luego el contenido. La evaluación asistida por IA de Claroc determinó que aproximadamente una de cada diez apps contenía material sensible, datos internos de negocio o datos personales. Se estimó que cerca del 2% contenía material clasificado como alto o crítico, y los autores indican que su segunda revisión, más estricta, probablemente sobreestima, situando la cifra real en unas 650 a 800 apps. Confirmaron manualmente 150 exposiciones. Entre los ejemplos había un informe de paciente de UCI, un listado de personal hospitalario, un tablero de turnos de bomberos y una app de control horario con contraseñas en texto plano. Se identificaron treinta organizaciones aparte de SpaceXSI y X, 26 de ellas con más de 1,000 empleados y seis en la lista Fortune 500.

El método merece mención, porque condiciona la lectura de los datos. Claroc solicitó cada página principal una vez sin cuenta, no usó credenciales encontradas y visualizó las páginas sin conexión. Una revisión puntual de 100 apps evaluadas por IA mostró que 75 mantenían la clasificación. Es decir, son estimaciones cuidadosas, no una auditoría de cada app.

La respuesta de SpaceXSI, según el informe, fue que las apps Grok son privadas hasta que el creador decide compartirlas, y que las cuentas de empleados tienen por defecto el ajuste Solo tú. Los investigadores discrepan de que los pasos adicionales de publicación protejan los datos, señalando que la opción Cualquiera con el enlace estaba preseleccionada en su propia cuenta. SpaceXSI eliminó las 24 apps creadas por empleados tras las preguntas de un periodista, pero no las de otros usuarios.

Los valores por defecto son la verdadera vulnerabilidad

Es tentador ver esto solo como un problema de configuración de un proveedor. Esa lectura pasa por alto el patrón.

Cuando una herramienta hace trivial construir, la persona que crea rara vez es un ingeniero de seguridad. Un analista de marketing crea un dashboard, un jefe de enfermería hace un tablero de turnos y alguien de finanzas desarrolla una app de control horario. Cada uno quiere compartirla con colegas, y la forma más fácil es un enlace. Si el enlace requiere inicio de sesión depende de un ajuste que la mayoría de los creadores nunca ve.

Esto es shadow IT con el reloj acelerado. Hace una década, el sistema no autorizado era una hoja de cálculo enviada por correo. Hoy es una aplicación alojada con dirección pública, una base de datos detrás y posiblemente credenciales incrustadas. La escala es distinta, y también la vía de descubrimiento. Atacantes e investigadores pueden enumerar apps públicas mediante registros DNS sin tocar tu red. Si esperas a que tus propios escáneres las encuentren, llegarás después que ellos.

El estudio Oh, Behave! de NCA y CybSafe reportó que el 32% de los usuarios de IA en el trabajo había compartido datos sensibles de la empresa sin que su empleador lo supiera. Si combinas eso con un generador de IA que publica por defecto, tienes las condiciones para lo que encontró Claroc. Tómalo como un hallazgo de una encuesta, pero observa cómo encaja con el comportamiento.

Mittwald y el problema del conector de IA

La segunda historia implica software que se sitúa entre asistentes de IA y una plataforma. Mittwald CM Service, un proveedor alemán que trabaja para agencias, gestiona un panel de hosting llamado mStudio. Ofrecía un servidor Model Context Protocol para que los clientes pudieran conectar asistentes de IA a ese panel.

La propia versión de Mittwald, según webhosting.today y The Record, es la siguiente. Un atacante probó primero una vulnerabilidad en el servidor MCP en octubre, se movió por la plataforma como usuario normal y explotó la falla el 27 de octubre, cinco minutos después de registrar otra cuenta. El atacante leyó tokens de sesión, no contraseñas, de clientes que usaban el servidor y comprometió 56 proyectos. Mittwald detectó actividad inusual el 4 de noviembre, desconectó partes de sus sistemas, identificó el servidor MCP como punto de entrada y lo cerró. Contrató especialistas forenses externos, informó a las autoridades pertinentes y revocó tokens y bloqueó claves API como precaución.

Varios detalles merecen subrayarse. Mittwald afirma que ha localizado y cerrado la vulnerabilidad, y aún no ha dicho si el servidor MCP volverá. Su evaluación actual es que los clientes que nunca usaron el servidor no se vieron afectados. Hasta ahora no ha encontrado pruebas de que se haya publicado información de clientes, aunque las comprobaciones siguen. Su director general dijo que espera que los ataques impulsados por IA sean cada vez más comunes, y la empresa señaló que la velocidad del atacante sugiere el uso de herramientas de IA.

Mittwald dice haber localizado la vulnerabilidad pero no la describe, así que evita afirmar una causa más allá de lo que la empresa ha comunicado.

Lo que comparten ambas historias

En la superficie, no están relacionadas. Una implica un generador de IA orientado al consumidor, la otra un conector empresarial de hosting. Pero en el fondo, tres elementos coinciden.

La autorización era laxa. En el caso de Grok, el control de acceso era un enlace abierto. En el de Mittwald, los tokens de sesión obtenidos por el atacante eran la clave. Ninguna requirió una intrusión sofisticada. Ambas dependían de credenciales o enlaces que funcionaban para cualquiera que los tuviera.

La visibilidad era escasa. Nadie en las organizaciones afectadas tenía una lista completa de lo que se había creado o conectado. Mittwald tardó ocho días entre la explotación y la detección. Claroc encontró exposiciones mediante datos DNS públicos que cualquier externo podía consultar.

El alcance del daño siguió a los datos. Los tokens abrían proyectos y los enlaces abiertos exponían contenido empresarial. Lo que un atacante podía alcanzar dependía de a qué podía acceder la app o el conector, no de la sofisticación del ataque.

Por eso el enfoque de generative AI de confianza cero es útil. Trata cada app creada con IA y cada conector de IA como un acceso no confiable. Solicita autenticación en cada petición, limita a qué puede acceder cada uno y registra lo que ocurre.

Qué debe hacer un CISO este trimestre

Empieza por identificar lo que existe. Usa herramientas de descubrimiento externo de activos para enumerar los nombres públicos asociados a tu empresa, incluidos los de dominios de generadores de IA, y pregunta directamente a las unidades de negocio qué han creado. No confíes solo en una política que prohíba crear cosas. Da por hecho que ya lo han hecho.

Luego, establece una norma para los generadores de IA. Decide qué herramientas están aprobadas, exige inicio de sesión para cualquier cosa que maneje datos empresariales o personales y haz que lo privado sea el valor por defecto. Si una herramienta no puede garantizarlo, limítala a usos no sensibles.

Después, haz inventario de tus conectores de IA. Enumera cada servidor MCP, plugin y conexión API que permita a un asistente de IA actuar sobre tus sistemas. Para cada uno, registra quién puede usarlo, qué puede leer y escribir, cómo se autentica y dónde se almacenan sus registros. El caso Mittwald muestra lo que ocurre cuando el conector es una vía de confianza con una vulnerabilidad.

A continuación, reduce el tiempo de detección. Envía los registros de conectores y aplicaciones a tu SIEM y genera alertas ante uso inusual de tokens, nuevas cuentas seguidas rápidamente de acciones privilegiadas y accesos a rutas sensibles. Ocho días es mucho tiempo para que un atacante mantenga una sesión.

Por último, rota credenciales tras cualquier incidente que involucre tokens. La recomendación de Mittwald a sus clientes —cambiar contraseñas, activar autenticación de dos factores, revisar claves API y renovar credenciales de terceros almacenadas en proyectos— es un buen modelo. MFA por sí sola no detiene el robo de tokens de sesión, pero reduce las vías de ataque.

Qué debe preguntar un Chief Compliance Officer

Los líderes de cumplimiento enfrentan una versión distinta del problema. Una app creada con IA que contenga datos personales puede generar un incidente de privacidad sin que haya un actor malicioso. Si la app contiene información de salud, se aplican obligaciones de la Ley HIPAA. Si contiene datos de residentes de la UE, las obligaciones del GDPR aplican, sin importar quién creó la app o la rapidez.

Hazte cinco preguntas. ¿Qué generadores y conectores de IA están en uso y quién los aprobó? ¿Qué categorías de datos regulados se han colocado en ellos? ¿Cuáles requieren autenticación? ¿Dónde están sus registros y cuánto tiempo se conservan? ¿Y cuál es el proceso para descubrir, evaluar y, si es necesario, reportar una exposición?

Si las respuestas dependen de la buena voluntad y no de registros, tienes la misma brecha de visibilidad que expusieron Claroc y Mittwald. La evidencia que pedirá un regulador o auditor es un inventario y un registro, no una declaración de intenciones. Prácticas sólidas de controles de acceso y administración de riesgos de terceros aplican a los proveedores de IA igual que a cualquier otro proveedor.

Gobernar los datos detrás de las apps

Vigilar cada herramienta de IA es una carrera perdida. Cada semana aparecen nuevos generadores y conectores. El control duradero está en los datos, donde la política puede seguir el contenido sin importar qué herramienta lo solicita.

El patrón tiene cuatro partes. Los asistentes y agentes de IA acceden a contenido confidencial solo a través de un canal controlado. Cada petición se autentica y evalúa según políticas basadas en atributos. Las credenciales de autenticación permanecen fuera del alcance del modelo, así que un prompt no puede extraerlas. Y cada operación queda registrada en un log auditable que el equipo de seguridad puede consultar.

Kiteworks incorpora esto en su Secure MCP Server, que permite a los asistentes de IA interactuar con contenido en el intercambio seguro de datos de Kiteworks heredando los permisos del usuario, con los tokens almacenados en el sistema operativo. También ofrece Kiteworks Compliant AI, que extiende el mismo motor de políticas y registro a los flujos de trabajo de IA. El alcance honesto es limitado. Kiteworks no protege apps creadas en otras herramientas de IA ni opera dentro del panel de control de un proveedor de hosting. Gobierna el acceso de IA al contenido almacenado en la plataforma Kiteworks y registra ese acceso. Para una organización cuyos archivos más sensibles residen ahí, eso convierte un cúmulo de incógnitas en una cuestión acotada con registro. Para el diseño más amplio, consulta protección de datos de IA y control de acceso basado en roles.

La gran lección

La IA cambió quién puede crear software y cuán rápido. No cambió lo que buscan los atacantes: datos accesibles. Cada organización tendrá más apps, más conectores y más personas creando de las que su equipo de seguridad puede revisar manualmente.

Así que decide de antemano lo que no será negociable. Los datos sensibles solo son accesibles mediante canales gobernados. Cada acceso de IA está autenticado y limitado. Cada acceso queda registrado. Luego mide cuánto tardas en descubrir algo cuya existencia desconocías. Si la respuesta se mide en días, como en Mittwald, o nunca, como con las apps Grok abiertas, ese es el número que debes mejorar primero.

Por qué la seguridad tradicional de aplicaciones no detecta estas apps

Los programas de seguridad de aplicaciones surgieron alrededor de código que los equipos de ingeniería escriben, revisan e implementan mediante pipelines controlados. Las apps del estudio de Claroc no siguen ese camino. Son creadas por usuarios de negocio dentro del entorno de un proveedor y publicadas con un clic.

Eso rompe varias suposiciones. No hay pull request que revisar, ni escaneo en el pipeline de construcción ni ticket en la cola de seguridad. El nombre de host puede estar en el dominio del proveedor, así que no aparece en tu inventario DNS. Los datos pueden entrar por un formulario diseñado por el creador, sin clasificación de datos aplicada. Y la persona responsable puede no considerarse a sí misma como alguien que ha desarrollado software.

La estrategia de control debe partir del lugar donde ocurre la exposición. El descubrimiento debe mirar hacia afuera, usando herramientas de superficie de ataque externa y búsquedas de DNS pasivo para los nombres y marcas de tu empresa en dominios de generadores de IA. La gobernanza debe centrarse en los datos, ya que la parte peligrosa de una app es el contenido que almacena. Y la política debe llegar al usuario, ya que la decisión de publicar es suya.

Considera un conjunto de reglas simples. Toda app creada con IA que maneje datos de clientes, pacientes, empleados o financieros debe requerir autenticación y estar registrada con un responsable identificado. Las apps sin registro se eliminan tras aviso. Las categorías sensibles quedan bloqueadas para generadores de IA, salvo que el generador sea una herramienta empresarial aprobada con protecciones contractuales. Estas reglas son fáciles de enunciar y de aplicar una vez que puedes ver las apps.

Un filtro de revisión para conectores y generadores

Cada nuevo generador de IA, plugin o conector MCP debe pasar por una revisión ligera antes de usarse con datos de la empresa. No tiene que ser lenta. Una checklist de una página cubre la mayoría del riesgo.

Autenticación. ¿La herramienta permite inicio de sesión único y exige login para el contenido publicado por defecto? ¿Los administradores pueden forzar ese ajuste?

Autorización. ¿Qué puede leer y escribir el conector? ¿Sus permisos pueden limitarse al acceso propio del usuario o funciona con una cuenta de servicio amplia? En el caso Mittwald, los tokens obtenidos por el atacante eran el objetivo, así que cómo se emiten, almacenan y revocan los tokens es clave.

Registro. ¿La herramienta guarda quién la usó, qué tocó y cuándo? ¿Esos registros pueden enviarse a tu SIEM en un formato útil?

Manejo de datos. ¿A dónde van los datos, cuánto tiempo permanecen y se usan para entrenamiento? ¿Qué ocurre cuando se elimina el proyecto?

Gestión de vulnerabilidades. ¿Cómo informa y corrige problemas el proveedor? ¿Hay un contacto de seguridad y qué tiempos de respuesta ofrecen?

Salida. ¿Puedes desactivar la herramienta rápidamente si algo va mal y exportar o borrar tus datos?

Registra el resultado y revísalo cada año, o antes si el proveedor sufre un incidente. Este proceso es similar al que muchos equipos ya aplican para aplicaciones SaaS. La diferencia es el volumen y la velocidad, así que mantenlo lo bastante ágil para que los equipos lo usen. Complétalo con revisiones de administración de riesgos de terceros para los proveedores grandes y con prácticas de gestión de riesgos de la cadena de suministro para componentes open source.

Métricas que muestran si está funcionando

Sin métricas, la gobernanza se convierte en un documento. Unas pocas métricas la mantienen honesta.

Cuenta de apps y conectores de IA conocidos y responsable identificado. Porcentaje que requiere autenticación. Tiempo medio desde la creación de una app expuesta hasta su descubrimiento por tu propio equipo, comparado con cuándo podría haberla encontrado un externo. Número de conectores con acceso mediante cuentas de servicio amplias. Tiempo medio para revocar tokens tras un incidente. Y porcentaje de accesos a datos de IA que pasan por un canal gobernado y registrado.

Haz seguimiento de estas métricas y muestra la tendencia. Un aumento de accesos gobernados y una reducción en el tiempo de descubrimiento cuentan una mejor historia que un número estático de riesgos. Si los números se estancan, investiga por qué, lo que suele señalar a una unidad de negocio que encuentra la vía aprobada demasiado lenta.

Cuidado con los números de vanidad. Por ejemplo, el número de peticiones bloqueadas puede aumentar porque los atacantes están probando o porque tu herramienta es ruidosa. Prefiere métricas de resultado vinculadas a exposición y evidencia. Combínalas con ejercicios periódicos. Un red team que intente encontrar apps públicas creadas por tus propios empleados te enseñará más que un dashboard.

Para ver cómo un conector de IA gobernado aplica políticas y registra cada petición, solicita una demo de Kiteworks y recorre el registro de auditoría con nuestro equipo.

Preguntas frecuentes

Utiliza herramientas de descubrimiento externo de activos para buscar nombres de host asociados a tu empresa en dominios de generadores de IA, consulta datos de DNS pasivo y pregunta directamente a las unidades de negocio sin penalizar la honestidad. Combina los resultados con registros de red e identidad. Luego exige inicio de sesión y aprobación para cualquier cosa que maneje datos empresariales. Consulta gobernanza de datos de IA.

Un servidor Model Context Protocol permite que asistentes de IA se conecten a un sistema y realicen acciones mediante una interfaz estándar. Se convierte en un riesgo cuando otorga acceso amplio o tiene vulnerabilidades, como en el caso Mittwald. Limita sus permisos, autentica cada petición y registra toda la actividad.

Depende de la herramienta y de los ajustes. En el estudio de Claroc, la opción Cualquiera con el enlace estaba preseleccionada en la cuenta de los investigadores, aunque SpaceXSI afirmó que las apps son privadas hasta que el creador las comparte. Comprueba tú mismo los valores por defecto de cada herramienta y establece lo privado como estándar. Refuerza los controles de acceso a su alrededor.

Desconecta el conector, revoca tokens y claves API, revisa los registros de actividad del periodo de exposición, rota credenciales almacenadas en los sistemas afectados y notifica a las partes afectadas según corresponda. La respuesta de Mittwald es un buen modelo. Sigue tu plan de respuesta a incidentes.

No por sí sola. MFA protege el paso de inicio de sesión, pero un token de sesión robado puede saltársela. Combina MFA con tokens de vida corta, revocación de tokens, acceso condicional y monitorización de usos inusuales. Descubre más sobre MFA en contexto.

Recursos adicionales

  • Artículo del Blog Arquitectura Zero Trust: nunca confíes, verifica siempre
  • Video Microsoft GCC High: desventajas que impulsan a los contratistas de defensa hacia ventajas más inteligentes
  • Artículo del Blog Cómo proteger datos clasificados una vez que DSPM los detecta
  • Artículo del Blog Cómo generar confianza en la IA generativa con un enfoque Zero Trust
  • Video Guía definitiva para el almacenamiento seguro de datos sensibles para líderes de TI

Comienza ahora.

Es fácil comenzar a asegurar el cumplimiento normativo y gestionar eficazmente los riesgos con Kiteworks. Únete a las miles de organizaciones que confían en cómo intercambian datos confidenciales entre personas, máquinas y sistemas. Empieza hoy mismo.

Compartir
Twittear
Compartir
Explore Kiteworks