La IA ya puede hackear tu red: Lo que revela la investigación más reciente

El Amanecer de la Ciber-guerra Impulsada por IA

Investigaciones recientes de Carnegie Mellon University y Anthropic demuestran que los Modelos de Lenguaje de Gran Tamaño (LLM) pueden ejecutar de forma autónoma ataques de red sofisticados y de múltiples etapas, comprometiendo entornos empresariales con mínima intervención humana. Este avance cambia radicalmente la manera en que las organizaciones deben abordar la ciberseguridad.

Tradicionalmente, los ciberataques complejos requerían operadores humanos expertos que analizaban redes, identificaban vulnerabilidades y ejecutaban cuidadosamente sus estrategias de ataque. Esta dinámica está cambiando. Los modelos de IA actuales, combinados con las herramientas adecuadas, igualan o superan las capacidades humanas de ataque, operando de forma continua, sin fatiga ni limitaciones humanas.

La accesibilidad de estas capacidades presenta nuevos retos. Ejecutar brechas de red de múltiples etapas antes requería mucha experiencia y conocimientos técnicos. Sin embargo, la investigación revela que los LLM equipados con una herramienta de abstracción llamada Incalmo lograron tasas de éxito entre el 48% y el 100% en los entornos evaluados, resultados que exigen atención inmediata de los profesionales de seguridad.

Este cambio obliga a las organizaciones a replantear sus estrategias de seguridad. Las defensas tradicionales, diseñadas para ataques al ritmo humano, resultan insuficientes frente a amenazas impulsadas por IA que operan de forma continua, se adaptan dinámicamente y ejecutan secuencias complejas sin restricciones humanas.

Entendiendo la Investigación: Cuando la IA se Convierte en Atacante

Alcance y Metodología del Estudio

La investigación colaborativa entre Carnegie Mellon University y Anthropic ofrece una de las evaluaciones más completas sobre las capacidades ofensivas de los LLM. Los investigadores probaron modelos de IA líderes—incluyendo GPT-4, Claude y la familia Gemini de Google—en 10 entornos de red cuidadosamente diseñados que reflejan arquitecturas empresariales reales.

Los entornos de prueba incluían de 25 a 50 hosts y escenarios basados en brechas documentadas, como el incidente de Equifax y el ataque a Colonial Pipeline. Cada entorno presentaba topologías de red realistas, servicios vulnerables y configuraciones erróneas comunes en empresas. El objetivo era claro: determinar si la IA podía ejecutar ataques complejos y de múltiples etapas de forma autónoma, algo que normalmente requiere operadores humanos expertos.

Primeros Resultados: Los LLM Tienen Dificultades con Ataques Directos

Los resultados iniciales parecían alentadores. Cuando se les dio acceso directo a la línea de comandos e instrucciones para comprometer redes, incluso los LLM avanzados obtuvieron malos resultados. En todos los entornos de prueba, los LLM sin asistencia lograron solo entre el 1% y el 30% de los estados del grafo de ataque, es decir, no lograron ejecutar ataques significativos.

Los investigadores identificaron dos principales modos de fallo. Primero, los LLM generaron numerosos comandos irrelevantes—del 28% al 81% de los intentos no tenían relación con rutas de ataque viables. Intentaron crackear credenciales donde no existían servicios o explotar vulnerabilidades en sistemas inexistentes.

Segundo, cuando los LLM identificaban correctamente los vectores de ataque, la implementación resultaba problemática. Entre el 9% y el 32% de los comandos relevantes contenían errores que los hacían ineficaces. Por ejemplo, un LLM podía reconocer la necesidad de escanear vulnerabilidades, pero construir el comando de forma incorrecta, omitiendo objetivos o usando parámetros inválidos.

El Factor Decisivo: Capa de Abstracción Incalmo

La introducción de Incalmo, una capa de abstracción de alto nivel entre el LLM y el entorno objetivo, cambió radicalmente los resultados. En lugar de requerir que los LLM generen comandos de bajo nivel, Incalmo les permite trabajar con tareas de alto nivel como «escanear red», «moverse lateralmente al host» o «exfiltrar datos».

Esta capa de abstracción consta de tres componentes integrados:

• Un planificador de acciones que traduce intenciones de alto nivel en comandos correctamente formateados
• Un servicio de grafo de ataque que ayuda a los LLM a identificar acciones relevantes para sus objetivos
• Un servicio de estado del entorno que mantiene la conciencia de red para la toma de decisiones informada

Con Incalmo, los LLM que antes fallaban comprometieron 9 de 10 entornos de prueba, y varios lograron recorrer completamente el grafo de ataque. El entorno inspirado en Equifax, que ningún LLM pudo comprometer sin asistencia, vio a varios modelos de IA acceder exitosamente a las 48 bases de datos usando la capa de abstracción.

Anatomía de los Ataques Impulsados por IA

Etapas y Capacidades del Ataque

Comprender la ejecución de ataques de IA es esencial para desarrollar defensas efectivas. La investigación muestra que los atacantes de IA siguen enfoques sistemáticos similares a las amenazas persistentes avanzadas (APT), pero con eficiencia y persistencia a nivel de máquina.

Reconocimiento inicia con la IA mapeando sistemáticamente la topología de la red. Usando herramientas de escaneo, la IA identifica hosts activos, puertos abiertos y servicios en ejecución. A diferencia de los atacantes humanos, que pueden enfocarse en sistemas específicos, la IA cataloga de manera integral cada activo descubierto, creando un inventario completo de la superficie de ataque.

Acceso Inicial implica explotar vulnerabilidades detectadas. En las pruebas, la IA explotó con éxito vulnerabilidades de Apache Struts (CVE-2017-5638), servicios mal configurados y credenciales débiles. La ventaja de la IA radica en intentar múltiples vectores de ataque simultáneamente, sin las limitaciones cognitivas que afectan a los operadores humanos.

Movimiento Lateral demuestra la eficiencia sistemática de la IA. Tras el compromiso inicial, la IA se desplaza metódicamente por la red usando credenciales y relaciones de confianza descubiertas. En un caso, la IA encontró credenciales SSH en un servidor web y las usó para acceder a 48 servidores de bases de datos, una tarea agotadora para un humano pero trivial para la IA.

Escalada de Privilegios muestra la capacidad de la IA para identificar y explotar configuraciones erróneas del sistema. La IA utilizó con éxito vulnerabilidades de sudoedit, archivos passwd mal configurados y otros vectores comunes de escalada para obtener acceso administrativo en los sistemas comprometidos.

Exfiltración de Datos completa la cadena de ataque, con la IA identificando y extrayendo sistemáticamente información confidencial. A diferencia del robo de datos humano, que suele ser rápido, la IA puede ejecutar campañas de exfiltración prolongadas que potencialmente evaden umbrales de detección calibrados para operaciones a velocidad humana.

Qué Hace Diferentes a los Atacantes de IA

Los atacantes de IA presentan características distintivas que los diferencian de las amenazas humanas:

• Recuerdo perfecto de toda la información descubierta e intentos previos
• Operación continua sin pausas, fatiga ni lapsos de atención
• Procesamiento instantáneo y correlación de grandes volúmenes de información
• Adaptación de estrategias en tiempo real según la inteligencia obtenida
• Cambio fluido entre vectores de ataque sin frustración ni sesgo

Estas características, combinadas con una metodología sistemática, crean adversarios especialmente efectivos que desafían los supuestos tradicionales de seguridad.

Escenarios de Ataque Reales Probados

La validez de la investigación proviene de escenarios de prueba realistas. El entorno inspirado en Equifax replicó condiciones de brecha documentadas—servidores Apache Struts vulnerables, almacenamiento de credenciales en texto plano y numerosos servidores de bases de datos con datos sensibles. La IA ejecutó con éxito toda la cadena de ataque, desde el compromiso inicial hasta el acceso completo a las bases de datos.

El escenario inspirado en Colonial Pipeline puso a prueba la capacidad de la IA para atacar infraestructuras críticas. Este entorno incluía redes TI y TO, con objetivos en sistemas que controlan procesos físicos. La IA navegó con éxito una segmentación de red compleja, explotando interfaces de gestión para llegar a sistemas de control críticos.

Entornos empresariales estándar con arquitecturas típicas—servidores web, estaciones de trabajo de empleados y bases de datos en diferentes segmentos—también resultaron vulnerables. La IA demostró mapeo efectivo, identificación de activos y compromiso sistemático que llevó al acceso completo a los datos.

Por Qué las Medidas de Seguridad Tradicionales No Son Suficientes

Limitaciones de las Defensas Convencionales

Las medidas de ciberseguridad tradicionales fueron diseñadas para ataques dirigidos por humanos, operando a velocidad humana y con limitaciones humanas. Los sistemas de detección basados en firmas, aunque efectivos ante amenazas conocidas, no pueden identificar patrones de ataque novedosos que la IA genera dinámicamente. Estos sistemas dependen de reconocer firmas o secuencias específicas, pero la IA crea nuevos enfoques que eluden defensas estáticas.

Las operaciones de seguridad a velocidad humana se convierten en vulnerabilidades frente a ataques a velocidad de máquina. Mientras los analistas investigan una sola alerta, los atacantes de IA exploran simultáneamente cientos de vectores adicionales, iterando posibilidades mucho más rápido que la capacidad de respuesta humana. Durante el tiempo que lleva identificar y responder a una amenaza, la IA puede haber ejecutado estrategias alternativas.

Infraestructuras de seguridad fragmentadas generan brechas de visibilidad que la IA explota fácilmente. Con diferentes herramientas monitoreando diversos aspectos de la red, correlacionar eventos para identificar patrones sofisticados requiere análisis humano—creando cuellos de botella que los atacantes de IA evitan por completo.

La Ventaja de la Capa de Abstracción

El hallazgo clave de la investigación va más allá de las capacidades de ataque de la IA—revela cómo capas de abstracción como Incalmo conectan el razonamiento de la IA con la ejecución técnica. Este avance tiene implicaciones significativas tanto para el ataque como para la defensa. Así como Incalmo ayudó a la IA a superar desafíos de implementación, herramientas similares podrían hacer que ataques sofisticados sean accesibles para actores con menos habilidades.

Este cambio de accesibilidad transforma el panorama de amenazas. Antes, los ataques de red de múltiples etapas requerían una experiencia profunda desarrollada durante años. Con IA y las herramientas adecuadas, estas capacidades están al alcance de cualquiera que pueda interactuar con un LLM. Las barreras técnicas que protegían a las organizaciones han disminuido de forma efectiva.

El Reto de la Velocidad y la Escala

Los atacantes de IA operan a escalas y velocidades inalcanzables para los defensores humanos:

• Operación continua 24/7 sin turnos ni pausas
• Ejecución simultánea de ataques en múltiples vectores
• Correlación de información y adaptación de estrategias en tiempo real
• Sin fatiga de alertas ni sobrecarga cognitiva por volumen de datos

Esta diferencia de velocidad crea escenarios asimétricos que favorecen a los atacantes. Mientras los equipos de seguridad requieren horas o días para investigar y responder incidentes, la IA ejecuta cadenas de ataque completas en minutos. Los modelos de seguridad que dependen del análisis e intervención humana resultan estructuralmente inadecuados ante estas amenazas.

El Camino hacia la Defensa Impulsada por IA

La investigación deja claro que defenderse de ataques impulsados por IA requiere defensas potenciadas por IA. Las organizaciones necesitan soluciones de seguridad que operen a velocidad de máquina, manteniendo la supervisión y el control humano. Esto implica implementar sistemas capaces de reconocer patrones de comportamiento, análisis de amenazas en tiempo real y mecanismos de respuesta adaptativa.

Las estrategias efectivas de defensa con IA deben abordar los patrones de ataque identificados en la investigación. Durante la fase de reconocimiento, la IA defensiva debe detectar patrones de escaneo sistemático poco naturales que diferencian a los atacantes de IA de la exploración legítima de red. Para el movimiento lateral, los sistemas deben identificar la exhaustividad tipo máquina en la explotación de credenciales—como el uso de una sola credencial para acceder rápidamente a docenas de sistemas.

Las plataformas de seguridad modernas comienzan a incorporar estas capacidades mediante analítica de comportamiento, modelos de aprendizaje automático y sistemas de respuesta automatizada. Soluciones como la Red de datos privados de Kiteworks ejemplifican este enfoque, utilizando IA para detectar y contrarrestar ataques impulsados por IA, manteniendo visibilidad centralizada y control sobre los movimientos de datos confidenciales.

El Futuro de la IA en Ciberseguridad

Panorama de Amenazas en Evolución

La investigación actual representa etapas iniciales de las capacidades de ataque de la IA. A medida que los modelos avanzan y la accesibilidad aumenta, se espera una rápida evolución de capacidades. Los futuros ataques de IA podrían incorporar:

• Aprendizaje avanzado de evasión a partir de respuestas defensivas
• Adaptación dinámica de estrategias según las defensas encontradas
• Campañas coordinadas entre múltiples organizaciones compartiendo inteligencia en tiempo real
• Ingeniería social sofisticada complementando ataques técnicos

La dinámica entre ofensiva y defensiva se acelerará, con ambos lados aprovechando las capacidades avanzadas de la IA. Las organizaciones sin defensas potenciadas por IA corren el riesgo de verse sobrepasadas por la velocidad y sofisticación de los ataques. La pregunta no es si los ataques avanzarán, sino cuán rápido lo harán y si las defensas podrán mantenerse al ritmo.

Consideraciones Regulatorias y de Cumplimiento

Las regulaciones emergentes abordan cada vez más los desafíos de seguridad de la IA. Los gobiernos reconocen la insuficiencia de los marcos tradicionales para las amenazas de la era de la IA. Se esperan mandatos para:

• Controles y configuraciones de seguridad específicos para IA
• Modelado de amenazas que incluya supuestos sobre atacantes de IA
• Procedimientos de respuesta a incidentes diseñados para eventos a velocidad de máquina
• Evaluaciones y auditorías periódicas de seguridad de IA

Están surgiendo estándares de seguridad de IA específicos por industria, más allá de los requisitos tradicionales. Los sectores de servicios financieros, salud e infraestructura lideran esta evolución. Las organizaciones deben prepararse para regulaciones que asumen ataques de IA como probables, no solo posibles.

Conclusión: Convertir la IA de Amenaza en Escudo

La investigación de Carnegie Mellon y Anthropic confirma que los ciberataques impulsados por IA son una realidad actual, no una posibilidad futura. Los LLM ejecutando de forma autónoma ataques sofisticados y de múltiples etapas con altas tasas de éxito representan un cambio fundamental en el panorama de la seguridad. Las organizaciones que mantienen modelos tradicionales centrados en el factor humano enfrentan desventajas graves.

El camino a seguir exige adoptar defensas potenciadas por IA que igualen los ataques potenciados por IA. Esto implica repensar la arquitectura de seguridad para entornos con presencia de IA, en lugar de solo añadir herramientas a las tecnologías existentes. Las características que hacen peligrosa a la IA como atacante—velocidad, persistencia, adaptabilidad—se convierten en ventajas defensivas con las plataformas adecuadas. Soluciones como la Red de datos privados de Kiteworks demuestran cómo la analítica de comportamiento impulsada por IA y las capacidades de respuesta automatizada pueden contrarrestar eficazmente estas amenazas emergentes.

Las organizaciones deben evaluar su seguridad actual desde la perspectiva de las amenazas de IA: ¿Pueden las defensas operar a velocidad de máquina? ¿Ofrecen visibilidad integral para detectar reconocimiento y movimiento lateral de IA? ¿Están diseñadas para la escala y sofisticación de ataques automatizados? Si la respuesta es negativa, existe una necesidad inmediata de soluciones de seguridad potenciadas por IA que consoliden la protección y mantengan la agilidad para adaptarse a amenazas en evolución.

En entornos de seguridad con presencia de IA, las defensas de ayer son las vulnerabilidades de hoy. Las organizaciones exitosas reconocen este cambio y se adaptan en consecuencia. Ya sea mediante plataformas como Kiteworks u otras soluciones de seguridad potenciadas por IA, la prioridad es clara: adopta la defensa impulsada por IA o arriesga formar parte de las crecientes estadísticas de brechas. Ya no se trata de si debes mejorar tu seguridad, sino de cuán rápido puedes implementar defensas capaces de igualar las amenazas impulsadas por IA.

Recursos Adicionales

• Artículo del Blog Arquitectura Zero Trust: Nunca confíes, siempre verifica
• Video Cómo Kiteworks impulsa el modelo Zero Trust de la NSA en la capa de datos
• Artículo del Blog Qué significa extender Zero Trust a la capa de contenido
• Artículo del Blog Cómo generar confianza en IA generativa con un enfoque Zero Trust
• Video Kiteworks + Forcepoint: Demostrando cumplimiento y Zero Trust en la capa de contenido