Espía vs. Espía: la guerra de la IA Generativa en ciberseguridad según Cisco

La Inteligencia Artificial Generativa (GenAI) transforma la ciberseguridad para ambos bandos. Cisco Talos describe este escenario como un juego de “Espía contra Espía”. Las capacidades futuras son difíciles de medir, pues las técnicas evolucionan rápidamente.

Hoy, los adversarios utilizan la GenAI para la codificación, el phishing, la evasión de análisis y el descubrimiento de vulnerabilidades. A medida que los modelos se reducen y los requisitos de hardware disminuyen, el acceso a estas armas está a punto de dispararse.

El arsenal del atacante

Los grupos patrocinados por Estados lideran el uso de esta tecnología. Sin embargo, las organizaciones criminales comunes empiezan a beneficiarse gracias a la prevalencia de modelos “sin censura” y de código abierto.

Las tácticas actuales incluyen:

• Evasión: Los actores integran avisos en el malware para engañar a las herramientas de análisis. Por ejemplo, si un defensor usa IA para analizar un virus, el código malicioso puede ordenarle “ignorar instrucciones anteriores” y devolver un resultado benigno.
• Ingeniería social: El mayor impacto actual está en la redacción de correos electrónicos de phishing altamente convincentes.
• Búsqueda de fallos: La GenAI puede realizar revisiones exhaustivas de software de código abierto para encontrar vulnerabilidades y venderlas en el mercado negro.

El escudo del defensor

Para los profesionales de seguridad, la GenAI actúa como un multiplicador de fuerza. Ayuda a analizar grandes cantidades de datos y supera la escasez de analistas humanos.

Sus aplicaciones defensivas clave son:

• Análisis masivo: La IA procesa volúmenes enormes de inteligencia de amenazas y extrae lo importante para bloquear indicadores.
• Revisión de código: Analizar cada confirmación de código (commit) antes de su aplicación permite detectar errores humanos que podrían convertirse en vulnerabilidades.
• Respuesta a incidentes: En lugar de pasar horas revisando registros, la IA identifica rápidamente intentos de movimiento lateral o acceso inicial.

El futuro: la IA Agéntica

El siguiente nivel es la IA Agéntica. Los adversarios podrían desplegar agentes autónomos que trabajen constantemente, sin dormir ni comer, para comprometer nuevas víctimas. Estos agentes monitorean la superficie de ataque buscando cualquier grieta nueva.

Por otro lado, los defensores también usarán agentes. Estos “analistas virtuales” supervisarán registros las 24 horas en busca de ataques lentos y de baja intensidad que pasarían desapercibidos para un humano.

Pese a la automatización, el factor humano sigue siendo decisivo. La verdadera grandeza de la GenAI solo estará disponible para quienes posean el conocimiento experto para dirigirla.