No si, sino cómo
Durante años, la seguridad informática se vendió como una promesa de impermeabilidad: suficientes muros y nadie entra. Esa promesa ya no se sostiene. Cuando el adversario dispone de agentes de IA capaces de explorar, planificar y ejecutar una intrusión a velocidad de máquina, lo razonable es asumir que alguna vez alguien entrará. Lo que distingue a una organización de otra es lo que ocurre después.
Esa es la tesis que Asif Razzaq defiende en MarkTechPost (noviembre de 2026) tras repasar seis meses de incidentes en plataformas de IA: ninguna empresa puede garantizar que no será vulnerada, pero todas controlan cómo responden.
Este artículo parte de ahí y añade una observación que recorre las quince fuentes consultadas: la IA no está de un solo lado. Es una moneda. En una cara, redacta el phishing, reescribe el malware y coordina el movimiento dentro de la red. En la otra, aprende qué es normal en tu organización, ordena miles de alertas y revoca una credencial antes de que un analista termine de leer el aviso. Y tiene un canto que se olvida con facilidad: los propios sistemas de IA se han convertido en un objetivo.
Arriba hay una moneda. Gírala cuando quieras: cambia el color de la página, no los hechos.
La IA que ataca
El cambio no está en que existan ataques nuevos e inimaginables. Está en tres variables conocidas que la IA empuja a la vez: velocidad, escala y capacidad de adaptación.
Ingeniería social sin faltas de ortografía
El correo fraudulento ya no se delata por su redacción. Según Auxis, más del 40 % de los mensajes de fraude por suplantación empresarial (BEC) se generan con IA, y Darktrace observó que un tercio de los correos maliciosos de 2025 superaba los mil caracteres: texto largo, pulido y adaptado a la empresa destinataria. La mitad de los responsables de seguridad encuestados por Darktrace cita el phishing hiperpersonalizado entre sus mayores preocupaciones; un 40 %, el fraude por voz clonada.
Malware que se reescribe
El malware adaptativo cambia su estructura conservando su función, opera en memoria sin dejar archivos y reparte su actividad en el tiempo para parecer tráfico normal. Contra eso, comparar con una lista de firmas conocidas sirve de poco. DigitalXRAID documenta el caso VoidLink: un marco malicioso modular cuya arquitectura fue planificada por un asistente de IA en menos de una semana, y que solo pudo rastrearse hasta su origen por descuidos del desarrollador.
Agentes que hacen el recorrido completo
El paso más reciente es el ataque agéntico. Darktrace describe marcos de código abierto como ARTEX, que convierten un objetivo general en acciones repartidas entre agentes especializados: escanear, explotar, robar credenciales, moverse. Algunas intrusiones atribuidas a ese marco pasaron del primer contacto al acceso privilegiado en menos de tres horas. CrowdStrike, citado por MarkTechPost, reportó un grupo que usó agentes contra más de 200 organizaciones en 11 días.
Un solo grupo, miles de objetivos, y ningún equipo humano capaz de seguir ese paso.Idea central de Bitsight, 2026
El reloj de la intrusión
Las cifras anteriores se entienden mejor puestas en una misma línea de tiempo. Mueve el control para avanzar los minutos desde el acceso inicial y cambia el tipo de defensa. El simulador supone el mejor caso: la alerta salta en el minuto cero.
0:00h:min desde el acceso inicial
Marcas: salto lateral a los 29 min (promedio, CrowdStrike); exfiltración a 1,2 h en el cuartil más rápido frente a 4,8 h un año antes (Unit 42, vía UnderDefense); respuesta manual de 4 h o más y asistida por IA de menos de 30 min (cifras de UnderDefense, un proveedor del sector). Es una ilustración, no un modelo predictivo.
Dos lecciones salen del ejercicio. La primera: con respuesta manual, los datos se van mucho antes de que alguien actúe. La segunda es menos cómoda: incluso la respuesta asistida llega prácticamente a la par del primer salto lateral promedio. La IA defensiva recorta la ventana; no la elimina. Por eso las fuentes insisten tanto en lo que se hace antes del incidente.
La IA que defiende
Del lado defensor, el problema de partida es de atención. UnderDefense calcula que un centro de operaciones de seguridad (SOC) mediano recibe más de 4.000 alertas por semana y que el analista promedio dura 18 meses en el puesto. Según Darktrace, el 87 % de los profesionales afirma que la IA de los atacantes está aumentando la carga de su equipo. La IA defensiva actúa en tres puntos.
1. Detectar por comportamiento, no por firma
En lugar de buscar una amenaza conocida, el sistema aprende cómo se comporta habitualmente cada usuario, equipo y aplicación, y señala la desviación. Es la única aproximación útil contra algo que cambia de forma en cada ejecución. Darktrace lo resume como estudiar a la organización en lugar de a la amenaza.
2. Ordenar el ruido
El triaje asistido hace tres cosas, según Sweet Security: da más prioridad al hallazgo que afecta a un sistema expuesto a internet y con privilegios que al mismo hallazgo en uno inactivo; funde en un solo incidente las señales que distintas capas emiten sobre un mismo hecho; y redacta un borrador de pasos de investigación. El resultado es una única línea de tiempo en lugar de seis consolas abiertas.
3. Actuar dentro de límites
Aquí está la diferencia entre automatizar y razonar. La automatización clásica (SOAR) ejecuta un guion: si es phishing, cuarentena. Un sistema agéntico evalúa evidencia, por ejemplo un script lanzado por una cuenta de servicio a las dos de la madrugada desde una dirección nunca vista, estima una probabilidad y propone una acción.
«Uno sigue un guion; el otro piensa».UnderDefense, sobre SOAR frente a IA agéntica
Hay un dato que matiza el optimismo. Darktrace pregunta cada año si las organizaciones se sienten preparadas: en 2024 el 60 % dijo que no; en 2025, el 45 %; en 2026, el 46 %. La mejora se estancó.
Una cadena, dos lecturas
Cada fase de una intrusión admite una lectura desde cada cara de la moneda. Elige una fase.
Ataca
Sondeo automatizado de miles de organizaciones a la vez, cruzando cada vulnerabilidad recién publicada con los sistemas expuestos.
Defiende
Medición continua de la propia exposición externa, incluidos proveedores, y priorización por probabilidad real de explotación: solo entre el 5 y el 10 % de las vulnerabilidades conocidas llega a explotarse (Bitsight).
Ataca
Correos largos, correctos y personalizados; voz clonada de un directivo; paquetes de software envenenados en registros públicos.
Defiende
Modelos de lenguaje que analizan contenido, remitente y contexto del mensaje en lugar de reglas fijas. La detección de phishing es el uso defensivo más extendido: 52 % de quienes ya adoptaron IA (UnderDefense).
Ataca
Código polimórfico, ejecución en memoria y pruebas automáticas contra pasarelas y entornos de análisis hasta dar con la variante que pasa (Check Point).
Defiende
Análisis de comportamiento, señuelos que atraen al malware autónomo y modelos que se reajustan solos cuando el malware evoluciona, como propone la investigación LFreeDA.
Ataca
Agentes que encadenan credenciales robadas y saltos entre sistemas en minutos. En una red plana, Bitsight habla de milisegundos.
Defiende
Confianza cero y microsegmentación para que cada salto exija una verificación nueva, más revocación automática de tokens y aislamiento del equipo afectado.
Ataca
Extracción automatizada y, cada vez más, a través de canales legítimos: las propias herramientas de un agente de IA pueden servir de vía de salida.
Defiende
Alertar ante lecturas masivas de secretos, la señal más clara en los incidentes de 2026, y conectar esa alerta directamente a la contención. Y, sobre todo, almacenar menos.
Cuando la IA es el blanco
Toda moneda tiene un tercer lado. Sweet Security y UnderDefense coinciden en que «respuesta a incidentes con IA» significa hoy dos trabajos distintos: usar IA para responder más rápido, y responder a incidentes en los que el sistema comprometido es un modelo, un flujo de datos o un agente. Palo Alto Networks recuerda que el 78 % de las empresas ya había integrado IA en sus operaciones en 2024 y que las herramientas de seguridad tradicionales no bastan para sistemas probabilísticos.
El mapa de referencia para este terreno es MITRE ATLAS, una base de conocimiento pública, hermana de ATT&CK, que cataloga cómo se ataca a los sistemas de IA. Crece deprisa: 16 tácticas y 84 técnicas en su versión de noviembre de 2025 (Vectra AI); 101 técnicas y 68 casos de estudio en la edición de julio de 2026 (Articsledge). Algunas entradas:
| ID | Técnica | En una frase |
|---|---|---|
| AML.T0051 | Inyección de prompts | Instrucciones maliciosas en la entrada, o escondidas en un documento que el modelo lee, sustituyen a las originales. |
| AML.T0010 | Cadena de suministro de IA | El punto de entrada es un modelo, un conjunto de datos o una dependencia ya comprometidos. |
| AML.T0082 | Robo de credenciales vía RAG | Secretos que quedan al alcance del componente de recuperación de documentos. |
| AML.T0096 | API de servicios de IA | Una API legítima de IA usada como canal encubierto de mando y control. |
Los casos documentados ayudan a aterrizarlo. En SesameOp, un implante usó la API de asistentes de OpenAI como canal de control, sin servidor propio del atacante. En julio de 2025, un token de GitHub mal delimitado permitió insertar código destructivo en la extensión de Amazon Q para VS Code. Y Anthropic identificó campañas que, con unas 24.000 cuentas y 16 millones de consultas, intentaban copiar las capacidades de Claude.
«Los agentes son los nuevos insiders».Microsoft, citado por Darktrace
Cómo se contiene a un agente comprometido
Un agente puede estar a mitad de una tarea y conectado a otros procesos. Por eso su contención tiene un orden propio, que Sweet Security detalla así:
- Congelar la vía de acciónSuspender o estrechar su acceso a herramientas y API antes de tocar el modelo o el servidor.
- Capturar estado y procedenciaGuardar prompts, trazas de llamadas, contexto recuperado y memoria.
- Delimitar permisosSeparar lo que la identidad del agente podía alcanzar de lo que realmente invocó.
- Rastrear efectos aguas abajoRegistros escritos, tickets creados, mensajes enviados, tareas disparadas.
- Probar la acción residualConfirmar que ninguna tarea en cola ni agente secundario retoma el comportamiento.
Seis meses y cuatro pilares
Entre mayo y noviembre de 2026, MarkTechPost recoge incidentes en todas las capas del ecosistema de IA. Esta es una selección; fíltrala por puerta de entrada.
| 2026 | Plataforma | Puerta de entrada reportada |
|---|---|---|
| 10–11 may | Paquetes npm y PyPI | Versiones envenenadas de unos 170 paquetes |
| 11–12 jun | Klue | Credencial heredada; después, tokens OAuth almacenados |
| Agosto | LiteLLM, RAGFlow, Kestra | Pasarelas expuestas y sin parchear |
| 6 oct | Fireworks AI | Uso indebido de credenciales internas |
| 14–15 oct | Zeabur | Tokens de administrador de larga duración; 321.810 cuentas afectadas |
| 21 oct | LiteLLM 1.107.0 | Compromiso del proceso de publicación |
| 23 oct | Warp | Dependencia de un proveedor externo |
| 29 oct | Cursor | Credencial obtenida de datos internos expuestos |
| 8 nov | NEAR AI | Fallo de ejecución remota en el servidor de inferencia |
Lo llamativo es lo poco exótico de las puertas: credenciales viejas, tokens que no caducan, paneles de administración a la vista. La IA del atacante acelera el aprovechamiento; el hueco suele ser de higiene básica.
Los cuatro pilares de una respuesta moderna
P1Detectar y contener automáticamente
Un apagado a velocidad humana ya no alcanza. Los equipos maduros conectan la detección con la contención: interruptores de corte, revocación automática de tokens, aislamiento de equipos. Fireworks AI detectó el 24 de octubre un segundo evento, originado en un proveedor de nube, y lo cerró el mismo día.
P2Comunicar rápido y por un canal seguro
Los clientes necesitan rotar sus claves cuanto antes; borrar una clave de una plataforma no la revoca en el proveedor que la emitió. Y el canal importa: las agencias de los Cinco Ojos y CISA aconsejan no coordinar la respuesta por la red investigada, porque el intruso puede estar leyendo. Fireworks empezó a avisar a los afectados un día después de la detección; Klue lo hizo el mismo día.
P3Erradicar a fondo
Cerrar el hueco usado es solo el principio. Hay que suponer puertas traseras y buscarlas, idealmente con forenses independientes contratados de antemano. Fireworks recurrió a Unit 42 y rotó las claves de sus empleados en tres días. Klue revocó credenciales y desactivó nueve integraciones.
P4Encoger el radio de impacto
La defensa más sólida limita lo que cualquier intruso futuro puede alcanzar: ninguna credencial confiable por defecto y, donde el flujo lo permita, no conservar los datos. Los productos de inferencia de Fireworks funcionan sin retención y quedaron fuera del impacto reportado. Su directora, Lin Qiao, lo explica con una imagen: no es lo mismo guardar una hoja de cálculo en la nube que pasarle los números a una calculadora. La lección de Klue va en la misma línea: un token archivado es una puerta que nunca termina de cerrarse.
«Si los datos no se almacenan, no se pueden robar».MarkTechPost
Quién aprieta el botón
Si el atacante se mueve en minutos, la tentación es automatizarlo todo. Las fuentes dicen otra cosa: la IA acorta el análisis, pero la decisión sigue teniendo dueño. La responsabilidad de una decisión sigue siendo de una persona, y cuánta aprobación humana exige cada acción depende de dos cosas: si se puede deshacer y a cuánto afecta.
Elige una acción para ver quién debería autorizarla, según la escala que propone Sweet Security.
Valores por defecto: cada organización debe calibrarlos según su tolerancia a la interrupción.
La línea se traza antes del incidente, no durante. Y toda decisión deja registro: qué evidencia se usó, con qué nivel de confianza, quién aprobó, qué se ejecutó y si después se comprobó que funcionó. Ese último paso, la validación posterior, es el que más se omite bajo presión y el que permite que el sistema mejore. Es también lo que piden los marcos de gobernanza citados por UnderDefense: NIST AI RMF, el marco de respuesta de CoSAI y las obligaciones de notificación de la Ley de IA europea.
Dónde falla el escudo
La cara defensora también tiene defectos, y las propias fuentes los nombran.
- Inventa. Una herramienta de respuesta puede fabricar indicadores de compromiso o clasificar como grave algo inofensivo. UnderDefense propone enrutar por confianza: por debajo del 90 %, revisa una persona.
- Le falta contexto. No sabe que tu director técnico ejecuta scripts a medianoche antes de cada lanzamiento.
- Funde de más. Agrupar señales reduce trabajo, pero una correlación demasiado agresiva puede esconder a un segundo intruso.
- Envejece. Un modelo entrenado con los ataques del año pasado pierde precisión. La investigación de Adrian Shuai Li y Elisa Bertino (LFreeDA) muestra que un detector de malware puede readaptarse sin etiquetado manual y mejorar su exactitud hasta un 12,6 %.
- Depende de lo que ve. Sin telemetría completa, la velocidad solo acelera el error.
«Una línea de tiempo rápida sobre telemetría incompleta es una respuesta equivocada rápida».Sweet Security
Mide tu cobertura
El documento marco del cuaderno propone cuatro métricas basadas en ATLAS para saber si la defensa de tus sistemas de IA está al día: cobertura de técnicas, latencia de detección, tasa de falsos positivos y vigencia del modelo de amenazas. Tres se calculan con aritmética simple.
Tu organización, en 8 preguntas
No hace falta un SOC propio para aplicar lo esencial. Marca lo que hoy puedes afirmar con seguridad.
Para empezar con IA defensiva, UnderDefense recomienda los incidentes de alto volumen y baja complejidad, como el triaje de phishing, y mantener a una persona en el circuito para todo lo crítico. Y si no puedes sostener vigilancia continua, las fuentes apuntan a servicios gestionados de detección y respuesta: Auxis señala que la ciberseguridad es hoy la función empresarial más subcontratada.
Contrapuntos
Las fuentes de este tema no son neutrales, y un lector atento debería tener a mano las objeciones razonables.
«Las cifras vienen de quien vende el remedio»
Casi todas las estadísticas proceden de proveedores de seguridad. Encuestas de percepción como la de Darktrace miden preocupación, no incidentes.
Respuesta probable: informes distintos coinciden en la dirección del cambio. Conviene leerlos como tendencia y no como medición exacta.
«El atacante con IA es más titular que realidad»
La tabla de incidentes muestra credenciales heredadas y tokens eternos, no ataques de ciencia ficción.
Respuesta probable: es exactamente el punto. La IA cambia la velocidad con que se aprovecha un descuido, no la naturaleza del descuido.
«Automatizar la contención es dispararse en el pie»
Un sistema que aísla servidores por su cuenta puede causar la caída que pretendía evitar.
Respuesta probable: por eso la escala de autoridad: primero lo reversible y acotado, y aprobación humana para lo demás.
«El humano en el circuito es el cuello de botella»
Si el salto lateral tarda 29 minutos, esperar a un aprobador puede ser demasiado.
Respuesta probable: la tensión es real y las fuentes no la resuelven del todo. Su propuesta es preaprobar clases de acciones antes del incidente.
«No retener datos no siempre es posible»
Hay procesos por lotes, ajustes de modelos y obligaciones legales de conservación. Y la empresa puesta como modelo fue vulnerada de todos modos.
Respuesta probable: la recomendación es aplicarlo donde el flujo lo permita. No evita la intrusión; reduce lo que se pierde.
Para llevar
- La IA está en las dos caras. Acelera al atacante y al defensor. Ignorar una de las dos es leer media moneda.
- El tiempo es la variable. 29 minutos hasta el primer salto, poco más de una hora hasta la exfiltración. Una respuesta de cuatro horas llega tarde por diseño.
- La puerta suele ser vieja. Credenciales heredadas, tokens que no caducan, sistemas sin parchear.
- La IA también es superficie de ataque. Modelos, datos y agentes necesitan su propio plan de respuesta; ATLAS es el mapa.
- La IA acorta el análisis; la decisión sigue siendo humana. Automatiza lo reversible; reserva a personas lo que no se puede deshacer.
- Lo que no se guarda no se pierde. Reducir el radio de impacto es la única defensa que funciona también contra el ataque que aún no conoces.
La moneda seguirá girando. Lo que sí está en tus manos es decidir, antes de que caiga, qué harás con cada cara.