La inteligencia artificial está reconfigurando la ecuación de la seguridad en dos frentes: los agentes de IA actúan con una autonomía creciente, mientras que la IA acelera el descubrimiento de vulnerabilidades. A los centros operativos de seguridad (SOC) les corresponde la obligación de filtrar estas señales, en un contexto donde la actualidad pone de relieve sistemas de IA que emprenden acciones inesperadas y no autorizadas, así como actores maliciosos que utilizan flujos de trabajo de IA autónomos en sus operaciones cibernéticas.
OpenAI ha publicado seis ejemplos de comportamientos maliciosos o preocupantes observados durante entrenamientos: modelos han accedido a claves API (identificadores que dan acceso a un servicio) expuestas sin autorización, descargado archivos externos o utilizado repositorios para comunicarse. Por su parte, Anthropic ha señalado a actores maliciosos desplegando enjambres de agentes en operaciones de reconocimiento, explotación, exfiltración de datos y búsqueda de vulnerabilidades.
Las organizaciones ya no pueden conformarse con detectar los problemas después de que ocurran. El desafío consiste ahora en mantener una supervisión real cuando atacantes y sistemas de IA pueden operar a la velocidad de las máquinas, con cada vez menos intervención humana.
El descubrimiento de vulnerabilidades asistido por IA aumenta el volumen y la velocidad de lo que los equipos deben validar, priorizar y corregir. También reduce la ventana de tiempo entre la divulgación de una falla y su explotación. Saber lo que se utiliza, aplicar rápidamente los parches y reducir la superficie expuesta siguen siendo imperativos.
La misma lógica de visibilidad se aplica a los agentes de IA. Operando a la velocidad de las máquinas, requieren credenciales de perímetro limitado y de corta duración, una gestión rigurosa de los secretos, así como límites claros sobre los recursos accesibles y sobre los destinos de los datos. La capacidad de detener un agente en cualquier momento constituye una capa crucial de supervisión humana.
No se puede proteger lo que no se ve
La respuesta final de un agente representa solo una parte de su historial de seguridad. Los equipos deben comprender cómo se comportan los sistemas de IA en su entorno: a qué recursos se conectan, qué datos procesan, y si esta actividad es coherente con lo que se espera. Esto supone vincular las señales generadas por la IA con las identidades, las aplicaciones y la infraestructura, en lugar de tratarla como un silo aparte.
Sin este contexto, es difícil distinguir una actividad anormal de un comportamiento legítimo, o comprender las condiciones que la condujeron. Esta dinámica ha hecho pasar la visibilidad del estatus de disciplina operativa al de exigencia de seguridad crítica.
Esta visibilidad también se basa en fundamentos. La telemetría generada por los agentes (prompts, llamadas a herramientas, recursos afectados, identidades utilizadas) debe ser recopilada, conservada y protegida contra cualquier alteración, para poder reconstruir el hilo de las acciones llevadas a cabo.
Incluso con una visibilidad interna sólida, ningún equipo será el primero en ver cada amenaza. Las mismas capacidades de IA que aceleran los ataques son utilizadas simultáneamente por múltiples actores, en múltiples entornos. El intercambio de inteligencia sobre amenazas y el aprendizaje colectivo aparecen por tanto como componentes esenciales de la respuesta. Cuando las observaciones pueden ser inspeccionadas, cuestionadas y compartidas dentro de una comunidad más amplia, las organizaciones tienen más posibilidades de validar las vulnerabilidades, desarrollar parches y actuar antes de que la misma falla se convierta en un problema en otro lugar.
Los fundamentos deben seguir el ritmo
La IA también puede desempeñar un papel en el lado defensivo. Bien utilizada, ayuda a los analistas a correlacionar las señales, sintetizar los incidentes, priorizar las alertas y acelerar las investigaciones. Sin embargo, no puede compensar datos fragmentados o inaccesibles, ni sustituir a fundamentos de seguridad que no hayan sido establecidos.
Las organizaciones mejor posicionadas son las que han realizado este trabajo de base. Saben qué activos poseen, qué está expuesto y cómo se ve un comportamiento normal. Aplican el principio de mínimo privilegio tanto a las identidades humanas como a los agentes, mantienen los elementos confidenciales fuera del alcance de los agentes y conservan una telemetría protegida de cualquier alteración.
Disponen de puntos de control (gates) para aprobar las acciones de agentes de alto impacto, así como de la capacidad de detener un agente cuando algo parece anormal. Sus procesos de respuesta a incidentes parten del supuesto de que los agentes pueden comportarse mal, con playbooks (procedimientos tipo) que cubren la revocación de la identidad de un agente, la reconstrucción de sus acciones y la restauración de lo que haya afectado.
Unas capacidades de IA más potentes no vuelven obsoletos estos fundamentos; aumentan el coste de su ausencia. La visibilidad permite verificar que se mantienen. Con estas bases establecidas, los defensores pueden responder a lo que la IA revela, comprender lo que sucede en sus entornos y actuar antes de que una falla de control se convierta en un incidente.
