Alex Stamos, director de seguridad (CISO) de la empresa Cognition y profesor en la universidad Stanford, considera que la ciberseguridad atraviesa un período particularmente confuso, con la inteligencia artificial amplificando oleadas de intrusiones y ataques. En una entrevista concedida al podcast *Decoder* de The Verge, afirma que la industria de la seguridad, tal como se la conoce, está « esencialmente rezagada » frente a estas ofensivas, y que entra en lo que él llama una « edad oscura ».
- Alex Stamos considera que la inteligencia artificial amplifica los ataques informáticos y que la industria de la seguridad está rezagada.
- Los atacantes podrían automatizar la cadena de ataque, detectando fallos y escribiendo exploits en tiempo real.
- El costo de atacar tiende a cero, mientras que defenderse sigue siendo muy caro.
- Stamos propone reescribir el núcleo de Linux en Rust y entrenar modelos propios para reducir los costos de defensa.
Para ilustrar este análisis, Alex Stamos cita varios incidentes recientes. Según él, la empresa Fireworks, proveedora de servicios de IA para varias empresas, fue pirateada, y se habrían robado claves de API (los identificadores que permiten a los softwares comunicarse entre sí). Estas claves habrían permitido entrar en Cursor, donde un plugin malicioso se habría difundido hacia 5 000 empresas, lo que habría provocado 5 000 brechas potenciales. Califica además el pirateo de Binance como « el robo más importante de la historia de la humanidad ».
También describe la manera en que se llevan a cabo estos ataques. Habla de « kill chain », o cadena de ataque, es decir, el conjunto de pasos necesarios para alcanzar un objetivo. Tradicionalmente, los atacantes preparaban con antelación las fallas y los programas de explotación, antes de que un humano los desplegara. Con la IA, y en particular los modelos de peso abierto (cuyo funcionamiento es accesible para todos), esta cadena podría automatizarse: según él, un sistema puede detectar las fallas y escribir los exploits en tiempo real. Cita una herramienta open source china disponible en GitHub que, asociada a un modelo llamado « obliterated GLM-5.3 », habría permitido introducirse en tres bancos surcoreanos y, según él, en aproximadamente 200 empresas adicionales.
Un mundo que se parece a los años 1990
Alex Stamos compara la situación con finales de los años 1990, cuando Windows era, según sus términos, « un desastre en materia de seguridad ». La diferencia, precisa, es que el mundo entero funciona hoy en Internet, y que los ataques pueden ahora automatizarse a gran escala. También menciona a los actores en juego: según él, los ataques contra las empresas de IA son llevados a cabo por lo que se llama la « Chinese cottage access industry », pequeños subcontratistas chinos que revenden sus accesos a empresas más grandes, mientras que el robo de bitcoins en Binance correspondería sobre todo a Corea del Norte, con, según él, una ingeniería social muy elaborada.
Costos de defensa demasiado elevados
El desequilibrio económico ocupa un lugar central en su razonamiento. Sostiene que el costo por token para los atacantes tiende a cero, mientras que el costo de la defensa sigue siendo elevado. Cita a un colega que trabaja en una gran plataforma de seguridad, según el cual una sola investigación realizada con un modelo cibernético de vanguardia cuesta 900 dólares. Para responder a este problema, Cognition entrena sus propios modelos, o reentrena modelos de peso abierto, con el fin de reducir estos costos.
Alex Stamos menciona también una solución más radical: la reescritura del núcleo de Linux en Rust, un lenguaje más seguro en cuanto a la memoria. Considera que un proyecto así, llevado a cabo por Google o Amazon, costaría 100 millones de dólares, una cantidad que juzga modesta en comparación con los costos sociales de los parches sucesivos. Añade que el número de parches publicados cada mes no deja de aumentar: según él, la edición más reciente de Patch Tuesday contaba con « 900 y pico » parches.
Consultado sobre la verificación de contenidos, considera que es más fiable probar la autenticidad de una imagen que detectar los contenidos generados por IA. Recuerda que Adobe ya ofrece una verificación criptográfica para fotógrafos profesionales, y que los iPhone incorporan ahora una función similar.
