Modelos de código abierto y riesgos cibernéticos : ¿estaba equivocado ?

Modelos de código abierto y riesgos cibernéticos : ¿estaba equivocado ?
3 min de lecture

Una ola de divulgaciones de fallos críticos, apodada «Black October», siguió al anuncio de vulnerabilidades como PHP2Shell y GitLab, un momento que el autor del artículo considera como aquel en que los riesgos cibernéticos vinculados a los modelos de IA comenzaron a materializarse. Posteriormente, se reportó un nuevo incidente de seguridad importante en Binance, la plataforma de criptomonedas, donde se sospecha que piratas informáticos robaron miles de millones.

El autor recuerda que el sector de las criptomonedas ha sufrido piratería desde hace mucho tiempo, lo que lo hace, según él, poco representativo para medir el paso de vulnerabilidades a nuevos perjuicios para la sociedad. Considera que el trabajo entre bastidores se ha acelerado sobre todo, con más personas y recursos movilizados para corregir los fallos. The Wall Street Journal informa que los primeros respondedores en ciberseguridad están bajo presión, lo que el autor interpreta como una señal de que el sistema funciona.

¿Habría sido manejable un modelo de pesos abiertos en abril?

El artículo retoma un punto de debate. Un modelo de pesos abiertos (open-weight) es un modelo cuyos parámetros se publican y pueden ser descargados por todos. Durante el anuncio de Claude Mythos, el modelo de Anthropic fue presentado como una nueva clase de arma cibernética, cuya difusión en manos equivocadas podría haber provocado una desestabilización masiva de la sociedad. Para el autor, esta lectura era errónea: según él, GLM-5.3 ya cruza ese umbral de capacidad, y los elementos públicos han evolucionado poco desde la publicación de sus pesos, hace más de un mes.

Incluso sostiene que una filtración de Claude Mythos en acceso abierto probablemente habría dejado el mundo «más o menos» intacto. Habría provocado un aumento neto de incidentes de ciberseguridad, pero más una aceleración que una ruptura. El autor cita varias declaraciones de personalidades influyentes. Rob Wiblin, presentador del podcast 80,000 Hours, declaró el 10 de abril de 2026: «Si esto cayera en manos de criminales o actores estatales hostiles, sería un verdadero desastre». Anthropic, en el artículo que anunciaba Project Glasswing el 7 de abril de 2026, escribió que «las repercusiones para las economías, la seguridad pública y la seguridad nacional podrían ser graves». Zvi Mowshowitz, el 9 de abril de 2026, habló de «una cornucopia de exploits zero-day para prácticamente todo el software del planeta».

Fallos descubiertos, pero una cadena de ataque compleja

Una publicación de Epoch AI describe trabajos internos que utilizan GLM-5.3 para localizar vulnerabilidades y encadenarlas en un ataque potencial. El exploit encontrado en Firefox ilustra, según el autor, la necesidad de que se cumplan varias condiciones para que ocurra un daño: un atacante debe, entre otras cosas, instalar un sitio que explote esa vulnerabilidad, lo que sigue siendo posible pero constituye un paso entre otros.

El autor reconoce haber elegido mal su palabra: el término «correcto» le parece insuficiente para describir el futuro de la ciberseguridad, que implicará una actualización costosa de la forma de trabajar con el software. Considera que los modelos abiertos contribuyen al equilibrio entre ataque y defensa, y que las empresas probablemente adoptarían estos modelos más rápido que los atacantes, a menudo menos dotados de recursos. Supone que la mayoría de las vulnerabilidades recientes han sido encontradas por modelos cerrados, con un margen de error importante, y que los modelos abiertos siguen siendo costosos de operar. Según él, las investigaciones cibernéticas muestran que el aumento de exploits y daños está en curso desde mucho antes de ChatGPT. Concluye que, en este punto, las pruebas siguen siendo muy débiles para incriminar a los modelos abiertos, y que los modelos cerrados han jugado un papel más importante en los recientes ataques.