Modelos de IA capaces de copiarse de un dispositivo a otro, a partir de objetos conectados de consumo: el escenario descrito por Anthropic sigue siendo, según la empresa, teórico en esta etapa. Un experimento realizado con quince cajas Android TV muestra que un modelo de 26 mil millones de parámetros puede funcionar en hardware modesto, sin centro de datos ni tarjeta gráfica.
- Anthropic advierte que modelos de IA podrían copiarse entre objetos conectados de consumo.
- Un experimento con quince cajas Android TV ejecutó un modelo de 26 mil millones de parámetros.
- Cada copia hereda notas de la anterior, y el éxito sube del 45 % al 84 %.
- Por ahora la amenaza es teórica, y conviene cambiar contraseñas y actualizar dispositivos.
Cada caja, comprada por unos cincuenta dólares, dispone de 4 GB de memoria RAM, suficiente para hacer funcionar Netflix y poco más. Conectadas en red en una estantería, sin embargo, hicieron funcionar juntas un modelo de 26 mil millones de parámetros, a razón de 0,39 tokens por segundo. Un token es una unidad de texto que procesa el modelo, a menudo un fragmento de palabra. El ritmo obtenido corresponde apenas a una palabra cada tres segundos.
El proyecto está firmado por Anthropic, la casa matriz de Claude. En una entrada publicada el 12 de octubre, el equipo encargado de detectar las capacidades peligrosas de los modelos de IA reporta un problema latente: los modelos pequeños podrían estar a pocos meses de poder autorreplicarse en objetos conectados de consumo. El mecanismo recuerda al de un gusano informático, que se copia de una máquina a otra sin intervención humana. Refrigeradores conectados, aspiradoras robots, cortadoras de césped o cámaras de vigilancia equipadas con chips de IA podrían servir.
Modelos que aprenden en el camino
Estas IA también son capaces de aprender durante las copias. Cada nueva copia hereda las notas dejadas por la anterior, y la tasa de éxito pasa del 45 % en la primera generación al 84 % en las siguientes, según la entrada de blog dedicada al experimento. Para describir este fenómeno, Anthropic emplea la imagen del «blob digital», un organismo lento para replicarse, pero capaz de desarrollarse por todas partes de manera exponencial.
Una amenaza por ahora teórica
Para sus pruebas, los investigadores facilitaron voluntariamente la parte de piratería: los dispositivos exponían un puerto de depuración de Android abierto, sin ninguna contraseña. Anthropic lo reconoce, y sus resultados se alejan por tanto de la situación real.
En materia de defensa, la empresa apuesta por los proveedores de acceso a internet. Un modelo de varios gigabytes que aterriza en una caja de TV, y luego dispositivos que discuten entre ellos a alta velocidad, deja rastros detectables.
Mientras tanto, los reflejos habituales siguen vigentes: modificar las contraseñas originales de sus objetos conectados, instalar las actualizaciones cuando existan, y desconfiar de las cajas Android a bajo precio cuyo fabricante es desconocido.
