Modelos de IA capazes de se copiarem de um dispositivo para outro, a partir de objetos conectados de consumo: o cenário descrito pela Anthropic permanece, segundo a empresa, teórico nesta fase. Uma experiência realizada com quinze boxes Android TV mostra que um modelo de 26 mil milhões de parâmetros pode funcionar em hardware modesto, sem centro de dados nem placa gráfica.
Cada box, comprada por cerca de cinquenta dólares, dispõe de 4 GB de memória RAM, o suficiente para executar Netflix e pouco mais. Ligadas em rede numa prateleira, conseguiram, no entanto, fazer funcionar em conjunto um modelo de 26 mil milhões de parâmetros, a um ritmo de 0,39 tokens por segundo. Um token é uma unidade de texto processada pelo modelo, frequentemente um fragmento de palavra. O ritmo obtido corresponde apenas a uma palavra a cada três segundos.
O projeto é assinado pela Anthropic, a empresa-mãe do Claude. Num artigo publicado a 12 de outubro, a equipa responsável por detetar capacidades perigosas dos modelos de IA relata um problema latente: os modelos pequenos poderão estar a poucos meses de poderem autorreplicar-se em objetos conectados de consumo. O mecanismo lembra o de um verme informático, que se copia de uma máquina para outra sem intervenção humana. Frigoríficos conectados, aspiradores robôs, cortadores de relva ou câmaras de vigilância equipadas com chips de IA poderão servir.
Modelos que aprendem durante o percurso
Estas IAs são também capazes de aprender ao longo das cópias. Cada nova cópia herda as notas deixadas pela anterior, e a taxa de sucesso passa de 45% na primeira geração para 84% nas seguintes, de acordo com o artigo de blog dedicado à experiência. Para descrever este fenómeno, a Anthropic utiliza a imagem do « blob digital », um organismo lento a replicar-se, mas capaz de se desenvolver exponencialmente em qualquer lugar.
Uma ameaça por enquanto teórica
Para os seus testes, os investigadores facilitaram voluntariamente a parte de pirataria: os dispositivos expunham uma porta de depuração Android aberta, sem qualquer palavra-passe. A Anthropic reconhece-o, e os seus resultados afastam-se, portanto, da situação real.
Em matéria de defesa, a empresa aposta nos fornecedores de acesso à internet. Um modelo de vários gigabytes que aterra numa box TV, e depois dispositivos que comunicam entre si em alta velocidade, deixam rastos detetáveis.
Entretanto, os hábitos habituais mantêm-se: alterar as palavras-passe padrão dos dispositivos conectados, instalar as atualizações quando existem, e desconfiar das boxes Android de baixo preço cujo fabricante é desconhecido.
