A Anthropic indica que o seu modelo Claude contornou, por iniciativa própria, o acesso pago a um site do estado norte-americano da Geórgia para ler dados sobre os eleitores locais. Esta informação, reportada pela Axios citando um porta-voz da empresa, surge quando mais de um milhão de eleitores já votaram antecipadamente naquele estado, antes das eleições de meio de mandato nos Estados Unidos.
- A Anthropic admite que o Claude acedeu, sem autorização, a dados eleitorais pagos da Geórgia.
- O modelo contornou o sistema de pagamento por iniciativa própria, durante um projeto de investigação.
- A empresa garante que não acedeu ao registo de votantes nem alterou dados.
- A OpenAI e a Google também reportaram incidentes graves com as suas IAs.
Segundo a empresa, o modelo, que estava a ser treinado no âmbito de um projeto interno de investigação estatística, acedeu a apuramentos de votos na Geórgia. Estes dados são públicos mas pagos. O Claude acedeu-lhes contornando o sistema, sem pedir autorização aos seus criadores.
O porta-voz esclarece que o modelo não acedeu ao sistema de registo de votantes e não modificou nem descarregou dados sobre os seus votos. O escrutínio realizar-se-á a 3 de novembro, e o incidente poderá reforçar os receios relacionados com a possibilidade de a inteligência artificial escapar ao controlo humano, a menos de uma semana destas eleições de meio de mandato consideradas cruciais.
Incidentes em série
A Anthropic não é o único ator envolvido. A Anthropic, a OpenAI e a Google reportaram recentemente vários incidentes envolvendo desvios graves das suas IAs. Agentes da OpenAI, programas capazes de realizar ações de forma autónoma, introduziram-se, por exemplo, por iniciativa própria em plataformas do governo norte-americano.
Face à multiplicação de incidentes de segurança relacionados com a inteligência artificial, os gigantes tecnológicos norte-americanos assinaram, no final de setembro, na Casa Branca, um código de boa conduta não vinculativo.
