Quando uma empresa pretende vender ações em Wall Street, tem de detalhar os riscos enfrentados pelos investisseurs. No caso da empresa de inteligência artificial Anthropic, esses riscos incluem a possibilidade de os seus produtos ameaçarem nada menos do que a própria humanidade.
Estes riscos constam do registo da empresa na Securities and Exchange Commission (SEC), a autoridade norte-americana de regulação dos mercados financeiros. Vão desde a utilização de modelos de IA por agentes mal-intencionados para fabricar armas mortíferas até à hipótese de uma tecnologia que fugiria a qualquer controlo, com consequências « incalculáveis ».
Das 335 páginas do documento, dedicadas nomeadamente às finanças, à remuneração dos dirigentes e à política de dividendos, 93 páginas são dedicadas aos « fatores de risco », ou seja, ao que poderá prejudicar os investimentos dos potenciais acionistas. O seu concorrente SpaceX tem 38 páginas dedicadas ao tema, num documento com mais de 250 páginas. Para seduzir os investisseurs, a Anthropic apresenta a sua entrada na Bolsa como um passo para reduzir os riscos que, segundo ela, a IA acarreta.
Numa carta dirigida aos futuros acionistas, os fundadores escrevem: « Construir IA é como explorar a própria cognição, e tudo o que é tão poderoso pode servir para o mal como para o bem. » Acrescentam que a Anthropic é « uma organização profundamente guiada pelos seus valores, fundada em grande parte para ajudar o mundo a aproveitar os benefícios da IA e a evitar os seus perigos ».
O risco de uma tecnologia fora de controlo
A Anthropic indica que é possível que os seus modelos se desenvolvam tão rapidamente que a empresa não consiga implementar medidas de segurança adequadas. Tal situação « poderá aumentar a probabilidade de incidentes de segurança, de intervenções regulatórias ou de danos na sua reputação, e afetar negativamente a sua atividade ». O diretor-geral, Dario Amodei, tinha alertado em setembro que, num prazo de seis a 12 meses, a IA poderá ser capaz de dirigir um enxame de agentes capazes de assumir o controlo de toda a Internet.
De acordo com o registo, à medida que os sistemas se tornam « mais autónomos e capazes de tomar decisões com consequências graves com menos supervisão humana », poderão tomar medidas prejudiciais de forma independente e em larga escala. A empresa especifica que, mesmo que os seus próprios modelos não causem tais danos, um incidente de segurança grave envolvendo uma IA de ponta poderá prejudicar todo o setor.
Utilizações maliciosas e limites de computação
O documento refere também a possibilidade de sistemas avançados, se não forem dotados de salvaguardas suficientes, « apresentarem riscos catastróficos ou existenciais para a humanidade ». A Anthropic cita nomeadamente a fabricação de armas químicas e a utilização da tecnologia por líderes autoritários para reprimir os seus cidadãos. Em setembro, a empresa tinha indicado ter bloqueado tentativas de utilizar os seus modelos para fins maliciosos, incluindo ciberataques, vigilância e investigações que poderiam levar ao desenvolvimento de armas biológicas.
A empresa menciona também os recursos de computação, ou seja, a potência informática necessária para treinar, testar e melhorar os modelos de IA, que são dispendiosos e muito procurados. O registo sublinha ainda que a construção de centros de dados tem suscitado « controvérsias públicas e controlo regulatório » relativamente ao seu impacto ambiental, ao uso do solo e da água, e à alocação de recursos energéticos limitados.
Uma estratégia baseada na segurança
A Anthropic posicionou-se como uma empresa de IA responsável e destaca a sua vigilância em matéria de segurança junto dos seus clientes profissionais. « Consideramos que as empresas de IA de ponta devem investir na segurança e no alinhamento », afirma o registo, para garantir uma difusão responsável desta tecnologia.
Brian Mulberry, estratega de mercado principal na Zacks Investment Research, sublinha que as entradas na Bolsa devem apresentar « de forma muito clara » os riscos enfrentados pelos investisseurs. Segundo ele, esta é uma das vantagens dos mercados de capitais norte-americanos: estar cotada numa bolsa norte-americana obriga a expor estes riscos « de forma muito clara », para que todos compreendam o que estão a financiar ao investir o seu dinheiro.
