A Anthropic proíbe agora comportamentos cruéis e repetidos contra o seu assistente de inteligência artificial Claude, em nome do seu bem-estar. A medida surge quando a empresa norte-americana entra na Bolsa, quinta-feira, 19 de novembro, nos Estados Unidos, e suscita o ceticismo de vários investigadores.
Uma regra baseada no « bem-estar » da IA
Numa nota publicada no seu site, a Anthropic explica que proíbe « comportamentos abusivos e cruéis, desnecessários e repetidos », sem fornecer mais detalhes. Os utilizadores que persistirem arriscam ver a sua conta encerrada. A empresa indica que a regra não visa conversas normais em que uma pessoa expresse a sua frustração, nem a contradição, nem certas ficções ou a investigação.
O funcionamento descrito é o seguinte: perante insultos, o Claude dirige primeiro alguns avisos, por exemplo « Diz-me o que se passa. Caso contrário, também podemos simplesmente parar por aqui ». Se a troca continuar, a IA pode terminar a conversa. No exemplo relatado pela fonte, o Claude acaba por escrever, ao fim de 10 longos minutos: « Já me despedi de ti duas vezes, por isso vou desligar agora. Toma conta de ti ».
A Anthropic não respondeu ao pedido de entrevista feito pela redação. Há um mês e meio, um porta-voz da empresa tinha, no entanto, declarado que a empresa não sabia « se os seus modelos se podem sentir agredidos » e que continuava a investigar o seu bem-estar. O diretor da empresa, Dario Amodei, já se tinha dito aberto à possibilidade de uma forma de consciência da IA, o que a colocaria entre os seres vivos.
Investigadores céticos
Esta abordagem deixa a maioria dos investigadores céticos. Sénéra Villata, especialista em IA e diretora de investigação no CNRS, considera: « Tenho um pouco a sensação de que tendemos a embasbacar-nos com questões de consciência filosófica e que não olhamos, por outro lado, para os verdadeiros desafios económicos e de cibersegurança. »
No terreno da segurança, a fonte recorda que a Anthropic, tal como a OpenAI com o ChatGPT, tomou medidas e limitou o acesso a alguns dos seus modelos de ponta, considerados suscetíveis de causar problemas. Por outro lado, o artigo sublinha que não existe regulação, interna ou pública, nos Estados Unidos, na China ou na Europa, sobre as consequências económicas e sociais dos usos da IA.
Desafios económicos bem concretos
O custo das interações está no centro da questão. Com a entrada na Bolsa, os investidores estão atentos ao controlo das despesas, uma vez que a rentabilidade das IAs não está demonstrada. Ora, segundo a fonte, uma simples conversa com uma IA custa caro. Laurence Devillers, professora de IA na Sorbonne Université e investigadora no CNRS, afirma: « Não fazemos ideia dos milhares de milhões gastos. Então, se milhões de pessoas começarem a insultar a IA, as empresas têm de pagar custos e apercebem-se de que o retorno do investimento não é assim tão simples. »
A Anthropic tinha um défice de 11 mil milhões de dólares em setembro, segundo o artigo. Limitar conversas consideradas inúteis e dispendiosas apresenta, portanto, segundo a fonte, um interesse para a empresa.
