Uma comissão de especialistas entrega a Emmanuel Macron 18 recomendações face aos riscos da inteligência artificial generativa, da qual receia um «enfraquecimento cognitivo». Esta terça-feira, 10 de novembro, propõe nomeadamente regular o antropomorfismo e a lisonja, proteger melhor os menores e avaliar os modelos antes da sua colocação no mercado.
Os riscos da delegação cognitiva
Utilizada por mais de metade dos franceses, a IA generativa, popularizada por assistentes conversacionais como o ChatGPT da OpenAI, o Gemini da Google ou o Claude da Anthropic, coloca a França no quinto lugar mundial de utilização, segundo este relatório. Quase 70% dos jovens entre os 15 e os 24 anos recorrem-lhe regularmente.
A comissão de nove especialistas, batizada «IA generativa e vulnerabilidades», tinha sido incumbida pelo governo de examinar os riscos gerados pelos usos generalizados destas ferramentas, nomeadamente para a saúde mental dos mais jovens. As suas conclusões, que a AFP pôde consultar, baseiam-se em 55 audiências de profissionais de saúde, investigadores, empresas e associações de proteção à infância.
Entre os riscos identificados figura a delegação cognitiva, ou seja, o facto de confiar a uma IA funções cerebrais como a reflexão, a tomada de decisão ou o espírito crítico. «O primeiro desafio é o enfraquecimento cognitivo. É atrativo, delega-se-lhe competências. Uma vez que se delegam competências, não se adquirem. É um problema para os jovens, mas é um problema para todos», explica à AFP Raphaël Gaillard, professor de psiquiatria e copresidente da comissão.
Desinformação e dependência emocional
Os especialistas insistem na desinformação. Estes dispositivos tornam-se fontes de informação cuja qualidade não é garantida, sublinha o professor, que alerta para um risco de «enfraquecimento democrático».
O relatório aponta também um risco de dependência emocional, ligado nomeadamente à antropomorfização das IA, que tendem a apresentar-se como interlocutores humanos, e à lisonja, que consiste em validar ou lisonjear o utilizador, por vezes em detrimento da verdade. «Cria-se um registo de relações emocionais que pode ter como objetivo substituir a interação» humana, «é um sistema disponível permanentemente, que não tem outra intenção senão mantê-lo online», nota Gaillard.
Menores, deepfakes e economia da cognição
Entre as medidas propostas figuram avaliações independentes antes e depois da colocação no mercado dos sistemas de IA generativa, bem como o acesso das autoridades e dos investigadores credenciados aos dados de treino, uso e monetização dos modelos. A comissão recomenda também impor um nível elevado de proteção para os sistemas acessíveis a menores, com o bloqueio de pedidos considerados perigosos e uma filtragem reforçada dos conteúdos.
Os especialistas consideram que a IA generativa acelerou certas formas de violência digital, nomeadamente os deepfakes, ou seja, conteúdos falsificados criados por IA. Apelam a «reforçar a repressão da criação de conteúdos de carácter sexual não consentido e pedocriminosos» gerados por este meio.
A comissão alerta ainda para uma «economia da cognição». O modelo económico das IA generativas estando ainda «em curso de consolidação», pede «a maior vigilância» face ao risco de exploração das faculdades cognitivas, das emoções e dos perfis psicológicos dos utilizadores, nomeadamente através de publicidade integrada nas respostas dos assistentes conversacionais. Dizendo não «querer pôr um grilhão no pé da economia francesa nem europeia», os especialistas pedem a Emmanuel Macron que «tome decisões». Caso contrário, avisa Gaillard, os três grandes riscos referidos, a externalização cognitiva, a dependência afetiva e os riscos democráticos ligados à desinformação, «nós sofrê-los-emos».
Numa entrevista ao diário Les Echos, o chefe de Estado considerou que se deve «proibir» a inteligência artificial onde esta apresenta um «risco» para as crianças, a sua «saúde mental, o seu cérebro».
