Há alguns meses, a OpenAI e outras empresas de inteligência artificial têm feito da matemática um terreno de testes para os seus modelos. Esta disciplina permite-lhes exaltar as capacidades dos seus sistemas, mas não explica por si só o interesse que estas empresas lhe dedicam. O criador do ChatGPT multiplica os anúncios desde o ano passado sobre os progressos dos seus modelos nesta área.
- A OpenAI usa a matemática para mostrar as capacidades dos seus modelos de IA.
- Como as demonstrações são verdadeiras ou falsas, a matemática serve bem para medir o desempenho.
- Os especialistas reconhecem o interesse comercial, mas criticam a falta de transparência sobre os métodos usados.
- Os investigadores temem que poucas empresas passem a controlar o ritmo da investigação científica.
Em maio, um modelo da OpenAI refutou uma conjectura relacionada com o problema das distâncias unitárias de Paul Erdős, que remonta a 1946. Uma conjectura é uma proposição tida como verdadeira devido a observações ou analogias, mas que não foi demonstrada formalmente. Durante décadas, os matemáticos pensavam que dispor os pontos numa grelha quadrada oferecia o maior número de pares situados à mesma distância. Um modelo encontrou outras formas de os organizar para obter mais. Num artigo de blogue, a empresa refere « uma família infinita de exemplos » que refuta a antiga conjectura. A prova foi verificada por um grupo de matemáticos externos.
Seguiram-se outros anúncios. Em setembro, a OpenAI mobilizou, segundo os seus próprios termos, « mais de 10.000 agentes de IA » para um dos problemas matemáticos do milénio, uma iniciativa contestada por investigadores que acusam a empresa de plágio. No início de outubro, um modelo de ponta permitiu resolver centenas de problemas até então insolúveis.
Uma montra para os modelos
Para François Willot, matemático e diretor de investigação na escola Mines Paris-PSL, o interesse é primeiro comercial. « Isso dá-lhes uma publicidade enorme », afirma ao BFM Tech, explicando que as empresas podem assim dizer aos seus clientes que dispõem « das melhores ferramentas que existem atualmente ». O matemático sublinha também a dificuldade dos temas abordados: « As conjecturas matemáticas que ainda não foram demonstradas fazem parte dos problemas mais difíceis que, até recentemente, os humanos eram capazes de resolver e as máquinas não. »
François Charles, matemático e diretor do departamento de matemática e aplicações da ENS-PSL, membro da AGMAI, comité independente de nove matemáticos de renome mundial que aconselha os gigantes da IA, traça o mesmo diagnóstico. Ele observa que os grandes modelos de linguagem (LLM) eram recentemente capazes de resolver « competições, sem dúvida muito difíceis, mas para alunos do secundário », antes que resultados de investigação de ponta fossem, segundo ele, resolvidos de forma autónoma desde o final de maio.
O facto de uma demonstração ser verdadeira ou falsa também torna estas áreas relevantes para medir o desempenho. « Não há intermédio, por isso é um bom ‘benchmark’ », explica François Willot, que considera mais difícil classificar os modelos em questões científicas que admitem várias respostas.
Preocupações sobre a transparência
O matemático recorda que estes sistemas foram treinados com « vários milhões de artigos nas ciências em geral », o que lhes permite, segundo ele, relacionar resultados antigos pouco conhecidos com novos problemas. Ele compara também estes progressos aos de Galileu, que « em algumas noites » fez mais descobertas em astronomia do que nos mil anos anteriores. Ele estima que com a IA, « vamos provavelmente demonstrar muitas coisas em matemática que não tínhamos demonstrado até agora ».
Preocupa-se, no entanto, com um cenário em que as demonstrações seriam tão longas que não se conseguiria compreender a ideia, mesmo que a sua validade fosse verificada por meios automáticos. Ele critica também a OpenAI por dar poucos detalhes sobre os seus métodos. Para François Charles, os investigadores devem poder « apropriar-se do conhecimento » proveniente destas demonstrações, enquanto que, pela primeira vez, o ritmo da investigação não é fixado por uma comunidade aberta, sendo os modelos de fronteira « controlados por um pequeno número de empresas ».
Para responder a estas críticas, a OpenAI solicitou ao grupo de matemáticos encarregado de lhe dar recomendações sobre a análise e comunicação dos seus resultados. A 26 de outubro, a empresa anunciou também três descobertas em informática e física, suscitando novas críticas de investigadores sobre o seu modo de comunicação. Apesar destas tensões, François Charles afirma: « Não há revolução científica sem que os cientistas estejam envolvidos. »
