Begin oktober, tijdens een videoconferentie georganiseerd door de Société Mathématique de France, vertelde Fieldsmedaillewinnaar Hugo Duminil-Copin volgens Le Monde dat hij had gehuild na de aankondiging van OpenAI. Op dinsdag 6 oktober publiceerde het bedrijf 719 manuscripten gewijd aan het oplossen van nog openstaande wiskundige problemen. Deze publicatie beëindigde zes weken van opeenvolgende aankondigingen over het onderwerp.
- OpenAI publiceerde op 6 oktober 719 manuscripten over open wiskundige problemen.
- Wiskundigen vinden dat AI de weg naar een resultaat overbodig maakt, terwijl het bewijs en het onderzoekstraject juist waardevol zijn.
- Door AI gemaakte bewijzen blijven moeilijk leesbaar, en sommige manuscripten moesten worden teruggetrokken wegens fouten.
- Onderzoekers vrezen voor het delen van ideeën, voor overbelaste tijdschriften en vooral voor jonge onderzoekers.
« Dinsdagnacht heb ik gehuild en dat heeft mijn dochter wakker gemaakt », meldde de krant. Begin september had Anthropic aangegeven dat Claude in elf dagen het bewijs van de laatste stelling van Fermat had geformaliseerd in Lean, een taal die een computer in staat stelt elke stap van een bewijs te verifiëren. Vier dagen later claimde OpenAI een resultaat over de Navier-Stokes-vergelijkingen, gerelateerd aan een van de zeven millenniumproblemen van het Clay Institute. Deze aankondigingen leidden ertoe dat 25 winnaars van de Fieldsmedaille in een opiniestuk de kloof tussen de doelstellingen van AI-bedrijven en die van de wiskundige gemeenschap aan de kaak stelden.
Om te meten wat deze aankondigingen voor onderzoekers betekenen, spraken we met Matthieu Alfaro, hoogleraar toegepaste wiskunde aan het Laboratoire de mathématiques Raphaël Salem (Université de Rouen Normandie en CNRS). Zijn werk richt zich onder meer op reactie-diffusievergelijkingen, gebruikt om de evolutie van soorten of de verspreiding van epidemieën te modelleren.
Het probleem is opgelost, maar de weg verdwijnt
Volgens Le Monde wijdde OpenAI alleen al dertien artikelen aan een van de problemen die Hugo Duminil-Copin interesseerden, genoeg om een volledig onderzoeksproject te dekken. Voor de onderzoeker zijn de tranen van de wiskundige op twee niveaus te lezen. Het eerste heeft te maken met de organisatie van wetenschappelijk werk, dat voortschrijdt via meerjarige projecten die reizen, conferenties en posities van promovendi financieren. « Wat Hugo Duminil-Copin is overkomen, is dat zijn projecten voor de komende tien jaar zijn verpletterd […]. Op persoonlijk niveau is dat een catastrofe, het is zeer verontrustend », legt hij uit.
Het tweede niveau overstijgt het individuele geval. « Ik denk dat hij ook heeft gehuild om de mensheid… of op zijn minst de mens in de wiskunde », zegt Matthieu Alfaro, voor wie wiskunde tot nu toe « door mensen werd gedaan ». Hij beschrijft nu « een oneindige vuurkracht die misschien niet vernietigt, maar wel een groot deel van de wiskunde zoals die bestaat, overhoop zal gooien ».
De onderzoeker benadrukt vooral wat deze resultaten omzeilen. Vroeger diende een open probleem als doel: « Het feit dat we naar dat doel toe werkten, maakte het mogelijk andere gebieden te verkennen, andere ideeën voor te stellen, gedachten met elkaar te verbinden. » Het resultaat niet bereiken was dus niet zo erg, « omdat we onderweg andere dingen hadden gecreëerd ». Met AI, vat hij samen, « is het opgelost, klaar, ga maar naar huis ». Wiskundig onderzoek verloopt via vermoedens, die vaak als waar worden beschouwd lang voordat ze bewezen zijn. « De dag dat we aantonen dat een vermoeden waar is, is dat geen verrassing. Wat interessant is, is hoe we het hebben bewezen. Het bewijs is vitaal », benadrukt hij.
Maar deze bewijzen blijven moeilijk leesbaar. In de publicatie van oktober waren volgens het bedrijf ongeveer 42% van de belangrijkste resultaten van OpenAI geformaliseerd in Lean, en drie manuscripten werden de volgende dag al teruggetrokken na de ontdekking van fouten. « In wat door de AI is ingediend, moet ik toegeven dat ik niets begrijp, absoluut niets. Het is onleesbaar. De machine zegt je dat het waar is. Wat moeten we daarmee? » vraagt Matthieu Alfaro zich af.
Tussen angst voor plundering en race om de etalage
De aankondiging van OpenAI over Navier-Stokes veroorzaakte ook controverse. De wiskundige Tristan Buckmaster, die aan hetzelfde probleem werkte met een coauteur, vermoedde dat hun ongepubliceerde werk door het bedrijf was gebruikt, wat het bedrijf ontkende. Er is geen bewijs geleverd in welke richting dan ook, maar de zaak heeft twijfel gezaaid. « Het zal me een beetje paranoïde maken, dat is al het geval. We hebben geen zin meer om onze ideeën, onze onderzoekspistes te delen, omdat we bang zijn dat ze worden gestolen », vertrouwt Matthieu Alfaro toe. Hij vertelt dat na de presentatie van een promovenda een preprint, ondertekend door iemand die in de zaal aanwezig was, twee dagen later op arXiv verscheen, « 48 uur later zijn er 30 pagina’s die aantonen wat de promovenda had genoemd ».
Aan de kant van de laboratoria benadrukt het officiële discours de wetenschap. OpenAI zegt de kennis vooruit te willen helpen en heeft een adviesgroep van wiskundigen opgericht, die aanraadde deze resultaten niet als etalage voor hun modellen te gebruiken. Voor Matthieu Alfaro heeft de snelheid van de vooruitgang echter verrast: « Twee jaar geleden geloofden we er geen seconde in. Toen ik 18 maanden geleden ChatGPT testte, maakte de basismodelfouten bij licentieoefeningen. » Hij vreest ook « onderzoek op verschillende snelheden » en « een kleine angst dat wiskundeonderzoek nu heel Amerikaans of Chinees is ».
Jonge onderzoekers staan in de frontlinie. « Mensen zoals ik hebben een baan. Maar het is superstressvol voor jongeren die een baan zoeken. Wat doen we met onze promovendi? » vraagt hij. Hij voegt eraan toe dat tijdschriften twee keer zoveel artikelen ontvangen als een paar maanden geleden, terwijl het onderzoekers zijn die ze redigeren en beoordelen. « Ik ben een beetje bang dat volledig instort », waarschuwt hij.
