Sam Altman, CEO van OpenAI, zegt de frustratie van wiskundigen over de stroom aan door AI gegenereerde resultaten te begrijpen, maar heeft niet de intentie om te vertragen. Hij laat ook doorschemeren dat het bedrijf nog veel andere ontdekkingen heeft die nog niet zijn vrijgegeven.
- Sam Altman begrijpt de frustratie van wiskundigen, maar OpenAI vertraagt niet.
- Hij vindt dat het publiek recht heeft op fundamentele wetenschappelijke kennis, ook al achterhoudt OpenAI sommige resultaten.
- Wiskundigen bekritiseren de slechte communicatie en onvoldoende verificatie van de resultaten van OpenAI.
- OpenAI heeft honderden miljoenen dollars besteed aan wiskundige problemen en beschikt over aanvullend bewijs.
In een aflevering van de podcast Cheeky Pint die donderdag werd uitgezonden, zegt hij: « Ik denk dat de wereld over het algemeen recht heeft om te begrijpen hoe het universum werkt. Maar ik heb begrip voor de methode. » Volgens hem weegt het recht van het publiek op nieuwe wetenschappelijke kennis « zwaarder » dan het ongemak dat de aankondigingen van OpenAI veroorzaken, hoewel hij erkent dat het bedrijf zijn communicatie over resultaten moet verbeteren.
« Ik ben hier stellig over: de mensheid verdient fundamentele kennis, en we zouden een grote fundamentele wetenschappelijke ontdekking niet voor onszelf moeten houden », voegt hij eraan toe.
Wiskundigen die door The Verge zijn geïnterviewd, bekritiseren al maanden de manier waarop OpenAI zijn resultaten aankondigt, die zij als onvoldoende toegeschreven, slecht gecontextualiseerd en onvoldoende geverifieerd beschouwen. Zij moeten vervolgens zelf dit werk controleren en ontcijferen. OpenAI heeft honderden wiskundige resultaten gepubliceerd, vaak vergezeld van korte notities die onderzoekers omschrijven als slecht geschreven en moeilijk te volgen.
Een bekritiseerde publicatiekeuze
OpenAI wordt nu bekritiseerd voor wat Sam Altman juist zegt dat het niet zou moeten doen: potentieel belangrijke resultaten achterhouden. Wiskundigen en wetenschappers die deze week door The Verge zijn geïnterviewd, zeggen gefrustreerd te zijn door wat zij zien als een inperking van onderzoek. Deze kritiek volgt op de aankondiging van drie grote doorbraken, in wiskunde, natuurkunde en informatica.
De details van een van deze resultaten, gerelateerd aan de Yang-Mills-theorie die de wiskundige basis vormt van de moderne deeltjesfysica, zijn niet openbaar gemaakt. OpenAI motiveert deze beslissing met aanbevelingen van een handgekozen groep experts die zijn geraadpleegd over de beste manier om het bekend te maken. Deze praktijk druist rechtstreeks in tegen het advies van een groep wiskundigen die het bedrijf eerder had geraadpleegd, maar past volgens OpenAI in een nieuwe aanpak voor de communicatie van zijn ontdekkingen.
Aanzienlijke middelen
Gevraagd naar het bestaan van aanvullend bewijs, naast de honderden die al zijn gepubliceerd, antwoordt Sam Altman: « Die hebben we. Natuurlijk. » Hij erkent ook dat de zoektocht naar wiskundige problemen gedurende een korte periode « uit de hand is gelopen », een keuze die hij beschrijft als opzettelijk en noodzakelijk om de grenzen van zijn modellen te testen. Hij beschrijft een intern Slack-kanaal genaamd « Model Name-Hold My Beer », waar medewerkers « het loslieten op de moeilijkste problemen die ze konden vinden » om de prestaties van de modellen te observeren.
Sam Altman schat verder dat OpenAI honderden miljoenen dollars heeft uitgegeven om wiskundige problemen aan te pakken. Hij noemt specifiek ongeveer 10 miljoen dollar, « misschien iets meer », besteed aan zijn oplossing voor het Navier-Stokes-probleem, een van de legendarische Millennium Prize Problems in de wiskunde. Deze bedragen geven een idee van de middelen die AI-laboratoria inzetten voor wetenschappelijke vragen en wekken bij sommige onderzoekers de vrees dat zij uit hun eigen vakgebied worden gedrukt.
Het lijkt erop dat wiskundigen en andere onderzoekers die op een adempauze hoopten, die niet zullen krijgen.
