Sam Altman, CEO von OpenAI, sagt, er verstehe die Frustration von Mathematikern angesichts der Flut von Ergebnissen, die die KI produziert, aber er habe nicht vor, das Tempo zu drosseln. Er deutet auch an, dass das Unternehmen viele weitere Entdeckungen habe, die es noch nicht veröffentlicht hat.
- Sam Altman versteht die Frustration der Mathematiker, will das Tempo aber nicht drosseln.
- OpenAI veröffentlicht viele Ergebnisse mit knappen Notizen, die Forscher schwer nachvollziehen können.
- Ein Ergebnis zur Yang-Mills-Theorie bleibt unveröffentlicht, auf Empfehlung einer Expertengruppe.
- Altman sagt, das Unternehmen habe noch viele weitere, unveröffentlichte Entdeckungen.
In einer Folge des Podcasts Cheeky Pint, die am Donnerstag ausgestrahlt wurde, erklärt er: „Ich denke, insgesamt hat die Welt ein Recht darauf, zu verstehen, wie das Universum funktioniert. Aber ich habe Verständnis für die Methode. » Seiner Ansicht nach „überwiegt » das Recht der Öffentlichkeit auf neue wissenschaftliche Erkenntnisse die Unannehmlichkeiten, die durch die Ankündigungen von OpenAI entstehen, auch wenn er zugibt, dass das Unternehmen seine Kommunikation über Ergebnisse verbessern muss.
„Ich bin mir da ganz sicher: Die Menschheit verdient grundlegende Erkenntnisse, und wir sollten eine große, grundlegende wissenschaftliche Entdeckung nicht für uns behalten », fügt er hinzu.
Mathematiker, die von The Verge befragt wurden, kritisieren seit Monaten die Art und Weise, wie OpenAI seine Ergebnisse bekannt gibt, die sie als unzureichend zugeordnet, wenig kontextualisiert und ungenügend überprüft ansehen. Sie müssen diese Arbeiten anschließend selbst überprüfen und entschlüsseln. OpenAI hat Hunderte von mathematischen Ergebnissen veröffentlicht, oft begleitet von kurzen Notizen, die Forscher als schlecht geschrieben und schwer nachvollziehbar beschreiben.
Eine kritisierte Veröffentlichungspraxis
OpenAI wird heute dafür kritisiert, genau das zu tun, was Sam Altman sagt, dass sie es nicht tun sollte: potenziell wichtige Ergebnisse zurückzuhalten. Mathematiker und Wissenschaftler, die diese Woche von The Verge befragt wurden, sagen, sie seien frustriert über das, was sie als eine Kontrolle der Forschung wahrnehmen. Diese Kritik folgt auf die Ankündigung von drei großen Durchbrüchen in Mathematik, Physik und Informatik.
Die Details eines dieser Ergebnisse, das mit der Yang-Mills-Theorie zusammenhängt, die die mathematische Grundlage der modernen Teilchenphysik bildet, wurden nicht öffentlich gemacht. OpenAI begründet diese Entscheidung mit den Empfehlungen einer handverlesenen Expertengruppe, die zur besten Veröffentlichungsweise konsultiert wurde. Diese Praxis widerspricht direkt den Ratschlägen einer zuvor vom Unternehmen konsultierten Gruppe von Mathematikern, steht aber laut OpenAI für einen neuen Ansatz in der Kommunikation seiner Entdeckungen.
Erhebliche Mittel
Auf die Frage nach der Existenz zusätzlicher Beweise, über die bereits veröffentlichten Hunderte hinaus, antwortet Sam Altman: „Wir haben sie. Natürlich. » Er räumt auch ein, dass die Suche nach mathematischen Problemen für kurze Zeit „außer Kontrolle geraten » sei, eine Entscheidung, die er als absichtlich und notwendig darstellt, um die Grenzen seiner Modelle zu testen. Er beschreibt einen internen Slack-Kanal namens „Model Name-Hold My Beer », in dem Mitarbeiter „das auf die schwierigsten Probleme, die sie finden konnten, anwarfen », um die Leistung der Modelle zu beobachten.
Sam Altman schätzt zudem, dass OpenAI in der Größenordnung von mehreren hundert Millionen Dollar ausgegeben hat, um mathematische Probleme anzugehen. Er erwähnt insbesondere etwa 10 Millionen Dollar, „vielleicht etwas mehr », die für seine Lösung des Navier-Stokes-Problems aufgewendet wurden, eines der legendären Millenniumsprobleme der Mathematik. Diese Summen geben einen Eindruck von den Ressourcen, die KI-Labore für wissenschaftliche Fragen mobilisieren, und wecken bei einigen Forschern die Befürchtung, von ihren eigenen Fachgebieten verdrängt zu werden.
Es scheint, dass Mathematiker und andere Forscher, die auf eine Verschnaufpause gehofft hatten, diese nicht bekommen werden.
