Sam Altman, dyrektor generalny OpenAI, twierdzi, że rozumie frustrację matematyków wobec potoku wyników generowanych przez sztuczną inteligencję, ale nie zamierza zwalniać. Daje też do zrozumienia, że firma ma wiele innych odkryć, których jeszcze nie ujawniła.
- Sam Altman rozumie frustrację matematyków, ale OpenAI nie zamierza zwolnić tempa.
- Firma wstrzymuje publikację jednego wyniku dotyczącego teorii Yanga-Millsa, powołując się na radę ekspertów.
- Matematycy krytykują OpenAI za słabe opisy, brak weryfikacji i niedostateczne przypisanie wyników.
- Altman przyznaje, że firma ma dodatkowe odkrycia i wydała kilkaset milionów dolarów na problemy matematyczne.
W odcinku podcastu Cheeky Pint wyemitowanym w czwartek powiedział: « Myślę, że ogólnie rzecz biorąc, świat zasługuje na zrozumienie, jak działa wszechświat. Ale współczuję metodzie ». Jego zdaniem prawo społeczeństwa do nowej wiedzy naukowej « przeważa » nad niedogodnością związaną z ogłoszeniami OpenAI, choć przyznaje, że firma musi poprawić komunikację swoich wyników.
« Jestem w tej kwestii kategoryczny: ludzkość zasługuje na fundamentalną wiedzę i nie powinniśmy zatrzymywać dla siebie głównego, fundamentalnego odkrycia naukowego » – dodał.
Matematycy wypowiadający się dla The Verge od kilku miesięcy krytykują sposób, w jaki OpenAI ogłasza swoje wyniki, uważając je za niewystarczająco przypisane, słabo skontekstualizowane i niewystarczająco zweryfikowane. Następnie sami muszą sprawdzać i rozszyfrowywać te prace. OpenAI opublikowała setki wyników matematycznych, często z krótkimi notatkami, które badacze opisują jako źle napisane i trudne do śledzenia.
Krytykowany wybór publikacji
OpenAI jest obecnie krytykowana za to, co Sam Altman właśnie mówi, że nie powinna robić: zatrzymywanie potencjalnie ważnych wyników. Matematycy i naukowcy wypowiadający się dla The Verge w tym tygodniu mówią o frustracji z powodu tego, co postrzegają jako przejęcie kontroli nad badaniami. Krytyka ta następuje po ogłoszeniu trzech dużych przełomów w matematyce, fizyce i informatyce.
Szczegóły jednego z tych wyników, dotyczącego teorii Yanga-Millsa, która stanowi matematyczną podstawę współczesnej fizyki cząstek, nie zostały upublicznione. OpenAI tłumaczy tę decyzję rekomendacjami ręcznie wybranej grupy ekspertów, z którymi konsultowano najlepszy sposób jego rozpowszechnienia. Praktyka ta jest bezpośrednio sprzeczna z radami grupy matematyków wcześniej konsultowanych przez firmę, ale według OpenAI wpisuje się w nowe podejście do komunikowania jej odkryć.
Znaczne środki
Zapytany o istnienie dodatkowych dowodów, poza setkami już opublikowanych, Sam Altman odpowiada: « Mamy. Oczywiście ». Przyznaje też, że poszukiwanie problemów matematycznych « wymknęło się spod kontroli » na krótki okres, co przedstawia jako zamierzony i niezbędny krok w testowaniu granic swoich modeli. Opisuje wewnętrzny kanał Slack o nazwie « Model Name-Hold My Beer », gdzie pracownicy « rzucali to na najtrudniejsze problemy, jakie mogli znaleźć », aby obserwować wydajność modeli.
Sam Altman uważa ponadto, że OpenAI wydała rzędu kilkuset milionów dolarów na podejmowanie problemów matematycznych. Wspomina m.in. około 10 milionów dolarów, « może trochę więcej », przeznaczonych na jej rozwiązanie problemu Naviera-Stokesa, jednego z legendarnych problemów milenijnych w matematyce. Kwoty te dają wyobrażenie o zasobach, jakie laboratoria AI angażują w kwestie naukowe, i budzą u niektórych badaczy obawy o bycie odsuniętym od własnych dziedzin.
Wygląda na to, że matematycy i inni badacze, którzy liczyli na wytchnienie, go nie dostaną.
