Nate Soares, prezes Machine Intelligence Research Institute (MIRI), od około dziesięciu lat nie odkłada na emeryturę, ponieważ uważa, że sztuczna inteligencja może zniszczyć ludzkość wcześniej. Jego wypowiedzi, wygłoszone w podcaście, zostały podchwycone przez kilka mediów, podczas gdy Elon Musk w styczniu radził, by nie martwić się o emeryturę z przeciwnego powodu.
Nate Soares wypowiedział się w podcaście „The Most Interesting Thing in AI », prowadzonym przez Nicholasa Thompsona dla amerykańskiego magazynu The Atlantic. „Nie oszczędzam obecnie na emeryturę » – wyjaśnił. „Mam plan oszczędnościowy 401(k) z czasów, gdy pracowałem w Google, ale nie wpłacałem na niego od dziesięciu lat. » 401(k) to amerykański plan oszczędności emerytalnych. Przed dołączeniem do MIRI, organizacji non-profit z siedzibą w Berkeley w Kalifornii, był inżynierem oprogramowania w Google i Microsoft. Przestał odkładać pieniądze, gdy poświęcił się na pełen etat pracy nad alignementem AI, czyli badaniami mającymi na celu zapewnienie, że systemy sztucznej inteligencji będą realizować cele zgodne z przetrwaniem ludzi.
„Ponad 50% » ryzyka, że nie przetrwamy dziesięciu lat
Zapytany o to, ile czasu pozostało ludzkości, Nate Soares odpowiedział, że według niego „jest ponad 50% szans, że nie mamy przed sobą dziesięciu lat ». „Nie jestem osobą, która wierzy w apokalipsę zatrudnienia spowodowaną AI. Jestem osobą, która wierzy, że AI zabije wszystkich ludzi » – dodał, oceniając technologię jako „znacznie bardziej niebezpieczną niż broń jądrowa », ponieważ bomba „może zniszczyć miasto, ale nie planetę ».
Nie obawia się złowrogiej AI, lecz systemu, który stanie się autonomiczny i może postrzegać ludzi jako przeszkodę, jeśli będą próbowali go zatrzymać. Mimo to uważa, że nic nie jest przesądzone: „Robię wszystko, co mogę, by temu zapobiec. Nie sądzę, że to nieuniknione. » Nate Soares apeluje do rządów o zakaz szkolenia ogólnych AI i ograniczenie badań do konkretnych zastosowań, takich jak walka z rakiem czy samochody autonomiczne. Wspólnie z Eliezerem Yudkowskym, założycielem MIRI, współautorem książki „If Anyone Builds It, Everyone Dies », wydanej we wrześniu 2025 roku.
Inni badacze podają niższe liczby
Nate Soares nie jest jedynym, który ocenia to ryzyko, choć inne szacunki są znacznie niższe. Evan Hubinger, kierujący badaniami nad alignementem w Anthropic, ocenia je na ponad 10% w ciągu najbliższych dziesięciu lat. Geoffrey Hinton, laureat Nagrody Nobla z fizyki 2024, mówi o 10-20% na przestrzeni kilku dekad, zaznaczając, że to intuicja, a nie kalkulacja.
W badaniu przeprowadzonym przez organizację AI Impacts 51% ankietowanych naukowców oceniło prawdopodobieństwo wyginięcia ludzkości lub poważnej utraty kontroli z powodu AI na co najmniej 10%. Analitycy RAND Corporation z kolei uważają, że AI musiałaby posiadać cztery odrębne zdolności, aby zagrozić ludzkości, a taka groźba wymagałaby długiego czasu na rozwój.
Elon Musk mówi o obfitości
Elon Musk dochodzi do podobnego wniosku jak Nate Soares, ale inną drogą. Na początku stycznia 2026 roku, w podcaście „Moonshots » Petera Diamandisa, szef Tesli i SpaceX radził, by nie „martwić się o odkładanie pieniędzy na emeryturę za 10 czy 20 lat », dodając, że „to nie będzie miało znaczenia ». Według niego AI i roboty mają wprowadzić świat w gospodarkę obfitości, choć przejście może być trudne. 9 stycznia 2026 roku xAI, jego firma zajmująca się sztuczną inteligencją, została przejęta przez SpaceX.
