Nate Soares, voorzitter van het Machine Intelligence Research Institute (MIRI), legt al ongeveer tien jaar geen geld meer opzij voor zijn pensioen, omdat hij denkt dat kunstmatige intelligentie de mensheid eerder zou kunnen doen verdwijnen. Zijn uitspraken, gedaan in een podcast, werden door verschillende media overgenomen, terwijl Elon Musk in januari adviseerde om zich geen zorgen te maken over zijn pensioen, om een tegenovergestelde reden.
Nate Soares sprak in ‘The Most Interesting Thing in AI’, de podcast gepresenteerd door Nicholas Thompson voor het Amerikaanse tijdschrift The Atlantic. « Ik spaar momenteel niet voor mijn pensioen », legde hij uit. « Ik heb een 401(k)-spaarplan uit de tijd dat ik bij Google werkte, maar ik heb er al tien jaar niet meer aan bijgedragen. » Een 401(k) is een Amerikaans pensioenspaarplan. Voordat hij bij MIRI kwam, een non-profitorganisatie in Berkeley, Californië, was hij software-ingenieur bij Google en Microsoft. Hij stopte met bijdragen op het moment dat hij zich fulltime ging wijden aan IA-alignment, dat wil zeggen onderzoek dat erop gericht is ervoor te zorgen dat kunstmatige intelligentiesystemen doelen nastreven die verenigbaar zijn met het voortbestaan van mensen.
« Meer dan 50% » risico om het tien jaar niet vol te houden
Gevraagd naar de tijd die de mensheid nog restte, antwoordde Nate Soares dat er volgens hem « meer dan 50% kans is dat we geen tien jaar meer voor de boeg hebben ». « Ik ben niet echt iemand die gelooft in een apocalyps van werkgelegenheid door The AI / news. Ik ben iemand die gelooft dat The AI / news alle mensen zal doden », voegde hij eraan toe, waarbij hij de technologie « ronduit gevaarlijker dan kernwapens » noemde, omdat een bom « een stad kan wegvagen, maar niet een planeet ».
Hij vreest geen kwaadwillige The AI / news, maar een systeem dat autonoom is geworden, dat mensen als een obstakel zou kunnen zien als ze zouden proberen het te stoppen. Hij vindt echter dat niets vaststaat: « Ik doe alles wat ik kan om te voorkomen dat dit gebeurt. Ik denk niet dat het onvermijdelijk is. » Nate Soares vraagt regeringen om de training van algemene The AI / news te verbieden en onderzoek voor te behouden voor specifieke toepassingen, zoals de strijd tegen kanker of de zelfrijdende auto. Hij schreef samen met Eliezer Yudkowsky, oprichter van MIRI, het boek ‘If Anyone Builds It, Everyone Dies’, dat in september 2025 uitkwam.
Andere onderzoekers komen met lagere cijfers
Nate Soares is niet de enige die dit risico kwantificeert, hoewel de andere schattingen aanzienlijk lager zijn. Evan Hubinger, die het alignment-onderzoek bij Anthropic leidt, schat het op meer dan 10% in de komende tien jaar. Geoffrey Hinton, Nobelprijswinnaar voor de natuurkunde 2024, spreekt over 10 tot 20% over enkele decennia, waarbij hij benadrukt dat het een intuïtie is en geen berekening.
In een onderzoek van de organisatie AI Impacts gaf 51% van de ondervraagde onderzoekers minstens 10% waarschijnlijkheid aan een uitsterven van de mensheid of een ernstig verlies van controle door The AI / news. Analisten van de RAND Corporation schatten op hun beurt dat een The AI / news vier afzonderlijke capaciteiten zou moeten verenigen om de mensheid te bedreigen, en dat een dergelijke bedreiging lang zou duren om op te bouwen.
Elon Musk spreekt over overvloed
Elon Musk komt tot dezelfde conclusie als Nate Soares, maar via de omgekeerde weg. Begin januari 2026, in de podcast ‘Moonshots’ van Peter Diamandis, adviseerde de baas van Tesla en SpaceX om zich « geen zorgen te maken over het opzijzetten van geld voor het pensioen over 10 of 20 jaar », en voegde eraan toe dat « het er niet toe zal doen ». Volgens hem moeten The AI / news en robots de wereld een economie van overvloed binnenloodsen, ook al belooft de transitie moeilijk te worden. Op 9 januari 2026 was xAI, zijn kunstmatige intelligentiebedrijf, opgenomen in SpaceX.
