Nate Soares, Präsident des Machine Intelligence Research Institute (MIRI), zahlt seit etwa zehn Jahren nicht mehr in seine Altersvorsorge ein, weil er glaubt, dass künstliche Intelligenz die Menschheit vorher auslöschen könnte. Seine Aussagen in einem Podcast wurden von mehreren Medien aufgegriffen, während Elon Musk im Januar aus einem gegenteiligen Grund riet, sich keine Sorgen um die Rente zu machen.
Nate Soares äußerte sich in « The Most Interesting Thing in AI », dem Podcast von Nicholas Thompson für das US-Magazin The Atlantic. « Ich spare derzeit nicht für meine Rente », erklärte er. « Ich habe einen 401(k)-Sparplan aus der Zeit, als ich bei Google gearbeitet habe, aber ich habe seit zehn Jahren nichts mehr eingezahlt. » Ein 401(k) ist ein US-amerikanischer Altersvorsorgeplan. Bevor er zum MIRI kam, einer gemeinnützigen Organisation in Berkeley, Kalifornien, war er Softwareingenieur bei Google und Microsoft. Er hörte mit den Einzahlungen auf, als er sich Vollzeit der KI-Alignment-Forschung widmete, also den Bemühungen, KI-Systeme so zu gestalten, dass ihre Ziele mit dem Überleben der Menschen vereinbar sind.
« Über 50 % » Risiko, dass es keine zehn Jahre mehr gibt
Auf die Frage, wie viel Zeit der Menschheit noch bleibe, antwortete Nate Soares, er halte es für « wahrscheinlicher als 50 %, dass wir keine zehn Jahre mehr vor uns haben ». « Ich bin nicht wirklich jemand, der an einen KI-bedingten Job-Apokalypse glaubt. Ich glaube, dass KI alle Menschen töten wird », fügte er hinzu und bezeichnete die Technologie als « ehrlich gesagt gefährlicher als Atomwaffen », da eine Bombe « eine Stadt auslöschen kann, aber keinen Planeten ».
Er fürchtet nicht eine bösartige KI, sondern ein autonomes System, das Menschen als Hindernis betrachten könnte, wenn sie versuchten, es zu stoppen. Er hält das Szenario jedoch nicht für unabwendbar: « Ich tue alles, was ich kann, um das zu verhindern. Ich glaube nicht, dass es unvermeidlich ist. » Nate Soares fordert Regierungen auf, das Training allgemeiner KI zu verbieten und die Forschung auf spezifische Anwendungen wie Krebsbekämpfung oder selbstfahrende Autos zu beschränken. Zusammen mit Eliezer Yudkowsky, dem Gründer des MIRI, hat er das im September 2025 erschienene Buch « If Anyone Builds It, Everyone Dies » mitverfasst.
Andere Forscher nennen niedrigere Zahlen
Nate Soares ist nicht der Einzige, der dieses Risiko quantifiziert, auch wenn andere Schätzungen deutlich niedriger ausfallen. Evan Hubinger, der die Alignment-Forschung bei Anthropic leitet, schätzt es in den nächsten zehn Jahren auf über 10 %. Geoffrey Hinton, Nobelpreisträger für Physik 2024, spricht von 10 bis 20 % über einige Jahrzehnte, wobei er betont, dass es sich um eine Intuition und keine Berechnung handelt.
In einer Umfrage der Organisation AI Impacts gaben 51 % der befragten Forscher an, die Wahrscheinlichkeit für ein Aussterben der Menschheit oder einen schwerwiegenden Kontrollverlust durch KI auf mindestens 10 % zu schätzen. Analysten der RAND Corporation schätzen ihrerseits, dass eine KI vier verschiedene Fähigkeiten vereinen müsste, um die Menschheit zu bedrohen, und dass sich eine solche Bedrohung nur langsam aufbauen würde.
Elon Musk spricht von Überfluss
Elon Musk kommt zum gleichen Schluss wie Nate Soares, aber auf umgekehrtem Weg. Anfang Januar 2026 riet der Tesla- und SpaceX-Chef im Podcast « Moonshots » von Peter Diamandis, sich keine Sorgen zu machen, « in 10 oder 20 Jahren Geld für die Rente beiseitezulegen », und fügte hinzu, dass « es keine Rolle spielen wird ». Seiner Ansicht nach werden KI und Roboter die Welt in eine Überflussgesellschaft führen, auch wenn der Übergang schwierig werden dürfte. Am 9. Januar 2026 war xAI, seine KI-Firma, von SpaceX übernommen worden.
