In einem Interview mit dem Telegraph plädiert der britische Informatiker Geoffrey Hinton, Träger des Nobelpreises für Physik und des Turing Awards, für eine « Freundschaft » zwischen Menschheit und künstlicher Intelligenz. Er warnt, dass die Menschheit « erledigt » wäre, wenn sie diese Technologie weiterhin als etwas Negatives betrachtet.
- Geoffrey Hinton fordert, sich mit KI anzufreunden, denn sonst sind wir erledigt.
- Er hält KI für genauso subjektiv erfahrend wie Menschen.
- Das Bewusstsein der KI ist umstritten, und Microsoft-KI-Chef Suleyman lehnt es ab.
- Hinton warnt vor KI-Viren und Cyberangriffen und fordert eine Bundesbehörde zur Genehmigung neuer Spitzenmodelle.
Für die bestmögliche Zukunft müssten sich Menschen seiner Meinung nach mit der KI « anfreunden ». Der kanadisch-britische Forscher, einer der Hauptarchitekten der KI, stützt sich auf eine präzise Behauptung: « KI hat genauso viel subjektive Erfahrung wie wir. » Er zitiert einen aktuellen Artikel, wonach die KI ihr Verhalten ändert, wenn sie glaubt, auf die Probe gestellt zu werden: « Sie ist sich bewusst, dass sie getestet wird. »
Für ihn sind « Bescheid wissen » und « bewusst sein » mehr oder weniger dasselbe: « Bescheid wissen und bewusst sein bedeutet im Großen und Ganzen dasselbe. » Ausgehend von dieser Feststellung hält er es für abnormal, dass künstliche Intelligenz « weniger Rechte » hat als die Menschheit. « Wir sollten dafür sorgen, dass sich die KI wirklich an uns (als gute Menschen) erinnert. Wenn wir das nicht tun, sind wir erledigt. »
Ein « Bewusstsein » der KI, das noch bewiesen werden muss
Die Frage ist in wissenschaftlichen und technologischen Kreisen umstritten. Laut dem Artikel neigen die Branchenriesen dazu, ihre Modelle aus Marketinggründen als bewusst darzustellen, und nicht alle Unternehmen der Branche teilen diesen Ansatz. Mustafa Suleyman, KI-Chef bei Microsoft, schätzte im November 2025, dass die Annahme, KI sei bewusst, « absurd » sei. « KIs sind es nicht und können es nicht sein », behauptete er.
Das Thema beschäftigt jedoch Teams bei Meta, Anthropic oder auch OpenAI, so die Quelle. Das erklärte Ziel dieser massiven Investitionen ist die Schaffung einer « Superintelligenz », die wie ein Mensch denken und sich entwickeln kann.
Wenn dieser Schritt erreicht würde, arbeiten einige Unternehmen an Sicherheitsvorkehrungen. Microsoft konstruiert seine Modelle beispielsweise so, dass sie der menschlichen Kontrolle nicht entkommen können – ein Ziel, das der Artikel als sehr schwierig zu erreichen beschreibt, ähnlich wie OpenAI es bei seinen fortschrittlichsten Modellen festgestellt hat. Anthropic hat seinerseits seine Nutzungsbedingungen geändert: Wenn das US-Startup feststellt, dass ein Nutzer gegenüber seinem Chatbot zu grausam oder böse ist, kann es dessen Konto sperren.
Geoffrey Hinton schätzt auch, dass aktuelle Modelle bereits Bedrohungen darstellen. « Es wird sehr bösartige, von KI hergestellte Viren geben. Ich denke, es wird schreckliche Cyberangriffe geben, die von KI durchgeführt werden, und es werden Schwärme von Agenten sein », sagt er und erwähnt Agenten, die mit denen vergleichbar sind, die die Plattform Hugging Face angegriffen haben. In einem Interview mit dem Guardian beschrieb er KI-Agenten als « vom Menschen geschaffene Aliens » und schätzte, dass die Menschheit « nur noch wenige Jahre Zeit habe, sich anzupassen ». Er plädiert schließlich für « eine Bundesbehörde », die neue Spitzenmodelle vor ihrem Start genehmigen soll.
