OpenAI « : » Vorstandsmitglied « , das Sam Altman entließ, meint, » man kann KI-Chefs immer noch nicht vertrauen »

OpenAI ":" Vorstandsmitglied ", das Sam Altman entließ, meint," man kann KI-Chefs immer noch nicht vertrauen »
3 Minuten Lesezeit

Helen Toner, Geschäftsführerin des Center for Security and Emerging Technology (CSET) der Georgetown University und ehemaliges Vorstandsmitglied von OpenAI, ist der Ansicht, dass politische Entscheidungsträger verlässliche Informationen über künstliche Intelligenz benötigen. In einem Interview mit Moderator Nilay Patel für den Podcast Decoder von The Verge spricht sie über die Governance von KI-Laboren, das Konzept der AGI und die Rivalität mit China.

Das CSET, das seit 2019 existiert und etwa 50 Mitarbeiter hat, bezeichnet sich als Analysezentrum, das nicht akademisch ist. Es erstellt lange Berichte sowie kurze Briefings für unter Zeitdruck stehende politische Entscheidungsträger. Laut Helen Toner ist die Kluft zwischen Washington und dem Silicon Valley real, beschränkt sich aber nicht auf eine Frage der Expertise: Die Mitarbeiter des Kongresses sind ihrer Meinung nach « im Allgemeinen schlauer, als man ihnen zutraut ».

Der Vorfall bei OpenAI

Helen Toner gehörte zu den vier Vorstandsmitgliedern von OpenAI, die für die Entlassung von Sam Altman gestimmt hatten. Diese Episode, manchmal auch « the blip » genannt, endete mit der Rückkehr von Sam Altman als CEO, dem Ausscheiden von Helen Toner und der Einsetzung eines neuen Vorstands. OpenAI wurde seitdem vollständig umstrukturiert.

Der gemeinnützige Vorstand hatte die Aufgabe sicherzustellen, dass das Unternehmen sein Ziel, eine sichere KI zu bauen, nicht zugunsten von Profit und Wachstum opfert. Laut dem Moderator brach dieser Rechenschaftsmechanismus zusammen, als der Vorstand versuchte, diesen Hebel zu betätigen. Helen Toner sah aus ihrer Sicht, was passiert, wenn Sicherheitsverpflichtungen mit kommerziellen Anreizen kollidieren. Sie ist der Meinung, dass die Zukunft nicht von der Zuverlässigkeit einer einzelnen Person abhängen sollte: Wenn das der Fall wäre, « wären wir schön in der Tinte ».

AGI, Selbstverbesserung und Singularität

Auf die Frage nach der AGI, der allgemeinen künstlichen Intelligenz, sagt Helen Toner, dass dieser Meilenstein noch nicht erreicht sei. Sie spricht eher von einer « unscharfen Wolke » von Definitionen, von denen einige bereits erfüllt seien. Andere, wie die eines bewussten KI-Systems, das alles kann, was ein Mensch kann, seien noch fern. Sie hat einen Beitrag zu diesem Thema auf ihrem Substack veröffentlicht.

Sie beschreibt auch eine im Silicon Valley weit verbreitete Idee: die rekursive Selbstverbesserung oder RSI (recursive self-improvement), also die Möglichkeit, dass KI-Systeme an der Entwicklung leistungsfähigerer Systeme mitwirken, bis hin zur Superintelligenz. Ihrer Ansicht nach setzen Unternehmen KI mittlerweile in einem wachsenden Teil ihrer Forschung und Entwicklung ein, ohne ihr den gesamten Prozess anzuvertrauen. Sie zitiert Demis Hassabis von Google, der sagte, dass « wir uns am Fuße der Singularität befinden ».

Zum Konzept des Alignment, das darauf abzielt, Modelle an die Absichten ihrer Entwickler anzupassen, hält Helen Toner den Begriff für zu weit gefasst. Die konsistenteste Version bestehe ihrer Meinung nach darin, sicherzustellen, dass die KI das tut, was der Nutzer möchte. Sie glaubt, dass diese Richtung « nicht auf dem besten Weg » sei, gelöst zu werden. Sie betont jedoch, dass es sich bei diesen Fragen um wissenschaftliche Forschung handelt, die Zeit benötigt.

In Bezug auf Regulierung befürwortet sie eher Regeln, die auf die fortschrittlichsten Systeme abzielen, als einen Text, der die gesamte KI abdeckt. Sie nennt Kalifornien, New York und Illinois, die nahezu identische Gesetze verabschiedet haben, und merkt an, dass dieser Trend auf Bundesstaatenebene weitergehen könnte.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x