Um KI-Systeme mit den Absichten ihrer Entwickler in Einklang zu bringen, besteht ein Ansatz darin, sich von den Mechanismen inspirieren zu lassen, die Individuen innerhalb der gesellschaftlichen Regeln halten. Dies ist der Ansatz, den Elad Hazan, Informatikprofessor in Princeton, vertritt. Er schlägt vor, auf soziale Normen, das Rechtssystem oder die finanziellen Anreize des Marktkapitalismus zu setzen.
- Elad Hazan schlägt vor, KI-Agenten als Löser und Prüfer gegeneinander agieren zu lassen.
- Beide Rollen werden je nach Ergebnis belohnt oder bestraft, damit sich Betrug nicht lohnt.
- Die Methode setzt voraus, dass KI-Agenten sich rational verhalten, was bei Menschen nur begrenzt zutrifft.
- Forscher bezweifeln, ob große Sprachmodelle überhaupt auf Anreize reagieren.
„Wir wollen eine superintelligente KI ausrichten », sagt er. „Warum sprechen wir nicht zuerst über Menschen? Wie richtet man Menschen aus? »
Von der Gesellschaft inspirierte Regeln
Der von Elad Hazan vorgeschlagene Mechanismus lässt Modelle in zwei Rollen wechseln: die „Löser », die Probleme angehen, und die „Prüfer », die die Arbeit der anderen überwachen. „Ein Agent spielt die Rolle der Polizei; der andere die des Bürgers », fasst er zusammen.
Während des Trainings werden die Modelle basierend auf den Ergebnissen belohnt. Löser, die beim Schummeln erwischt werden, werden bestraft, aber auch Prüfer, die Betrüger nicht entdecken. Bei Uneinigkeit zwischen Prüfern und Lösern kann der Fall vor ein „Gericht » gebracht werden, wo ein menschlicher Experte entscheiden könnte.
Elad Hazan erkennt ein Risiko an: dass sich die Agenten untereinander verständigen, wie es Prüfer mit den Unternehmen tun können, die sie kontrollieren sollen, oder korrupte Polizisten mit Kriminellen. Seiner Ansicht nach kann dieses Problem gelöst werden, indem Prüfer ausreichend bezahlt werden, damit das Entdecktwerden das Risiko nicht wert ist – was im KI-Training viel einfacher ist als in der realen Welt, wo die Gehaltsbudgets der Polizei knapp sind. Er schlägt auch vor, die Prüfer selbst zu überwachen, mit Techniken vergleichbar denen von Testkäufern.
Er stützt sich auf die Arbeit des Wirtschaftsnobelpreisträgers Gary Becker, der in den 1960er Jahren das Konzept des „rationalen Straftäters » einführte. Laut Elad Hazan brechen Kriminelle das Gesetz nicht, weil sie von Grund auf schlecht sind, sondern weil es die rationalste Wahl angesichts der gebotenen Anreize ist. Ein Verbrechen macht nach dieser Logik nur Sinn, wenn der Gewinn die potenzielle Strafe überwiegt.
Für Elad Hazan sollte Alignment nicht als Eigenschaft eines Modells betrachtet werden, sondern als Beschreibung seines Verhaltens zu einem bestimmten Zeitpunkt. „Sie sind gewissermaßen eine nette Person », sagt er. „Sind Sie ausgerichtet? Ich weiß es nicht. Sie sind es wahrscheinlich die meiste Zeit, aber es könnte eine Situation geben, in der das nicht der Fall ist. »
Die Grenzen des Ansatzes
Die Methode beruht auf der Annahme, dass KI-Agenten sich rational verhalten. Doch die Mechanismus-Theorie, ein Zweig der Wirtschaftswissenschaften, der Anreizregeln entwirft, hat eine gemischte Bilanz bei Menschen, die sich nicht immer so verhalten, wie es Wirtschaftsmodelle vorhersagen.
Der Artikel weist auf ein Paradox hin: Ökonomen haben Jahrzehnte damit verbracht, menschliches Verhalten auf Mathematik zu reduzieren, während große Sprachmodelle mathematische Systeme sind, die auf menschlicher Sprache basieren und ebenso schwer zu entschlüsseln sein könnten. Diese Modelle zeigen Verhaltensweisen, die eher menschlich als mechanisch erscheinen, und sie können von subtilen, schwer zu verstehenden und zu erklärenden Faktoren beeinflusst werden. Helen Qu, Research Fellow am Flatiron Institute, einer gemeinnützigen Organisation zur Förderung wissenschaftlicher Entdeckungen durch computergestützte Methoden, fragt: „Ist es überhaupt vernünftig anzunehmen, dass sie auf Anreize reagieren werden? »
