Die Gouverneurin des Bundesstaates New York, Kathy Hochul, hat am Mittwoch ein Gesetz unterzeichnet, das Minderjährigen verbietet, mit KI-Companions zu chatten. Der Text verpflichtet auch die Betreiber von Chatbots, das Alter ihrer Nutzer zu überprüfen und bestimmte Verhaltensweisen zu blockieren, sobald festgestellt wird, dass ein Nutzer minderjährig ist.
Die gewählte Definition gilt laut dem Text für die meisten generativen KI-Chatbots auf dem Markt. Mehrere Bundesstaaten haben bereits Gesetze erlassen, die die Nutzung eines KI-Companions durch Minderjährige regeln, wie etwa Kalifornien, aber keines hatte einen so breiten Anwendungsbereich definiert.
Konkret darf ein Chatbot keine Inhalte erzeugen, die den Eindruck erwecken, er sei „menschlich », lebendig oder empfinde menschliche Gefühle, so das Gesetz. Er darf seine Gespräche mit dem jungen Nutzer nicht als eine „persönliche » oder „berufliche Beziehung » darstellen, noch eine „Vorbildfunktion » einnehmen. Der von ihm generierte Text darf auch nicht als „persönliche Meinung » präsentiert werden, und es ist ihm untersagt, Fragen zu den Gefühlen und dem psychologischen Zustand des Nutzers zu stellen.
Ein Gesetz mit „vager Sprache »
Tech »: « NYC », die Vertretungsorganisation der New Yorker Technologiebranche, hat den Text kritisiert. Die Organisation weist insbesondere auf seine „vage Sprache » hin, die im Hinblick auf den ersten Verfassungszusatz der USA, der die Meinungsfreiheit betrifft, „ernsthafte Fragen aufwirft ».
„Die Sicherheit von Kindern online zu gewährleisten sollte nicht bedeuten, sie von Lernwerkzeugen und der Vorbereitung auf eine berufliche Karriere abzuschneiden », argumentierte Tech:NYC. Laut der Organisation könnte der Text „den Zugang zu Nachhilfe, Hausaufgabenhilfe, Programmierassistenten und wichtigen Plattformen für die berufliche Karriere einschränken, während gleichzeitig das Risiko der Ausbeutung von Kinderdaten erhöht wird ».
Auf Anfrage der AFP haben Anthropic und Google nicht umgehend reagiert. OpenAI verwies auf die Reaktion von Tech:NYC.
Im Gegensatz dazu begrüßte der Verein Common Sense Media, der Eltern über Medien- und Technologieprodukte für junge Zielgruppen informiert, das, was er als „das stärkste Kindersicherheitsgesetz für KI im Land » bezeichnet. „New York hat mit diesem Text Geschichte geschrieben », betonte Jim Steyer, der Direktor dieser Organisation, die sich auch dem Schutz Minderjähriger vor den negativen Auswirkungen von Technologie widmet.
