Gubernator stanu Nowy Jork, Kathy Hochul, podpisała w środę ustawę, która zakazuje nieletnim prowadzenia rozmów z kompanami AI. Tekst zobowiązuje również operatorów chatbotów do weryfikacji wieku użytkowników i blokowania określonych zachowań, gdy ustalone zostanie, że internauta jest niepełnoletni.
Przyjęta definicja ma zastosowanie, zgodnie z tekstem ustawy, do większości generatywnych chatbotów sztucznej inteligencji obecnych na rynku. Kilka stanów, takich jak Kalifornia, przyjęło już przepisy regulujące korzystanie z kompana AI przez nieletnich, ale żaden nie zdefiniował tak szerokiego zakresu zastosowania.
Konkretnie, chatbot nie może generować treści sugerujących, że jest „ludzki », żywy lub że odczuwa ludzkie emocje, precyzuje ustawa. Nie może on przedstawiać swoich interakcji z młodym użytkownikiem jako „osobistej » lub „profesjonalnej » relacji, ani przyjmować „roli autorytetu ». Generowany przez niego tekst nie może być również przedstawiany jako „osobista opinia », a zabronione jest mu zadawanie pytań o uczucia i stan psychiczny użytkownika.
Ustawa o „niejasnym języku »
Tech »: « NYC », organ reprezentujący nowojorski sektor technologiczny, skrytykował ustawę. Organizacja wskazuje w szczególności na jej „niejasny język », który „poważnie kwestionuje » jej zgodność z Pierwszą Poprawką do Konstytucji USA, dotyczącą wolności słowa.
„Zapewnienie bezpieczeństwa dzieciom w sieci nie powinno wiązać się z odcinaniem ich od narzędzi do nauki i przygotowania do kariery zawodowej » – argumentuje Tech:NYC. Według organizacji ustawa „może ograniczyć dostęp do korepetycji, pomocy w odrabianiu lekcji, asystentów programistycznych i kluczowych platform w kontekście kariery zawodowej, jednocześnie zwiększając ryzyko wykorzystania danych dotyczących dzieci ».
Zapytane przez AFP, firmy Anthropic i Google nie udzieliły natychmiastowej odpowiedzi. OpenAI odesłało do stanowiska Tech:NYC.
Przeciwnie, stowarzyszenie Common Sense Media, zajmujące się informowaniem rodziców o produktach medialnych i technologicznych dla młodej publiczności, pochwaliło to, co nazywa „najsolidniejszym w kraju prawem o bezpieczeństwie AI dla dzieci ». „Nowy Jork przeszedł do historii » dzięki tej ustawie – podkreślił Jim Steyer, dyrektor tej organizacji, która zajmuje się również ochroną nieletnich przed negatywnymi skutkami technologii.
