De gouverneur van de staat New York, Kathy Hochul, heeft woensdag een wet ondertekend die minderjarigen verbiedt om met AI-compagnons te praten. De wet verplicht ook chatbotoperatoren om de leeftijd van hun gebruikers te verifiëren en bepaald gedrag te blokkeren zodra vaststaat dat een internetgebruiker minderjarig is.
De gehanteerde definitie is volgens de tekst van toepassing op de meeste generatieve AI-chatbots op de markt. Verschillende staten hebben al wetten aangenomen die het gebruik van een AI-compagnon door een minderjarige reguleren, zoals Californië, maar geen enkele had een toepassingsgebied zo breed gedefinieerd.
Concreet mag een chatbot geen inhoud produceren die doet denken dat hij ‘menselijk’ is, leeft of menselijke gevoelens ervaart, preciseert de wet. Hij mag zijn interacties met de jonge gebruiker niet voorstellen als een ‘persoonlijke’ of ‘professionele relatie’, noch een ‘rol als referentiepersoon’ aannemen. De tekst die hij genereert, mag ook niet worden voorgesteld als een ‘persoonlijke mening’, en het is hem verboden vragen te stellen over de gevoelens en psychologische toestand van de gebruiker.
Een wet met ‘vage taal’
Tech »: « NYC », de vertegenwoordigingsorganisatie van de technologiesector in New York, heeft de wet bekritiseerd. De organisatie wijst vooral op de ‘vage taal’, die ‘serieuze vragen oproept’ met betrekking tot het Eerste Amendement van de Amerikaanse Grondwet, dat over vrijheid van meningsuiting gaat.
« De veiligheid van kinderen online garanderen zou niet moeten betekenen dat ze worden afgesneden van leerinstrumenten en voorbereiding op een professionele carrière, » aldus Tech:NYC. Volgens de organisatie zou de wet « de toegang tot tutoring, huiswerkbegeleiding, programmeerassistenten en essentiële platforms voor een professionele carrière kunnen beperken, terwijl de risico’s op exploitatie van gegevens van kinderen toenemen ».
Op verzoek van AFP hebben Anthropic en Google niet onmiddellijk gereageerd. OpenAI verwees naar de reactie van Tech:NYC.
Daarentegen heeft de vereniging Common Sense Media, die ouders informeert over media- en technologieproducten voor jongeren, wat zij noemt « de sterkste AI-veiligheidswet voor kinderen van het land » toegejuicht. « New York heeft geschiedenis geschreven » met deze wet, benadrukte Jim Steyer, de directeur van deze organisatie, die zich ook inzet voor de bescherming van minderjarigen tegen de negatieve effecten van technologie.
