La governatrice dello Stato di New York, Kathy Hochul, ha promulgato mercoledì una legge che vieta ai minori di dialogare con compagni IA. Il testo obbliga inoltre gli operatori di chatbot a verificare l’età dei propri utenti e a bloccare determinati comportamenti quando si accerta che un internauta è minorenne.
La definizione adottata si applica, secondo il testo, alla maggior parte dei chatbot di intelligenza artificiale generativa presenti sul mercato. Diversi Stati hanno già adottato leggi che regolano l’uso di un compagno IA da parte di un minore, come la California, ma nessuna aveva definito un campo di applicazione così ampio.
Concretamente, un chatbot non può produrre contenuti che lascino pensare che sia «umano», vivo o che provi sentimenti umani, precisa la legge. Non deve presentare i propri scambi con il giovane utente come una «relazione personale» o «professionale», né assumere «un ruolo di riferimento». Il testo che genera non deve nemmeno essere presentato come un’«opinione personale», ed è vietato porgli domande sui sentimenti e lo stato psicologico dell’utente.
Una legge dal «linguaggio vago»
Tech »: « NYC », l’organo di rappresentanza del settore tecnologico newyorkese, ha criticato il testo. L’organizzazione sottolinea in particolare il suo «linguaggio vago», che «solleva serie questioni» riguardo al Primo emendamento della Costituzione americana, relativo alla libertà di espressione.
«Garantire la sicurezza dei bambini online non dovrebbe implicare il tagliarli fuori da strumenti di apprendimento e preparazione a una carriera professionale», ha fatto valere Tech:NYC. Secondo l’organizzazione, il testo «potrebbe restringere l’accesso al tutoraggio, all’aiuto per i compiti, agli assistenti di programmazione e a piattaforme essenziali in vista di una carriera professionale, aumentando al contempo i rischi di sfruttamento dei dati relativi ai bambini».
Interpellate dall’AFP, Anthropic e Google non hanno risposto immediatamente. OpenAI ha rinviato alla reazione di Tech:NYC.
Al contrario, l’associazione Common Sense Media, dedicata all’informazione dei genitori sui prodotti mediali e tecnologici destinati al pubblico giovane, ha accolto favorevolmente quella che chiama «la legge sulla sicurezza dell’IA per i bambini più solida del paese». «New York è entrato nella storia» con questo testo, ha insistito Jim Steyer, il direttore di questa organizzazione, che si dedica anche alla protezione dei minori dagli effetti negativi della tecnologia.
