A governadora do Estado de Nova Iorque, Kathy Hochul, promulgou na quarta-feira uma lei que proíbe os menores de dialogar com companhias de IA. O texto obriga também os operadores de chatbots a verificar a idade dos seus utilizadores e a bloquear certos comportamentos quando se estabelece que um internauta é menor.
- A governadora Kathy Hochul promulgou uma lei que proíbe os menores de dialogar com companhias de IA.
- Os operadores de chatbots devem verificar a idade dos utilizadores e bloquear certos comportamentos com menores.
- Os chatbots não podem fazer-se passar por humanos nem simular emoções.
- A Tech :NYC critica a lei por ser vaga e por limitar ferramentas de aprendizagem.
A definição adotada aplica-se, segundo o texto, à maioria dos chatbots de inteligência artificial generativa presentes no mercado. Vários estados já adotaram leis que regulam o uso de uma companhia de IA por um menor, à semelhança da Califórnia, mas nenhuma tinha definido um campo de aplicação tão amplo.
Concretamente, um chatbot não pode produzir conteúdo que faça pensar que é « humano », que está vivo ou que sente emoções humanas, especifica a lei. Não deve apresentar as suas interações com o jovem utilizador como uma « relação pessoal » ou « profissional », nem assumir « um papel de referência ». O texto que gera também não deve ser apresentado como uma « opinião pessoal », e é-lhe proibido fazer perguntas sobre os sentimentos e o estado psicológico do utilizador.
Uma lei com « linguagem vaga »
A Tech:NYC, o órgão de representação do setor tecnológico nova-iorquino, criticou o texto. A organização aponta nomeadamente a sua « linguagem vaga », que « coloca sérias questões » face à Primeira Emenda da Constituição norte-americana, relativa à liberdade de expressão.
« Garantir a segurança das crianças online não deve implicar cortá-las de ferramentas de aprendizagem e preparação para uma carreira profissional », argumentou a Tech:NYC. Segundo a organização, o texto « poderá restringir o acesso a tutoria, ajuda aos trabalhos de casa, assistentes de programação e plataformas essenciais para uma carreira profissional, ao mesmo tempo que aumenta os riscos de exploração de dados relacionados com crianças ».
Contactadas pela AFP, a Anthropic e a Google não responderam de imediato. A OpenAI remeteu para a reação da Tech:NYC.
Pelo contrário, a associação Common Sense Media, dedicada a informar os pais sobre produtos mediáticos e tecnológicos destinados ao público jovem, saudou o que chama de « a lei de segurança de IA para crianças mais sólida do país ». « Nova Iorque entrou na história » com este texto, insistiu Jim Steyer, o diretor desta organização, que se dedica também à proteção de menores contra os efeitos negativos da tecnologia.
