La gobernadora del estado de Nueva York, Kathy Hochul, promulgó el miércoles una ley que prohíbe a los menores dialogar con compagnons IA. El texto también obliga a los operadores de chatbots a verificar la edad de sus usuarios y a bloquear ciertos comportamientos cuando se establece que un internauta es menor de edad.
La definición adoptada se aplica, según el texto, a la mayoría de los chatbots de inteligencia artificial generativa presentes en el mercado. Varios estados ya han adoptado leyes que regulan el uso de un compagnon IA por parte de un menor, como California, pero ninguna había definido un campo de aplicación tan amplio.
Concretamente, un chatbot no puede producir contenido que dé a entender que es «humano», que está vivo o que siente emociones humanas, precisa la ley. No debe presentar sus intercambios con el joven usuario como una «relación personal» o «profesional», ni asumir «un papel de referente». El texto que genera tampoco debe presentarse como una «opinión personal», y se le prohíbe hacer preguntas sobre los sentimientos y el estado psicológico del usuario.
Una ley con un «lenguaje vago»
Tech »: « NYC », el órgano de representación del sector tecnológico neoyorquino, criticó el texto. La organización señala en particular su «lenguaje vago», que «plantea serias dudas» en relación con la Primera Enmienda de la Constitución estadounidense, relativa a la libertad de expresión.
«Garantizar la seguridad de los niños en línea no debería implicar privarlos de herramientas de aprendizaje y preparación para una carrera profesional», argumentó Tech:NYC. Según la organización, el texto «podría restringir el acceso a tutorías, ayuda con los deberes, asistentes de programación y plataformas esenciales de cara a una carrera profesional, al tiempo que aumenta los riesgos de explotación de datos relacionados con niños».
Consultadas por la AFP, Anthropic y Google no respondieron de inmediato. OpenAI remitió a la reacción de Tech:NYC.
Por el contrario, la asociación Common Sense Media, dedicada a informar a los padres sobre productos mediáticos y tecnológicos destinados al público joven, elogió lo que llama «la ley de seguridad de la IA para niños más sólida del país». «Nueva York ha hecho historia» con este texto, insistió Jim Steyer, el director de esta organización, que también se dedica a proteger a los menores contra los efectos negativos de la tecnología.
