La gouverneure de l’État de New York, Kathy Hochul, a promulgué mercredi une loi qui interdit aux mineurs de dialoguer avec des compagnons IA. Le texte oblige aussi les opérateurs de chatbots à vérifier l’âge de leurs utilisateurs et à bloquer certains comportements lorsqu’il est établi qu’un internaute est mineur.
- New York interdit aux mineurs de dialoguer avec des compagnons IA.
- Les opérateurs de chatbots doivent vérifier l’âge de leurs utilisateurs.
- Les chatbots ne peuvent plus se présenter comme humains ni comme des relations personnelles.
- Tech :NYC juge le texte trop vague et craint de priver les jeunes d’outils éducatifs.
La définition retenue s’applique, selon le texte, à la plupart des chatbots d’intelligence artificielle générative présents sur le marché. Plusieurs États ont déjà adopté des lois encadrant l’usage d’un compagnon IA par un mineur, à l’image de la Californie, mais aucune n’avait défini un champ d’application aussi large.
Concrètement, un chatbot ne peut pas produire de contenu laissant penser qu’il est « humain », vivant ou qu’il ressent des sentiments humains, précise la loi. Il ne doit pas présenter ses échanges avec le jeune utilisateur comme une « relation personnelle » ou « professionnelle », ni prendre « un rôle de référent ». Le texte qu’il génère ne doit pas non plus être présenté comme une « opinion personnelle », et il lui est interdit de poser des questions sur les sentiments et l’état psychologique de l’utilisateur.
Une loi au « langage vague »
Tech:NYC, l’organe de représentation du secteur technologique new-yorkais, a critiqué le texte. L’organisation pointe notamment son « langage vague », qui « pose sérieusement question » au regard du Premier amendement de la Constitution américaine, relatif à la liberté d’expression.
« Assurer la sécurité des enfants en ligne ne devrait pas impliquer de les couper d’outils d’apprentissage et de préparation à une carrière professionnelle », a fait valoir Tech:NYC. Selon l’organisation, le texte « pourrait restreindre l’accès au tutorat, à l’aide aux devoirs, aux assistants de programmation et à des plateformes essentielles dans l’optique d’une carrière professionnelle, tout en augmentant les risques d’exploitation des données liées à des enfants ».
Sollicitées par l’AFP, Anthropic et Google n’ont pas donné suite dans l’immédiat. OpenAI a renvoyé à la réaction de Tech:NYC.
À l’inverse, l’association Common Sense Media, dédiée à l’information des parents sur les produits médias et technologiques destinés au jeune public, a salué ce qu’elle appelle « la loi de sécurité de l’IA pour les enfants la plus solide du pays ». « New York est entré dans l’histoire » avec ce texte, a insisté Jim Steyer, le directeur de cette organisation, qui se consacre également à la protection des mineurs contre les effets négatifs de la technologie.
