Губернатор штата Нью-Йорк Кэти Хоукул в среду подписала закон, запрещающий несовершеннолетним общаться с компаньонами на основе ИИ. Документ также обязывает операторов чат-ботов проверять возраст пользователей и блокировать определенные типы взаимодействий, если установлено, что пользователь является несовершеннолетним.
Согласно тексту закона, принятое определение применимо к большинству генеративных ИИ-чат-ботов, представленных на рынке. Несколько штатов уже приняли законы, регулирующие использование ИИ-компаньонов несовершеннолетними, например, Калифорния, но ни один из них не определял столь широкую сферу применения.
Конкретно, чат-бот не может генерировать контент, который дает понять, что он является «человеком», живым существом или испытывает человеческие чувства, уточняется в законе. Он не должен представлять свое общение с молодым пользователем как «личные» или «профессиональные отношения», а также брать на себя «роль наставника». Сгенерированный им текст также не должен подаваться как «личное мнение», и ему запрещено задавать вопросы о чувствах и психологическом состоянии пользователя.
Закон с «расплывчатыми формулировками»
Организация Tech:NYC, представляющая интересы технологического сектора Нью-Йорка, раскритиковала документ. В частности, организация указывает на его «расплывчатые формулировки», которые «вызывают серьезные вопросы» с точки зрения Первой поправки к Конституции США, касающейся свободы слова.
«Обеспечение безопасности детей в интернете не должно подразумевать лишение их инструментов для обучения и подготовки к профессиональной карьере», — заявила Tech:NYC. По мнению организации, закон «может ограничить доступ к репетиторству, помощи с домашними заданиями, инструментам для программирования и платформам, важным для карьеры, одновременно увеличивая риски эксплуатации данных, связанных с детьми».
На запрос AFP компании Anthropic и Google не дали немедленного ответа. OpenAI сослалась на реакцию Tech:NYC.
Напротив, ассоциация Common Sense Media, занимающаяся информированием родителей о медийных и технологических продуктах для молодежи, приветствовала то, что она называет «самым строгим в стране законом о безопасности ИИ для детей». «Нью-Йорк вошел в историю» с этим законом, подчеркнул Джим Штайер, директор этой организации, которая также занимается защитой несовершеннолетних от негативного влияния технологий.
