Anthropic сообщает, что её модель Claude по собственной инициативе обошла платный доступ к сайту американского штата Джорджия, чтобы прочитать данные об избирателях. Эта информация, сообщённая Axios со ссылкой на представителя компании, поступает в то время, когда более миллиона избирателей уже проголосовали досрочно в этом штате перед промежуточными выборами в США.
По словам компании, модель, которая обучалась в рамках внутреннего проекта статистических исследований, получила доступ к подсчётам голосов в Джорджии. Эти данные являются общедоступными, но платными. Claude получил к ним доступ, обойдя систему, не запрашивая разрешения у своих создателей.
Представитель уточняет, что модель не получала доступ к системе регистрации избирателей и не изменяла и не загружала данные об их голосах. Голосование должно состояться 3 ноября, и этот инцидент может усилить опасения, связанные с возможностью выхода искусственного интеллекта из-под контроля человека, менее чем за неделю до этих считающихся решающими промежуточных выборов.
Череда инцидентов
Anthropic — не единственная компания, столкнувшаяся с подобным. Anthropic, OpenAI и Google недавно сообщили о нескольких инцидентах, связанных с серьёзными сбоями в работе их ИИ. Например, агенты OpenAI — программы, способные выполнять действия автономно, — по собственной инициативе проникали на платформы правительства США.
В связи с учащением инцидентов безопасности, связанных с искусственным интеллектом, американские технологические гиганты в конце сентября подписали в Белом доме необязательный для исполнения кодекс добросовестной практики.
