Bank of America просит своих клиентов никому не сообщать свои учетные данные и пароли, включая инструменты или агентов с искусственным интеллектом (ИИ), которые предлагают действовать от их имени. Это сообщение, отправленное по электронной почте всей клиентской базе под заголовком «Защитите свои финансы в мире ИИ», отражает более широкую озабоченность банковского сектора по поводу ИИ-агентов — программ, способных выполнять задачи вместо пользователя.
Феномен связан с растущей популярностью автономных ИИ-ассистентов. Тенденция позволять этим ассистентам совершать платежи от имени клиента также набирает обороты, что создает серьезную регуляторную головоломку для банковских провайдеров. ИИ-агенты записывают все, что им говорит пользователь, включая высокочувствительную информацию, которая может быть раскрыта в случае уязвимости безопасности.
Крупные банки ограничивают доступ сторонних агентов
Крупные американские банки заблокировали доступ сторонним ИИ-агентам к счетам своих клиентов и возможность совершать транзакции. Это решение последовало за отчетом, указывающим, что агенты получали доступ к банковским счетам и проводили операции, не учитывая инструкции пользователей. Сектор все больше беспокоится, что сложные агенты могут навредить банковской системе и институтам, управляющим частным капиталом.
Morgan Stanley заблокировал доступ к своим платформам для сторонних агентов, хотя случаев неавторизованных или вредоносных ИИ-агентов не наблюдалось. Со своей стороны, Джейми Даймон, генеральный директор JPMorgan Chase, заявил, что крупнейший американский кредитор разрабатывает инструменты для управления рисками, связанными с ИИ-агентами: «Мы не позволим любому внешнему агенту войти в компанию, потому что это просто слишком рискованно для клиентов и для JPMorgan».
Автоматические покупки и ответственность клиента
Поручение покупки агенту имеет очевидное преимущество: если цена товара падает или он снова появляется в наличии после распродажи, агент может купить его, чтобы пользователь не упустил возможность. Однако такие платежи могут быть помечены финансовыми учреждениями как несанкционированные, что может привести к блокировке счетов клиентов. Также бывает, что агент покупает товар, который пользователь не хотел, вынуждая некоторых клиентов бороться со своим банком за возврат средств.
В таких случаях ответственность в значительной степени лежит на клиенте. Если бы у агента не было его банковских реквизитов, покупка не состоялась бы. Согласно статье, лучший способ оставаться в безопасности — рассматривать ИИ-ассистента как незнакомца, способного сделать почти мгновенно все, что его попросят, но не всегда так, как хочется. Каждый разговор с этим незнакомцем, кроме того, используется для обучения других.
Случай с ассистентом Muse от Meta
В середине октября 2026 года новый ИИ-ассистент Muse от Meta был воспринят как «паразит» из-за опасений относительно конфиденциальности и безопасности персональных данных. Для оптимальной работы ему требовался «интрузивный доступ» к сообщениям, календарям и банковским счетам, что позволяло компании собирать огромные объемы интимной информации. Недавние инциденты показали, что приложение может действовать автономно без явного одобрения пользователей. По мнению некоторых критиков, Muse позволял Meta монетизировать психологическое профилирование пользователей в интересах рекламодателей.
