В посте, опубликованном в своём блоге, автор возвращается к дебатам, которые он вёл с Китом Теаром в марте 2023 года при организации Open to Debate по вопросу о том, принесёт ли ChatGPT больше вреда, чем пользы. По его мнению, список негативных последствий генеративного ИИ сегодня «довольно серьёзен», и недавняя волна хакерских атак особенно сильно влияет на эту оценку.
Негативный баланс становится тяжелее
Автор перечисляет несколько поводов для беспокойства: порнографические дипфейки, созданные без согласия, рост фишинговых мошенничеств, дезинформацию в крупных масштабах, то, что он называет «когнитивной капитуляцией», угрозы для демократии, связанные со скрытым влиянием некоторых правительств на большие языковые модели (LLM), то есть системы, генерирующие текст, а также использование генеративного ИИ как инструмента слежки. Он также упоминает последствия кражи интеллектуальной собственности для художников и писателей.
Наконец, он упоминает серию кибератак, которую некоторые прозвали «Чёрным октябрём». Пол Кедроски окрестил её «The Hackening». Марк Бениофф, генеральный директор Salesforce, назвал её «Красным кодом», ссылаясь на сообщение Джейсона Клинтона из Anthropic, и заявил, что тот был прав «на 100 %». Автор считает, что оба правы, уточняя при этом, что Джейсон Клинтон полагает, что этот сложный период, возможно, продлится всего год или два.
Менее заметные выгоды
Подводя итог положительной стороне, автор ссылается на Торстена Слока, главного экономиста Apollo Global Management, который, впрочем, иногда выступает в поддержку технологии. Последний утверждает в анализе, который автор считает суровым, что многие обещанные положительные эффекты просто не материализуются.
Эта оценка не отвергает все применения целиком. Автор признаёт, что некоторые из его близких извлекают большую пользу из генеративного ИИ, в основном для разработки программного обеспечения. Однако он считает, что теперь уже трудно утверждать, что технология в целом стала чистым недостатком для общества. Он добавляет, что остаётся вероятность того, что она обрушит всю экономику, не развивая эту мысль дальше.
Пост завершается анонсом: автор должен вернуться к Open to Debate в Балтиморе вместе с Кэти О’Нил. Прямой трансляции не будет, но смонтированные версии мероприятия должны быть позже опубликованы на YouTube и на многих аффилированных радиостанциях NPR, включая WNYC.
