The AI / news

OpenAI « : » член совета « , уволивший Сэма Олтмана, считает, что »все еще нельзя доверять руководителям ИИ»

OpenAI ":" член совета ", уволивший Сэма Олтмана, считает, что"все еще нельзя доверять руководителям ИИ»
3 мин чтения

Хелен Тоунер, исполнительный директор Центра безопасности и новых технологий (CSET) Джорджтаунского университета и бывший член совета директоров OpenAI, считает, что политикам нужна надежная информация об искусственном интеллекте. В интервью ведущему Нилаю Пателю для подкаста Decoder The Verge она рассказала об управлении лабораториями, концепции ИИИ и соперничестве с Китаем.

CSET, существующий с 2019 года и насчитывающий около 50 сотрудников, позиционирует себя как аналитический центр, не являющийся академическим. Он выпускает объемные отчеты, а также краткие брифинги для занятых политиков. По словам Хелен Тоунер, разрыв между Вашингтоном и Кремниевой долиной реален, но он не сводится к вопросу экспертизы: сотрудники Конгресса, по ее мнению, «обычно умнее, чем принято считать».

Прецедент с OpenAI

Хелен Тоунер была одной из четырех членов совета директоров OpenAI, проголосовавших за увольнение Сэма Олтмана. Этот эпизод, иногда называемый «the blip», завершился возвращением Сэма Олтмана на пост CEO, уходом Хелен Тоунер и формированием нового совета. С тех пор OpenAI была полностью реструктурирована.

Некоммерческий совет должен был следить за тем, чтобы компания не жертвовала своей целью создания безопасного ИИ ради прибыли и роста. По словам ведущего, когда совет попытался задействовать этот рычаг, этот механизм подотчетности не сработал. Таким образом, Хелен Тоунер, по ее мнению, увидела, что происходит, когда обязательства по безопасности вступают в противоречие с коммерческими стимулами. Она считает, что будущее не должно зависеть от надежности одного человека: если бы это было так, «мы были бы в большой беде».

ИИИ, самоулучшение и сингулярность

На вопрос об ИИИ, или искусственном интеллекте общего назначения, Хелен Тоунер заявляет, что не утверждает, будто этот рубеж достигнут. Она говорит скорее о «размытом облаке» определений, некоторые из которых уже преодолены. Другие, например, осознающий ИИ, способный на все, что может человек, остаются далекими. Она посвятила этому пост в своем Substack.

Она также описывает идею, широко распространенную в Кремниевой долине: рекурсивное самоулучшение, или RSI (recursive self-improvement), то есть возможность того, что ИИ будут участвовать в создании более совершенных систем, вплоть до сверхразума. По ее словам, компании уже используют ИИ в растущей части своих исследований и разработок, не доверяя ему весь процесс. Она цитирует Демиса Хассабиса из Google, который заявил, что «мы находимся у подножия сингулярности».

О концепции согласования, направленной на приведение моделей в соответствие с намерениями их создателей, Хелен Тоунер считает этот термин слишком широким. Наиболее последовательная версия, по ее мнению, заключается в том, чтобы ИИ делал то, чего хочет пользователь. Она считает, что эта задача «не на верном пути» к решению. Однако она подчеркивает, что эти вопросы относятся к научным исследованиям, требующим времени.

Что касается регулирования, она заявляет, что больше поддерживает правила, нацеленные на самые передовые системы, чем закон, охватывающий весь ИИ. Она упоминает Калифорнию, Нью-Йорк и Иллинойс, принявшие почти идентичные законы, и отмечает, что эта динамика может продолжиться на уровне штатов.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x