Anthropic призвала замедлить развитие искусственного интеллекта

Разработчик языковой модели Claude предупредил о рисках стремительного развития ИИ и призвал отрасль замедлить разработки до появления эффективных механизмов регулирования. Однако часть экспертов считает, что такие заявления могут быть связаны не только с вопросами безопасности, но и с подготовкой компании к выходу на биржу

Компания-лидер в области ИИ призывает замедлить разработку искусственного интеллекта. Американская Anthropic, разработчик большой языковой модели Claude, в своем сообщении предупреждает, что ИИ-системы слишком быстро развиваются и в скором времени смогут даже совершенствоваться без участия человека. Компания отмечает, что все это несет значительные риски. Но эксперты относятся к этому с долей скепсиса, так как, возможно, для Anthropic это все не более чем пиар-ход.

Сооснователь Anthropic Джек Кларк и глава внутреннего исследовательского института компании Марина Фаваро в своей статье говорят о «рекурсивном самосовершенствовании». Это когда искусственный интеллект может совершенствовать сам себя, разрабатывать собственные новые модели автономно, без участия человека. Пока что до такой степени ИИ еще не развит, но, как указывает Anthropic, если это произойдет в скором времени, то мир к этому не готов.

По мнению компании, самосовершенствование ИИ — это хорошо. Но на данном этапе велик риск того, что человечество утратит над этим контроль. Поэтому следует притормозить разработки, пока не будут созданы соответствующие учреждения и институты, которые начнут все это администрировать.

Сразу же вспоминаются различные научно-фантастические фильмы, сюжет которых крутился вокруг похожей темы, по типу «Терминатора». Но Anthropic все-таки говорит не о восстании машин, а о социальных последствиях. В том числе, например, о переформатировании рынка труда. Ранее об этом же говорил и сам глава Anthropic Дарио Амодей: он предупреждал, что из-за внедрения ИИ половина рабочих мест для начинающих специалистов может просто исчезнуть в течение ближайших лет.

В связи со всеми этими рисками Anthropic призывает своих коллег, а точнее конкурентов, замедлиться. Компания предлагает заключить соответствующее соглашение, напоминая, что у человечества есть схожий опыт — Договор о ликвидации ракет средней и меньшей дальности. То есть, по сути, Anthropic считает проблему искусственного интеллекта сопоставимой с ядерным оружием.

Но призыв американской компании вряд ли будет услышан, хотя регулирование сектора действительно необходимо, говорит основатель студии ИИ Fokina.AI Дарья Фокина:

Дарья Фокина
cEO студии искусственного интеллекта Fokina.AI
«Это скорее сигнал, что гонка стала слишком быстрой: модели становятся мощнее, дешевле и уже начинают выполнять реальные бизнес-процессы. Остановить развитие ИИ глобально практически невозможно. США, Китай, Европа, корпорации и государства продолжат инвестировать, потому что это вопрос конкурентоспособности и безопасности. Но регулирование точно нужно, но не как запрет, а как правила применения: какие задачи можно отдавать ИИ, где человек должен оставаться в контуре, кто отвечает за ошибку, как защищаются данные. И реальные риски — это не восстание машин, а перестройка рынка труда, ошибки в критичных решениях, киберугрозы, зависимость бизнеса от нескольких ИИ-платформ».

Но верить в исключительное благородство компании-лидера в своей области было бы как минимум иррационально. В мае стоимость Anthropic оценили примерно в 900 млрд долларов, по этому показателю она обошла своего ближайшего конкурента — OpenAI, разработчика ChatGPT. В результате Anthropic стала лидером рынка.

И буквально в преддверии публикации своей статьи о рисках, связанных с развитием ИИ, Anthropic подала заявку на IPO. Так что опрошенные The Wall Street Journal аналитики считают, что все это не более чем маркетинговый ход перед выходом на биржу.

С этим согласен специалист в области ИИ, профессор Высшая техническая школа Вюрцбурга-Швайнфурта в немецком городе Вюрцбург Иван Ямщиков:

Иван Ямщиков
специалист в области ИИ, профессор Высшая техническая школа Вюрцбурга-Швайнфурта в немецком городе Вюрцбург
«Конечно же, в контексте IPO для них такой документ критически важен. Мы видим три компании, собирающиеся на IPO: SpaceX, Anthropic и OpenAI. И, кажется, этот ход Anthropic, среди прочего, — попытка перехватить нарратив у SpaceX. Важно насчет этого института нераспространения понимать: без какого-то меморандума со стороны китайских производителей моделей любые такого рода заявления не имеют под собой ничего, потому что именно китайские производители моделей сейчас играют ключевую роль в демократизации доступа к искусственному интеллекту и выкладывают модели в open source».

Эксперты также считают, что если ИИ научится совершенствовать сам себя, то никакой катастрофы не случится. Просто потому, что для реального улучшения искусственному интеллекту нужно на чем-то учиться: нужны данные, нужен человеческий опыт. Поэтому никаких «Терминаторов» не ожидается. По крайней мере, в ближайшее время.