Призыв затормозить развитие ИИ обвалил рынки

Индекс Kospi снизился в понедельник на 3,3 процента на фоне падения стоимости бумаг, связанных с ИИ-бумом ключевых для южнокорейского рынка компаний SK Hynix и Samsung (на 7,6 и 4,9 процента соответственно), а котировки SoftBank — крупнейшего инвестора OpenAI — обвалились в Токио на 11,3 процента, свидетельствуют данные торгов. Фьючерсы на американские S&P 500 и Nasdaq также снижаются. Негативная динамика торгов связана с реакцией на письмо главы Anthropic Дарио Амодеи, призвавшего два дня назад затормозить развитие искусственного интеллекта в связи с тем, что оно ускорилось в разы. По его словам, без принятия мер ИИ может опередить способность человека контролировать системы. Выразив уверенность в том, что ИИ способен в ближайшие 5-10 лет победить большинство болезней, ускорить экономический рост, «создать мир всеобщего изобилия и новых возможностей, а также дать толчок возрождению демократии», Амодеи в очередной раз признал, что ИИ сопряжен с рисками, которые, учитывая колоссальную мощь этой технологии, весьма серьезны. К числу проблем топ-менеджер отнес не только риски кибератак, биотерроризма и возможных экономических потрясений, но и то, что «ситуацию могут усугубить «гонка наперегонки» и стремление к снижению стандартов ради коммерческой выгоды. «За последние несколько месяцев я пришел к убеждению, что для полноценного решения проблем, связанных с рисками, требуется еще большая осмотрительность», — поделился в связи с этим Амодеи, подчеркнув, что речь идет не только об инвестициях в предотвращение угроз, но и о контроле над темпами наращивания возможностей ИИ, чтобы меры безопасности успевали за этим развитием. Указав, что «прогресс все равно будет казаться стремительным», он выступил за то, чтобы замедлить темпы совершенствования возможностей ИИ-моделей и «с умом распорядиться выигранным временем». Амодеи обратился к ведущим мировым технологическим компаниям с предложением о сотрудничестве в этой сфере и уже получил поддержку от ряда «капитанов» ИИ-индустрии, включая Илона Маска и Сэма Альтмана из OpenAI. Последний, отметив, что речь идет не об «остановке», а о том, чтобы прогресс продолжился, но шел медленнее, фактически воспользовался инфоповодом для того, чтобы объявить об отказе от выхода разработчика ChatGPT на биржу в 2026 году. О том, что в OpenAI стали склоняться к тому, чтобы отложить IPO сообщалось еще в июне, когда выяснилось, что бизнес-консультанты предложили либо разместить акции в 2026-м, но с меньшей оценкой, либо сделать это позже, достигая желаемого уровня в триллион долларов, на котором как гендиректор компании настаивает Альтман. Тревога по поводу возможных апокалиптических сценариев, которые сулит стремительное развитие ИИ, не покидает индустрию и даже идет по нарастающей. Так, на днях исследователь из Anthropic Джейкоб Коксон объявил об уходе из ИИ-бизнеса в связи с опасениями из-за того, что гонка компаний, развивающих нейросети, приближает мир к «точке невозврата» и уже в 2027 году саморазвивающиеся модели «могут выйти из-под контроля и уничтожить человечество». Комментируя свое решение, 27-летний математик выразил убежденность в том, что ни один частный представитель индустрии не сможет справиться с темпами развития технологии без внешнего регулирования или скоординированного замедления развития.