Еще один крупный специалист по ИИ уволился из-за опасности апокалипсиса

Исследователь из Anthropic Джейкоб Коксон объявил об уходе из ИИ-индустрии и решении заняться изучением поэзии в связи с опасениями из-за того, что гонка компаний, развивающих нейросети, приближает мир к «точке невозврата» и, по его словам, может стать причиной апокалиптического развития событий уже к концу следующего года. Об этом пишет Wall Street Journal. По мнению 27-летнего математика, о котором идет речь, уже в 2027-м саморазвивающиеся модели искусственного интеллекта «могут выйти из-под контроля и уничтожить человечество». В начале года специалист по обучению ИИ-моделей перешел из OpenAI в Anthropiс, привлеченный репутацией компании в области безопасности ИИ, но теперь, сохраняя уважение к ее подходу к этой проблеме, пришел к выводу, что ни один частный представитель индустрии не сможет найти решение без внешнего регулирования или скоординированного замедления развития, отмечается в материале. Таким образом, Коксон стал еще одним крупным представителем отрасли, покинувшим ее с предупреждением о том, что «мир в опасности». До этого с подобными заявлениями выступил, например, увольняющийся глава исследовательского подразделения по безопасности ИИ Мринанк Шарма. Также недавно гендиректор создавшей ChatGPT компании OpenAI Сэм Альтман заявил, что в гонке технологий искусственного интеллекта мир достиг точки сингулярности и всех ждет «нечто невероятное, чрезвычайно позитивное и потрясающее». Говоря о технологической сингулярности, обычно имеют в виду гипотезу, согласно которой в определенный момент технологическое развитие станет неуправляемым и необратимым, что приведет к серьезным изменениям цивилизации, то есть, как полагают скептики, фактически речь идет о приближении будущего из фильмов о «Терминаторе», где суперкомпьютер «Скайнет» обрел самосознание и пришел к выводу, что главной угрозой для него является человечество. «Я намерен сделать все возможное, чтобы противостоять таким прогнозам и не допустить их воплощения в жизнь», — сообщил на фоне этого Альтман, не уточнив, что он планирует предпринимать.