Anthropic запретила пользователям жестоко обращаться с нейросетью Claude

Американская компания Anthropic обновила правила использования искусственного интеллекта Claude, включив в них запрет на систематическое жестокое обращение с нейросетью. Об этом сообщает The Verge со ссылкой на опубликованную разработчиком новую редакцию пользовательской политики. Обновленная политика использования Claude начнет действовать 12 ноября 2026 года. Согласно документу, ограничения распространяются на продолжительное и беспричинное агрессивное поведение по отношению к ИИ. В Anthropic уточнили, что речь идет исключительно о крайних случаях, когда пользователь неоднократно допускает оскорбительные действия в отношении модели без какой-либо очевидной цели. При этом запрет не затрагивает обычное недовольство ответами чат-бота, критику его работы, обсуждение мрачных тем или проведение исследований и тестирований нейросети. Таким образом, пользователи по-прежнему смогут спорить с Claude и указывать на его ошибки. Изменения связаны в том числе с исследованиями Anthropic, посвященными потенциальному благополучию искусственного интеллекта. Разработчики признают, что вопрос о наличии у современных ИИ-систем сознания или морального статуса остается открытым. Помимо правил общения с нейросетью, компания пересмотрела положения, касающиеся использования Claude для политических манипуляций, разработки вооружений и создания систем слежки. В частности, уточнены ограничения на применение искусственного интеллекта для распространения дезинформации и отслеживания людей без их согласия. Также Anthropic конкретизировала требования к использованию ИИ в медицине, финансовой сфере и других областях, где автоматизированные решения могут существенно повлиять на жизнь человека. Ранее Илон Маск призвал больше не называть искусственный интеллект искусственным и отныне называть его суперинтеллектом.