авторы: Мринмай Дей; Джеффри Дастин и Крис Томас
- Краткие сведения
- Компании
- По словам Anthropic, решение США основано на «потенциальном риске побега из тюрьмы»
- Anthropic не согласна с решением США приостановить доступ к играм Fable 5 и Mythos 5
- Правительство США внесло Anthropic в черный список подрядчиков Пентагона после отдельного спора.
12 июня (Рейтер). В пятницу компания Anthropic заявила, что «внезапно отключит» свои самые продвинутые модели искусственного интеллекта для всех пользователей после того, как правительство США приказало приостановить доступ к моделям для иностранных граждан, сославшись на соображения национальной безопасности. Компания получила директиву об экспортном контроле, предписывающую приостановить доступ к играм Fable 5 и Mythos 5 для всех иностранных граждан без указания конкретных причин, связанных с национальной безопасностью, говорится в заявлении Anthropic.
По информации Anthropic, правительство считает, что существует способ обойти, или «взломать», защиту, которая не позволит использовать Fable 5 для выявления уязвимостей в программном обеспечении, сообщили в компании. Приказ был отдан как раз в тот момент, когда предыдущий спор между представителями администрации Трампа и компанией Anthropic, готовящейся к выходу на IPO, начал ослабевать в некоторых частях правительства США. Отношения компании Anthropic с правительством испортились в этом году после того, как она отказалась разрешить вооруженным силам США использовать свои модели искусственного интеллекта для внутреннего наблюдения и создания полностью автономных систем вооружения. В ответ правительство внесло Anthropic в черный список поставщиков, который вступит в силу позднее в этом году. Эта мера также свидетельствует о серьезном усилении усилий США по ограничению возможностей искусственного интеллекта у иностранных противников. В течение многих лет экспортный контроль США был направлен на чипы и инструменты, которые обеспечивают работу ИИ, а не на ограничение доступа иностранных государств к самому искусственному интеллекту. Компания Anthropic заявила, что правительство предоставило ей лишь «устные доказательства потенциального локального, не всеобщего побега из тюрьмы». «Мы не согласны с тем, что обнаружение потенциально уязвимого устройства должно стать поводом для отзыва коммерческой модели, которой пользуются сотни миллионов человек», — заявили в компании. Директива правительства и ответ компании Anthropic свидетельствуют о растущей напряженности в отношениях между разработчиками ИИ и регулирующими органами по поводу оценки рисков, связанных с так называемыми «взломами» — методами обхода защитных механизмов моделей.
Еще в среду компания Anthropic призывала к усилению контроля над искусственным интеллектом в США, в том числе к возможности блокировать модели с неприемлемыми рисками. Однако, по ее мнению, действия правительства в пятницу не соответствовали принципам справедливого и основанного на фактах регулирования. Директор по информационным технологиям Пентагона Кирстен Дэвис написала в соцсети X, что Министерство обороны поддерживает приоритет национальной безопасности. «Некоторые вещи просто важнее циклов получения прибыли, кликбейта и оценки стоимости до выхода на IPO. Америка прежде всего. Всегда», — сказал Дэвис.
В прошлом месяце компания Anthropic подала заявку на проведение первичного публичного размещения акций в США, опередив своего конкурента OpenAI в гонке за выход на публичные рынки.
СЛОЖНЫЕ КИБАТАКИ
Ранее на этой неделе компания Anthropic представила модель искусственного интеллекта под названием Claude Fable 5, которая представляет собой новый уровень возможностей, названный «классом Mythos». Модель имеет ограничения, запрещающие ее использование в таких рискованных областях, как кибербезопасность, которые, по мнению некоторых пользователей, являются «чрезмерно строгими», как заявили в Anthropic.
По мнению экспертов, в руках злоумышленников модели Mythos могут значительно ускорить проведение сложных кибератак, особенно в таких отраслях, как банковское дело, где используются сложные, взаимосвязанные и зачастую устаревшие технологические системы.
Компания Anthropic заявила, что, в частности, сотрудничала с правительством США по вопросам безопасности перед запуском Fable и что модели от конкурирующих поставщиков ИИ демонстрируют аналогичную способность выявлять незначительные ошибки в коде. «В результате этого приказа мы вынуждены в срочном порядке отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований. Доступ ко всем остальным моделям Anthropic не будет ограничен», — заявили в Anthropic. В Anthropic заявили, что, по их мнению, имело место «недопонимание» и что компания работает над тем, чтобы как можно скорее восстановить доступ к моделям. «Мы считаем, что если бы этот стандарт применялся во всей отрасли, то это фактически привело бы к прекращению разработки новых моделей всеми поставщиками передовых моделей», — заявили в компании.
Дин Болл — бывший сотрудник Белого дома, участвовавший в разработке Плана действий в области искусственного интеллекта, опубликованного администрацией летом 2025 года, написал в соцсети X, что, согласно приказу, всем «неамериканцам» будет запрещено использовать новейшие модели Anthropic, в том числе те, что разработаны в США. «Это значит, что для использования моделей Anthropic вам придется подтвердить свое гражданство», — сказал Болл.
Несколько ключевых сотрудников Anthropic, в том числе соучредитель Крис Олах, исследователь в области искусственного интеллекта Андрей Карпати и философ Аманда Аскелл, родились за пределами США. Reuters не удалось выяснить их гражданство, а представитель Anthropic отказался комментировать вопрос о том, лишатся ли эти сотрудники доступа к моделям искусственного интеллекта.
Материал подготовили Ананья Паликар в Бангалоре, Мринмай Дей и Крис Томас в Мехико, Джеффри Дастин в Сан-Франциско, Дэвид Шепардсон; под редакцией Эдмунда Кламанна и Тома Хога.
Наши стандарты: Принципы доверия Thomson Reuters.