Правительство США запретило передовую ИИ-модель Fable 5 от Anthropic

Anthropic заявила, что получила от властей США директиву об ограничении доступа к моделям Fable 5 и Mythos 5. Формально запрет касается иностранных граждан, включая сотрудников компании, находящихся как за пределами США, так и внутри страны. Но на практике, по словам Anthropic, выполнить требование выборочно невозможно, поэтому компания вынуждена отключить обе модели для всех клиентов. Остальные модели Anthropic, как утверждает компания, затронуты не будут.

Поводом для вмешательства, по версии Anthropic, стали опасения правительства по поводу возможного обхода защитных механизмов Fable 5. Компания утверждает, что ей показали демонстрацию узкого метода «джейлбрейка», с помощью которого удалось выявить небольшое число уже известных и незначительных уязвимостей. В Anthropic считают, что аналогичные результаты доступны и другим публичным моделям без специального обхода защит.

Главный конфликт здесь не только технический, но и регуляторный. Anthropic признаёт, что абсолютной защиты от джейлбрейков сегодня, вероятно, не существует ни у одного разработчика ИИ. Поэтому компания делала ставку на многоуровневую оборону: жёсткие фильтры, мониторинг, ред-тесты и обязательное 30-дневное хранение данных пользователей Fable для расследования возможных атак. По ее словам, перед запуском модель проверяли внутренние команды, сторонние организации, правительство США и британский AI Safety Institute.

Anthropic подчёркивает, что выполняет юридическое требование, но не согласна с логикой решения. Компания предупреждает: если любой узкий способ обхода защиты станет основанием для фактического отзыва коммерческой модели, это может остановить развёртывание новых передовых моделей.

На момент написания материала в Claude AI и API у всех пользователей пропал доступ к Fable 5. Несмотря на ложные срабатывания защитных механизмов, эта ИИ-модель получала положительные отзывы пользователей.

Источник: Anthropic