Правительство США запретило передовую ИИ-модель Fable 5 от Anthropic

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Anthropic заявила, что получила от властей США директиву об ограничении доступа к моделям Fable 5 и Mythos 5. Формально запрет касается иностранных граждан, включая сотрудников компании, находящихся как за пределами США, так и внутри страны. Но на практике, по словам Anthropic, выполнить требование выборочно невозможно, поэтому компания вынуждена отключить обе модели для всех клиентов. Остальные модели Anthropic, как утверждает компания, затронуты не будут.

Сгенерировано ИИ
Сгенерировано ИИ
Автор: ChatGPT Источник: chatgpt.com

Поводом для вмешательства, по версии Anthropic, стали опасения правительства по поводу возможного обхода защитных механизмов Fable 5. Компания утверждает, что ей показали демонстрацию узкого метода «джейлбрейка», с помощью которого удалось выявить небольшое число уже известных и незначительных уязвимостей. В Anthropic считают, что аналогичные результаты доступны и другим публичным моделям без специального обхода защит.

Главный конфликт здесь не только технический, но и регуляторный. Anthropic признаёт, что абсолютной защиты от джейлбрейков сегодня, вероятно, не существует ни у одного разработчика ИИ. Поэтому компания делала ставку на многоуровневую оборону: жёсткие фильтры, мониторинг, ред-тесты и обязательное 30-дневное хранение данных пользователей Fable для расследования возможных атак. По ее словам, перед запуском модель проверяли внутренние команды, сторонние организации, правительство США и британский AI Safety Institute.

Anthropic подчёркивает, что выполняет юридическое требование, но не согласна с логикой решения. Компания предупреждает: если любой узкий способ обхода защиты станет основанием для фактического отзыва коммерческой модели, это может остановить развёртывание новых передовых моделей.

На момент написания материала в Claude AI и API у всех пользователей пропал доступ к Fable 5. Несмотря на ложные срабатывания защитных механизмов, эта ИИ-модель получала положительные отзывы пользователей.

Источник: Anthropic

Автор не входит в состав редакции iXBT.com (подробнее »)

Сейчас на главной

Новости

Публикации

Как увеличили емкость и срок службы литиевых батарей: отказ от графита дал рекордные 500 Вт·ч/кг

Современные литий-ионные аккумуляторы, которые питают смартфоны, ноутбуки и электромобили, подошли к пределу своих физических возможностей. Лучшие серийные образцы способны запасать около 250-300...

Обзор блока питания ID-COOLING FP-1000 — первая платина

Компания ID-COOLING известна, в первую очередь, своими системами охлаждения, в начале года они расшились и на сегмент компьютерных корпусов, а летом дело дошло и до блоков питания. Причем...

Обзор ILIFE H90 Pro: вертикальный пылесос для тех, кто не любит вытряхивать пыль

Когда я выбирал вертикальный пылесос, главным критерием было не наличие максимального количества функций, а удобство ежедневного использования. ILIFE H90 Pro привлёк внимание именно станцией...

Возвращаем YouTube на ПК и немного решаем проблемы с замедлением

Сервис YouTube на территории России, официально, давно перестал работать, но множество пользователей нашли обходные пути и продолжают им пользоваться. Однако в последние несколько дней сервис начал...

Хуанг пролюбил свой пост в Nvidia, а также возврат IPO Антропика: главное за неделю

Самые интересные новости финансов и технологий в России и мире за неделю: массовый сбой у Microsoft и американских аэропортов, SpaceX впервые поймал ракету роборукой, оценка Anthropic перед IPO...

Ученые создали «живые» искусственные мышцы для гуманоидных роботов: они играют на пианино и двигают глазами

Мышечная система человека решает две разные механические задачи. Крупные мышцы спины и ног рассчитаны на создание большой тяги и подъем тяжестей. В свою очередь, мелкие скелетные мышцы —...