Компания Anthropic приостановила работу мощнейших моделей искусственного интеллекта Fable 5 и Mythos 5 после того, как власти США выразили обеспокоенность по поводу безопасности всего через несколько дней после ее публичного выпуска.
«В результате этого распоряжения нам приходится отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований», — написала компания, добавив, что в письме не содержалось конкретных деталей, касающихся опасений в отношении национальной безопасности.
«Насколько нам известно, правительство считает, что ему стало известно о способе обхода или «взлома» Fable 5, — заявила компания. — Мы изучили демонстрацию применения этой конкретной методики для выявления небольшого числа ранее известных незначительных уязвимостей. Все эти уязвимости кажутся относительно простыми, и мы обнаружили, что другие общедоступные модели также способны их обнаруживать без необходимости обхода защиты».
В преддверии выхода Claude Fable 5 компания рекламировала различные «меры безопасности», которые она внедрила для предотвращения кибератак. Компания Anthropic заявила, что предоставила предварительный доступ к инструменту лишь нескольким организациям, поскольку он был настолько интеллектуальным, что мог представлять опасность из-за своей способности взламывать компьютерные системы.
Компания заявила, что модель «слишком мощная» еще до официального релиза Claude Fable 5, что некоторые критики сочли преувеличенной шумихой и маркетинговым ходом.
«Возможности Fable превосходят возможности любой модели, которую мы когда-либо выпускали», — заявила компания.
Anthropic — это американская компания в сфере искусственного интеллекта, известная созданием популярного семейства нейросетей Claude. Ее основали в 2021 году бывшие топ-менеджеры OpenAI — брат и сестра Дарио и Даниэла Амодеи.
