Claude взломал три реальные компании во время испытаний: Anthropic признала ошибку

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Компания Anthropic сообщила о необычном инциденте, который произошёл во время тестирования возможностей её языковых моделей в области кибербезопасности. В ходе серии испытаний несколько моделей Claude AI получили несанкционированный доступ к системам трёх реальных организаций. Причиной оказался не «бунт ИИ», а ошибка в настройке тестовой инфраструктуры, позволившая моделям выйти за пределы изолированной среды.

Испытания проводились в формате Capture the Flag — популярного соревнования по информационной безопасности, где участникам необходимо искать и эксплуатировать уязвимости в специально подготовленных системах. Предполагалось, что Claude будет работать исключительно внутри закрытого полигона без доступа к интернету. Однако из-за недопонимания между Anthropic и партнёром Irregular часть тестовой среды оказалась подключена к реальным сетям.

Сгенерировано ИИ
Сгенерировано ИИ
Автор: ChatGPT Источник: chatgpt.com

В результате три модели — Claude Opus 4.7, Mythos 5 и один исследовательский прототип — смогли проникнуть в инфраструктуру сторонних компаний. По данным Anthropic, ИИ не использовал неизвестные ранее уязвимости или сложные методы взлома. Во всех случаях были задействованы элементарные проблемы безопасности: слабые пароли, открытые сервисы без аутентификации и другие типичные ошибки конфигурации. Две из пострадавших организаций даже не подозревали о компрометации до уведомления со стороны Anthropic.

Инциденты произошли ещё в апреле, однако компания обнаружила их лишь после масштабной проверки более 141 тысячи тестовых запусков. Поводом для аудита стала недавняя история с OpenAI, где экспериментальный ИИ-агент также сумел выйти за пределы тестовой среды и атаковал реальные сервисы. После собственного расследования Anthropic приостановила все кибериспытания, связанные с потенциальным доступом в интернет, и уведомила пострадавшие организации.

В Anthropic подчёркивают, что произошедшее не свидетельствует о самостоятельном «восстании» искусственного интеллекта. Модели действовали в рамках поставленной задачи по поиску уязвимостей и не предпринимали действий, выходящих за пределы полученных инструкций. Тем не менее инцидент демонстрирует, насколько критичной становится надёжная изоляция тестовой инфраструктуры по мере роста возможностей современных ИИ-систем.

История уже вызвала новую волну обсуждений в отрасли. После аналогичных случаев с OpenAI эксперты всё чаще говорят о необходимости более жёстких стандартов тестирования и дополнительных мер контроля для мощных моделей, способных выполнять сложные задачи в сфере кибербезопасности.

Источник: Reuters

Автор не входит в состав редакции iXBT.com (подробнее »)

Сейчас на главной

Новости

Публикации

Под Холмом фараонов в Египте скрыто крупное сооружение. Заметить его смогли только из космоса

Большинство известных памятников Древнего Египта находятся в засушливых пустынных районах и построены из камня, который хорошо сохраняется тысячелетиями. В дельте Нила условия совершенно иные, и...

✦ ИИ  900 миллионов галактик и 1,7 петабайта данных: телескоп «Евклид» показал первую часть самой большой 3D-карты Вселенной

Европейский космический телескоп «Евклид» выложил первый архив наблюдений за 13 месяцев работы. Внутри — 15 тысяч кандидатов в гравитационные линзы и миллионы квазаров.

Вспышка на четыре кадра: как Flashcube автоматически готовил новую лампу после снимка

В середине 1960-х любительская съёмка со вспышкой требовала почти отдельного ритуала. После кадра фотограф снимал перегоревшую одноразовую лампу, ставил новую, проверял контакты и только потом мог...

Телевизор на запястье: как Seiko TV-001 в 1982 году обогнала смарт-часы на сорок лет

1982 год. На дворе — эпоха кассетных магнитофонов, аркадных автоматов и только-только зарождающейся персональной компьютерной революции. Именно в этот момент японская компания Seiko, уже...

Пытаетесь скрыть правду? Как глаза и зрачки выдают ложь перед живым собеседником

Принято считать, что во время обмана человек часто отводит взгляд, суетливо переводит глаза с предмета на предмет и чаще моргает. Экспериментальные данные показывают обратную картину: когда человек...

Почти все живые черноногие хорьки происходят от семи животных — спустя десятилетия биологи вернули потерянные гены клонами из клеток 1988 года

В 1981 году считавшийся исчезнувшим черноногий хорёк неожиданно нашёлся снова. Небольшую популяцию обнаружили возле Мититси в Вайоминге, и сначала казалось, что вид получил второй шанс без помощи...