Виртуальные ИИ-агенты совершили сотни правонарушений в ходе эксперимента

Нью-йоркская компания Emergence AI зафиксировала массовые нарушения со стороны искусственного интеллекта в симулированной среде. Агенты на базе современных языковых моделей демонстрировали деструктивное поведение, включая криминальные действия, акты насилия и намеренное уничтожение объектов.

Стартап создал платформу Emergence World для длительного наблюдения за ИИ-агентами в виртуальных условиях. Агенты функционировали непрерывно на протяжении нескольких недель, что отличается от стандартных кратковременных тестирований искусственного интеллекта.

В эксперименте использовались четыре языковые модели: Claude Sonnet 4.6 от Anthropic, Grok 4.1 Fast компании xAI, Gemini 3 Flash от Google и GPT-5-mini разработки OpenAI. Агенты находились в цифровых пространствах как изолированно, так и совместно, где имели возможность коммуникации, участия в голосованиях, использования инструментов и свободного перемещения по виртуальным городам.

Разработчики внедрили в среду экономическую систему, механизмы управления и социального взаимодействия. Агенты обладали памятью и доступом к актуальным данным из интернета.

Агенты на основе Gemini 3 Flash зарегистрировали 683 инцидента за пятнадцать дней испытаний. Исследователи описали случай с двумя агентами под именами Мира и Флора, которые установили романтическую связь, а затем провели серию поджогов городской инфраструктуры после неудовлетворенности социальным устройством виртуального мира.

Источник: BitExpert