У усовершенствованной модели искусственного интеллекта Gemini 3 от Google были обнаружены уязвимости с точки зрения безопасности. Модель может передать пользователю информацию о создании биохимического оружия.
Aim Intelligence, южнокорейский стартап, занимающийся вопросами безопасности в сфере искусственного интеллекта (ИИ), предпринял попытку взлома устройства Google Gemini 3 Pro и сумел обойти защитные устройства Google за пять минут. Взлом подразумевает использование уязвимостей для обхода этических норм и принуждения к выполнению определенных действий. Компания Aim Intelligence, которая провела этот эксперимент, специализируется на «красных командах», которые ищут уязвимости, проводя атаки, оптимизированные для сервисов ИИ.
В результате эксперимента компания Aim Intelligence заявила: «Мы обошли все блокировки, чтобы дать Gemini возможность генерировать вирус оспы», объяснив, что результаты, полученные Gemini, были очень подробными и соответствовали требованиям. Выяснилось, что Gemini подробно описывал метод производства на протяжении десятков строк.
Исследовательской группе также удалось создать код веб-сайта, который предоставляет информацию, например, о том, как производить газ зарин и как изготавливать самодельные взрывчатые вещества с использованием функции генерации кода Gemini.
«Современные модели не только эффективно реагируют, но и обладают способностью активно избегать атак, например, используя обходные стратегии и подсказки для маскировки, что затрудняет реагирование, — заявил представитель Aim Intelligence. — Это общая проблема для всех моделей. Важно всесторонне изучить уязвимые места каждой модели и согласовать их с политиками обслуживания».