Google анонсировала ИИ-инструменты для обнаружения и предотвращения киберугроз

Google представила инструменты и протоколы, использующие искусственный интеллект для прогнозирования, обнаружения и предотвращения киберугроз.

Один из новых компонентов — CodeMender, ИИ-агент для автоматического исправления уязвимостей в коде. Система применяет модель Gemini для анализа проблем и генерации исправлений. Все изменения проверяются перед передачей разработчикам.

Также запущена программа вознаграждения за уязвимости в системах ИИ (AI Vulnerability Rewards Program, AI VRP). В ней определены категории уязвимостей в ИИ-моделях и установлен порядок вознаграждения исследователей.

Другие элементы инициативы включают обновлённую версию системы безопасного ИИ — SAIF 2.0 — и карту рисков для автономных ИИ-агентов. В SAIF 2.0 предусмотрены меры для обеспечения того, чтобы автономные агенты имели чётко заданные границы действий, были прозрачны в принятии решений и оставались под контролем человека. Карта рисков будет доступна для отраслевых инициатив, включая «Коалицию за безопасную ИИ».

Google также использует ИИ для поиска уязвимостей в распространённом программном обеспечении и для анализа внутренних файлов с целью выявления вредоносных шаблонов.