Разработан ИИ-детектор дипфейков для защиты от видеомошенничества в реальном времени

Немецкий институт Фраунгофера SIT создал программу для выявления дипфейков во время видеозвонков в режиме реального времени. Технология защищает от мошенников, число атак которых за год выросло с 43 до 1200 случаев.

Масштабы проблемы растут в геометрической прогрессии. В январе 2026 года Агентство кибербезопасности Сингапура зафиксировало более 1200 случаев видеомошенничества с использованием дипфейков. Для сравнения: в январе 2025 года таких инцидентов было 43. Характерный пример: финансовый директор компании перевел около 500 000 долларов (примерно 47,5 млн рублей) после звонка в Zoom, во время которого выяснилось, что все участники — боты, созданные искусственным интеллектом.

Система Фраунгофера работает по принципу двойного контроля. Алгоритм машинного обучения одновременно проверяет видеопоток и аудиодорожку каждого участника. При обнаружении подозрительной активности пользователь видит предупреждение на экране. Программа не блокирует звонок автоматически — окончательное решение принимает человек.

Технология обучалась распознавать подделки на наборе из 19 000 настоящих и 160 000 синтезированных голосовых записей. Важная особенность: система учитывает типичные артефакты видеоконференций. Сжатие данных, фоновый шум, автоматическое размытие — все это не вызывает ложных срабатываний. Алгоритм различает технические помехи и признаки искусственной генерации контента.

Для запуска детектора нужен компьютер с видеокартой на 12 ГБ видеопамяти. Анализ происходит локально — видео и аудио не покидают устройство. Такой подход критически важен для корпоративного сектора, где проводятся конфиденциальные обсуждения. Решение встраивается в Teams, Zoom как плагин или развертывается на защищенном сервере компании.

Руководитель разработки Мартин Штайнебах подчеркивает: традиционные методы анализа сигналов не справляются с этой задачей. Машинное обучение работает быстрее и точнее. Парадоксально, но создание качественного дипфейка требует почти столько же ресурсов, сколько и его обнаружение.

Проект находится на стадии концептуальной проверки. Следующий шаг — тестирование с поставщиками платформ для видеоконференций и корпоративными клиентами. Остаются открытыми юридические вопросы: требуется ли согласие всех участников встречи на включение детектора.

Источник: Tech Xplore