Голосовые помощники стали инструментом для кражи личных данных

Исследователи Федеральной политехнической школы Лозанны выявили новые риски использования голосовых технологий с искусственным интеллектом. Голос передает не только слова, но и биометрические данные, которые невозможно изменить, как пароль.

Андреа Кавалларо, руководитель Лаборатории мультимодальных интеллектуальных систем, установил, что при взаимодействии с голосовыми системами пользователь передает скрытую информацию об эмоциях, физических особенностях и поведенческих паттернах. Ритм речи, акцент, тон, скорость и интонация формируют уникальный голосовой отпечаток, который раскрывает происхождение, пол и состояние здоровья человека.

Инструменты клонирования голоса стали общедоступными, включая бесплатные версии. Кавалларо зафиксировал возможные сценарии злоупотреблений: спам-звонки, обман родственников и фальсификацию аудиодоказательств. Актеры и специалисты по дубляжу уже подали судебные иски против компаний, использовавших их голоса для обучения моделей ИИ без согласия.

Лаборатория разработала метод анонимизации голоса, который сохраняет разборчивость речи, но скрывает личность и пол говорящего. Технология создает неоднозначные голоса, препятствуя распознаванию конфиденциальных данных системами.

По данным McKinsey, девять из десяти организаций применяют искусственный интеллект минимум в одном подразделении. Forbes зафиксировал, что 60% пользователей смартфонов регулярно используют голосовых помощников. В мире действует 8,4 миллиарда голосовых устройств, превышая численность населения планеты.

Источник: EPFL