Система Neural Value Alignment научила роботов понимать невысказанные ошибки человека

Команда учёных разработала принципиально новый способ улучшения взаимодействия между людьми и машинами с искусственным интеллектом. Вместо традиционного подхода, при котором ИИ анализирует только видимые действия и речь, новая система перехватывает электрические сигналы мозга, выявляя неосознанное недовольство пользователя при выполнении роботом неправильных команд.

Исследование, проведённое специалистами из Корейского института передовых наук и технологий совместно с лабораториями Microsoft Research Asia, сосредоточилось на решении фундаментальной проблемы взаимодействия человека и ИИ. Человеческие намерения редко выражаются однозначно. Невозможно полностью поддерживать правильное толкование команды, основываясь исключительно на её формулировке. Требуется дополнительный источник информации о том, правильно ли понимает машина человека.

Разработанная технология перехватывает два вида мозговых реакций, возникающих при несовпадении ожиданий. Первая — ошибка прогнозирования вознаграждения — отражает неверно понятую цель. Вторая — ошибка прогнозирования состояния — обнаруживает ошибку в методе достижения цели. Практический пример: просить домашнего робота принести воду. Если он приносит кофе, возникает первый тип сигнала. Если он правильно приносит воду, но выполняет это неожиданным способом, генерируется второй тип реакции.

Электроды, размещённые на коже головы, регистрируют микроскопические электрические сигналы мозга. Через глубокое обучение система научилась распознавать различные паттерны этих сигналов, соответствующие разным типам ошибок. На основе анализа разработан алгоритм, позволяющий роботу корректировать своё поведение без дополнительных словесных инструкций от человека.

Такой подход рождает новую парадигму управления ИИ: система управления основана на прямом отражении когнитивного состояния человека, зафиксированного в мозговых волнах. Потенциал применения огромен. В медицине система может помочь пациентам с параличом управлять реабилитационными роботами. В образовании адаптивные системы смогут реагировать на когнитивное состояние ученика. В промышленности автоматизация станет более чувствительной к человеческим предпочтениям.

Несмотря на перспективность, технология находится на ранней стадии. Исследования ограничены лабораторными условиями и компьютерными симуляциями. Электроэнцефалография чувствительна к артефактам и помехам, возникающим при движении человека. Системе требуется портативная версия без проводных электродов. Необходимо тестировать Neural Value Alignment в условиях, приближенных к реальной жизни, где люди активно движутся и взаимодействуют с непредсказуемой средой, а не следуют чётким лабораторным протоколам.

Источник: newatlas