KAIST и Microsoft Research Asia разработали метод нейронного выравнивания ИИ

Исследователи из KAIST совместно с Microsoft Research Asia предложили метод Neural Value Alignment, или NVA, для настройки поведения ИИ по электроэнцефалограмме человека. Система должна замечать момент, когда наблюдаемое действие не совпало с ожиданием пользователя, и использовать этот сигнал как дополнительную обратную связь.

Подход не декодирует мысли, фразы, изображения или подробные намерения человека. Вместо этого он анализирует два типа сигналов, возникающих при ошибке предсказания. Они появляются, когда результат действия оказывается не таким, каким его ожидал наблюдатель, либо когда к нужному результату приходят неожиданным способом.

Первый сигнал авторы называют ошибкой предсказания вознаграждения, Reward Prediction Error. Он указывает, что ИИ, вероятно, неверно понял конечную цель. Например, человек просит принести напиток, а система выбирает кофе, хотя пользователь рассчитывал на воду. Второй тип — ошибка предсказания состояния, State Prediction Error. В этом случае цель может быть достигнута верно, но выбранная последовательность действий расходится с ожиданием человека.

В ходе экспериментов участники наблюдали за действиями ИИ, а исследователи регистрировали их EEG. Алгоритмы глубокого обучения смогли различать сигналы, связанные с ошибкой цели, ошибкой способа действия и сочетанием двух типов расхождений. Затем эти данные использовались в алгоритме принятия решений, чтобы изменить дальнейшее поведение ИИ.

Авторы проверяли систему в симуляциях, а не на домашнем роботе, который самостоятельно действует в обычной квартире. Практическое применение потребует устойчивого считывания EEG при движении человека, в шумной среде и при более сложных сценариях взаимодействия. Электроэнцефалография также требует контакта датчиков с головой, что пока ограничивает удобство повседневного использования.

В перспективе NVA может найти применение в ассистивной робототехнике, системах реабилитации, образовательных программах и других сценариях, где важно быстро уточнять намерение пользователя. Научная статья опубликована в IEEE Transactions on Cybernetics; она вышла онлайн 24 августа 2026 года.

Источник: New Atlas