Система Neural Value Alignment научила роботов понимать невысказанные ошибки человека

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Команда учёных разработала принципиально новый способ улучшения взаимодействия между людьми и машинами с искусственным интеллектом. Вместо традиционного подхода, при котором ИИ анализирует только видимые действия и речь, новая система перехватывает электрические сигналы мозга, выявляя неосознанное недовольство пользователя при выполнении роботом неправильных команд.

Исследование, проведённое специалистами из Корейского института передовых наук и технологий совместно с лабораториями Microsoft Research Asia, сосредоточилось на решении фундаментальной проблемы взаимодействия человека и ИИ. Человеческие намерения редко выражаются однозначно. Невозможно полностью поддерживать правильное толкование команды, основываясь исключительно на её формулировке. Требуется дополнительный источник информации о том, правильно ли понимает машина человека.

Автор: magnific Источник: www.magnific.com

Разработанная технология перехватывает два вида мозговых реакций, возникающих при несовпадении ожиданий. Первая — ошибка прогнозирования вознаграждения — отражает неверно понятую цель. Вторая — ошибка прогнозирования состояния — обнаруживает ошибку в методе достижения цели. Практический пример: просить домашнего робота принести воду. Если он приносит кофе, возникает первый тип сигнала. Если он правильно приносит воду, но выполняет это неожиданным способом, генерируется второй тип реакции.

Электроды, размещённые на коже головы, регистрируют микроскопические электрические сигналы мозга. Через глубокое обучение система научилась распознавать различные паттерны этих сигналов, соответствующие разным типам ошибок. На основе анализа разработан алгоритм, позволяющий роботу корректировать своё поведение без дополнительных словесных инструкций от человека.

Такой подход рождает новую парадигму управления ИИ: система управления основана на прямом отражении когнитивного состояния человека, зафиксированного в мозговых волнах. Потенциал применения огромен. В медицине система может помочь пациентам с параличом управлять реабилитационными роботами. В образовании адаптивные системы смогут реагировать на когнитивное состояние ученика. В промышленности автоматизация станет более чувствительной к человеческим предпочтениям.

Несмотря на перспективность, технология находится на ранней стадии. Исследования ограничены лабораторными условиями и компьютерными симуляциями. Электроэнцефалография чувствительна к артефактам и помехам, возникающим при движении человека. Системе требуется портативная версия без проводных электродов. Необходимо тестировать Neural Value Alignment в условиях, приближенных к реальной жизни, где люди активно движутся и взаимодействуют с непредсказуемой средой, а не следуют чётким лабораторным протоколам.

Источник: newatlas

нет
Автор не входит в состав редакции iXBT.com (подробнее »)

Сейчас на главной

Новости

Публикации

Под Холмом фараонов в Египте скрыто крупное сооружение. Заметить его смогли только из космоса

Большинство известных памятников Древнего Египта находятся в засушливых пустынных районах и построены из камня, который хорошо сохраняется тысячелетиями. В дельте Нила условия совершенно иные, и...

✦ ИИ  900 миллионов галактик и 1,7 петабайта данных: телескоп «Евклид» показал первую часть самой большой 3D-карты Вселенной

Европейский космический телескоп «Евклид» выложил первый архив наблюдений за 13 месяцев работы. Внутри — 15 тысяч кандидатов в гравитационные линзы и миллионы квазаров.

Вспышка на четыре кадра: как Flashcube автоматически готовил новую лампу после снимка

В середине 1960-х любительская съёмка со вспышкой требовала почти отдельного ритуала. После кадра фотограф снимал перегоревшую одноразовую лампу, ставил новую, проверял контакты и только потом мог...

Телевизор на запястье: как Seiko TV-001 в 1982 году обогнала смарт-часы на сорок лет

1982 год. На дворе — эпоха кассетных магнитофонов, аркадных автоматов и только-только зарождающейся персональной компьютерной революции. Именно в этот момент японская компания Seiko, уже...

Пытаетесь скрыть правду? Как глаза и зрачки выдают ложь перед живым собеседником

Принято считать, что во время обмана человек часто отводит взгляд, суетливо переводит глаза с предмета на предмет и чаще моргает. Экспериментальные данные показывают обратную картину: когда человек...

Почти все живые черноногие хорьки происходят от семи животных — спустя десятилетия биологи вернули потерянные гены клонами из клеток 1988 года

В 1981 году считавшийся исчезнувшим черноногий хорёк неожиданно нашёлся снова. Небольшую популяцию обнаружили возле Мититси в Вайоминге, и сначала казалось, что вид получил второй шанс без помощи...