Умная перчатка научит вас играть на пианино и управлять роботом

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Мнение | Наука и космос

Вы наверняка знаете, что люди различаются по типам восприятия информации. Некоторые лучше запоминают то, что видят или слышат, а другие — то, что ощущают. Для таких людей осязание играет важную роль в обучении и освоении новых навыков. Более того, чтобы научиться играть на музыкальном инструменте или проводить хирургическую операцию, нужно не только смотреть и слушать, но и чувствовать, как двигать руками и пальцами.

Однако, в отличие от видео и аудио, осязание очень сложно записать и передать. Как можно дистанционно научить кого-то играть на пианино или управлять роботом, если нельзя дать ему почувствовать, как нажимать на клавиши или захватывать предметы? Как можно создать реалистичный опыт в виртуальной реальности, если нельзя ощутить текстуру, температуру или давление объектов?

(a) Полноразмерная перчатка из текстиля (iv) со встроенными тактильными датчиками (ii) и вибротактильными датчиками (iii) разрабатывается в цифровом виде и автоматически изготавливается с помощью цифровой вышивальной машины (i). Используя эти перчатки со встроенными сенсорными и тактильными возможностями, мы демонстрируем передачу физического взаимодействия между людьми для развития навыков (b) и передачу физического взаимодействия между людьми и роботами для дистанционного управления (c)
(a) Полноразмерная перчатка из текстиля (iv) со встроенными тактильными датчиками (ii) и вибротактильными датчиками (iii) разрабатывается в цифровом виде и автоматически изготавливается с помощью цифровой вышивальной машины (i). Используя эти перчатки со встроенными сенсорными и тактильными возможностями, мы демонстрируем передачу физического взаимодействия между людьми для развития навыков (b) и передачу физического взаимодействия между людьми и роботами для дистанционного управления (c)
Автор: Luo, Y., Liu, C., Lee, Y.J. et al. Adaptive tactile interaction transfer via digitally embroidered smart gloves. Nat Commun15, 868 (2024). https://doi.org/10.1038/s41467-024-45059-8 Источник: www.nature.com

На эти вопросы попытались ответить исследователи из Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (CSAIL) и других организаций. Они разработали уникальную технологию, которая позволяет встраивать тактильные датчики и гаптические приводы в текстиль. Тактильные датчики способны регистрировать силу, давление и положение пальцев, а гаптические приводы — вибрировать в соответствии с полученными данными.

Используя цифровую швейную машину, исследователи смогли создать умную перчатку, которая может не только захватывать, но и воспроизводить и передавать осязательные инструкции. Кроме того, они разработали простого агента машинного обучения, который адаптируется к тому, как разные пользователи реагируют на тактильную обратную связь, оптимизируя их опыт.

Чтобы продемонстрировать возможности своего изобретения, исследователи провели несколько экспериментов в разных областях. Один из них был посвящен обучению игре на пианино. Сначала эксперт, надевший умную перчатку, записал простую мелодию, нажимая на клавиши. Затем агент машинного обучения преобразовал эту последовательность в гаптическую обратную связь, которая поступала в перчатки учеников. Ученики, держа руки над клавиатурой, чувствовали вибрацию на пальцах, соответствующих нужным клавишам. Таким образом, они могли повторить мелодию, не смотря на ноты или экран.

Другие эксперименты были связаны с играми на ноутбуке. В одной из них участники должны были следовать по узкому извилистому пути, чтобы достичь цели, а в другой — собирать монеты и поддерживать баланс своего автомобиля на пути к финишу. В обоих случаях перчатка давала им тактильные подсказки, когда и как двигать рукой. Исследователи обнаружили, что участники получали самые высокие игровые очки с оптимизированной гаптикой, в отличии от результатов без нее.

Еще одно применение умной перчатки — робототехническая телеоперация. Исследователи обнаружили, что их перчатки могут передавать ощущения силы роботизированным рукам, помогая им выполнять более деликатные задачи по захвату. Например, они научили робота, как держать разные типы хлеба не деформируя их. Таким образом, они показали, что человек может точно управлять роботом на расстоянии, передавая ему свои тактильные навыки.

(a) Обзор системы дистанционного управления, включающей параллельный захват, оснащенный тактильными датчиками (i), и пользователя, одетого в полноразмерную перчатку, интегрированную с вибротактильными блоками на большом и указательном пальцах (ii). Визуальная система отслеживает вышитые зеленые и красные цветные блоки для измерения расстояния. (b) Дистанционно управляемый захват булочки для хот-дога, гавайского хлеба и мягкой пластиковой коробки без визуальной обратной связи и с дополнительной передачей тактильной информации через тактильную обратную связь. Графики показывают синхронизированное измерение расстояния при манипуляциях с пальцами пользователя и управлении параллельным захватом, нормализованное давление, полученное от параллельного захвата, и сопоставленную тактильную обратную связь с пользователем. Благодаря тактильной обратной связи пользователь, как правило, управлял захватом дистанционно таким образом, чтобы объекты надежно захватывались с меньшим давлением и меньшими деформациями. (c) Количественные измерения фактической ширины объектов и расстояния между захватами во время дистанционного захвата в различных сценариях. Расстояния захвата, которые меньше фактической ширины объекта, подразумевают деформацию объекта. Столбцы погрешности показывают стандартные отклонения (SD) между измерениями.
(a) Обзор системы дистанционного управления, включающей параллельный захват, оснащенный тактильными датчиками (i), и пользователя, одетого в полноразмерную перчатку, интегрированную с вибротактильными блоками на большом и указательном пальцах (ii). Визуальная система отслеживает вышитые зеленые и красные цветные блоки для измерения расстояния. (b) Дистанционно управляемый захват булочки для хот-дога, гавайского хлеба и мягкой пластиковой коробки без визуальной обратной связи и с дополнительной передачей тактильной информации через тактильную обратную связь. Графики показывают синхронизированное измерение расстояния при манипуляциях с пальцами пользователя и управлении параллельным захватом, нормализованное давление, полученное от параллельного захвата, и сопоставленную тактильную обратную связь с пользователем. Благодаря тактильной обратной связи пользователь, как правило, управлял захватом дистанционно таким образом, чтобы объекты надежно захватывались с меньшим давлением и меньшими деформациями. (c) Количественные измерения фактической ширины объектов и расстояния между захватами во время дистанционного захвата в различных сценариях. Расстояния захвата, которые меньше фактической ширины объекта, подразумевают деформацию объекта. Столбцы погрешности показывают стандартные отклонения (SD) между измерениями.
Автор: Luo, Y., Liu, C., Lee, Y.J. et al. Adaptive tactile interaction transfer via digitally embroidered smart gloves. Nat Commun15, 868 (2024). https://doi.org/10.1038/s41467-024-45059-8 Источник: www.nature.com

Наконец, умная перчатка может создать более реалистичный опыт в виртуальной реальности. Нося перчатку, пользователь может ощущать текстуру, температуру или давление виртуальных объектов, что делает игры или тренировки более погружающимися. Например, перчатка может помочь хирургам, пожарным или пилотам обучаться в виртуальной среде, где точность имеет первостепенное значение.

Умная перчатка — это удивительное изобретение, которое открывает новые горизонты для обучения, робототехники и виртуальной реальности. Она позволяет передавать осязание, которое является одним из самых важных и сложных чувств человека. Она также адаптируется к индивидуальным особенностям восприятия каждого пользователя, делая обратную связь более эффективной. Она легко изготавливается и носится, не создавая дискомфорта или помех. Она является первым шагом к созданию персонализированных агентов искусственного интеллекта, которые могут помогать людям в выполнении сложных задач и обучении новым навыкам.

1 комментарий

a
Не научит никакая перчатки играть на фортепиано. Так же как не научит никакая система «подсвечивания клавиш, которые надо нажимать».

Добавить комментарий

Сейчас на главной

Новости

Публикации

Мышь охотится на скорпиона: почему его укус почти не причиняет ей боли?

В пустыне мышь, которая сама идёт на скорпиона, звучит как странное исключение. Но южная кузнечиковая мышь не случайно получила такое название: она охотится на членистоногих, включая скорпионов, и...

Время существует только для нас, а Вселенная никогда не двигалась: смелая идея физики, которую можно доказать

Человек строит цивилизацию вокруг измерения времени. Расписания транспорта, синхронизация спутниковых систем навигации, биржевые транзакции и биологические ритмы живых организмов привязаны к...

Застрявшие перед стартом стволовые клетки отправили на МКС: ткань пережила критическую изоляцию и превратилась в нейроны

В январе 2024 года с космодрома во Флориде стартовала коммерческая миссия Axiom-3. На борту корабля Crew Dragon на Международную космическую станцию отправился шведский астронавт Маркус Вандт....

Где во Вселенной идеальные условия для жизни? Модель в суперкомпьютере объяснила феномен выживания Земли

Долгое время в астробиологии ключевым инструментом для поиска жизни оставалась концепция околозвездной зоны обитаемости. Исследователи рассчитывали расстояние от конкретной звезды, на котором...

Windows-ноутбук за те же деньги? Спасибо, не надо: мнение от перехода на MacBook Neo

Переход с Windows на MacBook Neo я изначально не воспринимал как какое-то судьбоносное событие. Windows-ноутбуки я использовал много лет и прекрасно понимал их преимущества: совместимость с...

Можно ли кошкам давать сметану и почему порция в 50 граммов совсем не маленькая

Стоит открыть банку сметаны, и кошка уже сидит рядом. Сначала наблюдает, затем принюхивается и осторожно тянется к ложке. По её виду легко решить, что перед нами почти идеальное кошачье угощение.Я...