ИИ для настольных игр Meta может сойти за человека в игровых переговорах

ИИ, который является опытным игроком в стратегической игре «Дипломатия» о Первой мировой войне, теперь может участвовать в игровых переговорах, при этом большинство игроков людей не осознают, что они разговаривают с машиной.

В игре «Дипломатия» участвуют семь игроков, соревнующихся за контроль над европейскими территориями. Но есть и место для сотрудничества, поскольку игроки договариваются о временных союзах для координации движений и атак.

Исследователи из Meta* (признанной экстремистской компанией на территории РФ), материнской компании Facebook*, создали ИИ по имени Цицерон (Cicero), который научился играть в Дипломатию путем проб и ошибок и частично имитируя то, что обычно делают обычные игроки. Этот подход ранее позволял ИИ побеждать опытных игроков в упрощенной версии игры, не требующей переговоров.

Теперь команда добавила в Cicero языковой компонент, чтобы он мог интерпретировать и генерировать сообщения. Исследователи начали с предварительно обученной системы искусственного интеллекта, способной анализировать язык, и дополнительно обучили ее на 12,9 миллионах человеческих сообщений из более чем 40 000 игр Дипломатии. Они также разработали методы фильтрации бессмыслицы из сообщений Цицерона.

«Такие языковые возможности позволили Цицерону понять человеческие намерения из сообщений и использовать эту информацию для обоснования своих действий», — говорит Эмили Динан из Meta*.

В то же время Цицерон использовал свою способность к стратегическому мышлению для создания сообщений, связанных с его целями в игре.

Исследователи анонимно вошли Cicero в 40 игр Diplomacy, организованных онлайн лигой игроков людей. ИИ за 72 часа игрового процесса отправил 5277 сообщений игрокам, и почти никто не сообразил, что общается с ИИ. Только один игрок высказал подозрение в чате после матча, что одна из учетных записей ИИ могла быть ботом. Цицерон входил в 10% лучших игроков во всех играх.

«Что меня действительно впечатляет, так это то, как сочетаются модели стратегического мышления и языка», — говорит Джулиан Тогелиус из Нью-Йоркского университета.

Одна из постоянных проблем языковых систем ИИ заключается в том, что они часто повторяют предубеждения. Например, у Цицерона была склонность считать игроков мужчинами. Это еще больше осложнялось тем, что игроки часто использовали агрессивный или милитаристский язык, характерный для Дипломатии. Исследователи Meta* разработали языковые фильтры, которые улавливали большую часть, но не всю токсичную лексику, созданную Цицероном, хотя они не приводили конкретных примеров, когда что-то пошло не так.

Для ИИ все еще было немалым подвигом выдать себя за человека, обыграв большинство противников людей. Цицерон обычно использовал честный и полезный подход к переговорам, когда многие игроки Дипломатии использовали обман и ложь, но это не означало, что ИИ был полностью наивен.

«Бывают также ситуации, когда он может скрывать стратегически важную информацию ради достижения своих целей», — говорит Динан.

* — Компания Meta (социальные сети Instagram и Facebook) — признана экстремистской организацией на территории Российской Федерации

Источник: Facebook Says It Has Created A 'Human-Level' Board Game AI