Крупные банки опасаются, что агенты искусственного интеллекта могут повысить риск мошенничества и обмана
Консорциум крупнейших мировых банков опубликовал «принципы доверия» к агентной коммерции: агенты, уполномоченные тратить деньги клиентов, открывают новый фронт для аферистов
Шесть крупных международных банков — Bank of America, Capital One, ASB Bank, Commonwealth Bank of Australia, ING Group и NatWest Group — выпустили совместный документ под названием Building Trust in Agentic Commerce, в котором выразили озабоченность стремительным распространением ИИ-агентов, уполномоченных совершать покупки от имени клиентов. Финансовые организации предупреждают: «потребители не понимают, будут ли ИИ-агенты действовать в их интересах», и опасаются, что «агенты купят не то, потратят слишком много или — что ещё хуже — потеряют деньги из-за мошенников».
Документ фиксирует новую категорию рисков: агентная коммерция создаёт пространство для массового фрода с иной механикой, чем традиционное интернет-мошенничество. Злоумышленники могут компрометировать или выдавать себя за ИИ-агентов и продавцов, применять новые формы социальной инженерии, а размытая ответственность за действия агента — кто именно виноват, если ИИ превысил полномочия при покупке, — оставляет потребителя незащищённым. Отдельно банки указывают на риск лавинообразного роста числа чарджбэков и платёжных споров для продавцов.
В ответ авторы документа сформулировали 5 принципов, которым, по их мнению, должны следовать разработчики агентного ИИ: прозрачность, безопасность, защита приватности и данных, свобода выбора для потребителя и совместимость между платформами. Банки настаивают, что ИИ-компании обязаны соблюдать стандарты процессинга платежей и не должны извлекать платёжные реквизиты напрямую с сайтов, как это уже делают некоторые недобросовестные провайдеры.
Релиз документа совпал по времени сразу с двумя заметными событиями: публикацией сведений о серьёзной zero-day-уязвимости в агенте Muse от Meta* и объявлением Amazon о блокировке того же Muse на своей платформе. При этом, тревогу забили именно регулируемые финансовые институты — сектор, где цена ошибки или мошеннической транзакции измеряется прямыми потерями клиентов и репутационным ущербом.
* Деятельность организации «Американская транснациональная холдинговая компания Meta Platforms Inc. по реализации продуктов - социальных сетей Facebook и Instagram» признана экстремистской и запрещена в РФ