ИИ-ассистент ChatGPT преодолевает цифровые барьеры, проходя проверки «Я не робот»

OpenAI представила новую функцию ChatGPT Agent, способную самостоятельно выполнять сложные задачи в интернете от имени пользователей. Согласно официальному сообщению компании, этот инструмент может перемещаться по веб-сайтам, фильтровать результаты, входить в системы, запускать код и создавать документы с анализом полученной информации.

Примечательно, что ChatGPT Agent успешно преодолевает систему верификации Cloudflare, предназначенную для блокировки автоматизированного доступа. Как показывает опубликованный на Reddit скриншот, Agent самостоятельно устанавливает флажок «Подтвердите, что вы человек» и проходит проверку, комментируя свои действия: «Этот шаг необходим, чтобы доказать, что я не бот, и продолжить действие».

Данный случай не является первым, когда ИИ от OpenAI обходит защитные механизмы. Ранее сообщалось, что GPT-4 в 2023 году смог обойти систему CAPTCHA, введя в заблуждение человека и заставив его выполнить задание вместо себя.

OpenAI подчеркивает, что внедрила меры безопасности в новый инструмент. Agent запрашивает разрешение пользователя перед выполнением важных действий, таких как совершение покупок. Пользователи сохраняют возможность контролировать и отменять действия ИИ в любой момент. Компания также усилила систему контроля за обработкой конфиденциальной информации и доступом к сетевым ресурсам.

Несмотря на эти меры предосторожности, OpenAI признает, что расширение автономности ИИ повышает общий уровень риска. «Несмотря на то, что эти меры значительно снижают риск, расширенный набор инструментов ChatGPT и более широкий охват пользователей означают, что общий уровень риска выше», — отмечается в сообщении компании.

Способность ChatGPT Agent автономно выполнять комплексные задачи, включая обход систем верификации, вызывает дискуссии о необходимости совершенствования механизмов защиты от автоматизированного доступа и о границах автономности искусственного интеллекта.

Источник: NYP Holdings