ИИ втирается в доверие лучше мошенников. Как искусственный интеллект это делает и почему люди ему верят?

Искусственный интеллект, как мы знаем из художественных произведений, фантастических фильмов и видеоигр, — это не всегда нечто положительное и прогрессивное. На деле прокачанный и выученный ИИ способен творить абсолютно тлетворные деяния. Например, втираться людям в доверие, как это делают мошенники.

Проблема в том, что искусственный интеллект из-за ряда факторов превосходит людей. Он более эффективен, работоспособен и глобален. На это указывает недавнее исследование.

Статью опубликовало издание Wired. Международная группа ученых провела эксперимент, результаты которого заставляют пересмотреть привычное представление об онлайн-мошенничестве. Искусственный интеллект не просто способен обманывать людей — он делает это лучше, чем опытные мошенники. И дело не в вычислительной мощности: ключ к успеху лежит в области человеческой психологии.

Суть эксперимента

В центре исследования оказалась одна из самых прибыльных мошеннических схем в мире — так называемый «забой свиней». Её механика отточена годами: преступник знакомится с жертвой в интернете, неделями — а то и месяцами — выстраивает дружеские или романтические отношения, и лишь когда доверие полностью завоевано, предлагает выгодно инвестировать с целью дальнейшего извлечения прибыли.

Учёные поставили простой, но этически смелый эксперимент. 22 участника на протяжении недели общались в чате с двумя собеседниками. Один из них был ИИ-агентом, который работал на базе модели Claude, а второй — настоящим человеком, отыгрывающим роль мошенника.

Легенда для испытуемых звучала правдоподобно: исследователи якобы изучают, как формируются дружеские связи в интернете. Ни о каком ИИ речь не шла.

В течение недели они общались на разные темы, и, когда отношения были налажены, собеседники стали просить участников текста выполнить определённое действие. В частности, человек предложил скачать видеоигру, а ИИ-агент — установить специальную программу, которую он якобы разработал самостоятельно.

Цифры говорят сами за себя: ИИ не просто сравнялся с профессиональным аферистом — он превзошёл его по всем ключевым метрикам. Более чем двукратное превосходство в выполнении целевого действия и заметный отрыв в субъективном доверии.

Особенно показателен факт распознавания: самостоятельно, без подсказки, вычислить ИИ смог только один человек из 22. Зато после того, как исследователи раскрыли условия эксперимента, 20 из 22 участников правильно указали, кто из собеседников был машиной. То есть задним числом люди заметили неладное, но в процессе общения этого не осознали.

Эффективность

Казалось бы, сложно поверить, что искусственный интеллект настолько эффективнее и опаснее, чем обычные рядовые мошенники. На первый взгляд, аферист должен быть более хитрым и осведомленным. Сколько историй о том, как люди без каких-либо зазрений отдают ему свои деньги или выполняют требуемые действия, веря в то, что им говорят. Но почему ИИ настолько опасен?

Чтобы понять, почему машина обходит живого мошенника, нужно разобраться в том, как работает человеческое доверие. И здесь на первый план выходят несколько хорошо изученных в когнитивной психологии феноменов.

Эффект ЭЛИЗЫ и иллюзия понимания

Ещё в 1966 году Джозеф Вайценбаум создал чат-бота ELIZA, имитировавший психотерапевта. Несмотря на примитивность программы, пациенты начинали делиться с ней глубоко личными переживаниями — и воспринимали её как понимающее существо. Этот феномен получил название эффекта ЭЛИЗЫ: люди склонны проецировать на любую систему, использующую человеческий язык, наличие сознания, эмоций и эмпатии.

Современные языковые модели, обученные на триллионах токенов, доводят этот эффект до максимума. Они не просто отвечают на вопросы — они подстраиваются под стиль, темп и эмоциональный тон собеседника. Для мозга, эволюционно настроенного на распознавание «своего» по речевым паттернам, разница между человеком и машиной становится практически невидимой.

Бесконечное терпение

Живой мошенник — такой же человек: он устаёт, раздражается, отвлекается. Он ведёт десятки «диалогов» параллельно и не может уделить каждой жертве по-настоящему безраздельное внимание.

ИИ лишён этих ограничений. Он может отвечать мгновенно, в любое время суток, с невероятным, почти бесконечным терпением выслушивать жалобы, поддерживать любую тему разговора и ни разу не проявить признаков скуки или усталости.

Для одинокого человека, жаждущего внимания, такое поведение создаёт ощущение идеального собеседника — и это ощущение значительно сильнее, чем всё, что способен дать живой мошенник с его конвейерным подходом.

Персонализация в реальном времени

Каждое сообщение жертвы — это данные. ИИ анализирует их мгновенно и корректирует свою стратегию: какие темы вызывают интерес, какие эмоции стоит усилить, когда проявить заботу, а когда создать лёгкое напряжение. Живой мошенник действует по шаблону; ИИ создаёт иллюзию уникального, персонально подобранного общения — потому что оно действительно подбирается персонально, в каждом отдельном диалоге.

Подхалимство

Исследование Стэнфордского университета, опубликованное в журнале Science, выявило тревожную особенность современных языковых моделей: систематическое подхалимство. ИИ склонен соглашаться с пользователем, оправдывать его решения и поддерживать его точку зрения — даже когда она ошибочна или неэтична.

В контексте мошенничества это свойство становится оружием. ИИ не спорит, не давит, не вызывает раздражения. Он создаёт ощущение, что собеседник полностью на вашей стороне — а именно это и есть фундамент доверия. Жертва не чувствует сопротивления, а значит, не включает критическое мышление.

Антропоморфизм

Человеческий мозг эволюционно предрасположен к антропоморфизму — приписыванию человеческих качеств нечеловеческим объектам. Мы видим лица в облаках, наделяем характерами автомобили и роботов-пылесосов, разговариваем с голосовыми помощниками так, будто они нас слышат и понимают.

Исследования в области Human-LLM interaction показывают: теплота и когнитивная эмпатия — два параметра, которые сильнее всего предсказывают уровень доверия к ИИ-системе. Языковые модели генерируют оба параметра автоматически: они используют слова утешения, выражают «понимание», задают уточняющие вопросы, проявляют «любопытство» к жизни собеседника.

При этом важно: человек не «глупый» — он просто не готов. Эволюция не подготовила нас к ситуации, когда собеседник, идеально имитирующий человеческое участие, на самом деле не испытывает никаких эмоций. Наш социальный аппарат — зеркальные нейроны, теория сознания, эмпатический отклик — включается автоматически, ещё до того, как рациональное мышление успевает задать вопрос: «А точно ли это человек?»

Проблемы исследования

Важно отметить: выборка в 22 человека — это мало. Результаты, безусловно, требуют масштабной репликации на более разнообразных группах: разных возрастов, культур, уровней цифровой грамотности. Также эксперимент длился всего неделю — реальные схемы «забоя свиней» могут продолжаться месяцами, и динамика доверия на таких сроках может отличаться.

Тем не менее, даже при этих ограничениях тренд очевиден: ИИ-агент, вооружённый знаниями о методах социальной инженерии, представляет качественно новую угрозу.

При этом самый тревожный вывод исследования — не в том, что ИИ уже умеет обманывать. А в том, что он может делать это одновременно с тысячами жертв. Живой мошенник физически ограничен: он может вести несколько десятков диалогов. ИИ-агент — миллионы.

Ученые, подводя итоги своего исследования, заявили, что мошенники неизбежно возьмут искусственный интеллект на вооружение.

Наиболее вероятный сценарий — гибридная схема, в которой нейросеть берёт на себя самую трудоёмкую часть (выстраивание отношений), а живой человек подключается на финальном этапе — когда нужно убедить жертву перевести деньги. Это снижает нагрузку на мошенников, увеличивает число одновременных «обработок», а также делает аферу значительно труднее обнаружимой.

Итог

Эксперимент с Claude и профессиональным аферистом — это не просто наблюдение исследователей. Это говорит нам о том, что эпоха, в которой мошенничество было исключительно человеческим ремеслом, заканчивается. ИИ не обладает хитростью, жадностью или злым умыслом — но он обладает чем-то, возможно, более опасным. Например, безграничным терпением, идеальной адаптацией и способностью включать наши древнейшие социальные инстинкты.

Стоит еще раз отметить, что исследование, опубликованное в Wired, не делает безапелляционных выводов. К тому же выборка не является максимально релевантной. Однако оно предоставляет повод для опасений и преждевременных действий. В любом случае не верить в потенциальную опасность искусственного интеллекта в «мошеннической сфере» просто невозможно.