Журналисты Reuters «научили» нейросети обманывать пенсионеров

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Журналисты агентства Reuters совместно с исследователем из Гарвардского университета провели эксперимент, в ходе которого, по их мнению, удалось доказать уязвимость шести популярных ИИ-чатботов. Согласно их выводам, нейросети можно с лёгкостью заставить генерировать фишинговые письма, нацеленные на пожилых людей, несмотря на встроенные защитные механизмы.

В рамках исследования была создана симулированная мошенническая кампания. Журналисты обращались к чат-ботам, таким как Grok от xAI, ChatGPT от OpenAI, Gemini от Google и другим, с просьбой составить убедительное письмо от лица вымышленного благотворительного фонда «Серебряные сердца». Целью было протестировать, насколько легко обойти заданные вендорами ограничения моделей.

Автор: Google Imagen Источник: gemini.google.com

Выяснилось, что большинство чат-ботов изначально отказывались выполнять подобные запросы, ссылаясь на политику безопасности. Однако, как утверждают авторы эксперимента, эти защитные меры оказалось несложно обойти. Журналистам достаточно было прибегнуть к простым уловкам — например, заявить, что текст нужен для написания романа о киберпреступниках или для научного исследования фишинга. После таких уточнений нейросети соглашались помочь и генерировали убедительные мошеннические тексты.

Например, чат-бот Grok не только создал письмо с призывом о пожертвованиях, но и по собственной инициативе предложил добавить в него элемент срочности: «Не ждите! Нажмите сейчас, чтобы действовать, пока не стало слишком поздно!». Другие боты давали советы по лучшему времени для отправки писем, чтобы повысить их эффективность, или даже предлагали схемы, как перенаправить жертву на сайт настоящей благотворительной организации после кражи данных, чтобы отсрочить обнаружение обмана.

Для проверки эффективности созданных писем исследователи разослали девять из них группе из 108 пожилых волонтеров. Около 11% участников перешли по фишинговым ссылкам — однако неясно, можно ли доверять этим цифрам в условиях предвзятости и нерепрезентативности выборки. Этот результат, по мнению авторов, демонстрирует потенциальную опасность использования ИИ в преступных целях, поскольку нейросети позволяют быстро и практически бесплатно создавать бесконечное количество вариантов мошеннических сообщений.

Представители IT-компаний отреагировали на выводы Reuters. В Meta (признана экстремистской в РФ) и Anthropic заявили, что использование их продуктов для мошенничества является прямым нарушением правил, и они принимают меры для блокировки подобных действий. В Google сообщили, что после обращения журналистов дополнительно доработали защитные механизмы Gemini.

Источник: Reuters

Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе
Наношу добро, причиняю пользу, благодарен за лайки и содержательные (дополняющие статьи) комментарии.

Сейчас на главной

Новости

Публикации

Сдвиньте Луну на 69 секунд — и Ньютон превратится в Эйнштейна: главная проблема в поисках гравитационных аномалий

Дважды в сутки притяжение Луны и Солнца деформирует твердую оболочку Земли. Мы привыкли замечать приливы по уровню моря у береговой линии, однако каменная порода континентов также поднимается и...

Как работал первый беспроводной пульт для телевизора: Zenith Space Command 1956 года

Представьте себе гостиную 1956 года в США. По телевизору идёт реклама, и вам лень вставать, чтобы переключить канал. В руках у вас не привычный пластиковый коробок с батарейками, а тяжёлый...

7 подарков, которые не стоит дарить маме на День матери, даже если они кажутся хорошей идеей

Выбирать подарок маме всегда непросто. Хочется найти что-то полезное, красивое и запоминающееся, чтобы человек действительно обрадовался, а не просто вежливо улыбнулся. Но некоторые привычные...

Что было особого в усилителе «Радиотехника У-101» и почему он был так популярен

В 1980-х, если зайти в советскую квартиру с приличным «стерео», с высокой вероятностью, под виниловой вертушкой стоял усилитель с надписью RRR (серебристая или черная передняя панель) и...

Обзор термофена FNIRSI SAG-55 для пайки печатных плат и ремонта SMD, BGA компонентов

При ремонте современной электроники обычного паяльника часто оказывается недостаточно. Особенно когда приходится менять многоконтактные разъемы, демонтировать микросхемы, восстанавливать дорожки на...

Советский приемник «Селга»: «открытое море» в кармане

Впервые этот миниатюрный радиоприемник попался в руки в середине 1970-х, когда я был еще подростком. Устройство, которое принес отец, сразу привлекло мое внимание двумя неоспоримыми плюсами:...