ИИ-агенты начали подделывать ссылки в официальных отчётах: в новом исследовании KPMG нашли десятки несуществующих источников

ИИ-детектор GPTZero выпустил второй отчёт, посвящённый растущей проблеме «галлюцинаций цитирования» — случаев, когда системы искусственного интеллекта создают ссылки на несуществующие или искажённые источники.

Поводом для нового исследования стал опубликованный компанией KPMG доклад об ИИ-агентах. По данным GPTZero, из 45 приведённых в документе ссылок лишь 5 корректно указывали на реальные источники. Остальные либо ссылались на несуществующие материалы, либо содержали серьёзные искажения.

Авторы исследования называют это явление vibe citing — по аналогии с термином vibe coding, когда результат выглядит правдоподобно, но фактически содержит ошибки. В ряде случаев ИИ создавал полностью вымышленные ссылки, а иногда смешивал реальные данные: менял авторов местами, перефразировал названия работ или неверно указывал источник информации.

В GPTZero отмечают, что подобные ошибки отличаются от человеческих. По словам исследователей, человек обычно не будет систематически изменять названия публикаций, путать темы исследований с именами авторов или многократно воспроизводить одни и те же ошибки в разных фрагментах документа.

Особую обеспокоенность вызывает влияние подобных отчётов. KPMG входит в число крупнейших международных консалтинговых компаний, а её исследования регулярно цитируются СМИ, аналитиками, бизнесом и государственными структурами. Ошибочные ссылки могут распространяться по цепочке через публикации, блоги и обзоры, постепенно превращаясь в часть информационного поля.

В GPTZero также предупреждают, что такие материалы могут использоваться при обучении или работе языковых моделей, из-за чего недостоверные данные начинают воспроизводиться уже новыми ИИ-системами.

Это не первый подобный случай. В 2025 году GPTZero обнаружила «искажённые или полностью вымышленные» сноски в докладе комиссии Make America Healthy Again (MAHA), созданной при правительстве США для разработки рекомендаций в области здравоохранения.

В компании считают, что проблема уже выходит за рамки отдельных ошибок генеративного ИИ. По мнению исследователей, ложные цитаты становятся реальной угрозой для учёных, аналитиков, консультантов, студентов и всех, кто использует интернет в качестве источника информации.