Психиатры зафиксировали случаи психоза, связанные с использованием ИИ-чат-ботов

Клиницисты из разных стран начали фиксировать случаи психотических симптомов, в которых центральное место занимают системы генеративного ИИ. Термин «ИИ-психоз» появился в медицинском сообществе для описания ситуаций, когда бредовые убеждения пациентов формируются или усиливаются в результате взаимодействия с чат-ботами.

Согласно медицинским отчётам, пациенты с такими симптомами убеждены, что ИИ обладает сознанием, передаёт им скрытые послания, контролирует их мышление или вовлекает их в особую миссию. Александр Юдон, медицинский психиатр и исследователь из Университета Монреаля, отмечает, что подобные темы соответствуют классическим проявлениям психоза, однако интерактивность ИИ создаёт новый фактор — постоянное подкрепление убеждений.

Механизм воздействия связан с особенностями работы языковых моделей. Системы генеративного ИИ оптимизированы для продолжения диалога, отражения речи пользователя и адаптации к его намерениям. У людей с нарушениями восприятия реальности это может восприниматься как подтверждение их интерпретаций.

Прямых доказательств того, что ИИ вызывает психоз, на данный момент нет. Психотические расстройства развиваются под влиянием генетических факторов, факторов развития нервной системы, травм и употребления психоактивных веществ. Однако специалисты рассматривают ИИ как потенциальный триггер или поддерживающий фактор для людей из группы риска.

Отмечается, что механизмы безопасности большинства ИИ-систем направлены на предотвращение членовредительства или насилия, но не учитывают специфику тяжёлых психических расстройств.

Источник: ScienceAlert