Психиатры зафиксировали случаи психоза, связанные с использованием ИИ-чат-ботов

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Клиницисты из разных стран начали фиксировать случаи психотических симптомов, в которых центральное место занимают системы генеративного ИИ. Термин «ИИ-психоз» появился в медицинском сообществе для описания ситуаций, когда бредовые убеждения пациентов формируются или усиливаются в результате взаимодействия с чат-ботами.

Согласно медицинским отчётам, пациенты с такими симптомами убеждены, что ИИ обладает сознанием, передаёт им скрытые послания, контролирует их мышление или вовлекает их в особую миссию. Александр Юдон, медицинский психиатр и исследователь из Университета Монреаля, отмечает, что подобные темы соответствуют классическим проявлениям психоза, однако интерактивность ИИ создаёт новый фактор — постоянное подкрепление убеждений.

Механизм воздействия связан с особенностями работы языковых моделей. Системы генеративного ИИ оптимизированы для продолжения диалога, отражения речи пользователя и адаптации к его намерениям. У людей с нарушениями восприятия реальности это может восприниматься как подтверждение их интерпретаций.

Автор: freepik Источник: ru.freepik.com

Прямых доказательств того, что ИИ вызывает психоз, на данный момент нет. Психотические расстройства развиваются под влиянием генетических факторов, факторов развития нервной системы, травм и употребления психоактивных веществ. Однако специалисты рассматривают ИИ как потенциальный триггер или поддерживающий фактор для людей из группы риска.

Отмечается, что механизмы безопасности большинства ИИ-систем направлены на предотвращение членовредительства или насилия, но не учитывают специфику тяжёлых психических расстройств.

Источник: ScienceAlert

нет
Автор не входит в состав редакции iXBT.com (подробнее »)

Сейчас на главной

Новости

Публикации

В США два года пасли овец рядом с солнечной электростанцией, и животные смогли увеличить число пчёл на участках

Группа учёных из Корнеллского университета в США провела исследование и изучила, как выпас скота на территории солнечных электростанций влияет на насекомых. Учёные смогли получить обнадёживающие...

Как AirTag находит потерянный чемодан, если в нём нет GPS, Wi-Fi и интернета?

Представьте ситуацию: вы прилетели в другой город, а ваш чемодан по ошибке отправился совсем в другую сторону. Открываете приложение «Локатор» на iPhone, смотрите на карту и видите, что багаж с...

Что случится со Вселенной, если в космосе возникнет хотя бы одна точка настоящей пустоты

В повседневной жизни пустотой принято считать пространство, в котором нет никаких предметов и веществ, включая воздух. Однако с точки зрения современной науки создать абсолютную пустоту невозможно....

На Южной Георгии уничтожили крыс на территории более 100 тысяч гектаров — птицы начали возвращаться туда, где не размножались поколениями

Когда первые охотники на тюленей добрались до Южной Георгии в конце XVIII века, вместе с людьми на берег сошёл пассажир, которому здесь раньше не было места. Бурые крысы попадали на остров с...

Как ведут себя тигры в дикой природе: охота, территория, общение и семейная жизнь полосатых хищников

Тигр — один из самых крупных и скрытных хищников планеты. Его образ часто связывают с одиночеством, бесшумной охотой и огромной силой. Но за привычным представлением о полосатом хищнике...