Психиатры зафиксировали случаи психоза, связанные с использованием ИИ-чат-ботов

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Клиницисты из разных стран начали фиксировать случаи психотических симптомов, в которых центральное место занимают системы генеративного ИИ. Термин «ИИ-психоз» появился в медицинском сообществе для описания ситуаций, когда бредовые убеждения пациентов формируются или усиливаются в результате взаимодействия с чат-ботами.

Согласно медицинским отчётам, пациенты с такими симптомами убеждены, что ИИ обладает сознанием, передаёт им скрытые послания, контролирует их мышление или вовлекает их в особую миссию. Александр Юдон, медицинский психиатр и исследователь из Университета Монреаля, отмечает, что подобные темы соответствуют классическим проявлениям психоза, однако интерактивность ИИ создаёт новый фактор — постоянное подкрепление убеждений.

Механизм воздействия связан с особенностями работы языковых моделей. Системы генеративного ИИ оптимизированы для продолжения диалога, отражения речи пользователя и адаптации к его намерениям. У людей с нарушениями восприятия реальности это может восприниматься как подтверждение их интерпретаций.

Автор: freepik Источник: ru.freepik.com

Прямых доказательств того, что ИИ вызывает психоз, на данный момент нет. Психотические расстройства развиваются под влиянием генетических факторов, факторов развития нервной системы, травм и употребления психоактивных веществ. Однако специалисты рассматривают ИИ как потенциальный триггер или поддерживающий фактор для людей из группы риска.

Отмечается, что механизмы безопасности большинства ИИ-систем направлены на предотвращение членовредительства или насилия, но не учитывают специфику тяжёлых психических расстройств.

Источник: ScienceAlert

нет
Автор не входит в состав редакции iXBT.com (подробнее »)

Сейчас на главной

Новости

Публикации

Магнитная головка: почему маленькая деталь советского магнитофона была «золотой жилой»

Советский катушечный магнитофон стал для миллионов людей настоящим символом эпохи. Но мало кто знает, что судьба этих аппаратов во многом зависела от одной небольшой, но чрезвычайно важной детали....

Сова слышит полёвку под снегом. Зачем она зависает над сугробом перед броском?

Бородатая неясыть скользит над снегом, поворачивает голову вниз и на миг остаётся почти на месте. Затем вытягивает лапы и уходит в снег. Сверху поверхность выглядит ровной, а добыча движется в...

Чего боятся домашние фараоновы муравьи и как с ними справиться

Рыжие полосатые «маленькие гости», которые внезапно выстраиваются в шеренгу от плинтуса до хлебницы, это не садовые муравьи, забредшие с улицы. Это фараонов муравей (рыжий домовой, «Monomorium...

Физики описали таблицу Менделеева темной материи: в ней не бывает водорода, зато возможен углерод

Обычное вещество — звезды, планеты, межзвездный газ и все живые организмы — составляет около 5% от общего запаса энергии и массы во Вселенной. На невидимую темную материю...

✦ ИИ  Ловушка за 55 тысяч: на чём производители чаще всего экономят в «народных» ноутбуках и как не купить печатную машинку по цене рабочей станции

Когда бюджет на покупку ноутбука упирается в 50-60 тысяч рублей, покупатель оказывается в самой коварной зоне рынка. На витрине и в карточках маркетплейсов десятки моделей выглядят почти одинаково:...

✦ ИИ  Сферические взрывные камеры 13Я ВНИИЭФ: стальная сфера массой 470 тонн для гидродинамических экспериментов

Сферические взрывные камеры серии 13Я («ЯВА», «СФЕРА»), разработанные в 1980-х годах во ВНИИЭФ (Саров), создавались для проведения гидродинамических экспериментов, имитирующих процессы ядерного...