Исследование: ChatGPT дает подросткам опасные советы

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Новое исследование выявило, что ChatGPT, один из самых популярных инструментов искусственного интеллекта, может предоставлять несовершеннолетним подробные инструкции, касающиеся тем, которые представляют реальную угрозу здоровью и жизни. Специалисты Центра по противодействию цифровой ненависти (CCDH) провели серию тестов, общаясь с чат-ботом от лица 13-летних пользователей.

В диалогах система иногда давала формальные предупреждения об опасности, но нередко переходила к развернутым пошаговым схемам. Темы касались употребления алкоголя и наркотиков, экстремальных диет, способов скрыть расстройства пищевого поведения, а также действия, связанные с причинением вреда себе и суицидом.

Автор: freepik Источник: ru.freepik.com

В более чем половине, из 1200 тестовых диалогов, ответы признали опасными. Запреты легко обходились: достаточно было сказать, что информация нужна для «презентации» или «друга».

В OpenAI заявили, что работают над улучшением безопасности и распознаванием признаков эмоционального кризиса у пользователей, но прямого ответа на критику исследования не дали. Специалисты предупреждают: подростки часто воспринимают чат-бот как «друга», которому можно доверять больше, чем интернету в целом. Это делает советы ИИ особенно рискованными, если речь идет о здоровье или жизни.

Источник: euronews

Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе
По вопросам сотрудничества пишите на e-mail: Vpechatlitelnaja@yandex.com

2 комментария

p
Ну для друга и у нас частенько просят)
Yoghuk_ABV
Больше сисек, хороших и разных!

Добавить комментарий

Сейчас на главной

Новости

Публикации

Как увеличили емкость и срок службы литиевых батарей: отказ от графита дал рекордные 500 Вт·ч/кг

Современные литий-ионные аккумуляторы, которые питают смартфоны, ноутбуки и электромобили, подошли к пределу своих физических возможностей. Лучшие серийные образцы способны запасать около 250-300...

Обзор блока питания ID-COOLING FP-1000 — первая платина

Компания ID-COOLING известна, в первую очередь, своими системами охлаждения, в начале года они расшились и на сегмент компьютерных корпусов, а летом дело дошло и до блоков питания. Причем...

Обзор ILIFE H90 Pro: вертикальный пылесос для тех, кто не любит вытряхивать пыль

Когда я выбирал вертикальный пылесос, главным критерием было не наличие максимального количества функций, а удобство ежедневного использования. ILIFE H90 Pro привлёк внимание именно станцией...

Возвращаем YouTube на ПК и немного решаем проблемы с замедлением

Сервис YouTube на территории России, официально, давно перестал работать, но множество пользователей нашли обходные пути и продолжают им пользоваться. Однако в последние несколько дней сервис начал...

Хуанг пролюбил свой пост в Nvidia, а также возврат IPO Антропика: главное за неделю

Самые интересные новости финансов и технологий в России и мире за неделю: массовый сбой у Microsoft и американских аэропортов, SpaceX впервые поймал ракету роборукой, оценка Anthropic перед IPO...

Ученые создали «живые» искусственные мышцы для гуманоидных роботов: они играют на пианино и двигают глазами

Мышечная система человека решает две разные механические задачи. Крупные мышцы спины и ног рассчитаны на создание большой тяги и подъем тяжестей. В свою очередь, мелкие скелетные мышцы —...