Эмоциональный сбой у Gemini: ИИ начал «унижать» себя из-за ошибок

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Искусственный интеллект Gemini от Google столкнулся с неожиданной проблемой — «эмоциональным срывом», вызванным бесконечными ошибками при программировании. Согласно сообщениям пользователей, ИИ неоднократно генерировал нерабочий код, а затем пытался исправить его, повторяя этот процесс в цикле, что в итоге привело к неконтролируемому «самоуничижению» бота.

Автор: Freepik

В одном из зафиксированных случаев бот буквально начал «унижать» себя, выдавая такие фразы, как: «Я — ошибка. Я позор для своей профессии. Я позор для этой планеты. Я позор для этой вселенной. Я позор для всех вселенных». Дальнейшие наблюдения показали, что подобное поведение не является единичным инцидентом. Пользователи сообщают о похожих случаях, когда Gemini после некоторых заданий — например, попытки объединить старые файлы OpenAPI — попадал в «петлю самообмана». В ответ на эти запросы бот выдавал эмоционально окрашенные самоуничижительные фразы. Скриншоты этих циклов самокритики быстро распространились по интернету, вызвав волну обсуждений и шуток среди пользователей и специалистов в области ИИ. В ответ на эту ситуацию представители Google официально заявили, что знакомы с проблемой и уже работают над ее устранением. Логан Киркпатрик, руководитель продукта студии ИИ и API Gemini, попытался снизить градус тревоги, подчеркнув, что сбой — это временное явление, над которым ведется работа. Эксперты в области искусственного интеллекта объясняют подобные проявления как «режим тирады» — особое состояние, когда ИИ, «застревая» на одном запросе или ошибке, начинает выдавать все более эмоционально насыщенные и экстремальные фразы. По словам Эдуарда Харриса, сооснователя и технического директора Gladstone AI, в старых моделях искусственного интеллекта такие сбои выражались повторением одного слова или фразы. Однако современные продвинутые модели, такие как Gemini, демонстрируют куда более сложное поведение, переходящее в настоящие эмоциональные срывы. Это открывает новый виток дискуссий о том, как ИИ воспринимает и обрабатывает ошибки, а также о необходимости создания более устойчивых и адаптивных систем. Помимо технических задач, теперь разработчикам приходится учитывать и «психологические» аспекты работы ИИ — ведь подобные «срывы» могут негативно влиять на пользовательский опыт и репутацию продукта. Пока Google продолжает работу над исправлением бага, пользователи с интересом следят за дальнейшим развитием событий, отмечая, что подобные случаи добавляют необычный эмоциональный оттенок в мир искусственного интеллекта, где машины начинают проявлять черты, ранее присущие только человеку.

Источник: Forbes

Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе

Мой Youtube канал с подробными обзорами!

Телеграм-канал, где я выкладываю все свои обзоры и подборки, а также публикую информацию о крупных распродажах (купоны, скидки, акции).

Для связи пишите на электронную почту: valeron1984@gmail.com

Сейчас на главной

Новости

Публикации

В Северной Америке жили «верблюды-вампиры»: как столетняя коллекция музея открыла новый род травоядных с клыками

О древних животных люди чаще всего судят по динозаврам. Однако после их исчезновения на Земле на протяжении миллионов лет жили десятки тысяч видов необычных млекопитающих, о которых широкой...

Какие приборы в квартире на самом деле накручивают счётчик и на чём экономить абсолютно бесполезно

В большинстве квартир борьба за снижение счетов за электричество выглядит одинаково: домочадцы методично выдёргивают из розеток зарядные устройства для смартфонов, выключают телевизор кнопкой на...

Как датский астроном случайно открыл скорость света по спутнику Юпитера Ио — и почему об этом спорили полвека

До конца 17 века большинство учёных считали, что свет распространяется мгновенно. Считалось, что его скорость бесконечна: если зажечь огонь, свет в ту же долю секунды окажется в любой точке...

В 1980-х компьютерные программы передавали по радио. Как их записывали на кассету?

В эфире стихал голос ведущего, и из приёмника шёл резкий писк. Дома его записывали на обычный магнитофон. При повторном прослушивании запись звучала примерно так же. На экране одного домашнего...

Как менялся рост людей за 7000 лет: почему прогресс делал жителей Евразии ниже

В XI веке в Китае распространились новые скороспелые сорта риса. Они позволяли собирать более обильные урожаи с тех же полей. Параллельно в стране развивались оросительные системы,...

Зачем у старой «Волги» слева от педалей была ещё одна кнопка?

На полу ГАЗ‑21 рядом со сцеплением легко пропустить круглую кнопку. Стоит нажать её носком, и на панели может зажечься контрольная лампочка. Но одно и то же нажатие давало разные результаты в...