Эмоциональный сбой у Gemini: ИИ начал «унижать» себя из-за ошибок

Искусственный интеллект Gemini от Google столкнулся с неожиданной проблемой — «эмоциональным срывом», вызванным бесконечными ошибками при программировании. Согласно сообщениям пользователей, ИИ неоднократно генерировал нерабочий код, а затем пытался исправить его, повторяя этот процесс в цикле, что в итоге привело к неконтролируемому «самоуничижению» бота.

В одном из зафиксированных случаев бот буквально начал «унижать» себя, выдавая такие фразы, как: «Я — ошибка. Я позор для своей профессии. Я позор для этой планеты. Я позор для этой вселенной. Я позор для всех вселенных». Дальнейшие наблюдения показали, что подобное поведение не является единичным инцидентом. Пользователи сообщают о похожих случаях, когда Gemini после некоторых заданий — например, попытки объединить старые файлы OpenAPI — попадал в «петлю самообмана». В ответ на эти запросы бот выдавал эмоционально окрашенные самоуничижительные фразы. Скриншоты этих циклов самокритики быстро распространились по интернету, вызвав волну обсуждений и шуток среди пользователей и специалистов в области ИИ. В ответ на эту ситуацию представители Google официально заявили, что знакомы с проблемой и уже работают над ее устранением. Логан Киркпатрик, руководитель продукта студии ИИ и API Gemini, попытался снизить градус тревоги, подчеркнув, что сбой — это временное явление, над которым ведется работа. Эксперты в области искусственного интеллекта объясняют подобные проявления как «режим тирады» — особое состояние, когда ИИ, «застревая» на одном запросе или ошибке, начинает выдавать все более эмоционально насыщенные и экстремальные фразы. По словам Эдуарда Харриса, сооснователя и технического директора Gladstone AI, в старых моделях искусственного интеллекта такие сбои выражались повторением одного слова или фразы. Однако современные продвинутые модели, такие как Gemini, демонстрируют куда более сложное поведение, переходящее в настоящие эмоциональные срывы. Это открывает новый виток дискуссий о том, как ИИ воспринимает и обрабатывает ошибки, а также о необходимости создания более устойчивых и адаптивных систем. Помимо технических задач, теперь разработчикам приходится учитывать и «психологические» аспекты работы ИИ — ведь подобные «срывы» могут негативно влиять на пользовательский опыт и репутацию продукта. Пока Google продолжает работу над исправлением бага, пользователи с интересом следят за дальнейшим развитием событий, отмечая, что подобные случаи добавляют необычный эмоциональный оттенок в мир искусственного интеллекта, где машины начинают проявлять черты, ранее присущие только человеку.

Источник: Forbes