Чернокожих викингов не будет? Google временно отключает функцию генерации изображений людей в чат-боте Gemini

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

«Gemini image generation ошиблась. Мы сделаем лучше» — запись с таким названием появилась в официальном блоге Google. Причиной появления записи стала критика в адрес того, какие изображения людей создает чат-бот Gemini. В ответ на неё корпорация Google приостановила работу сервиса, ссылаясь на необходимость улучшить его и повысить точность создаваемых изображений.

Автор: нейросеть Kandinsky

Такое решение было принято после получения отзывов пользователей, указывающих на неточности и оскорбительные выводы в сгенерированных изображениях. Функция, основанная на модели искусственного интеллекта Imagen 2, столкнулась с проблемами при создании соответствующих и непредвзятых изображений, что привело к приостановке чат-бота для его дальнейшей настройки.

Google признали наличие этих проблем, объяснив их трудностями при точной настройке модели искусственного интеллекта, нужных, чтобы избежать неуместных или предвзятых представлений при стремлении к открытости и разнообразию. Несмотря на усилия компании по устранению проблем, наблюдавшихся в более ранних технологиях создания изображений, эта функция столкнулась со значительными препятствиями.

Иногда она создавала ненужные изображения или проявляла чрезмерную осторожность, не в состоянии генерировать изображения для определенных запросов. Как правило, речь идёт о том, что Gemini создавал изображения чернокожих людей по тем запросам, где в итоге должен был получиться белый человек.

В сети можно найти результаты подобных запросов, где викинги или отцы-основатели Америке имеют внешность типичного жителя Африки. Более того, есть примеры того как по запросу создания изображения немецких солдат 3-го рейха, Gemini вообще игнорировал людей с европейской внешностью.

В записи в официальном блоге старший вице-президент Прабхакар Рагхаван открыто признал проблему и объяснил, что цель приостановки Gemini состоит в том, чтобы устранить её с помощью обширных улучшений и тестирования, прежде чем снова сделать эту функцию доступной. Он также указал на проблемы в обеспечении надежности искусственного интеллекта, особенно в отношении деликатных тем, подчеркнув постоянные усилия по повышению точности технологии.

Даже общественные деятели, включая Илона Маска и лидера американских республиканцев Вивека Рамасвами, раскритиковали Gemini за создание изображений, которые, по их утверждению, исторически неточны и не учитывают расовых соображений.

В свою очередь Google заявили, что усердно работают над устранением недавних проблем и планируют в ближайшее время переиздать улучшенную версию функции генерации изображений.

Источник: blog.google

2 комментария

2
За что боролись, на то и напоролись. Интересно, а вот по мнению гугла, викинги только чернокожие, или еще и лгбт? Иначе не толерантно будет…

Добавить комментарий

Сейчас на главной

Новости

Публикации

NASA запустило «Вояджер-1» вторым, но к отметке в световые сутки он пришел на 10 лет раньше: что затормозило «Вояджер-2» на краю Солнечной системы?

18 ноября космический аппарат «Вояджер-1» достиг удаления от Земли, при котором радиосигналу требуется ровно двадцать четыре часа, чтобы преодолеть это расстояние в одну сторону. В этот день...

Марс влажнее, чем думали: Curiosity нашел признаки современной жидкой воды у поверхности

Атмосфера современного Марса более чем на 95 процентов состоит из углекислого газа и постоянно меняется в объеме в зависимости от времени года. Каждую зиму на том полюсе планеты, который отвернут...

A4TECH Bloody MS98 Plus — обзор механической клавиатуры с горячей заменой магнитных свитчей

Сегодня на обзоре новая модель MS98 Plus от A4Tech Bloody со съемными магнитным свитчами. 98 в названии говорит нам о формате клавиатуры, но клавиш здесь 99, т.к. сюда добавили еще фирменную...

Как радиация разрушает электронику и почему всего одна частица может вывести спутник из строя

В открытом космосе, внутри ядерных реакторов и в медицинских центрах лучевой терапии электронные приборы работают под постоянным воздействием радиации. Самая опасная ситуация для такой...

Сколько рук у осьминога: почему учёные считают их не щупальцами, а чем-то гораздо более необычным?

Осьминог — одно из самых удивительных беспозвоночных на планете. Его восемь длинных гибких конечностей способны одновременно удерживать добычу, исследовать морское дно, открывать...

Как кассета без ленты передавала музыку с телефона в старую автомагнитолу

Вставляешь в старую автомагнитолу кассету, протягиваешь провод к телефону и нажимаешь «Play». В динамиках играет музыка, хотя внутри кассеты нет магнитной ленты. Магнитола при этом работает в...