Чернокожих викингов не будет? Google временно отключает функцию генерации изображений людей в чат-боте Gemini

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

«Gemini image generation ошиблась. Мы сделаем лучше» — запись с таким названием появилась в официальном блоге Google. Причиной появления записи стала критика в адрес того, какие изображения людей создает чат-бот Gemini. В ответ на неё корпорация Google приостановила работу сервиса, ссылаясь на необходимость улучшить его и повысить точность создаваемых изображений.

Автор: нейросеть Kandinsky

Такое решение было принято после получения отзывов пользователей, указывающих на неточности и оскорбительные выводы в сгенерированных изображениях. Функция, основанная на модели искусственного интеллекта Imagen 2, столкнулась с проблемами при создании соответствующих и непредвзятых изображений, что привело к приостановке чат-бота для его дальнейшей настройки.

Google признали наличие этих проблем, объяснив их трудностями при точной настройке модели искусственного интеллекта, нужных, чтобы избежать неуместных или предвзятых представлений при стремлении к открытости и разнообразию. Несмотря на усилия компании по устранению проблем, наблюдавшихся в более ранних технологиях создания изображений, эта функция столкнулась со значительными препятствиями.

Иногда она создавала ненужные изображения или проявляла чрезмерную осторожность, не в состоянии генерировать изображения для определенных запросов. Как правило, речь идёт о том, что Gemini создавал изображения чернокожих людей по тем запросам, где в итоге должен был получиться белый человек.

В сети можно найти результаты подобных запросов, где викинги или отцы-основатели Америке имеют внешность типичного жителя Африки. Более того, есть примеры того как по запросу создания изображения немецких солдат 3-го рейха, Gemini вообще игнорировал людей с европейской внешностью.

В записи в официальном блоге старший вице-президент Прабхакар Рагхаван открыто признал проблему и объяснил, что цель приостановки Gemini состоит в том, чтобы устранить её с помощью обширных улучшений и тестирования, прежде чем снова сделать эту функцию доступной. Он также указал на проблемы в обеспечении надежности искусственного интеллекта, особенно в отношении деликатных тем, подчеркнув постоянные усилия по повышению точности технологии.

Даже общественные деятели, включая Илона Маска и лидера американских республиканцев Вивека Рамасвами, раскритиковали Gemini за создание изображений, которые, по их утверждению, исторически неточны и не учитывают расовых соображений.

В свою очередь Google заявили, что усердно работают над устранением недавних проблем и планируют в ближайшее время переиздать улучшенную версию функции генерации изображений.

Источник: blog.google

2 комментария

2
За что боролись, на то и напоролись. Интересно, а вот по мнению гугла, викинги только чернокожие, или еще и лгбт? Иначе не толерантно будет…

Добавить комментарий

Сейчас на главной

Новости

Публикации

Магнитная головка: почему маленькая деталь советского магнитофона была «золотой жилой»

Советский катушечный магнитофон стал для миллионов людей настоящим символом эпохи. Но мало кто знает, что судьба этих аппаратов во многом зависела от одной небольшой, но чрезвычайно важной детали....

Сова слышит полёвку под снегом. Зачем она зависает над сугробом перед броском?

Бородатая неясыть скользит над снегом, поворачивает голову вниз и на миг остаётся почти на месте. Затем вытягивает лапы и уходит в снег. Сверху поверхность выглядит ровной, а добыча движется в...

Чего боятся домашние фараоновы муравьи и как с ними справиться

Рыжие полосатые «маленькие гости», которые внезапно выстраиваются в шеренгу от плинтуса до хлебницы, это не садовые муравьи, забредшие с улицы. Это фараонов муравей (рыжий домовой, «Monomorium...

Физики описали таблицу Менделеева темной материи: в ней не бывает водорода, зато возможен углерод

Обычное вещество — звезды, планеты, межзвездный газ и все живые организмы — составляет около 5% от общего запаса энергии и массы во Вселенной. На невидимую темную материю...

✦ ИИ  Ловушка за 55 тысяч: на чём производители чаще всего экономят в «народных» ноутбуках и как не купить печатную машинку по цене рабочей станции

Когда бюджет на покупку ноутбука упирается в 50-60 тысяч рублей, покупатель оказывается в самой коварной зоне рынка. На витрине и в карточках маркетплейсов десятки моделей выглядят почти одинаково:...

✦ ИИ  Сферические взрывные камеры 13Я ВНИИЭФ: стальная сфера массой 470 тонн для гидродинамических экспериментов

Сферические взрывные камеры серии 13Я («ЯВА», «СФЕРА»), разработанные в 1980-х годах во ВНИИЭФ (Саров), создавались для проведения гидродинамических экспериментов, имитирующих процессы ядерного...