Чернокожих викингов не будет? Google временно отключает функцию генерации изображений людей в чат-боте Gemini

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

«Gemini image generation ошиблась. Мы сделаем лучше» — запись с таким названием появилась в официальном блоге Google. Причиной появления записи стала критика в адрес того, какие изображения людей создает чат-бот Gemini. В ответ на неё корпорация Google приостановила работу сервиса, ссылаясь на необходимость улучшить его и повысить точность создаваемых изображений.

Автор: нейросеть Kandinsky

Такое решение было принято после получения отзывов пользователей, указывающих на неточности и оскорбительные выводы в сгенерированных изображениях. Функция, основанная на модели искусственного интеллекта Imagen 2, столкнулась с проблемами при создании соответствующих и непредвзятых изображений, что привело к приостановке чат-бота для его дальнейшей настройки.

Google признали наличие этих проблем, объяснив их трудностями при точной настройке модели искусственного интеллекта, нужных, чтобы избежать неуместных или предвзятых представлений при стремлении к открытости и разнообразию. Несмотря на усилия компании по устранению проблем, наблюдавшихся в более ранних технологиях создания изображений, эта функция столкнулась со значительными препятствиями.

Иногда она создавала ненужные изображения или проявляла чрезмерную осторожность, не в состоянии генерировать изображения для определенных запросов. Как правило, речь идёт о том, что Gemini создавал изображения чернокожих людей по тем запросам, где в итоге должен был получиться белый человек.

В сети можно найти результаты подобных запросов, где викинги или отцы-основатели Америке имеют внешность типичного жителя Африки. Более того, есть примеры того как по запросу создания изображения немецких солдат 3-го рейха, Gemini вообще игнорировал людей с европейской внешностью.

В записи в официальном блоге старший вице-президент Прабхакар Рагхаван открыто признал проблему и объяснил, что цель приостановки Gemini состоит в том, чтобы устранить её с помощью обширных улучшений и тестирования, прежде чем снова сделать эту функцию доступной. Он также указал на проблемы в обеспечении надежности искусственного интеллекта, особенно в отношении деликатных тем, подчеркнув постоянные усилия по повышению точности технологии.

Даже общественные деятели, включая Илона Маска и лидера американских республиканцев Вивека Рамасвами, раскритиковали Gemini за создание изображений, которые, по их утверждению, исторически неточны и не учитывают расовых соображений.

В свою очередь Google заявили, что усердно работают над устранением недавних проблем и планируют в ближайшее время переиздать улучшенную версию функции генерации изображений.

Источник: blog.google

2 комментария

2
За что боролись, на то и напоролись. Интересно, а вот по мнению гугла, викинги только чернокожие, или еще и лгбт? Иначе не толерантно будет…

Добавить комментарий

Сейчас на главной

Новости

Публикации

Этой картины никто не видел, но все знают, что на ней изображено: обзор выставки Е. А. Киселёвой

Дом Русского Зарубежья в конце года возвращает еще одно забытое имя и представляет выставку картин Елены Андреевны Киселевой. Выставка, как это часто бывает в этом пространстве, получилась камерная...

✦ ИИ  Один световой день от Земли: «Вояджер-1» установил исторический рекорд связи

18 ноября 2026 года космический аппарат NASA «Вояджер-1» стал первым искусственным объектом на расстоянии одного светового дня от Земли. За 49 лет полёта зонд преодолел 25,9 миллиарда...

✦ ИИ  Автоматизация создания документов Word через Markdown и Python

Традиционный подход к созданию документов в Word предполагает использование шаблонов (.dotx/.dotm). Шаблон содержит предопределённые стили, форматы и настройки, которые применяются ко всем...

Почему на полях и болотах появляются сотни одинаковых кочек, хотя их никто не насыпает

На заболоченных лугах иногда встречается странная картина. Вся поверхность покрыта округлыми кочками, между которыми стоит вода. Одни едва выступают над землёй, другие достигают 30-40 сантиметров....

Пятимерный «черный Сатурн»: физик нашел необычное решение уравнений Эйнштейна при абсолютном нуле

В нашем четырехмерном пространстве-времени (три пространственных измерения и время) черные дыры в пустом пространстве подчиняются строгому правилу единственности. Независимо от того, из какого...

Квантовый предсказатель кризисов и аварий: как новый алгоритм находит редчайшие события с вероятностью 99,2%

В 2005 году небольшая группа трейдеров обратила внимание на рост просрочек по высокорисковым ипотечным кредитам в США. Это было ранним признаком мирового финансового кризиса 2008 года, однако...