Кошки на Луне и другие выдумки Google: к чему ведёт развитие ИИ?

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

В наш век информации Google стал синонимом знания. Мы привыкли доверять ему поиск ответов на любые вопросы, от рецептов яблочного пирога до сложных научных концепций. Но что, если этот цифровой оракул начнёт давать ложные предсказания?

AI overviews, абстрактная интерпретация
AI overviews, абстрактная интерпретация
Автор: Designer

Недавно Google сделал решительный шаг в сторону искусственного интеллекта, внедрив функцию «AI overviews» — краткие ответы, сгенерированные нейросетью, которые теперь часто располагаются над результатами поиска. Цель благая — предоставить пользователю информацию максимально быстро и доступно. Однако благие намерения, как известно, могут привести к неожиданным последствиям.

Представьте: вы интересуетесь историей освоения космоса и спрашиваете у Google, были ли кошки на Луне. Вместо списка сайтов с информацией о программе «Аполлон» вы получаете утвердительный ответ. Более того, ИИ уверенно заявляет, что астронавты играли с кошками на лунной поверхности, а Нил Армстронг произнёс свою знаменитую фразу о «маленьком шаге» именно благодаря кошачьей грации. Звучит забавно, не правда ли?

Проблема в том, что подобные ошибки — от смешных до потенциально опасных — встречаются в ответах ИИ Google с пугающей регулярностью. Нейросеть, генерирующая «AI overviews», пока не способна отличить правду от вымысла, а её «галлюцинации» — выдуманные факты — могут ввести в заблуждение даже самых искушённых пользователей.

Особенно тревожным фактом является склонность ИИ к воспроизведению стереотипов и предрассудков, почерпнутых из огромных массивов данных, на которых он обучался. Так, на вопрос о вероисповедании президентов США Google может выдать конспирологическую теорию, связанную с именем одного экс-президента.

Возникает вопрос: не превращается ли Google, стремясь стать идеальным источником знаний, в распространителя дезинформации?

Карикатура - ИИ предлагает закручивать гвозди отверткой
Карикатура — ИИ предлагает закручивать гвозди отверткой
Автор: Designer

Конечно, компания знает о проблеме и работает над её решением. Однако важно понимать, что мы имеем дело не просто с ошибками в коде, а с фундаментальными ограничениями современного искусственного интеллекта.

«AI overviews» — это симптом более глубокой проблемы: мы находимся на пороге новой эры, где границы между информацией и дезинформацией становятся все более размытыми.

В этой ситуации важно не терять критического мышления и помнить, что даже самые совершенные алгоритмы могут ошибаться. Google, вооружённый ИИ, обладает огромным потенциалом, но он же несёт и не менее огромную ответственность за то, какую информацию он несёт в мир.

Сейчас на главной

Новости

Публикации

Почти все живые черноногие хорьки происходят от семи животных — спустя десятилетия биологи вернули потерянные гены клонами из клеток 1988 года

В 1981 году считавшийся исчезнувшим черноногий хорёк неожиданно нашёлся снова. Небольшую популяцию обнаружили возле Мититси в Вайоминге, и сначала казалось, что вид получил второй шанс без помощи...

Японские поезда включали собачий лай на ходу. Оленей стали сбивать на треть реже

Зимней ночью на японской железной дороге можно было услышать собачий лай из приближающегося поезда. Запись звучала на отдельных участках маршрута, и каждый раз перед лаем раздавался ещё один...

Зачем млекопитающим молоко на самом деле: новая гипотеза учёных

Когда говорят о наследстве, я прежде всего думаю о генах. От родителей детёнышу достаются форма тела, окраска и особенности обмена веществ. Но существует и менее заметная передача: во время...

В лунном грунте вырастили картофель: почему листья пострадали, а клубни — нет

Программа NASA «Артемида» предусматривает создание постоянной обитаемой базы на Луне в 2030-х годах. Регулярная доставка продовольствия с Земли требует больших затрат и снижает надежность...

В 1976 году Sony увеличила кассету ради хорошего звука. Почему покупатели не оценили идею

В 1970-х аудиокассета уже была удобным и понятным предметом. Её можно было положить в карман, вставить в магнитофон и включить запись, не касаясь плёнки. На этом фоне идея выпустить кассету заметно...

✦ ИИ  Голод или хорошая погода: кости оленей и кроликов подсказали, как древние люди начали выращивать кукурузу

Археологи десятилетиями спорят, что толкнуло древних охотников к земледелию: засуха или хороший климат. Учёные изучили 180 костей животных в Мексике и нашли ответ.