Кошки на Луне и другие выдумки Google: к чему ведёт развитие ИИ?

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Рассуждения | Оффтопик

В наш век информации Google стал синонимом знания. Мы привыкли доверять ему поиск ответов на любые вопросы, от рецептов яблочного пирога до сложных научных концепций. Но что, если этот цифровой оракул начнёт давать ложные предсказания?

AI overviews, абстрактная интерпретация
Автор: Designer

Недавно Google сделал решительный шаг в сторону искусственного интеллекта, внедрив функцию «AI overviews» — краткие ответы, сгенерированные нейросетью, которые теперь часто располагаются над результатами поиска. Цель благая — предоставить пользователю информацию максимально быстро и доступно. Однако благие намерения, как известно, могут привести к неожиданным последствиям.

Представьте: вы интересуетесь историей освоения космоса и спрашиваете у Google, были ли кошки на Луне. Вместо списка сайтов с информацией о программе «Аполлон» вы получаете утвердительный ответ. Более того, ИИ уверенно заявляет, что астронавты играли с кошками на лунной поверхности, а Нил Армстронг произнёс свою знаменитую фразу о «маленьком шаге» именно благодаря кошачьей грации. Звучит забавно, не правда ли?

Проблема в том, что подобные ошибки — от смешных до потенциально опасных — встречаются в ответах ИИ Google с пугающей регулярностью. Нейросеть, генерирующая «AI overviews», пока не способна отличить правду от вымысла, а её «галлюцинации» — выдуманные факты — могут ввести в заблуждение даже самых искушённых пользователей.

Особенно тревожным фактом является склонность ИИ к воспроизведению стереотипов и предрассудков, почерпнутых из огромных массивов данных, на которых он обучался. Так, на вопрос о вероисповедании президентов США Google может выдать конспирологическую теорию, связанную с именем одного экс-президента.

Возникает вопрос: не превращается ли Google, стремясь стать идеальным источником знаний, в распространителя дезинформации?

Карикатура — ИИ предлагает закручивать гвозди отверткой
Автор: Designer

Конечно, компания знает о проблеме и работает над её решением. Однако важно понимать, что мы имеем дело не просто с ошибками в коде, а с фундаментальными ограничениями современного искусственного интеллекта.

«AI overviews» — это симптом более глубокой проблемы: мы находимся на пороге новой эры, где границы между информацией и дезинформацией становятся все более размытыми.

В этой ситуации важно не терять критического мышления и помнить, что даже самые совершенные алгоритмы могут ошибаться. Google, вооружённый ИИ, обладает огромным потенциалом, но он же несёт и не менее огромную ответственность за то, какую информацию он несёт в мир.

Сейчас на главной

Новости

Публикации

Ноутбуки Gigabyte на Computex 2024: 14-е поколение Intel Core и дискретная графика

Gigabyte привезла на Computex 2024 и ноутбуки. Основной упор делался на игровые модели под брендом Aorus, хотя был и геймерский ноутбук начального уровня под именем самой Gigabyte. Но обо всём по...

Какие популярные виды пластика (не) перерабатываются в России: эко-гайд. Что делать с каждым потребителю

Признаюсь честно, я не из тех, кто готов платить втридорога за органические продукты или тратить часы на сортировку мусора. Но недавно я задумался: а что, если можно внести свой вклад в защиту...

Как восстановить пластик в машине своими руками: несколько рабочих советов

В каждом автомобиле имеются детали, которые не влияют на ходовые качества, однако, такие детали, как пластиковые элементы салона или декоративные элементы кузова, значительно влияют на эстетический...

Главное — не размер, а умение пользоваться... карандашом: обзор новой выставки графики в Третьяковке

В основном здании Государственной Третьяковской галереи систематически проходят выставки, где демонстрируются работы из фондов. На этот раз вновь в залах с 49 по 54 решили показать графику, но в...

Стирально-сушильная машина или отдельная сушилка: что выбрать

Функция сушки вещей может быть реализована как в отдельном приборе, так и быть комбинирована со стиральной машиной. Стоит ли доплачивать и выделять место под 2-й прибор? Сравнение различных...

TANCHJlM 4U: обзор универсальных наушников с переключателем

Сегодня на моём столе новинка, которую я ждал с нетерпением. Наушники TANCHJlM 4U могут похвастаться установленным физическим переключателем, оказывающим очень заметное влияние на характер...