Кошки на Луне и другие выдумки Google: к чему ведёт развитие ИИ?

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

В наш век информации Google стал синонимом знания. Мы привыкли доверять ему поиск ответов на любые вопросы, от рецептов яблочного пирога до сложных научных концепций. Но что, если этот цифровой оракул начнёт давать ложные предсказания?

AI overviews, абстрактная интерпретация
AI overviews, абстрактная интерпретация
Автор: Designer

Недавно Google сделал решительный шаг в сторону искусственного интеллекта, внедрив функцию «AI overviews» — краткие ответы, сгенерированные нейросетью, которые теперь часто располагаются над результатами поиска. Цель благая — предоставить пользователю информацию максимально быстро и доступно. Однако благие намерения, как известно, могут привести к неожиданным последствиям.

Представьте: вы интересуетесь историей освоения космоса и спрашиваете у Google, были ли кошки на Луне. Вместо списка сайтов с информацией о программе «Аполлон» вы получаете утвердительный ответ. Более того, ИИ уверенно заявляет, что астронавты играли с кошками на лунной поверхности, а Нил Армстронг произнёс свою знаменитую фразу о «маленьком шаге» именно благодаря кошачьей грации. Звучит забавно, не правда ли?

Проблема в том, что подобные ошибки — от смешных до потенциально опасных — встречаются в ответах ИИ Google с пугающей регулярностью. Нейросеть, генерирующая «AI overviews», пока не способна отличить правду от вымысла, а её «галлюцинации» — выдуманные факты — могут ввести в заблуждение даже самых искушённых пользователей.

Особенно тревожным фактом является склонность ИИ к воспроизведению стереотипов и предрассудков, почерпнутых из огромных массивов данных, на которых он обучался. Так, на вопрос о вероисповедании президентов США Google может выдать конспирологическую теорию, связанную с именем одного экс-президента.

Возникает вопрос: не превращается ли Google, стремясь стать идеальным источником знаний, в распространителя дезинформации?

Карикатура - ИИ предлагает закручивать гвозди отверткой
Карикатура — ИИ предлагает закручивать гвозди отверткой
Автор: Designer

Конечно, компания знает о проблеме и работает над её решением. Однако важно понимать, что мы имеем дело не просто с ошибками в коде, а с фундаментальными ограничениями современного искусственного интеллекта.

«AI overviews» — это симптом более глубокой проблемы: мы находимся на пороге новой эры, где границы между информацией и дезинформацией становятся все более размытыми.

В этой ситуации важно не терять критического мышления и помнить, что даже самые совершенные алгоритмы могут ошибаться. Google, вооружённый ИИ, обладает огромным потенциалом, но он же несёт и не менее огромную ответственность за то, какую информацию он несёт в мир.

Сейчас на главной

Новости

Публикации

Как Google выпустила смартфон с лучшей в мире камерой: обзор Google Pixel десять лет спустя

Операционная система Android неразрывно связана с компанией Google. В своё время «корпорация добра» купила перспективный проект и продолжила его развитие под своим крылом. Как итог, в конце 2000-х...

Музей AZ представляет вторую часть «тарусского блокбастера» — новая выставка нонконформистов откроется на этой неделе

19 ноября 2026 года Музей AZ представит продолжение рассказа о тарусском периоде творчества советских неофициальных художников «Территория свободы. Нонконформисты в...

Почему девушек тянет на плохих парней: эксперимент со свиданиями раскрыл неприятную правду о первом впечатлении

При первом знакомстве человеку требуется всего несколько минут, чтобы решить, нравится ему собеседник или нет. Часто возникает сильное чувство симпатии: новый знакомый кажется веселым, открытым и...

Насекомое размером с ладонь считали исчезнувшим. А потом нашли на скале посреди океана

Ночью на отвесной скале, высоко над океаном, исследователи заметили на кусте трёх крупных насекомых. Днём их не удалось найти — только под кустом остались подозрительные следы. Тогда...

✦ ИИ  Почему токенов в секунду недостаточно: как оценивать скорость локальной нейросети

Если локальная нейросеть долго молчит, а потом быстро выдаёт текст, высокая скорость в токенах в секунду не сокращает уже потраченное ожидание. Для короткого чата важнее быстро получить начало...

Зачем советский калькулятор «Электроника МК-52» оснастили внешними картриджами расширения памяти

Микрокалькулятор «Электроника МК-52» сошел с заводского конвейера в 1985 году, хотя в ранних каталогах датой значился 1983 год. Прибор весил 250 г при габаритах корпуса 212 x 78 x 42 мм и...