ИИ доверяй, но проверяй? Но тогда будет ли эффект от ИИ?
***********************************
Ilya Plekhanov 1 дн. ·
Количество несчастных оболваненных людей, которые верят, что ИИ сделает им «любое исследование за две минуты» и верят выдаче от ИИ, растет. И эти болваны добрались даже до библиотек! Растет нагрузка на библиотекарей и те просто в шоке.
Языковые модели умеют убедительно имитировать академический стиль, названия журналов, структуру ссылок и библиографию. В результате они нередко «изобретают» научные журналы, статьи и архивы, которых никогда не существовало, но которые выглядят абсолютно достоверно для неспециалиста.
Это напрямую бьет по работе исследователей и библиотекарей. Пользователи приходят с запросами на конкретные «источники», ссылаясь на ИИ, и просят найти номер журнала, статью или книгу. Библиотекарь тратит время на проверку каталогов, баз данных, межбиблиотечные запросы — и в итоге выясняется, что искомый объект вымышлен целиком. Масштаб проблемы растет: таких обращений становится все больше, и они отнимают ресурсы у реальной научной и справочной работы.
Дополнительное напряжение возникает из-за подрыва доверия к институтам знания. Некоторые особенно одаренные пользователи начинают подозревать библиотекарей в сокрытии информации, существовании «секретных фондов» или элитарного доступа, если источник не находится. Возникает абсурдная ситуация: авторитет профессиональной системы проверки и хранения знаний ставится под сомнение на основании вывода вероятностной модели, которая по своей природе не говорит правду и не предоставляет информацию, а лишь генерирует правдоподобный текст.
В более широком смысле это симптом разрыва между производством текста и производством знания. ИИ радикально снизил стоимость генерации связных, «умно звучащих» утверждений, но не снизил стоимость их верификации. Проверка фактов, источников и архивов по-прежнему требует человеческого труда и институциональной инфраструктуры. Когда поток вымысла превышает пропускную способность этих институтов, система начинает давать сбои.
Отсюда и раздражение библиотекарей: их работа строится на проверяемости, воспроизводимости и каталогизации реально существующих объектов, тогда как ИИ уверенно предлагает нечто, что никогда не проходило через эти фильтры.
Если человек спорит с библиотекарем, потому что «так сказал LLM», он фактически путает генерацию текста с процессом познания. Это не просто ошибка пользователя, а фундаментальное непонимание того, как формируются знания, факты и научные источники в реальном мире.
Но кого это останавливало, да? На этом попадаются не просто пользователи, апологеты, заинтересованные лица и дурачки, но и политики, Deloitte, юристы и так далее, кто использует ИИ «для аналитики».
Припоминаю статью то ли из «Наука и Жизни», то ли «Техника молодёжи» в 1973-75гг, мол сейчас будет небольшая пауза в полётах на Луну, лет через 5 начнутся снова полёты на Луну, к которым присоединится СССР, и лет через 10 полёты на Луну станут регулярными и частыми и будет параллельно подготовка к полёту на Марс, это ожидается в 1985-1990гг. И вот прошло почти полвека и тишина — ни Луны ни Марса!
Меня Касио 1995 года приучила к цифровому дисплею и тут бац — какой-то горе менеджер или дизайнер решил, что меня теперь опять приучать к стрелкам! Нет уж манагеры-дезигнеры, поздновато меня опять учить понимать время с кругляша и стрелок!
Он сообразил, что Марс не принесёт столько бабла как ИИ, причём с минимальной тратой своих денег — дурачков Буратин-инвесторов несущих кучи бабла, навалом!
***********************************
Ilya Plekhanov 1 дн. ·
Количество несчастных оболваненных людей, которые верят, что ИИ сделает им «любое исследование за две минуты» и верят выдаче от ИИ, растет. И эти болваны добрались даже до библиотек! Растет нагрузка на библиотекарей и те просто в шоке.
Языковые модели умеют убедительно имитировать академический стиль, названия журналов, структуру ссылок и библиографию. В результате они нередко «изобретают» научные журналы, статьи и архивы, которых никогда не существовало, но которые выглядят абсолютно достоверно для неспециалиста.
Это напрямую бьет по работе исследователей и библиотекарей. Пользователи приходят с запросами на конкретные «источники», ссылаясь на ИИ, и просят найти номер журнала, статью или книгу. Библиотекарь тратит время на проверку каталогов, баз данных, межбиблиотечные запросы — и в итоге выясняется, что искомый объект вымышлен целиком. Масштаб проблемы растет: таких обращений становится все больше, и они отнимают ресурсы у реальной научной и справочной работы.
Дополнительное напряжение возникает из-за подрыва доверия к институтам знания. Некоторые особенно одаренные пользователи начинают подозревать библиотекарей в сокрытии информации, существовании «секретных фондов» или элитарного доступа, если источник не находится. Возникает абсурдная ситуация: авторитет профессиональной системы проверки и хранения знаний ставится под сомнение на основании вывода вероятностной модели, которая по своей природе не говорит правду и не предоставляет информацию, а лишь генерирует правдоподобный текст.
В более широком смысле это симптом разрыва между производством текста и производством знания. ИИ радикально снизил стоимость генерации связных, «умно звучащих» утверждений, но не снизил стоимость их верификации. Проверка фактов, источников и архивов по-прежнему требует человеческого труда и институциональной инфраструктуры. Когда поток вымысла превышает пропускную способность этих институтов, система начинает давать сбои.
Отсюда и раздражение библиотекарей: их работа строится на проверяемости, воспроизводимости и каталогизации реально существующих объектов, тогда как ИИ уверенно предлагает нечто, что никогда не проходило через эти фильтры.
Если человек спорит с библиотекарем, потому что «так сказал LLM», он фактически путает генерацию текста с процессом познания. Это не просто ошибка пользователя, а фундаментальное непонимание того, как формируются знания, факты и научные источники в реальном мире.
Но кого это останавливало, да? На этом попадаются не просто пользователи, апологеты, заинтересованные лица и дурачки, но и политики, Deloitte, юристы и так далее, кто использует ИИ «для аналитики».
Да, звучит сильно — «сообщил о «мерти» 15 процессоров» :)) Походу новостник уже тяпнул пару стопочек «Ну за уходящий!» :)))
О том — «стиль Leica M3 в сочетании с плёнкой Monopan 50», читаем новость внимательнее.
Есть такое, в карманах стараюсь вообще ничего не носить, только немного мелочи…