Мой друг член какого-то там всемирного астрономического сообщества, общается с иностранными астрономами, конечно они не наши олигархи, но живут очень даже прилично без всякого страха оказаться без работы.
«Астрономы рассчитывают с помощью установки с километровой базой обнаруживать спутники у далеких экзопланет на расстояниях до 200 парсек» -а смысл в этих поисках? Ах вот для чего — «Реализация проекта потребует значительных инвестиций — порядка нескольких миллиардов долларов»! Похоже астроном — самая стабильная и высокооплачиваемая работа.
«для обсуждения потенциальных способов смягчения этих проблем.» — так может проще не создавать эти проблемы, особенно учитывая, что для получения 200вт света придётся затратить ресурсов, горючего, материалов на тысячи мегаватт.
ИИ доверяй, но проверяй? Но тогда будет ли эффект от ИИ?
***********************************
Ilya Plekhanov 1 дн. ·
Количество несчастных оболваненных людей, которые верят, что ИИ сделает им «любое исследование за две минуты» и верят выдаче от ИИ, растет. И эти болваны добрались даже до библиотек! Растет нагрузка на библиотекарей и те просто в шоке.
Языковые модели умеют убедительно имитировать академический стиль, названия журналов, структуру ссылок и библиографию. В результате они нередко «изобретают» научные журналы, статьи и архивы, которых никогда не существовало, но которые выглядят абсолютно достоверно для неспециалиста.
Это напрямую бьет по работе исследователей и библиотекарей. Пользователи приходят с запросами на конкретные «источники», ссылаясь на ИИ, и просят найти номер журнала, статью или книгу. Библиотекарь тратит время на проверку каталогов, баз данных, межбиблиотечные запросы — и в итоге выясняется, что искомый объект вымышлен целиком. Масштаб проблемы растет: таких обращений становится все больше, и они отнимают ресурсы у реальной научной и справочной работы.
Дополнительное напряжение возникает из-за подрыва доверия к институтам знания. Некоторые особенно одаренные пользователи начинают подозревать библиотекарей в сокрытии информации, существовании «секретных фондов» или элитарного доступа, если источник не находится. Возникает абсурдная ситуация: авторитет профессиональной системы проверки и хранения знаний ставится под сомнение на основании вывода вероятностной модели, которая по своей природе не говорит правду и не предоставляет информацию, а лишь генерирует правдоподобный текст.
В более широком смысле это симптом разрыва между производством текста и производством знания. ИИ радикально снизил стоимость генерации связных, «умно звучащих» утверждений, но не снизил стоимость их верификации. Проверка фактов, источников и архивов по-прежнему требует человеческого труда и институциональной инфраструктуры. Когда поток вымысла превышает пропускную способность этих институтов, система начинает давать сбои.
Отсюда и раздражение библиотекарей: их работа строится на проверяемости, воспроизводимости и каталогизации реально существующих объектов, тогда как ИИ уверенно предлагает нечто, что никогда не проходило через эти фильтры.
Если человек спорит с библиотекарем, потому что «так сказал LLM», он фактически путает генерацию текста с процессом познания. Это не просто ошибка пользователя, а фундаментальное непонимание того, как формируются знания, факты и научные источники в реальном мире.
Но кого это останавливало, да? На этом попадаются не просто пользователи, апологеты, заинтересованные лица и дурачки, но и политики, Deloitte, юристы и так далее, кто использует ИИ «для аналитики».
Припоминаю статью то ли из «Наука и Жизни», то ли «Техника молодёжи» в 1973-75гг, мол сейчас будет небольшая пауза в полётах на Луну, лет через 5 начнутся снова полёты на Луну, к которым присоединится СССР, и лет через 10 полёты на Луну станут регулярными и частыми и будет параллельно подготовка к полёту на Марс, это ожидается в 1985-1990гг. И вот прошло почти полвека и тишина — ни Луны ни Марса!
Меня Касио 1995 года приучила к цифровому дисплею и тут бац — какой-то горе менеджер или дизайнер решил, что меня теперь опять приучать к стрелкам! Нет уж манагеры-дезигнеры, поздновато меня опять учить понимать время с кругляша и стрелок!
***********************************
Ilya Plekhanov 1 дн. ·
Количество несчастных оболваненных людей, которые верят, что ИИ сделает им «любое исследование за две минуты» и верят выдаче от ИИ, растет. И эти болваны добрались даже до библиотек! Растет нагрузка на библиотекарей и те просто в шоке.
Языковые модели умеют убедительно имитировать академический стиль, названия журналов, структуру ссылок и библиографию. В результате они нередко «изобретают» научные журналы, статьи и архивы, которых никогда не существовало, но которые выглядят абсолютно достоверно для неспециалиста.
Это напрямую бьет по работе исследователей и библиотекарей. Пользователи приходят с запросами на конкретные «источники», ссылаясь на ИИ, и просят найти номер журнала, статью или книгу. Библиотекарь тратит время на проверку каталогов, баз данных, межбиблиотечные запросы — и в итоге выясняется, что искомый объект вымышлен целиком. Масштаб проблемы растет: таких обращений становится все больше, и они отнимают ресурсы у реальной научной и справочной работы.
Дополнительное напряжение возникает из-за подрыва доверия к институтам знания. Некоторые особенно одаренные пользователи начинают подозревать библиотекарей в сокрытии информации, существовании «секретных фондов» или элитарного доступа, если источник не находится. Возникает абсурдная ситуация: авторитет профессиональной системы проверки и хранения знаний ставится под сомнение на основании вывода вероятностной модели, которая по своей природе не говорит правду и не предоставляет информацию, а лишь генерирует правдоподобный текст.
В более широком смысле это симптом разрыва между производством текста и производством знания. ИИ радикально снизил стоимость генерации связных, «умно звучащих» утверждений, но не снизил стоимость их верификации. Проверка фактов, источников и архивов по-прежнему требует человеческого труда и институциональной инфраструктуры. Когда поток вымысла превышает пропускную способность этих институтов, система начинает давать сбои.
Отсюда и раздражение библиотекарей: их работа строится на проверяемости, воспроизводимости и каталогизации реально существующих объектов, тогда как ИИ уверенно предлагает нечто, что никогда не проходило через эти фильтры.
Если человек спорит с библиотекарем, потому что «так сказал LLM», он фактически путает генерацию текста с процессом познания. Это не просто ошибка пользователя, а фундаментальное непонимание того, как формируются знания, факты и научные источники в реальном мире.
Но кого это останавливало, да? На этом попадаются не просто пользователи, апологеты, заинтересованные лица и дурачки, но и политики, Deloitte, юристы и так далее, кто использует ИИ «для аналитики».