ИИ учится отличать правду от лжи: Google DeepMind создал SAFE

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

В эпоху информационного перенасыщения, где потоки данных захлестывают нас со всех сторон, вопрос достоверности информации встает особенно остро. LLM, или большие языковые модели, такие как нашумевший ChatGPT, обещают революцию в сфере поиска информации и ответов на вопросы, но их слабое место — это неточности, которые могут вводить пользователей в заблуждение. К счастью, на помощь приходит SAFE — система искусственного интеллекта, разработанная Google DeepMind, которая способна автоматически выявлять недостоверную информацию, генерируемую LLM.

Автор: Designer

SAFE работает по принципу «клин клином вышибают»: одна LLM анализирует утверждения, сгенерированные другой LLM, и использует поиск Google для проверки фактов. По сути, SAFE имитирует действия человека, который перепроверяет информацию в поисковике. В ходе тестирования SAFE продемонстрировал впечатляющие результаты, определив неточности в ответах LLM с точностью 72%, а в спорных случаях оказывался прав даже чаще, чем люди.

Это открытие имеет огромный потенциал. Во-первых, SAFE может быть использован для повышения точности самих LLM, что сделает их более надежными инструментами для различных задач, от написания кода до ответов на вопросы пользователей. Во-вторых, SAFE может стать независимым инструментом для проверки фактов, помогая бороться с дезинформацией и фейковыми новостями. В условиях, когда доверие к информации в сети постоянно падает, такой инструмент становится особенно ценным.

Важно отметить, что DeepMind выложил код SAFE в открытый доступ, что позволяет любому желающему использовать его возможности. Это решение говорит о стремлении DeepMind к прозрачности и открытости в развитии ИИ, а также дает возможность другим исследователям и разработчикам присоединиться к борьбе с дезинформацией.

Конечно, SAFE не является панацеей. Система все еще находится в стадии разработки, и ее точность может быть улучшена. Кроме того, не все вопросы имеют однозначные ответы, и в некоторых случаях даже человеку сложно определить достоверность информации. Тем не менее, SAFE — это важный шаг в направлении к более точному и надежному искусственному интеллекту, который может помочь нам отделить правду от вымысла в эпоху информационного хаоса.

3 комментария

Добавить комментарий

eb99efb5cdf16fbed7f645592cbf594f@livejournal
использует поиск Google для проверки фактов… использует поиск Google для проверки фактов……
Neironext
Ну только не говорите что вы из тех, кто верит в то, что Гугл, Инстаграм и фэйсбук это компании, стремящиеся вас всеми силами обманывать?
Но вообще использовать поисковик для проверки это глупо, если это имели ввиду, прям всеми руками за!

Добавить комментарий

Сейчас на главной

Новости

Публикации

Как увеличили емкость и срок службы литиевых батарей: отказ от графита дал рекордные 500 Вт·ч/кг

Современные литий-ионные аккумуляторы, которые питают смартфоны, ноутбуки и электромобили, подошли к пределу своих физических возможностей. Лучшие серийные образцы способны запасать около 250-300...

Обзор блока питания ID-COOLING FP-1000 — первая платина

Компания ID-COOLING известна, в первую очередь, своими системами охлаждения, в начале года они расшились и на сегмент компьютерных корпусов, а летом дело дошло и до блоков питания. Причем...

Обзор ILIFE H90 Pro: вертикальный пылесос для тех, кто не любит вытряхивать пыль

Когда я выбирал вертикальный пылесос, главным критерием было не наличие максимального количества функций, а удобство ежедневного использования. ILIFE H90 Pro привлёк внимание именно станцией...

Возвращаем YouTube на ПК и немного решаем проблемы с замедлением

Сервис YouTube на территории России, официально, давно перестал работать, но множество пользователей нашли обходные пути и продолжают им пользоваться. Однако в последние несколько дней сервис начал...

Хуанг пролюбил свой пост в Nvidia, а также возврат IPO Антропика: главное за неделю

Самые интересные новости финансов и технологий в России и мире за неделю: массовый сбой у Microsoft и американских аэропортов, SpaceX впервые поймал ракету роборукой, оценка Anthropic перед IPO...

Ученые создали «живые» искусственные мышцы для гуманоидных роботов: они играют на пианино и двигают глазами

Мышечная система человека решает две разные механические задачи. Крупные мышцы спины и ног рассчитаны на создание большой тяги и подъем тяжестей. В свою очередь, мелкие скелетные мышцы —...