ChatGPT начал использовать энциклопедию Илона Маска в качестве источника информации

Издание The Guardian провело тестирование последней версии ChatGPT и обнаружило, что чат-бот использует Grokipedia в качестве источника информации при формировании ответов. Журналисты задавали модели вопросы о политическом устройстве Ирана и биографиях исторических личностей. В результате ChatGPT регулярно обращался к материалам онлайн-энциклопедии, созданной компанией xAI Илона Маска.

Grokipedia появилась как альтернативный проект традиционной Википедии. Маск заявлял о необходимости создания платформы, свободной от предвзятости. Принципиальное отличие Grokipedia заключается в способе создания контента. Статьи генерирует искусственный интеллект Grok, разработанный компанией xAI. Редактирование силами пользователей в системе отсутствует. Проверку материалов осуществляют сотрудники компании xAI.

Использование контента ChatGPT, созданного другой нейросетью, формирует замкнутый цикл. Одна языковая модель получает данные от другой модели, после чего эти данные могут снова попасть в обучающие массивы. Исследование выявило случаи, когда ChatGPT воспроизводил утверждения из Grokipedia, не соответствующие проверенным знаниям.

OpenAI прокомментировала результаты расследования. Представители компании сообщили, что поисковая функция модели работает с широким спектром общедоступных источников. В системе действуют фильтры безопасности для блокировки потенциально опасного контента. ChatGPT показывает пользователям ссылки на источники информации. Компания работает над программами фильтрации ненадёжных источников.

Источник: Notebookcheck