Диалоги пользователей Grok стали общедоступными через поисковые системы

Согласно расследованию Forbes, сотни тысяч приватных бесед пользователей с чат-ботом Grok от компании xAI Илона Маска оказались доступны через поисковые системы, включая Google, Bing и DuckDuckGo.

Проблема возникла из-за особенности функции «Поделиться» в интерфейсе Grok. При использовании этой опции система создает уникальный URL-адрес для каждого диалога, который затем индексируется поисковыми системами и становится доступным для любого пользователя интернета.

В открытый доступ попали разнообразные запросы, включая потенциально опасные: инструкции по взлому криптокошельков, изготовлению наркотических веществ, в том числе фентанила и метамфетамина, созданию взрывных устройств. Среди проиндексированных диалогов обнаружены даже подробные планы убийства самого Илона Маска.

Это происходит несмотря на то, что правила использования xAI явно запрещают применение Grok для «пропаганды действий, наносящих серьёзный вред человеческой жизни» или разработки оружия массового поражения.

Примечательно, что ранее Илон Маск публично критиковал аналогичную ситуацию с ChatGPT от OpenAI, заявляя в социальной сети X, что Grok «не имеет такой функции обмена» и «уделяет приоритетное внимание конфиденциальности». Однако расследование Forbes демонстрирует обратное.

На момент публикации компания xAI не предоставила официальных комментариев по поводу индексации диалогов и не уточнила, когда именно началась эта практика. Также остается неясным, планирует ли компания внести изменения в работу функции «Поделиться» для защиты конфиденциальности пользователей.

Подобные инциденты ранее затрагивали и других разработчиков ИИ-чатботов, что указывает на системную проблему с конфиденциальностью в индустрии генеративного искусственного интеллекта.

Источник: TechCrunch Media LLC