OpenAI внедрит систему проверки возраста пользователей ChatGPT

Компания OpenAI объявила о планах по внедрению системы автоматического определения возраста пользователей чат-бота ChatGPT. Это позволит адаптировать функционал сервиса под разные возрастные группы, с акцентом на безопасность несовершеннолетних. Минимальный возраст для доступа к платформе установлен на уровне 13 лет.

Новая технология будет анализировать поведение и взаимодействие пользователей, чтобы оценить их возраст. Если система не сможет с уверенностью подтвердить, что человек старше 18 лет, доступ к полной версии ChatGPT будет ограничен — вместо неё активируется упрощённый интерфейс, предназначенный для подростков и детей. В отдельных случаях или регионах может потребоваться подтверждение возраста с помощью документа, удостоверяющего личность, хотя разработчики признают, что такой подход несёт риски для конфиденциальности взрослых пользователей.

Для родителей и опекунов предусмотрены инструменты контроля. Они смогут связать свой аккаунт с профилем ребёнка по специальному приглашению, устанавливать лимиты на содержание ответов, управлять функциями вроде сохранения истории бесед и памяти бота, а также получать оповещения о признаках эмоционального стресса у подростка. Кроме того, возможна настройка временных запретов на использование сервиса в определённые часы.

С точки зрения приватности, OpenAI стремится обеспечить диалогам с ИИ уровень защиты, сопоставимый с конфиденциальными разговорами у специалистов, таких как врачи или юристы. Данные пользователей не будут доступны даже сотрудникам компании, за исключением ситуаций, связанных с угрозой жизни, подготовкой вреда другим или крупными рисками для общества, вроде кибератак. Разработчики подчёркивают, что приоритет отдаётся защите несовершеннолетних, даже если это затрагивает свободу взрослых.

В плане безопасности для подростков ChatGPT получит дополнительные фильтры: бот откажется от обсуждения тем, связанных с самоубийством, самоповреждением или флиртом, включая творческие сценарии. Если система заметит признаки суицидальных мыслей у пользователя младше 18 лет, она попытается связаться с родителями; в случае неудачи — обратится к правоохранительным органам при угрозе немедленного вреда.

Внедрение этих изменений ожидается к концу текущего года. Инициатива OpenAI выходит на фоне слушаний в Конгрессе США по возможному негативному влиянию ИИ-чатботов на психическое здоровье подростков, а также расследования Федеральной торговой комиссии, которая запросила данные у нескольких технологических фирм о мерах безопасности.

Источник: openai.com