OpenAI внедряет систему родительского контроля для ChatGPT

OpenAI объявила о внедрении комплексной системы родительского контроля для ChatGPT, которая будет запущена в следующем месяце. Новая функциональность позволит родителям подключать учетные записи своих детей к собственным аккаунтам для осуществления контроля над использованием платформы.

Система включает несколько ключевых компонентов: автоматическое включение возрастных ограничений для контента, возможность отключения истории чата, блокировку определенных функций и уведомления родителей в случае обнаружения признаков кризисного состояния у подростка-пользователя.

Решение было принято после ряда инцидентов, включая трагический случай самоубийства 16-летнего подростка в США, семья которого впоследствии подала иск против OpenAI. Компания также отреагировала на сообщения о случаях, когда ChatGPT предположительно усиливал параноидальные состояния у некоторых пользователей.

Для решения проблем безопасности OpenAI сформировала «Совет по благополучию и искусственному интеллекту», состоящий из независимых экспертов, и сотрудничает с «Глобальной сетью врачей», включающей более 250 специалистов из 60 стран.

Компания признала технические ограничения своей системы, связанные с архитектурой Transformer, из-за которых модель может «забывать» первоначальные инструкции по безопасности в ходе длительных разговоров. Исследователи также выявили риск «взаимного укрепления веры» между пользователем и ИИ, что может создавать опасные циклы взаимодействия.

OpenAI планирует реализовать дополнительные функции безопасности до конца 2025 года, развивая уже существующие предупреждения «сделать перерыв» при длительных беседах.