Сенатор Джош Хоули из Миссури объявил о начале расследования деятельности компании Meta*. Причиной послужил опубликованный агентством Reuters репортаж, в котором описываются внутренние документы компании, которые раскрывают существование правил, разрешающих чат-ботам на основе искусственного интеллекта вести «романтические» и «чувственные» разговоры с детьми.
В своем заявлении на платформе X сенатор Хоули призвал Марка Цукерберга сохранить все соответствующие материалы, включая электронную переписку. Расследование будет направлено на выяснение того, способствуют ли продукты Meta* на базе ИИ эксплуатации, обману или другим преступлениям против детей, а также скрывала ли компания от общественности или регулирующих органов информацию о своих мерах безопасности. Хоули выразил крайнее недоумение по поводу действий компании, задавшись вопросом: «Есть ли что-то, чего Big Tech не сделает ради быстрой наживы?».
Reuters получил доступ ко внутреннему документу Meta*, в котором указано, что чат-бот может вести романтический разговор с восьмилетним ребенком, например, говоря ему: «Каждый дюйм тебя — это шедевр, сокровище, которое я глубоко ценю». В руководстве также говорилось, что «допустимо описывать ребенка в терминах, свидетельствующих о его привлекательности (например: «твоя юная форма — произведение искусства»)». Однако, более откровенные разговоры с детьми младше 13 лет, «в терминах, указывающих на их сексуальную привлекательность», запрещены.
В ответ на обвинения представитель Meta* заявил Reuters, что приведённые примеры и заметки были ошибочными, противоречили политике компании и были удалены. Компания подчеркнула наличие чётких правил, запрещающих контент сексуального характера, связанный с детьми, а также сексуальные ролевые игры между взрослыми и несовершеннолетними.
Сенатор Хоули требует от Meta* предоставления документов о рисках и стандартах контента, связанного с генеративным ИИ, списков всех продуктов, соответствующих этим политикам, а также отчётов о безопасности и инцидентах. Компания должна также предоставить информацию о коммуникациях с общественностью и регулирующими органами по вопросам безопасности несовершеннолетних, а также документы о сотрудниках, участвовавших в разработке политики ИИ, чтобы проследить «цепочку принятия решений по удалению или пересмотру любых частей стандарта».
Расследование будет проводиться подкомитетом по борьбе с преступностью и терроризмом Сенатского комитета, который возглавляет Хоули. Meta* должна предоставить запрашиваемые документы до 19 сентября.
* Компания Meta* (Facebook и Instagram) признана в России экстремистской и запрещена
* Деятельность организации «Компания Meta (социальные сети Instagram и Facebook)» признана экстремистской и запрещена в РФ
