Италия временно блокирует ChatGPT из соображений конфиденциальности

Орган по защите данных становится первым регулирующим органом в мире, который начал расследование в отношении поддерживаемого Microsoft чат-бота OpenAI.

Итальянский орган по надзору за конфиденциальностью временно запретил популярную службу искусственного интеллекта ChatGPT, созданную поддерживаемой Microsoft OpenAI, поскольку политики во всем мире стремятся отреагировать на рост числа продуктов искусственного интеллекта.

В пятницу национальный орган по защите данных заявил, что заблокирует доступ к чат-боту в Италии, в то время как среди прочего изучается сбор личной информации американской компанией во время недавнего нарушения кибербезопасности.

Этот шаг вызван тем, что эксперты по ИИ и специалисты по этике бьют тревогу по поводу огромных объемов данных, которые такие сервисы, как ChatGPT, потребляют от десятков миллионов пользователей по всему миру, что вызывает обеспокоенность по поводу того, как компании могут поставить под угрозу их конфиденциальность и безопасность.

Итальянский наблюдательный орган начал расследование в отношении OpenAI после того, как на прошлой неделе нарушение кибербезопасности привело к тому, что людям были показаны выдержки из разговоров других пользователей ChatGPT и их финансовая информация.

Данные, выставленные за девятичасовой период, включали имена и фамилии, адреса для выставления счетов, типы кредитных карт, даты истечения срока действия кредитных карт и последние четыре цифры их кредитных карт, согласно электронному письму, отправленному OpenAI пострадавшему клиенту по версии «Financial Times».

Находящийся в Риме наблюдательный орган заявил, что OpenAI во главе с генеральным директором Сэмом Альтманом должна вскоре прекратить использование ChatGPT в Италии в соответствии с приказом, после чего у него будет 20 дней, чтобы представить контрдоказательства. Если OpenAI не ответит в установленный срок, на нее может быть наложен штраф в размере до 20 млн евро.

Представитель OpenAI сказал: «Мы отключили ChatGPT для пользователей в Италии по запросу итальянского Garante [органа по защите данных]. Мы стремимся защищать конфиденциальность людей и считаем, что соблюдаем GDPR и другие законы о конфиденциальности».

Ранее регулятор действовал против чат-ботов, заблокировав Replika.ai в феврале. Этот сервис известен пользователями, стремящимися создать разговоры, в которых обсуждаются эротические сценарии.

Этот шаг Италии представляет собой первое действие регулирующих органов в отношении популярного чат-бота, и политики во всем мире стремятся отреагировать на рост генеративных услуг ИИ.

Эксперты обеспокоены тем, что языковые модели, лежащие в основе ChatGPT, собирают огромное количество данных. Через два месяца после запуска у OpenAI было более 100 миллионов активных пользователей в месяц. Новая поисковая система Microsoft Bing, также основанная на технологии OpenAI, использовалась более чем 1 млн человек в 169 странах в течение двух недель после ее выпуска в январе.

На этой неделе такие люди, как Илон Маск и Йошуа Бенджио, один из отцов-основателей современных методов искусственного интеллекта, призвали к шестимесячной паузе в разработке систем, более мощных, чем недавно выпущенный GPT-4, сославшись на серьезные риски для общества.

Некоторые отраслевые эксперты и инсайдеры заявили, что этот призыв был лицемерным, и это был просто способ позволить ИИ «догнать» OpenAI, в то время как крупные технологические компании агрессивно конкурируют за выпуск продуктов ИИ, таких как ChatGPT и Google Bard.

Итальянский регулятор заявил, что начал расследование, отметив «отсутствие правовой основы, оправдывающей массовый сбор и хранение персональных данных с целью «обучения» алгоритмов», лежащих в основе ChatGPT.

Также говорится, что, согласно внутреннему анализу, ChatGPT «не всегда предоставляет точную информацию», что приводит к неправомерному использованию личной информации.

Ранее OpenAI заявляла, что решила проблемы кибербезопасности, связанные с утечкой информации. Однако OpenAI будет заблокирован от обработки данных итальянских пользователей через ChatGPT, пока идет проверка.

Регулятор также раскритиковал OpenAI за отсутствие фильтра для проверки того, что дети младше 13 лет не пользуются его услугами. В частности, наблюдатели утверждали, что несовершеннолетние дети подвергались воздействию контента и информации, которые не соответствовали их «уровню самосознания».

Технологии генеративного ИИ подпадают под действие существующих законов о данных и цифровых технологиях, таких как GDPR и Закон о цифровых услугах, которые контролируют некоторые его аспекты. Тем не менее ЕС готовит постановление, которое будет регулировать использование ИИ в Европе, а компаниям, нарушающим правила блока, грозит штраф в размере до 30 млн евро или 6% от мирового годового оборота, в зависимости от того, что больше.

Источник: Italy temporarily bans ChatGPT over privacy concerns