«Черный ящик» для ИИ: Apple обещает приватность в облаке, но можно ли ей верить?

На предстоящей конференции WWDC, запланированной на 10 июня, Apple намерена представить свою долгожданную стратегию в области искусственного интеллекта (ИИ). Компания стремится догнать своих конкурентов, Microsoft и Google, которые уже активно внедряют ИИ в свои операционные системы и продукты.

Хотя некоторые функции ИИ в iOS 18 будут использованы в краткосрочной перспективе, у Apple также есть долгосрочные планы в отношении этой технологии: пока мало известно о том, каким масштабом облачных вычислений Apple Silicon располагает в настоящее время. Возможно, первоначальный запуск ИИ-технологий будет ограничен, поскольку Apple только начала внедрять чипы M2 Ultra в свое облако, а к концу года планирует перейти на использование чипов M4, считает 9to5mac.

Однако, по утверждению 9to5mac и агентства The Information, Apple планирует применить совершенно новый подход к пользовательскому ИИ, основанный на принципе «черного ящика». Компания утверждает, что нашла способ обрабатывать данные с помощью ИИ в облаке, сохраняя их конфиденциальность на всех этапах. Впрочем, стоит с осторожностью относиться к таким заявлениям.

Работа над этой инициативой в области конфиденциальных вычислений началась задолго до нынешнего бума искусственного интеллекта, и, по имеющимся данным, велась в Apple как минимум три года.

(Не)безопасная приватность

Касаемо безопасности, по словам Apple, она усовершенствовала свои системы Secure Enclave, что позволит осуществлять обработку данных в режиме «черного ящика». Даже если хакеры получат физический доступ к серверам, они якобы не смогут расшифровать пользовательскую информацию. Более того, Apple заявляет, что сможет отказать правоохранительным органам в предоставлении данных, сославшись на их полную недоступность.

Несомненно, такой подход выглядит многообещающим и может задать новый стандарт в области использования облачного ИИ. Однако важно понимать, что мы можем лишь поверить Apple на слово. Мы не знаем и не можем знать, действительно ли у компании нет ключей для расшифровки данных. Также нет гарантий, что эти ключи не будут переданы спецслужбам вроде ЦРУ.

Кроме того, хранение данных в зашифрованном виде локально не решает проблему полностью. Apple, как создатель закрытой операционной системы, вполне может получить доступ к этим данным напрямую с устройств пользователей без их ведома. По сути, мы оказываемся полностью зависимыми от добросовестности компании.

Таким образом, несмотря на обещания Apple, нельзя быть до конца уверенными в сохранении приватности при использовании их систем ИИ. Возможно, компания действительно нашла инновационное решение, но также вероятно, что это всего лишь очередной маркетинговый ход для завоевания доверия пользователей. Окончательную оценку можно будет дать только после тщательного независимого аудита предлагаемых технологий, который наверняка не состоится из-за закрытости экосистемы — и, как показывает опыт, крупные технологические компании нередко злоупотребляют доверием пользователей в угоду своим интересам.

В отличие от Apple, её конкуренты выбрали диаметрально противоположные пути интеграции ИИ в свои продукты. Microsoft делает ставку на локализацию и минимизацию использования «облака», планируя разместить NPU (нейросопроцессоры) в каждом компьютере и ноутбуке с 2026 года. Google же, напротив, открыто признает, что все данные будут собираться, обрабатываться и использоваться в её облачной инфраструктуре в рамках инициативы «Gemini for Chromebook Plus». Таким образом, подход Apple представляется некой серединой между этими двумя крайностями, хотя и вызывает множество вопросов с точки зрения реализации на практике.

Источник: 9to5mac