Google научила нейросети «забывать» личные данные пользователей при обучении

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Гонка за создание всё более мощных нейросетей упёрлась в неожиданный барьер — дефицит качественных данных для обучения. В поисках нового «топлива» для своих моделей технологические гиганты всё чаще обращаются к огромным массивам информации из интернета, среди которой неизбежно оказываются и конфиденциальные данные пользователей. Команда Google Research представила элегантное решение этой проблемы — технологию, которая позволяет ИИ учиться на наших данных, не запоминая их.

Автор: LeVK

Ключевая проблема современных больших языковых моделей (LLM) — их склонность к «непреднамеренному запоминанию». Хотя ответы нейросети всегда отчасти случайны, иногда она может почти дословно воспроизвести фрагмент информации, на которой обучалась. Если в обучающий набор попали чьи-то личные переписки, медицинские записи или финансовые отчёты, такой «сбой» может привести к катастрофической утечке. Для разработчиков же головной болью становится случайное цитирование моделью материалов, защищённых авторским правом.

Представьте, что нейросеть в ответ на безобидный вопрос вдруг цитирует чей-то личный имейл — именно от таких сценариев и призвана защитить новая технология.

Решение, предложенное Google, называется дифференциальной приватностью. Суть метода заключается в добавлении в процесс обучения математически выверенного «шума». Этот шум намеренно искажает исходные данные ровно настолько, чтобы модель могла уловить общие закономерности и паттерны, но не смогла запомнить конкретные детали. В результате нейросеть учится писать тексты в определённом стиле, но не сможет процитировать конкретное предложение из обучающего примера.

Однако у этого подхода была обратная сторона — «зашумление» данных снижало точность модели и требовало значительно больших вычислительных ресурсов. До сих пор никто не мог точно сказать, как найти баланс между приватностью и производительностью. Команда Google первой смогла вывести так называемые «законы масштабирования» для приватных нейросетей.

Исследователи установили, что качество работы модели зависит от трёх ключевых факторов — вычислительного бюджета (мощности «железа»), бюджета данных (объёма информации) и бюджета приватности (количества добавленного «шума»). Проще говоря, чем больше «шума» вы добавляете для защиты данных, тем больше вычислительных мощностей и объёма обучающей выборки потребуется, чтобы сохранить качество ответов на прежнем уровне.

Эта работа легла в основу VaultGemma. Но главное достижение Google — не сама модель, а опубликованная научная статья, в которой подробно описаны выведенные законы. Теперь у разработчиков по всему миру есть своего рода «рецепт», позволяющий находить идеальный баланс и создавать эффективные и при этом безопасные языковые модели. Однако, с учетом дефицита вычислительных мощностей в индустрии, сложно сказать, пойдут ли ведущие вендоры на увеличение затрат ради приватности в своих флагманских LLM.

Источник: Arstechnica

Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе
Наношу добро, причиняю пользу, благодарен за лайки и содержательные (дополняющие статьи) комментарии.

Сейчас на главной

Новости

Публикации

Чего боятся домашние фараоновы муравьи и как с ними справиться

Рыжие полосатые «маленькие гости», которые внезапно выстраиваются в шеренгу от плинтуса до хлебницы, это не садовые муравьи, забредшие с улицы. Это фараонов муравей (рыжий домовой, «Monomorium...

Физики описали таблицу Менделеева темной материи: в ней не бывает водорода, зато возможен углерод

Обычное вещество — звезды, планеты, межзвездный газ и все живые организмы — составляет около 5% от общего запаса энергии и массы во Вселенной. На невидимую темную материю...

✦ ИИ  Ловушка за 55 тысяч: на чём производители чаще всего экономят в «народных» ноутбуках и как не купить печатную машинку по цене рабочей станции

Когда бюджет на покупку ноутбука упирается в 50-60 тысяч рублей, покупатель оказывается в самой коварной зоне рынка. На витрине и в карточках маркетплейсов десятки моделей выглядят почти одинаково:...

✦ ИИ  Сферические взрывные камеры 13Я ВНИИЭФ: стальная сфера массой 470 тонн для гидродинамических экспериментов

Сферические взрывные камеры серии 13Я («ЯВА», «СФЕРА»), разработанные в 1980-х годах во ВНИИЭФ (Саров), создавались для проведения гидродинамических экспериментов, имитирующих процессы ядерного...

GTA VI теперь и в 2ГИС: как превратить обычную карту в Vice City и установить мотоциклиста вместо курсора

Игра года, которая буквально за несколько дней наделала столько шума, разговоров и интриг! Речь, конечно же, о Grand Theft Auto VI. Пока одни обсуждают трейлеры, графику и подробности...

Как по размеру песчинок учёные определяют силу ветра, который дул тысячи лет назад

Ветер, который миллионы лет назад переносил песок по древним пустыням, давно исчез. Но следы его работы сохранились в песчаных отложениях. Оказывается, по размеру зёрен можно оценить скорость...