KAIST разработал систему накопления знаний: смартфон может меньше обращаться к облачному ИИ

KAIST 21 сентября объявил о разработке технологии CURE (Cumulative Knowledge Reuse — «накопительное повторное использование знаний»), которая позволяет небольшой ИИ-модели на смартфоне сохранять знания, полученные от более мощной модели на сервере, и использовать их при решении похожих задач. По данным исследователей, такой подход позволил в среднем на 55,61% сократить обращения к серверу без существенной потери точности.

Сегодня смартфоны способны разворачивать компактные нейросети прямо на борту. Такие модели оперативно решают несложные задачи, однако сталкиваясь с комплексными или незнакомыми данными, они нередко оказываются бессильны. Альтернатива — обращаться к мощному алгоритму в облаке: это расширяет вычислительный потенциал, но приводит к задержкам, ведь информацию необходимо отправить на удалённый сервер, дождаться обработки и вернуть результат.

Проект CURE возглавил профессор Чже Гиль Ли (Jae-Gil Lee), представляющий факультет компьютерных наук KAIST. Основным автором работы стал Ёнджун Ли (Youngjun Lee) из Института информационной электроники KAIST. В число соавторов вошли специалисты Amazon и LG AI Research, а также профессор Хванджун Сон с факультета промышленной инженерии и системотехники KAIST.

Система работает в три этапа. Сначала небольшая модель пытается решить задачу самостоятельно. Если ей не хватает уверенности, CURE проверяет знания, которые ранее были получены от серверной модели. И только если подходящего знания нет, запрос снова отправляется на сервер. Таким образом, ответ большой модели не пропадает после первого использования — он становится частью накопленного хранилища знаний на устройстве.

Исследователи приводят пример с распознаванием автомобилей. Если небольшая модель не может определить автомобиль на фотографии, серверная модель помогает ей получить правильный ответ. CURE не сохраняет саму исходную фотографию — вместо этого система использует особенности изображения и результат работы серверной модели, чтобы сформировать обобщённое знание. Если позже на смартфон попадёт похожее изображение, небольшая модель сможет воспользоваться накопленной информацией и в некоторых случаях обойтись без нового обращения к серверу. Такой подход контрастирует со стандартной практикой, где отклик крупной модели задействуется лишь однократно.

Для оценки работоспособности метода исследователи задействовали MobileCLIP2 на стороне устройства и EVA-CLIP с 18 млрд параметров на серверной части. В ходе экспериментов с несколькими наборами данных для классификации изображений CURE продемонстрировала точность, сопоставимую с вариантом, когда весь входной поток направляется крупной облачной модели. При этом число запросов к серверу сократилось в среднем на 55,61% по сравнению с традиционной схемой связи устройства и сервера, не сохраняющей полученный опыт. В тестах с учётом времени на передачу информации CURE оказалась до 2,8 раза быстрее стандартного device-server решения, а относительно отправки всех запросов напрямую на сервер выигрыш в скорости составил 3,67 раза.

Ещё одна особенность CURE в том, что для её работы не требуется заново обучать ни модель на смартфоне, ни серверную модель — исследователи добавили отдельное хранилище знаний, которое связывает результаты работы большой модели с последующими похожими задачами.

Разработчики рассматривают среди возможных областей применения смартфоны, роботов и носимые устройства — особенно там, где интернет работает нестабильно или передача данных на сервер занимает много времени. При этом реальные результаты будут зависеть от характеристик устройства, объёма доступной памяти, качества соединения и типа обрабатываемых данных.

Исследование CURE представили 10 сентября на конференции ECCV 2026 в Мальмё, Швеция. Работа велась при поддержке южнокорейского Министерства науки через Институт планирования и оценки информационных технологий. Авторы отмечают, что накопление знаний может позволить небольшим моделям реже обращаться к мощным серверным системам и быстрее принимать решения на месте.

Источник: KAIST