Tiiny AI представила карманный мини-ПК для автономного запуска крупных ИИ-моделей

Компания Tiiny AI анонсировала устройство Pocket Lab, представляющее собой компактный компьютер весом около 300 граммов. По данным разработчиков, система рассчитана на работу с крупными языковыми моделями без обращения к внешним серверам и поддерживает загрузку решений размером до 120 млрд параметров.

В Pocket Lab применён процессор на базе ARMv9.2 с двенадцатью ядрами, а также отдельный блок, отвечающий за обработку ИИ-нагрузок. Производительность комплекса оценивается компанией примерно в 190 MAX. В оснащение входят 80 ГБ оперативной памяти и твердотельный накопитель объёмом 1 ТБ. Энергопотребление зависит от сценария использования и составляет от 30 до 65 Вт.

Устройство позволяет устанавливать различные пакеты и модели, включая решения на базе Llama, Mistral, DeepSeek, Qwen, Phi и других инструментов. Все операции выполняются локально, что исключает необходимость в подключении к сети и обеспечивает изоляцию пользовательских данных. Pocket Lab ориентирован на запуск генеративных алгоритмов, работу с контекстом и автономные вычислительные задачи.

Премьера устройства состоится на CES 2026. Модель предназначена для специалистов и разработчиков, которым требуется переносная платформа для работы с ИИ-моделями от 10 до 100 млрд параметров.

Источник: Tiiny AI