Теперь-то наконец блоки NPU в процессорах Intel станут полезными? Компания открыла исходный код своей библиотеки ускорения NPU Acceleration Library

⁠

Это нужно разработчикам

Компания Intel открыла исходный код своей библиотеки ускорения NPU Acceleration Library, позволяющей компактным моделям искусственного интеллекта работать непосредственно на блоках NPU в процессорах Meteor Lake.

Теперь-то наконец блоки NPU в процессорах Intel станут полезными? Компания открыла исходный код своей библиотеки ускорения NPU Acceleration Library, фото 1

Библиотека создана на языке Python и призвана помочь разработчикам улучшить свои продукты при условии запуска их на блоках NPU новейших процессоров Intel. Библиотека позволяет запускать компактные языковые модели вроде Gemma-2b или TinyLlama прямо на NPU, не требуя никакого облачного сервера. Собственно, это именно то, зачем вообще в процессорах нужны аппаратные блоки NPU, и то, чего на данный момент не хватает.

Теперь-то наконец блоки NPU в процессорах Intel станут полезными? Компания открыла исходный код своей библиотеки ускорения NPU Acceleration Library, фото 2

Напомним, блоки NPU есть в процессорах Intel Meteor Lake и AMD Ryzen 7040/8040. Пока что для большинства пользователей эти блоки совершенно бесполезны.

Предыдущая публикация: 105 л.с., «автомат», честный полный привод — и наконец-то простор. В Россию едет пятидверный Suzuki Jimny 2024Следующая публикация: Samsung надеется, что люди сменят свои устройства на продукцию компании. Умное кольцо Galaxy Ring не получит совместимости с iOS
Главное
Все новости
6 минут назадКроссоверы Geely Monjaro у российских дилеров могут закончиться уже в ноябре
10 минут назад10 200 мАч, 90 Вт, 120 Гц и 50-мегапиксельная камера. Монстр автономности Vivo Y600s Pro вышел в продажу
17 минут назадАккумуляторы стали мощнее на 80% без изменения химии — учёные просто добавили внутрь металл
22 минуты назадСкидка до 551 тыс. рублей: в России резко подешевели отечественные кроссоверы Evolute i-Space и Evolute i-Joy
30 минут назадСолнечные элементы могут совершить скачок в эффективности: найден способ повысить КПД с 33% до 43%
08 окт 23:311Компания Type One Energy привлекла $200 миллионов на строительство термоядерной электростанции к 2034 году
08 окт 23:27Paramount завершила историческое слияние с Warner Bros
08 окт 23:21Рентгеновская обсерватория «Чандра» представила новый снимок «неукротимого» центра Млечного Пути: взрыв сжал и разогнал молекулярное вещество вокруг чёрной дыры
08 окт 23:12LISA сохранила финансирование и планы: первый космический детектор гравитационных волн готовят к запуску в 2035 году
08 окт 23:011Нобелевская премия по химии присуждена за реакцию, которая помогла дать начало жизни
08 окт 22:57260 врачей из 60 стран проверили 600 тысяч ответов ChatGPT Health за 2 года
08 окт 22:516ОАЭ предупредили о водном кризисе из-за ИИ: дата-центры удвоят потребление воды к 2030 году
08 окт 22:433Стартап лауреата Нобелевской премии построил установку, добывающую воду из воздуха
NASA допустило вступление России и Китая в Artemis Accords при соблюдении их принципов08 окт 22:306NASA допустило вступление России и Китая в Artemis Accords при соблюдении их принципов Замглавы NASA заявил, что Москва и Пекин пока не считаются разделяющими принципы соглашений, но теоретически могут присоединиться к ним в будущем
08 окт 21:40Intel остаётся в TeraFab: гендиректор подтвердил работу с Маском, пока TSMC ведёт переговоры
08 окт 21:341Учёные обнаружили у ИИ склонность держаться за статус-кво. Даже в климатических решениях
08 окт 21:328В китайских смартфонах на MediaTek нашли вредоносное ПО Midnight Mimosa, предустановленное из коробки. И удалить его нельзя
08 окт 21:30Сан-Франциско — родина ИИ — запретил новые дата-центры. У города нет даже их полного списка
08 окт 21:266Honda уложит 300 метров заряжающей дороги: 150 кВт прямо на ходу при 120 км/ч
08 окт 21:2018Microsoft заявила о двукратном превосходстве нового ноутбука над MacBook Pro
08 окт 21:151AirTrunk заливает миллиард долларов в жидкостное охлаждение под Токио: первый блок — в январе 2028-го
08 окт 21:157Натрий вместо дорогого лития: в Болгарии представили натрий-ионную батарею для дома с гарантией 20 лет и ресурсом 20 тыс. циклов заряда-разряда
08 окт 21:121По мотивам игры Cyberpunk 2077 снимут фильм
08 окт 21:102AWS раздаст $100 млн долларов облачными кредитами: половина — оборонщикам, половина — учёным
08 окт 21:081Среднеформатная камера Hasselblad X2D 100C за 8000 долларов отлично справляется с Doom. Игру портировали на этот фотоаппарат
08 окт 21:02$1,8 млрд на цифрового двойника клетки: Минэнерго и NIH США вложились в самый большой проект по оцифровке биологии
08 окт 20:573Анонсирована игра Machinarium 2
08 окт 20:562Видеокарты AMD снова подорожают, но не Radeon RX 9070 XT. Об этом сообщают участники Board Channels
08 окт 20:52У Tenet Plus появилось приложение для управления автомобилем
08 окт 20:501«Добро пожаловать домой». Apple анонсировала новое мероприятие — ожидаются новинки для умного дома
08 окт 20:28Возвращение XP, но не Windows. Внутри Xbox создано новое подразделение, призванное расширить компанию за пределы видеоигр
08 окт 20:196В России пересчитали отечественные смартфоны — они занимают всего 1% рынка