Выбираем сокет для недорогого ПК под искусственный интеллект

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Мнение | Платформа ПК

Искусственный интеллект продолжает покорять мир, открывая человечеству новые, невиданные ранее возможности. Однако задумывались ли вы, какое железо необходимо для его работы? В этой небольшой статье мы разберём все актуальные платформы, которые могут обеспечить пользователю возможность комфортной работы с нейронными сетями.

Автор: AMD Источник: psm7.com

Пояснение

Прежде чем перейти к основной теме статьи, необходимо кратко пояснить, какие именно задачи может выполнять искусственный интеллект. Ведь в зависимости от них требования к ПК будут значительно отличаться.

  • Генерация текста — самая простая задача, для которой не нужна даже видеокарта: сложность и качество определяются контекстом запроса, размером модели и её битностью (квантами).
  • Генерация изображений — вторая по сложности задача, требующая уже полноценную видеокарту. В отличие от текстовых моделей, диффузионные сети (Stable Diffusion, Flux и их производные) активно используют тензорные ядра GPU, поэтому объём и скорость видеопамяти выходят на первый план. Чем больше VRAM, новее интерфейс PCI-E и тип памяти, тем выше разрешение и тем быстрее можно генерировать изображения.
  • Генерация видео — на порядок более требовательная задача. Видеомодели обрабатывают не один кадр, а последовательность, что кратно увеличивает требования и нагрузку на железо. Требует от 16 ГБ VRAM. Хотя тенденции в последнее время меняются, появляются оптимизированные модели, способные генерировать видео на видеокартах с 6 ГБ.
  • Нейронное зрение — задача, менее требовательная к объёму памяти, но критичная к скорости вычислений в реальном времени. Необходим современный GPU или CPU с низкой задержкой к памяти.
  • Умное редактирование — по требованиям похоже на генерацию изображений, но часто работает с уже готовыми файлами высокого разрешения, поэтому объём VRAM важен вдвойне: модель должна одновременно держать в памяти и веса, и обрабатываемое изображение целиком.
  • Обучение — самая ресурсоёмкая из всех перечисленных задач. Если готовую модель можно использовать даже на маломощном железе, то обучение требует значительного объёма VRAM (от 16-24 ГБ для лёгких LoRA до десятков и сотен гигабайт для полноценного дообучения крупных моделей), быстрой оперативной памяти и накопителя.

С нудной частью закончили, можно переходить к анализу платформ, способных обеспечить работу с нейронными сетями.

LGA 2011-3

Одна из старейших платформ, которая благодаря стараниям ушлых китайцев способна удивить выдаваемой производительностью и в наши дни. Россыпь доступных многоядерных серверных процессоров, поддержка дешёвой оперативной памяти DDR4 ECC REG и четырёхканальный контроллер делают её привлекательной как для геймеров, так и для энтузиастов, желающих за недорого собрать мощный ПК.

LGA 2011-3
Автор: Smial (talk) Источник: commons.wikimedia.org

Однако низкая по современным меркам производительность на ядро, отсутствие поддержки PCI-E 4.0, крайне высокое энергопотребление и тепловыделение (не говоря уже о рефабах, проблемах с драйверами и полном отсутствии гарантии) ставят на LGA 2011-3 крест. Тем не менее, если ваш бюджет сильно ограничен, вы можете попробовать собрать систему для работы с нейронными сетями из связки двух E5 2680 V4 и RTX 3060, но в таком случае не забудьте на всякий случай поставить рядом с ПК огнетушитель.

Intel Xeon E5-2680 v4 vs AMD Ryzen 7 5700 vs Intel Core i5-12600
Автор: Intel, AMD, cpubenchmark Источник: www.cpubenchmark.net

AM4

Вторая по дешевизне платформа для сборки компьютера под работу с нейронными сетями. Благодаря поддержке многоядерных процессоров за относительно небольшие деньги, интерфейсу PCIe 4.0 и целой россыпи дешёвых материнских плат, AM4 — это практически идеальный бюджетный вариант. Сокет позволяет собрать надёжную систему для генерации текста, картинок, компьютерного зрения и даже для обучения простеньких моделей за относительно небольшие деньги. Единственный её минус — устаревающие интерфейсы и посредственная скорость работы с памятью из-за чиплетной архитектуры процессоров AMD Ryzen.

P. S. При работе с нейронными сетями старайтесь обзавестись процессором с 3D V-Cache или надёжной RAM с низкими таймингами.

AM4
Автор: AMD Источник: ru.dreamstime.com

LGA 1700

Самое сбалансированное и проверенное на сегодняшний день решение как для игр, так и для начального знакомства с нейронными сетями. Три поколения процессоров на любую задачу и кошелёк, совместимость как с DDR4, так и с DDR5 позволяет значительно сэкономить при сборке ПК, а нативная поддержка PCI-E 5.0 обеспечивает максимальную пропускную способность, что особенно важно при работе с искусственным интеллектом. Из минусов — двухканальный контроллер памяти, который всё же лучше, чем у AMD, и меньшее число линий PCI-E по сравнению с LGA 2011-3. Оптимальный вариант для большинства домашних задач с нейросетями в бюджете до 100 000 рублей.

P. S. Если вам удалось раздобыть процессор с 3D V-Cache, то о существовании LGA 1700 можно забыть.

LGA 1700
Автор: Intel, Сбер Источник: giga.chat

TR4 и sTRX4

Платформы, о которых практически все позабыли, но которые способны удивить не меньше LGA 2011-3. Созданные как решение для энтузиастов, сокеты TR4 и sTRX4 с расцветом искусственного интеллекта получили второе дыхание. Благодаря поддержке четырёхканального режима работы с памятью, наличию до 64 линий PCI-E, подведённых напрямую к процессору, и совместимости с многоядерными процессорами Ryzen Threadripper, чья производительность куда выше, чем у устаревших Xeon, эти платформы, несмотря на солидный возраст, способны стать серьёзной основой для работы с искусственным интеллектом.

TR4
Автор: AMD Источник: ichip.ru

Теперь о минусах. Первое — энергопотребление и тепловыделение. Процессоры Threadripper даже первого поколения потребляют ощутимо больше, чем процессоры под массовые платформы, а под нагрузкой требуют огромного башенного кулера или СЖО. Второе — блок питания. С учётом процессора с TDP под 170 Вт и нескольких видеокарт (которые вы обязательно захотите поставить), итоговое энергопотребление системы легко переваливает за киловатт, а это означает, что на блоке питания экономить категорически нельзя. Третье — спецификация PCI-E. Большинство доступных на рынке плат X399 используют версию 3.0, и лишь поздние модели на sTRX4 получили поддержку 4.0. Современные флагманские ускорители формально совместимы с PCI-E 3.0, но некоторый процент производительности на узкой шине они всё же теряют. Четвёртое — ограниченная однопоточная производительность ранних Threadripper. Ryzen Threadripper 1920X уверенно обходит старые Xeon, но до процессоров Ryzen 5000 или Intel 12-14 поколений ему далеко. Впрочем, все эти недостатки с лихвой компенсируются ценой. Найти плату X399 в паре с Ryzen Threadripper 1920X или Ryzen Threadripper 2970WX на вторичном рынке за 20-35 тыс. рублей не составляет большого труда. Спрос на них невелик, ибо мало кто из обозревателей компьютерного железа вообще помнит об их существовании.

Прочие платформы

Новейшие сокеты, такие как AM5, LGA 1851 и так далее, подходят для работы с искусственным интеллектом практически идеально. Они предлагают полноценную поддержку PCI-E 5.0, работают исключительно с быстрой памятью DDR5 и обеспечивают максимальную производительность, а в случае с Intel даже оснащаются встроенным NPU-блоком для локального ускорения ИИ. Добавьте сюда современные чипсеты с новейшими версиями интерфейсов и получите идеальное решение практически для всего. Проблема ровно одна: цена. Стоимость оперативной памяти DDR5 за последнее время серьёзно выросла, и если пару лет назад комплект в 32 ГБ обходился в 8-10 тыс. рублей, то теперь за него просят в два, а то и в три раза больше, что делает сборку бюджетного компьютера для работы с нейронными сетями безумно дорогой.

Автор: Сбер Источник: giga.chat

Заключение

Выбор сокета для работы с искусственным интеллектом сегодня сводится к простому правилу: чем шире круг задач и чем больше видеокарт вы планируете установить, тем внимательнее нужно смотреть на количество линий PCI-E и каналов памяти. Для бюджетного старта лучшими вариантами остаются AM4 и LGA 1700, чьи возможности с лихвой покрывают потребности в генерации текста и изображений. Если же вы хотите собрать систему на вырост, присмотритесь к AM5 — она предлагает современные интерфейсы, поддержку процессоров с 3D V-Cache и гарантированный апгрейд на годы вперёд. LGA 1851 подойдёт тем, кто предпочитает платформу Intel и готов заплатить за самые актуальные технологии. Ну, а если душа просит нестандартных решений и вы точно знаете, что одной видеокартой не ограничитесь, TR4 и sTRX4 всё ещё способны удивить, особенно с учётом их скромных цен на вторичном рынке. Главное помнить, что любая платформа лишь фундамент, а настоящую производительность в нейросетевых задачах определяет в первую очередь видеокарта, поэтому распределяйте бюджет с умом.

Изображение в превью:
Автор: AMD
Источник: psm7.com
Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе
Связь: https://vk.com/kerfaers или t.me/Pavel_Priluckiy

0 комментариев

Добавить комментарий

Сейчас на главной

Новости

Публикации

Как электроны пересобирают сами себя: физики зафиксировали мгновенную самоорганизацию фаз в кристалле

В физике твердого тела все превращения веществ — фазовые переходы, делятся на два основных типа.При фазовом переходе первого рода состояние вещества меняется скачком. Этот процесс всегда...

Почему яблоки падают с дерева раньше времени: дозреют ли они дома и куда девать падалицу

В августе я почти каждое утро нахожу под яблоней новые плоды. Один лежит целый, другой совсем зелёный, но уже с тёмной дырочкой. Раньше я собирала всё в одно ведро с надеждой, что яблоки полежат и...

Земклуника — устойчивый гибрид для минимального ухода: что за ягода и как выращивать

Земклуника зимостойка, не боится болезней, ягоды пахнут мускатом. Но важно правильно посадить, не забывать про полив, вовремя обновлять посадки. Чем этот гибрид лучше клубники и как за ним ухаживать.

Морошка: почему северная ягода считается деликатесом и редко бывает в магазинах

Морошка — одна из самых необычных ягод России. Она растёт почти у самой земли, созревает в суровом северном климате и в спелом виде напоминает маленькое янтарное солнце. Вкус у неё тоже...

✦ ИИ  Планка каждый день не заменит полноценную тренировку пресса: что она действительно тренирует

Планка укрепляет мышцы кора и улучшает стабильность корпуса, но не заменяет полноценную тренировку пресса. Разбираем возможности упражнения и чем дополнить его для развития силы и контроля тела.