Выбираем сокет для недорогого ПК под искусственный интеллект

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Мнение | Платформа ПК

Искусственный интеллект продолжает покорять мир, открывая человечеству новые, невиданные ранее возможности. Однако задумывались ли вы, какое железо необходимо для его работы? В этой небольшой статье мы разберём все актуальные платформы, которые могут обеспечить пользователю возможность комфортной работы с нейронными сетями.

Автор: AMD Источник: psm7.com

Пояснение

Прежде чем перейти к основной теме статьи, необходимо кратко пояснить, какие именно задачи может выполнять искусственный интеллект. Ведь в зависимости от них требования к ПК будут значительно отличаться.

  • Генерация текста — самая простая задача, для которой не нужна даже видеокарта: сложность и качество определяются контекстом запроса, размером модели и её битностью (квантами).
  • Генерация изображений — вторая по сложности задача, требующая уже полноценную видеокарту. В отличие от текстовых моделей, диффузионные сети (Stable Diffusion, Flux и их производные) активно используют тензорные ядра GPU, поэтому объём и скорость видеопамяти выходят на первый план. Чем больше VRAM, новее интерфейс PCI-E и тип памяти, тем выше разрешение и тем быстрее можно генерировать изображения.
  • Генерация видео — на порядок более требовательная задача. Видеомодели обрабатывают не один кадр, а последовательность, что кратно увеличивает требования и нагрузку на железо. Требует от 16 ГБ VRAM. Хотя тенденции в последнее время меняются, появляются оптимизированные модели, способные генерировать видео на видеокартах с 6 ГБ.
  • Нейронное зрение — задача, менее требовательная к объёму памяти, но критичная к скорости вычислений в реальном времени. Необходим современный GPU или CPU с низкой задержкой к памяти.
  • Умное редактирование — по требованиям похоже на генерацию изображений, но часто работает с уже готовыми файлами высокого разрешения, поэтому объём VRAM важен вдвойне: модель должна одновременно держать в памяти и веса, и обрабатываемое изображение целиком.
  • Обучение — самая ресурсоёмкая из всех перечисленных задач. Если готовую модель можно использовать даже на маломощном железе, то обучение требует значительного объёма VRAM (от 16-24 ГБ для лёгких LoRA до десятков и сотен гигабайт для полноценного дообучения крупных моделей), быстрой оперативной памяти и накопителя.

С нудной частью закончили, можно переходить к анализу платформ, способных обеспечить работу с нейронными сетями.

LGA 2011-3

Одна из старейших платформ, которая благодаря стараниям ушлых китайцев способна удивить выдаваемой производительностью и в наши дни. Россыпь доступных многоядерных серверных процессоров, поддержка дешёвой оперативной памяти DDR4 ECC REG и четырёхканальный контроллер делают её привлекательной как для геймеров, так и для энтузиастов, желающих за недорого собрать мощный ПК.

LGA 2011-3
LGA 2011-3
Автор: Smial (talk) Источник: commons.wikimedia.org

Однако низкая по современным меркам производительность на ядро, отсутствие поддержки PCI-E 4.0, крайне высокое энергопотребление и тепловыделение (не говоря уже о рефабах, проблемах с драйверами и полном отсутствии гарантии) ставят на LGA 2011-3 крест. Тем не менее, если ваш бюджет сильно ограничен, вы можете попробовать собрать систему для работы с нейронными сетями из связки двух E5 2680 V4 и RTX 3060, но в таком случае не забудьте на всякий случай поставить рядом с ПК огнетушитель.

Intel Xeon E5-2680 v4 vs AMD Ryzen 7 5700  vs Intel Core i5-12600
Intel Xeon E5-2680 v4 vs AMD Ryzen 7 5700 vs Intel Core i5-12600
Автор: Intel, AMD, cpubenchmark Источник: www.cpubenchmark.net

AM4

Вторая по дешевизне платформа для сборки компьютера под работу с нейронными сетями. Благодаря поддержке многоядерных процессоров за относительно небольшие деньги, интерфейсу PCIe 4.0 и целой россыпи дешёвых материнских плат, AM4 — это практически идеальный бюджетный вариант. Сокет позволяет собрать надёжную систему для генерации текста, картинок, компьютерного зрения и даже для обучения простеньких моделей за относительно небольшие деньги. Единственный её минус — устаревающие интерфейсы и посредственная скорость работы с памятью из-за чиплетной архитектуры процессоров AMD Ryzen.

P. S. При работе с нейронными сетями старайтесь обзавестись процессором с 3D V-Cache или надёжной RAM с низкими таймингами.

AM4
AM4
Автор: AMD Источник: ru.dreamstime.com

LGA 1700

Самое сбалансированное и проверенное на сегодняшний день решение как для игр, так и для начального знакомства с нейронными сетями. Три поколения процессоров на любую задачу и кошелёк, совместимость как с DDR4, так и с DDR5 позволяет значительно сэкономить при сборке ПК, а нативная поддержка PCI-E 5.0 обеспечивает максимальную пропускную способность, что особенно важно при работе с искусственным интеллектом. Из минусов — двухканальный контроллер памяти, который всё же лучше, чем у AMD, и меньшее число линий PCI-E по сравнению с LGA 2011-3. Оптимальный вариант для большинства домашних задач с нейросетями в бюджете до 100 000 рублей.

P. S. Если вам удалось раздобыть процессор с 3D V-Cache, то о существовании LGA 1700 можно забыть.

LGA 1700
LGA 1700
Автор: Intel, Сбер Источник: giga.chat

TR4 и sTRX4

Платформы, о которых практически все позабыли, но которые способны удивить не меньше LGA 2011-3. Созданные как решение для энтузиастов, сокеты TR4 и sTRX4 с расцветом искусственного интеллекта получили второе дыхание. Благодаря поддержке четырёхканального режима работы с памятью, наличию до 64 линий PCI-E, подведённых напрямую к процессору, и совместимости с многоядерными процессорами Ryzen Threadripper, чья производительность куда выше, чем у устаревших Xeon, эти платформы, несмотря на солидный возраст, способны стать серьёзной основой для работы с искусственным интеллектом.

TR4
TR4
Автор: AMD Источник: ichip.ru

Теперь о минусах. Первое — энергопотребление и тепловыделение. Процессоры Threadripper даже первого поколения потребляют ощутимо больше, чем процессоры под массовые платформы, а под нагрузкой требуют огромного башенного кулера или СЖО. Второе — блок питания. С учётом процессора с TDP под 170 Вт и нескольких видеокарт (которые вы обязательно захотите поставить), итоговое энергопотребление системы легко переваливает за киловатт, а это означает, что на блоке питания экономить категорически нельзя. Третье — спецификация PCI-E. Большинство доступных на рынке плат X399 используют версию 3.0, и лишь поздние модели на sTRX4 получили поддержку 4.0. Современные флагманские ускорители формально совместимы с PCI-E 3.0, но некоторый процент производительности на узкой шине они всё же теряют. Четвёртое — ограниченная однопоточная производительность ранних Threadripper. Ryzen Threadripper 1920X уверенно обходит старые Xeon, но до процессоров Ryzen 5000 или Intel 12-14 поколений ему далеко. Впрочем, все эти недостатки с лихвой компенсируются ценой. Найти плату X399 в паре с Ryzen Threadripper 1920X или Ryzen Threadripper 2970WX на вторичном рынке за 20-35 тыс. рублей не составляет большого труда. Спрос на них невелик, ибо мало кто из обозревателей компьютерного железа вообще помнит об их существовании.

Прочие платформы

Новейшие сокеты, такие как AM5, LGA 1851 и так далее, подходят для работы с искусственным интеллектом практически идеально. Они предлагают полноценную поддержку PCI-E 5.0, работают исключительно с быстрой памятью DDR5 и обеспечивают максимальную производительность, а в случае с Intel даже оснащаются встроенным NPU-блоком для локального ускорения ИИ. Добавьте сюда современные чипсеты с новейшими версиями интерфейсов и получите идеальное решение практически для всего. Проблема ровно одна: цена. Стоимость оперативной памяти DDR5 за последнее время серьёзно выросла, и если пару лет назад комплект в 32 ГБ обходился в 8-10 тыс. рублей, то теперь за него просят в два, а то и в три раза больше, что делает сборку бюджетного компьютера для работы с нейронными сетями безумно дорогой.

Автор: Сбер Источник: giga.chat

Заключение

Выбор сокета для работы с искусственным интеллектом сегодня сводится к простому правилу: чем шире круг задач и чем больше видеокарт вы планируете установить, тем внимательнее нужно смотреть на количество линий PCI-E и каналов памяти. Для бюджетного старта лучшими вариантами остаются AM4 и LGA 1700, чьи возможности с лихвой покрывают потребности в генерации текста и изображений. Если же вы хотите собрать систему на вырост, присмотритесь к AM5 — она предлагает современные интерфейсы, поддержку процессоров с 3D V-Cache и гарантированный апгрейд на годы вперёд. LGA 1851 подойдёт тем, кто предпочитает платформу Intel и готов заплатить за самые актуальные технологии. Ну, а если душа просит нестандартных решений и вы точно знаете, что одной видеокартой не ограничитесь, TR4 и sTRX4 всё ещё способны удивить, особенно с учётом их скромных цен на вторичном рынке. Главное помнить, что любая платформа лишь фундамент, а настоящую производительность в нейросетевых задачах определяет в первую очередь видеокарта, поэтому распределяйте бюджет с умом.

Изображение в превью:
Автор: AMD
Источник: psm7.com
Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе
Связь: https://vk.com/kerfaers или t.me/Pavel_Priluckiy

0 комментариев

Добавить комментарий

Сейчас на главной

Новости

Публикации

Тоньше обычной зарядки: обзор UGREEN Nexode Air 65W со складной вилкой и GaN

Большинство зарядных устройств на 65 Вт уже давно научились работать с ноутбуками, смартфонами и другими гаджетами, но при этом остаются достаточно массивными. UGREEN выпустила серию Nexode...

Дизайнерский эксперимент 1975 года: чем кассетная дека Akai GXC-710D отличается от конкурентов

В 1975 году японская компания Akai представила кассетную деку GXC-710D. В рознице она стоила 79 800 иен. Большинство производителей тогда делали кассетные магнитофоны по стандартной схеме: основные...

Почему самая дорогая мука для выпечки содержит меньше всего полезного

На полке в магазине мука стоит по ранжиру. «Экстра» дороже «высшего сорта». «Высший сорт» дороже первого. Чем выше сорт, тем лучше. Чем лучше, тем дороже. Мы привыкли платить больше за качество. Но...

Анатомия линейки Toshiba T2100: разбор буквенных индексов, типов экранов и модулей памяти

Toshiba Satellite T2100 вышла в 1995 году, в эпоху процессоров 486. Серию построили на едином шасси, а пользователю дали на выбор несколько модификаций, которые различались типом дисплея, объёмом...

Маяк Кейп-Хаттерас: как 5000-тонную башню перенесли на 460 метров от океана

Летом 1999 года на побережье Северной Каролины происходило зрелище, больше похожее на инженерный эксперимент, чем на реставрацию памятника. Самый высокий кирпичный маяк США медленно ехал по...