Выбираем сокет для недорогого ПК под искусственный интеллект

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Искусственный интеллект продолжает покорять мир, открывая человечеству новые, невиданные ранее возможности. Однако задумывались ли вы, какое железо необходимо для его работы? В этой небольшой статье мы разберём все актуальные платформы, которые могут обеспечить пользователю возможность комфортной работы с нейронными сетями.

Автор: AMD Источник: psm7.com

Пояснение

Прежде чем перейти к основной теме статьи, необходимо кратко пояснить, какие именно задачи может выполнять искусственный интеллект. Ведь в зависимости от них требования к ПК будут значительно отличаться.

  • Генерация текста — самая простая задача, для которой не нужна даже видеокарта: сложность и качество определяются контекстом запроса, размером модели и её битностью (квантами).
  • Генерация изображений — вторая по сложности задача, требующая уже полноценную видеокарту. В отличие от текстовых моделей, диффузионные сети (Stable Diffusion, Flux и их производные) активно используют тензорные ядра GPU, поэтому объём и скорость видеопамяти выходят на первый план. Чем больше VRAM, новее интерфейс PCI-E и тип памяти, тем выше разрешение и тем быстрее можно генерировать изображения.
  • Генерация видео — на порядок более требовательная задача. Видеомодели обрабатывают не один кадр, а последовательность, что кратно увеличивает требования и нагрузку на железо. Требует от 16 ГБ VRAM. Хотя тенденции в последнее время меняются, появляются оптимизированные модели, способные генерировать видео на видеокартах с 6 ГБ.
  • Нейронное зрение — задача, менее требовательная к объёму памяти, но критичная к скорости вычислений в реальном времени. Необходим современный GPU или CPU с низкой задержкой к памяти.
  • Умное редактирование — по требованиям похоже на генерацию изображений, но часто работает с уже готовыми файлами высокого разрешения, поэтому объём VRAM важен вдвойне: модель должна одновременно держать в памяти и веса, и обрабатываемое изображение целиком.
  • Обучение — самая ресурсоёмкая из всех перечисленных задач. Если готовую модель можно использовать даже на маломощном железе, то обучение требует значительного объёма VRAM (от 16-24 ГБ для лёгких LoRA до десятков и сотен гигабайт для полноценного дообучения крупных моделей), быстрой оперативной памяти и накопителя.

С нудной частью закончили, можно переходить к анализу платформ, способных обеспечить работу с нейронными сетями.

LGA 2011-3

Одна из старейших платформ, которая благодаря стараниям ушлых китайцев способна удивить выдаваемой производительностью и в наши дни. Россыпь доступных многоядерных серверных процессоров, поддержка дешёвой оперативной памяти DDR4 ECC REG и четырёхканальный контроллер делают её привлекательной как для геймеров, так и для энтузиастов, желающих за недорого собрать мощный ПК.

LGA 2011-3
LGA 2011-3
Автор: Smial (talk) Источник: commons.wikimedia.org

Однако низкая по современным меркам производительность на ядро, отсутствие поддержки PCI-E 4.0, крайне высокое энергопотребление и тепловыделение (не говоря уже о рефабах, проблемах с драйверами и полном отсутствии гарантии) ставят на LGA 2011-3 крест. Тем не менее, если ваш бюджет сильно ограничен, вы можете попробовать собрать систему для работы с нейронными сетями из связки двух E5 2680 V4 и RTX 3060, но в таком случае не забудьте на всякий случай поставить рядом с ПК огнетушитель.

Intel Xeon E5-2680 v4 vs AMD Ryzen 7 5700  vs Intel Core i5-12600
Intel Xeon E5-2680 v4 vs AMD Ryzen 7 5700 vs Intel Core i5-12600
Автор: Intel, AMD, cpubenchmark Источник: www.cpubenchmark.net

AM4

Вторая по дешевизне платформа для сборки компьютера под работу с нейронными сетями. Благодаря поддержке многоядерных процессоров за относительно небольшие деньги, интерфейсу PCIe 4.0 и целой россыпи дешёвых материнских плат, AM4 — это практически идеальный бюджетный вариант. Сокет позволяет собрать надёжную систему для генерации текста, картинок, компьютерного зрения и даже для обучения простеньких моделей за относительно небольшие деньги. Единственный её минус — устаревающие интерфейсы и посредственная скорость работы с памятью из-за чиплетной архитектуры процессоров AMD Ryzen.

P. S. При работе с нейронными сетями старайтесь обзавестись процессором с 3D V-Cache или надёжной RAM с низкими таймингами.

AM4
AM4
Автор: AMD Источник: ru.dreamstime.com

LGA 1700

Самое сбалансированное и проверенное на сегодняшний день решение как для игр, так и для начального знакомства с нейронными сетями. Три поколения процессоров на любую задачу и кошелёк, совместимость как с DDR4, так и с DDR5 позволяет значительно сэкономить при сборке ПК, а нативная поддержка PCI-E 5.0 обеспечивает максимальную пропускную способность, что особенно важно при работе с искусственным интеллектом. Из минусов — двухканальный контроллер памяти, который всё же лучше, чем у AMD, и меньшее число линий PCI-E по сравнению с LGA 2011-3. Оптимальный вариант для большинства домашних задач с нейросетями в бюджете до 100 000 рублей.

P. S. Если вам удалось раздобыть процессор с 3D V-Cache, то о существовании LGA 1700 можно забыть.

LGA 1700
LGA 1700
Автор: Intel, Сбер Источник: giga.chat

TR4 и sTRX4

Платформы, о которых практически все позабыли, но которые способны удивить не меньше LGA 2011-3. Созданные как решение для энтузиастов, сокеты TR4 и sTRX4 с расцветом искусственного интеллекта получили второе дыхание. Благодаря поддержке четырёхканального режима работы с памятью, наличию до 64 линий PCI-E, подведённых напрямую к процессору, и совместимости с многоядерными процессорами Ryzen Threadripper, чья производительность куда выше, чем у устаревших Xeon, эти платформы, несмотря на солидный возраст, способны стать серьёзной основой для работы с искусственным интеллектом.

TR4
TR4
Автор: AMD Источник: ichip.ru

Теперь о минусах. Первое — энергопотребление и тепловыделение. Процессоры Threadripper даже первого поколения потребляют ощутимо больше, чем процессоры под массовые платформы, а под нагрузкой требуют огромного башенного кулера или СЖО. Второе — блок питания. С учётом процессора с TDP под 170 Вт и нескольких видеокарт (которые вы обязательно захотите поставить), итоговое энергопотребление системы легко переваливает за киловатт, а это означает, что на блоке питания экономить категорически нельзя. Третье — спецификация PCI-E. Большинство доступных на рынке плат X399 используют версию 3.0, и лишь поздние модели на sTRX4 получили поддержку 4.0. Современные флагманские ускорители формально совместимы с PCI-E 3.0, но некоторый процент производительности на узкой шине они всё же теряют. Четвёртое — ограниченная однопоточная производительность ранних Threadripper. Ryzen Threadripper 1920X уверенно обходит старые Xeon, но до процессоров Ryzen 5000 или Intel 12-14 поколений ему далеко. Впрочем, все эти недостатки с лихвой компенсируются ценой. Найти плату X399 в паре с Ryzen Threadripper 1920X или Ryzen Threadripper 2970WX на вторичном рынке за 20-35 тыс. рублей не составляет большого труда. Спрос на них невелик, ибо мало кто из обозревателей компьютерного железа вообще помнит об их существовании.

Прочие платформы

Новейшие сокеты, такие как AM5, LGA 1851 и так далее, подходят для работы с искусственным интеллектом практически идеально. Они предлагают полноценную поддержку PCI-E 5.0, работают исключительно с быстрой памятью DDR5 и обеспечивают максимальную производительность, а в случае с Intel даже оснащаются встроенным NPU-блоком для локального ускорения ИИ. Добавьте сюда современные чипсеты с новейшими версиями интерфейсов и получите идеальное решение практически для всего. Проблема ровно одна: цена. Стоимость оперативной памяти DDR5 за последнее время серьёзно выросла, и если пару лет назад комплект в 32 ГБ обходился в 8-10 тыс. рублей, то теперь за него просят в два, а то и в три раза больше, что делает сборку бюджетного компьютера для работы с нейронными сетями безумно дорогой.

Автор: Сбер Источник: giga.chat

Заключение

Выбор сокета для работы с искусственным интеллектом сегодня сводится к простому правилу: чем шире круг задач и чем больше видеокарт вы планируете установить, тем внимательнее нужно смотреть на количество линий PCI-E и каналов памяти. Для бюджетного старта лучшими вариантами остаются AM4 и LGA 1700, чьи возможности с лихвой покрывают потребности в генерации текста и изображений. Если же вы хотите собрать систему на вырост, присмотритесь к AM5 — она предлагает современные интерфейсы, поддержку процессоров с 3D V-Cache и гарантированный апгрейд на годы вперёд. LGA 1851 подойдёт тем, кто предпочитает платформу Intel и готов заплатить за самые актуальные технологии. Ну, а если душа просит нестандартных решений и вы точно знаете, что одной видеокартой не ограничитесь, TR4 и sTRX4 всё ещё способны удивить, особенно с учётом их скромных цен на вторичном рынке. Главное помнить, что любая платформа лишь фундамент, а настоящую производительность в нейросетевых задачах определяет в первую очередь видеокарта, поэтому распределяйте бюджет с умом.

Изображение в превью:
Автор: AMD
Источник: psm7.com
Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе
Связь: https://vk.com/kerfaers или t.me/Pavel_Priluckiy

0 комментариев

Добавить комментарий

Сейчас на главной

Новости

Публикации

Аккумуляторы из вторсырья превзошли новые заводские батареи: как модернизация катода и графита увеличила их ресурс в два раза

Литий-ионные аккумуляторы окружают нас повсюду: они питают смартфоны, ноутбуки, электроинструменты, системы хранения энергии и электромобили. У всех этих батарей есть общая проблема — со...

7300 лет назад супервулкан засыпал Японию пеплом. Почему одни племена вымерли, а другие пережили демографический скачок

Около 7300 лет назад в Восточно-Китайском море, всего в тридцати километрах к югу от японского острова Кюсю, проснулся подводный вулкан Кикай. Это извержение получило в науке двойное имя...

Лось способен нырять за кормом на несколько метров: зачем сухопутному гиганту подводная жизнь

Лось кажется животным, которому вода нужна разве что для питья и спасения от жары. Высокие ноги, тяжёлое тело, огромная голова — всё в нём будто рассчитано на болота и лесные просеки, но...

Ракетная Tesla полетела, а также развитие ситуации с датацентрами в РФ: главное за неделю

Самые интересные новости финансов и технологий в России и мире за неделю: ЦОДы Судного дня в России, Генпрокуратура отступилась от Freedom Holding, Нобелевка по экономике...

Обзор контроллера XPpen Pilot Pro: как им манипулировать?

Я думал что он поможет мне быстрее работать в Lightroom, но чуда не случилось. Инструмент удобный, но полностью заменить клавиатуру не получится. Да этого никто и не обещал. Хотя некоторые удобства...