Выбираем сокет для недорогого ПК под искусственный интеллект

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Мнение | Платформа ПК

Искусственный интеллект продолжает покорять мир, открывая человечеству новые, невиданные ранее возможности. Однако задумывались ли вы, какое железо необходимо для его работы? В этой небольшой статье мы разберём все актуальные платформы, которые могут обеспечить пользователю возможность комфортной работы с нейронными сетями.

Автор: AMD Источник: psm7.com

Пояснение

Прежде чем перейти к основной теме статьи, необходимо кратко пояснить, какие именно задачи может выполнять искусственный интеллект. Ведь в зависимости от них требования к ПК будут значительно отличаться.

  • Генерация текста — самая простая задача, для которой не нужна даже видеокарта: сложность и качество определяются контекстом запроса, размером модели и её битностью (квантами).
  • Генерация изображений — вторая по сложности задача, требующая уже полноценную видеокарту. В отличие от текстовых моделей, диффузионные сети (Stable Diffusion, Flux и их производные) активно используют тензорные ядра GPU, поэтому объём и скорость видеопамяти выходят на первый план. Чем больше VRAM, новее интерфейс PCI-E и тип памяти, тем выше разрешение и тем быстрее можно генерировать изображения.
  • Генерация видео — на порядок более требовательная задача. Видеомодели обрабатывают не один кадр, а последовательность, что кратно увеличивает требования и нагрузку на железо. Требует от 16 ГБ VRAM. Хотя тенденции в последнее время меняются, появляются оптимизированные модели, способные генерировать видео на видеокартах с 6 ГБ.
  • Нейронное зрение — задача, менее требовательная к объёму памяти, но критичная к скорости вычислений в реальном времени. Необходим современный GPU или CPU с низкой задержкой к памяти.
  • Умное редактирование — по требованиям похоже на генерацию изображений, но часто работает с уже готовыми файлами высокого разрешения, поэтому объём VRAM важен вдвойне: модель должна одновременно держать в памяти и веса, и обрабатываемое изображение целиком.
  • Обучение — самая ресурсоёмкая из всех перечисленных задач. Если готовую модель можно использовать даже на маломощном железе, то обучение требует значительного объёма VRAM (от 16-24 ГБ для лёгких LoRA до десятков и сотен гигабайт для полноценного дообучения крупных моделей), быстрой оперативной памяти и накопителя.

С нудной частью закончили, можно переходить к анализу платформ, способных обеспечить работу с нейронными сетями.

LGA 2011-3

Одна из старейших платформ, которая благодаря стараниям ушлых китайцев способна удивить выдаваемой производительностью и в наши дни. Россыпь доступных многоядерных серверных процессоров, поддержка дешёвой оперативной памяти DDR4 ECC REG и четырёхканальный контроллер делают её привлекательной как для геймеров, так и для энтузиастов, желающих за недорого собрать мощный ПК.

LGA 2011-3
LGA 2011-3
Автор: Smial (talk) Источник: commons.wikimedia.org

Однако низкая по современным меркам производительность на ядро, отсутствие поддержки PCI-E 4.0, крайне высокое энергопотребление и тепловыделение (не говоря уже о рефабах, проблемах с драйверами и полном отсутствии гарантии) ставят на LGA 2011-3 крест. Тем не менее, если ваш бюджет сильно ограничен, вы можете попробовать собрать систему для работы с нейронными сетями из связки двух E5 2680 V4 и RTX 3060, но в таком случае не забудьте на всякий случай поставить рядом с ПК огнетушитель.

Intel Xeon E5-2680 v4 vs AMD Ryzen 7 5700  vs Intel Core i5-12600
Intel Xeon E5-2680 v4 vs AMD Ryzen 7 5700 vs Intel Core i5-12600
Автор: Intel, AMD, cpubenchmark Источник: www.cpubenchmark.net

AM4

Вторая по дешевизне платформа для сборки компьютера под работу с нейронными сетями. Благодаря поддержке многоядерных процессоров за относительно небольшие деньги, интерфейсу PCIe 4.0 и целой россыпи дешёвых материнских плат, AM4 — это практически идеальный бюджетный вариант. Сокет позволяет собрать надёжную систему для генерации текста, картинок, компьютерного зрения и даже для обучения простеньких моделей за относительно небольшие деньги. Единственный её минус — устаревающие интерфейсы и посредственная скорость работы с памятью из-за чиплетной архитектуры процессоров AMD Ryzen.

P. S. При работе с нейронными сетями старайтесь обзавестись процессором с 3D V-Cache или надёжной RAM с низкими таймингами.

AM4
AM4
Автор: AMD Источник: ru.dreamstime.com

LGA 1700

Самое сбалансированное и проверенное на сегодняшний день решение как для игр, так и для начального знакомства с нейронными сетями. Три поколения процессоров на любую задачу и кошелёк, совместимость как с DDR4, так и с DDR5 позволяет значительно сэкономить при сборке ПК, а нативная поддержка PCI-E 5.0 обеспечивает максимальную пропускную способность, что особенно важно при работе с искусственным интеллектом. Из минусов — двухканальный контроллер памяти, который всё же лучше, чем у AMD, и меньшее число линий PCI-E по сравнению с LGA 2011-3. Оптимальный вариант для большинства домашних задач с нейросетями в бюджете до 100 000 рублей.

P. S. Если вам удалось раздобыть процессор с 3D V-Cache, то о существовании LGA 1700 можно забыть.

LGA 1700
LGA 1700
Автор: Intel, Сбер Источник: giga.chat

TR4 и sTRX4

Платформы, о которых практически все позабыли, но которые способны удивить не меньше LGA 2011-3. Созданные как решение для энтузиастов, сокеты TR4 и sTRX4 с расцветом искусственного интеллекта получили второе дыхание. Благодаря поддержке четырёхканального режима работы с памятью, наличию до 64 линий PCI-E, подведённых напрямую к процессору, и совместимости с многоядерными процессорами Ryzen Threadripper, чья производительность куда выше, чем у устаревших Xeon, эти платформы, несмотря на солидный возраст, способны стать серьёзной основой для работы с искусственным интеллектом.

TR4
TR4
Автор: AMD Источник: ichip.ru

Теперь о минусах. Первое — энергопотребление и тепловыделение. Процессоры Threadripper даже первого поколения потребляют ощутимо больше, чем процессоры под массовые платформы, а под нагрузкой требуют огромного башенного кулера или СЖО. Второе — блок питания. С учётом процессора с TDP под 170 Вт и нескольких видеокарт (которые вы обязательно захотите поставить), итоговое энергопотребление системы легко переваливает за киловатт, а это означает, что на блоке питания экономить категорически нельзя. Третье — спецификация PCI-E. Большинство доступных на рынке плат X399 используют версию 3.0, и лишь поздние модели на sTRX4 получили поддержку 4.0. Современные флагманские ускорители формально совместимы с PCI-E 3.0, но некоторый процент производительности на узкой шине они всё же теряют. Четвёртое — ограниченная однопоточная производительность ранних Threadripper. Ryzen Threadripper 1920X уверенно обходит старые Xeon, но до процессоров Ryzen 5000 или Intel 12-14 поколений ему далеко. Впрочем, все эти недостатки с лихвой компенсируются ценой. Найти плату X399 в паре с Ryzen Threadripper 1920X или Ryzen Threadripper 2970WX на вторичном рынке за 20-35 тыс. рублей не составляет большого труда. Спрос на них невелик, ибо мало кто из обозревателей компьютерного железа вообще помнит об их существовании.

Прочие платформы

Новейшие сокеты, такие как AM5, LGA 1851 и так далее, подходят для работы с искусственным интеллектом практически идеально. Они предлагают полноценную поддержку PCI-E 5.0, работают исключительно с быстрой памятью DDR5 и обеспечивают максимальную производительность, а в случае с Intel даже оснащаются встроенным NPU-блоком для локального ускорения ИИ. Добавьте сюда современные чипсеты с новейшими версиями интерфейсов и получите идеальное решение практически для всего. Проблема ровно одна: цена. Стоимость оперативной памяти DDR5 за последнее время серьёзно выросла, и если пару лет назад комплект в 32 ГБ обходился в 8-10 тыс. рублей, то теперь за него просят в два, а то и в три раза больше, что делает сборку бюджетного компьютера для работы с нейронными сетями безумно дорогой.

Автор: Сбер Источник: giga.chat

Заключение

Выбор сокета для работы с искусственным интеллектом сегодня сводится к простому правилу: чем шире круг задач и чем больше видеокарт вы планируете установить, тем внимательнее нужно смотреть на количество линий PCI-E и каналов памяти. Для бюджетного старта лучшими вариантами остаются AM4 и LGA 1700, чьи возможности с лихвой покрывают потребности в генерации текста и изображений. Если же вы хотите собрать систему на вырост, присмотритесь к AM5 — она предлагает современные интерфейсы, поддержку процессоров с 3D V-Cache и гарантированный апгрейд на годы вперёд. LGA 1851 подойдёт тем, кто предпочитает платформу Intel и готов заплатить за самые актуальные технологии. Ну, а если душа просит нестандартных решений и вы точно знаете, что одной видеокартой не ограничитесь, TR4 и sTRX4 всё ещё способны удивить, особенно с учётом их скромных цен на вторичном рынке. Главное помнить, что любая платформа лишь фундамент, а настоящую производительность в нейросетевых задачах определяет в первую очередь видеокарта, поэтому распределяйте бюджет с умом.

Изображение в превью:
Автор: AMD
Источник: psm7.com
Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе
Связь: https://vk.com/kerfaers или t.me/Pavel_Priluckiy

0 комментариев

Добавить комментарий

Сейчас на главной

Новости

Публикации

Juzear Light Shuttle — драйвовая нейтральность — обзор трибридных внутриканальных наушников 1DD+4BA+2MPl

Про компанию Juzear знаю я уже давно, но знакомлюсь с их наушниками впервые. В их ассортименте более дюжины различных гибридных моделей, некоторые из которых имеют на борту три вида излучателей. И...

Мышь охотится на скорпиона: почему его укус почти не причиняет ей боли?

В пустыне мышь, которая сама идёт на скорпиона, звучит как странное исключение. Но южная кузнечиковая мышь не случайно получила такое название: она охотится на членистоногих, включая скорпионов, и...

Время существует только для нас, а Вселенная никогда не двигалась: смелая идея физики, которую можно доказать

Человек строит цивилизацию вокруг измерения времени. Расписания транспорта, синхронизация спутниковых систем навигации, биржевые транзакции и биологические ритмы живых организмов привязаны к...

Застрявшие перед стартом стволовые клетки отправили на МКС: ткань пережила критическую изоляцию и превратилась в нейроны

В январе 2024 года с космодрома во Флориде стартовала коммерческая миссия Axiom-3. На борту корабля Crew Dragon на Международную космическую станцию отправился шведский астронавт Маркус Вандт....

Где во Вселенной идеальные условия для жизни? Модель в суперкомпьютере объяснила феномен выживания Земли

Долгое время в астробиологии ключевым инструментом для поиска жизни оставалась концепция околозвездной зоны обитаемости. Исследователи рассчитывали расстояние от конкретной звезды, на котором...

Windows-ноутбук за те же деньги? Спасибо, не надо: мнение от перехода на MacBook Neo

Переход с Windows на MacBook Neo я изначально не воспринимал как какое-то судьбоносное событие. Windows-ноутбуки я использовал много лет и прекрасно понимал их преимущества: совместимость с...