GPU подорожают из-за нейросетей

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Рассуждения | Видеокарты и мониторы

В настоящее время машинное обучение становится все более популярным и востребованным в различных областях, таких как компьютерное зрение, обработка естественного языка и автоматическое управление. Однако, для выполнения сложных вычислительных задач, связанных с машинным обучением, требуются мощные вычислительные ресурсы.

Автор: Midjourney

Помните, как для майнинга стали массово использовать GPU вместо CPU? Так вот для машинного обучения вполне имеет место быть такая же тенденция и это, скорее всего, результирует в рост цен на GPU.

Разница между CPU и GPU

В отличие от центрального процессора (CPU), который лучше подходит для выполнения общих операций и переключения между несколькими задачами, GPU предназначен для параллельных вычислений и разбиения сложных задач на более мелкие подзадачи. Это делает GPU идеальным для обработки больших объемов данных и поддержки сложных многоэтапных процессов, которые часто встречаются в машинном обучении.

Преимущества использования GPU для машинного обучения очевидны. Во-первых, GPU может значительно ускорить процесс обучения, что может привести к более быстрому получению результатов. Во-вторых, GPU может обеспечить эффективную обработку больших объемов данных, что может быть необходимо для решения сложных задач в области машинного обучения. Наконец, использование GPU может улучшить качество результатов, так как он может обрабатывать более сложные модели и алгоритмы.

Однако, не стоит забывать о том, что использование GPU требует дополнительных затрат на оборудование и энергопотребление. Кроме того, не все задачи в машинном обучении требуют использования GPU. Некоторые задачи могут выполняться на CPU или на других специализированных устройствах.

Автор: Midjourney

Как NVidia захватывает ИИ-индустрию

Теперь давайте рассмотрим немного конкретики в качестве примера. Благодаря тому, что GPU очень востребованы в области генеративного ИИ,

Графические процессоры компании Nvidia играют ключевую роль в успехе компании в области искусственного интеллекта (ИИ). Созданные в 1999 году для обработки 3D-графики в видеоиграх, GPU Nvidia были оптимизированы для выполнения общих вычислительных операций, что оказалось идеальным для выполнения алгоритмов глубокого обучения. Сегодня Nvidia принадлежит около 88% рынка графических процессоров, и многие видят в компании крупнейшего потенциального победителя в горячем пространстве генеративного ИИ.

Большие языковые модели, такие как ChatGPT и DALL-E 2, запустили генеративный ИИ в общественное сознание, и для работы этих моделей требуется тысячи графических процессоров. На самом деле, OpenAI использовала 10 000 графических процессоров Nvidia для обучения ChatGPT. Использование ChatGPT может привести к продажам Nvidia от 3 до 11 миллиардов долларов в течение 12 месяцев.

ИИ находится в «переломной точке», что приводит к тому, что все больше компаний покупают больше чипов Nvidia для разработки программного обеспечения ML. Универсальность и возможности генеративного ИИ вызвали у предприятий по всему миру острую потребность в разработке и внедрении стратегий ИИ. Благодаря своим возможностям в области параллельных вычислений, поддерживаемым тысячами вычислительных ядер, GPU Nvidia стали идеальным инструментом для выполнения алгоритмов глубокого обучения и развития генеративного ИИ. По логик вещей компания должна процветать в новых условиях.

Автор: Midjourney

Какие из этого следуют выводы?

Выводы из этого следуют крайне неутешительные для любителей поиграть в AAA игры с передовыми графическими движками. Потому что GPU всё чаще и чаще начинают использовать не по их традиционному назначению. Сперва видеокарты подорожали из-за хайпа вокруг майнинга криптовалют, теперь же спрос на них вырастет из-за развития нейросетей.

Автор не входит в состав редакции iXBT.com (подробнее »)

27 комментариев

221034124@vkontakte
нет.
популярность нейросетей это миф, придуманный нейросеткой. Среднему обывателю спрашивать ChatGPT не о чем, и в генерации картинок он тоже слаб, ему бы стримерш голых в джакузи да сериалы посмотреть, ленту покрутить, лолку с вавкой погонять. Творческие области конечно GPU задействовали, но там капля в море. На вторичке столько дешевых РТХ-ов, что можно было бы годами генерить картинки, вот только это никому не надо, побаловались да успокоились.
87638502@vkontakte
Мне не хочется вас обижать, но вы совершенно не понимаете, что такое нейросети. Это не только генерация картинок и новый удобный способ поиска. Всё намного серьезное. Нейросети это будущее, которое заменит сотни лингвистов, помощников службы поддержки, переводчиков. В общем, всё то, что хоть как-то связано с поиском и обработкой информации. А по поводу вторички, так именно компании загрузят производственные линиии производителей GPU и CPU специализированными ускорителями, как это было в своё время с картами для майнинга.
221034124@vkontakte
я все это прекрасно знаю (иначе бы не писал), у меня сейчас развернута сеть (вторая по счету) и даже 3070ti всегда готова ринутся в бой, вот только я этого не делаю постоянно.
Когда нужно — запустил, дело пяти минут, на выполнение задачи — еще три. А дальше что?
Выполнять задачи в режиме 24/7? Только если мне за это заплатят.
Вот только не платят? А почему?
Потому что сами могут развернуть нейросеть (чтобы бесплатно получить работу не нанимая специалиста), посмотрев три обучалки на ютубе...
дальше цепочку продолжить сами.
87638502@vkontakte
Тогда почему вы выставляете всё так, будто это всё будет просчитываться конечными пользователями? Компании просто выкинут кучу народа, установят уйму личных вычислительных кластеров и будут крутить их 24/7. Роботам платить не нужно.
115879587792178294781@google
А по вашему — фирмы будут скупать тиражи видеокарт и строить «нейрофермы» на пару ангаров с потреблением в пару сотен киловатт, вместо того чтоб собрать пару серверных шкафов на киловатт на 10-20 из специализированных ускорителей?
То чем занимаются простые юзвери со своими RТХсами это лишь баловство, пока это не приносит деньги, как копание воздуха — видеокарты массого скупать не будут.
87638502@vkontakte
Держите планку выше — Из десятков тысяч.
Sawaru
" Роботам платить не нужно."
Нужно. Амортизация называется. Иначе робот сломается. Ещё софт к ним покупать надо, подписки ж придумали. При том роботу платить меньше, в отличии от, ты не можешь.
Ах да, а кто роботов обслуживать будет? А как же оператор? Ну вот как вам миджорни что-то нарисует без запроса?

Ах да знаете в чём прикол? Ну хорошо продолжим логику. Ну выкинут компании кучу народу. И так каждая компания, ведь так выше производительность труда, в виду автоматизации. Как следствие ниже издержки. Т.е. эффективная форма собственности.

Но есть классное противоречие. Кто тогда чёрт возьми будет покупать товары компаний? Ведь уволив кучу народу, они перестанут получать зарплату. А без денег, они же не могут предъявлять спрос.
А 1.5 землекопа работающих обслуживающих нейросети, кучу товара не купят им столько не надо.

Вот по этому же, фирмы не вольно, но по логике системы, начали осваивать ручной китайский труд. Вы эт кстати ещё гляньте на амазон. Как там используются технологии.

87638502@vkontakte
Вы рассуждаете с позиции «А кто заставит?», да всё очень просто и легко, как и с любым попсовом товаром. Заставили же людей покупать брендованный шлак. Так и тут будет, вы ещё увидите.
Sawaru
Нет это вы мне приписываете. Ещё раз откуда у людей вообще возьмутся деньги? Если оказывается все уволили кучу народу и работают машины с нейросетями?
Иди заставь человека купить что-то, когда у него денег ровно 0, так как откуда бы им взяться?
87638502@vkontakte
Угадайте, откуда берутся деньги, когда человек не работает.
Sawaru
Ни о чём.
Во первых. Сегментация. Как сказывается на геймере покупка, тысяч карт квадро? Примерно никак. Другой сегмент рынка.
.
Во вторых. Для ML используются не только лишь GPU. Для данной задачи разрабатываются спец. блоки.
Окей вот есть уже упомянутые CPU. Рассмотрим х86.
1)Инструкция AVX-512 VNNI, инструкция для ускорения алгоритмов на основе свёрточных нейросетей.
2)Инструкция AMX, уже как раз работа с матрицами, для ускорения ИИ и машинного обучения.
3)Интегрированные спец. блоки у Intel VPU, у AMD Ryzen AI.
.
В третьих мы наконец добрались до специализированных решений. Например от Xilinx (AMD) имеем Alveo V70 AI Accelerator. И это не GPU.
.
В четвёртых, в чём проблема под растущий спрос увеличить выпуск продукции? Полупроводниковый кризис прошёл. Мощности фабрик стали доступнее. Была новость же о сокращении заказов у TSMC к примеру.
Илья Букаев
А почему же тогда акции NVDIA так бодренько растут? https://www.tradingview.com/symbols/NASDAQ-NVDA/history-timeline/
Sawaru
Как курс акций доказывает, что потребительские GPU подорожают из за нейросетей?
Илья Букаев
Это индикатор роста спроса на GPU. А если будет расти спрос, то и цена тоже будет расти.
Prorab
Сперва майнили на видеокартах, теперь будут ИИ-кать…
87638502@vkontakte
Асики создаются для ускорения определённой задачи, они не способны адаптироваться под различные алгоритмы. GPU- это идеальные вычислительные кластеры.
Sawaru
По этому, в нвидиа используют тензорные ядра, а не шейдеры? Которые вообще не про графику и графическое ускорение. Подобные ускорители можно применить и без ГП. Например с ЦП или ПЛИС.
.
А нафиг вам адаптироваться под алгоритм? Достаточно ускорить работу с определёнными массивами данных и определёнными операциям.
.
Т.е. ИИ работают например зачастую с матрицами, с типами данных bfloat16, INT8, FP8 и т.д. И тебе совсем не нужно ускорять каждый конкретный алгоритм.
.
А если очень хочется ПЛИС вам в помощь.
221034124@vkontakte
про тензоры тут никто не знает, и про точность вычислений. еще fpga (битстрим инклудед) и квантовые калькуляторы, все на будущее рабство скайнету скоро пойдет…
Sawaru
Да я тоже не то, что бы знаю. Так только поверхностно, знаю что оно есть, где используется. Чего к сожалению уже хватает с головой для аргументации. Но вот в подробностях работы ещё знаю толком.

Нет конечно понятно, что нейросеть представляет из себя матрицу с которыми мы и оперируем. С некоторыми признаками, шаблонами и весами. Но знаний все же не достаёт.

e
Фигня. Нейросетки даже запускать на объеме памяти меньше 16гб — идея провальная в принципе, а в реальных задачах (а не поиграться) надо хотя бы 32гб. А теперь вспоминаем сколько современных видях имеют столько памяти.
87638502@vkontakte
Даже не самому просвещённому человеку в области IT весьма понятно, что создание и внедрение нейросетей сравнимо по значимости с открытием человечеством письменности. В скором времени ожидается бурный рост поисковых систем и различных умных помощников для дома, которые, конечно же, повлияют на загруженность производственных линий производителей GPU и CPU, но это произойдёт всего на пару лет, как это было с картайми для майнинга. Рынок вновь подстроится под спрос.
d
Грохнут хуанга, помяните мое слово. Слишком жоско продавливает, слишком.
4535348@vkontakte
это какого норм авто? которому 20 лет?)))
108931266063898104265@google
Ерунда. Для майнинг придумали асики. Так же для ии придумают железные вычислительных ящики или че то типа того. Да и видео адаптеры у энвидиа есть специальные для больших вычислений в тф измеряющиеся. Которые для этих целей и нужны а обычному человеку это все по боку
108510505509086557997@google
А давайте найдем ещё +100500 способов повысить цены? скоро такими темпами бюджетные видяхи будут по 500 баксов.
A
«Даже самые современные ИИ-модели склонны выдавать ложные сведения. Они демонстрируют тенденцию выдумывать факты в моменты неопределённости, — пишут исследователи OpenAI в своём отчёте. — Эти галлюцинации вызывают много проблем в областях, требующих многоступенчатых рассуждений, поскольку одной логической ошибки достаточно, чтобы сорвать гораздо более масштабное решение».
То бишь с ИИ будет намного проще тащить пропаганду. Ну, или по высказыванию журналюги БиБиСи «мы не лжем, а добросовестно заблуждаемся».

Добавить комментарий

Сейчас на главной

Новости

Публикации

Обзор бинокулярного микроскопа Svbony SV605 с увеличением до 1600 крат

Двухствольный микроскоп Svbony SV605 способен увеличить изображение до 1600 раз. Такого увеличения достаточно, чтобы рассмотреть кровь, волос и понять, что вода из-под крана содержит очень много...

Обзор и опыт использования игровой мыши Thunderobot ML703 Pro: что с качеством?

Сегодня я хочу рассказать о мыше, которой я пользовался в течение года, и, забегая наперед, хочу сказать, что приятного в этом было мало. Но обо всем по порядку. Упаковка и комплект поставки...

Почему стало хуже? Обзор IIIF150 Air 1 Ultra Plus

Почти год назад я рассказывал про IIIF150 AIr 1 Ultra: шустрый, красивый, с интересными фишками, удобный в повседневной эксплуатации защищенный смартфон. Сегодня же речь пойдет про его...

Зачем в Аравийской пустыне установили сотни световых маяков

Несколько лет назад в Аравийской пустыне начали один за другим появляться световые маяки в виде мощного прожектора с направленным в небо отражателем. Такие сооружения в ночное время формируют яркий...

Обзор зарядного устройства Ugreen Nexode Robot GaN 65W CD361

Порой найти интересное зарядное устройство достаточно сложно, а необычное зарядное устройство с дополнительными фишками ещё сложнее. Сегодня на обзоре крайне интересная новинка от...

Кухонный смеситель с фильтром: инвестиция в удобство или лишняя трата денег

В современном мире стремление к чистоте и здоровью выходит на первый план, и вода из-под крана не всегда соответствует нашим ожиданиям. Кухонный смеситель с подключением к фильтру обещает...