Для работы проектов iXBT.com нужны файлы cookie и сервисы аналитики.
Продолжая посещать сайты проектов вы соглашаетесь с нашей
Политикой в отношении файлов cookie
MI300X to H100 using vLLM for both.
At our launch event in early December, we highlighted a 1.4x performance advantage for MI300X vs H100 using equivalent datatype and library setup. With the latest optimizations we have made, this performance advantage has increased to 2.1x.
We selected vLLM based on broad adoption by the user and developer community and supports both AMD and Nvidia GPUs.
MI300X using vLLM vs H100 using Nvidia's optimized TensorRT-LLM
Even when using TensorRT-LLM for H100 as our competitor outlined, and vLLM for MI300X, we still show a 1.3x improvement in latency.
Measured latency results for MI300X FP16 dataset vs H100 using TensorRT-LLM and FP8 dataset.
MI300X continues to demonstrate a performance advantage when measuring absolute latency, even when using lower precisions FP8 and TensorRT-LLM for H100 vs. vLLM and the higher precision FP16 datatype for MI300X.
We use FP16 datatype due to its popularity, and today, vLLM does not support FP8.
These results again show MI300X using FP16 is comparable to H100 with its best performance settings recommended by Nvidia even when using FP8 and TensorRT-LLM.
«что при равных техпроцессах интел умудряется впихнуть больше транзисторов»
Тут вы прямо по факту противоречите. Они потому и впихивают больше транзисторов, что их тех процесс не равен TSMCшному, он лучше. Т.к. в рамках одной ноды, к примеру N5 будут разные тех. процессы. Так под мощные (HP) решения используют менее плотные ячейки с транзисторами.
https://fuse.wikichip.org/wp-content/uploads/2019/01/intel-10nm-cells-density.png
https://www.semianalysis.com/p/tsmcs-3nm-conundrum-does-it-even
Так к примеру 10нм HP интел это 80.61МТр/мм2 | UHP 67.18МТр/мм2
TSMC 5нм HP 92.3МТр/мм2
«но эффективность страдает.»
Опять же эффективность страдает, ровно потому, что тех. процессы интел лучше TSMCшных в плане мощности. Т.к. малюсенькому транзистору чисто физически сложно пропустить через себя большие токи, а напряжение у нас крайне ограничено. Это и позволяет интелу поднять свои частоты повыше.
Что в совокупности с плотностью, даже уровень. << Собственно по этому (и потому что без EUV) интел провозились со своими 10нм. Кстати а ведь 10нм (intel 7) даёт нам отличную плотность, без EUV в отличии от TSMC и да это сложно.
По другим параметрам тех. процессы интел, на сколько знаю уступают. Так размеры SRAM ячейки (Т.е. кеши) у TSMC меньше (плотность выше). Плотные и низкомощные тех. процессы плотнее и/или энергоэффективней.
И не думаю, что со временем что-то поменяется. Т.к. это специализация фабрик по сути.
Так вы почитайте что человек написал. там ничего и никто не показывает. Хуже того он вообще сам себе противоречит. Т.к. нахождение пути и скрипты, это и есть как раз «подобие ИИ». И это подобие ИИ за 20 лет поумнело.
Не ну вы открыли тайну, всё в игре зависит от её дизайна.
А вот идеальных болванчиков создать как раз трудно.
Вот раньше болванчик мог мне ответить не по скрипту? Нет уже как-то не идеально. А теперь с LLM такое уже технически возможно, в плане затрачиваемых ресурсов. И это + к разнообразию.
И это мы только начали развитие ИИ и железа под него. С прогрессом явно появится возможность более продвинутой симуляции «жизни» NPC. Т.е. теперь NPC будет меньше опираться на скрипты, сразу вспоминаю бандита который нападает на довакина в скайриме. Тоже большой вопрос к идеальности. Наконец можно будет заставить этих вот NPC в большей мере играть в игру. А то зная как работает ИИ в х-ком подобных играх, когда враги заранее знают где ты. И по сути лишь притворяются, что играют. И это проблемно.
Хотя ИМХО тут для простенькой симуляции понадобиться многовато ресурсов на сей день, в виду кол-ва неписей конечно. И это тоже + к разнообразию и погружению.
Но да это будет необходимо настраивать. Иначе ИИ просто уничтожит весь игровой опыт.
«Вот опять — все сравнения с H моделями. А что там с U — линейкой? „
Не ну тут благо что речь идёт о производительности на ватт или при ограниченном TDP в 28Вт.
Кроме однопоточки.
Ну и так тот же HS это ж у АМД cTDP минимум 35Вт, тут понять можно. Но да неплохо было б и с H серией сравнить.
«Путин: «Будет на чём летать»»
Так ему и так есть на чём летать! Значит и в 2030 тоже будет на чём.
«Надеюсь, что все планы...., будут реализованы, будет на чем летать и специалистам, летчикам, и пассажирам. „
А так это президент о народе беспокоится...
Но разве ж, власть президента ограничена одними лишь надеждами? А как же к патриарху сходить, свечку поставить!?
Так а теперь к плохим боярам.
“Указанные планы наряду с комплексными мерами поддержки, в том числе и для расширения производственных мощностей авиационных предприятий, утверждены комплексной программой развития авиационной отрасли. „
А отвечать за это простите кто будет? Вот если господа хорошие, бюджеты освоят, чьи то головы полетят с плеч, точнее жопы с кресел повыше? Президент же на вас надеется!
«потребитель будет учить»
Не будет. Будет разворачивать уже обученные нейросети. Фотошопы, апскейлеры, рисовалки, языковые модели, а можно использовать для иных задач, к примеру шумодавы + работа с камерой например трекинг лица в реальном времени с размытием или заменой фона.
Так же можно добавить ума игровым болванчикам
https://www.nvidia.com/en-us/geforce/news/nvidia-ace-for-games-generative-ai-npcs/
«хотят использовать мощности вашего ЦП для тренировки своих нейросетей?»
Глупость несусветная, это крайне не эффективно. Так ещё и чревато.
«на «технологический суверенитет» почти нет,»
Так вы найдите сперва того, кому оно надо и кто этот банкет оплатит.
А там шестерёнки очень быстро закрутятся.
>>Дальнейшее обоснование читать по желанию.<<
Государство это не человек, это инструмент. В государстве представлены много разных интересов. От военных до крупного бизнеса.
Вот нужен ли этот технологический суверенитет военным или режиму или бизнесу? Если да то зачем.
Вот и выходит, что цель/задачу поставить с оговорками можем, даже могут выделить ресурсы. А контролировать это нафиг никому и не надо.
И где-то чуть с краю есть народ, который очень сильно вне политики и его интересы как-то не особо представлены во всяких думах.
И да плевать на людей в этом механизме. Я про патриотов. Тем более что вот эта вся патриотичность вымывается так называемым обществом потребления. Т.е. сознательным быть не выгодно, выгодно действовать сугубо в своих мелких, корыстных интересах. Так что в большинстве своём как и везде люди идут туда денег заработать. Мы ж тоже на работу в большинстве за деньгами и ходим, а тут ещё и калым периодически подворачивается.
И вот вся практика показывает, что если народ будет контролировать процесс, будет и движение. Т.е. когда делу придаётся широкая огласка, поднимается
сильный общественный резонанс, режим резко становится заинтересован в урегулировании проблемы.
Так нету такого особо. Причину выхода из строя устанавливают в ходе экспертизы. Вы как блин определите, эт пользователь виноват. Или это был внутренний брак? По каким таким блин признакам, тем более для которых оборудования парктически не надо?
Какая то документация и та не брак, может быть в авторизации. Т.е. в сервисном центре от самого производителя.
А теперь смотрите как проводили экспертизу для горящих райзенов.
https://www.youtube.com/watch?v=fFNi3YNJXbY
Ну тут как. Сам факт производства не утешителен. Надо бы, что б чипы хотя б в 0 выпускали. Т.е. работать надо с выходом годных от 50% вроде.
Сидели бы в приемной? Для того смик 7нм осваивал? Сидели б до тех пор пока смиком бы не заметили. Мы как раз видим работу китайских 5леток. Как минимум последних 2х.
Вы в этой экстраполяции не правы.
«А скока процентов от суммы иска внести надо?»
честно говоря не узнавал
У меня с ДНС всё чинно благородно, пришёл пожаловался вернули средства. Знакомый хотел судится, решили после претензии.
Знавал человека который судился с онлайн трейдом, по поводу видюхи купленный в первую волну майнинга, онлайнтрейд нахлобучили.
(справедливости ради я зачастую по фигне конечно ленюсь разбираться, ну и когда виноват тоже как бэ не пытаюсь магаз кинуть)
" Пени набегут если суд на вашу сторону встанет, а если нет?))"
Вот таких людям магазины по ушам и ездят.
Понимаете тут вопрос не в том, что суд встанет. Хотя даже тут у вас в среднем преимущество. Тут вопрос обоснованности вашей позиции. Магазину то придётся доказывать, что поломка произошла по вашей вине. Учитывая что имеем мы дело с процессором, в реальности сделать это крааайне затруднительно. Опять же порядок действий при приёмке тоже почитать в интернете, я несчастью как правильно не помню. А то да, тут могут и в сервисном центре поломать. А так хотя бы зафиксировать всё от и до в акте приёмки с чёткими формулировками. Вроде как можно лично присутствовать при дефектовке.
Т.е. если дело дойдёт до суда, считайте что шансы на победу нехилые. По этому магазин старательно будет пытаться решить дело до суда.
Так новый транзистор. Тот же GAAFET судя по всему.
Тут вы прямо по факту противоречите. Они потому и впихивают больше транзисторов, что их тех процесс не равен TSMCшному, он лучше. Т.к. в рамках одной ноды, к примеру N5 будут разные тех. процессы. Так под мощные (HP) решения используют менее плотные ячейки с транзисторами.
https://fuse.wikichip.org/wp-content/uploads/2019/01/intel-10nm-cells-density.png
https://www.semianalysis.com/p/tsmcs-3nm-conundrum-does-it-even
Так к примеру 10нм HP интел это 80.61МТр/мм2 | UHP 67.18МТр/мм2
TSMC 5нм HP 92.3МТр/мм2
«но эффективность страдает.»
Опять же эффективность страдает, ровно потому, что тех. процессы интел лучше TSMCшных в плане мощности. Т.к. малюсенькому транзистору чисто физически сложно пропустить через себя большие токи, а напряжение у нас крайне ограничено. Это и позволяет интелу поднять свои частоты повыше.
Что в совокупности с плотностью, даже уровень. << Собственно по этому (и потому что без EUV) интел провозились со своими 10нм. Кстати а ведь 10нм (intel 7) даёт нам отличную плотность, без EUV в отличии от TSMC и да это сложно.
По другим параметрам тех. процессы интел, на сколько знаю уступают. Так размеры SRAM ячейки (Т.е. кеши) у TSMC меньше (плотность выше). Плотные и низкомощные тех. процессы плотнее и/или энергоэффективней.
И не думаю, что со временем что-то поменяется. Т.к. это специализация фабрик по сути.
Не ну вы открыли тайну, всё в игре зависит от её дизайна.
А вот идеальных болванчиков создать как раз трудно.
Вот раньше болванчик мог мне ответить не по скрипту? Нет уже как-то не идеально. А теперь с LLM такое уже технически возможно, в плане затрачиваемых ресурсов. И это + к разнообразию.
И это мы только начали развитие ИИ и железа под него. С прогрессом явно появится возможность более продвинутой симуляции «жизни» NPC. Т.е. теперь NPC будет меньше опираться на скрипты, сразу вспоминаю бандита который нападает на довакина в скайриме. Тоже большой вопрос к идеальности. Наконец можно будет заставить этих вот NPC в большей мере играть в игру. А то зная как работает ИИ в х-ком подобных играх, когда враги заранее знают где ты. И по сути лишь притворяются, что играют. И это проблемно.
Хотя ИМХО тут для простенькой симуляции понадобиться многовато ресурсов на сей день, в виду кол-ва неписей конечно. И это тоже + к разнообразию и погружению.
Но да это будет необходимо настраивать. Иначе ИИ просто уничтожит весь игровой опыт.
Не ну тут благо что речь идёт о производительности на ватт или при ограниченном TDP в 28Вт.
Кроме однопоточки.
Ну и так тот же HS это ж у АМД cTDP минимум 35Вт, тут понять можно. Но да неплохо было б и с H серией сравнить.
У вас есть сравнение ИИ сегодня и 20 лет назад?
Иначе на чём строится ваш аргумент " хоть как-то поумнеть игровому ИИ"?
Так ему и так есть на чём летать! Значит и в 2030 тоже будет на чём.
«Надеюсь, что все планы...., будут реализованы, будет на чем летать и специалистам, летчикам, и пассажирам. „
А так это президент о народе беспокоится...
Но разве ж, власть президента ограничена одними лишь надеждами? А как же к патриарху сходить, свечку поставить!?
Так а теперь к плохим боярам.
“Указанные планы наряду с комплексными мерами поддержки, в том числе и для расширения производственных мощностей авиационных предприятий, утверждены комплексной программой развития авиационной отрасли. „
А отвечать за это простите кто будет? Вот если господа хорошие, бюджеты освоят, чьи то головы полетят с плеч, точнее жопы с кресел повыше? Президент же на вас надеется!
95% ставлю на то, что это два модуля DDR5 (на шине 128 бит) по 48ГБ.
Которые с ИИ блоками? NPU в смартах уж давненько затесались. По мимо DSP/ISP.
>https://www.qualcomm.com/products/mobile/snapdragon/smartphones/snapdragon-8-series-mobile-platforms/snapdragon-855-mobile-platform
«AI to the 4th Power»
«Qualcomm® Hexagon™ Processor Features: Qualcomm® Hexagon™ Tensor Accelerator,»
>https://www.qualcomm.com/products/mobile/snapdragon/smartphones/snapdragon-8-series-mobile-platforms/snapdragon-835-mobile-platform
Qualcomm® Hexagon™ 682 DSP: Support for latest Machine Learning frameworks and image processing.
Не будет. Будет разворачивать уже обученные нейросети. Фотошопы, апскейлеры, рисовалки, языковые модели, а можно использовать для иных задач, к примеру шумодавы + работа с камерой например трекинг лица в реальном времени с размытием или заменой фона.
Так же можно добавить ума игровым болванчикам
https://www.nvidia.com/en-us/geforce/news/nvidia-ace-for-games-generative-ai-npcs/
«хотят использовать мощности вашего ЦП для тренировки своих нейросетей?»
Глупость несусветная, это крайне не эффективно. Так ещё и чревато.
Так вы найдите сперва того, кому оно надо и кто этот банкет оплатит.
А там шестерёнки очень быстро закрутятся.
>>Дальнейшее обоснование читать по желанию.<<
Государство это не человек, это инструмент. В государстве представлены много разных интересов. От военных до крупного бизнеса.
Вот нужен ли этот технологический суверенитет военным или режиму или бизнесу? Если да то зачем.
Вот и выходит, что цель/задачу поставить с оговорками можем, даже могут выделить ресурсы. А контролировать это нафиг никому и не надо.
И где-то чуть с краю есть народ, который очень сильно вне политики и его интересы как-то не особо представлены во всяких думах.
И да плевать на людей в этом механизме. Я про патриотов. Тем более что вот эта вся патриотичность вымывается так называемым обществом потребления. Т.е. сознательным быть не выгодно, выгодно действовать сугубо в своих мелких, корыстных интересах. Так что в большинстве своём как и везде люди идут туда денег заработать. Мы ж тоже на работу в большинстве за деньгами и ходим, а тут ещё и калым периодически подворачивается.
И вот вся практика показывает, что если народ будет контролировать процесс, будет и движение. Т.е. когда делу придаётся широкая огласка, поднимается
сильный общественный резонанс, режим резко становится заинтересован в урегулировании проблемы.
Какая то документация и та не брак, может быть в авторизации. Т.е. в сервисном центре от самого производителя.
А теперь смотрите как проводили экспертизу для горящих райзенов.
https://www.youtube.com/watch?v=fFNi3YNJXbY
Сидели бы в приемной? Для того смик 7нм осваивал? Сидели б до тех пор пока смиком бы не заметили. Мы как раз видим работу китайских 5леток. Как минимум последних 2х.
Вы в этой экстраполяции не правы.
честно говоря не узнавал
У меня с ДНС всё чинно благородно, пришёл пожаловался вернули средства. Знакомый хотел судится, решили после претензии.
Знавал человека который судился с онлайн трейдом, по поводу видюхи купленный в первую волну майнинга, онлайнтрейд нахлобучили.
(справедливости ради я зачастую по фигне конечно ленюсь разбираться, ну и когда виноват тоже как бэ не пытаюсь магаз кинуть)
" Пени набегут если суд на вашу сторону встанет, а если нет?))"
Вот таких людям магазины по ушам и ездят.
Понимаете тут вопрос не в том, что суд встанет. Хотя даже тут у вас в среднем преимущество. Тут вопрос обоснованности вашей позиции. Магазину то придётся доказывать, что поломка произошла по вашей вине. Учитывая что имеем мы дело с процессором, в реальности сделать это крааайне затруднительно. Опять же порядок действий при приёмке тоже почитать в интернете, я несчастью как правильно не помню. А то да, тут могут и в сервисном центре поломать. А так хотя бы зафиксировать всё от и до в акте приёмки с чёткими формулировками. Вроде как можно лично присутствовать при дефектовке.
Т.е. если дело дойдёт до суда, считайте что шансы на победу нехилые. По этому магазин старательно будет пытаться решить дело до суда.