Для работы проектов iXBT.com нужны файлы cookie и сервисы аналитики.
Продолжая посещать сайты проектов вы соглашаетесь с нашей
Политикой в отношении файлов cookie
Странно, даже новая память не помогла. Либо в GDDR7 дикие задержки, съедающие весь прирост от частоты. Обидно, конечно, ждать больше двух лет и получить пшик, вместо прироста, на выходе.
Они проснутся, только если прирост в конечном продукте (т.е., видеокарте) совсем прекратится. Постепенно, всё к этому идёт — у Нвидиа сейчас долгий промежуток между поколениями — 27 месяцев. Возможности наращивания размеров и тепловыделения тоже начинают граничить со здравым смыслом. Чисто технически — сделать можно, но кому нужен косплей на раскалённый шумный асик в домашнем ПК?
Очень слабый прирост. Для большинства, это поколение проходное. Менять предыдущее поколение смысла нет. Покупать 5080 будут, когда 4080 начнёт исчезать из продажи.
Да там половина пользователей 4о и о1, в едином порыве, говорят о прекращении своей подписки и переходе на модели от DeepSeek. Немудрено, ответы качественнее, контекстное окно, чисто субъективно, больше, а главное, всё это удовольствие забесплатно — чего ещё надо для счастья? Не хочешь с дядюшкой Ляо своими данными делиться? Скачал и пользуйся. Выглядит, как успешный успех.
32B (bartowski/DeepSeek-R1-Distill-Qwen-32B-GGUF:Q5_K_M) и у меня не тормозит, но по качеству ответов оставила неоднозначные ощущения, 70B выглядит намного уверенней. Хотя наблюдать за ходом размышления в любом варианте интересно)) Кстати, сколько памяти из 20Гб 7900xtx у вас потребляет моделька?
Пропадут чипы предыдущего поколения из продажи, как сейчас исчезают 4080 и 4090, вы специально искать их будете? Всё равно, все пойдут покупать то, что есть здесь и сейчас, ноутов это ещё сильнее касается.
А теперь задумайтесь на секунду: «чтобы оставаться на месте, нужно бежать изо всех сил». Представьте, сколько Гугл тратит на ежесекундную поддержку ютюба в рабочем состоянии. А ведь он ещё и пополняется ежесекундно на терабайты (если не десятки) новых видео. Ну и, конечно, прибыль тоже не помешала бы — смысл в ноль работать.
Грустно, конечно, наблюдать за суровым оскалом азиатского капитализма, когда ты по другую сторону прилавка… Куртка хочет максимально отжать деньги из ИИ хайпа, ничего личного. Жаль, но АМД в топ сегменте не конкурент.
Просто ставите модель локально и все ок, только онлайн запросов нет. У меня на ноуте 32гб моделька норм отрабатывает, все по русски)
Это которая с квантованием, с huggingface? Ну, если считать русским смесь русского, английского и китайского...)) У неё же за базу взята китайская qwen, хоть рассуждает на английском. Вот 70B у меня уже на русском рассуждает и отвечает на русском — в целом мне нравится, но в ответах всё равно попадается английский и иероглифы, правда, сильно реже. И очень медленно)) Я, будто лет на тридцать назад вернулся, когда софт еле ворочался (ollama, настройки по дефолту). При этом, моделька съела всю память на 8Гб 3070Ti, 14Гб у 4080S и 37 Гб оперативки. Ну и 13900к, залоченный на 90Вт, загрузила на 29%.
Это которая с квантованием, с huggingface? Ну, если считать русским смесь русского, английского и китайского...)) У неё же за базу взята китайская qwen, хоть рассуждает на английском. Вот 70B у меня уже на русском рассуждает и отвечает на русском — в целом мне нравится, но в ответах всё равно попадается английский и иероглифы, правда, сильно реже. И очень медленно)) Я, будто лет на тридцать назад вернулся, когда софт еле ворочался (ollama, настройки по дефолту). При этом, моделька съела всю память на 8Гб 3070Ti, 14Гб у 4080S и 37 Гб оперативки. Ну и 13900к, залоченный на 90Вт, загрузила на 29%.