Автор не входит в состав редакции iXBT.com (подробнее »)
avatar
Чем больше квантов, как у вас в модели, то тем больше требуется ресурсов для обработки. Используйте модели 2-4q.
avatar
Всё работает. Убедитесь, что ваш ПК соответствует минимальным системным требованиям.
avatar
Напишите характеристики своего ПК и модель которую используете.
avatar
Зависит от квантов и размера самой модели. Тем не менее вы правы и народ ещё не до конца понимает насколько это круто)).
avatar
Попробуйте другую модель.
avatar
Исправлено.
avatar
Так скачайте другую модель. Я только показало возможность запуска и что это вообще возможно. Ваше права пользоваться любой моделью.
avatar
Обновление на утро 10 июня.
__________________
Исправлена ссылка на полную версию. (Пожалуйста, перекачайте).
Добавлены скрины.
Добавлена информация о квантовании.
avatar
Парни, простите, указал не ту ссылку на полную модель. У кого ошибка, перекачайте!
alpaca-lora-65B-GGML
avatar
Парни, простите, указал не ту ссылку на полную модель. У кого ошибка, перекачайте!
alpaca-lora-65B-GGML
avatar
Парни, простите, указал не ту ссылку на полную модель. У кого ошибка, перекачайте!
alpaca-lora-65B-GGML
avatar
Спасибо, исправил.
avatar
Графики пред вами.
avatar
Перезапустите или подождите обнову.
avatar
Нас раскрыли X_o
avatar
Это уже мне решать.
avatar
Ага, хакеры будут спрашивать. Читай вики на гите и отказ об ответственности.
avatar
Графики смотри… Но если тебе и 90% мало, не говоря уже о самом способе, что просто сносит крышу: Два клика и нейронка. То сделай одолжение, не отписывайся в моих темах. Тебя уже устали банить за мультиводство.
avatar
Все тесты и информация на гите.
https://github.com/nlpxucan/WizardLM#online-demo
____________________
https://github.com/nlpxucan/WizardLM/raw/main/imgs/evol-testset_skills-30b.png
avatar
Я сам был в шоке, когда попросил написать пример кода на C# для передвижения персонажа в Unity.