Pavel_Priluckiy

Чем больше квантов, как у вас в модели, то тем больше требуется ресурсов для обработки. Используйте модели 2-4q.

Всё работает. Убедитесь, что ваш ПК соответствует минимальным системным требованиям.

Напишите характеристики своего ПК и модель которую используете.

Зависит от квантов и размера самой модели. Тем не менее вы правы и народ ещё не до конца понимает насколько это круто)).

Попробуйте другую модель.

Исправлено.

Так скачайте другую модель. Я только показало возможность запуска и что это вообще возможно. Ваше права пользоваться любой моделью.

Обновление на утро 10 июня.
__________________
Исправлена ссылка на полную версию. (Пожалуйста, перекачайте).
Добавлены скрины.
Добавлена информация о квантовании.

Парни, простите, указал не ту ссылку на полную модель. У кого ошибка, перекачайте!
alpaca-lora-65B-GGML

Парни, простите, указал не ту ссылку на полную модель. У кого ошибка, перекачайте!
alpaca-lora-65B-GGML

Парни, простите, указал не ту ссылку на полную модель. У кого ошибка, перекачайте!
alpaca-lora-65B-GGML

Спасибо, исправил.

Графики пред вами.

Перезапустите или подождите обнову.

Нас раскрыли X_o

Это уже мне решать.

Ага, хакеры будут спрашивать. Читай вики на гите и отказ об ответственности.

Графики смотри… Но если тебе и 90% мало, не говоря уже о самом способе, что просто сносит крышу: Два клика и нейронка. То сделай одолжение, не отписывайся в моих темах. Тебя уже устали банить за мультиводство.

Все тесты и информация на гите.
https://github.com/nlpxucan/WizardLM#online-demo
____________________
https://github.com/nlpxucan/WizardLM/raw/main/imgs/evol-testset_skills-30b.png

Я сам был в шоке, когда попросил написать пример кода на C# для передвижения персонажа в Unity.