116918380130724073907@google

Полчаса крутится символ загрузки… и тишина. Хотя никаких ошибок не выдает при подключении модели ggml-model-q4_0. А при попытке подключения WizardLM-30B-Uncensored.ggmlv3.q4_0 — ругается… Жаль, думал, что все просто)))

Еще вопрос. А скаченные модели куда лучше положить? В корень системного диска (SSD) или можно во второй (для документов HDD) или даже внешний?

Понял. Спасибо, сейчас попробую

CPU: Intel® Core(TM) i5-10500 CPU @ 3.10GHz, 12 Threads, Intel64 Family 6 Model 165 Stepping 3, GenuineIntel
RAM: 32768 MB
GPU: NVIDIA GeForce GTX 1660 SUPER
Monitor 0: Main Screen: YES; Resolution (Logical): 1920x1080; Resolution (Render): 1920x1080; Scaling: 1; Position: (0, 0); Refresh Rate: 59; Display: 1920x1080, 24,0 inches
Пробовал модели ggml-model-q8_0 и hippogriff-30b.ggmlv3.q8_0
Результат одинаковый((

Добрый день. Все скачал, установил — ошибок не было. Но генерация ответа занимает неприлично долгое время(( С чем это может быть связано?