Автор не входит в состав редакции iXBT.com (подробнее »)
avatar
Я даже знаю, как это было сделано х0
avatar
Чем азбука кириллица отличается от современной азбуки?
Количеством букв, в кириллице их 43. А еще в кириллице буква, кроме знака, имеет имя и число (хотя число есть не у каждой буквы): А – Аз – 1, Б-Буки, В – Веди — 2, Г – Глаголь – 3 и т.д. Знак, имя, число буквы – это переменные и в слове они взаимозаменяемы. Одно только это обстоятельство расширяет информативность слова неограниченно.
avatar
Забыл добавить, что в пути до модели не должно быть русских букв!
avatar
Ну, она и так работала). Я утром исправил ссылку.
avatar
Какая именно модель?
avatar
Использовать версию гугла).
avatar
Вам хватит 97,8% повторения возможностей ChatGPT, но без цензуры. Так что считаю притензию необоснованной и не заслуживающей моего дальнейшего внимания. Удачи.
avatar
Чем больше, тем лучше. Тестировали на похожем оборудование и всё работало, но предупреждаю сразу, первая загрузка будет весьма долгая и может показаться, что вообще ничего не работает.
avatar
Читайте описание модели.
avatar
Материал обновляется исходя из отзывов. В данный момент у меня нет доступа к ПК с AVX.
avatar
Почитайте описание WizardLM-30B-Uncensored-GPTQ и посмотрите сравнительные тесты.
avatar
Заменил ссылку на полную адаптацию ChatGPT 4.
WizardLM-30B-Uncensored-GPTQ — Судя по описанию, она должна работать с представленным интерпретатором, но пока возможности протестировать нет.
avatar
Всё работает, смотрите проблемы на вашей стороне.
avatar
Обовление от середины дня 10 июня.
________________________________________________
Заменены ссылки на облегчённую версию (лучше совместимость).
Добавлены ссылки на альтернативы.
В скором времени будут дополнены проверенные модели.
avatar
Проверьте сначала базовую модель представленную в материале, возможно, что вам незачем качать 50 Гб для ваших задач.
https://huggingface.co/Pi3141/alpaca-7b-native-enhanced/tree/main
avatar
Попробуйте модель представленную в гайде или воспользуйтесь альтернативным ПО. Следите за обновлением, так как в скором времени я добалю список проверенных моделей.
avatar
Всё верно, это описано в материале. К сожалению, но у меня сейчас нет доступа к CPU с AVX, так что я буду рад любой помощи в тестирование моделей.
avatar
Программа также принимает любые другие файлы моделей с 4-битным квантованием .bin. Если вы можете найти другие файлы моделей в формате .bin, вы можете использовать их вместо файла, рекомендованного в Кратком руководстве, чтобы экспериментировать с различными моделями. Как всегда, будьте осторожны с тем, что вы загружаете из Интернета.
avatar
Этой файл подкачки, тудадумс.
avatar
Лучше на ссд, ведь модель это база данных и именно из неё идёт считывание. Однако, после загрузки в память, разницы с SSD и HDD не будет.