ИИ, сервисы и приложения →
Сколько «стоит» русский язык в нейросетях: посчитал токены одного текста в пяти токенизаторах (5)
- 0
Правда, так тоже можно, и многие так делают. Но бесплатно это только на первый взгляд: модель, которая влезает в обычную видеокарту, заметно слабее полного DeepSeek или Qwen из облака, а полный DeepSeek требует сервер с несколькими дорогими GPU. Доллары тогда уходят не на токены, а на железо, электричество и время на поддержку. А токены никуда не деваются: у локальной модели тоже есть окно контекста, и русский текст занимает в нём больше места и обрабатывается дольше. Так что считать их полезно в любом случае :)
ИИ, сервисы и приложения →
Сколько «стоит» русский язык в нейросетях: посчитал токены одного текста в пяти токенизаторах (5)
- 0
Бесплатный чат и API — разные задачи. Для переписки вручную бесплатного DeepSeek или Qwen часто хватает. Но когда нейросеть встроена в бота, CRM или обработку документов, это API, а там платят за каждый токен, даже у дешёвых моделей. И токены важны даже бесплатно: окно контекста тоже меряется в них, и русский текст влезает в него меньше английского.