2 хв читання · Reddit · r/LocalLLaMA
Модель Qwen3.5-35B Heretic зберігає технологію Multi-Token Prediction для надшвидкої локальної генерації
З'явилася налаштована модель Qwen 3.5 із збереженими рідними заголовками Multi-Token Prediction для швидкої генерації. Використовуйте формати NVFP4 або GGUF для запуску на споживчих відеокартах.
Чому це важливо. Тепер ви можете запускати потужну 35B модель для кодування на споживчій відеокарті майже вдвічі швидше завдяки оптимізованим форматам квантування.