Catalogue NVNC
COMMUNAUTÉ FRANCOPHONE · IA LOCALE

Explorer les modèles

Votre besoin. Votre matériel. Les modèles qui font le lien.

7 modèles dans le catalogueESTIMATIONS THÉORIQUES · Q4_K_M
Empero
Qwen3.8A3BDistill_35.5B
NOTE COMMUNAUTAIREChargement…Lecture des avis
35,5BOriginalApach2.0GGUFQ4_K_M

Quantifications GGUF d'empire-ai/Qwen3.8-35B-A3B-Distill - une distillation des modèles de frontière Qwen3.8 dans l'architecture Qwen3.6-35B-A3B Mixture-of-Experts - pour llama.cpp, Ollama, LM Studio, Jan, KoboldCpp et d'autres runtimes GGUF de stock. Cette carte concerne le choix d'un fichier et son exécution.

Poids seuls · estimation22,2 Gio

Cache KV et mémoire totale inconnus : aucune compatibilité théorique confirmée.

Estimation théorique indisponible

Fiches publiées dans le catalogue. Capacités déclarées par les éditeurs ; usages proposés par NVNC. Aucune note de qualité inventée.

LA COMMUNAUTÉ FAIT LA DIFFÉRENCE

La théorie donne une piste. Votre machine donne une réponse.

Testez un modèle et partagez les conditions de votre mesure.

LE MOTEUR DE COMPATIBILITÉ NVNC

Comment ça fonctionne ?

Votre besoin sélectionne des candidats. Votre matériel détermine la mémoire disponible. Le moteur et la quantification définissent le profil d’inférence.

Profil actuel : Ollama · Q4_K_M
4 096 tokens · 1 séquence(s) · 12 Gio disponibles selon le profil.

Une estimation explicite

Poids du modèle + cache KV FP16 + 0,75 Gio de runtime, puis 15 % de marge. Les poids utilisent une largeur moyenne approximative et une marge de 12 %.

Les variantes K_S, K_M et K_L peuvent mélanger plusieurs précisions. La taille exacte du package, les kernels et le backend doivent être vérifiés. Cette liste de profils ne garantit pas qu’un package existe pour chaque modèle.

La théorie et les mesures restent distinctes

La compatibilité mémoire ne prédit ni la vitesse ni la qualité. Les benchmarks déclarés précisent le contexte réel, sans être automatiquement certifiés.

Consulter la méthodologie complète

Comparer les modèles

Même quantification et même contexte. Aucune note de qualité supposée.

Critère
Paramètres
Contexte configuré
Mémoire estimée
Compatibilité
Licence
Usages