Catalogue initial
COMMUNAUTÉ FRANCOPHONE · IA LOCALE

Qwen2.5 Coder 7B

Alibaba · Qwen

DONNÉES ÉDITEUR

Qwen2.5 Coder · 7,6B

Une variante spécialisée dans la génération, l’explication et la correction de code. Une piste pour un assistant de développement local.

NOTE COMMUNAUTAIREChargement…Lecture des avis
ArchitectureDense · Transformer
Contexte configuré32 768 tokens
LicenceApache 2.0
Couches / têtes KV28 / 4
CALCUL NVNC · V0.1

Estimer la mémoire

Packages GGUF : vérifier le tag et la quantification réellement distribuée.

6,6 Gio estimés
Poids quantifiés (approx.)4,8 Gio
Cache KV FP160,2 Gio
Runtime (hypothèse)0,8 Gio
Marge de sécurité15 %

Batch 1 · Cache KV FP16 · Marge 15 %. Le format exact de quantification et le runtime peuvent faire varier le résultat. Le runtime conserve ici une hypothèse commune de 0,75 Gio.

PISTES D’USAGE · SÉLECTION NVNC

À explorer pour…

Ces usages s’appuient sur les capacités annoncées. Ils ne constituent pas une évaluation comparative ni une garantie de résultat pour votre tâche.

Provenance

Fiche éditeur et config.json consultés le 06/10/2026. Paramètres arrondis selon la fiche éditeur. Catalogue initial manuel, sans synchronisation automatique.

Compatibilité agentique · avec quel harness ?

Chargement des notes…

Moyenne des dernières notes par membre. Ces retours ne remplacent pas une validation technique.

À vérifier · Aucun test de ce couple modèle / harness enregistré dans NVNC.

Connexion possible via l’API compatible Anthropic d’Ollama. Appels d’outils et contexte suffisants à vérifier pour chaque modèle.

Documentation

Noter mon expérience avec ce harness

Modèle d’origine et dérivés · 0 référencés

Estimation : Q4_K_M · 4 096 tokens de contexte · 1 séquence. Notes propres à chaque modèle, dernière note de chaque membre.

Modèle / auteurTypeMoyenne /5Compatibilité théoriqueCompatibilité réelle déclarée
Qwen2.5 Coder 7BAlibaba · QwenOriginalChargement…6.6 GioCompatible en théorieChargement…

Dérivés Hugging Face chargés automatiquement. Recherche dans les entrées déjà chargées. Les filiations non renseignées ou indirectes peuvent manquer. Les dépôts externes n’ont pas encore de notes ni de profil mémoire validé dans NVNC.

Matériel compatible · estimation et mesures réelles

Estimation mémoire : Q4_K_M · 4 096 tokens de contexte · 1 séquence. Aucun débit théorique calculé. Les benchmarks ci-dessous conservent leur configuration propre.

MatérielEstimation mémoireMesures réelles déclarées
Apple Silicon · 16 Go6,6 Gio / 12 Gio disponiblesCompatible en théorieChargement…
Apple Silicon · 24 Go6,6 Gio / 20 Gio disponiblesCompatible en théorieChargement…
NVIDIA · 16 Go VRAM6,6 Gio / 15 Gio disponiblesCompatible en théorieChargement…
NVIDIA · 24 Go VRAM6,6 Gio / 23 Gio disponiblesCompatible en théorieChargement…
CPU · 32 Go RAM6,6 Gio / 28 Gio disponiblesCompatible en théorieChargement…
RTX 4060 · 8 Go VRAM6,6 Gio / 7 Gio disponiblesMarge limitéeChargement…
RTX 4060 Ti 8 Go · 8 Go VRAM6,6 Gio / 7 Gio disponiblesMarge limitéeChargement…
RTX 4060 Ti 16 Go · 16 Go VRAM6,6 Gio / 15 Gio disponiblesCompatible en théorieChargement…
RTX 4070 · 12 Go VRAM6,6 Gio / 11 Gio disponiblesCompatible en théorieChargement…
RTX 4070 SUPER · 12 Go VRAM6,6 Gio / 11 Gio disponiblesCompatible en théorieChargement…
RTX 4070 Ti · 12 Go VRAM6,6 Gio / 11 Gio disponiblesCompatible en théorieChargement…
RTX 4070 Ti SUPER · 16 Go VRAM6,6 Gio / 15 Gio disponiblesCompatible en théorieChargement…
RTX 4080 · 16 Go VRAM6,6 Gio / 15 Gio disponiblesCompatible en théorieChargement…
RTX 4080 SUPER · 16 Go VRAM6,6 Gio / 15 Gio disponiblesCompatible en théorieChargement…
RTX 4090 · 24 Go VRAM6,6 Gio / 23 Gio disponiblesCompatible en théorieChargement…
RTX 5050 · 8 Go VRAM6,6 Gio / 7 Gio disponiblesMarge limitéeChargement…
RTX 5060 · 8 Go VRAM6,6 Gio / 7 Gio disponiblesMarge limitéeChargement…
RTX 5060 Ti 8 Go · 8 Go VRAM6,6 Gio / 7 Gio disponiblesMarge limitéeChargement…
RTX 5060 Ti 16 Go · 16 Go VRAM6,6 Gio / 15 Gio disponiblesCompatible en théorieChargement…
RTX 5070 · 12 Go VRAM6,6 Gio / 11 Gio disponiblesCompatible en théorieChargement…
RTX 5070 Ti · 16 Go VRAM6,6 Gio / 15 Gio disponiblesCompatible en théorieChargement…
RTX 5080 · 16 Go VRAM6,6 Gio / 15 Gio disponiblesCompatible en théorieChargement…
RTX 5090 · 32 Go VRAM6,6 Gio / 31 Gio disponiblesCompatible en théorieChargement…
H100 SXM · 80 Go VRAM6,6 Gio / 79 Gio disponiblesCompatible en théorieChargement…
H100 PCIe · 80 Go VRAM6,6 Gio / 79 Gio disponiblesCompatible en théorieChargement…
H200 · 141 Go VRAM6,6 Gio / 140 Gio disponiblesCompatible en théorieChargement…
NVIDIA DGX Spark · 128 Go unifiés6,6 Gio / 124 Gio disponiblesCompatible en théorieChargement…

Benchmarks communautaires

Chargement des mesures…

J’ai testé ce modèle

Un avis par membre et par modèle. Votre nouvel avis remplace le précédent dans les moyennes.

Chargement…

Notes de harness · facultatif

Notez uniquement les harness que vous avez testés. « Non évalué » retire votre ancienne note de ce harness.

LE MOTEUR DE COMPATIBILITÉ NVNC

Comment ça fonctionne ?

Votre besoin sélectionne des candidats. Votre matériel détermine la mémoire disponible. Le moteur et la quantification définissent le profil d’inférence.

Profil actuel : Ollama · Q4_K_M
4 096 tokens · 1 séquence(s) · 12 Gio disponibles selon le profil.

Une estimation explicite

Poids du modèle + cache KV FP16 + 0,75 Gio de runtime, puis 15 % de marge. Les poids utilisent une largeur moyenne approximative et une marge de 12 %.

Les variantes K_S, K_M et K_L peuvent mélanger plusieurs précisions. La taille exacte du package, les kernels et le backend doivent être vérifiés. Cette liste de profils ne garantit pas qu’un package existe pour chaque modèle.

La théorie et les mesures restent distinctes

La compatibilité mémoire ne prédit ni la vitesse ni la qualité. Les benchmarks déclarés précisent le contexte réel, sans être automatiquement certifiés.

Consulter la méthodologie complète

Comparer les modèles

Même quantification et même contexte. Aucune note de qualité supposée.

Critère
Paramètres
Contexte configuré
Mémoire estimée
Compatibilité
Licence
Usages