Laboratoire /La théorie à l’épreuve du réel.
Catalogue initial
COMMUNAUTÉ FRANCOPHONE · IA LOCALE

La théorie à l’épreuve du réel.

Des résultats déclarés, avec leurs conditions de test et leurs limites.

Contrôlé ne signifie pas certifié. Le POC vérifie le format et certaines cohérences. Les mesures restent déclaratives ; aucune médiane globale ne mélange des configurations différentes.

Chargement des mesures…

LE MOTEUR DE COMPATIBILITÉ NVNC

Comment ça fonctionne ?

Votre besoin sélectionne des candidats. Votre matériel détermine la mémoire disponible. Le moteur et la quantification définissent le profil d’inférence.

Profil actuel : Ollama · Q4_K_M
4 096 tokens · 1 séquence(s) · 12 Gio disponibles selon le profil.

Une estimation explicite

Poids du modèle + cache KV FP16 + 0,75 Gio de runtime, puis 15 % de marge. Les poids utilisent une largeur moyenne approximative et une marge de 12 %.

Les variantes K_S, K_M et K_L peuvent mélanger plusieurs précisions. La taille exacte du package, les kernels et le backend doivent être vérifiés. Cette liste de profils ne garantit pas qu’un package existe pour chaque modèle.

La théorie et les mesures restent distinctes

La compatibilité mémoire ne prédit ni la vitesse ni la qualité. Les benchmarks déclarés précisent le contexte réel, sans être automatiquement certifiés.

Consulter la méthodologie complète

Comparer les modèles

Même quantification et même contexte. Aucune note de qualité supposée.

Critère
Paramètres
Contexte configuré
Mémoire estimée
Compatibilité
Licence
Usages