01Tableau comparatif des modèles
Ce tableau est la référence que nous utilisons pour dimensionner une station. Il vaut pour un usage professionnel : rédaction, analyse documentaire, code et agents.
Modèles pré-installés sur les trois stations IA Local (2026) et carte graphique utilisée| Modèle | Carte graphique | Usage de prédilection | Station adaptée |
|---|
| Qwen 3.8 27B (4 bits, cache Q8) | GPU N°1 | Rédaction, raisonnement, synthèse de dossiers, agents | Toutes |
| Qwen 3.8 27B abliterated | GPU N°1 | Non censuré : développement de code, tests d'intrusion de niveau frontier | Toutes |
| Gemma 4 26B | GPU N°1 | Multimodal : documents, images, tableaux | Toutes |
| Qwen3-Embedding 4B + Qwen3-Reranker | GPU N°2 | Vectorisation et classement pour RAG documentaire | Toutes |
| DeepSeek-OCR | GPU N°2 | OCR structuré de PDF et actes scannés | Toutes |
| ComfyUI + Stable Diffusion 3.5 Medium / SDXL | GPU N°2 | Génération d'images illimitée en local | Toutes |
| Whisper large-v3-turbo | GPU N°2 | Transcription de réunions et dictées en français | Toutes |
| XTTS-v2 | GPU N°2 | Synthèse vocale en français | Toutes |
Performances mesurées avec notre moteur d'inférence
Nos stations utilisent un moteur d'inférence ultra optimisé pour les LLM, le contexte long, le multi-utilisateur et la vitesse, avec paged attention et continuous batching. Mesures sur Qwen 3.8 27B en 4 bits par paramètre :
- 4 utilisateurs en parallèle : 250K de contexte en précision Q8, 30 à 40 tokens/s chacun.
- 1 utilisateur : jusqu'à 1 million de contexte (fenêtre native de 262K étendue), 80 à 90 tokens/s.
- Les modèles complémentaires (OCR, embedding, image, son) tournent sur le GPU N°2 pour laisser le GPU N°1 aux LLM.
03Comment calculer la VRAM dont vous avez besoin
La règle de dimensionnement est simple : en quantification 4 bits, un modèle consomme environ la moitié de son nombre de paramètres en gigaoctets. Un modèle 32B occupe donc autour de 16 à 22 Go selon l'implémentation, auxquels il faut ajouter le cache de contexte.
Le cache grandit avec la longueur de conversation et le nombre de documents chargés. Comptez 2 à 6 Go supplémentaires pour un usage documentaire sérieux, davantage si vous travaillez sur des contextes de plus de 100 000 tokens.
- Paramètres ÷ 2 = VRAM approximative en Go (quantification 4 bits).
- Ajoutez 2 à 6 Go pour le cache de contexte en usage documentaire.
- Prévoyez une marge de 10 % : un modèle qui déborde d'un gigaoctet perd la moitié de sa vitesse.
- La RAM système sert d'appoint en offloading : elle doit valoir au moins le double de la VRAM.
04Quelle station pour quel profil
Le bon dimensionnement dépend moins du budget que de la nature des documents traités et du nombre d'utilisateurs simultanés.
Correspondance profil / configuration| Profil | Besoin typique | Configuration |
|---|
| Indépendant, TPE | Rédaction, courriers, recherche documentaire sur un fonds modeste | Starter IA — 40 Go de VRAM + 32 Go de RAM |
| Cabinet, PME, équipe | Analyse de dossiers volumineux, agents, plusieurs utilisateurs | Predator IA — 48 Go de VRAM + 48 Go de RAM |
| Production intensive, studio | Raisonnement profond, génération d'images et de vidéos en continu | Master IA — 56 Go de VRAM + 64 Go de RAM |
Pourquoi le local plutôt que l'API
À usage soutenu, l'écart économique se referme vite : un abonnement professionnel par utilisateur, multiplié par une équipe et par douze mois, atteint en deux ans le prix d'une station qui, elle, reste votre propriété.
Surtout, l'exécution locale supprime la question juridique. Aucun document ne quitte vos locaux, donc aucun transfert hors Union européenne à documenter, aucune exposition au droit extraterritorial, aucun risque que vos contenus alimentent l'entraînement d'un modèle tiers.
