Chatbot local en entreprise : monter son assistant interne privé
Créer un chatbot local branché sur vos documents internes : architecture RAG, choix du modèle, gestion des droits et matériel nécessaire pour rester hors du cloud.
Pourquoi un chatbot interne ne devrait pas passer par le cloud
Un assistant interne est, par construction, branché sur ce que l'entreprise a de plus sensible : contrats, procédures, ressources humaines, tarifs, code source. Chaque question posée à un chatbot cloud expose donc simultanément la question et l'extrait de document qui sert à y répondre.
Le passage en local supprime le problème à la racine : les documents restent dans votre système de fichiers, l'indexation se fait sur votre machine, et l'inférence n'appelle aucune API externe.
L'architecture RAG en clair
Un chatbot d'entreprise n'est pas un modèle réentraîné sur vos données — c'est une recherche documentaire suivie d'une rédaction. Le schéma est toujours le même :
- Vos documents sont découpés en passages et convertis en vecteurs par un modèle d'embedding local
- Les vecteurs sont stockés dans une base locale (Qdrant, Chroma, pgvector)
- À chaque question, les passages les plus proches sont retrouvés puis injectés dans le contexte du LLM
- Le modèle rédige la réponse en citant les passages utilisés, ce qui rend chaque réponse vérifiable
Gérer les droits d'accès sans tout rouvrir
L'erreur la plus fréquente consiste à indexer l'intégralité du serveur de fichiers dans une base unique : le chatbot devient alors capable de révéler à un stagiaire le contenu d'un dossier de direction. La bonne pratique est de reproduire l'arborescence des droits existante en créant une collection vectorielle par périmètre, et de filtrer la recherche selon le profil de l'utilisateur avant l'appel au modèle.
Quel modèle pour quel volume documentaire
La taille du corpus influe peu sur le modèle nécessaire — c'est la base vectorielle qui absorbe le volume. Ce qui compte, c'est la finesse de synthèse attendue et le nombre d'utilisateurs simultanés.
| Contexte | Utilisateurs simultanés | Station adaptée |
|---|---|---|
| Cabinet ou TPE, corpus de quelques centaines de documents | 1 à 3 | Starter IA — 16 Go VRAM |
| PME, corpus métier complet, réponses détaillées attendues | 3 à 10 | Predator IA — 32 Go VRAM |
| Structure multi-services, plusieurs assistants spécialisés | 10 et plus | Master IA — 48 Go VRAM |
Combien de temps pour un premier assistant utile
Sur une station livrée avec le moteur d'inférence et les modèles pré-installés, un premier chatbot interne branché sur un corpus de test se monte en une journée. L'essentiel du travail restant n'est pas technique : il consiste à choisir les documents à indexer, nettoyer les versions obsolètes et rédiger les instructions système qui définissent le ton et les limites de l'assistant.
Questions fréquentes
Faut-il entraîner un modèle sur nos données ?
Presque jamais. Le RAG donne de meilleurs résultats, coûte infiniment moins cher et permet de mettre à jour la connaissance en réindexant un document, sans réentraînement.
Le chatbot local peut-il se tromper ou inventer ?
Oui, comme tout modèle de langage. Le RAG réduit fortement le risque en imposant des sources, et l'affichage des passages cités permet à l'utilisateur de vérifier immédiatement la réponse.
Peut-on connecter le chatbot à nos outils métier ?
Oui : ERP, CRM, GED ou base SQL peuvent être exposés comme outils via un serveur MCP local, ce qui transforme l'assistant documentaire en assistant opérationnel.
Passez à l'IA locale souveraine
Stations assemblées en France, modèles 2026 pré-installés, données 100% chez vous.