Un chatbot IA on-premise conforme RGPD permet à une ETI française de déployer un agent conversationnel IA sur ses propres serveurs, sans envoyer aucune donnée à l’extérieur. En 2026, des solutions no-code rendent ce déploiement accessible en moins de 48 heures, sans équipe DevOps dédiée.
Pourquoi les ETI françaises choisissent l’on-premise pour leur IA ?
La question n’est plus technique : elle est réglementaire. Le Cloud Act américain s’applique à tout fournisseur cloud US, même si les serveurs sont physiquement en Europe.
La question n’est plus technique : elle est réglementaire et stratégique.
Depuis la mise en vigueur du CLOUD Act américain, tout fournisseur cloud américain (AWS, Azure, Google Cloud, OpenAI API) peut être contraint de livrer les données de ses clients aux autorités américaines, même si les serveurs sont en Europe. Le Sénat français a consacré plusieurs rapports à ce risque d’extraterritorialité (notamment dans le cadre du projet de loi visant à sécuriser l’espace numérique) et la CNIL a explicitement alerté sur les risques liés aux certifications cloud autorisant des accès étrangers aux données sensibles.
Pour les ETI opérant dans des secteurs réglementés (santé, finance, droit, défense), l’on-premise n’est pas un luxe : c’est une obligation contractuelle ou réglementaire.
L’AI Act européen, en vigueur depuis août 2024 et pleinement applicable en août 2026, ajoute une couche supplémentaire : les systèmes d’IA à « risque limité » (dont les chatbots) doivent informer les utilisateurs qu’ils interagissent avec une machine et permettre une escalade vers un humain. Ces obligations sont plus facilement auditables avec une infrastructure maîtrisée.
Quelles données sont réellement à risque dans un chatbot SaaS ?
Dans un chatbot SaaS, trois catégories circulent chez le fournisseur : vos documents internes, vos conversations, et les métadonnées d’usage. En on-premise, elles restent 100 % sur votre infrastructure.
Avant de choisir une architecture, il faut identifier ce qui circule dans un chatbot d’entreprise :
- Documents internes : procédures RH, fiches produits, contrats clients, rapports financiers
- Conversations : questions des employés ou clients, révélant potentiellement des informations stratégiques
- Métadonnées : qui pose quelle question, à quelle fréquence, depuis quel canal
Dans un modèle SaaS cloud, ces trois catégories transitent et sont parfois stockées chez le fournisseur. Dans un modèle on-premise, elles restent 100 % sur votre infrastructure.
Comment fonctionne l’architecture d’un chatbot IA on-premise ?
Un déploiement on-premise repose sur quatre blocs containerisés : moteur RAG, base vectorielle locale, LLM gateway (API ou modèle local), et couche applicative no-code.
Un déploiement on-premise moderne repose sur quatre blocs, tous containerisés via Docker :
1. Le moteur RAG (Retrieval-Augmented Generation)
C’est le cœur du système. Il indexe vos documents, les découpe en fragments (chunks), les transforme en vecteurs et les stocke dans une base vectorielle locale (Qdrant, Weaviate ou Chroma). Lors d’une question, il récupère les fragments pertinents et les envoie au modèle LLM avec la requête.
2. La base vectorielle
Hébergée sur site, elle stocke les représentations vectorielles de vos documents. Qdrant, développé en Europe, est un choix adapté aux ETI françaises : léger (8 Go RAM suffisent pour 100 000 documents), performant et open-source.
3. Le LLM (modèle de langage)
Deux options :
- API externe (OpenAI, Anthropic, Mistral) : seuls les fragments de documents pertinents sont envoyés à l’API, pas l’ensemble de vos données. C’est l’option la plus simple et la plus performante.
- LLM local (Llama 3, Mistral 7B) : 100 % on-premise, zéro donnée externe, mais nécessite un GPU dédié (minimum NVIDIA RTX 4090 ou A10).
Pour la majorité des ETI, l’option API avec Mistral (fournisseur français) offre le meilleur compromis : RGPD natif, données traitées en France, performances de niveau GPT-4.
4. La couche applicative
Elle gère l’interface utilisateur, les canaux de diffusion (widget web, Teams, WhatsApp), les règles métier (escalade, horaires), les analytics et les droits d’accès. C’est ici que RAG Weaver intervient : une interface no-code qui orchestre les trois composants précédents.
Checklist déploiement : ce qu’il faut vérifier avant de commencer
Validez quatre points avant de démarrer : infrastructure (16 Go RAM, Docker), sécurité réseau (VLAN, reverse proxy TLS), inventaire des sources documentaires, et registre des traitements RGPD.
Avant le déploiement, valider ces prérequis avec votre équipe IT :
Infrastructure minimale recommandée
- Serveur dédié ou VM : 8 CPU, 16 Go RAM, 200 Go SSD (pour 50 000 documents)
- OS : Ubuntu 22.04 LTS ou RHEL 8+
- Docker 24+ et Docker Compose installés
- Accès sortant HTTPS sur le port 443 (pour les API LLM)
Sécurité réseau
- Cloisonnement du serveur de l’agent IA dans un VLAN dédié
- Reverse proxy (nginx ou Traefik) avec certificat TLS valide
- Pas d’exposition directe sur l’internet public (accès via VPN pour les usages internes)
Sources documentaires
- Inventaire des sources à connecter : SharePoint, Confluence, réseau partagé, PDF
- Droits d’accès : l’agent doit lire, pas écrire
- Volume estimé : nombre de documents, taille totale, fréquence de mise à jour
Conformité RGPD
- Registre des traitements mis à jour avec la nouvelle activité de traitement
- Information des utilisateurs finaux (bannière ou mention dans l’interface)
- DPO informé et validation de la DPIA si nécessaire
Combien de temps pour un déploiement on-premise avec RAG Weaver ?
Pour une ETI sans équipe DevOps dédiée : 4 heures pour l’installation Docker, 1 jour pour connecter les sources, 1 à 2 jours pour les tests. Total : 3 à 5 jours ouvrés.
Voici le calendrier réaliste pour une ETI sans équipe DevOps dédiée :
| Étape | Durée estimée |
|---|---|
| Installation Docker + RAG Weaver | 2–4 heures |
| Connexion des sources documentaires | 4–8 heures |
| Configuration des canaux (widget + Teams) | 2–4 heures |
| Tests internes et ajustements prompts | 1–2 jours |
| Mise en production | 1 heure |
| Total | 3–5 jours ouvrés |
Ce délai est à comparer aux 3 à 6 mois nécessaires pour des solutions enterprise comme Dydu ou Kore.ai.
Pour les détails des formules et du plan Enterprise (on-premise inclus), consultez notre page tarifs.
On-premise vs SaaS : la décision en quatre questions
Si vous répondez oui à au moins deux des quatre questions ci-dessous (données sensibles, localisation contractuelle, réserves DPO, infrastructure existante), l’on-premise est votre meilleure option.
Si vous répondez « oui » à au moins deux de ces questions, l’on-premise est probablement votre meilleure option :
- Vos documents contiennent-ils des informations sensibles (données clients, brevets, données financières) ?
- Vos contrats clients ou votre secteur imposent-ils une localisation stricte des données ?
- Votre DPO a-t-il déjà exprimé des réserves sur les solutions cloud américaines ?
- Avez-vous déjà une infrastructure serveur exploitée en interne ?
Si vous répondez « non » à toutes les questions, un déploiement SaaS hébergé en Europe (avec un fournisseur disposant d’un DPA RGPD solide) peut être suffisant et plus rapide à mettre en place.
Dans les deux cas, RAG Weaver se connecte à vos sources documentaires existantes (SharePoint, Confluence, Google Drive, PDF et bien d’autres) sans migration ni développement. Vous pouvez aussi lire notre guide sur comment connecter SharePoint et Confluence à un agent IA.