Retour aux articles • IA • • 5 min de lecture

LibreChat : Hub Multi-LLM Souverain et MCP

Déployer LibreChat en hub multi-LLM auto-hébergé : orchestration de serveurs MCP, Artifacts interactifs, RAG pgvector, SSO OIDC et maîtrise FinOps par API.

#IA #LibreChat #MCP #LLM #SelfHosted #OpenSource #Souverainete
LibreChat : Hub Multi-LLM Souverain et MCP
Logo officiel LibreChat
Dépôt GitHub officiel : github.com/danny-avila/LibreChat
Documentation officielle : librechat.ai/docs • Licence : MIT (100 % Open-Source)

Face à la multiplication des abonnements SaaS fragmentés (ChatGPT Plus/Team, Claude Pro/Enterprise, Gemini Advanced) qui imposent un tarif fixe par utilisateur et dispersent l’historique conversationnel de l’entreprise chez des tiers, LibreChat (créé par Danny Avila) s’est imposé comme le standard open-source incontesté des espaces de travail IA auto-hébergés.

Mais réduire LibreChat à un simple « clone de ChatGPT » serait passer à côté de son véritable potentiel architectural : dans ses versions récentes, LibreChat est devenu un véritable système d’exploitation pour Agents IA, capable d’unifier les modèles Cloud et locaux (Ollama/vLLM), d’orchestrer des serveurs Model Context Protocol (MCP), de compiler à la volée des Artifacts interactifs (React, Mermaid, SVG) et d’appliquer une gouvernance d’entreprise stricte (SSO OIDC, RBAC, RAG pgvector et facturation au token).

1. Pourquoi LibreChat surclasse les interfaces SaaS propriétaires

Dans une équipe d’ingénierie ou un Homelab avancé, payer 25 à 30 € par mois et par utilisateur pour chaque fournisseur de LLM est un non-sens économique et opérationnel. En connectant LibreChat directement aux API Pay-as-you-go (Anthropic, OpenAI, Azure AI Foundry, Google Vertex AI, Mistral, DeepSeek) et aux moteurs d’inférence locaux (Ollama, vLLM, LiteLLM), vous débloquez quatre avantages décisifs :

  1. Bascule de modèle en cours de conversation (Mid-Stream Model Switching) : Vous pouvez démarrer une session d’architecture avec un modèle de raisonnement profond (Claude Opus / GPT), générer un diagramme via un second modèle, puis basculer sur un modèle local Ollama pour traiter des données confidentielles : au sein du même fil de discussion et en conservant le contexte intégral.
  2. Souveraineté du stockage et recherche plein texte : Toutes les conversations, prompts système, presets et pièces jointes restent stockés dans votre propre base MongoDB indexée par Meilisearch (recherche instantanée dans des milliers d’échanges techniques).
  3. Économie FinOps radicale : Au lieu de payer des licences dormantes, vous ne payez que les tokens réellement consommés via API, avec la possibilité d’activer le Prompt Caching (Anthropic / OpenAI / DeepSeek) qui réduit jusqu’à 90 % le coût des longs contextes documentaires.
  4. Forking & Branching de conversations : À tout moment, vous pouvez bifurquer un échange à partir du message $N$ pour explorer deux hypothèses techniques en parallèle sans polluer la trame principale.

2. Le vrai potentiel : Serveurs MCP, Agents IA et Artifacts Live

┌────────────────────────────────────────────────────────────────────────────┐
│                        INTERFACE UNIFIÉE LIBRECHAT                         │
│   Chat Multi-Modèles • Forking • Presets • Artifacts (React/Mermaid/HTML)  │
└──────────────────────┬─────────────────────────────────────────────────────┘
                       │ Configuration déclarative (librechat.yaml)
        ┌──────────────┼──────────────────────────────┐
        ▼              ▼                              ▼
┌───────────────┐ ┌─────────────────────────┐ ┌──────────────────────────────┐
│ FOURNISSEURS  │ │ PROTOCOLE MCP & OUTILS  │ │ RAG & EXÉCUTION SÉCURISÉE    │
│ • Anthropic   │ │ • Serveurs MCP (STDIO / │ │ • RAG API (FastAPI+pgvector) │
│ • OpenAI/Azure│ │   SSE) : Git, K8s, SQL  │ │ • Code Interpreter Sandbox   │
│ • Vertex AI   │ │ • Agents No-Code/RBAC   │ │ • Recherche Web & Vision OCR │
│ • Ollama/vLLM │ │ • Actions OpenAPI REST  │ │ • SSO OIDC / LDAP / 2FA      │
└───────────────┘ └─────────────────────────┘ └──────────────────────────────┘

A. Intégration native du Model Context Protocol (MCP)

C’est la fonctionnalité qui transforme LibreChat en console d’opérations (ChatOps / AIOps). Via le fichier déclaratif librechat.yaml, vous pouvez attacher n’importe quel serveur MCP (en transport stdio, sse ou streamable-http) à vos agents :

  • Inspection d’infrastructure : Interrogation en lecture seule de Kubernetes, Prometheus, Grafana ou PostgreSQL.
  • Automatisation DevSecOps : Recherche dans vos dépôts Git internes (Gitea, GitLab, GitHub), lecture de tickets Jira/Linear ou déclenchement de workflows.
  • Isolation des permissions : Chaque Agent LibreChat ne reçoit que le sous-ensemble exact d’outils MCP autorisé pour son rôle.

B. Les Artifacts interactifs (inspirés et étendus au-delà de Claude)

Lorsque vous demandez à LibreChat de concevoir un composant UI, un tableau de bord de métriques ou un schéma d’architecture, le panneau latéral Artifacts compile et affiche en temps réel :

  • Des applications React + Tailwind CSS + Lucide Icons entièrement interactives ;
  • Des graphes d’architecture Mermaid.js et des rendus vectoriels SVG ;
  • Des pages HTML/JS autonomes prévisualisables en un clic.

C. RAG local (pgvector) et Code Interpreter

Grâce au microservice officiel librechat-rag-api adossé à PostgreSQL (pgvector), tout fichier déposé dans le chat (PDF, Markdown, code source, CSV, logs) est découpé, vectorisé (avec un modèle d’embedding cloud ou 100 % local via Ollama nomic-embed-text) et interrogé sémantiquement sans envoyer l’intégralité du document à chaque requête.

3. Configuration de référence : librechat.yaml avec MCP et Ollama

Toute la puissance d’ingénierie de LibreChat se concentre dans son fichier de configuration déclaratif librechat.yaml, monté en volume dans le conteneur :

version: 1.2.1
cache: true

interface:
  endpointsMenu: true
  modelSelect: true
  parameters: true
  sidePanel: true
  presets: true
  prompts: true
  bookmarks: true
  multiConvo: true
  agents: true

# Déclaration des serveurs Model Context Protocol (MCP)
mcpServers:
  filesystem-docs:
    type: stdio
    command: npx
    args:
      - -y
      - "@modelcontextprotocol/server-filesystem"
      - "/app/shared-docs"
    timeout: 30000

  postgres-analytics:
    type: stdio
    command: npx
    args:
      - -y
      - "@modelcontextprotocol/server-postgres"
      - "postgresql://readonly_user:secret@analytics-db:5432/metrics"

  internal-sre-sse:
    type: sse
    url: "http://mcp-sre-gateway.internal:8080/sse"
    headers:
      Authorization: "Bearer ${MCP_SRE_TOKEN}"

# Déclaration des Endpoints personnalisés (Ollama local, LiteLLM, vLLM, etc.)
endpoints:
  agents:
    disableBuilder: false
    capabilities:
      - "execute_code"
      - "file_search"
      - "actions"
      - "tools"

  custom:
    - name: "Ollama (Local GPU)"
      apiKey: "ollama"
      baseURL: "http://host.docker.internal:11434/v1/"
      models:
        default:
          - "qwen2.5-coder:32b"
          - "llama3.3:70b"
          - "deepseek-r1:32b"
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      summarize: false
      forcePrompt: false
      modelDisplayLabel: "Ollama Local"
Animation exécution CLI dans le terminal

4. Déploiement en production et Gouvernance SSO (OIDC)

En entreprise ou sur une infrastructure auto-hébergée sécurisée, LibreChat s’intègre nativement derrière un reverse-proxy (Caddy, Traefik, Nginx) avec authentification unique OpenID Connect (Keycloak, Authentik, Authelia, Azure AD) :

# Extrait .env pour l'intégration SSO OIDC et le RAG local
ALLOW_REGISTRATION=false
ALLOW_SOCIAL_LOGIN=true

OPENID_CLIENT_ID=librechat-production
OPENID_CLIENT_SECRET=votre_secret_oidc
OPENID_ISSUER=https://sso.exemple.fr/application/o/librechat/
OPENID_BUTTON_LABEL="Connexion SSO Entreprise"
OPENID_SESSION_SECRET=cle_session_aleatoire_64_octets

# Connexion au moteur RAG vectoriel (pgvector)
RAG_API_URL=http://rag_api:8000
EMBEDDINGS_PROVIDER=ollama
EMBEDDINGS_MODEL=nomic-embed-text

5. Conclusion : La brique centrale de votre souveraineté IA

Que vous souhaitiez offrir à votre famille ou à vos équipes d’ingénieurs un accès unifié aux meilleurs LLM du marché, bâtir des agents spécialisés connectés à vos outils internes via MCP, ou garantir qu’aucune donnée sensible ne quitte votre réseau en routant les conversations critiques vers Ollama, LibreChat est aujourd’hui la plateforme open-source la plus aboutie et la plus extensible de l’écosystème IA.