Foxpilot — agence IA à Montpellier Foxpilot
← Retour aux études de cas Étude de cas · AI Engineer

Un RAG de support mis en production, sous garde-fous

Comment un AI Engineer augmenté par l'IA a transformé une base documentaire interne en assistant fiable, mesuré et exploitable en production — pas une démo.

AI EngineerRAGLLMOpsRégieMode enveloppe
Scénario représentatif et anonymisé. Cette étude de cas illustre notre dispositif type et les indicateurs que nous suivons réellement sur ce genre de mission. Les références nominatives et les chiffres détaillés sont partagés sur demande, sous NDA.
CONTEXTE

Un support noyé sous les questions répétitives

Une direction confrontée à un volume élevé de demandes internes répétitives, dont les réponses existaient déjà — éparpillées dans une base documentaire de plusieurs milliers de pages. Le coût : du temps expert mobilisé sur du niveau 1, et des délais de réponse subis.

L'enjeu n'était pas de produire une démo impressionnante, mais un assistant fiable, sécurisé et mesurable, capable de citer ses sources et de refuser proprement hors de son périmètre.

DISPOSITIF

Un AI Engineer, du cadrage au run

Profil

Un AI Engineer senior, évalué par assessment, expérience RAG/LLMOps vérifiée.

Mode d'intervention

Mode enveloppe pour le cadrage, puis régie sur la phase d'industrialisation et le run léger.

Durée

≈ 6 semaines du POC à la mise en production, puis run au fil de l'eau.

Périmètre données

Base documentaire interne (plusieurs milliers de pages), hébergement et traitement maîtrisés en UE.

MÉTHODE IA-NATIVE

Comment on a sécurisé la mise en production

1

Ingestion & indexation

Chunking adapté, embeddings, base vectorielle pgvector ; recherche hybride + reranking.

2

Garde-fous anti-hallucination

Réponses ancrées dans les sources avec citations, filtrage des entrées/sorties, refus contrôlé hors périmètre.

3

Évaluation systématique

Golden dataset de questions/réponses, métriques de précision et de régression (Ragas, promptfoo) avant chaque mise à jour.

4

Observabilité (LLMOps)

Traçage des chaînes (Langfuse), suivi des coûts, de la latence p95 et du taux d'hallucination en continu.

5

Revue senior & sécurité

Tout le code passe par une revue senior, des tests et un scan OWASP : vitesse maîtrisée, pas fantasmée.

INDICATEURS SUIVIS

Des résultats mesurés, pas promis

-70%

tickets de support niveau 1

< 3%

taux d'hallucination (golden set)

p95 < 2,5 s

latence de réponse

6 sem.

du POC à la production

Ordres de grandeur observés sur ce type de mission ; chaque projet est instrumenté avec ses propres objectifs, mesurés avant industrialisation.

STACK

L'outillage mobilisé

PythonLangChain / LlamaIndexpgvectorRagas / promptfooLangfuseAPI Anthropic / OpenAI / Azure OpenAI

Pourquoi ça tient en production (et en audit)

  • Réponses citant leurs sources, sans invention hors périmètre
  • Qualité mesurée en continu via un golden dataset versionné
  • Coûts, latence et hallucinations observés (LLMOps), pas devinés
  • Code revu par un senior, testé et scanné (OWASP) avant chaque livraison

Un cas d'usage IA à faire passer en production ?

Parlons-en : nous staffons l'AI Engineer adapté à votre contexte, en mode enveloppe, régie ou forfait — et nous cadrons les indicateurs dès le départ.