Formation RAG et agents IA on-premise

Description

Cette formation RAG et agents IA on-premise vous permettra de construire des assistants et des agents IA dont aucune donnée ne quitte votre infrastructure.

Pendant 3 jours, vous apprendrez à :

• répondre aux métiers sur des documents confidentiels sans dépendre d'un service cloud,
• obtenir des réponses fiables d'un modèle de taille modeste, mesurées sur vos propres questions,
• garder la trace de chaque décision d'un agent pour vos audits de sécurité et de conformité.

Elle prolonge la formation LLM : RAG et agents IA. Pour l'infrastructure d'inférence elle-même (vLLM, quantization, dimensionnement GPU), voir la formation Infrastructure IA souveraine.

Public

Cette formation s'adresse aux développeur·euse·s, data scientists et ingénieur·e·s IA qui ont déjà construit un RAG et un premier agent, et doivent livrer des applications d'IA générative sans envoyer de données à un service externe : secteur public, défense, santé, banque, industrie.

Les objectifs

• Choisir un modèle à poids ouverts, des embeddings et un reranker pour un hébergement interne
• Construire un RAG local qui masque les données personnelles, cite ses sources et applique des droits d'accès
• Fiabiliser des agents sur un petit modèle avec LangChain 1.x et LangGraph
• Concevoir un système multi-agents avec LangGraph et CrewAI, et choisir un framework
• Tracer, auditer et sécuriser une application d'IA générative hébergée en interne

Pré-requis

• Avoir les bases de la formation LLM : RAG et agents IA : pipeline RAG et son évaluation, agents LangGraph, outils MCP
• Pratiquer Python et les notebooks Jupyter
• Un ordinateur portable : les modèles tournent sur le serveur d'inférence fourni pour la formation, ou sur votre infrastructure en intra
• Ordinateur portable à apporter

Le programme de la formation RAG et agents IA on-premise

Jour 1 — Un RAG qui reste dans votre infrastructure

• Choisir ses modèles pour un hébergement interne
  • Ce qui change sans service cloud : taille du modèle, quantization, mémoire, latence
  • Modèle à poids ouverts : licence, langue, taille, appel d'outils, provenance des poids
  • Embeddings et reranker locaux : les choisir et les servir à côté du modèle
• Ingérer des documents sensibles
  • Formats variés : pdf, docx, md, txt, csv, xlsx, html
  • Nettoyage et masquage des données personnelles avant indexation
  • Métadonnées de classification et droits d'accès appliqués avant la génération
• Un RAG local avec LlamaIndex
  • Base vectorielle locale (Chroma) et moteur de requête branchés sur le serveur d'inférence, citation des sources
  • Ce que perd un petit modèle et comment le compenser : découpage, nombre de passages, reranker local
  • Haystack et LangChain : ce qu'ils font autrement, pour choisir

Mises en pratique :

• Comparaison de deux tailles d'un même modèle hébergé en interne : qualité, latence, mémoire
• Ingestion multi-formats du corpus avec masquage des données personnelles et métadonnées de classification
• RAG LlamaIndex local avec reranker local, mesuré sur le jeu de questions de référence
• Filtrage des passages par niveau de classification avant la génération
• Démonstration de l'application Atlas IA : l'assistant documentaire et ses droits par classification

Jour 2 — Des agents fiables sur un petit modèle

• Fiabiliser un agent sur un petit modèle
  • Outils bien décrits, validation des sorties, nouvelles tentatives
  • Ce qu'un petit modèle fait mal, et comment le contourner
• Agents avec LangChain 1.x
  • create_agent et middlewares : masquage des données personnelles avant le modèle, budgets d'appels, boucle bornée
  • Mémoire par fil de discussion, callbacks d'audit sans enregistrer le contenu des échanges
• LangGraph pour une production interne
  • Persistance de l'état (checkpointers) et reprise après incident
  • Validation humaine avant une action sensible
• Outils MCP internes
  • Serveur MCP hébergé dans l'infrastructure, cloisonnement des outils et des droits
• Observabilité locale avec Phoenix
  • Tracer les appels, les outils et les décisions sans envoyer de trace hors de l'infrastructure
  • Coût d'un agent en appels au modèle et en durée, comparé au RAG simple

Mises en pratique :

• Agent LangChain avec middlewares de masquage et de budget, mémoire par fil et callbacks d'audit
• Agent LangGraph sur le RAG du jour 1, avec sauvegarde de l'état, reprise après interruption et validation humaine
• Outil d'analyse de fichiers csv exposé par un serveur MCP interne, avec des droits limités
• Traces Phoenix et comparatif entre RAG simple et agent : justesse, appels au modèle, durée
• Démonstration de l'application Atlas IA : l'agent RAG dont le graphe s'anime en direct

Jour 3 — Équipes d'agents et mise en production

• Multi-agents sur un petit modèle
  • Quand passer au multi-agents, et quand l'éviter : coût, latence, erreurs en cascade
  • Patterns : séquentiel, superviseur, hiérarchique, transfert entre agents
  • Le cas commun : un orchestrateur, un agent de recherche, un agent d'analyse, un agent de synthèse
  • Limiter les outils de chaque agent à son rôle
• Multi-agents avec LangGraph
  • Agent superviseur : la délégation vue comme un appel d'outil
  • Lire la trace d'une équipe : qui a été appelé, dans quel ordre, avec quels outils
• Multi-agents avec CrewAI
  • Agents, tâches, équipes ; processus séquentiel ou hiérarchique
  • Garde-fous sur la sortie d'une tâche
• Choisir un framework
  • Grille : contrôle, maturité et maintenance, fonctionnement hors ligne, testabilité, fiabilité sur petit modèle
  • Haystack, smolagents, AutoGen et Microsoft Agent Framework passés à la grille
• Sécuriser et mettre en production on-premise
  • Injection de prompt via les documents, cloisonnement des outils, journalisation
  • Architecture de référence d'Atlas IA : authentification, droits par classification, journal d'audit, validation humaine, interface sans ressource externe

Mises en pratique :

• Le cas commun avec LangGraph puis CrewAI, mesuré sur les mêmes questions (justesse, durée)
• Attaque par injection de prompt dans un document, puis parades
• Démonstration de l'application Atlas IA : équipe d'agents, avec un orchestrateur et trois spécialistes aux outils limités
• Choix argumenté d'un framework pour le cas d'étude

Bonus/Options

En fonction du temps disponible et du niveau des apprenants les modules suivants peuvent être aussi étudiés :
- Le même cas d'équipe avec Haystack
- Agent smolagents (CodeAgent) et sécurité de l'exécution de code généré
- Équipe dynamique d'Atlas IA : un planificateur crée des sous-agents, validés par une politique écrite en code et approuvés par un humain

Télécharger le programme

Formations associées

• 

  LLM : RAG et agents IA

  3 jours
• 

  Infrastructure IA souveraine

  3 jours

Formateur

Daouda DIOP

Daouda est docteur-ingénieur en optique et vision par ordinateur. Il a forgé son expertise dans la fibre optique, l'astronomie aérospatiale et le développement d'algorithmes de computer vision pour véhicules autonomes.

Sa maîtrise de C++, Matlab, Python et des technologies comme Hadoop, Spark, SQL et Power BI, acquise notamment lors de sa thèse dont une partie concerne le synchrotron, fait de lui un formateur d’exception.

Que ce soit à l'université ou en milieu professionnel, Daouda forme des data engineers et des data analysts, adaptant ses cours à son public avec des projets concrets. Il sait capter l’attention en mêlant théorie et pratique, permettant aux stagiaires d’appliquer Spark sur des cas réels, comme l’analyse de données événementielles sur un datalake Azure.

Suivez une formation avec Daouda pour transformer vos compétences en data !

FAQ

8 raisons de participer à une formation Human Coders

• Satisfaction client élevée : Un taux de satisfaction de 4,6/5 depuis 2012 (sur 1977 sessions réalisées). 99% des participants se disent satisfaits de nos formations
• Approche pédagogique unique : Des formations en petit groupe, des formateurs passionnés et expérimentés, de véritables workshops... (Plus d'infos sur notre manifeste)
• Catalogue de formations complet : 280 formations au catalogue, de quoi vous accompagner sur tout vos projets
• Écosystème dynamique : Nous accompagnons les dev depuis 14 ans avec des initiatives comme Human Coders News, les Human Talks, le podcast ou encore notre serveur Discord
• Financement facilité : Organisme certifié Qualiopi, indispensable pour que vous puissiez obtenir des aides au financement via votre OPCO
• Références clients prestigieuses : De nombreux clients qui nous font confiance depuis des années
• Accompagnement sur mesure : Nous vous proposons un accompagnement personnalisé par nos consultants pour vous aider dans vos projets au-delà de la formation
• Valorisation professionnelle : Remise d'un diplôme, d'une attestation et d'une certification, suivant les formations effectuées, que vous pourrez afficher sur vos CV et réseaux sociaux