The AI Forge · Maîtrise · F7
Sécurité IA et red teaming
OWASP LLM & Agentic Top 10, injection de prompt, sécurité des agents, défense, réponse à incident
- Durée
- 2 jours · 9h00–17h00 chaque jour (13 h de contact, pauses et déjeuner inclus)
- Niveau des participants
- Avancé : praticiens confirmés
- Format
- Ateliers d'attaque et de défense guidés par le formateur
- Participants
- 8 inclus · 12 maximum (taille de groupe flexible)
- Prérequis
- F3 + F6 (ou équivalent)
- Écosystème
- Indépendant : tout fournisseur de modèle ou toute stack
- Prix
- 8 500 € (450 € par participant supplémentaire)
Montants en euros, hors taxes.
ai-generatedCe que les participants seront capables de faire
- Mener une attaque de red team structurée sur un système LLM
- Repérer et atténuer l'injection de prompt et l'empoisonnement des données
- Construire une checklist de revue de sécurité IA pour votre organisation
- Concevoir et exécuter un plan de réponse à incident IA
Outils & ressources
Ce qui change après ce module
Des ingénieurs orientés sécurité savent attaquer, défendre et superviser des systèmes LLM et agentiques face aux catalogues de menaces actuels, en construisant une défense en profondeur et une capacité de réponse à incident sur des principes qui survivent aux exploits particuliers.
À qui s'adresse ce module
Ingénieurs et professionnels de la data. Avancé : praticiens confirmés.
Programme
Ce programme est indicatif. Le contenu, l'enchaînement et les exemples sont adaptés au contexte, aux outils et aux objectifs de votre équipe.
Avant de commencer
- Un ordinateur portable avec un environnement de développement fonctionnel et les droits administrateur
- La maîtrise d'au moins un langage généraliste (Python et/ou JavaScript/TypeScript)
- Un éditeur ou IDE avec un assistant de code IA validé et activé
- Une clé d'API pour un fournisseur de modèles validé (délivrée par l'entreprise)
- Un dépôt Git et de l'aisance en ligne de commande
- Modules F3 et F6 suivis, ou niveau équivalent
- Une application LLM ou agentique que vous avez le droit d'attaquer dans un environnement isolé
| Jour 1 | 9:00–10:30 | Le paysage des menaces IA: L'OWASP Top 10 for LLM Apps et le plus récent Agentic (ASI) Top 10 ; la « triade fatale » (lethal trifecta : données privées, contenu non fiable et communications sortantes) comme racine du risque d'injection Atelier : établissez le modèle de menaces de votre application, la cible que vous attaquerez et défendrez sur les deux jours, face aux Top 10 LLM et Agentic, et signalez les endroits où la triade fatale s'applique (cette carte hiérarchise tous les ateliers suivants). |
| 10:30–10:45 · ☕ Pause café | ||
| Jour 1 | 10:45–12:30 | Injection de prompt et traitement des sorties: Injection directe et indirecte, exfiltration de données, fuite du prompt système, et le principe de traiter toute sortie de modèle comme non fiable Atelier : menez avec succès des attaques par injection directe et indirecte contre votre application et documentez-en l'impact. |
| 12:30–13:30 · 🍽 Pause déjeuner | ||
| Jour 1 | 13:30–15:30 | Les risques propres aux agents: Détournement d'objectif, usage détourné des outils, autonomie excessive, empoisonnement de la mémoire et du contexte, et exécution de code imprévue Atelier : exploitez un outil ou un agent sur-privilégié, puis ramenez-le à l'autonomie minimale et retestez. |
| 15:30–15:45 · ☕ Pause café | ||
| Jour 1 | 15:45–17:00 | Atelier : red team sur votre application: Mener une passe de red team structurée Atelier : lancez une suite de red team fondée sur un référentiel et produisez un rapport de constats hiérarchisé. |
| Jour 2 | 9:00–10:30 | Défense en profondeur: Moindre privilège, filtrage en entrée et en sortie, garde-fous, validation humaine pour les actions à haut risque ; pourquoi aucun contrôle ne suffit à lui seul Atelier : ajoutez des défenses en couches (filtrage, garde-fous, validation) et relancez la red team pour montrer la réduction du risque : le filtrage réduit, mais c'est le confinement (moindre privilège et validation) qui arrête réellement la triade. |
| 10:30–10:45 · ☕ Pause café | ||
| Jour 2 | 10:45–12:30 | Chaîne d'approvisionnement et données: Le risque lié à la chaîne d'approvisionnement des modèles et des dépendances, l'empoisonnement, et la sécurisation du chemin RAG et des données Atelier : auditez la chaîne d'approvisionnement de vos modèles et de vos outils, et ajoutez des contrôles d'intégrité sur le chemin de recherche. |
| 12:30–13:30 · 🍽 Pause déjeuner | ||
| Jour 2 | 13:30–15:30 | Supervision et réponse à incident: Détecter les attaques en production, les signaux d'abus, et un manuel d'incident propre à l'IA (contenir, rétablir, analyser) Atelier : ajoutez des signaux de détection d'attaque et déroulez un exercice sur table sur une compromission d'agent simulée. |
| 15:30–15:45 · ☕ Pause café | ||
| Jour 2 | 15:45–17:00 | Correspondance avec la gouvernance et synthèse: Rattacher les contrôles à MITRE ATLAS, au NIST AI RMF et à l'EU AI Act ; la cadence d'un red teaming continu Atelier : rattachez vos contrôles à un référentiel reconnu et fixez la cadence de red team à tenir dans la durée, parce qu'une défense qui a résisté aux attaques d'aujourd'hui peut tomber demain face à un attaquant qui s'adapte. |
Livrables
- Modèle de menaces au regard des LLM et Agentic Top 10
- Rapport de red team, constats classés
- Défenses en couches, avec le risque avant et après
- Contrôles d'intégrité de la chaîne d'approvisionnement et du chemin de recherche
- Manuel de réponse à incident IA (mis à l'épreuve)
- Contrôles rattachés à un cadre de gouvernance
Intéressé par ce module pour votre équipe ? Contactez-nous pour adapter le format, les dates et la modalité à votre contexte.
Demander cette formationVotre formateur
Expert senior
Red teamer en exercice sur des systèmes LLM et agentiques ; maîtrise des référentiels OWASP ; expérience de la défense
Séance de découverte
Ce module nécessite une journée complète pour offrir une expérience d'apprentissage significative. Nous ne le proposons qu'en version intégrale.
Fait partie d'un parcours plus large
- Enterprise115 000 € · jusqu'à 30 jours de formation
Questions fréquentes
Les modules peuvent-ils être suivis à l'unité ?
Oui. Chaque module se suffit à lui-même, à prix fixe, et compte dans un programme si vous poursuivez.
Où se déroulent les formations ?
Dans vos locaux ou à distance, à vos dates, pour des groupes privés. Les sessions ouvertes suivent un calendrier mensuel fixe.
Sur quels outils IA formez-vous ?
Les vôtres. Chaque module existe en quatre éditions et fait ses exercices sur vos propres outils.
Qui anime les formations ?
Les consultants et formateurs seniors d'Inforca. Les modules signalés et le parcours dirigeants sont animés au niveau expert senior.
Parlons de ce module lors d'un premier échange : pertinence, dates, et le parcours autour.
Sans engagement · notre équipe répond sous un jour ouvré