Injection de prompt : comprendre et se protéger

Programme détaillé

4 modules, 8 leçons, 1 h 44 de lecture · environ 3 h 37 avec les exercices. La lecture est celle annoncée par chaque leçon ; le temps avec exercices est estimé comme dans notre contrôle qualité : 180 mots par minute, 1 minute par question de mini-quiz, et le temps d’exercice annoncé par la leçon (5 minutes s’il ne l’est pas).

1. Module 1

   Comprendre et cartographier

   25 min de lecture · 47 min avec exercices
   1. Comment un texte ordinaire détourne un assistantComprendre pourquoi un modèle de langage peut obéir à une phrase cachée dans un courriel, et repérer en dix minutes l'injection dans un cas fictif.Aperçu gratuit12 min de lecture · 18 min avec exercices
   2. Cartographier la surface d'attaque d'un assistantDresser en un quart d'heure la carte des entrées non fiables, des données sensibles et des canaux de sortie d'une application d'IA, puis classer ses flux par niveau de risque.13 min de lecture · 29 min avec exercices
2. Module 2

   Concevoir pour limiter l'impact

   26 min de lecture · 52 min avec exercices
   1. Moindre privilège : réduire ce qu'une injection peut faireLa mesure la plus efficace ne se trouve pas dans le prompt : elle se trouve dans les droits, les outils et les secrets que vous donnez à l'assistant.13 min de lecture · 29 min avec exercices
   2. Marquer le contenu non fiable pour que le modèle s'en méfieDélimiter, étiqueter et encoder le contenu de tiers aide le modèle à le traiter comme des données. Utile, mais jamais suffisant seul.13 min de lecture · 23 min avec exercices
3. Module 3

   Contrôler les sorties et les actions

   25 min de lecture · 50 min avec exercices
   1. Filtrer les entrées, valider les sorties, fermer les canaux de fuiteUn classifieur en entrée, un format de sortie contraint et une validation déterministe avant toute action ou tout affichage ferment les chemins de sortie connus d'une injection, sans rendre celle-ci impossible.14 min de lecture · 28 min avec exercices
   2. La confirmation humaine qui protège vraimentUne validation humaine n'est une défense que si elle porte sur les bonnes actions, montre les vrais paramètres et ne devient pas un réflexe.11 min de lecture · 22 min avec exercices
4. Module 4

   Tester, surveiller, réagir

   28 min de lecture · 1 h 08 avec exercices
   1. Tester une application interne contre les injections connuesUne campagne de test défensive, sur votre propre application et avec autorisation, à l'aide d'instructions témoins inoffensives qui mesurent l'obéissance sans rien abîmer.15 min de lecture · 39 min avec exercices
   2. Surveiller, réagir à un incident et rendre compteJournaliser ce qui compte, repérer les signes d'une injection réussie, contenir l'incident et savoir à qui l'annoncer. Avec un module local pour la Suisse.13 min de lecture · 29 min avec exercices