PROMPT INJECTION CHECK · LEARN
Examiner les résultats
Un résultat d’analyse est plus utile lorsqu’on examine ensemble les signaux, la couverture et le contenu original.
1. Examiner le signal
Commencez par l’emplacement, l’extrait et la raison indiqués. Comparez le signal au contenu voisin et au fichier original avant de l’interpréter.
2. Vérifier la couverture
La couverture explique ce que le scanner a pu inspecter. Une analyse sans résultat diffère d’une analyse dont le contenu pertinent n’a été examiné qu’en partie ou était inaccessible.
3. Tenir compte du contexte
Un texte ressemblant à une instruction peut être légitime dans une documentation, un exemple, un modèle ou un document de sécurité. Un scanner ne peut pas déduire de façon fiable l’intention de l’auteur d’un seul motif.
4. Prévoir l’usage du contenu
Considérez quel système d’IA recevra le contenu et quels outils ou autorisations il possède. Les usages à fort impact demandent un examen plus attentif et des autorisations plus limitées.
5. Garder les limites à l’esprit
La détection des injections de prompt repose sur des indices heuristiques. Des techniques inédites ou obscurcies peuvent passer inaperçues et des contenus anodins peuvent parfois être signalés. Les résultats aident à l’examen; ils ne garantissent pas la sécurité.