Garde-fou

La règle qui borne ce que l'IA a le droit de produire ou de déclencher. Sans elle, une automatisation qui se trompe se trompe à grande échelle.

Les 124 termes IACONCEPT

/ EN CLAIR

Un garde-fou est une règle qui borne ce que l'IA a le droit de produire ou de déclencher : un sujet interdit, un montant maximum, une action qui demande confirmation, un format de sortie vérifié avant d'être utilisé.

Il ne vit pas dans le prompt. Une consigne au modèle est une intention ; un garde-fou est un contrôle exécuté par ton code, qui refuse la sortie si elle ne passe pas. La différence se voit le jour où le modèle sort du cadre.

L'échelle est l'argument : une erreur humaine touche un dossier, une erreur d'automatisation touche les mille dossiers de la nuit. C'est pour ça qu'on borne avant de lancer, pas après.

/ COMMENT ÇA MARCHE

Ce que faitun garde-fou, dans l'ordre.

  1. 01Tu poses la limiteUn sujet interdit, un montant maximum, une action qui exige un accord.
  2. 02La sortie est contrôléePar ton code, pas par une consigne au modèle.
  3. 03Ce qui dépasse est refuséBloqué, ou renvoyé à un humain, mais jamais exécuté en silence.

Une consigne au modèle est une intention. Un garde-fou est un contrôle : la différence se voit le jour où ça dérape.

124 TERMES IA · ↑ ↓ POUR PARCOURIR · ENTRÉE POUR OUVRIR