/ EN CLAIR
Une hallucination, c'est une réponse fausse énoncée avec le même aplomb qu'une réponse juste. Le modèle ne ment pas : il produit la suite la plus plausible, et une suite plausible n'est pas forcément vraie.
Le risque monte quand la question porte sur un fait précis que le modèle n'a pas : une référence, une date, un numéro d'article, un tarif. C'est exactement là que le RAG sert à quelque chose, en lui mettant la source sous les yeux avant qu'il réponde.
La parade tient en deux règles : donner la source dans le contexte, et demander une réponse qui cite. Un modèle qui n'a pas le droit d'affirmer sans citer se tait beaucoup plus souvent.
/ COMMENT ÇA MARCHE
Ce que faitune hallucination, dans l'ordre.
- 01La question porte sur un faitUne référence, une date, un tarif, un numéro d'article.
- 02Le modèle ne l'a pasIl produit quand même la suite la plus plausible.
- 03Ça sort avec aplombRien dans la forme ne distingue le faux du vrai.
Deux parades : mettre la source dans le contexte, et n'accepter qu'une réponse qui cite.
CURSOR
CLAUDE
WEBFLOW