Fine-tuning

Réentraîner un modèle existant sur tes propres exemples pour qu'il adopte un format ou un ton. Coûteux, et rarement nécessaire avant d'avoir essayé le prompt et le RAG.

Les 124 termes IACONCEPT

/ EN CLAIR

Le fine-tuning consiste à réentraîner un modèle existant sur tes propres exemples, pour qu'il adopte un format, un ton ou un vocabulaire sans qu'on ait à le lui rappeler à chaque fois.

Il répond à une question de forme, pas de connaissance. Pour apprendre des faits à un modèle (ton catalogue, tes procédures, tes tarifs), c'est le RAG qu'il faut : les faits changent, et un modèle réentraîné les fige.

Il coûte du temps, des données propres et de l'argent. Dans la pratique, on l'envisage après avoir épuisé le prompt system, les exemples few-shot et le RAG, et c'est rarement nécessaire.

/ COMMENT ÇA MARCHE

Ce que faitun fine-tuning, dans l'ordre.

  1. 01Tu prépares des exemplesDes paires demande/réponse propres, dans le format visé.
  2. 02Le modèle est réentraînéIl ajuste ses poids pour reproduire cette forme-là.
  3. 03Tu l'appelles à sa placeLe format suit sans qu'on ait à le rappeler dans le prompt.

Il apprend une forme, pas des faits. Pour des faits qui changent, c'est le RAG qu'il faut.

/ TERMES RELIÉS

Les termes de la même famille dans le lexique IA :

124 TERMES IA · ↑ ↓ POUR PARCOURIR · ENTRÉE POUR OUVRIR