RAG vs fine-tuning

C'est une question qui revient très souvent dans les projets IA : "On voudrait que l'IA connaisse toute notre documentation. On fait du fine-tuning ?" Et dans la grande majorité des cas, la réponse est non. Pas parce que le fine-tuning est inutile, mais parce qu'il ne fait pas ce qu'on imagine.

Reprenons l'image du post précédent. Le RAG, c'est l'armoire à dossiers dans laquelle on va chercher la bonne page au moment où on en a besoin. Le fine-tuning, c'est une formation qui change la façon de travailler. Et toute la différence est là.

Le fine-tuning consiste à continuer l'entraînement d'un modèle existant sur vos propres exemples : des centaines ou des milliers de paires "voici une entrée, voici la réponse attendue". Le modèle ajuste ses paramètres pour reproduire ce qu'il a vu. Ce qu'il apprend très bien, c'est une manière de faire : un style de réponse, un ton, un format de sortie précis, une façon de traiter une tâche répétitive. Par exemple, transformer un email client en fiche structurée avec toujours les mêmes champs, ou répondre dans le ton exact de votre service client.

Ce qu'il apprend beaucoup moins bien, ce sont des faits précis et vérifiables. Fine-tunez un modèle sur votre documentation, il en retiendra une impression générale et un vocabulaire, mais pas de quoi citer la bonne version de la procédure au bon paragraphe. Pire, il pourra répondre avec beaucoup d'assurance en mélangeant l'ancienne et la nouvelle version (vous vous souvenez : plausible ne veut pas dire vrai). Et le jour où la documentation change, il faut refaire l'entraînement.

Le RAG, lui, est taillé pour les connaissances qui bougent : documents, données métier, procédures mises à jour. On modifie la base, et la réponse suit dès la réindexation, sans toucher au modèle. En bonus, on sait d'où vient chaque information, ce qui permet de citer ses sources.

Si je devais résumer : le RAG, c'est pour ce que le modèle doit savoir, le fine-tuning, pour la façon dont il doit se comporter.

Et les deux ne s'opposent pas. On peut très bien fine-tuner un modèle pour qu'il réponde dans le bon format et le bon ton, et l'alimenter avec un RAG pour qu'il réponde sur les bons faits. Mais dans la plupart des projets, je commencerais par un bon prompt et un RAG, et je n'envisagerais le fine-tuning qu'une fois ces deux leviers épuisés. Le fine-tuning n'est pas une base documentaire magique.

Que ce soit pour le RAG, le fine-tuning, les limites de contexte ou la facture de l'API, il y a une unité qu'on croise partout depuis le début de cette série sans l'avoir vraiment expliquée : le token. Un token, c'est quoi exactement ? Réponse dans le prochain post.