RAG ou fine-tuning pour un assistant métier

TL;DR

RAG ou fine-tuning, c’est d’abord une question de connaissance contre comportement. Le RAG donne vos documents au modèle au moment de la question. Le fine-tuning change la façon dont le modèle rédige ou classe.
Pour un assistant qui répond sur des contrats, des produits ou des procédures, commencez par le RAG : il gère le changement, les citations et les droits d’accès.
Le fine-tuning se justifie pour un format strict, un ton stable ou une tâche étroite avec beaucoup d’exemples étiquetés.
Un montage hybride est courant dans les projets matures, mais seulement après une évaluation qui montre ce que les instructions et la recherche ne règlent pas.
Tranchez avec votre propre jeu de questions, pas avec des règles générales.

Dans cet article

Ce que fait chaque approche
RAG ou fine-tuning : comment choisir
Préparer les documents, découper, rechercher
Droits d’accès, citations et connaissances à jour
Coûts, maintenance et approche hybride
Un exemple détaillé et l’évaluation
Risques et erreurs fréquentes
Par où commencer
FAQ

Une équipe qui veut un assistant sur ses propres connaissances arrive vite à la même bifurcation. Faut-il brancher une recherche sur les documents, ou entraîner le modèle ? La question RAG ou fine-tuning paraît technique, mais la réponse tient à des faits métier : à quelle fréquence votre contenu change, qui a le droit de lire quoi, et qui maintient le système après la mise en service.

Ce guide s’adresse aux praticiens et aux décideurs. Il explique les deux approches, propose une grille de décision, et traite le travail peu glamour qui fait la qualité : préparation des documents, découpage, recherche, citations et évaluation.

Ce que fait chaque approche

Le RAG en clair

La génération augmentée par la recherche (RAG) laisse le modèle de langage inchangé. Quand un utilisateur pose une question, le système cherche dans vos documents, sélectionne les passages les plus pertinents et les transmet au modèle avec la question. Le modèle répond à partir de ces passages, et peut les citer.

Pensez à un examen à livre ouvert. Le modèle n’a pas besoin de retenir votre politique. Il doit lire vite la bonne page.

Le fine-tuning en clair

Le fine-tuning poursuit l’entraînement d’un modèle sur un ensemble d’exemples, pour qu’il adopte un schéma. Ce schéma peut être un ton, un format de sortie, une grille d’étiquettes ou une formulation de réponse spécialisée.

Pensez à du coaching. Vous façonnez des habitudes, vous ne rangez pas de nouvelles références. Les faits absorbés ainsi sont difficiles à mettre à jour, à citer et à retirer.

La différence qui compte

Le RAG change ce que le modèle voit. Le fine-tuning change la façon dont le modèle se comporte. La plupart des projets décevants viennent d’une approche utilisée pour faire le travail de l’autre.

RAG ou fine-tuning : comment choisir

Utilisez cette grille comme premier filtre. Ce n’est pas un verdict, mais elle montre vite de quel côté penche un projet.

Grille de décision

Vos connaissances changent-elles souvent ? Si oui (tarifs, politiques, documentation produit), penchez pour le RAG. Si elles sont stables et peu nombreuses, les deux peuvent convenir.
Les réponses doivent-elles citer une source ? Si oui, RAG. Un modèle affiné ne sait pas dire de façon fiable d’où vient une affirmation.
Les utilisateurs ont-ils des droits d’accès différents ? Si oui, RAG avec filtrage des permissions. On ne filtre pas après coup des données d’entraînement par utilisateur.
Le problème est-il un format, un ton ou une classification ? Si oui, le fine-tuning devient un candidat sérieux.
Avez-vous des centaines d’exemples propres et étiquetés ? Sans eux, le fine-tuning est prématuré.
Qui va maintenir le système ? Si les propriétaires du contenu sont des équipes métier, le RAG leur permet de corriger un document plutôt que de demander un réentraînement.

Comparatif côte à côte

Mise à jour des connaissances : RAG, on modifie ou on ajoute un document puis on réindexe. Fine-tuning, on prépare les données, on réentraîne, puis on retest.

Citation des sources : RAG, naturelle, car les passages sont connus. Fine-tuning, peu fiable.

Contrôle d’accès : RAG, appliqué au moment de la recherche. Fine-tuning, impraticable par utilisateur.

Maîtrise du style et du format : RAG, via les instructions, avec des limites. Fine-tuning, efficace si les exemples sont cohérents.

Correction d’une erreur : RAG, on corrige la source ou l’étape de recherche. Fine-tuning, on ajoute des exemples et on réentraîne.

Effort au lancement : RAG, préparation des documents et qualité de la recherche. Fine-tuning, constitution d’un jeu d’exemples de qualité.

Le schéma est net. Pour la connaissance, le RAG. Pour le comportement, le fine-tuning. Pour un vrai assistant métier, il faut presque toujours le premier et parfois le second.

Préparer les documents, découper, rechercher

Dans un projet RAG, la qualité des réponses se joue en grande partie avant que le modèle n’intervienne. Un excellent modèle nourri des mauvais passages répondra avec aplomb, et à côté.

Nettoyer les sources d’abord

Rassemblez les documents sur lesquels l’assistant a le droit de s’appuyer, et retirez ce qui n’a rien à y faire : versions périmées, brouillons, doublons, copies contradictoires. Donnez à chaque document un propriétaire, une date et un statut.

Convertissez les fichiers avec soin. Les tableaux, en-têtes, pieds de page et pages scannées se dégradent souvent à l’extraction. Vérifiez un échantillon à la main. Un index sale produit des réponses sales.

Découpage : couper là où le sens coupe

Les documents sont découpés en morceaux, et chaque morceau est indexé séparément. Des morceaux trop petits perdent leur contexte. Des morceaux trop grands diluent la correspondance et gaspillent l’attention du modèle.

Découpez selon la structure du document : sections, clauses, étapes d’une procédure, questions d’une FAQ.
Gardez un léger chevauchement pour qu’une phrase ne soit jamais séparée de la condition qui la nuance.
Joignez des métadonnées à chaque morceau : titre du document, section, version, langue, public, date.
Gardez entiers les tableaux et les procédures numérotées quand c’est possible.

Il n’existe pas de taille universelle. Testez plusieurs stratégies sur vos propres questions et gardez celle qui retrouve le plus souvent le bon passage.

Recherche : c’est elle, le produit

La recherche sémantique trouve des passages de sens proche, même avec d’autres mots. La recherche par mots-clés trouve les termes exacts, comme une référence produit ou un numéro de clause. Le contenu métier a besoin des deux, donc la plupart des bons systèmes combinent les deux puis reclassent les candidats.

Ajoutez des filtres sur les métadonnées (langue, gamme, version) avant la recherche. Puis inspectez ce qui est retrouvé pour de vraies questions. Quand une réponse est fausse, la première question est toujours la même : le bon passage a-t-il été retrouvé ?

Vous préparez une migration cloud ?

Découvrez comment nos consultants seniors évaluent, planifient et conduisent les migrations vers AWS ou Azure, avec un retour arrière testé.

Découvrir notre conseil cloud

Droits d’accès, citations et connaissances à jour

Droits d’accès

Un assistant d’entreprise qui ignore les permissions est une fuite de données en attente. La règle est simple : l’assistant ne peut retrouver que ce que l’utilisateur peut ouvrir. Le filtrage doit se faire au moment de la recherche, avec les mêmes identités et groupes que vos systèmes sources, pas dans le prompt.

Ne comptez pas sur une consigne du type « ne révèle pas les documents confidentiels ». Une consigne n’est pas une mesure de sécurité. Si un passage ne doit pas être vu, il ne doit jamais atteindre le modèle pour cet utilisateur.

Citations

Chaque réponse doit afficher les passages utilisés, avec le nom du document, la section et un lien pour l’ouvrir. Une personne vérifie en quelques secondes, et le comportement des utilisateurs change : ils font confiance à l’assistant là où il est vérifiable, et cessent de lui faire confiance là où il ne l’est pas.

Prévoyez le cas où rien de pertinent n’est trouvé. La bonne sortie est « je n’ai pas trouvé cette information dans les documents », avec une piste sur qui contacter. Un refus honnête vaut mieux qu’une supposition fluide.

Garder les connaissances à jour

Avec le RAG, la fraîcheur est une question de chaîne d’alimentation. Décidez comment un document nouveau ou modifié arrive dans l’index, comment un document retiré en sort, et qui est alerté quand une ingestion échoue. Versionnez vos sources pour qu’une réponse soit rattachable à l’état du document qui l’a produite.

Avec le fine-tuning, toute connaissance nouvelle impose un nouveau cycle d’entraînement. C’est acceptable pour un comportement stable. C’est mal adapté aux tarifs, aux politiques et aux procédures.

Coûts, maintenance et approche hybride

Coûts et maintenance, de façon qualitative

Plutôt que d’avancer des chiffres, comparons où va l’effort.

RAG : l’effort est concentré au départ sur le nettoyage des documents et la qualité de la recherche, puis se poursuit comme une routine légère : suivi des ingestions, évaluations régulières, corrections de contenu. Chaque question coûte aussi un appel au modèle avec du contexte en plus.
Fine-tuning : l’effort est concentré au départ sur la constitution et la relecture des exemples, et revient à chaque réentraînement. Vous héritez aussi du retest à chaque changement de modèle de base.

Dans les deux cas, le plus gros coût caché est la maintenance sans responsable. Nommez-en un avant le lancement.

L’approche hybride

L’hybride, c’est du RAG pour la connaissance, plus un fine-tuning léger pour le comportement. Par exemple, la recherche fournit les passages, et le modèle ajusté rédige dans un format maison strict ou suit une structure de réponse précise.

N’allez vers l’hybride que si l’évaluation révèle un écart de comportement que des instructions plus claires et de meilleurs exemples dans le prompt ne comblent pas. N’ajustez pas un modèle pour compenser une recherche faible. Cela masque le vrai défaut et le rend plus cher à corriger.

Un exemple détaillé et l’évaluation

Une illustration : un éditeur de logiciels fictif

Prenons un éditeur de logiciels fictif, avec une équipe support, une équipe commerciale et une grosse pile de documents : guides produit, notes de version, réponses de sécurité pour les clients, règles tarifaires internes. Il veut un assistant unique que les deux équipes utilisent.

L’équipe commence par lister ses questions. Le support interroge sur les étapes de configuration et les problèmes connus. Les commerciaux interrogent sur les limites des offres et les réponses de sécurité. Les règles tarifaires ne sont visibles que des commerciaux.

Première étape : le RAG. Les documents sont nettoyés, les notes de version versionnées, et chaque morceau porte des métadonnées de produit, de version et de public. La recherche filtre par public, donc le support ne voit jamais les règles tarifaires internes. Les réponses affichent leurs sources.

La première évaluation révèle deux choses. La recherche échoue sur les questions qui mêlent un nom de produit et une ancienne version. Et les réponses sont justes mais rédigées sous des formats variés, alors que le support veut une structure fixe : symptôme, cause, étapes, lien.

Le premier problème se règle côté recherche : métadonnées de version et meilleures limites de morceaux. Le second est un problème de comportement, donc l’équipe teste un petit modèle ajusté sur quelques centaines de réponses de support relues. Elle le compare à un prompt bien écrit avec des exemples. La décision se prend sur l’évaluation, pas sur une préférence. Si le prompt suffit, elle garde le système le plus simple.

Cet exemple est une illustration, pas un cas client. Il montre l’ordre du travail : la connaissance d’abord, le comportement ensuite, des preuves à chaque étape.

Évaluer sur votre propre jeu de questions

Constituez un jeu de vraies questions, avec la réponse attendue et le document qui l’appuie. Incluez des questions faciles, des questions ambiguës, des questions sans réponse dans les documents, et des questions auxquelles un utilisateur ne doit pas pouvoir obtenir de réponse.

Faites ensuite passer chaque option sur le même jeu et notez les points suivants.

Recherche : le bon passage figure-t-il parmi ceux retrouvés ?
Fidélité : la réponse reste-t-elle dans les limites des passages ?
Complétude : couvre-t-elle ce dont la personne a besoin ?
Citations : les sources sont-elles justes et cliquables ?
Refus : décline-t-elle correctement quand la réponse n’est pas dans les documents ?
Permissions : reste-t-elle muette sur le contenu restreint ?

Faites noter un échantillon par des experts métier, puis utilisez un évaluateur automatique pour passer à l’échelle, en le vérifiant contre les notes humaines. Rejouez le jeu après chaque changement de documents, de prompts, de modèle ou de découpage. L’évaluation est le test de non-régression de votre assistant.

Risques et erreurs fréquentes

Les principaux risques

Les hallucinations sont des affirmations fluides que les sources ne soutiennent pas. Réduisez-les en recherchant bien, en demandant au modèle de répondre uniquement à partir des passages, en exigeant des citations et en l’autorisant à dire qu’il ne sait pas. Vous n’atteindrez pas zéro : gardez un humain dans la boucle quand une erreur coûte cher.

La fuite de données a plusieurs voies : une faille de permissions à la recherche, des documents sensibles dans l’index qui n’auraient jamais dû y être, des journaux qui stockent questions et réponses sans protection, des données d’entraînement qui contiennent des secrets. Appliquez le moindre privilège, relisez ce qui est indexé, et traitez les journaux comme des données sensibles.

L’injection de prompt est un texte, dans un document, qui tente de donner des ordres au modèle. Traitez le contenu retrouvé comme de la donnée, limitez ce que l’assistant peut faire seul, et placez les actions derrière une confirmation.

Erreurs fréquentes

Choisir le fine-tuning pour apprendre des faits qui changeront au prochain trimestre.
Tout indexer sans nettoyer, puis accuser le modèle.
Utiliser une seule taille de morceau pour tous les types de documents.
Appliquer les permissions dans le prompt au lieu de la recherche.
Sauter les citations parce que « les réponses ont l’air justes ».
Lancer sans jeu d’évaluation, si bien que personne ne sait si un changement a aidé.
N’avoir aucun responsable du contenu après le lancement.
Passer à l’hybride pour masquer un problème de recherche.

Par où commencer

Si vous hésitez aujourd’hui entre RAG ou fine-tuning, procédez dans cet ordre.

Écrivez 50 à 100 vraies questions, avec les réponses attendues et les documents sources.
Listez les documents, leurs propriétaires et qui peut les lire.
Construisez une base RAG simple : sources propres, découpage raisonné, recherche combinée et citations.
Lancez l’évaluation et lisez les échecs un par un.
Corrigez d’abord la recherche et les documents, puis les instructions.
N’envisagez le fine-tuning que pour un écart de comportement qui subsiste.

Un consultant en applications IA sur mesure senior peut condenser ces étapes et vous éviter les impasses habituelles. Notre pratique IA couvre la stratégie IA pour cadrer le cas d’usage, et les applications IA sur mesure pour construire et faire tourner l’assistant, sur une base cloud solide et avec vos données préparées pour la recherche.

Demandez l’audit gratuit et échangez avec un consultant : réservez un appel de découverte. Nous examinerons votre cas d’usage, vos documents et vos contraintes, et nous vous dirons honnêtement quelle approche convient.

FAQ

Le RAG est-il toujours moins cher que le fine-tuning ?

Pas toujours, mais c’est souvent la façon la moins chère de démarrer, car on évite de constituer un gros jeu d’entraînement. Le RAG ajoute un coût par question et une chaîne d’ingestion à maintenir. Comparez les deux avec vos volumes et votre fréquence de mise à jour.

Le fine-tuning peut-il supprimer les hallucinations ?

Non. Il peut rendre un modèle plus constant en format et en ton, mais il ne lui donne pas une mémoire fiable de vos documents. Pour des réponses ancrées, la recherche et les citations restent les outils principaux.

Peut-on faire du RAG avec des documents confidentiels ?

Oui, si on le conçoit pour cela. Appliquez les permissions à la recherche, choisissez un déploiement conforme à vos exigences de données, protégez les journaux et relisez ce qui est indexé. La confidentialité est une décision d’architecture, pas une consigne de prompt.

De combien de documents faut-il disposer pour que le RAG vaille le coup ?

Il n’y a pas de seuil. Si les équipes perdent régulièrement du temps à chercher des réponses dans des documents, le RAG peut aider. La qualité et la responsabilité du contenu comptent plus que le volume.

Quand passer du RAG à un montage hybride ?

Quand votre évaluation montre un écart de comportement stable, comme un format irrégulier, que de meilleurs prompts et exemples ne corrigent pas. Les problèmes de recherche se règlent d’abord côté recherche.

Que fait un consultant en applications IA sur mesure dans un tel projet ?

Il cadre le cas d’usage, prépare le jeu d’évaluation, conçoit la recherche et les permissions, construit la première version et met en place la routine qui la garde fiable. L’objectif est un assistant auquel vos équipes font confiance et que vos équipes peuvent maintenir.