Comment limiter les hallucinations d'un agent IA (type Agentforce) sur des données clients dans Salesforce ?

Un agent IA conversationnel (comme Agentforce sur Salesforce, ou tout assistant branché sur un LLM) peut produire une réponse formulée avec assurance mais factuellement fausse : c'est ce qu'on appelle une hallucination. Sur des données clients, l'enjeu est direct : un montant erroné, un statut de commande inventé ou une politique commerciale mal citée engagent la relation client et, parfois, la responsabilité de l'entreprise. Réduire ce risque n'est pas un réglage unique, mais une combinaison de choix de conception, de gouvernance des données et de dispositifs de contrôle. Voici les leviers concrets à activer.

Comprendre pourquoi un agent IA hallucine

Un modèle de langage génère du texte statistiquement probable, pas nécessairement vrai. Les hallucinations apparaissent surtout dans trois situations :

• Absence de source : le modèle n'a pas accès à la donnée et « comble » avec ce qui semble plausible.
• Question hors périmètre : l'utilisateur pose une question à laquelle l'agent n'aurait jamais dû répondre.
• Données de mauvaise qualité : doublons, champs vides, informations contradictoires dans le CRM.

Le premier réflexe consiste donc à ne pas demander au modèle d'inventer, mais de restituer une information tracée.

Ancrer les réponses sur des données maîtrisées (grounding)

Le principe le plus efficace est le grounding : forcer l'agent à s'appuyer sur des données réelles plutôt que sur sa mémoire d'entraînement.

Le RAG (Retrieval-Augmented Generation)

Le RAG consiste à récupérer d'abord les données pertinentes (fiche client, contrat, base de connaissances) puis à demander au modèle de rédiger sa réponse uniquement à partir de ces éléments. Dans l'écosystème Salesforce, cela passe par la connexion de l'agent aux objets CRM, aux articles de la base de connaissances (Knowledge) et à Data Cloud lorsqu'il faut unifier des sources.

Restreindre le champ des sources

Plus le périmètre de données est cadré, moins l'agent invente. Il faut lui donner accès aux bons objets et champs, mais pas à tout. Une instruction explicite du type « réponds uniquement à partir des données fournies ; si l'information est absente, indique que tu ne peux pas répondre » réduit fortement les réponses fabriquées.

Poser des garde-fous et limiter le périmètre d'action

Un agent qui ne fait qu'une chose bien hallucine moins qu'un agent censé tout faire.

• Définir des sujets autorisés : cadrer les intentions traitées (suivi de commande, éligibilité, prise de rendez-vous) et rediriger le reste vers un humain.
• Séparer lecture et action : distinguer les réponses informatives des actions à impact (modifier une commande, appliquer une remise), ces dernières exigeant une validation.
• Respecter les habilitations : l'agent ne doit voir que les données que l'utilisateur a le droit de consulter, via les profils, rôles et partages Salesforce. Un garde-fou de sécurité est aussi un garde-fou anti-hallucination.
• Prévoir une réponse de repli : mieux vaut « je ne dispose pas de cette information » qu'une invention.

Fiabiliser la donnée en amont

Aucun garde-fou ne compense une base incohérente. Avant de déployer un agent, il est indispensable de traiter la qualité des données : dédoublonnage des comptes et contacts, complétude des champs critiques, cohérence des statuts, gestion des données obsolètes. La conformité au RGPD (minimisation, finalité, information des personnes) doit également être vérifiée ; les repères officiels sont disponibles sur le site de la CNIL et sur service-public.fr. Un agent branché sur des données propres et documentées produit des réponses nettement plus fiables.

Tester, mesurer et superviser dans la durée

La lutte contre les hallucinations est un processus continu, pas une case à cocher.

Tester avant la mise en production

• Constituer un jeu de questions représentatives, y compris des cas piège et des questions hors périmètre.
• Vérifier que l'agent cite ses sources ou renvoie vers un humain quand la donnée manque.
• Faire tester par des utilisateurs métier, pas seulement par l'équipe projet.

Superviser en production

• Conserver un journal des conversations pour auditer les réponses.
• Mettre en place un canal de signalement des réponses erronées.
• Prévoir une reprise par un conseiller humain à tout moment (escalade).
• Réviser régulièrement les instructions et la base de connaissances.

Cette boucle de contrôle permet d'ajuster les garde-fous au fur et à mesure que de nouveaux cas remontent.

Un sujet à traiter conjointement : technique, données et métier

Empêcher les hallucinations relève à la fois du paramétrage de la plateforme, de la gouvernance des données et des règles métier. Les trois doivent avancer ensemble : un excellent RAG sur des données sales reste peu fiable, et des données propres sans garde-fous d'action exposent à d'autres risques. C'est pourquoi ce type de projet gagne à être cadré avec des compétences complémentaires (architecture Salesforce, qualité de données, conformité, métier).

Si vous souhaitez confronter votre besoin à des intégrateurs expérimentés sur ces sujets, INTEGREER peut vous orienter, en tant que tiers de confiance neutre, vers des prestataires adaptés à votre contexte. La démarche est sans engagement et vise uniquement à vous faire gagner du temps dans votre sélection.