AI Act et agents conversationnels clients : les obligations de transparence à câbler dès le design

Un chatbot qui ne dit pas qu'il est un chatbot n'est déjà plus conforme. Le règlement européen sur l'intelligence artificielle (AI Act) est entré en vigueur le 1er août 2024 et déploie ses obligations par étapes jusqu'en 2027. Pour les ETI qui déploient des agents conversationnels sur Salesforce — Agentforce, Einstein Bots ou solutions tierces — la transparence n'est plus une option de communication : c'est une exigence réglementaire à câbler dès le design. Cet article détaille ce que dit le texte, ce que cela change concrètement pour vos parcours clients, et comment cadrer ces obligations dans un projet d'intégration.

Ce que l'AI Act impose aux agents conversationnels

Le règlement (UE) 2024/1689, publié au Journal officiel de l'Union européenne, classe les systèmes d'IA par niveau de risque. La plupart des agents conversationnels destinés au service client relèvent d'obligations de transparence spécifiques prévues par l'article 50 du texte, sans nécessairement être qualifiés de « haut risque ».

L'obligation centrale est simple à énoncer : une personne physique qui interagit avec un système d'IA doit en être informée, sauf si cela est évident au regard du contexte. Autrement dit, votre client doit savoir qu'il parle à une machine, pas à un conseiller humain. Cette information doit être donnée de manière claire et au plus tard lors de la première interaction.

À cela s'ajoutent d'autres exigences lorsque l'agent génère ou manipule des contenus : les contenus générés artificiellement (texte, image, audio) doivent être identifiables comme tels. Pour un agent conversationnel qui rédige des réponses automatisées, cette dimension mérite une analyse au cas par cas.

Un calendrier progressif

Les obligations de transparence de l'article 50 s'appliquent selon le calendrier fixé par le règlement, avec une mise en application principale prévue à partir d'août 2026. Il est prudent de ne pas attendre l'échéance : recâbler des parcours conversationnels déjà en production coûte plus cher que de les concevoir conformes dès le départ.

Traduire la conformité dans un projet Salesforce

Salesforce propose plusieurs briques d'IA conversationnelle : Einstein Bots dans Service Cloud, et plus récemment Agentforce pour les agents autonomes. Ces outils offrent des paramètres de configuration, mais la conformité n'est pas activée par défaut : elle dépend de la manière dont vous concevez le parcours, les messages et la traçabilité.

Câbler la transparence dès le design

Plusieurs éléments concrets sont à prévoir dans la phase de cadrage :

• Message d'ouverture explicite. Le premier message de l'agent doit indiquer sans ambiguïté qu'il s'agit d'un système automatisé, dans la langue de l'utilisateur.
• Bascule vers un humain. Prévoir un mécanisme d'escalade clair, avec information sur le passage éventuel à un conseiller.
• Identification des contenus générés. Documenter les cas où l'agent produit du contenu et évaluer le besoin de mention.
• Journalisation des interactions. Conserver une trace exploitable des échanges pour démontrer la conformité et traiter les réclamations.
• Gestion des données personnelles. Articuler l'AI Act avec le RGPD, notamment sur l'information et les bases légales de traitement.

Ces points ne relèvent pas seulement du juridique : ce sont des décisions d'architecture qui touchent le modèle de données, les flux et l'expérience utilisateur. Ils doivent figurer dans le backlog dès les premiers ateliers, pas être ajoutés en fin de projet.

Qui porte la responsabilité ?

L'AI Act distingue les rôles de fournisseur (celui qui développe le système d'IA) et de déployeur (celui qui l'utilise sous sa propre autorité). Une ETI qui déploie un agent conversationnel sur Salesforce agit généralement comme déployeur, tandis que l'éditeur ou l'intégrateur peut endosser d'autres responsabilités selon le niveau de personnalisation.

Cette répartition n'est pas anecdotique : elle détermine qui doit fournir quelle information, qui documente quoi, et comment se répartissent les responsabilités contractuelles. Le contrat avec votre intégrateur devrait clarifier ces rôles plutôt que de les laisser dans le flou. C'est un point de vigilance à intégrer dès le choix du prestataire et la rédaction du cahier des charges.

Ce que cela change pour le choix d'un intégrateur

Tous les intégrateurs Salesforce ne maîtrisent pas de la même façon les enjeux réglementaires de l'IA conversationnelle. Au moment de sélectionner un partenaire, quelques questions permettent de trier :

• Comment intègre-t-il l'information de transparence dans les parcours qu'il conçoit ?
• Sait-il documenter les traitements et articuler AI Act et RGPD ?
• Prévoit-il une journalisation exploitable des interactions de l'agent ?
• Comment répartit-il les responsabilités fournisseur/déployeur dans le contrat ?

La réponse à ces questions ne se lit pas dans un discours commercial, mais dans les livrables et les références de missions comparables. C'est précisément l'angle par lequel un besoin peut être qualifié objectivement, à partir d'éléments vérifiables plutôt que d'arguments de vente.

Une approche pragmatique pour les ETI

Il ne s'agit pas de renoncer aux agents conversationnels : bien conçus, ils réduisent les temps de traitement et améliorent la disponibilité du service. L'enjeu est de traiter la conformité comme une contrainte de conception ordinaire, au même titre que la sécurité ou la performance.

Concrètement, une ETI peut avancer en trois temps : cartographier ses cas d'usage conversationnels existants et prévus, évaluer leur niveau d'exposition au regard de l'article 50, puis intégrer les exigences de transparence dans le cahier des charges du projet. Cette démarche évite le double coût d'une mise en conformité rétroactive.

Pour les projets déjà en production, un audit ciblé des messages d'ouverture, des mécanismes d'escalade et de la journalisation permet d'identifier rapidement les écarts. Les correctifs sont souvent moins lourds qu'anticipé lorsqu'ils sont priorisés tôt.

Enfin, il convient de suivre les publications de la Commission européenne et des autorités nationales, qui préciseront progressivement les modalités d'application. En France, la CNIL publie des ressources utiles sur l'articulation entre IA et protection des données. Les textes de référence restent consultables sur les sources officielles de l'Union et sur legifrance.gouv.fr.

En résumé

L'AI Act ne condamne pas les agents conversationnels : il impose de les concevoir avec transparence. Informer l'utilisateur qu'il dialogue avec une IA, tracer les échanges, articuler le tout avec le RGPD et clarifier les responsabilités contractuelles : ce sont des décisions de design à prendre dès le cadrage. Les intégrer en amont coûte moins cher que de les rattraper après coup.