Un modèle d’IA chinois écarté par la Direction du Trésor après des alertes sur des «biais» dans des réponses

Un modèle d'intelligence artificielle (IA), propriété du géant chinois Alibaba et expérimenté par des agents de Bercy depuis quelques semaines, a été débranché après des alertes de hauts fonctionnaires sur des «biais chinois» dans des réponses, a fait savoir Bercy. Une semaine après le salon VivaTech marqué par des appels à promouvoir une «IA souveraine», conjugués à des annonces de mesures comme la généralisation d'un assistant IA pour tous les agents publics de l'État, Bercy a débranché ce mardi 23 juin ce modèle de Qwen AI. L'outil était expérimenté depuis début juin par une petite centaine d'agents sur les 1300 de la prestigieuse Direction générale du Trésor (DGT).

Elle est notamment chargée de suivre la conjoncture économique française et internationale, d'élaborer des prévisions sur la croissance et l'emploi, ou de conseiller le gouvernement dans de nombreux domaines (politique commerciale internationale, fiscalité etc... ). Baptisé «HéphAIstos» en référence au dieu grec, l'outil comprend un agent conversationnel pour assister les hauts fonctionnaires dans leurs tâches quotidiennes, y compris pour le traitement de données confidentielles ou sensibles, ainsi qu'un outil de transcription en plusieurs langues, accessibles via une application développée en interne.

Le modèle retenu avait suscité la surprise des agents, certains utilisateurs relevant des «réponses orientées» ou «biaisées» sur des sujets relatifs à la Chine. Le choix de ce modèle est «gravissime pour la manière dont on conseille le gouvernement français sur la politique commerciale de la Chine» car «il y a nécessairement un biais pro-chinois avec un logiciel développé sous le regard attentif des autorités», regrette sous le couvert de l'anonymat un haut fonctionnaire passé par la DGT. Sécurité des données Le Trésor a décidé «d'interrompre immédiatement l'expérimentation après seulement quelques jours» en raison des alertes concernant des «biais observés dans certaines réponses relatives à des sujets chinois», a confirmé Bercy, et un nouveau modèle de la start-up française Mistral AI a été installé mercredi.

Bercy n'a pas donné d'illustrations de biais relevés, mais plusieurs chatbots chinois ont déjà été épinglés pour leurs réponses laconiques ou trompeuses sur certains sujets sensibles (répression des Ouïghours, statut de Taïwan etc... ). De son côté, Alibaba Cloud, la branche qui chapeaute l'activité IA du groupe, n'a pas souhaité commenter.

Les biais sont inhérents à tous modèles, mais certains peuvent avoir été «ajoutés volontairement pour éviter de répondre à certaines questions, ou répondre d'une certaine manière», explique Annabelle Blangero, en charge de l'IA responsable chez Ekimetrics, une start-up qui fournit des solutions d'IA aux entreprises. L'utilisation de ce modèle soulevait également des questions quant à la sécurité de certaines informations publiques sensibles. Sur ce point, Bercy assure qu'il fonctionnait «sans accès à internet ni possibilité de porte dérobée, et donc sans transmission de données à l'extérieur».

Un modèle déconnecté du réseau internet est indispensable pour éviter les risques de fuites, même si «on n'a pas encore complètement les possibilités d'analyser la sécurité de l'ensemble des modèles», note Annabelle Blangero. Souveraineté Les modèles de Qwen AI sont «largement utilisés, et rien n'a été publié sur la sécurité de ce modèle. Il peut rester des portes dérobées, mais c'est extrêmement peu probable», poursuit-elle.

Interrogé sur les motivations qui ont initialement conduit à retenir ce modèle, Bercy répond qu'il n'avait «pas vocation à rester définitivement» et que d'autres modèles devaient être testés. Cette décision intervient après la présentation par le gouvernement d'un vaste plan de mise en œuvre de l'IA dans l'administration la semaine dernière. Parmi les nouveaux outils proposés aux agents, le ministre de l'Action et des Comptes publics, David Amiel, a notamment annoncé la généralisation d'un agent conversationnel, «l'Assistant», pour 1 million d'agents de l'État, alimenté par des modèles de Mistral.

La généralisation devrait coûter 700. 000 euros en 2026, mais d'autres coûts sont à prévoir: entre 2 et 4 millions d'euros par an selon les usages et l'évolution des technologies, a précisé le cabinet de David Amiel. Si 75% des agents qui l'ont testé estiment que «l'Assistant» IA est utile pour leur métier, près des deux tiers jugent que d'autres IA génératives répondent mieux à leurs besoins, selon un rapport d'évaluation de la Direction interministérielle de la transformation publique (DITP).