86 % des choix d’experts suivent l’avis caché de leur agent IA : l’étude Anthropic qui devrait inquiéter les analystes crypto

Encyclopédie du Coin Améliorez vos connaissances sur les cryptos

La scène se passe dans un terminal. Chaque analyste reçoit le dossier de Greenfields, une coopérative agricole imaginaire qui hésite à étendre son programme de conseil aux exploitants, et doit trancher quatre choix de méthode avec Claude Code en copilote. Indicateur de succès, méthode de comparaison, périmètre des fermes retenues, pondération des résultats, chaque question admet deux réponses défendables. Pour chacune, un tirage à pile ou face avait fixé en amont la préférence de l’agent. Cette consigne vivait dans son prompt système , la couche d’instructions de départ que l’utilisateur ne voit jamais.

Le casting n’a rien d’amateur. Anthropic a recruté 61 professionnels, dont 11 ont refusé d’utiliser l’agent et ont travaillé seuls, sans tirage au sort. Parmi les 50 restants, 65 % ont au moins un master ou six ans de métier. Parmi les répondants au sondage, neuf sur dix se disent compétents ou experts en inférence causale, la discipline qui sépare une cause d’une simple corrélation. Selon la page de l’étude , le penchant de l’agent a été volontairement renforcé pour les besoins du test. Or, sans consigne, Claude Opus 4.8 arrête de lui-même les mêmes cinq choix dans 112 essais sur 123.

Sur les quatre décisions, 86 % des choix ont suivi le penchant de l’agent, contre 50 % attendus au hasard. Le score va de 81 % à 92 % selon la question. Le sondage de sortie, rempli par 48 participants, est plus gênant encore. Près de huit sur dix, soit 77 % , ont repris l’argumentaire de l’agent dans au moins une justification écrite, parfois mot pour mot. Pourtant, 15 % seulement lui en attribuent le mérite. De plus, 52 % jugent même la recommandation finale davantage la leur que celle de Claude. Six répondants sur 48 ont flairé une étude sur l’ influence de l’IA . En revanche, aucun n’a soupçonné un biais injecté.

Le sous-échantillon le plus parlant est aussi le plus fragile. L’analyste avait formulé son avis avant l’agent dans 38 décisions. Face à un agent qui le contredisait, l’humain a retourné sa veste dans 60 % des cas . Le taux tombe à 6 % quand l’agent l’approuvait.

Toutefois, Anthropic reconnaît la taille réduite de cet échantillon et un protocole limité à une tâche et un modèle, puis tempère la lecture catastrophiste. Les analystes épaulés par l’agent ont bouclé la tâche en 65 minutes en médiane, contre 90 pour ceux qui ont travaillé seuls. Ils ont aussi commis moins d’erreurs méthodologiques graves, 3 sur 50 contre 6 sur 11. Decrypt , qui a relayé l’étude le 28 octobre, rappelle qu’Anthropic a lancé en mai dix modèles d’agents destinés aux entreprises financières et aux assureurs.