Des agents IA dans les systèmes d’Anthropic en 12 heures : l’IPO démarre mal

Encyclopédie du Coin Améliorez vos connaissances sur les cryptos

Tous les bonus Gate EU du moment réunis au même endroit, cumulables avec le Rewards Hub (10 000+ USDC) Profiter des bonus Gate EU Lien commercial

Tout se joue dans le cadre du programme de bug bounty d’Anthropic, qui rémunère les chercheurs externes pour chaque faille signalée. Cathedral y a lâché ses agents IA. Ce sont des programmes qui enchaînent les actions sans qu’un humain valide chaque étape.

Résultat, selon le rapport provisoire consulté par le Washington Post : en moins de douze heures , ils ont trouvé un chemin vers des transcriptions de réunions, des informations sur les salaires, des offres d’emploi et des messages Slack.

Pour y parvenir, les agents sont passés par des failles de logiciels tiers d’administration et de vente, utilisés par bien d’autres entreprises. Anthropic précise d’ailleurs que les chercheurs avaient d’abord attaqué directement ses propres logiciels pendant plusieurs jours. Sans résultat.

Derrière Cathedral, on retrouve Gavin Kliger, Luke Farritor, Marko Elez et Jack Stein. Ces quatre anciens du Department of Government Efficiency (DOGE) d’Elon Musk ont fondé la startup il y a quelques mois.

Elle a levé 160 millions de dollars en juillet, sur une valorisation de 1,4 milliard. Andreessen Horowitz et Sequoia Capital figurent au tour de table.

Anthropic confirme l’intrusion, mais en conteste la portée. L’entreprise reconnaît un accès à un « ensemble limité » de systèmes de vente, de ressources humaines et d’informatique. Ceux-ci contenaient des coordonnées professionnelles de clients et de partenaires.

En revanche, ni les conversations des utilisateurs, ni le code source, ni les poids des modèles n’auraient été touchés. L’accès a été coupé le jour même. Quant aux logiciels fautifs, ils restent désactivés jusqu’aux correctifs de leurs éditeurs.

Anthropic reproche enfin à Cathedral d’avoir enfreint les règles du programme en taisant une partie de ses actions. Elle l’accuse aussi d’avoir gonflé la dimension « sécurité nationale » du dossier.

Un haut responsable de l’administration Trump, cité anonymement par le Post, ne partage pas cet avis. Selon lui, si une bande de gamins qui vient de monter une boîte peut faire ça, des pirates chinois le peuvent aussi.

Deuxième front, le régulateur. Un porte-parole de la Federal Trade Commission a confirmé lundi à The Hill que l’agence demande à entendre des dirigeants d’Anthropic. En cause : son enquête sur les préjudices que les modèles d’IA pourraient causer aux consommateurs.

Pour l’heure, la FTC n’a pas confirmé avoir réclamé le même exercice aux patrons d’OpenAI.