Comment l’agent Claude d’un entrepreneur est entré au Pentagone
Cette semaine, dans « Uncanny Valley », nous discutons de l’entrepreneur qui a connecté son agent d’IA à un système du Pentagone, du dossier d’introduction en bourse d’Anthropic et des volontaires qui se préparent à…
Un entrepreneur de la défense a donné à son agent d'IA personnel accès à un système sécurisé du Pentagone
Le dossier Anthropic S-1 est également une introduction à l’IA Doomsday
Qu'est-ce qui vaut plus que de l'argent liquide dans l'immobilier à San Francisco ? Stock Anthropic
Des groupes massifs de bénévoles sont prêts à affronter l’ICE lors des élections
Vous pouvez suivre Brian Barrett sur Bluesky sur @brbarrett, Zoë Schiffer sur Bluesky sur @zoeschiffer et Leah Feiger sur Bluesky sur @leahfeiger. Écrivez-nous à uncannyvalley@wired.com.
Si vous utilisez un iPhone ou un iPad, ouvrez l'application appelée Podcasts ou appuyez simplement sur ce lien. Vous pouvez également télécharger une application comme Overcast ou Pocket Casts et rechercher « Uncanny Valley ». Nous sommes également sur Spotify.
Remarque : Il s'agit d'une transcription automatisée qui peut contenir des erreurs.
Brian Barrett : Bienvenue dans l'Uncanny Valley de WIRED. Je m'appelle Brian Barrett, rédacteur en chef.
Zoë Schiffer : Je m'appelle Zoë Schiffer, rédactrice en chef.
Leah Feiger : Et je m'appelle Leah Feiger, directrice des politiques et des sciences.
Zoë Schiffer : Cette semaine, Anthropic a officiellement déposé une demande de publication. Il se passe beaucoup de choses dans les centaines de pages que l'entreprise a soumises dans le cadre de son dossier S-1, depuis des bénéfices et des pertes stupéfiants jusqu'aux avertissements sur la menace existentielle de l'IA. Évidemment, nous parlons ici d’Anthropic. Nous discuterons de nos principaux points à retenir et des raisons pour lesquelles cette introduction en bourse représente un enjeu important, non seulement pour l'industrie de l'IA, mais honnêtement pour l'ensemble de l'économie américaine.
Leah Feiger : Nous vous apportons également un scoop sur la façon dont un entrepreneur de la défense a connecté Claude d'Anthropic à un système sécurisé du ministère de la Défense, dans ce qui est vraiment l'une des utilisations les plus farfelues de l'IA au sein du gouvernement que nous ayons vues jusqu'à présent.
Brian Barrett : Et les examens de mi-session approchent à grands pas, dans quelques jours seulement. Des groupes massifs de bénévoles dans tout le pays se préparent déjà à protéger leurs communautés contre la possibilité que des agents de l'ICE se présentent aux urnes. Nous verrons comment les efforts locaux comme ceux-ci sont le reflet d’un cycle électoral profondément incertain.
Méthode : les dépêches sont regroupées d’après les mots de leur titre et de leur résumé ; chaque rédaction compte une fois ; les chiffres sont lus tels que publiés. Rien ici n’est rédigé par une IA.
Zoë Schiffer : Nous avons donc appris lundi qu'Anthropic avait finalement appuyé sur la gâchette et déposé publiquement son introduction en bourse. Cela était très attendu pour de nombreuses raisons. Anthropic devrait lever plus d'argent lors de son introduction en bourse que n'importe quelle entreprise de l'histoire, et ce serait la première grande entreprise américaine axée uniquement sur la création de logiciels d'IA à entrer en bourse. Pour vous donner une idée de l'ampleur dont nous parlons, la valorisation de la société est passée de 183 milliards de dollars il y a un peu plus d'un an à 965 milliards de dollars lors de son dernier cycle, et certains s'attendent à ce qu'elle puisse valoir près de 2 000 milliards de dollars une fois qu'elle aura commencé à être négociée. Ainsi, le dossier nous donne essentiellement un premier véritable aperçu des activités d’Anthropic, car il s’agit actuellement d’une société privée. Il n'est pas nécessaire de signaler beaucoup de choses. Et les chiffres sont assez extrêmes dans les deux sens, des milliards de dollars de revenus et encore plus de milliards de pertes, et des centaines de milliards que l'entreprise s'est déjà engagée à calculer. Parce qu'il y a une tonne de paperasse à déballer, j'ai pensé qu'il serait amusant de la diviser en drapeaux verts, drapeaux jaunes et drapeaux rouges que nous avons vus lors du dépôt. Qu'en pensez-vous ?
Leah Feiger : Je suis étonnée de voir combien d'argent est en jeu ici. C'est oui.
Brian Barrett : Quel drapeau, Leah ? De quel drapeau s'agit-il ?
Zoë Schiffer : Pour le bien de l'économie, c'est vert.
Leah Feiger : Pour le bien de l'économie, c'est vert. C'est tellement d'argent, les gars. Poursuivez-moi en justice, mais la seule chose à laquelle je peux penser en ce moment est cet article publié par WIRED il y a quelques mois sur la façon dont les gens vendaient leurs maisons dans la Bay Area avec la promesse d'actions Anthropic après l'introduction en bourse. Et je me souviens qu'à l'époque, je me disais : "À quel point en sommes-nous proches ?" Et Zoé a dit : "Oh, ils vont gagner tellement d'argent."
Brian Barrett : Est-il juste de dire, Zoë, que j'ai envie d'avoir des données financières disponibles, oui, ils perdent de l'argent énormément, mais je pense que les données financières sont meilleures que ce à quoi les gens s'attendaient peut-être. Au moins, on a l’impression qu’ils ont mis de côté beaucoup d’inquiétudes, pas toutes, mais c’est une vraie affaire. C'est une entreprise qui est en pleine croissance. C'est faire tout ce que vous voudriez qu'une entreprise fasse.
Zoë Schiffer : Oui, je pense absolument. Ainsi, ses revenus ont atteint 16,3 milliards de dollars au premier semestre 2026, et ils ont été multipliés par plus de 14 par rapport à la même période de l'année dernière. Je pense qu'il faut remonter à 2022 et se rappeler que lorsque ChatGPT est entré en scène, il n'était même pas évident que l'IA aurait une véritable application d'entreprise. Il s’agissait d’une application grand public qui n’avait pas vraiment d’analyse de rentabilisation. Et ce n'est que lorsqu'Anthropic est entré en scène des années plus tard, en lançant Claude Code, que nous avons commencé à vraiment nous dire, oh non, il y a une entreprise viable et en fait, la majorité de l'argent proviendra d'autres entreprises utilisant leur produit de codage. C'est aussi, je pense, une différence clé que vous entendez de la part des initiés entre Dario et Sam. Les personnes très proches de Dario Amodei, le PDG d'Anthropic, diront qu'il se réveille chaque jour et dit : « Code d'entreprise ». C'est ce qui l'intéresse. Et c’est parce que c’est ce qui rapporte de l’argent à ces entreprises. Alors que je pense que certains ont l’impression qu’OpenAI est un peu plus dispersé et un peu partout. Et je pense que cela se voit dans les chiffres.
Brian Barrett : Alors ils se penchent sur le sujet. Ils ont le code Claude, un énorme succès, le code d'entreprise, un énorme succès. Je dirai, pour introduire un drapeau jaune, que sur les revenus dont vous avez parlé, des revenus très impressionnants de plus de 60 milliards de dollars, près de la moitié provenaient des marchés cloud de trois entreprises technologiques. Ils dépendent donc fortement d’un petit nombre d’entreprises qui sont également concurrentes. C'est cette sorte de nid de dépendances enchevêtrées dans cette industrie qui semble, je pense, Anthropic ne l'a pas considéré comme l'un de ses principaux facteurs de risque. Nous pouvons parler des facteurs de risque en une seconde parce que c'était ma section préférée, mais j'ai l'impression de se demander où est le fossé ? Y en a-t-il assez étant donné à quel point ils s'appuient sur une poignée d'entreprises qui développent également leur propre IA, d'autres produits d'IA s'améliorent, des produits open source, des produits à poids ouvert existent. À quel point ce drapeau est-il jaune ?
Zoë Schiffer : Je pense que c'est jaune. Il n'est pas surprenant qu'une coopérative de travailleurs polyamoureux soit incestueuse dans ses relations commerciales. Je n'ai pas été choqué par cette information. Et il n’est pas rare qu’un petit pourcentage de dépenses ait un impact considérable sur les revenus d’une entreprise. Je pense qu'il y a un autre chiffre que Ramp a publié récemment : 80 % des revenus d'Anthropic et d'OpenAI proviennent d'environ 1 % des dépensiers les plus élevés en IA. Ainsi, les entreprises qui dépensent le plus représentent la grande majorité des revenus de l’entreprise. Mais il s’agit d’une vulnérabilité, car s’il y a un recul et que ces entreprises commencent à dépenser moins, Anthropic est exposée. Mais autre chose, je ne sais pas où mettre ce drapeau. Je pense que c'est vert. Ils ont été transparents sur certains des risques liés à l’introduction en bourse, certains des risques existentiels de l’IA en général. C’est probablement ma partie préférée dans tout cela. "Des inquiétudes ont été soulevées (...) selon lesquelles des systèmes d'IA suffisamment avancés pourraient, s'ils ne sont pas développés et protégés de manière appropriée, présenter des risques catastrophiques ou existentiels pour l'humanité."
Zoë Schiffer : L'utilisation de la voix passive dans ce S-1, des inquiétudes ont été soulevées par Dario comme étant réelle.
Brian Barrett : En interne chez Anthropic, je dirai aussi que l'expression risque existentiel revient trois fois. C'est deux fois un risque existentiel pour l'humanité, une fois un risque existentiel pour la société. Donc, dans ce scénario, il y a probablement encore des humains, ils ont simplement abandonné tout semblant de contrat social.
Brian Barrett : Zoë, j'adore le fait que ce soit un signal d'alarme pour toi, le fait qu'ils soient si ouvertement...
Brian Barrett : Et pour être clair, ils crient depuis qu’ils ont commencé que l’IA pouvait tuer tout le monde. Ce n’est pas nouveau pour eux. Ce que j'ai trouvé intéressant, et je l'appellerai un drapeau rouge, un drapeau rouge pour l'humanité, un drapeau jaune pour l'Anthropique, un drapeau vert pour moi parce que j'aime en parler. Ainsi, la même chose qu’ils citent comme étant la plus susceptible de causer la fin de la vie humaine sur terre est également celle qu’ils citent comme l’un de leurs principaux avantages concurrentiels. Et c’est une auto-amélioration récursive. C’est donc là qu’un modèle d’IA peut s’améliorer. Et ils disent d'un côté, si les modèles d'IA continuent de s'améliorer et peuvent éventuellement s'améliorer au point où les humains n'ont même plus besoin de les regarder, fermant la boucle où l'IA s'améliore et rend l'IA meilleure, et rend l'IA meilleure au point où nous ne comprenons même plus ce que fait l'IA, mais bon sang, c'est bien et ça rapporte beaucoup d'argent, c'est le scénario dans lequel l'IA est assez puissante pour peut-être mettre fin au monde. Mais c'est aussi, note Anthropic, que nous sommes également très bons dans ce domaine. Nous investissons beaucoup d’argent là-dedans. C'est ainsi que nous allons avancer.
Zoë Schiffer : Et dans quelle mesure est-ce pertinent ? Qui d'entre nous n'a pas un côté ombre qui est également augmenté par le pouvoir que ce côté ombre vous donne ?
Leah Feiger : Pour être clair, WIRED a couvert ce sujet, comme pratiquement tout le monde. Lorsque l'ancien chercheur d'Anthropic, Jacob Coxon, a démissionné et a déclaré que c'était parce qu'Anthropic pourrait provoquer la fin du monde, il a spécifiquement cité la réduction des RSI en tête de sa liste. C'est tout le jeu de balle.
Brian Barrett : Oui. Et puis l'industrie en général est très... Je pense que c'est probablement trop extrême, mais Bernie Sanders a un projet de loi, et Ro Khanna a un projet de loi distinct qui dit : "Hé, interdisons simplement l'auto-amélioration récursive. Disons simplement que nous ne faisons pas ça." Je dirai une petite remarque : les facteurs de risque constituent la section la plus longue du prospectus. Il fait 94 pages, je crois. Alors ils auraient pu simplement dire : « Nous avons un côté obscur et avons sauvé tout le monde.
Leah Feiger : Pouvons-nous parler d'un signal d'alarme sur lequel je n'ai pas encore obtenu de bonne réponse, et j'ai en quelque sorte besoin que vous m'expliquiez cela comme si j'étais un tout-petit ? La facture de calcul, toute cette technologie coûte très cher. Personnellement, je n'ai pas l'impression de comprendre où se situe la limite, comment vous ne dépensez pas suffisamment pour utiliser tout votre argent et dépensez également suffisamment pour ne pas vous mettre en faillite et mettre fin à votre technologie pour toujours. Peut-être que je ne comprends pas le calcul dans son intégralité ni d'où il vient, mais tout cela ensemble, c'est tout simplement trop. Dites-moi.
