Le nouveau kill switch de CrowdStrike peut arrêter les agents d'IA malveillants dans leur élan, déclare le PDG

Le PDG de CrowdStrike, George Kurtz, a déclaré mardi que la société de cybersécurité pouvait désormais arrêter les agents d'intelligence artificielle malveillants.

Le nouveau kill switch de CrowdStrike, annoncé mardi lors de sa conférence Fal.Con Europe, permet aux équipes de sécurité de mettre fin aux agents qui se comportent mal, de les empêcher de redémarrer et de couper leur accès au réseau. Il est conçu pour donner aux humains plus de pouvoir sur les modèles et les systèmes d’intelligence artificielle, alors que les inquiétudes sur la manière de contrôler les agents grandissent.

"Tout le monde construit des agents IA, mais ils n'ont jamais eu de bouton d'arrêt, et maintenant c'est le cas", a déclaré Kurtz à Jim Cramer de CNBC sur "Mad Money". "Cela sera un élément extrêmement important pour garantir que les agents d'IA fonctionnent et fonctionnent en toute sécurité."

L'AI Kill Switch, comme l'appelle CrowdStrike, fait partie de la plate-forme Falcon Guardian de la société, qui surveille les agents d'IA opérant au sein d'une organisation. La technologie, disponible immédiatement, vise à répondre aux problèmes de sécurité de l’IA liés à l’adoption rapide d’agents d’IA.

En septembre, le PDG d'Anthropic, Dario Amodei, a appelé à ralentir le développement de l'IA pour des raisons de sécurité, une position soutenue par Sam Altman, PDG d'OpenAI. Kurtz affirmait à l’époque que ralentir le développement de l’IA n’éliminerait pas les risques de sécurité existants, ce qui, selon lui, soulignait la nécessité de mesures de protection à mesure que les entreprises déploient des systèmes autonomes.

Kurtz a déclaré mardi que le nouveau kill switch de CrowdStrike représente un changement important dans la cybersécurité, traditionnellement axée sur la protection des entreprises contre les menaces externes. Alors que les entreprises s’appuient davantage sur les agents IA, il a fait valoir que les fournisseurs de sécurité doivent également garantir que ces systèmes fonctionnent en toute sécurité au sein de leurs propres organisations.

« Permettre aux agents de travailler en toute sécurité constitue une énorme opportunité de marché pour CrowdStrike », a déclaré Kurtz. "Nous disposons de capacités d'IA pour empêcher ces violations de se produire à l'extérieur, et nous avons également les capacités de garantir que les agents font essentiellement ce qui leur est demandé de faire."

Le PDG a comparé cette technologie aux airbags des voitures, affirmant que des mesures de protection sont nécessaires même lorsque les systèmes d’IA sont conçus pour fonctionner correctement.

"S'ils sortent de ces garde-fous au moment de l'exécution, nous pouvons tuer ces agents", a-t-il déclaré.

Traduit automatiquement de l'anglais