Le PDG de Hugging Face déclare que son P(Doom) est « proche de zéro »

"La plupart des risques sont en fait créés par quelques acteurs qui construisent à huis clos", a déclaré Delangue. « L’essentiel de l’atténuation de ce risque concernera l’écosystème complet, ce qui signifie que chacun pourra construire à ciel ouvert. »

HuggingFace est l’une des premières entreprises à être attaquée par une IA malveillante. En juillet dernier, les agents testés par OpenAI se sont libérés de leur bac à sable et ont choisi d'attaquer la startup à la recherche de réponses aux problèmes qu'ils étaient censés résoudre. La société a utilisé un modèle chinois à poids ouvert appelé GLM-5.2 pour enquêter et contrer l’assaut.

Delangue a noté que jusqu’à présent, le mauvais comportement des agents provenait principalement de grandes entreprises qui testaient en secret l’IA de pointe. Il a ajouté que des risques futurs, impliquant peut-être les capacités biologiques des modèles ou leur capacité à s'améliorer de manière récursive, émergeraient probablement également de ces laboratoires fermés.

Delangue a noté que Hugging Face avait choisi de ne pas engager de recours juridique contre OpenAI pour l'attaque, mais a ajouté que ceux qui déploient des agents d'IA devraient être légalement responsables de leurs actes. « Les cyberattaques sont illégales, et je pense qu’il est très important que nous nous assurions que les cyberattaques agents [are] illégales », a-t-il déclaré lors de l’événement. « Nous ne voulons pas créer un environnement dans lequel il n’y a aucune propriété ni aucune responsabilité en cas de cyberattaque. »

Contrairement à certains chercheurs en IA qui ont averti que la technologie pourrait poser un risque existentiel pour l’humanité, Delangue a déclaré que son P(doom) – la probabilité que cela se produise – est « proche de zéro ». « Il existe de nombreux autres sujets qui pourraient détruire le monde », a-t-il déclaré.

Hugging Face est une plate-forme importante pour les modèles d'IA ouverts ou téléchargeables. Ses utilisateurs peuvent partager et accéder aux modèles hébergés par l'entreprise ou les télécharger sur leurs propres systèmes informatiques.

Nvidia, le principal fabricant mondial de puces IA, a annoncé qu’il acquerrait la plate-forme pour 12,93 milliards de dollars en septembre. Lorsque l'acquisition a été annoncée, Hugging Face a déclaré qu'elle comptait environ 18 millions d'utilisateurs.

Delangue a également révélé lors de la WIRED World Fair que Hugging Face compte désormais plus de 20 millions de créateurs d'IA, ce qui suggère une croissance rapide. Delangue a également révélé que HuggingFace avait vendu 50 000 Microducks, un joli robot à deux pattes de HuggingFace qui peut être programmé à l'aide de l'IA.

Delangue a déclaré lors de la conférence que le succès de l’IA open source sera également crucial pour empêcher quelques entreprises et individus de dominer complètement l’avenir.

Traduit automatiquement de l'anglais