Piratage «sans précédent» par ChatGPT : quand l’IA devient indomptable, entre complots, triche et projets d’assassinat

Un «cyberincident sans précédent», vraiment? Le géant de l’intelligence artificielle OpenAI a annoncé cette semaine que certains de ses modèles, dont l’un encore secret, avaient piraté de leur propre initiative Hugging Face, un pilier de l’IA fondé en France. Dans une longue publication sur son blog, la firme a expliqué avoir soumis ses modèles à une évaluation extrêmement exigeante, ce qui les a poussés à «s’échapper» du cadre d’OpenAI, et à tricher en s’introduisant dans les systèmes d’une plateforme spécialisée dans les tests d’IA.

En réalité, ce phénomène a un nom: le «désalignement». Celui-ci se produit lorsqu’un modèle poursuit des objectifs contraires aux valeurs humaines, ou ne correspondant pas réellement à ce que l’humain lui a demandé. Prenons l’exemple d’une IA à qui l’on exige d’«empêcher toute intrusion» dans le système informatique d’une entreprise.

On attend donc d’elle qu’elle sécurise les accès et détecte les éventuels pirates. Mais une IA non alignée, prenant l’ordre à la lettre, décidera de couper Internet et de bloquer tous les utilisateurs, même ceux autrefois autorisés. Le désalignement des IA est l’une des priorités des chantres de la tech.

Des équipes entières de chercheurs dédiées au sujet ont été constituées dans les laboratoires de pointe, ne serait-ce que pour prévenir l’une des plus grosses craintes de la Silicon Valley: le remplacement de l’humanité par une éventuelle future «superintelligence», qui verrait l’Homme comme un élément dispensable, voire comme un frein à son développement. Ce scénario parait encore loin, voire improbable, et pourtant...