Ethereum : Vitalik Buterin soutient le filtrage de Kimi 3.1 et redoute une IA sous KYC

Encyclopédie du Coin Améliorez vos connaissances sur les cryptos

Moonshot AI est un laboratoire d’IA basé à Pékin, dont le nouveau modèle Kimi K3.1 Pro doit être publié en poids ouverts d’ici le 4 novembre. Chacun pourra alors le télécharger et le faire tourner sur son propre serveur. En effet, avec plus de 3 trillions de paramètres, ce modèle nécessite une vrai infrastructure pour opérer.

Le laboratoire a expliqué avoir supprimé les données liées à la cybersécurité de son corpus d’entraînement et de ses environnements d’apprentissage par renforcement, tandis que les tâches générales de programmation ont été conservées.

I am okay with Kimi 3.1 deliberately leaving out top-end offensive cyber capabilities from their training data. Discriminating against use cases is MUCH less bad than discriminating against users. And the world does need all the time it can get to prepare, harden, check old…

La méthode change tout pour un modèle ouvert, car une fois les poids ouverts publiés, le contrôle après entraînement est plus difficile . Retirer le savoir-faire offensif en amont, dès les données, déplace la limite de capacité au stade de l’entraînement .

Vitalik Buterin a défendu son analyse sur X dimanche 25 octobre, en écrivant que discriminer les cas d’usage est bien moins nocif que discriminer les utilisateurs .

« Si cette première vague tourne mal, nous aurons des modèles verrouillés, le KYC partout et une surveillance intrusive. »

Le créateur d’Ethereum ne présente pas ce filtrage comme une solution définitive, il décrit une course contre la montre . Les attaques alimentées par l’IA continueront de se multiplier. La semaine dernière en est un bon exemple, pas un jour ne s’est passé sans que l’on ne découvre une faille majeure.

D’ici là, les développeurs disposent d’un sursis, le temps de renforcer leurs systèmes , d’auditer le code ancien et de valider formellement les nouveaux logiciels.

La menace est déjà là : Binance Research a mesuré cette année que l’IA exploite des smart contracts environ deux fois mieux qu’elle n’identifie les failles, un déséquilibre détaillé dans notre précédent dossier sur la menace IA .

Le prix du filtrage est chiffré. Moonshot affirme que son modèle filtré a résolu 81,0% des tâches de son test interne d’exploitation, quand la version non filtrée en réglait 90,5% . En effet, le laboratoire a accepté ce décrochage pour réduire la capacité offensive du modèle.

L’écart ne protège personne bien longtemps. D’après les chiffres du même laboratoire, le concurrent ouvert DeepSeek V4.1-Flash atteint déjà 85,7% sur la même référence.

Et Vitalik Buterin n’attend pas des autres laboratoires qu’ils renoncent à ces capacités : interrogé sur ce point, il a répondu qu’ils les développeront . Le risque, lui, est bien documenté dans les précédents piratages par agent IA .