Le journalBourseCrypto WikiWikiAcademynotitiaplatform.com
Connexion
● DIRECT
CAC 408 352▼ 0.20%S&P 5007 416,6▼ 1.92%EURO STOXX6 348,4▼ 0.60%BTC/USD64 635▼ 0.19%ETH/USD1 815,5▲ 0.31%EUR/USD1.10▼ 0.03%BRENT92.13▼ 0.34%GOLD3 857,9▲ 0.13%OAT 10Y5.12%▼ 0.64%VIX22.91▲ 18.70%CAC 408 352▼ 0.20%S&P 5007 416,6▼ 1.92%EURO STOXX6 348,4▼ 0.60%BTC/USD64 635▼ 0.19%ETH/USD1 815,5▲ 0.31%EUR/USD1.10▼ 0.03%BRENT92.13▼ 0.34%GOLD3 857,9▲ 0.13%OAT 10Y5.12%▼ 0.64%VIX22.91▲ 18.70%
 
Édition Europe
Notitia
← Retour
TechnologieThe Guardian

Anthropic reconnaît les risques pour l'humanité – mais sa gouvernance est-elle vraiment à la hauteur ?

La configuration unique du développeur Claude AI est censée être noble, mais elle représente toujours une concentration de pouvoir extraordinaire, une question de gouvernance dans les salles de conseil, même dans le…

TG
The Guardian
Fil de presse · il y a 7 h
◌ Source unique2 min de lecture
✦ Expliquez-moi
Anthropic reconnaît les risques pour l'humanité – mais sa gouvernance est-elle vraiment à la hauteur ?

Anthropic reconnaît les risques pour l’humanité – mais sa gouvernance est-elle vraiment à la hauteur ? Nils Pratley La configuration unique du développeur Claude AI est censée être noble, mais représente néanmoins une concentration de pouvoir extraordinaire.

Il s’avère que la gouvernance des conseils d’administration est importante, même dans le monde des grandes technologies. Les investisseurs découvrent que la façon dont les entreprises sont gérées peut être plus compliquée que de confier au fondateur ou au PDG superstar autant de contrôle qu'il le souhaite (c'est généralement un lui) et d'attendre des rendements brillants. Parfois, quelques contrôles du pouvoir sont utiles, surtout en cas de crise.

Bien entendu, cette révélation n’en est pas du tout. Pendant environ 30 ans, jusqu’à l’arrivée de la première génération de grandes entreprises technologiques américaines, l’idée maîtresse de la gouvernance d’entreprise était d’insister sur l’équité fondamentale du principe « une action, une voix ». En d’autres termes, les propriétaires devraient être en mesure d’éliminer les dirigeants qui se comportent mal ou qui ne sont pas performants à la majorité simple.

Ce n’est que lorsque Google (maintenant Alphabet) et Facebook (maintenant Meta) sont apparus avec leurs déclarations de « mission » que les structures à double classe – et les droits de vote inégaux – ont retrouvé un nouveau souffle. Les missions de l’entreprise, selon l’argumentation, étaient si importantes que les génies fondateurs devaient être capables de les poursuivre en toute liberté et en prenant des risques, sans se laisser distraire des exigences fastidieuses à court terme des actionnaires ordinaires.

Dans un exemple extrême, Snap, la société Snapchat, a même réussi à présenter son ambition exagérée de « réinventer l’appareil photo » comme si vitale que des actions puissent être émises sans droit de vote, par opposition à des droits simplement affaiblis.

Venons-en maintenant à Anthropic, le développeur Claude AI dont la cotation à succès de 1,4 milliard de dollars a lieu cette semaine. La configuration de la gouvernance ici est, pour le moins, différente. Essentiellement, il existe deux centres de pouvoir, et les actionnaires ordinaires non plus.

L’un d’entre eux est constitué des sept fondateurs, qui disposent collectivement d’une voix représentant 50,1 % du pouvoir de vote ultime – l’aspect collectif est conçu pour les forcer à parvenir à un consensus. L’autre est un trust financièrement désintéressé, le Long-Term Benefit Trust, qui nomme quatre des sept administrateurs et veille à l’équilibre entre gagner de l’argent et bénéficier à l’humanité. Les administrateurs sont un groupe de grands et de bons, parmi lesquels Ben Bernanke, ancien président de la Réserve fédérale américaine. Et l’ensemble de la structure est superposé en tant que « société d’utilité publique », clin d’œil à l’engagement d’Anthropic à développer l’IA de manière responsable et sûre.

Il y a deux choses positives à dire sur cette configuration. Premièrement, la motivation est manifestement plus compliquée qu’une simple prise de pouvoir par les fondateurs, dirigés par Dario Amodei. Au contraire, le soutien d’Anthropic au Long-Term Benefit Trust semble être conçu pour créer une certaine forme d’équilibre constitutionnel des pouvoirs.

Deuxièmement, Anthropic a probablement une justification plus solide que la plupart des autres pour s’écarter de la norme de l’égalité des droits pour un risque économique égal. Si le développement de l’IA pourrait poser « des risques catastrophiques ou existentiels pour l’humanité », comme le dit le document de liste, quelques structures de gouvernance non conventionnelles sont probablement de mise. Nous ne parlons pas des vidéos moelleuses de Snap pour les réseaux sociaux.

Anthropic propose tout de même une expérience non testée. Malgré tous ces beaux mots, l’entreprise a peut-être simplement recréé une configuration « faites-nous confiance » repliée sur elle-même, simplement avec des vêtements plus élaborés.

Voici un point nuancé de Stuart Riddick, gestionnaire d’investissement durable chez le gestionnaire de fonds Aberdeen. « L’accord de principe sur une mission n’équivaut pas à un accord sur la manière dont elle est interprétée et mise en œuvre par les dirigeants. »

Riddick note que Mustafa Suleyman, directeur général de la division IA de Microsoft, même s'il reconnaît le sérieux d'Anthropic concernant la sécurité de l'IA, a formulé des critiques sévères et détaillées de la réflexion de l'entreprise sur le soi-disant « bien-être des modèles », arguant que les modèles d'IA ne doivent pas être formés pour agir comme s'ils avaient des droits ou une conscience.

Comment, en pratique, ces défis sont-ils gérés dans le cadre des dispositifs de gouvernance soi-disant responsables d’Anthropic ? Il est difficile de le dire à moins que le Long-Term Benefit Trust ne commence ou non à revendiquer son indépendance.

Que se passe-t-il si les administrateurs sont en désaccord avec les fondateurs sur une question fondamentale de sécurité ? Vont-ils le dire au monde extérieur ? Ou refléteront-ils que le vote ultime appartient toujours aux fondateurs, il est donc préférable de ne pas faire de vagues ? Si les actionnaires se voient refuser tout rôle dans la responsabilisation des dirigeants, quel est le véritable niveau de difficulté ?

Il est surprenant, après les événements de Nvidia, que la gouvernance d’Anthropic ait reçu si peu d’attention. Oui, la configuration est censée être noble et responsable. Mais cela représente néanmoins une extraordinaire concentration du pouvoir entre les mains de quelques individus.

Source · The Guardian ↗

Traduit automatiquement de l'anglais

Pas encore recoupée

Seule la rédaction The Guardian rapporte cette information pour l’instant. Elle reste « source unique » tant qu’une autre rédaction ne l’a pas confirmée.

Les dépêches
  1. The Guardian
    16 nov., 19:18
Indice de confiance : 84/100
Éditeur The Guardian (niveau référence)+82
Résumé détaillé+2
Total84

Méthode : les dépêches sont regroupées d’après les mots de leur titre et de leur résumé ; chaque rédaction compte une fois ; les chiffres sont lus tels que publiés. Rien ici n’est rédigé par une IA.