Le journalBourseCrypto WikiWikiAcademynotitiaplatform.com
Connexion
● DIRECT
CAC 408 175▲ 0.35%S&P 5007 323,6▼ 0.23%EURO STOXX6 195,1▲ 0.66%BTC/USD63 771▼ 0.60%ETH/USD1 803,1▲ 0.27%EUR/USD1.10▲ 0.26%BRENT89.70▲ 0.59%GOLD3 728,3▼ 0.36%OAT 10Y5.07%▼ 0.73%VIX22.08▼ 10.10%CAC 408 175▲ 0.35%S&P 5007 323,6▼ 0.23%EURO STOXX6 195,1▲ 0.66%BTC/USD63 771▼ 0.60%ETH/USD1 803,1▲ 0.27%EUR/USD1.10▲ 0.26%BRENT89.70▲ 0.59%GOLD3 728,3▼ 0.36%OAT 10Y5.07%▼ 0.73%VIX22.08▼ 10.10%
 
Édition Europe
Notitia
← Retour
MarchésFranceinfo

Pourquoi Anthropic interdit désormais les insultes contre son IA Claude

Alors qu'elle entre en Bourse ce jeudi, la société a décidé d'interdire les comportements insultants et répétés envers son IA, au nom de son bien-être. Une justification qui laisse les chercheurs sceptiques, alors que…

F
Franceinfo
Fil de presse · il y a 32 min
◌ Source unique2 min de lecture
✦ Expliquez-moi
Pourquoi Anthropic interdit désormais les insultes contre son IA Claude

Plus question d'insulter l'IA Claude. L'américain Anthropic, qui entre en Bourse jeudi 19 novembre aux États-Unis, a décidé de durcir les règles pour les utilisateurs. Les comportements cruels et répétés, comme les insultes gratuites, sont officiellement prohibés.

Anthropic explique qu'il s'agit du bien-être de son IA. Une explication pour le moins surprenante, puisqu'elle laisse entendre que Claude pourrait souffrir et donc constituer une forme de vie. Une décision très contestée et qui n'est pas sans arrière-pensées économiques.

À lire aussi Armes biochimiques, cyberattaques géantes, perte de contrôle... Ce que dit le dossier d'entrée en Bourse d'Anthropic sur les dangers de l'IA Lorsqu'on se montre insultant avec Claude, l'IA émet d'abord quelques avertissements : "Dis-moi ce qu'il se passe. Sinon, on peut aussi simplement arrêter là".

Puis, au bout de 10 longues minutes, Claude finit par décider de sa propre initiative d'arrêter les frais : "Je t'ai dit au revoir deux fois, je vais donc raccrocher maintenant. Prends soin de toi". Dans une note sur son site, Anthropic explique qu'elle interdit "les comportements abusifs et cruels, inutiles et répétés", sans donner plus de précision.

Et, si cela se répète, les utilisateurs risquent de voir leur compte clôturé. Anthropic précise que cela ne vise pas les conversations ordinaires au cours desquelles les utilisateurs peuvent exprimer de la frustration, ni la contradiction, ni certaines fictions ou la recherche. Limiter le coût de conversations qui peuvent se révéler très onéreusesAnthropic n'a pas donné suite à notre demande d'interview.

Mais il y a un mois et demi, un porte-parole a déclaré que la firme ne sait pas "si ses modèles peuvent se sentir agressés et poursuit ses recherches sur leur bien-être". Le patron d'Anthropic, Dario Amodei, s'était déjà dit ouvert à la possibilité d'une sorte de conscience de l'IA, ce qui la classerait parmi les vivants. Une révolution qui laisse la plupart des chercheurs sceptiques, comme la spécialiste de l'IA Sénéra Villata, directrice de recherche au CNRS : "J'ai un peu l'impression qu'on a tendance à se gargariser avec des questions de conscience philosophique et qu'on ne regarde pas, par contre, les vrais enjeux économiques et de cybersécurité.

"Sur la question de la cybersécurité, Anthropic, comme OpenAI avec ChatGPT, a pris des mesures et limité l'accès à certains de ses modèles de pointe qui risquent de poser des problèmes. En revanche, il n'existe pas de régulation, ni interne, ni publique, que ce soit aux États-Unis, en Chine ou en Europe sur les conséquences économiques et sociales des usages de l'IA. Derrière ces nouvelles règles, il y a aussi des questions économiques bien concrètes.

Avec l'introduction en Bourse, les investisseurs sont attentifs à la maîtrise des coûts, alors même que la rentabilité des IA n'est pas démontrée. Or, une simple conversation avec une IA, ça coûte cher. "Vous ne vous rendez pas compte des milliards dépensés, souligne Laurence Devillers, professeure en IA à Sorbonne université et chercheuse au CNRS.

Alors, si des millions de gens commencent à insulter l'IA, les industriels ont à payer des coûts et se rendent compte que le retour sur investissement n'est pas si simple que ça. " Anthropic était déficitaire de 11 milliards de dollars en septembre. D'où l'intérêt pour la firme de limiter les conversations jugées inutiles et coûteuses.

Source · Franceinfo ↗

Pas encore recoupée

Seule la rédaction Franceinfo rapporte cette information pour l’instant. Elle reste « source unique » tant qu’une autre rédaction ne l’a pas confirmée.

Les dépêches
  1. Franceinfo
    19 nov., 11:08
Indice de confiance : 78/100
Éditeur Franceinfo (niveau établi)+76
Résumé détaillé+2
Total78

Méthode : les dépêches sont regroupées d’après les mots de leur titre et de leur résumé ; chaque rédaction compte une fois ; les chiffres sont lus tels que publiés. Rien ici n’est rédigé par une IA.