Les sénateurs critiquent Apple et Google pour avoir laissé les adolescents accéder aux applications « nudify » malgré le contrôle parental
Exclusif : trois sénateurs démocrates envoient des lettres aux PDG du secteur technologique affirmant que les garanties contre les applications de nudification sont insuffisantes sur leurs plateformes. Trois sénateurs…
Les sénateurs critiquent Apple et Google pour avoir laissé les adolescents accéder aux applications de « nudification » malgré le contrôle parental. Exclusif : trois sénateurs démocrates envoient des lettres aux PDG du secteur technologique affirmant que les garanties contre les applications de nudification sont insuffisantes sur leurs plateformes.
Un trio de sénateurs américains affirme qu'Apple et Google ne parviennent pas à détecter et à supprimer efficacement les applications pouvant être utilisées pour générer des images nues ou pornographiques non consensuelles. Les sénateurs affirment également que Meta continue de tirer profit des publicités pour ces soi-disant applications de nudification qui « victimisent les femmes et les filles du monde entier ».
Mercredi, Ron Wyden, Ed Markey et Ben Luján ont envoyé des lettres aux PDG des entreprises technologiques, affirmant que les garanties mises en place pour empêcher la nudification de leurs magasins d'applications ou de leurs plateformes ne sont pas suffisantes.
Wyden, de l’Oregon, a déclaré que le Congrès devra agir si les entreprises « ne font pas un meilleur travail pour réprimer les applications expressément conçues et commercialisées pour créer du tort ».
"L'IA a renforcé la capacité de créer et de partager des images sexuelles non consensuelles, causant ainsi un préjudice considérable aux femmes et aux filles", a déclaré Wyden dans une déclaration au Guardian.
"Au lieu d'augmenter les investissements pour relever ce défi, les grandes entreprises technologiques réduisent les équipes chargées de protéger les utilisateurs contre tout préjudice. Je cherche des réponses sur les raisons pour lesquelles Meta, Apple et Google omettent de violer manifestement leurs propres règles. "
Dans un communiqué, Karl Ryan, porte-parole de Google, a déclaré : « Google Play n'autorise pas les applications contenant du contenu à caractère sexuel ou permettant aux utilisateurs de nudifier des images de personnes, et nous prenons continuellement des mesures proactives pour détecter et supprimer les applications au contenu préjudiciable. »
Un porte-parole de Meta, Andy Stone, a déclaré dans un communiqué : "Nous interdisons le CSAM [child sexual abuse materials] et la promotion d'applications nudify, et nous travaillons de manière agressive pour garder ce matériel hors de nos services. Les criminels derrière cela prennent des mesures de plus en plus trompeuses pour échapper à la détection - se cachant derrière de faux noms et identités, diffusant des publicités qui semblent inoffensives et créant parfois des liens vers les magasins d'applications de Google et d'Apple, la véritable intention des publicités n'étant révélée qu'après avoir cliqué dessus.
Les sénateurs ont écrit que les images de nus non consensuelles générées par l’IA ont connu une légère augmentation au cours des deux dernières années. Les enquêtes confirment cette affirmation. L'Unicef a rapporté début 2026 qu'au moins 1,2 million d'enfants dans 11 pays ont déclaré avoir été victimes d'images de nus non consensuelles. Les forces de l’ordre ont également averti dans diverses notes de service que les agents devaient rester vigilants, car l’IA pourrait faciliter le contournement des méthodes de détection CSAM, selon des documents précédemment rapportés par le Guardian.
Apple a clarifié ses politiques après que les chercheurs du TTP se soient informés des applications de nudification qu'ils avaient trouvées sur l'App Store en octobre. Google a précédemment déclaré au Guardian que la société travaillait de manière proactive pour détecter et supprimer les applications au contenu nuisible et que Meta avait introduit de nouveaux outils d'IA pour détecter et supprimer les publicités contenant du CSAM.
Keith Chu, conseiller en chef en communication et directeur politique adjoint de Wyden, a déclaré que clarifier les politiques n'est pas la même chose que les appliquer. Bien que les entreprises aient réaffirmé l'interdiction de ces applications, celles-ci continuent de proliférer dans les magasins d'applications Apple et Google ou d'être promues dans des publicités sur les plateformes Meta, a-t-il déclaré.
Dans la dernière étude TTP d’octobre, dont le Guardian a fait état pour la première fois, les chercheurs ont découvert qu’ils étaient en mesure d’accéder à des dizaines d’applications dotées de fonctionnalités permettant la création d’images de nu et pornographiques générées par l’IA, bien qu’ils aient indiqué que les comptes qu’ils avaient créés étaient destinés à des garçons de 13 ans.
Il y avait 135 applications disponibles pour ces comptes sur Apple et Google. En réponse aux demandes du TTP et du Guardian, Apple et Google ont supprimé les applications mentionnées dans les études. Cependant, les applications restaient fonctionnelles sur les téléphones sur lesquels elles étaient déjà téléchargées.
Ces résultats suggèrent qu'Apple et Google « non seulement ne parviennent pas à supprimer les applications qui facilitent l'abus d'images intimes, mais qu'ils pourraient également profiter de leur distribution », indique la lettre des sénateurs.
Katie Paul, directrice de TTP, a déclaré que même si Apple et Google déclarent examiner chaque application sur leur plate-forme, les sociétés ne divulguent pas ce qu'implique cet examen.
"Des descriptions vagues de la façon dont chaque entreprise définit les "images intimes non consensuelles" et le manque de détails sur la façon dont les deux sociétés procèdent réellement à l'examen des applications leur permettent de jouer sur les deux tableaux : prétendre qu'elles ont des politiques dans les livres et appliquer ces politiques en fonction de ce qui correspond le mieux au récit à un moment donné", a déclaré Paul.
Apple, pour sa part, a également déclaré que certains développeurs lanceraient un « appât et changeraient » et ajouteraient des fonctionnalités permettant aux utilisateurs de créer des images nues ou pornographiques générées par l'IA après que le fabricant de l'iPhone ait approuvé une application. Le bureau de Wyden a déclaré qu’il s’attend à ce que l’entreprise examine régulièrement les applications.
En septembre, TTP a trouvé 332 publicités payantes sur Facebook et Instagram incluant du CSAM. Ce mois-ci, AIForensics, une organisation de recherche européenne à but non lucratif, a découvert que certaines applications qui cachaient leurs fonctionnalités de nudification de l'IA à Apple et Google faisaient explicitement la promotion de « fonctionnalités de deepfake sexuelles » dans les publicités sur les plateformes Meta.
Dans la lettre, les sénateurs demandaient comment les publicités contenant apparemment du CSAM avaient réussi les systèmes d’examen de l’entreprise.
Le 7 octobre, Meta a déclaré avoir pris des mesures supplémentaires pour lutter contre les publicités contenant du CSAM. Cependant, Paul a déclaré que les chercheurs du TTP avaient depuis lors signalé des dizaines de publicités contenant du CSAM au Centre national pour les enfants disparus et exploités. Les captures d'écran partagées par TTP avec le Guardian montrent des images d'une publicité pour une application permettant de créer des « amis sexuels IA » mettant en valeur des images de jeunes filles. Ces publicités ont été actives pendant plusieurs heures avant d’être supprimées mais restent disponibles dans la bibliothèque de publicités de Meta. L’organisation n’a « pas encore identifié les publicités présentant des vidéos de CSAM diffusées par d’autres plateformes publicitaires ».
"Meta s'est vanté à plusieurs reprises de ses systèmes d'IA sophistiqués pour examiner les préjudices sur les plateformes, mais depuis plus d'un an, ces systèmes ont échoué à plusieurs reprises à signaler les publicités présentant des vidéos sexuelles graphiques d'enfants aussi jeunes que les tout-petits", a déclaré Paul.
Traduit automatiquement de l'anglais
Pas encore recoupée
Seule la rédaction The Guardian rapporte cette information pour l’instant. Elle reste « source unique » tant qu’une autre rédaction ne l’a pas confirmée.
- The Guardian18 nov., 17:39
| Éditeur The Guardian (niveau référence) | +82 |
| Résumé détaillé | +2 |
| Total | 84 |
Méthode : les dépêches sont regroupées d’après les mots de leur titre et de leur résumé ; chaque rédaction compte une fois ; les chiffres sont lus tels que publiés. Rien ici n’est rédigé par une IA.
