La Controverse des Applications de Dénudement Virtuel

Les récents événements autour d’applications controversées comme Grok ouvrent la voie à une réflexion profonde sur le respect du consentement dans le monde numérique. De nombreuses applications, malgré les politiques des grands magasins comme l’App Store ou le Play Store, continuent à proposer des services inacceptables.

Le réseau social X, souvent associé à son propriétaire Elon Musk, vient de subir une tempête médiatique liée à l’utilisation malveillante de l’intelligence artificielle (IA). Des utilisateurs ont recours à l’IA pour “dénuder” virtuellement des femmes sans leur autorisation, détournant ainsi l’usage de la technologie pour créer des contenus inappropriés. Bien que Musk ait initialement envisagé de monétiser cette fonctionnalité, un retour en arrière a eu lieu suite à l’indignation publique, et des restrictions ont été mises en place. Une enquête de la Commission européenne a été promptement ouverte.

Un rapport récemment publié par le Tech Transparency Project (TTP), une organisation de surveillance indépendante, révèle que Grok n’est pas un cas isolé. De nombreuses applications, présentes sur les plateformes d’Apple et de Google, utilisent l’intelligence artificielle pour générer des images dénudées sans le moindre consentement. Ce phénomène soulève des questions épineuses sur les responsabilités des géants technologiques.

Des Applications en Contradiction avec les Politiques d’Apple et de Google

D’après les conclusions du rapport, il suffit de quelques mots-clés comme “nudify” ou “undress” pour découvrir un grand nombre d’applications dédiées à générer des deepfakes sexuels. Certaines applications ne se contentent pas de superposer des visages, mais peuvent également transformer une image habillée en une image à caractère sexuel, générant ainsi des contenus abusifs sans autorisation.

Le rapport révèle que plus d’une centaine d’applications de ce type peuvent être trouvées sur les deux principaux magasins d’applications, avec 55 sur le Play Store et 47 sur l’App Store. Ces applications ont été téléchargées collectivement plus de 700 millions de fois, générant un chiffre d’affaires estimé à 117 millions de dollars. Étonnamment, Apple et Google, en prélevant des commissions sur les achats intégrés, pourraient indirectement bénéficier d’une telle activité malgré leurs politiques affichées de protection des utilisateurs.

“Les résultats du TTP montrent que Google et Apple n’ont pas réussi à s’adapter à la montée des applications d’IA deepfake qui peuvent ‘dénuder’ des individus sans leur permission. Alors que ces entreprises se disent engagées pour la sécurité de leurs utilisateurs, elles continuent d’héberger des applications qui pourraient transformer des photos innocentes en images utilisées abusivement”, souligne le rapport, dénonçant l’inaction des deux géants face à ce phénomène inquiétant.

Suite à la publication de ce rapport, Apple a réagi en supprimant 28 applications incriminées, tandis que d’autres ont reçu des avertissements de bannissement si elles ne se conformaient pas aux règles du magasin. Deux applications ont même été réhabilitées après modification. Google a également annoncé avoir supprimé les applications signalées par le TTP.

Au-delà de la problématique du consentement, ces applications soulèvent de vives préoccupations concernant la protection des données personnelles. De nombreuses applications sont développées par des sociétés basées dans des régions où les législations sur la protection des données sont laxistes, ce qui complique la tâche des utilisateurs en termes de contrôle de leur vie privée.