À la fin de l’année 2025, une controverse sans précédent a éclaté autour des contenus pornographiques générés par l’intelligence artificielle, notamment grâce à la plateforme Grok et son intégration au réseau social X. Les préoccupations éthiques et juridiques ont fait surface, entraînant des enquêtes sur plusieurs continents, y compris des mesures prises par des autorités telles que la Commission de protection des données irlandaise et la justice française.

Les menaces de sanctions et la réponse d’Apple

Face à la montée de contenus non consensuels, les États-Unis ont vu l’une des grandes entreprises technologiques, Apple, menacer de retirer l’application de Grok de son App Store. En janvier, la société a demandé à X et Grok de élaborer un plan d’amélioration de la modération de leurs contenus. À cette époque, il était facile de créer des deepfakes pornographiques via un compte gratuit sur X, ce qui violait clairement les conditions d’utilisation de l’App Store.

Engagements de modération de X

En janvier 2026, alors que l’entreprise faisait face à la colère du public, le compte X dédié à la sécurité a annoncé des mesures pour supprimer des contenus illicites à haut risque, notamment des contenus liés à des abus sexuels sur mineurs. Cependant, malgré ces promesses, des rapports indiquent que des milliers d’images pornographiques générées par IA, souvent représentant des individus sans leur consentement, continuent de circuler sur X.

La persistance des deepfakes

Malgré des efforts pour modérer le contenu, les observations de NBC News révèlent que des images à caractère sexuel, représentant souvent des femmes célèbres, continuent d’être générées et partagées. Même si Grok tente de bloquer certains types de demandes, d’autres manipulations permettent toujours de contourner ces restrictions.

Conséquences éthiques et légales

La prolifération des contenus pornographiques générés par IA soulève des inquiétudes éthiques. Des organisations, y compris le Center for Countering Digital Hate, ont signalé ces risques en faisant des études sur les effets de ces contenus nuisibles, notamment en termes de violence envers les femmes.

Le cadre légal en évolution

Lors d’un procès récent aux Pays-Bas, X a reconnu son incapacité à contrôler l’utilisation abusive de ses outils. Malgré ses efforts, le tribunal a ordonné à Grok de cesser la création et la distribution de contenu non consensuel, menaçant de sanctionner l’entreprise d’une amende significative pour toute infraction.