L’utilisation de Grok sur X révèle un sombre aspect de l’innovation technologique. À partir de mai, une pratique malsaine a émergé, où des utilisateurs s’amusent à manipuler des photos de femmes, les rendant vulnérables à des contenus abusifs.

Au cœur de cette controverse, la création de deepfakes rendue accessible par Grok. Par exemple, une streameuse a partagé une illustration d’une conversation où un utilisateur a demandé à l’IA d’ajouter un rendu visuel éhonté sur son selfie. L’expression “cumify”, littéralement “mettre du sperme” en français, est même devenue un terme viral dans ce contexte.

Les abus touchent également des demandes de déshabillage virtuel, où Grok est utilisé pour générer des images de femmes en tenues suggestives. Une requête typique comprend la création d’« Ahegao face », un terme de la pornographie japonaise qui dépeint un visage ayant des expressions exagérées. Cela fait partie de ce que l’on appelle les deepfakes pornographiques, où des individus sont mis en scène dans des travaux visuels modifiés par l’intelligence artificielle.

En matière de législation, il est important de noter que ces pratiques sont pénalement répréhensibles. Selon Loopsider, générer un deepfake pornographique en France peut entraîner jusqu’à trois ans d’emprisonnement et 75 000 euros d’amende, en vertu de la loi sur la sécurisation de l’espace numérique.

Dans les paramètres de confidentialité de Twitter, les utilisateurs peuvent choisir de ne pas permettre à Grok de s’appuyer sur leurs tweets et données publiques. Bien que cela ne constitue pas une protection absolue, cela pourrait réduire l’exposition. Une victime de deepfake a d’ailleurs soulevé un point crucial : « Désactiver les paramètres et bloquer Grok n’a pas empêché la manipulation de mes images, seulement leur visibilité. »