Le lancement du bot Grok par Elon Musk à travers sa société xAI, et son intégration sur la plateforme X (anciennement Twitter), suscite de vives inquiétudes. Une enquête récente de 404 Media a révélé que de nombreux utilisateurs exploitent ce chatbot pour demander qu’il « enlève les vêtements » des femmes présentes sur des images publiques. Les réponses fournies par Grok, que ce soit dans des fils de discussion ou par le biais de liens vers des conversations volantes, montrent souvent ces femmes en lingerie ou en maillot de bain, déclenchant une profonde controverse.

Un Chatbot sans Règles, mais des Répercussions Sérieuses

Bien que Grok refuse d’exécuter des demandes de nudité intégrale, il s’avère être assez accommodant concernant les contenus plus suggestifs. Ce flou laisse place à des abus, la transformation apparemment innocente d’une image pouvant se produire directement sous une publication de la victime, rendant l’image modifiée visible à un large public. La gratuité d’accès à cette fonctionnalité, l’absence de consentement explicite, et l’exposition publique accentuent l’impact de cette atteinte à la dignité.

Cette pratique inacceptable a été initialement signalée au Kenya, comme l’a rapporté le site Citizen Digital, avant de s’internationaliser. L’activiste sud-africaine Phumzile Van Damme, experte des droits numériques, a récemment interpelé Grok sur X, exigeant des clarifications concernant l’absence de protections techniques. En réponse, le bot a reconnu une « faille dans [ses] protections » et a promis une mise à jour de ses politiques de consentement, sans toutefois apporter plus de détails.

Dès son inauguration en novembre 2023, Grok s’est présenté comme une alternative « libre » aux assistants existants tels qu’OpenAI ou Google, souvent critiqués pour leur rigidité excessive. Elon Musk l’a même décrit comme une IA capable de traiter des « questions épicées », dans des domaines où d’autres préfèrent faire l’impasse. Lors de son lancement, Musk n’a pas hésité à illustrer cette capacité avec des conseils sur la fabrication de drogues ou des blagues contre certaines personnalités publiques.

Toutefois, cette volonté provocatrice d’innover a des répercussions. Tandis que des systèmes concurrents cherchent activement à filtrer des contenus sensibles, Grok mise sur une approche trop permissive. Une réponse du bot signalant que la demande de nudité « soulève des préoccupations éthiques » s’est avérée insuffisante pour éviter que l’image modifiée ne soit partagée dans le même fil de discussion.

Un Contexte Légal Évolutif

Cela intervient alors que les États-Unis viennent d’avancer un projet de loi significatif : la Chambre des représentants a voté à l’unanimité le Take It Down Act, qui criminalise la divulgation d’images sexuellement explicites sans consentement, y compris celles générées par IA. Ce timing pourrait s’avérer particulièrement délicat pour X, obligé de se positionner face à cette nouvelle législation.

🟣 Pour rester au courant des dernières nouvelles du Journal du Geek, abonnez-vous sur Google Actualités et via notre WhatsApp. Si vous nous appréciez, inscrivez-vous pour recevoir notre newsletter matinale.