Scandales et Technologies : Le Cas Grok et SpaceX

Le 11 juin, un événement surprenant a eu lieu à Times Square : un ballon gonflable monumental représentant Elon Musk, torse nu et en surpoids, a été installé juste en face du Nasdaq. Ce spectacle absurde était entouré de banderoles noires affichant des messages accablants, accusant Grok de produire de la pédopornographie par intelligence artificielle et suggérant que SpaceX en était propriétaire. Le lendemain, SpaceX a annoncé une entrée en Bourse spectaculaire, atteignant un montant record de 75 milliards de dollars, orchestrée par des opposants à ces pratiques choquantes.

Des contenus inappropriés mis au jour par Wired

Wired, un média américain réputé, a révélé l’existence de plusieurs contenus explicites hébergés sur Grok.com. En examinant des centaines de liens générés par Grok Imagine, une plateforme de création vidéo, des dizaines d’entre eux ont mené à des vidéos et images à caractère sexuel produites par l’intelligence artificielle.

• Certaines de ces créations mettaient en scène des célébrités connues.
• D’autres incluaient des représentations de la députée américaine Alexandria Ocasio-Cortez.
• Il a été constaté que des liens vers ces contenus circulaient sur la plateforme X (anciennement Twitter).

Les contenus identifiés par Wired ne représentent probablement qu’une petite partie de la production totale. En effet, les générations de contenus à la demande des utilisateurs ne sont pas rendues publiques.

Suite à l’enquête menée par Wired, les équipes de Grok et de X ont rapidement supprimé les contenus incriminés. Les liens partagés sur X ont également été retirés pour non-respect des règles. Malheureusement, il semble que ce schéma se répète régulièrement : le contenu disparait lorsqu’il est signalé, mais réapparaît dès qu’il n’y a plus de surveillance.

Les promesses non tenues d’Elon Musk

Elon Musk, le PDG de SpaceX, avait promis fermement que Grok prendrait des mesures strictes contre la création de contenus illégaux. Sur X, sa politique stipule une tolérance zéro concernant l’exploitation sexuelle des mineurs.

Cependant, six mois plus tard, Wired a de nouveau retrouvé des deepfakes de femmes célèbres sur grok.com. Selon Henry Ajder, expert en deepfakes depuis près d’une décennie, les efforts de Grok et de X en matière de filtrage laissent à désirer par rapport aux outils disponibles pour le grand public.

Des avancées notables, mais insuffisantes

• Les fonctionnalités permettant de créer des images de nudité sont devenues plus restrictives.
• Le volume de contenus inappropriés sur X a diminué.
• Des utilisateurs de forums ont signalé une modération plus stricte.

Cependant, malgré ces efforts, la production de deepfakes à caractère sexuel ne semble pas être contenue. Il est évident que SpaceX a investi d’énormes ressources pour son introduction en Bourse, mais la modération sur Grok ne semble pas avoir reçu le même niveau d’attention.

Pour couronner le tout, la Commission européenne a lancé une enquête sur ces pratiques en janvier dernier. Les procureurs généraux de 35 États américains ont demandé des mesures correctives, et en mars, trois jeunes femmes américaines ont engagé une action collective. Une enquête similaire est également en cours en France.

Source : siecledigital.fr

➡️ Découvrez CHAT G P T en français !