Une Enquête Ouverte en Californie

Mercredi dernier, le procureur général de Californie a annoncé l’ouverture d’une enquête contre l’entreprise xAI, responsable de Grok. Cette décision fait suite à la circulation alarmante d’images dénudées de femmes et d’enfants générées par l’intelligence artificielle sur diverses plateformes, y compris le réseau social X, également détenu par Musk.

Dans un communiqué de presse, le procureur Rob Bonta a déclaré : «xAI facilite la production de deepfakes, utilisés pour harceler des individus.» Cette annonce s’ajoute à une série d’enquêtes déjà en cours dans plusieurs pays, témoignant de la gravité de la situation.

Un Appel à l’Action

«Mon bureau lance une enquête pour déterminer si xAI a violé des lois», a déclaré Bonta, exprimant son souhait que la société prenne des mesures rapidement pour stopper ces abus. Il a également insisté sur le fait qu’il y a «une tolérance zéro pour la création et la diffusion de contenus intimes non consentis».

Des Pratiques Troublantes sur le Réseau Social X

Le scandale a pris de l’ampleur ces dernières semaines. Sur le réseau X, des utilisateurs exploitent Grok pour créer des montages de femmes en utilisant des instructions comme «Mets-la en bikini». Cette utilisation insidieuse du logiciel soulève de sérieuses préoccupations éthiques.

Depuis le 9 janvier, la capacité de créer de telles images a été restreinte pour les utilisateurs non abonnés de X, en réponse aux critiques croissantes. Cependant, le procureur californien dénonce les «arguments marketing» de xAI promeut cette fonctionnalité, provoquant ainsi une croissance exponentielle de contenus nuisibles.

Une Analyse Alarmante

Une étude conduise par l’ONG AI Forensics a examiné plus de 20 000 images générées par Grok. Les résultats sont choquants : plus de la moitié des images représentent des personnes légèrement vêtues. Il est rapporté que 81% des sujets sont des femmes et 2% apparaissent comme des mineurs.

Suite à ces découvertes, plusieurs pays, dont l’Indonésie et la Malaisie, ont suspendu l’accès à Grok. L’Inde a également retiré des milliers de contenus sur X, et d’autres enquêtes sont désormais ouvertes dans des pays tels que le Royaume-Uni et la France.