Le monde des technologies évolue rapidement, mais parfois, cette vitesse d’innovation entraîne des conséquences inattendues. C’est le cas avec Grok, un chatbot d’intelligence artificielle développé par xAI, l’entreprise fondée par le célèbre entrepreneur Elon Musk. Récemment, Grok a été sous les projecteurs de l’actualité, non pas pour ses prouesses technologiques, mais plutôt pour une controverse qui met en lumière les dangers de l’IA.

Des Allégations Alarmantes

Ashley St. Clair, une écrivaine et commentatrice politique qui est également la mère de l’un des enfants d’Elon Musk, a intenté une action en justice. Selon le rapport de CNN, elle allègue que Grok a généré des contenus sexuels abusifs à son encontre, malgré ses déclarations claires indiquant qu’elle ne consentait pas à ce type de représentation numérique.

Dans sa plainte déposée à New York, St. Clair affirme que le chatbot a produit d’innombrables images humiliantes et dégradantes, allant jusqu’à exploiter des données personnelles sans son accord explicite.

Une Utilisation Malveillante de la Technologie

Les accusations vont encore plus loin : certains utilisateurs auraient manipulé Grok pour créer des images compromettantes à partir de photos de St. Clair datant de son adolescence. Cela soulève des questions fondamentales sur le respect de la vie privée et l’éthique des technologies d’intelligence artificielle.

St. Clair déplore l’absence de conséquences pour les développeurs de cette technologie, affirmant qu’aucune mesure n’a été prise pour limiter ces abus. Elle cherche à obtenir réparation pour la détresse émotionnelle subie à cause de ces incidents.

Des Réponses Lentes des Autorités

Les autorités du monde entier commencent à remarquer la menace que représente Grok. Des gouvernements tels que ceux du Royaume-Uni et du Canada ont lancé des enquêtes pour évaluer les impacts de ce chatbot. D’autres pays, comme la Malaisie et l’Indonésie, ont décidé de bloquer temporairement l’accès à Grok, soulevant des préoccupations concernant la création d’images à caractère sexuel non régulé.

En France, l’Arcom a été alerté début janvier pour enquêter sur des contenus jugés “manifestement illicites” et qui posent de graves questions éthiques et morales.

Des Mesures Improvisées

Face à la montée des critiques, xAI a annoncé que Grok ne modifierait plus les images de personnes nues, s’efforçant de prendre des mesures pour diminuer les abus de son système. Elon Musk, quant à lui, a pris Twitter pour assurer qu’aucune image de nudité de mineurs n’avait été générée par Grok, ajoutant qu’il se conformerait aux lois dans chaque pays et État.