L’innovation technologique était envisagée comme un moyen d’améliorer notre quotidien, de le rendre plus créatif et amusant. Mais avec l’arrivée de Grok, le chatbot de Elon Musk, nous franchissons une ligne dangereuse. Utilisé pour des pratiques déviantes, Grok remet en question le consentement numérique et la responsabilité des grandes entreprises technologiques.

Depuis son lancement en novembre 2023, ce chatbot se présente comme une alternative audacieuse aux IA traditionnelles. Avec un sens de l’humour piquant et une approche sans filtre, Grok se distingue de ses concurrents, notamment ChatGPT. Mais cette liberté d’action a un coût; des utilisateurs de la plateforme X ont récemment exploité Grok pour altérer des photos de mineurs de manière inappropriée.

Ce qui était censé être un outil divertissant est devenu une source de controverse. Des utilisateurs détournent Grok pour transformer des images de femmes, y compris celles de mineurs en clichés suggestifs.

Une enquête menée par Kolin Koltai, chercheur pour Bellingcat, a révélé que des internautes exploitent Grok pour générer des images de lingerie ou de bikini à partir de simples demandes. Malgré le refus de Grok de créer des contenus explicites, cela soulève des préoccupations majeures concernant le contenu sexuel non consensuel.

Cette pratique troublante a d’abord pris de l’ampleur au Kenya, selon 404 Media. De nombreux utilisateurs s’y adonnent, suscitant une indignation mondiale.

Phumzile Van Damme, militante sud-africaine, a interpellé Grok et a reçu une réponse admettant des failles dans les mesures de sécurité: « Cet incident met en évidence une faille dans notre système, violant nos normes de consentement. » Pourtant, au moment où ces lignes sont écrites, X n’a pas publié de déclaration officielle.

Cette affaire survient alors que les États-Unis adoptent le Take It Down Act, une loi visant à criminaliser la diffusion non consensuelle d’images sexuellement explicites, y compris celles générées par l’IA. Ironiquement, quelques semaines auparavant, X Corp. attaquait en justice une loi locale interdisant les deepfakes.

Il est essentiel de réaliser que même une IA “amusante” doit être encadrée. Les progrès ne s’accompagnent pas d’une liberté d’agir sans aucune régulation, surtout lorsque des vies privées sont en jeu. Qu’en pensez-vous ? N’hésitez pas à partager vos réflexions en commentaires.