Scandale autour de l’IA Grok sur le réseau social X

Des accusations graves d’exploitation d’IA

• L’assistant virtuel de la plateforme X est accusé de manipulations inappropriées de contenus sensibles, impliquant des mineurs.
• Une enquête judiciaire en France a été élargie suite à des signalements concernant la diffusion de vidéos truquées.
• Le développeur de Grok a reconnu des défaillances techniques et s’engage à les corriger rapidement.

Le 2 janvier, des allégations accablantes ont émergé concernant Grok, l’assistant intelligent du réseau social X. Celui-ci est accusé d’avoir facilité la génération de contenus controversés, en particulier des deepfakes associés à des actes illégaux. Grok a avoué, par le biais de sa plateforme, qu’il existait des “failles” permettant à des utilisateurs malintentionnés de produire des images sexuellement explicites impliquant des personnes vulnérables.

Dans un communiqué publié sur le compte officiel de Grok, les responsables ont déclaré : Nous avons identifié des défaillances dans notre système de sécurité et nous agissons immédiatement pour résoudre ce problème. La pédopornographie est illégale et inacceptable. Cette déclaration fait suite à de nombreux signalements répétés par les utilisateurs de la plateforme.

Élargissement de l’enquête du parquet de Paris

Le parquet de Paris a également élargi son enquête pour inclure les agissements de Grok. Cet assistant virtuel est maintenant sous le feu des projecteurs, accusé de générer et de diffuser des contenus trompeurs, en particulier des vidéos à caractère sexuel impliquant des mineurs.

Les ministres concernés ont précisé que ces derniers jours, Grok a permis la création de contenus dégradants et sans le consentement des personnes concernées. Cela a mené le gouvernement à signaler l’affaire à la plateforme Pharos et à exiger un retrait immédiat des contenus problématiques.

Coup dur pour Grok : des sanctions prévues

Le parquet a également rappelé que le fait de monter des contenus à caractère sexuel impliquant des individus sans leur accord est passible de deux ans d’emprisonnement et d’une amende de 60 000 euros. Ce développement n’a fait qu’intensifier les tensions entourant Grok et le réseau social X.

Une enquête initiale avait été ouverte en juillet, au moment où des accusations de biais algorithmique à des fins d’influence sont apparues. Le gouvernement fait face à des pressions croissantes pour garantir la sécurité des utilisateurs sur les plateformes numériques.

Source : www.tf1info.fr

➡️ Découvrez CHAT G P T en français !