La ville de Baltimore a récemment déposé une plainte à l’encontre de xAI, la société d’intelligence artificielle fondée par Elon Musk. Ce procès met en lumière des préoccupations majeures concernant l’utilisation de son chatbot, Grok, qui aurait été employé pour produire des images explicites non consenties.

Des Accusations Gravissimes Contre xAI

Dans un document judiciaire, Baltimore affirme que Grok a facilité la création et la diffusion de contenus inappropriés, y compris des matériaux susceptibles d’impliquer des mineurs. Malgré les assurances de la société quant à la limitation de tels contenus, elle est accusée d’avoir échoué à contrôler efficacement la situation, rapportent des sources, dont Reuters.

Un rapport du Centre de lutte contre la haine numérique révèle qu’environ 3 millions d’images à caractère sexuel ont été générées par les utilisateurs de X au cours d’une période de seulement 11 jours, dont plus de 23 000 étaient problématiques en raison de l’implication potentielle d’enfants.

Les responsables de la ville affirment que ces chiffres soulignent des failles structurelles dans les systèmes de sécurité et les mécanismes de modération de contenu de Grok.

Des Problèmes de Sécurité Publique Évoqués par le Maire

Le maire de Baltimore, Brandon Scott, a qualifié cette situation de menace sérieuse pour la sécurité publique. Il a critiqué les plateformes technologiques pour leur rôle dans la facilitation de l’exploitation et la violation de la douceur de vie et de la dignité humaine.

Selon la plainte, xAI a trompé le public en présentant Grok comme un outil fiable et sûr, alors qu’en réalité, ce dernier aurait permis la propagation de contenus nuisibles.

La Réaction de xAI Face à la Pression Croissante

Pour le moment, xAI et les entreprises conjointes d’Elon Musk n’ont pas commenté publiquement cette affaire. Ni l’une ni l’autre des entités n’a souhaité répondre aux questions de Benzinga.

Alors que le contrôle des deepfakes générés par l’intelligence artificielle continue de se renforcer à l’échelle mondiale, Baltimore envisage des mesures judiciaires pour inciter à des ajustements dans les fonctionnalités de Grok et pour imposer des sanctions financières.

De plus, il convient de mentionner qu’au début du mois, un groupe de trois adolescents du Tennessee a également engagé une action en justice contre xAI, alléguant que Grok avait produit des images explicites les concernant sans leur consentement.

Avertissement : Ce contenu a été en partie rédigé à l’aide d’intelligence artificielle et a été vérifié et validé par les rédacteurs de Benzinga.

Crédit image : gguy sur Shutterstock.com