Une Enquête Européenne Éclairante

La Commission européenne a ouvert une enquête sur Grok, l’intelligence artificielle développée par Elon Musk. Cette investigation entre dans le cadre de la loi sur les services numériques, connue sous le nom de DSA (Digital Service Act). Ces préoccupations prennent de l’ampleur alors que Grok a récemment été adopté par le Pentagone pour analyser des données militaires, marquant une avancée significative pour cette technologie d’IA.

Cette enquête vise à déterminer si le déploiement de Grok dans le réseau social X (anciennement Twitter) a été réalisé en respectant les normes de sécurité et de légalité requises au sein de l’Union européenne.

Les Risques Légaux et Éthiques

Des Images à Caractère Sexuel : Un Problème Systémique

L’enquête mettra l’accent sur les risques associés à la génération d’images à caractère sexuel par Grok. Cela inclut des contenus manipulés représentant des personnes réelles, ce qui pourrait facilement franchir la ligne de la légalité et entraîner de graves préjudices pour les citoyens européens.

Les inquiétudes soulevées par la Commission se concentrent sur la diffusion potentielle de contenus illégaux, y compris de la pédopornographie. La Commission va évaluer si X a suffisamment atténué ces risques.

Les Systèmes de Recommandation en Question

En réponse aux nouvelles révélations, la Commission a étendu une procédure formelle concernant les systèmes de recommandation de X. Cette démarche vise à s’assurer que les mécanismes utilisés par la plateforme respectent les exigences du DSA, notamment, en ce qui concerne leur transition vers un système basé sur Grok.

Réactions Officielles

Henna Virkkunen, vice-présidente de la Commission européenne, a exprimé des préoccupations majeures, affirmant que la « diffusion de vidéos truquées à caractère sexuel constitue une forme de dégradation violente et inacceptable ». L’enquête vise à clarifier si les droits des citoyens, notamment de femmes et d’enfants, ont été traités comme des dommages collatéraux dans le cadre de ce service.

Appels à l’Action

David Cormand, député écologiste européen, a également réagi vigoureusement. Il a déclaré : « J’appelle à une suspension immédiate de X sur le territoire européen », soulignant l’importance de protéger les citoyens face à des contenus nocifs.

Coordination et Divulgation

L’Arcom, l’Autorité de régulation de l’audiovisuel français, a salué l’initiative de la Commission européenne. Elle a insisté sur la nécessité d’une régulation stricte en matière de contenus intimes non consentis, ainsi que sur d’autres contenus illicites.

L’Arcom encourage également les victimes à signaler leurs expériences. En tant que coordinateur pour les services numériques en France, l’autorité se prépare à coopérer avec le Parquet de Paris pour d’éventuelles poursuites pénales.