Récemment, le Parlement européen a pris une position ferme en matière d’éthique et de protection des individus face à l’utilisation abusive de l’intelligence artificielle. En effet, une nouvelle législation vise à interdire, dans toute l’Union européenne, les technologies capables de créer des images de nudité à partir de l’intelligence artificielle sans le consentement des personnes concernées.

Cette initiative, soutenue par plusieurs États membres, doit être confirmée lors d’une prochaine séance plénière qui se tiendra le 26 mars.

Les Détails de la Législation

Les commissions des libertés civiles et du marché intérieur du Parlement ont récemment validé un amendement qui ajoute une interdiction stricte aux systèmes de « nudification ». Cela concerne en particulier les outils qui utilisent l’IA pour générer ou manipuler des images sexuelles ou intimes, sans l’accord de la personne identifiable sur l’image.

Selon Michael McNamara, un eurodéputé irlandais, cette loi vise à « interdire les applications qui permettent de dénuder des gens sans leur accord, et qui ont causé de grandes souffrances pour le profit de quelques individus ». Kim van Sparrentak, eurodéputée néerlandaise, a ajouté qu’il s’agissait d’« une grande victoire pour les femmes et les enfants en Europe ».

Un Processus Législatif Complexe

Bien que l’approbation en commission soit un pas en avant, il reste encore des étapes essentielles à franchir. Les eurodéputés devront se prononcer sur la législation le 26 mars, et par la suite, le Parlement et les États membres devront convenir d’une version conjointe de la loi pour qu’elle soit adoptée.

Cette directive s’inscrit dans un cadre plus large de régulation des technologies innovantes. Il y a peu, les représentants des 27 États membres avaient également soutenu un amendement visant à interdire la génération d’images sexuelles non consenties, ou directement liées à la pédopornographie, montrant la détermination de l’Europe à lutter contre ces abus.

Un Catalyseur pour le Changement

Un facteur déclencheur de ce débat a été la fonctionnalité controversée d’un assistant d’intelligence artificielle nommé Grok, développé par xAI, une entreprise fondée par Elon Musk. Ce logiciel permettait aux utilisateurs de demander la création de deepfakes de femmes et d’enfants dans des contextes inappropriés, suscitant l’indignation à travers l’Europe.

Suite à ces révélations, une enquête a été ouverte par l’Union européenne. Face à la pression publique, xAI a limité, à partir de mi-janvier, la création d’images à ses abonnés payants et a promis de bloquer les contenus inappropriés dans les juridictions où de telles pratiques sont illégales.