Comprendre les Implications des Nouvelles Technologies de l’IA sur les Réseaux Sociaux

Récemment, une nouvelle fonctionnalité nommée Grok a été introduite sur le réseau social X. Ce dispositif, utilisant des techniques d’intelligence artificielle, permet aux utilisateurs de générer des contenus érotiques. Cette fonctionnalité soulève des inquiétudes majeures en raison de la possibilité de créer et de partager des images dénudant des individus sans leur consentement, en utilisant des simples photographies numériques. Ce type de contenu, qui était autrefois confiné aux salles de cinéma pour adultes, est désormais accessible à tout internaute.

Les Réactions des Autorités

Suite à cette annonce, plusieurs instances, y compris le commissaire à la protection de la vie privée du Canada, ont exprimé leur mécontentement. Les régulateurs des différents pays ont commencé à interroger la plateforme, tandis que des enquêtes officielles ont été ouvertes en Europe. Le gouvernement indonésien a même suspendu temporairement l’assistant IA Grok, considérant que les pratiques de deepfake sans consentement violent les droits de la personne et la dignité humaine dans le milieu numérique.

Face à ces critiques, la direction de X a décidé de restreindre l’accès à la génération d’images érotiques aux seuls abonnés payants. En créant une fonction payante pour des contenus potentiellement illégaux, la plateforme semble aggraver la situation des victimes d’une utilisation malveillante de ces technologies.

Vers un Démantèlement de la Modération

Parallèlement, le réseau social X, tout comme d’autres géants du Web, a considérablement réduit ses capacités de modération de contenu. Cela est facilité par le soutien de certaines autorités, comme celle de l’administration Trump, qui a condamné les personnes qui assuraient la modération de contenus nuisibles. Cette tendance révulse de nombreux observateurs, d’autant plus qu’elle pourrait permettre à des contenus dangereux de proliférer sur Internet.

La Complacence des Autorités et des Dirigeants

Malgré ces problèmes croissants, les actions des autorités canadiennes semblent insuffisantes face à X et aux autres grandes plateformes. Étonnamment, de nombreux leaders politiques et entreprises continuent d’utiliser ce réseau social, même si des allégations dénoncent son ambiance devenue problématique. Des figures politiques comme le premier ministre du Québec continuent de communiquer via X.

Cette situation interroge beaucoup sur la responsabilité des dirigeants face à un réseau social qui pourrait nuire à l’image publique. Par ailleurs, les médias traditionnels semblent hésiter à se défaire des liens avec X, malgré le fait que cette plateforme bloque les partages de contenu provenant de médias qui critiquent ses politiques.

Un Besoin de Changement

Il est peut-être temps de réfléchir à des alternatives plus saines aux réseaux sociaux actuels. Beaucoup appellent à la création d’une plateforme qui respecterait davantage nos valeurs et nos normes. La question se pose : les entreprises, les politiciens et les experts doivent-ils continuer à soutenir des plateformes dont les pratiques sont critiquables ?

Pour ce qui est des autorités canadiennes, il est urgent d’établir un cadre législatif qui prenne en compte les dangers que représentent les réseaux sociaux pour les citoyens. Les propositions législatives comme le projet de loi C-16, qui vise à prohiber la diffusion non consentie d’images intimes, sont un bon début, mais il reste beaucoup à faire.

Les mesures prises jusqu’à présent ne s’attaquent qu’aux utilisateurs qui abusent des fonctionnalités offertes par ces plateformes. Il est crucial que les lois cherchent également à responsabiliser les entreprises qui, sous prétexte de liberté d’expression, mettent en ligne des dispositifs capables de créer du contenu inapproprié.

Pour conclure, les nouvelles technologies doivent être surveillées de près afin d’éviter des dérives qui pourraient nuire à la dignité humaine. Les discussions autour de ce sujet doivent se poursuivre et se renforcer, car le bien-être de nos sociétés en dépend.

Pierre Trudel, Professeur de droit des médias et des technologies de l’information à l’Université de Montréal.

Source : www.ledevoir.com

➡️ Découvrez CHAT G P T en français !