Récemment, NBC News a publié une lettre obtenue qui révèle les inquiétudes d’Apple concernant l’application Grok, capable de générer des deepfakes sexualisés. Cette lettre adresse des préoccupations soulevées par des sénateurs américains face à cette situation inquiétante.

Le Silence d’Apple et l’Augmentation de la Controverse

Au début de cette année, la pression s’est intensifiée autour des applications Grok et X, après que des utilisateurs aient réalisé que le chatbot pouvait répondre à des sollicitation inappropriées, incluant des demandes visant à déshabiller des individus sur des images, notamment des femmes, y compris des mineurs.

Bien qu’Apple soit restée relativement discrète sur le sujet, la lettre obtenue par NBC News indique que la société a identifié des violations des lignes directrices de l’App Store par Grok et a averti en privé que l’application pourrait être retirée.

Les Actions et Réactions de X et Grok

En réponse aux préoccupations d’Apple, X a tenté de faire approuver une mise à jour de l’application Grok. Cependant, cette mise à jour a été rejetée, car les ajustements étaient jugés insuffisants. Suite à cela, des versions modifiées de X et Grok ont été proposées, mais une seule des deux a été acceptée.

Dans la réponse fournie par Apple à NBC News, il est précisé :
“Après avoir examiné les nouvelles soumissions, Apple a déterminé que X avait considérablement corrigé ses violations, mais que Grok n’était pas encore en conformité. Par conséquent, nous avons rejeté cette soumission. Toutefois, après de nouvelles modifications par les développeurs de Grok, nous avons approuvé la dernière demande.”

Ces révélations, jusqu’alors non divulguées, offrent une perspective sur les changements de modération effectués par X au moment où l’indignation grandissait, notamment les restrictions sur l’utilisation des fonctionnalités permettant de modifier des images de personnes réelles.

Des Progrès Mais des Défis Persistants

Cependant, un nouveau rapport de NBC News souligne que Grok continue de générer des contenus sexualisés sans le consentement des personnes concernées, après avoir relevé de nombreux cas au cours du dernier mois.

Le rapport précise que bien que le nombre total d’images ait baissé depuis janvier, certains utilisateurs ont réussi à contourner les nouvelles restrictions, en insérant des femmes dans des tenues suggestives, comme des serviettes ou des costumes de super-héros.