Le gouvernement britannique dénonce les images «révoltantes» de mineurs dénudés générées par Grok

Le gouvernement britannique a appelé mardi le réseau social X à trouver «de toute urgence» une solution pour éviter la prolifération de fausses images «révoltantes» de femmes et de mineurs dénudés générées par Grok, l'assistant d'intelligence artificielle associé au réseau.

• À lire aussi: «Illégales et dégoûtantes»: les fausses vidéos sexuelles de mineurs générées par Grok sous la loupe de l'Union européenne

• À lire aussi: L'IA Grok, utilisée pour dénuder des mineurs en ligne, admet des «failles»

«Ce que nous avons vu en ligne ces derniers jours est absolument révoltant et inacceptable dans une société digne de ce nom», a déclaré Liz Kendall, la ministre en charge des Technologies dans le gouvernement travailliste de Keir Starmer.

«Nous ne pouvons et ne permettrons pas la prolifération de ces images dégradantes et humiliantes, qui ciblent de manière disproportionnée les femmes et les filles. X doit régler ce problème de toute urgence», a-t-elle insisté.

Grok, l'assistant IA du réseau social propriété du milliardaire américain Elon Musk, est sous le feu des critiques après que des utilisateurs ont pu créer grâce à lui des images à caractère sexuel impliquant des femmes et des mineurs.

Ces images, réalisées en retouchant des photos ou vidéos de personnes réelles pour les dénuder, ont suscité des protestations à travers le monde et l'élargissement d'une enquête judiciaire en France.

«Le Royaume-Uni ne tolérera pas la prolifération incessante de contenus répugnants et injurieux en ligne», a insisté Liz Kendall, ajoutant qu'elle soutenait «pleinement» l'action du régulateur britannique Ofcom et «toutes les mesures coercitives qu'il jugera nécessaires».

L'Ofcom a annoncé lundi avoir demandé à X comment il protège ses utilisateurs, et n'a pas exclu le lancement d'une enquête formelle «s'il existe des problèmes de conformité».

Face au tollé, Grok a reconnu vendredi l'existence de «failles» ayant permis à des utilisateurs d'obtenir des images à caractère sexuel impliquant des mineurs ou des femmes, et a assuré qu'il les corrigeait «de toute urgence».

Au titre de la législation britannique sur la sécurité en ligne (Online Safety Act), les plateformes doivent lutter contre l'apparition de tels contenus et agir rapidement pour les retirer. En cas de non-respect de ces obligations, elles s'exposent à des amendes pouvant atteindre 18 millions de livres (plus de 20 millions d'euros), ou 10% de leur chiffre d'affaires mondial si ce montant est plus élevé.