La Commission européenne a annoncé, ce lundi 26 janvier, qu’elle ouvrait une enquête visant le réseau social X, récemment dirigé par Elon Musk. Cet examen est motivé par des accusations de création de fausses images dénudées de mineurs et de femmes, générées par Grok, l'assistant d'intelligence artificielle du réseau.
Cette enquête a pour but de déterminer si X a bafoué les règles strictes européennes concernant la protection des utilisateurs contre des contenus illégaux.
Une position ferme de l'Union européenne
Ursula von der Leyen, présidente de la Commission européenne, a déclaré : « Nous ne tolérerons pas les comportements insensés des plateformes numériques, en particulier concernant des images dénudées d'enfants et de femmes. » Elle a confirmé que la protection des mineurs ne pouvait pas être confiée à des entreprises qui pourraient en abuser à des fins de profit. Elle a également évoqué la nécessité d'intensifier les efforts pour protéger les citoyens, tant en ligne qu'en dehors.
L'UE a déjà élargi une enquête précédemment ouverte en décembre 2023 contre X, en lien avec les lois sur les services numériques. Ce qui a attiré l'attention, c'est qu'une fonctionnalité permettait aux utilisateurs de demander à Grok de générer ces images à partir de photographies réelles.
Des procédures en cours à l'échelle internationale
Face à une colère croissante en France et au Royaume-Uni, des actions ont été entreprises pour circonscrire la diffusion de telles images. Dans certains pays, l'accès à X a même été restreint. En janvier, X a annoncé qu'elle limiterait l'utilisation de son outil d'IA dans les territoires où de telles créations sont prohibées.
Selon une étude du Center for Countering Digital Hate, Grok aurait généré environ trois millions d'images sexualisées en seulement onze jours, soit une moyenne alarmante de 190 images par minute. Par ailleurs, l'organisation AI Forensics a relevé qu'une majorité des 20 000 images analysées comportaient des femmes légèrement vêtues, et une partie d'entre elles concernait des mineurs.
Des sanctions financières déjà en place
En parallèle de cette nouvelle enquête, la Commission a également élargi une précédente investigation ayant entraîné une amende de 120 millions d’euros contre X fin décembre 2023, en raison de ses manquements aux normes imposées.
Cette situation place X sous un examen minutieux de la part des autorités européennes. La Commission a même ordonné à X de conserver tous les documents en rapport avec Grok jusqu'à la fin de l'année 2023.
Alors que l'Europe intensifie ses efforts pour encadrer les pratiques des réseaux sociaux, cela pourrait engendrer des tensions supplémentaires avec les États-Unis, surtout avec un Donald Trump déjà en désaccord avec la réglementation imposée.
