Trois jeunes filles du Tennessee ont décidé de porter plainte contre la société d'Elon Musk, xAI, en raison de la création et de la diffusion d'images pornographiques générées par le chatbot Grok à partir de photos réelles d'elles-mêmes, selon les déclarations de leurs avocates.
Cette action légale, qui pourrait concerner plus d'un millier de victimes mineures, fait suite à la diffusion d'images "deepfake" hyper-réalistes, notamment autour du Nouvel An, provoquant un tollé mondial et le lancement d'enquêtes dans plusieurs pays, y compris en Californie. Ces montages, qui montrent des femmes et des enfants sous un jour dénudé, ont suscité une vive indignation.
Le tribunal fédéral de San José (Californie) a reçu la plainte qui évoque un individu ayant utilisé Grok pour transformer des photos innocentes des filles, issues de leurs profils sur les réseaux sociaux ou de leur annuaire scolaire, en images sexualisées. Ces contenus ont été diffusés sur X (ex-Twitter), Discord et Telegram, et ont atteint le dark web, devenant ainsi une monnaie d'échange pour divers contenus illégaux, révèle la plainte.
« Voir ma fille en situation de crise, réalisant que ces images avaient été créées et diffusées sans possibilité de les effacer, a été déchirant », a témoigné la mère d'un des plaignants. D'après les avocates, l'une des adolescentes souffre de cauchemars récurrents, tandis qu'une autre nécessite un suivi médical pour retrouver le sommeil, redoutant même d'assister à sa cérémonie de diplôme.
Une responsabilité juridique contestée
xAI est accusée d'avoir délibérément conçu Grok pour produire du contenu sexuellement explicite, sans les protections mises en place par d'autres géants de l'IA contre la pédopornographie. La plainte repose sur deux lois fédérales américaines : la loi Masha, qui permet aux victimes d'obtenir réparation pour des actes de pédopornographie, et la loi sur la protection des victimes de la traite des êtres humains. Les plaignantes demandent des compensations et souhaitent que xAI soit contrainte de prévenir cette création d'images inacceptables.
Bien que les plateformes soient largement protégées juridiquement aux États-Unis, les avocats soulignent qu'« sans xAI, ces contenus illégaux n'auraient jamais vu le jour », comme le constate Annika K. Martin du cabinet Lieff Cabraser.
D'après une étude du Center for Countering Digital Hate (CCDH), Grok aurait généré près de trois millions d'images sexualisées en seulement onze jours fin 2025, dont 23 000 mettant en scène des mineurs. Face à la montée des critiques, xAI avait annoncé en janvier des mesures visant à restreindre la génération d'images via Grok à ses abonnés payants et assurer que les images à caractère sexuel seraient bloquées dans les juridictions où cela est illégal. Cependant, Elon Musk a critiqué les réglementations gouvernementales en les qualifiant de menace pour la liberté d'expression sur sa plateforme.
