La Commission européenne lance une procédure formelle contre le chatbot Grok AI de xAI

La Commission européenne a ouvert une procédure formelle contre la plateforme de médias numériques d'Elon Musk, X, après que son chatbot d'intelligence artificielle Grok a été découvert produisant des images sexuelles de personnes réelles sans leur permission, y compris des images d'enfants.

Les utilisateurs de X créent des versions modifiées par l'IA de photographies réelles en demandant à Grok de les créer. Une étude publiée la semaine dernière par le Centre for Countering Digital Hate a révélé que Grok a produit environ trois millions d'images deepfake de femmes et d'enfants en quelques jours seulement.

La controverse a suscité des appels à des enquêtes dans plusieurs pays. En Irlande, plusieurs ministres du gouvernement ont fermé leurs comptes X en réponse.

Regina Doherty, membre du Parlement européen de Fine Gael, a confirmé la décision de la Commission contre l'entreprise dans une déclaration publiée ce matin. Elle a déclaré qu'elle soutenait la décision de lancer une enquête formelle.

« Lorsque des rapports crédibles font état de systèmes d'IA utilisés de manière à nuire aux femmes et aux enfants, il est essentiel que la législation européenne soit examinée et appliquée sans délai », a déclaré Doherty.

Elle a ajouté que cette affaire soulève de sérieuses préoccupations quant au respect par les plateformes de leurs responsabilités légales en matière d'évaluation des risques et de prévention de la diffusion de contenus illégaux et nuisibles.

Doherty a souligné que l'enquête doit aboutir à des conséquences réelles.

« Aucune entreprise opérant dans l'UE n'est au-dessus de la loi », a-t-elle déclaré.

Elle a également souligné que la situation révèle des problèmes plus importants dans la manière dont les nouvelles technologies d'IA sont réglementées et surveillées, demandant que davantage de mesures soient prises au niveau de l'UE.

« Cette affaire souligne pourquoi l'AI Act doit rester une législation vivante. Si des lacunes dans l'application ou la surveillance deviennent évidentes, il est de notre responsabilité de les combler. Les lois de l'UE doivent être applicables en temps réel lorsque des préjudices graves se produisent », a déclaré Doherty.

Enquête retardée en raison de la crise du Groenland

Selon la source d'information allemande Handelsblatt, la Commission avait prévu de lancer la procédure en vertu du Digital Services Act de l'UE lundi dernier, mais la décision a été reportée alors que le bloc faisait face aux menaces du président américain Donald Trump de s'emparer du Groenland.

Ce n'est pas la première fois que X est confronté à des problèmes avec les régulateurs de l'UE. En décembre 2025, la plateforme a reçu une amende de 120 millions d'euros de l'UE pour avoir enfreint le Digital Services Act. Les violations comprenaient des coches bleues trompeuses, un manque de transparence en matière de publicité et l'empêchement des chercheurs d'accéder à la plateforme.

Les responsables de l'administration Trump ont eu des mots forts concernant cette amende. Le secrétaire d'État Marco Rubio et le vice-président JD Vance l'ont tous deux critiquée sévèrement, la qualifiant d'attaque contre les plateformes technologiques américaines.

Focus sur l'évaluation des risques et la modération du contenu

La dernière enquête se concentre spécifiquement sur la question de savoir si X a correctement évalué les risques de son chatbot IA et a pris suffisamment de mesures pour empêcher la création et la diffusion de contenus nuisibles. Le Digital Services Act exige que les grandes plateformes en ligne identifient et traitent les risques liés aux contenus illégaux et aux préjudices pour les utilisateurs.

La production rapide d'un volume aussi important d'images inappropriées en si peu de temps a tiré la sonnette d'alarme parmi les défenseurs de la sécurité numérique et les législateurs.

La situation est devenue un cas test pour la manière dont les réglementations de l'UE traiteront les technologies d'IA émergentes. Bien que l'AI Act ait été adopté pour régir les systèmes d'intelligence artificielle, cette affaire est poursuivie en vertu du Digital Services Act, qui couvre les responsabilités des plateformes en ligne.

L'enquête pourrait entraîner des amendes supplémentaires ou des exigences pour que X modifie le fonctionnement de Grok. La Commission a le pouvoir d'imposer des sanctions pouvant atteindre six pour cent du chiffre d'affaires annuel mondial d'une entreprise pour des violations graves du Digital Services Act.

X n'a pas encore commenté publiquement la nouvelle enquête. La gestion de la situation par l'entreprise sera surveillée de près alors que d'autres pays envisagent leurs propres réponses réglementaires. Plusieurs nations ont déjà exigé une action urgente pour traiter la capacité du chatbot à créer des images inappropriées.

Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.