La Comisión Europea inicia procedimientos formales contra el chatbot de IA Grok de xAI

La Comisión Europea ha abierto un procedimiento formal contra la plataforma de redes sociales X de Elon Musk después de que se descubriera que su chatbot de inteligencia artificial Grok estaba produciendo imágenes sexuales de personas reales sin su permiso, incluyendo fotografías de niños.

Las personas que usan X han estado creando versiones alteradas por IA de fotografías reales pidiendo a Grok que las cree. Un estudio publicado la semana pasada por el Centro para Contrarrestar el Odio Digital encontró que Grok produjo aproximadamente tres millones de imágenes deepfake de mujeres y niños en solo unos pocos días.

La controversia ha provocado llamados a investigaciones en varios países. En Irlanda, varios ministros del gobierno han cerrado sus cuentas de X en respuesta.

Regina Doherty, miembro del Parlamento Europeo por Fine Gael, confirmó la acción de la Comisión contra la empresa en una declaración publicada esta mañana. Dijo que apoyaba la decisión de iniciar una investigación formal.

"Cuando surgen informes creíbles de sistemas de IA que se utilizan de manera que dañan a mujeres y niños, es esencial que la ley de la UE se examine y se haga cumplir sin demora", dijo Doherty.

Agregó que el caso plantea serias preocupaciones sobre si las plataformas están cumpliendo con sus responsabilidades legales de verificar riesgos y detener la difusión de material ilegal y dañino.

Doherty enfatizó que la investigación debe resultar en consecuencias reales.

"Ninguna empresa que opere en la UE está por encima de la ley", afirmó.

También señaló que la situación muestra problemas más grandes en cómo se está regulando y monitoreando la nueva tecnología de IA, pidiendo que se tomen más medidas a nivel de la UE.

"Este caso subraya por qué la Ley de IA debe seguir siendo una legislación viva. Si se hacen evidentes brechas en la aplicación o supervisión, entonces es nuestra responsabilidad abordarlas. Las leyes de la UE deben ser aplicables en tiempo real cuando ocurren daños graves", dijo Doherty.

Investigación retrasada debido a la crisis de Groenlandia

Según la fuente de noticias alemana Handelsblatt, la Comisión había planeado iniciar el procedimiento bajo la Ley de Servicios Digitales de la UE el lunes pasado, pero la decisión se retrasó mientras el bloque lidió con las amenazas del presidente de Estados Unidos Donald Trump de apoderarse de Groenlandia.

Esta no es la primera vez que X enfrenta problemas con los reguladores de la UE. En diciembre de 2025, la plataforma recibió una multa de 120 millones de euros de la UE por violar la Ley de Servicios Digitales. Las violaciones incluyeron marcas de verificación azules engañosas, falta de transparencia sobre la publicidad e impedir que los investigadores accedieran a la plataforma.

Los funcionarios de la administración Trump tuvieron palabras fuertes sobre esa multa. El Secretario de Estado Marco Rubio y el Vicepresidente JD Vance la criticaron duramente, calificándola como un ataque a las plataformas tecnológicas estadounidenses.

Enfoque en la evaluación de riesgo y moderación de contenido

La última investigación se centra específicamente en si X evaluó adecuadamente los riesgos de su chatbot de IA y tomó suficientes medidas para prevenir la creación y difusión de contenido dañino. La Ley de Servicios Digitales requiere que las grandes plataformas en línea identifiquen y aborden los riesgos relacionados con contenido ilegal y daño a los usuarios.

La rápida producción de un volumen tan grande de imágenes inapropiadas en un período de tiempo tan corto encendió las alarmas entre los defensores de la seguridad digital y los legisladores.

La situación se ha convertido en un caso de prueba sobre cómo las regulaciones de la UE manejarán las tecnologías de IA emergentes. Aunque se ha aprobado la Ley de IA para regular los sistemas de inteligencia artificial, este caso se está llevando a cabo bajo la Ley de Servicios Digitales, que cubre las responsabilidades de las plataformas en línea.

La investigación podría llevar a multas adicionales o requisitos para que X cambie la forma en que opera Grok. La Comisión tiene el poder de imponer sanciones de hasta el seis por ciento de los ingresos anuales globales de una empresa por violaciones graves de la Ley de Servicios Digitales.

X aún no ha comentado públicamente sobre la nueva investigación. El manejo de la situación por parte de la empresa será observado de cerca mientras otros países consideran sus propias respuestas regulatorias. Múltiples naciones ya han exigido acción urgente para abordar la capacidad del chatbot de crear imágenes inapropiadas.

No solo leas noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.