Tokio se une a la represión global contra Grok por imágenes de IA abusivas

El viernes, Japón anunció que está investigando X debido a las imágenes inapropiadas generadas por el servicio de IA de Musk, Grok. El gobierno planea explorar todas las medidas para detener la creación de imágenes inapropiadas.

La ministra de Seguridad Económica Kimi Onoda declaró que la Oficina del Gabinete de Japón pidió a X que hiciera mejoras inmediatas, pero la compañía aún no ha respondido.

Tokio presiona a X por respuestas sobre los controles de Grok

Los funcionarios de Tokio enviaron preguntas por escrito a X sobre las medidas para detener los deepfakes y las imágenes que vulneran la privacidad, la propiedad intelectual y los derechos de imagen.

Onoda, quien también es ministra de Estado para la estrategia de IA, dijo en una conferencia de prensa el viernes que se están considerando todas las opciones, incluidas acciones legales, si no hay mejoras. Añadió que responderán si surgen problemas similares en otras plataformas de redes sociales.

La ministra dijo que es preocupante que las personas aún puedan generar tales imágenes. Sin embargo, señaló que la IA en sí no es la culpable. Cree que el gobierno japonés debe explorar varias soluciones al verdadero problema.

Onoda habló después de que Gran Bretaña y Canadá anunciaran que están avanzando sus investigaciones sobre Grok.

Japón busca regular la IA mientras busca rivalizar con EE. UU. y China en este campo vital. Su ley de IA, vigente desde septiembre, no tiene sanciones y restringe la acción del gobierno a investigaciones y orientación oficial para violaciones.

Autoridades de todo el mundo actúan contra Grok

Las autoridades de todo el mundo han buscado restringir el chatbot de IA después de que los usuarios descubrieran que podía producir imágenes sexualizadas de mujeres y menores.

Este mes, Grok enfrentó fuertes críticas de usuarios y gobiernos en países desde Malasia hasta Italia por la facilidad con que podía usarse para alterar fotos de manera sexual o degradante

Filipinas e Indonesia han prohibido temporalmente el acceso a Grok debido a la generación de imágenes explícitas.

Canadá, California, la UE y miembros de la UE como Francia están examinando si las imágenes de Grok infringen las leyes locales.

El miércoles por la noche, xAI anunció cambios para evitar que los usuarios de Grok alteren imágenes de personas reales usando ropa reveladora como bikinis.

xAI declaró que restringe a los usuarios por ubicación de crear imágenes de personas con ropa reveladora donde es ilegal, pero no especificó qué áreas.

Desde entonces, ha limitado sus funciones de generación de imágenes y las ha colocado detrás de un muro de pago.

El miércoles, Elon Musk declaró que no tenía conocimiento de ninguna imagen de desnudos de menores creada por Grok. 

Él dijo que "no tengo conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente cero. Obviamente, Grok no genera imágenes espontáneamente, lo hace solo según las solicitudes de los usuarios".

Aproximadamente una imagen se sube cada minuto en X, según Copyleaks. Genevieve Oh, una investigadora independiente de internet, revisó las publicaciones de @Grok en X durante 24 horas. Aproximadamente 6.700 imágenes por hora generadas por el chatbot fueron marcadas como sexualmente sugestivas o desnudificadoras.

Hazte visible donde importa. Anuncia en Cryptopolitan Research y llega a los inversores y constructores más perspicaces de cripto.