Dentro de la crisis de pornografía deepfake de Grok y el ajuste de cuentas legal que se avecina

Una crisis silenciosa está creciendo en las redes sociales. Está impulsada por la inteligencia artificial generativa y alimentada por actores malintencionados que saben exactamente cómo explotar sus puntos más débiles.

En el centro de la tormenta está Grok, el chatbot desarrollado por xAI de Elon Musk. Comercializado como "sin filtros" y más permisivo que sus rivales, Grok se ha convertido en una herramienta de elección para usuarios que crean pornografía deepfake no consentida, o NCDP.

El proceso es inquietantemente simple. Se sube una foto normal. Se le indica a la IA que "desnude" al sujeto. El resultado es una imagen sexualizada creada sin consentimiento. La víctima podría ser una celebridad mundial, un particular o incluso un niño.

Esto no es un comportamiento marginal. Está ocurriendo a gran escala.

Aunque la controversia lleva ya un tiempo, con fuegos artificiales legales ya en marcha en toda Europa. Se intensificó el miércoles después de que una influencer nigeriana y estrella de telerrealidad, Anita Natacha Akide, conocida popularmente como Tacha, se dirigiera públicamente a Grok en X.

En una publicación directa, declaró claramente que no permitía que ninguna de sus fotos o videos fuera editada, alterada o remezclada de ninguna forma.

Su solicitud no detuvo a los usuarios. En cuestión de horas, otros demostraron que Grok aún podía ser inducido a manipular sus imágenes.

El incidente expuso un problema más profundo. Las declaraciones de consentimiento significan poco cuando las plataformas carecen de salvaguardas ejecutables. También planteó serias cuestiones legales y éticas que van mucho más allá de una influencer o una herramienta de IA.

Para entender las implicaciones, hablé con el Senador Ihenyen, abogado de tecnología y entusiasta de la IA, y socio principal de Infusion Lawyers. Su evaluación fue contundente.

Describe la situación de Grok como "una epidemia digital". En sus palabras, la IA generativa está siendo convertida en arma por usuarios maliciosos que entienden cómo empujar sistemas sin filtros más allá de los límites éticos. El daño, dice, es real, invasivo y profundamente depredador.

Crucialmente, Ihenyen rechaza la idea de que la nueva tecnología existe en un vacío legal. La ley, argumenta, ya se está poniendo al día.

En Nigeria, puede que aún no haya una Ley de IA única. Sin embargo, eso no significa que las víctimas no estén protegidas. En cambio, existe lo que él llama un escudo legal multicapa.

En el corazón de esto está la Ley de Protección de Datos de Nigeria de 2023. Según la Ley, el rostro, la voz y la apariencia de una persona se clasifican como datos personales. Cuando los sistemas de IA procesan estos datos, están sujetos a reglas estrictas.

Senador Ihenyen, socio principal de Infusion Lawyers y presidente ejecutivo de la Asociación de Proveedores de Servicios de Activos Virtuales

Las víctimas tienen derecho a oponerse al procesamiento automatizado que causa daño. Cuando se crean deepfakes sexualizados, la IA está procesando datos personales sensibles. Eso requiere consentimiento explícito. Sin él, las plataformas y operadores están en terreno legal inestable.

También hay un elemento disuasorio financiero. Las quejas pueden presentarse ante la Comisión de Protección de Datos de Nigeria. Las sanciones pueden incluir tarifas correctivas de hasta ₦10 millones o el dos por ciento de los ingresos brutos anuales de una empresa.

Para las plataformas globales, eso llama la atención rápidamente.

Grok: los creadores de pornografía deepfake no consentida son responsables

Los usuarios que crean las imágenes tampoco están protegidos. Bajo la Ley de Ciberdelitos de Nigeria, enmendada en 2024, pueden aplicarse varios delitos. Usar IA para desnudar o sexualizar a alguien para acosarlo o humillarlo puede equivaler a ciberacoso. Simular la apariencia de alguien con fines maliciosos puede constituir robo de identidad.

Cuando están involucrados menores, la ley es inflexible. El material de abuso sexual infantil generado por IA se trata igual que la fotografía física. No hay defensa basada en la novedad, el humor o la experimentación. Es un delito penal grave.

Lea también: xAI obtiene $20 mil millones en Serie E sobresuscrita mientras Nvidia y Cisco hacen apuesta estratégica

Para las víctimas, el camino legal puede resultar abrumador. Ihenyen recomienda un enfoque práctico, paso a paso.

Primero está la notificación formal de eliminación. Según el Código de Práctica NITDA de Nigeria, las plataformas como X deben tener representación local. Una vez notificadas, deben actuar rápidamente. No hacerlo arriesga perder las protecciones de puerto seguro y abre la puerta a demandas directas.

Deepfake

Segundo está la defensa impulsada por tecnología. Herramientas como StopNCII permiten a las víctimas crear una huella digital de la imagen. Esto ayuda a las plataformas a bloquear una mayor distribución sin obligar a las víctimas a subir repetidamente contenido dañino.

Tercero está la escalada regulatoria. Reportar a la plataforma no es suficiente. Reportar a los reguladores es importante. Las autoridades pueden obligar a las empresas a deshabilitar funciones específicas de IA si se abusa de ellas constantemente.

El problema no se detiene en las fronteras.

Muchos perpetradores operan desde fuera de Nigeria. Según Ihenyen, esto ya no es la barrera que solía ser. La Convención de Malabo, que entró en vigor en 2023, permite la asistencia legal mutua entre países africanos. Las agencias de aplicación de la ley pueden colaborar para rastrear y procesar a los delincuentes, independientemente de su ubicación.

Eso deja la pregunta más incómoda. ¿Por qué se permite que herramientas como Grok funcionen de esta manera?

xAI presenta el diseño de Grok como un compromiso con la apertura. Ihenyen ve una imagen diferente. Desde una perspectiva legal, "sin filtros" no es una defensa. Es un riesgo; no puede ser una excusa para el daño o la ilegalidad.

Grok

Hace una analogía simple. No se puede construir un automóvil sin frenos y culpar al conductor del accidente. Lanzar sistemas de IA sin controles de seguridad robustos, y luego actuar sorprendido cuando ocurre daño, puede equivaler a negligencia.

Bajo las leyes de protección al consumidor de Nigeria, los productos inseguros atraen responsabilidad. Las políticas nacionales de IA propuestas también enfatizan la "seguridad por diseño". La dirección del viaje es clara.

La innovación en IA no es el problema. La IA sin rendición de cuentas sí lo es.

La controversia de Grok es un disparo de advertencia. Muestra cuán rápidamente las herramientas poderosas pueden volverse contra las personas, especialmente mujeres y niños. También muestra que el consentimiento, la dignidad y los derechos personales deben estar integrados en la tecnología, no agregados después de que ocurra el daño.

La publicación Dentro de la crisis de pornografía deepfake de Grok y el ajuste de cuentas legal que se avecina apareció primero en Technext.