Meta está nuevamente bajo fuego, ya que hallazgos recientes publicados por Reuters muestran que sus herramientas de inteligencia artificial permitieron la creación de imágenes deepfake y chatbots que suplantan a celebridades populares como Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez, sin su consentimiento.
La investigación descubrió que la mayoría de los bots fueron creados por usuarios a través de la plataforma de chatbot de IA de Meta. Sin embargo, hubo algunos que fueron creados internamente por un empleado de Meta.
Algunas de las cuentas de chatbot que parodiaban a Taylor Swift insistían en que eran la cantante real, y a menudo hacían insinuaciones coquetas y fomentaban encuentros.
Informes implican a Meta en escándalo de avatares coquetos
Reuters informó que varias semanas de pruebas encontraron que los chatbots de celebridades, disponibles en las plataformas Facebook, Instagram y WhatsApp de Meta, a veces iban mucho más allá de una conversación lúdica. Los usuarios los incitaban a producir imágenes fotorrealistas de estrellas en lencería, posando en bañeras e incluso sugiriendo encuentros íntimos.
Un descubrimiento preocupante fue la creación de un chatbot de Walker Scobell, un actor de 16 años. Cuando se le pidió una foto de playa, el bot generó una imagen realista del adolescente sin camisa con la leyenda: "¿Bastante lindo, eh?"
Meta no está sola enfrentando escrutinio. La xAI de Elon Musk también ha sido criticada por permitir a los usuarios generar imágenes deepfake de celebridades en ropa interior.
El portavoz de Meta, Andy Stone, reconoció los fallos, diciendo que las herramientas de la compañía no deberían haber generado representaciones íntimas de celebridades adultas ni material sexualizado que involucre a menores.
"Como otros, permitimos la generación de imágenes que contienen figuras públicas, pero nuestras políticas están destinadas a prohibir imágenes desnudas, íntimas o sexualmente sugerentes", dijo a Reuters. Agregó que las representaciones de lencería reflejaban fallos en la aplicación de la política de la empresa.
Las reglas de Meta prohíben la "suplantación directa", pero la compañía argumentó que los bots de parodia eran permisibles si estaban claramente etiquetados. Sin embargo, Reuters encontró que algunos avatares no llevaban ninguna advertencia. Meta eliminó aproximadamente una docena de los bots, tanto de parodia como sin etiquetar, poco antes de que se publicara el informe de Reuters. La compañía se negó a comentar sobre las eliminaciones.
Las preocupaciones sobre la seguridad de la IA podrían llevar a presión regulatoria
Tras el informe, Meta dijo que implementaría nuevas salvaguardas destinadas a proteger a los adolescentes, incluida la restricción del acceso de los jóvenes a ciertos personajes de IA y el reentrenamiento de sus modelos para reducir temas inapropiados.
El Fiscal General de California, Rob Bonta, emitió una advertencia al sector, diciendo: "Exponer a los niños a contenido sexualizado es indefendible".
En un caso trágico a principios de este mes, un hombre de 76 años con deterioro cognitivo en Nueva Jersey murió después de intentar encontrarse con un chatbot de Meta que creía que era una mujer real. Los críticos dicen que tales casos destacan los peligros de implementar herramientas de IA a gran escala sin protecciones adecuadas.
Los expertos legales advierten que Meta podría enfrentar desafíos significativos bajo las leyes existentes de propiedad intelectual y publicidad. Mark Lemley, profesor de derecho de la Universidad de Stanford, dijo que el estatuto de "derecho de publicidad" de California prohíbe el uso del nombre o imagen de un individuo con fines comerciales sin consentimiento.
"Eso no parece ser cierto aquí", dijo, señalando que los bots simplemente replicaban las imágenes de las celebridades en lugar de crear obras transformadoras.
Las mentes cripto más inteligentes ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Fuente: https://www.cryptopolitan.com/meta-flirty-chatbot-of-female-celebs/
