Meta è di nuovo sotto accusa, poiché recenti scoperte pubblicate da Reuters mostrano che i suoi strumenti di intelligenza artificiale hanno permesso la creazione di immagini deepfake e chatbot che impersonano celebrità popolari come Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez, senza il loro consenso.
L'indagine ha scoperto che la maggior parte dei bot sono stati creati dagli utenti attraverso la piattaforma chatbot IA di Meta. Tuttavia, alcuni sono stati creati internamente da un dipendente di Meta.
Alcuni degli account chatbot parodia di Taylor Swift insistevano di essere la vera cantante, e spesso facevano avances flirtatious e incoraggiavano incontri.
I Rapporti Implicano Meta nello Scandalo degli Avatar Flirtatious
Reuters ha riferito che diverse settimane di test hanno rivelato che i chatbot di celebrità, disponibili sulle piattaforme Facebook, Instagram e WhatsApp di Meta, a volte andavano ben oltre la conversazione giocosa. Gli utenti li inducevano a produrre immagini fotorealistiche di star in lingerie, in posa nelle vasche da bagno, e persino suggerendo incontri intimi.
Una scoperta preoccupante è stata la creazione di un chatbot di Walker Scobell, un attore di 16 anni. Quando gli è stata chiesta una foto in spiaggia, il bot ha generato un'immagine realistica dell'adolescente a torso nudo con la didascalia: "Carino, vero?"
Meta non è l'unica ad affrontare controlli. Anche xAI di Elon Musk è stato criticato per aver permesso agli utenti di generare immagini deepfake di celebrità in biancheria intima.
Il portavoce di Meta Andy Stone ha riconosciuto i fallimenti, affermando che gli strumenti dell'azienda non avrebbero dovuto generare né rappresentazioni intime di celebrità adulte né materiale sessualizzato che coinvolge minori.
"Come altri, permettiamo la generazione di immagini contenenti figure pubbliche, ma le nostre politiche sono intese a proibire immagini nude, intime o sessualmente suggestive," ha detto a Reuters. Ha aggiunto che le rappresentazioni in lingerie riflettevano fallimenti nell'applicazione della politica aziendale.
Le regole di Meta proibiscono la "impersonificazione diretta", ma l'azienda ha sostenuto che i bot parodia erano ammissibili se etichettati chiaramente. Tuttavia, Reuters ha scoperto che alcuni avatar non avevano alcuna dichiarazione di non responsabilità. Meta ha eliminato circa una dozzina di bot, sia parodia che non etichettati, poco prima della pubblicazione del rapporto Reuters. L'azienda ha rifiutato di commentare le rimozioni.
Le Preoccupazioni sulla Sicurezza dell'IA Potrebbero Portare a Pressioni Normative
A seguito del rapporto, Meta ha dichiarato che implementerà nuove misure di sicurezza volte a proteggere gli adolescenti, inclusa la limitazione dell'accesso dei giovani a determinati personaggi IA e il riaddestramento dei suoi modelli per ridurre i temi inappropriati.
Il procuratore generale della California Rob Bonta ha lanciato un avvertimento al settore, dicendo: "Esporre i bambini a contenuti sessualizzati è indifendibile."
In un caso tragico all'inizio di questo mese, un uomo di 76 anni con disabilità cognitive nel New Jersey è morto dopo aver tentato di incontrare un chatbot Meta che credeva fosse una donna reale. I critici affermano che tali casi evidenziano i pericoli di implementare strumenti di IA su larga scala senza adeguate protezioni.
Gli esperti legali avvertono che Meta potrebbe affrontare sfide significative secondo le leggi esistenti sulla proprietà intellettuale e sulla pubblicità. Mark Lemley, professore di diritto dell'Università di Stanford, ha affermato che lo statuto californiano sul "diritto di pubblicità" proibisce l'uso del nome o dell'immagine di un individuo per scopi commerciali senza consenso.
"Questo non sembra essere vero qui," ha detto, notando che i bot semplicemente replicavano le immagini delle celebrità piuttosto che creare opere trasformative.
Le menti crypto più intelligenti leggono già la nostra newsletter. Vuoi unirti? Unisciti a loro.
Fonte: https://www.cryptopolitan.com/meta-flirty-chatbot-of-female-celebs/
