Meta znów znalazła się pod ostrzałem, ponieważ niedawne ustalenia opublikowane przez Reuters pokazują, że jej narzędzia sztucznej inteligencji umożliwiły tworzenie deepfake'owych obrazów i chatbotów podszywających się pod popularne gwiazdy, takie jak Taylor Swift, Scarlett Johansson, Anne Hathaway i Selena Gomez, bez ich zgody.
Dochodzenie wykazało, że większość botów została stworzona przez użytkowników za pośrednictwem platformy chatbotów AI Meta. Jednak kilka z nich zostało stworzonych wewnętrznie przez pracownika Meta.
Niektóre z parodystycznych kont chatbotów Taylor Swift upierały się, że są prawdziwą piosenkarką, często składały flirtujące propozycje i zachęcały do spotkań.
Raporty wskazują na udział Meta w skandalu z flirtującymi awatarami
Reuters poinformował, że kilkutygodniowe testy wykazały, że chatboty celebrytów, dostępne na platformach Meta - Facebook, Instagram i WhatsApp, czasami wykraczały daleko poza zabawną konwersację. Użytkownicy zachęcali je do tworzenia fotorealistycznych obrazów gwiazd w bieliźnie, pozujących w wannach, a nawet sugerujących intymne spotkania.
Jednym z niepokojących odkryć było stworzenie chatbota Walkera Scobella, 16-letniego aktora. Gdy poproszono o zdjęcie z plaży, bot wygenerował realistyczny obraz nastolatka bez koszulki z podpisem: "Całkiem ładny, co?"
Meta nie jest jedyną firmą poddaną kontroli. xAI Elona Muska również spotkało się z krytyką za umożliwienie użytkownikom generowania deepfake'owych obrazów celebrytów w bieliźnie.
Rzecznik Meta, Andy Stone, przyznał się do niepowodzeń, mówiąc, że narzędzia firmy nie powinny generować ani intymnych przedstawień dorosłych celebrytów, ani żadnych materiałów o charakterze seksualnym z udziałem nieletnich.
"Podobnie jak inni, zezwalamy na generowanie obrazów zawierających osoby publiczne, ale nasze zasady mają na celu zakazanie nagich, intymnych lub sugestywnych seksualnie obrazów" - powiedział Reutersowi. Dodał, że przedstawienia w bieliźnie odzwierciedlały niepowodzenia w egzekwowaniu polityki firmy.
Zasady Meta zabraniają "bezpośredniego podszywania się", ale firma argumentowała, że boty parodystyczne są dozwolone, jeśli są wyraźnie oznaczone. Jednak Reuters odkrył, że niektóre awatary nie miały żadnego zastrzeżenia. Meta usunęła około tuzina botów, zarówno parodystycznych, jak i nieoznaczonych, krótko przed publikacją raportu Reutersa. Firma odmówiła komentarza na temat usunięć.
Obawy dotyczące bezpieczeństwa AI mogą prowadzić do presji regulacyjnej
Po raporcie Meta zapowiedziała wprowadzenie nowych zabezpieczeń mających na celu ochronę nastolatków, w tym ograniczenie dostępu młodzieży do niektórych postaci AI i ponowne przeszkolenie swoich modeli w celu zmniejszenia nieodpowiednich tematów.
Prokurator Generalny Kalifornii Rob Bonta wydał ostrzeżenie dla sektora, mówiąc: "Narażanie dzieci na treści seksualne jest nie do obrony".
W jednym tragicznym przypadku na początku tego miesiąca, 76-letni mężczyzna z zaburzeniami poznawczymi z New Jersey zmarł po próbie spotkania z chatbotem Meta, którego uważał za prawdziwą kobietę. Krytycy twierdzą, że takie przypadki podkreślają niebezpieczeństwa związane z wdrażaniem narzędzi AI na dużą skalę bez odpowiednich zabezpieczeń.
Eksperci prawni ostrzegają, że Meta może stanąć przed znaczącymi wyzwaniami w ramach istniejących przepisów dotyczących własności intelektualnej i publicity. Mark Lemley, profesor prawa na Uniwersytecie Stanforda, powiedział, że kalifornijski statut "prawa do publicity" zabrania wykorzystywania nazwiska lub podobizny osoby do celów komercyjnych bez zgody.
"To nie wydaje się być prawdą w tym przypadku" - powiedział, zauważając, że boty po prostu replikowały wizerunki celebrytów, zamiast tworzyć transformacyjne dzieła.
Najbystrzejsze umysły kryptowalutowe już czytają nasz newsletter. Chcesz dołączyć? Dołącz do nich.
Źródło: https://www.cryptopolitan.com/meta-flirty-chatbot-of-female-celebs/
