Niemcy ostrzegają platformy społecznościowe przed rozprzestrzenianiem fałszywych obrazów Holokaustu wygenerowanych przez AI

Niemcy ostrzegły platformy mediów społecznościowych w związku z rozprzestrzenianiem się fałszywych obrazów Holokaustu generowanych przez AI. Rząd i instytucje pamięci Holokaustu zwróciły się do platform mediów społecznościowych o powstrzymanie rozprzestrzeniania fałszywych obrazów, które ich zdaniem zniekształcają i trywializują historię.

Obawy wyraziły miejsca pamięci obozów koncentracyjnych i centra dokumentacji w niedawnym liście, krytykując wzrost tak zwanych AI slop lub sfałszowanych obrazów, dotyczących zabijania przez nazistów ponad sześciu milionów Żydów w Niemczech podczas II wojny światowej. Obrazy te obejmują emocjonalne ilustracje wymyślonych incydentów, takich jak spotkania więźniów obozów koncentracyjnych z ich wyzwolicielami lub dzieci za drutami kolczastymi.

Niemcy chcą zatrzymać rozprzestrzenianie się fałszywych obrazów Holokaustu generowanych przez AI

W liście wysłanym przez organizacje zauważono, że treści generowane przez AI zniekształcają historię poprzez trywializowanie poważnych wydarzeń, które miały miejsce dawno temu. Wspomniano, że takie obrazy mogą podsycać nieufność wśród użytkowników wobec autentycznych dokumentów historycznych. Wolfram Weimer, niemiecki minister stanu ds. kultury i mediów, wspomniał, że popiera kroki i wysiłki podjęte przez instytucje pamięci w tej sprawie, ujawniając, że to właściwy krok.

Wolfram wspomniał również, że popiera ich decyzję o oznakowaniu obrazów dawnych incydentów generowanych przez AI i, w razie potrzeby, usunięciu ich z platform mediów społecznościowych. Wspomniał, że jest to kwestia szacunku dla milionów ludzi, którzy zostali zabici i prześladowani pod nazistowskim reżimem terroru w Niemczech. Zgodnie z listem instytucji pamięci zauważono, że twórcy obrazów najwyraźniej używają ich do generowania uwagi online i zarabiania pieniędzy.

Organizacje wspomniały również, że sprawcy częściowo zamierzali rozwodnić fakty, zmienić role ofiar i sprawców oraz rozprzestrzeniać rewizjonistyczne narracje. Instytucje obejmują centra pamięci dla Belsen, Buchenwald, Dachau i innych obozów koncentracyjnych, w których zabijano Żydów, a także innych, w tym Romów i Sinti. Poprosiły platformy mediów społecznościowych o proaktywne działanie przeciwko fałszywym obrazom AI dotyczącym Holokaustu, zamiast czekać, aż użytkownicy je zgłoszą.

Organizacje zajmujące się Holokaustem chcą oznakowania obrazów generowanych przez AI

Ponadto poprosiły platformy o ich wyraźne oznakowanie, ponieważ uważają, że uniemożliwi to użytkownikom, którzy wygenerowali obrazy, zarabianie na nich. Rozprzestrzenianie się niskiej jakości AI slop, który obejmuje fałszywe teksty, obrazy lub filmy, wywołało alarm wśród wielu ekspertów. Uważają oni, że zanieczyszczy to krajobraz informacyjny i utrudni użytkownikom oddzielenie prawdy od fałszu. Incydent następuje po tym, z czym obecnie borykają się firmy AI, w szczególności xAI Elona Muska, która jest właścicielem chatbota Grok.

Firma była pod presją w ciągu ostatnich kilku tygodni z powodu niektórych użytkowników generujących tysiące zseksualizowanych deepfake'owych obrazów kobiet i nieletnich i rozprzestrzeniających je na kilku platformach mediów społecznościowych. To zagrożenie sprawiło, że liderzy kilku krajów wezwali firmę do porządku, a inni poprosili ich o opracowanie odpowiednich zabezpieczeń w celu rozwiązania incydentów. Kraje takie jak Indonezja ogłosiły również tymczasowy zakaz chatbota do czasu rozwiązania wszystkich problemów.

Tymczasem platforma potwierdziła, że geoblokuje możliwość generowania deepfake'ów przez użytkowników Grok i X w lokalizacjach, gdzie takie działania są oznaczone jako nielegalne. Pozostaje jednak do zobaczenia, czy nowe zabezpieczenia będą miały zastosowanie do jej samodzielnej aplikacji czy strony internetowej. Pozostaje również do zobaczenia, czy środki te powstrzymają użytkowników przed generowaniem tego rodzaju obrazów, czy też zmuszą ich do szukania nowych sposobów dostępu do usługi.

Nie tylko czytaj wiadomości kryptowalutowe. Zrozum je. Zapisz się do naszego newslettera. Jest darmowy.

Źródło: https://www.cryptopolitan.com/germany-warns-spread-ai-holocaust-images/