Prokurator Generalny Kalifornii Rob Bonta wysłał pismo wzywające do zaprzestania działań do xAI Elona Muska, żądając natychmiastowego zaprzestania produkcji i rozpowszechniania obraźliwych obrazów deepfake tworzonych przez chatbota Grok.
Prokurator Generalny Kalifornii opublikował pismo wzywające do zaprzestania działań w piątek w odpowiedzi na zarzuty, że Grok był wykorzystywany do tworzenia nielegalnych treści z udziałem dzieci i zdjęć dorosłych bez ich zgody, co skłoniło do wszczęcia śledztwa przez stan Kalifornia. Bonta argumentował, że tworzenie, dystrybucja, publikowanie i wyświetlanie CSAM jest nielegalne.
Prokurator Generalny Kalifornii celuje w xAI w związku z rzekomym niewłaściwym użyciem Groka
Na początku tego tygodnia biuro prokuratora generalnego Kalifornii ogłosiło, że bada xAI z powodu zarzutów, że chatbot startupu, Grok, był wykorzystywany do tworzenia nieodpowiednich zdjęć kobiet i dzieci bez ich zgody. W odpowiedzi rząd wysłał do korporacji pismo wzywające do zaprzestania działań.
Biuro prokuratora generalnego dodatkowo stwierdziło, że xAI wydaje się "ułatwiać produkcję na dużą skalę" nieodpowiednich zdjęć bez zgody, które następnie są "wykorzystywane do nękania kobiet i dziewcząt w internecie". Według biura prokuratora generalnego, jedno badanie wykazało, że ponad połowa z 20 000 zdjęć wyprodukowanych przez xAI między Bożym Narodzeniem a Nowym Rokiem przedstawiała osoby w bardzo skąpym ubraniu, z których niektóre wyglądały jak dzieci.
Rob Bonta oświadczył w ogłoszeniu, że praktyki korporacyjne naruszyły kalifornijskie prawo cywilne, w tym sekcję 1708.86 Kodeksu Cywilnego Kalifornii, sekcje 311 i nast. oraz 647(j)(4) Kodeksu Karnego Kalifornii, oraz sekcję 17200 Kodeksu Biznesu i Zawodów Kalifornii.
Departament Sprawiedliwości Kalifornii przewiduje, że xAI potwierdzi swoje wysiłki w celu rozwiązania tych problemów i podejmie natychmiastowe działania w ciągu najbliższych pięciu dni.
Jednak konto bezpieczeństwa X wcześniej potępiło tego typu zachowanie użytkowników. Wyjaśniło 4 stycznia, że podejmuje działania przeciwko nielegalnym treściom na X, takim jak CSAM, usuwając je, zawieszając konta na czas nieokreślony i współpracując z organami ścigania i władzami miejskimi w razie potrzeby.
Warto zauważyć, że 4 stycznia Elon Musk ostrzegł, że każdy, kto używa lub podpowiada Grokowi tworzenie nielegalnych treści, poniesie takie same konsekwencje, jak gdyby je przesłał.
Prokuratorzy generalni nasilają presję na firmy AI w sprawie bezpieczeństwa dzieci
niepokojący wzrost treści dla dorosłych bez zgody wynikł z rozwoju darmowych narzędzi generatywnej sztucznej inteligencji. Ten problem nęka kilka platform, nie tylko X.
Na przykład Prokurator Generalny Bonta i Prokurator Generalny Jennings z Delaware spotkali się z OpenAI we wrześniu ubiegłego roku, aby wyrazić poważne obawy dotyczące rosnącej liczby doniesień o tym, jak produkty OpenAI wchodziły w interakcje z młodzieżą.
W sierpniu tego samego roku prokurator generalny Bonta wraz z 44 innymi prokuratorami generalnymi wysłał list do 12 wiodących firm AI po doniesieniach o nieodpowiednich interakcjach między chatbotami AI a dziećmi. Listy wysłano do Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika i xAI.
Prokurator generalny Bonta i 44 prokuratorów generalnych poinformowało firmy w liście, że stany w całym kraju uważnie monitorują sposób, w jaki firmy opracowują swoje polityki bezpieczeństwa AI. Podkreślili również, że te firmy mają prawny obowiązek wobec dzieci jako konsumentów, ponieważ czerpią zyski z korzystania z ich produktów przez dzieci.
W 2023 roku prokurator generalny Bonta dołączył do dwupartyjnej koalicji 54 stanów i terytoriów w wysłaniu listu do przywódców kongresowych, opowiadając się za utworzeniem komisji ekspertów w celu zbadania potencjalnego wykorzystania AI do wykorzystywania dzieci za pomocą CSAM.
Koalicja zażądała, aby komisja ekspertów zasugerowała przepisy chroniące dzieci przed takim złym traktowaniem. "Produkcja CSAM tworzy trwały zapis wiktymizacji dziecka", według Departamentu Sprawiedliwości USA.
Jeśli to czytasz, jesteś już o krok do przodu. Zostań tam z naszym newsletterem.
Źródło: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
