Malezja i Indonezja ograniczają Grok z powodu nadużyć AI o charakterze seksualnym

Malezja i Indonezja ograniczyły dostęp do Grok, chatbota sztucznej inteligencji związanego z platformą mediów społecznościowych Elona Muska, X. Decyzja ta jest odpowiedzią na obawy, że narzędzie AI jest wykorzystywane do generowania fałszywych obrazów o charakterze seksualnym przedstawiających prawdziwe osoby.

Grok umożliwia użytkownikom tworzenie i modyfikowanie obrazów. Jednak władze w obu krajach wyraziły obawy, że jest on coraz częściej wykorzystywany do manipulowania zdjęciami w celu tworzenia treści o charakterze odsłaniającym lub seksualnym bez zgody. Organy regulacyjne podkreśliły zagrożenia dla kobiet i dzieci, stwierdzając, że narzędzie może być łatwo nadużywane do tworzenia pornograficznych deepfake'ów.

Malezja i Indonezja są obecnie pierwszymi krajami na świecie, które całkowicie zablokowały Grok, zajmując stanowcze stanowisko wobec narzędzi AI, które według władz rozwijają się szybciej niż przepisy dotyczące bezpieczeństwa.

Grok przekracza granice prawne i społeczne

Organy regulacyjne są zaniepokojone szerszymi kwestiami wykraczającymi poza pojedynczy chatbot, ponieważ wzrost liczby generowanych przez AI obrazów o charakterze seksualnym ujawnia luki w prawach dotyczących bezpieczeństwa online i stwarza zagrożenia dla użytkowników. W Malezji organ regulacyjny ds. komunikacji zauważył, że wcześniej ostrzegał X o nadużywaniu jego AI, ale uznał, że odpowiedź firmy przedkładała zgłaszanie przez użytkowników nad rozwiązanie głównego problemu.

Indonezyjskie ministerstwo spraw cyfrowych podkreśliło potrzebę godności i praw człowieka, stwierdzając, że narzędzia AI tworzące treści seksualne bez zgody szkodzą zaufaniu publicznemu i zagrażają grupom wrażliwym. Rząd poprosił X o wyjaśnienie, w jaki sposób Grok jest kontrolowany i moderowany.

Zakaz odzwierciedla również długotrwałe stanowisko Indonezji wobec treści online. Kraj wcześniej blokował platformy takie jak Pornhub i OnlyFans, a urzędnicy postrzegają generowane przez AI obrazy seksualne jako rozszerzenie tego samego problemu, teraz dostarczane za pomocą nowszej technologii.

Przeczytaj również: Wewnątrz kryzysu pornografii deepfake Grok i nadchodzącego rozliczenia prawnego

Kontrowersje wokół Grok zyskują uwagę poza Azją Południowo-Wschodnią. W Wielkiej Brytanii organy regulacyjne obecnie oceniają, czy X przestrzega przepisów dotyczących bezpieczeństwa online. Ponadto przywódcy polityczni publicznie krytykowali wykorzystywanie technologii do tworzenia wyraźnych fałszywych obrazów.

Dla użytkowników wpływ jest osobisty. Niektóre osoby, których obrazy zostały zmienione za pomocą Grok, zgłaszają, że raportowanie treści niewiele zrobiło, aby zapobiec jej rozprzestrzenianiu się. W niektórych przypadkach zachęcanie innych do zgłaszania postów skutkowało jedynie tym, że więcej osób widziało fałszywe obrazy, potęgując szkodę.

Rosnąca reakcja negatywna skłania X do ponownego rozważenia sposobu działania Grok, zwłaszcza że rządy zaczynają postrzegać narzędzia AI jako regulowane produkty, a nie funkcje eksperymentalne.

Post Malezja i Indonezja ograniczają Grok z powodu nadużyć AI o charakterze seksualnym pojawił się po raz pierwszy w Technext.