Malaysia și Indonesia restricționează Grok din cauza abuzurilor AI cu conținut sexual explicit

Malaysia și Indonezia au restricționat accesul la Grok, chatbot-ul de inteligență artificială asociat cu platforma de social media a lui Elon Musk, X. Această decizie vine ca răspuns la îngrijorările că instrumentul AI este utilizat pentru a genera imagini false cu conținut sexual explicit ale unor persoane reale.

Grok permite utilizatorilor să creeze și să modifice imagini. Cu toate acestea, autoritățile din ambele țări au exprimat îngrijorări că este utilizat din ce în ce mai mult pentru a manipula fotografii în conținut revelator sau sexualizat fără consimțământ. Reglementatorii au evidențiat riscurile pentru femei și copii, afirmând că instrumentul ar putea fi ușor folosit greșit pentru a produce deepfake-uri pornografice.

Malaysia și Indonezia sunt acum primele țări din lume care blochează complet Grok, adoptând o poziție fermă împotriva instrumentelor AI despre care autoritățile consideră că avansează mai rapid decât reglementările de siguranță.

Grok depășește liniile legale și sociale

Reglementatorii sunt preocupați de probleme mai ample dincolo de un singur chatbot, deoarece creșterea imaginilor sexuale generate de AI relevă lacune în legile privind siguranța online și prezintă riscuri pentru utilizatori. În Malaysia, regulatorul comunicațiilor a remarcat că anterior a avertizat X cu privire la utilizarea greșită a AI-ului său, dar a considerat că răspunsul companiei a prioritizat raportarea utilizatorilor în detrimentul abordării problemei de bază.

Ministerul afacerilor digitale din Indonezia a subliniat necesitatea demnității și a drepturilor omului, afirmând că instrumentele AI care creează conținut sexual fără consimțământ dăunează încrederii publice și pun în pericol grupurile vulnerabile. Guvernul a solicitat X să explice cum este controlat și moderat Grok.

Interdicția reflectă, de asemenea, poziția de lungă durată a Indoneziei cu privire la conținutul online. Țara a blocat anterior platforme precum Pornhub și OnlyFans, iar oficialii consideră imaginile sexuale generate de AI ca o extensie a aceleiași probleme, acum livrată prin tehnologie mai nouă.

De asemenea, citiți: Înăuntrul crizei pornografiei deepfake a lui Grok și confruntarea legală viitoare

Controversa Grok atrage atenție dincolo de Asia de Sud-Est. În Regatul Unit, reglementatorii evaluează în prezent dacă X respectă reglementările privind siguranța online. În plus, liderii politici au criticat public utilizarea tehnologiei pentru a crea imagini false explicite.

Pentru utilizatori, impactul este personal. Unele persoane ale căror imagini au fost alterate folosind Grok raportează că raportarea conținutului a făcut puțin pentru a preveni răspândirea acestuia. În anumite cazuri, încurajarea altora de a raporta postările a dus doar la mai multe persoane care au văzut imaginile false, exacerbând prejudiciul.

Reacția negativă crescândă îl determină pe X să reconsidere modul în care funcționează Grok, mai ales pe măsură ce guvernele încep să vadă instrumentele AI ca produse reglementate, mai degrabă decât caracteristici experimentale.

Postarea Malaysia și Indonezia restricționează Grok din cauza abuzului AI cu conținut sexual explicit a apărut prima dată pe Technext.