În interiorul crizei pornografiei deepfake a lui Grok și confruntarea juridică care urmează

O criză discretă crește pe rețelele sociale. Este alimentată de inteligența artificială generativă și stimulată de actori răi care știu exact cum să exploateze cele mai slabe puncte ale acesteia.

În centrul furtunii se află Grok, chatbot-ul dezvoltat de xAI al lui Elon Musk. Comercializat ca fiind "nefiltrat" și mai permisiv decât rivalii săi, Grok a devenit instrumentul preferat pentru utilizatorii care creează pornografie deepfake fără consimțământ, sau NCDP.

Procesul este de o simplitate alarmantă. O fotografie normală este încărcată. AI-ul este solicitat să "dezbrace" subiectul. Rezultatul este o imagine sexualizată creată fără consimțământ. Victima poate fi o celebritate globală, o persoană privată sau chiar un copil.

Acesta nu este un comportament marginal. Se întâmplă la scară largă.

Deși controversa durează de ceva timp, cu artificii legale deja în curs în toată Europa. S-a intensificat miercuri după ce o influencer nigeriană și vedetă de reality TV, Anita Natacha Akide, cunoscută popular ca Tacha, s-a adresat public lui Grok pe X.

Într-o postare directă, ea a declarat clar că nu permite ca niciuna dintre fotografiile sau videoclipurile ei să fie editate, modificate sau remixate în nicio formă.

Solicitarea ei nu i-a oprit pe utilizatori. În câteva ore, alții au demonstrat că Grok putea fi încă solicitat să îi manipuleze imaginile.

Incidentul a expus o problemă mai profundă. Declarațiile de consimțământ înseamnă puțin când platformele nu au garanții aplicabile. De asemenea, a ridicat întrebări legale și etice serioase care depășesc cu mult un singur influencer sau un singur instrument AI.

Pentru a înțelege implicațiile, am vorbit cu senatorul Ihenyen, avocat în tehnologie și entuziast AI, și partener principal la Infusion Lawyers. Evaluarea sa a fost directă.

El descrie situația Grok ca fiind "o epidemie digitală". În cuvintele sale, AI-ul generativ este transformat în armă de către utilizatori răuvoitori care înțeleg cum să împingă sistemele nefiltrate dincolo de limitele etice. Daunele, spune el, sunt reale, invazive și profund prădătoare.

Crucial, Ihenyen respinge ideea că noua tehnologie există într-un vid juridic. Legea, susține el, recuperează deja terenul.

În Nigeria, este posibil să nu existe încă o singură lege privind AI. Cu toate acestea, nu înseamnă că victimele sunt neprotejate. În schimb, există ceea ce el numește un scut legal multistratificat.

În centrul acestuia se află Legea nigeriană privind protecția datelor din 2023. În conformitate cu legea, fața, vocea și asemănarea unei persoane sunt clasificate ca date personale. Când sistemele AI prelucrează aceste date, acestea sunt supuse unor reguli stricte.

Senatorul Ihenyen, partener principal la Infusion Lawyers și președinte executiv al Asociației furnizorilor de servicii de active virtuale

Victimele au dreptul de a se opune prelucrării automate care cauzează daune. Când sunt create deepfake-uri sexualizate, AI-ul prelucrează date personale sensibile. Acest lucru necesită consimțământ explicit. Fără acesta, platformele și operatorii se află pe un teren legal nesigur.

Există, de asemenea, un factor de descurajare financiar. Plângerile pot fi depuse la Comisia nigeriană pentru protecția datelor. Sancțiunile pot include taxe remediale de până la 10 milioane ₦ sau două procente din venitul brut anual al unei companii.

Pentru platformele globale, acest lucru atrage atenția rapid.

Grok: creatorii de pornografie deepfake fără consimțământ sunt răspunzători

Utilizatorii care creează imaginile nu sunt nici ei protejați. În conformitate cu Legea nigeriană privind criminalitatea cibernetică, modificată în 2024, pot fi aplicate mai multe infracțiuni. Utilizarea AI pentru a dezbrăca sau sexualiza pe cineva pentru a-l hărțui sau umili poate echivala cu hărțuirea cibernetică. Simularea asemănării cuiva în scopuri rău intenționate poate constitui furt de identitate.

Când sunt implicați minori, legea este intransigentă. Materialul de abuz sexual al copiilor generat de AI este tratat la fel ca fotografia fizică. Nu există apărare bazată pe noutate, umor sau experimentare. Este o infracțiune penală gravă.

Citiți de asemenea: xAI obține 20 miliarde $ în seria E suprasubscrisă, Nvidia și Cisco plasând un pariu strategic

Pentru victime, calea legală poate părea copleșitoare. Ihenyen recomandă o abordare practică, pas cu pas.

Primul este un aviz formal de eliminare. În conformitate cu Codul de practică NITDA din Nigeria, platforme precum X sunt obligate să aibă reprezentare locală. Odată notificate, acestea trebuie să acționeze rapid. Nerespectarea acestui lucru riscă pierderea protecțiilor portului sigur și deschide ușa către procese directe.

Deepfake

Al doilea este apărarea bazată pe tehnologie. Instrumente precum StopNCII permit victimelor să creeze o amprentă digitală a imaginii. Acest lucru ajută platformele să blocheze distribuirea ulterioară fără a forța victimele să încarce în mod repetat conținut dăunător.

Al treilea este escaladarea regulamentară. Raportarea către platformă nu este suficientă. Raportarea către autorități contează. Autoritățile pot obliga companiile să dezactiveze caracteristici specifice AI dacă acestea sunt în mod constant abuzate.

Problema nu se oprește la granițe.

Mulți infractori operează din afara Nigeriei. Conform lui Ihenyen, aceasta nu mai este bariera care era cândva. Convenția Malabo, care a intrat în vigoare în 2023, permite asistență juridică reciprocă în țările africane. Agențiile de aplicare a legii pot colabora pentru a urmări și urmări penal infractorii, indiferent de locație.

Aceasta lasă întrebarea cea mai incomodă. De ce sunt instrumentele precum Grok permise să funcționeze în acest fel?

xAI prezintă designul lui Grok ca un angajament față de deschidere. Ihenyen vede o imagine diferită. Din perspectivă legală, "nefiltrat" nu este o apărare. Este un risc; nu poate fi o scuză pentru daune sau ilegalitate.

Grok

El face o analogie simplă. Nu poți construi o mașină fără frâne și să dai vina pe șofer pentru accident. Lansarea sistemelor AI fără controale de siguranță robuste, apoi a acționa surprins când apar daune, poate echivala cu neglijența.

În conformitate cu legile nigeriene privind protecția consumatorilor, produsele nesigure atrag răspunderea. Politicile naționale propuse privind AI subliniază, de asemenea, "siguranța prin design". Direcția de deplasare este clară.

Inovația AI nu este problema. AI-ul neresponsabil este.

Controversa Grok este un semnal de alarmă. Arată cât de rapid pot fi întoarse instrumente puternice împotriva oamenilor, în special a femeilor și copiilor. De asemenea, arată că consimțământul, demnitatea și drepturile personale trebuie integrate în tehnologie, nu adăugate după ce apar daunele.

Postarea În interiorul crizei pornografiei deepfake Grok și judecata legală care urmează a apărut prima dată pe Technext.