Comisia Europeană lansează proceduri formale împotriva chatbot-ului Grok AI al xAI

Comisia Europeană a deschis proceduri formale împotriva platformei de social media X a lui Elon Musk după ce chatbot-ul său de inteligență artificială Grok a fost descoperit producând imagini sexuale cu persoane reale fără permisiunea lor, inclusiv imagini cu copii.

Utilizatorii X au creat versiuni modificate AI ale fotografiilor reale solicitând Grok să le creeze. Un studiu publicat săptămâna trecută de Centre for Countering Digital Hate a constatat că Grok a generat aproximativ trei milioane de imagini deepfake cu femei și copii în doar câteva zile.

Controversa a generat solicitări de investigații în mai multe țări. În Irlanda, un număr de miniștri de guvern și-au închis conturile X ca răspuns.

Regina Doherty, membru al Parlamentului European din partea Fine Gael, a confirmat acțiunea Comisiei împotriva companiei într-o declarație publicată în această dimineață. Ea a declarat că susține decizia de a începe o investigație formală.

„Atunci când apar rapoarte credibile despre sistemele AI utilizate în moduri care dăunează femeilor și copiilor, este esențial ca legea UE să fie examinată și aplicată fără întârziere", a spus Doherty.

Ea a adăugat că cazul ridică preocupări serioase cu privire la respectarea de către platforme a responsabilităților lor legale de a verifica riscurile și de a opri răspândirea materialelor ilegale și dăunătoare.

Doherty a subliniat că investigația trebuie să aibă consecințe concrete.

„Nicio companie care operează în UE nu este deasupra legii", a declarat ea.

De asemenea, a remarcat că situația evidențiază probleme mai mari în modul în care noua tehnologie AI este reglementată și monitorizată, solicitând măsuri suplimentare la nivel UE.

„Acest caz subliniază de ce Actul privind AI trebuie să rămână un act legislativ viu. Dacă devin evidente lacune în aplicare sau supraveghere, atunci este responsabilitatea noastră să le abordăm. Legile UE trebuie să fie aplicabile în timp real atunci când apar prejudicii grave", a spus Doherty.

Investigație amânată din cauza crizei din Groenlanda

Conform sursei de știri germane Handelsblatt, Comisia plănuise să inițieze procedurile în conformitate cu Actul privind serviciile digitale al UE lunea trecută, dar decizia a fost amânată pe măsură ce blocul s-a confruntat cu amenințările președintelui american Donald Trump de a prelua Groenlanda.

Aceasta nu este prima dată când X se confruntă cu probleme cu autoritățile de reglementare din UE. În decembrie 2025, platforma a primit o amendă de 120 de milioane de euro de la UE pentru încălcarea Actului privind serviciile digitale. Încălcările au inclus bife albastre înșelătoare, lipsa de transparență în publicitate și împiedicarea accesului cercetătorilor la platformă.

Oficialii administrației Trump au avut cuvinte dure despre acea amendă. Secretarul de Stat Marco Rubio și vicepreședintele JD Vance au criticat-o ambii vehement, numindu-o un atac asupra platformelor tehnologice americane.

Accent pe evaluarea riscurilor și moderarea conținutului

Ultima investigație se concentrează în mod specific pe dacă X a evaluat corespunzător riscurile chatbot-ului său AI și a luat suficiente măsuri pentru a preveni crearea și răspândirea conținutului dăunător. Actul privind serviciile digitale impune platformelor online mari să identifice și să abordeze riscurile legate de conținutul ilegal și prejudiciile aduse utilizatorilor.

Producția rapidă a unui volum atât de mare de imagini inadecvate într-o perioadă atât de scurtă de timp a declanșat alarme în rândul susținătorilor siguranței digitale și al legiuitorilor.

Situația a devenit un caz test pentru modul în care reglementările UE vor gestiona tehnologiile AI emergente. Deși Actul privind AI a fost adoptat pentru a guverna sistemele de inteligență artificială, acest caz este urmărit în conformitate cu Actul privind serviciile digitale, care acoperă responsabilitățile platformelor online.

Investigația ar putea conduce la amenzi suplimentare sau cerințe pentru ca X să schimbe modul în care Grok funcționează. Comisia are puterea de a impune penalități de până la șase procente din veniturile anuale globale ale unei companii pentru încălcări grave ale Actului privind serviciile digitale.

X nu a comentat încă public cu privire la noua investigație. Modul în care compania gestionează situația va fi urmărit îndeaproape pe măsură ce alte țări își iau în considerare propriile răspunsuri de reglementare. Multiple națiuni au cerut deja acțiuni urgente pentru a aborda capacitatea chatbot-ului de a crea imagini inadecvate.

Nu vă limitați doar la a citi știrile crypto. Înțelegeți-le. Abonați-vă la newsletter-ul nostru. Este gratuit.