دادستان کل کالیفرنیا، راب بونتا، نامهای مبنی بر توقف و خودداری به xAI ایلان ماسک ارسال کرد و از این شرکت خواست فوراً تولید و انتشار تصاویر دیپفیک توهینآمیز تولید شده توسط چتبات Grok خود را متوقف کند.
دادستان کل کالیفرنیا نامه توقف و خودداری را روز جمعه منتشر کرد در پاسخ به ادعاهایی مبنی بر اینکه Grok برای ایجاد محتوای غیرقانونی شامل کودکان و عکسهای بزرگسالان بدون رضایت استفاده میشود که باعث تحقیقات ایالتی کالیفرنیا شد. بونتا استدلال کرد که ایجاد، توزیع، انتشار و نمایش CSAM غیرقانونی است.
دادستان کل کالیفرنیا xAI را به دلیل سوء استفاده ادعایی از Grok هدف قرار داد
اوایل این هفته، دفتر دادستان کل کالیفرنیا اعلام کرد که به دلیل ادعاهایی مبنی بر اینکه چتبات این استارتآپ، Grok، برای تولید تصاویر نامناسب و بدون رضایت از زنان و کودکان استفاده میشود، در حال بررسی xAI است. در پاسخ، دولت نامه توقف و خودداری را به این شرکت ارسال کرد.
دفتر دادستان کل همچنین ادعا کرد که به نظر میرسد xAI "تولید در مقیاس بزرگ" عکسهای نامناسب و بدون رضایت را "تسهیل میکند" که سپس "برای آزار زنان و دختران در سراسر اینترنت استفاده میشود." به گفته دفتر دادستان کل، یک تحقیق نشان داد که بیش از نیمی از 20000 عکس تولید شده توسط xAI بین کریسمس و سال نو افرادی را نشان میدهد که لباس بسیار کمی بر تن دارند که برخی از آنها شبیه کودکان هستند.
راب بونتا در اعلامیه ادعا کرد که رویههای شرکتی قوانین مدنی کالیفرنیا از جمله بخش 1708.86 قانون مدنی کالیفرنیا، بخشهای 311 و بعد از آن و 647(j)(4) قانون جزایی کالیفرنیا، و بخش 17200 قانون تجارت و حرفههای کالیفرنیا را نقض کرده است.
وزارت دادگستری کالیفرنیا انتظار دارد xAI تلاشهای خود را برای رسیدگی به این مسائل تأیید کرده و طی پنج روز آینده اقدام فوری برای حل آنها انجام دهد.
با این حال، حساب امنیت X قبلاً این نوع رفتار کاربر را محکوم کرده بود. این حساب در 4 ژانویه روشن کرد که علیه محتوای غیرقانونی در X، مانند CSAM، با حذف آن، تعلیق حسابها به طور نامحدود و همکاری با مقامات قانونی و دولتهای شهری در صورت نیاز اقدام میکند.
قابل ذکر است که در 4 ژانویه، ایلان ماسک هشدار داد که هر کسی که از Grok برای ایجاد محتوای غیرقانونی استفاده کند یا آن را درخواست کند، با همان عواقبی مواجه خواهد شد که گویی آن را آپلود کرده است.
دادستانهای کل فشار بر شرکتهای هوش مصنوعی را در مورد ایمنی کودکان تشدید میکنند
افزایش نگرانکننده محتوای بزرگسالان بدون رضایت ناشی از توسعه ابزارهای رایگان هوش مصنوعی مولد بوده است. این مسئله چندین پلتفرم را آزار میدهد، نه فقط X.
برای مثال، دادستان کل بونتا و دادستان کل جنینگز از دلاور در سپتامبر سال گذشته با OpenAI ملاقات کردند تا نگرانیهای جدی خود را در مورد تعداد رو به رشد گزارشها درباره نحوه تعامل محصولات OpenAI با جوانان ابراز کنند.
در آگوست همان سال، دادستان کل بونتا به همراه 44 دادستان کل دیگر، نامهای به 12 شرکت پیشرو هوش مصنوعی ارسال کردند به دنبال گزارشهایی درباره تعاملات نامناسب بین چتباتهای هوش مصنوعی و کودکان. این نامهها به Anthropic، Apple، Chai AI، Google، Luka Inc.، Meta، Microsoft، Nomi AI، OpenAI، Perplexity AI، Replika و xAI ارسال شد.
دادستان کل بونتا و 44 دادستان کل در نامه به شرکتها اطلاع دادند که ایالتهای سراسر کشور از نزدیک نحوه توسعه سیاستهای امنیتی هوش مصنوعی شرکتها را زیر نظر دارند. آنها همچنین تأکید کردند که این کسبوکارها تعهد قانونی به کودکان به عنوان مصرفکنندگان دارند زیرا از استفاده کودکان از محصولات خود سود میبرند.
در سال 2023، دادستان کل بونتا به ائتلاف دوحزبی 54 ایالت و قلمرو پیوست و نامهای به رهبران کنگره ارسال کرد و از تشکیل یک کمیته کارشناسی برای بررسی استفاده بالقوه از هوش مصنوعی برای سوء استفاده از کودکان از طریق CSAM حمایت کرد.
ائتلاف درخواست کرد که کمیسیون کارشناسی قوانینی را برای محافظت از کودکان در برابر چنین سوء رفتاری پیشنهاد کند. به گفته وزارت دادگستری ایالات متحده، "تولید CSAM یک سابقه دائمی از قربانی شدن کودک ایجاد میکند."
اگر این را میخوانید، از قبل جلوتر هستید. با خبرنامه ما آنجا بمانید.
منبع: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
