گروک: X استفاده از کاربران برای ویرایش تصاویر افراد واقعی را پس از واکنش منفی بین‌المللی محدود می‌کند

شرکت هوش مصنوعی ایلان ماسک، xAI، اقداماتی را برای تشدید کنترل‌ها بر روی ویژگی تولید تصویر Grok خود معرفی کرده است. این تصمیم پس از نگرانی فزاینده در مورد نحوه ویرایش عکس‌های افراد واقعی توسط کاربران در پلتفرم X اتخاذ شد. 

تنظیم‌کننده‌ها، گروه‌های حقوقی و رسانه‌ها در مورد سوء استفاده از این ابزار برای تولید محتوای پورنوگرافی دیپ فیک بدون رضایت هشدار داده‌اند. واکنش منفی از آمریکا تا اروپا و در سراسر آفریقا یکپارچه بوده است.

گزارش‌های مقامات و روزنامه‌نگاران که نشان می‌دادند Grok برای تولید محتوای صریح بدون رضایت استفاده می‌شود، xAI را وادار به اقدام کرد. 

طبق گفته تیم امنیتی شرکت، محافظت‌های جدید اکنون همه کاربران را از ویرایش تصاویر افراد واقعی به لباس‌های نمایان مانند بیکینی یا لباس زیر در حوزه‌های قضایی که چنین محتوایی قوانین محلی را نقض می‌کند، مسدود می‌کنند. این اقدام برای همه، از جمله مشترکان ممتاز اعمال می‌شود.

دیپ فیک

این تغییر نشان‌دهنده تحول قابل توجهی برای Grok است. شکایات قبلی توضیح داده بودند که چگونه کاربران می‌توانستند به هوش مصنوعی دستور دهند تا عکس‌ها را "برهنه" کند یا تغییر دهد تا تصاویر دیپ فیک از زنان و نوجوانان ایجاد کند. تحقیقات در کالیفرنیا می‌گویند بیش از نیمی از ده‌ها هزار تصویر تولید شده در یک دوره تعطیلات اخیر افرادی را در لباس‌های حداقلی نشان می‌داد و برخی از آنها به نظر می‌رسید زیر سن قانونی باشند. آن بررسی قانونی به انتقادات وزن بیشتری داد.

ویژگی‌های تصویری Grok از xAI، اکنون به شدت کنترل می‌شوند

در پستی در دسته امنیتی رسمی خود، X گفت که در حالی که ویژگی‌های تصویری Grok اکنون به شدت کنترل می‌شوند، به طور کامل حذف نشده‌اند. ایجاد و ویرایش تصویر از طریق Grok همچنان در دسترس خواهد بود، اما فقط برای مشترکان پولی در پلتفرم X. 

شرکت گفت این امر پاسخگویی را بهبود می‌بخشد و به ردیابی سوء استفاده کمک می‌کند. مسدودسازی جغرافیایی نیز در کشورهایی که چنین محتواهایی غیرقانونی است معرفی شده است که به طور مؤثر کاربران در آن مناطق را از تولید محتوای مشکل‌دار متوقف می‌کند.

کنترل‌های تشدید شده منتقدان را ساکت نکرده است. برخی از تنظیم‌کننده‌ها و ناظران گفته‌اند که اقدامات همچنان ناکافی است. 

گزارش‌های رسانه‌ای و آزمایش‌های تحقیقاتی نشان می‌دهند که محافظت‌ها می‌توانند در برخی موارد دور زده شوند. منتقدان استدلال می‌کنند که قرار دادن قابلیت‌های مضر پشت دیوار پرداخت از وجود آنها جلوگیری نمی‌کند بلکه آنها را پشت دیوار اشتراک قرار می‌دهد. دیگران اشاره می‌کنند که اپلیکیشن مستقل Grok و پورتال وب همچنان اجازه دستکاری تصویر خاصی را بدون محدودیت‌های مشابه می‌دهند.

فشار بین‌المللی نیز در حال گسترش است. مقامات دولتی در کالیفرنیا، اتحادیه اروپا و چندین کشور آسیایی همگی نگرانی خود را در مورد سوء استفاده از دیپ فیک ابراز کرده‌اند. 

برخی از تنظیم‌کننده‌ها اکنون در حال بررسی یا پیگیری اقدام قانونی علیه xAI و X برای انجام ندادن کافی برای جلوگیری از ایجاد تصاویر شکارچی یا استثماری در پلتفرم خود هستند. در پاسخ، کمیسیون اروپا گفته است که محافظت‌های جدید را ارزیابی خواهد کرد تا اطمینان حاصل کند که واقعاً از شهروندان محافظت می‌کنند.

این اپیزود در میانه بحث گسترده‌تری در مورد چگونگی مدیریت مسئولانه هوش مصنوعی تولیدی رخ می‌دهد. تحلیل اخیر ما برجسته کرد که طراحی "فیلتر نشده" Grok آن را به ویژه در برابر سوء استفاده آسیب‌پذیر کرده و آن را به ابزاری برای تولید پورنوگرافی دیپ فیک بدون رضایت در مقیاس بزرگ تبدیل کرده است. آن مقاله بررسی کرد که چگونه ترکیب محافظت‌های سست و مدل‌های تولیدی قدرتمند می‌تواند به سرعت به یک بحران اجتماعی و قانونی تبدیل شود اگر به آن رسیدگی نشود.

در حال حاضر، xAI اعلام می‌کند که در پاسخ به خطرات نوظهور، Grok را تنظیم می‌کند. شرکت جدیدترین کنترل‌ها را به عنوان بخشی از تلاش‌های مداوم برای کار با کاربران، تنظیم‌کننده‌ها و شرکا در مورد امنیت معرفی کرده است. 

اما چالش گسترده‌تر باقی می‌ماند: چگونه نوآوری در هوش مصنوعی تولیدی را با محافظت‌های قوی برای حریم خصوصی، کرامت و حقوق افراد متعادل کنیم. تنظیم‌کننده‌ها و گروه‌های حمایتی می‌گویند این فقط آغاز یک سفر پیچیده قانونی و اخلاقی است.

پست Grok: X برای محدود کردن نحوه ویرایش تصاویر افراد واقعی توسط کاربران پس از واکنش منفی بین‌المللی برای اولین بار در Technext ظاهر شد.