مالزی و اندونزی Grok را به دلیل سوءاستفاده از هوش مصنوعی با محتوای جنسی صریح محدود می‌کنند

مالزی و اندونزی دسترسی به Grok، چت‌بات هوش مصنوعی مرتبط با پلتفرم رسانه اجتماعی ایلان ماسک، X را محدود کرده‌اند. این تصمیم در واکنش به نگرانی‌ها مبنی بر اینکه این ابزار هوش مصنوعی برای تولید تصاویر جعلی با محتوای جنسی صریح از افراد واقعی استفاده می‌شود، اتخاذ شده است.

Grok به کاربران امکان ایجاد و تغییر تصاویر را می‌دهد. با این حال، مقامات در هر دو کشور ابراز نگرانی کرده‌اند که به طور فزاینده‌ای از آن برای دستکاری عکس‌ها به محتوای برهنه یا جنسی بدون رضایت استفاده می‌شود. تنظیم‌کنندگان بر خطرات برای زنان و کودکان تأکید کرده و اعلام کرده‌اند که این ابزار به راحتی می‌تواند برای تولید دیپ‌فیک‌های پورنوگرافی مورد سوءاستفاده قرار گیرد.

مالزی و اندونزی اکنون اولین کشورهای جهان هستند که Grok را به طور کامل بلاک کردن کرده‌اند و موضع قاطعی علیه ابزارهای هوش مصنوعی اتخاذ می‌کنند که مقامات معتقدند سریع‌تر از مقررات امنیت پیشرفت می‌کنند.

Grok از مرزهای قانونی و اجتماعی عبور می‌کند

تنظیم‌کنندگان نگران مسائل گسترده‌تری فراتر از یک چت‌بات واحد هستند، زیرا افزایش تصاویر جنسی تولید شده توسط هوش مصنوعی شکاف‌هایی را در قوانین امنیت آنلاین آشکار می‌کند و خطراتی را برای کاربران ایجاد می‌کند. در مالزی، تنظیم‌کننده ارتباطات اشاره کرد که قبلاً X را در مورد سوءاستفاده از هوش مصنوعی خود هشدار داده بود، اما احساس کرد که پاسخ شرکت به گزارش‌دهی کاربران اولویت داد تا رسیدگی به مشکل اصلی.

وزارت امور دیجیتال اندونزی بر نیاز به کرامت و حقوق بشر تأکید کرد و اعلام کرد که ابزارهای هوش مصنوعی که محتوای جنسی غیر توافقی ایجاد می‌کنند، به اعتماد عمومی آسیب می‌زنند و گروه‌های آسیب‌پذیر را به خطر می‌اندازند. دولت از X درخواست کرده است توضیح دهد که چگونه Grok کنترل و مدیریت می‌شود.

این ممنوعیت همچنین منعکس‌کننده موضع دیرینه اندونزی در مورد محتوای آنلاین است. این کشور قبلاً پلتفرم‌هایی مانند Pornhub و OnlyFans را بلاک کردن کرده است و مقامات تصاویر جنسی تولید شده توسط هوش مصنوعی را به عنوان گسترش همان مسئله می‌بینند که اکنون از طریق فناوری جدیدتر ارائه می‌شود.

همچنین بخوانید: درون بحران پورنوگرافی دیپ‌فیک Grok و حساب‌رسی قانونی پیش رو

جنجال Grok در حال جلب توجه فراتر از جنوب شرقی آسیا است. در بریتانیا، تنظیم‌کنندگان در حال حاضر در حال ارزیابی این موضوع هستند که آیا X از مقررات امنیت آنلاین پیروی می‌کند یا خیر. علاوه بر این، رهبران سیاسی به طور علنی از استفاده از فناوری برای ایجاد تصاویر جعلی صریح انتقاد کرده‌اند.

برای کاربران، تأثیر شخصی است. برخی از افرادی که تصاویرشان با استفاده از Grok تغییر یافته، گزارش می‌دهند که گزارش محتوا کمک چندانی به جلوگیری از انتشار آن نکرد. در برخی موارد، تشویق دیگران به گزارش پست‌ها فقط منجر به دیدن تصاویر جعلی توسط افراد بیشتری شد و آسیب را تشدید کرد.

واکنش منفی فزاینده X را وادار می‌کند که نحوه عملکرد Grok را بازنگری کند، به خصوص که دولت‌ها شروع به دیدن ابزارهای هوش مصنوعی به عنوان محصولات تنظیم‌شده به جای ویژگی‌های آزمایشی کرده‌اند.

پست مالزی و اندونزی Grok را به دلیل سوءاستفاده جنسی صریح هوش مصنوعی محدود می‌کنند اولین بار در Technext ظاهر شد.