هند از X می‌خواهد محتوای مبتذل تولید شده توسط Grok را رسیدگی کند

دولت هند به پلتفرم وبلاگ‌نویسی X متعلق به ایلان ماسک دستور داده است تا در چت‌بات هوش مصنوعی Grok خود تغییراتی ایجاد کند به دلیل محتوای مستهجن تولید شده توسط هوش مصنوعی. این کشور می‌خواهد پلتفرم بلافاصله تغییرات فنی و رویه‌ای را در چت‌بات اعمال کند پس از آنکه کاربران و قانون‌گذاران نمونه‌های متعددی از محتوای مستهجن را گزارش کردند.

بر اساس اعلام این کشور، مواردی از استفاده چت‌بات برای ایجاد این تصاویر مستهجن، از جمله تصاویر تغییر یافته زنان توسط هوش مصنوعی که با استفاده از این ابزار ایجاد شده‌اند، وجود داشته است. این دستور روز جمعه توسط وزارت فناوری اطلاعات هند صادر شد و از پلتفرم خواسته شد اقدامات اصلاحی در مورد Grok انجام دهد، از جمله محدود کردن تولید محتوای شامل "برهنگی، جنسی‌سازی، صریحاً جنسی، یا غیرقانونی". وزارتخانه همچنین یک اولتیماتوم 72 ساعته به پلتفرم داده است تا تغییرات را اعمال کند.

دولت هند به X دستور می‌دهد تغییرات فنی در Grok ایجاد کند

به عنوان بخشی از الزامات در اولتیماتوم 72 ساعته، وزارتخانه همچنین از X خواسته است گزارش اقدامات انجام شده‌ای ارائه دهد که جزئیات اقداماتی که برای جلوگیری از میزبانی یا انتشار محتوای نامناسب انجام داده است را شرح دهد. این محتواها شامل "مستهجن، پورنوگرافی، مبتذل، نامناسب، صریحاً جنسی، کودک‌آزاری جنسی، یا موارد دیگری که طبق قانون ممنوع هستند" می‌شوند. این دستور هشدار داد که اگر پلتفرم در انجام اقدامات اجباری ناکام بماند، می‌تواند حمایت‌های "پناهگاه امن" خود را به خطر بیندازد.

دستور هند در میان نگرانی‌های مطرح شده توسط کاربران صادر شده است که نمونه‌هایی از Grok را به اشتراک گذاشتند که برای تغییر تصاویر افراد، عمدتاً زنان، برانگیخته شده بود تا آن‌ها را طوری نشان دهد که گویی بیکینی پوشیده‌اند. این موضوع با یک شکایت رسمی که توسط نماینده پارلمان هند پریانکا چاتورودی ارائه شد، مطرح شد. چاتورودی تمام شرکت‌های بزرگ دارای چت‌بات‌های هوش مصنوعی را هشدار داد و افزود که باید حفاظ‌هایی برای بررسی ویژگی‌هایی مانند Grok وجود داشته باشد تا چت‌بات کرامت انسانی را نقض نکند.

منبع: @priyankac19 از طریق X.

به طور جداگانه، کاربران همچنین چندین مورد را گزارش کرده‌اند که در آن‌ها چت‌بات هوش مصنوعی برای تولید تصاویر جنسی شامل کودکان استفاده شده است، موضوعی که X روز جمعه آن را تایید کرد. پلتفرم ادعا کرد که این موضوع ناشی از برخی نواقص در حفاظ‌ها بوده است قبل از اینکه به سرعت تصاویر تولید شده را حذف کند. پلتفرم همچنین از کاربران خواست به طور رسمی به اداره فدرال تحقیقات (FBI) یا CyberTipline سازمان NCMEC گزارش دهند و اشاره کرد که X متعهد به جلوگیری از چنین مسائلی است.

X می‌تواند به دلیل عدم انطباق با مسائل قانونی مواجه شود

بر اساس گفته کاربران، تصاویر نامناسب زنان تولید شده با استفاده از چت‌بات همچنان در پلتفرم باقی مانده‌اند. آخرین دستور پس از آن صادر شد که وزارت فناوری اطلاعات هند توصیه‌ای به پلتفرم‌های رسانه‌های اجتماعی صادر کرد و به آن‌ها یادآوری کرد که انطباق با قوانین محلی حاکم بر محتوای مستهجن و صریحاً جنسی پیش‌نیازی برای حفظ مصونیت قانونی از مسئولیت در قبال مواد تولید شده توسط کاربران است. کشور از شرکت‌ها خواست حفاظ‌ها را بهبود بخشند و هشدار داد که شکست می‌تواند منجر به اقدام قانونی شود.

"تکرار می‌شود که عدم انطباق با الزامات فوق به طور جدی بررسی خواهد شد و ممکن است منجر به عواقب قانونی سختگیرانه علیه پلتفرم شما، مسئولان آن و کاربران پلتفرم که قانون را نقض می‌کنند، بدون هیچ اطلاع بیشتری شود،" این دستور هشدار داد. دولت هند همچنین به X هشدار داده است که اگر در اجرای دستورالعمل خود ناکام بماند، کشور قدرت آغاز اقدام قانونی علیه پلتفرم تحت قانون فناوری اطلاعات و قوانین جزایی هند را دارد.

هند به عنوان یکی از بزرگترین بازارهای دیجیتال ظهور کرده است و این کشور به عنوان یک مورد آزمایشی حیاتی برای اینکه دولت‌ها تا چه حد مایل به فشار آوردن برای مسئول نگه داشتن پلتفرم‌ها در قبال محتوای تولید شده توسط هوش مصنوعی هستند، دیده می‌شود. اگر اجرا در این کشور تشدید شود، می‌تواند اثر موجی برای شرکت‌های فناوری جهانی فعال در سایر حوزه‌های قضایی داشته باشد. این دستور همچنین در حالی صادر می‌شود که X همچنان قوانین نظارت بر محتوای هند را در دادگاه به چالش می‌کشد.

پلتفرم استدلال می‌کند که اختیارات حذف دولت فدرال خطر تجاوز از حد را دارند، حتی در حالی که پلتفرم با بیشتر دستورالعمل‌های مسدودسازی ارائه شده توسط کشور مطابقت داشته است. در عین حال، Grok برای کاربران X مفید بوده است، با اکثر کاربران که از پلتفرم برای بررسی حقایق در زمان واقعی و تفسیر رویدادهای جهانی استفاده می‌کنند، که خروجی آن را قابل مشاهده‌تر و از نظر سیاسی حساس‌تر از ابزارهای مستقل هوش مصنوعی می‌کند.

فقط اخبار کریپتو را نخوانید. آن را درک کنید. در خبرنامه ما مشترک شوید. رایگان است.