الهند تطلب من X معالجة المحتوى الفاحش الذي أنشأه Grok

أمرت الحكومة الهندية منصة التدوين X المملوكة لإيلون ماسك بإجراء تغييرات على روبوت الدردشة القائم على الذكاء الاصطناعي Grok بسبب المحتوى الفاحش الذي ينتجه الذكاء الاصطناعي. تريد الدولة من المنصة إجراء تغييرات تقنية وإجرائية فورية على روبوت الدردشة بعد أن أبلغ المستخدمون والمشرعون عن عدة حالات من المحتوى الفاحش.

وفقًا للدولة، تم استخدام روبوت الدردشة لإنشاء هذه الصور الفاحشة، بما في ذلك صور النساء المعدلة بالذكاء الاصطناعي التي تم إنشاؤها باستخدام الأداة. صدر الأمر يوم الجمعة من وزارة تكنولوجيا المعلومات الهندية، يطلب من المنصة اتخاذ إجراءات تصحيحية فيما يتعلق بـ Grok، بما في ذلك تقييد إنشاء المحتوى الذي يتضمن "العري، أو الطابع الجنسي، أو الصريح جنسيًا، أو غير القانوني بطريقة أخرى". كما أعطت الوزارة المنصة مهلة 72 ساعة لإجراء التغييرات.

الحكومة الهندية تأمر X بإجراء تغييرات تقنية على Grok

كجزء من التزاماتها في مهلة الـ 72 ساعة، طلبت الوزارة أيضًا من X تقديم تقرير بالإجراءات المتخذة يوضح بالتفصيل الخطوات التي اتخذتها لمنع استضافة أو نشر المحتوى غير اللائق. يشمل هذا المحتوى "الفاحش، أو الإباحي، أو البذيء، أو غير اللائق، أو الصريح جنسيًا، أو المتعلق بالأطفال، أو المحظور بطريقة أخرى بموجب القانون". حذر الأمر من أنه إذا فشلت المنصة في تنفيذ الخطوات الإلزامية، فقد يعرض ذلك للخطر حماية "الملاذ الآمن" الخاصة بها.

يأتي أمر الهند وسط مخاوف أثارها المستخدمون الذين شاركوا أمثلة على استخدام Grok لتعديل صور الأفراد، وخاصة النساء، لجعلهم يظهرون وكأنهم يرتدون ملابس البكيني. تم إثارة القضية من خلال شكوى رسمية قدمتها عضوة البرلمان الهندية بريانكا تشاتورفيدي. حذرت تشاتورفيدي جميع الشركات الكبرى التي تمتلك روبوتات دردشة قائمة على الذكاء الاصطناعي، مضيفة أنه يجب وضع ضوابط للتحقق من ميزات مثل Grok حتى لا ينتهك روبوت الدردشة كرامة الإنسان.

المصدر: @priyankac19 عبر X.

بشكل منفصل، أبلغ المستخدمون أيضًا عن عدة حوادث حيث تم استخدام روبوت الدردشة القائم على الذكاء الاصطناعي لإنشاء صور ذات طابع جنسي تتضمن قُصّرًا، وهي مشكلة اعترفت بها X يوم الجمعة. زعمت المنصة أن ذلك كان بسبب بعض الثغرات في الضوابط قبل أن تتحرك بسرعة لإزالة الصور المُنشأة. حثت المنصة أيضًا المستخدمين على الإبلاغ رسميًا إلى مكتب التحقيقات الفيدرالي (FBI) أو CyberTipline التابع لـ NCMEC، مشيرة إلى أن X ملتزمة بمنع مثل هذه المشكلات.

قد تواجه X مشكلات قانونية بسبب عدم الامتثال

وفقًا للمستخدمين، ظلت الصور غير اللائقة للنساء التي تم إنشاؤها باستخدام روبوت الدردشة على المنصة. يأتي الأمر الأخير بعد أن أصدرت وزارة تكنولوجيا المعلومات الهندية إرشادات لمنصات الوسائط الرقمية، تذكرهم بأن الامتثال للقوانين المحلية التي تحكم المحتوى الفاحش والصريح جنسيًا هو شرط أساسي للاحتفاظ بالحصانة القانونية من المسؤولية عن المواد التي ينشئها المستخدمون. حثت الدولة الشركات على تحسين الضوابط وحذرت من أن الفشل قد يؤدي إلى اتخاذ إجراءات قانونية.

"يُكرر أن عدم الامتثال للمتطلبات المذكورة أعلاه سيُنظر إليه بجدية وقد يؤدي إلى عواقب قانونية صارمة ضد منصتكم ومسؤوليها المسؤولين والمستخدمين على المنصة الذين يخالفون القانون، دون أي إشعار إضافي"، حذر الأمر. كما حذرت الحكومة الهندية X من أنه إذا فشلت في الامتثال لتوجيهاتها، فإن الدولة لديها السلطة لبدء إجراء قانوني ضد المنصة بموجب قانون تكنولوجيا المعلومات الهندي والقوانين الجنائية.

برزت الهند كواحدة من أكبر الأسواق الرقمية، حيث يُنظر إلى الدولة كحالة اختبار حاسمة لمدى استعداد الحكومات للضغط من أجل مساءلة المنصات عن المحتوى الذي ينشئه الذكاء الاصطناعي. إذا تم تشديد التنفيذ في الدولة، فقد يكون له تأثير متموج على شركات التكنولوجيا العالمية العاملة في ولايات قضائية أخرى. يأتي الأمر أيضًا بينما تواصل X الطعن في قواعد تنظيم المحتوى الهندية في المحكمة.

تجادل المنصة بأن صلاحيات الحكومة الفيدرالية في إزالة المحتوى تنطوي على مخاطر تجاوز الحدود، حتى مع امتثال المنصة لمعظم توجيهات الحظر التي قدمتها الدولة. في الوقت نفسه، كان Grok مفيدًا للمستخدمين على X، حيث يستخدم معظم المستخدمين المنصة للتحقق من الحقائق في الوقت الفعلي والتعليق على الأحداث العالمية، مما يجعل مخرجاته أكثر وضوحًا وأكثر حساسية من الناحية السياسية من أدوات الذكاء الاصطناعي المستقلة.

لا تكتف بقراءة أخبار العملات الرقمية. افهمها. اشترك في نشرتنا الإخبارية. إنها مجانية.