อินเดียขอให้ X แก้ไขเนื้อหาลามกอนาจารที่สร้างโดย Grok

รัฐบาลอินเดียได้สั่งให้แพลตฟอร์มบล็อก X ซึ่งเป็นของ Elon Musk ทำการเปลี่ยนแปลงแชทบอทปัญญาประดิษฐ์ Grok เนื่องจากเนื้อหา AI ที่ลามกอนาจาร ประเทศนี้ต้องการให้แพลตฟอร์มทำการเปลี่ยนแปลงทางเทคนิคและขั้นตอนการทำงานทันทีหลังจากผู้ใช้และนักการเมืองรายงานเนื้อหาลามกอนาจารหลายกรณี

ตามที่ประเทศระบุ มีกรณีที่แชทบอทถูกใช้เพื่อสร้างภาพลามกอนาจารเหล่านี้ รวมถึงภาพของผู้หญิงที่ถูกดัดแปลงด้วย AI ซึ่งสร้างขึ้นโดยใช้เครื่องมือนี้ คำสั่งดังกล่าวออกเมื่อวันศุกร์โดยกระทรวงไอทีของอินเดีย โดยขอให้แพลตฟอร์มดำเนินการแก้ไขเกี่ยวกับ Grok รวมถึงการจำกัดการสร้างเนื้อหาที่เกี่ยวข้องกับ "ภาพเปลือย การทำให้มีลักษณะทางเพศ เนื้อหาที่มีลักษณะทางเพศโดยชัดแจ้ง หรือผิดกฎหมายอื่นๆ" กระทรวงยังได้ให้คำสั่งเด็ดขาด 72 ชั่วโมงแก่แพลตฟอร์มเพื่อดำเนินการเปลี่ยนแปลง

รัฐบาลอินเดียสั่งให้ X ทำการเปลี่ยนแปลงทางเทคนิคกับ Grok

ภายใต้ข้อกำหนดในคำสั่งเด็ดขาด 72 ชั่วโมง กระทรวงยังได้ขอให้ X ส่งรายงานการดำเนินการที่ระบุรายละเอียดขั้นตอนที่ได้ดำเนินการเพื่อป้องกันการโฮสต์หรือการเผยแพร่เนื้อหาที่ไม่เหมาะสม เนื้อหาเหล่านี้รวมถึง "ลามกอนาจาร ลามก หยาบคาย ไม่เหมาะสม มีลักษณะทางเพศโดยชัดแจ้ง เกี่ยวกับการล่วงละเมิดเด็ก หรือต้องห้ามตามกฎหมายอื่นๆ" คำสั่งเตือนว่าหากแพลตฟอร์มไม่ดำเนินการตามขั้นตอนบังคับ อาจทำให้การคุ้มครอง "ท่าเรือปลอดภัย" ของแพลตฟอร์มตกอยู่ในความเสี่ยง

คำสั่งของอินเดียมาท่ามกลางความกังวลที่เพิ่มขึ้นจากผู้ใช้ที่แชร์ตัวอย่างของ Grok ที่ถูกสั่งให้ดัดแปลงภาพของบุคคล โดยเฉพาะผู้หญิง เพื่อทำให้ดูเหมือนกำลังสวมบิกินี่ ปัญหานี้เกิดจากคำร้องเรียนอย่างเป็นทางการที่ยื่นโดย Priyanka Chaturvedi สมาชิกรัฐสภาอินเดีย Chaturvedi ได้เตือนบริษัทใหญ่ทั้งหมดที่มีแชทบอท AI โดยเสริมว่าจำเป็นต้องมีมาตรการป้องกันเพื่อตรวจสอบคุณสมบัติอย่าง Grok เพื่อไม่ให้แชทบอทละเมิดศักดิ์ศรีของมนุษย์

ที่มา: @priyankac19 ผ่านทาง X

นอกจากนี้ ผู้ใช้ยังได้รายงานเหตุการณ์หลายกรณีที่แชทบอท AI ถูกใช้เพื่อสร้างภาพที่มีลักษณะทางเพศที่เกี่ยวข้องกับเด็กผู้เยาว์ ซึ่งเป็นปัญหาที่ X ยอมรับเมื่อวันศุกร์ แพลตฟอร์มอ้างว่าเกิดจากช่องโหว่ในมาตรการป้องกันบางอย่างก่อนที่จะดำเนินการลบภาพที่สร้างขึ้นอย่างรวดเร็ว แพลตฟอร์มยังเรียกร้องให้ผู้ใช้รายงานอย่างเป็นทางการไปยัง Federal Bureau of Investigation (FBI) หรือ CyberTipline ของ NCMEC โดยระบุว่า X มุ่งมั่นที่จะป้องกันปัญหาดังกล่าว

X อาจเผชิญปัญหาทางกฎหมายจากการไม่ปฏิบัติตาม

ตามที่ผู้ใช้ระบุ ภาพที่ไม่เหมาะสมของผู้หญิงที่สร้างโดยใช้แชทบอทยังคงอยู่บนแพลตฟอร์ม คำสั่งล่าสุดมาหลังจากที่กระทรวงไอทีอินเดียออกคำแนะนำให้กับแพลตฟอร์มโซเชียลมีเดีย เตือนพวกเขาว่าการปฏิบัติตามกฎหมายท้องถิ่นที่ควบคุมเนื้อหาลามกอนาจารและมีลักษณะทางเพศโดยชัดแจ้งเป็นข้อกำหนดเบื้องต้นสำหรับการรักษาภูมิคุ้มกันทางกฎหมายจากความรับผิดในเนื้อหาที่สร้างโดยผู้ใช้ ประเทศนี้เรียกร้องให้บริษัทปรับปรุงมาตรการป้องกันและเตือนว่าความล้มเหลวอาจนำไปสู่การดำเนินการทางกฎหมาย

"ขอย้ำว่าการไม่ปฏิบัติตามข้อกำหนดข้างต้นจะถือว่าเป็นเรื่องร้ายแรงและอาจส่งผลให้เกิดผลทางกฎหมายที่เข้มงวดต่อแพลตฟอร์มของคุณ เจ้าหน้าที่ผู้รับผิดชอบ และผู้ใช้บนแพลตฟอร์มที่ละเมิดกฎหมาย โดยไม่ต้องแจ้งให้ทราบล่วงหน้าอีก" คำสั่งเตือน รัฐบาลอินเดียยังได้เตือน X ว่าหากไม่ปฏิบัติตามคำสั่ง ประเทศนี้มีอำนาจที่จะดำเนินการทางกฎหมายต่อแพลตฟอร์มภายใต้กฎหมายไอทีและกฎหมายอาญาของอินเดีย

อินเดียกลายเป็นหนึ่งในตลาดดิจิทัลที่ใหญ่ที่สุด โดยประเทศนี้ถูกมองว่าเป็นกรณีทดสอบที่สำคัญว่ารัฐบาลยินดีที่จะผลักดันไปไกลแค่ไหนเพื่อให้แพลตฟอร์มรับผิดชอบต่อเนื้อหาที่สร้างโดย AI หากการบังคับใช้กฎหมายเข้มงวดขึ้นในประเทศนี้ อาจส่งผลกระทบต่อบริษัทเทคโนโลยีระดับโลกที่ดำเนินงานในเขตอำนาจศาลอื่นๆ คำสั่งนี้ยังมาในขณะที่ X ยังคงท้าทายกฎระเบียบการควบคุมเนื้อหาของอินเดียในศาล

แพลตฟอร์มโต้แย้งว่าอำนาจในการสั่งลบของรัฐบาลกลางมีความเสี่ยงที่จะใช้อำนาจเกินขอบเขต แม้ว่าแพลตฟอร์มจะปฏิบัติตามคำสั่งบล็อกส่วนใหญ่ที่ประเทศเสนอมาแล้วก็ตาม ในขณะเดียวกัน Grok ได้เป็นประโยชน์ต่อผู้ใช้บน X โดยผู้ใช้ส่วนใหญ่ใช้แพลตฟอร์มเพื่อตรวจสอบข้อเท็จจริงแบบเรียลไทม์และแสดงความคิดเห็นเกี่ยวกับเหตุการณ์ระดับโลก ทำให้ผลลัพธ์มีการมองเห็นมากขึ้นและมีความอ่อนไหวทางการเมืองมากกว่าเครื่องมือ AI แบบสแตนด์อโลน

อย่าเพียงแค่อ่านข่าวคริปโต ทำความเข้าใจมัน สมัครรับจดหมายข่าวของเรา ฟรี