มาเลเซียและอินโดนีเซียจำกัดการใช้ Grok เนื่องจากการใช้ AI ในทางที่ผิดด้านเนื้อหาลามก

มาเลเซียและอินโดนีเซียได้จำกัดการเข้าถึง Grok แชทบอทปัญญาประดิษฐ์ที่เกี่ยวข้องกับแพลตฟอร์มโซเชียลมีเดีย X ของ Elon Musk การตัดสินใจนี้เกิดขึ้นเพื่อตอบสนองต่อความกังวลว่าเครื่องมือ AI กำลังถูกใช้เพื่อสร้างภาพปลอมที่มีเนื้อหาทางเพศอย่างชัดเจนของบุคคลจริง

Grok ช่วยให้ผู้ใช้สามารถสร้างและแก้ไขภาพได้ อย่างไรก็ตาม หน่วยงานในทั้งสองประเทศแสดงความกังวลว่ามันถูกนำไปใช้มากขึ้นเพื่อจัดการรูปภาพให้กลายเป็นเนื้อหาที่เปิดเผยหรือมีลักษณะทางเพศโดยไม่ได้รับความยินยอม หน่วยงานกำกับดูแลได้เน้นย้ำถึงความเสี่ยงต่อผู้หญิงและเด็ก โดยระบุว่าเครื่องมือนี้สามารถถูกใช้ในทางที่ผิดได้ง่ายเพื่อผลิตภาพลามกอนาจารแบบดีปเฟค

มาเลเซียและอินโดนีเซียเป็นประเทศแรกในโลกที่บล็อก Grok ทั้งหมด โดยแสดงจุดยืนที่เข้มแข็งต่อเครื่องมือ AI ที่หน่วยงานเชื่อว่ากำลังก้าวหน้าเร็วกว่ากฎระเบียบความปลอดภัย

Grok ก้าวข้ามเส้นทางกฎหมายและสังคม

หน่วยงานกำกับดูแลกังวลเกี่ยวกับปัญหาที่กว้างขึ้นนอกเหนือจากแชทบอทตัวเดียว เนื่องจากการเพิ่มขึ้นของภาพทางเพศที่สร้างโดย AI เผยให้เห็นช่องว่างในกฎหมายความปลอดภัยออนไลน์และก่อให้เกิดความเสี่ยงต่อผู้ใช้ ในมาเลเซีย หน่วยงานกำกับดูแลด้านการสื่อสารระบุว่าได้เตือน X เกี่ยวกับการใช้ AI ในทางที่ผิดมาก่อน แต่รู้สึกว่าการตอบสนองของบริษัทให้ความสำคัญกับการรายงานของผู้ใช้มากกว่าการแก้ไขปัญหาหลัก

กระทรวงกิจการดิจิทัลของอินโดนีเซียเน้นย้ำถึงความจำเป็นในเรื่องศักดิ์ศรีและสิทธิมนุษยชน โดยระบุว่าเครื่องมือ AI ที่สร้างเนื้อหาทางเพศโดยไม่ได้รับความยินยอมทำลายความไว้วางใจของสาธารณะและเป็นอันตรายต่อกลุ่มเปราะบาง รัฐบาลได้ขอให้ X อธิบายว่า Grok ถูกควบคุมและดูแลอย่างไร

การห้ามยังสะท้อนให้เห็นถึงจุดยืนที่ยาวนานของอินโดนีเซียต่อเนื้อหาออนไลน์ ประเทศนี้เคยบล็อกแพลตฟอร์มต่างๆ เช่น Pornhub และ OnlyFans และเจ้าหน้าที่มองว่าภาพทางเพศที่สร้างโดย AI เป็นส่วนขยายของปัญหาเดียวกัน ซึ่งตอนนี้ถูกส่งผ่านเทคโนโลยีใหม่

อ่านเพิ่มเติม: ภายในวิกฤตภาพลามกดีปเฟคของ Grok และการเรียกร้องทางกฎหมายที่กำลังจะมาถึง

ความขัดแย้งของ Grok กำลังได้รับความสนใจนอกเหนือจากเอเชียตะวันออกเฉียงใต้ ในสหราชอาณาจักร หน่วยงานกำกับดูแลกำลังประเมินว่า X ปฏิบัติตามกฎระเบียบความปลอดภัยออนไลน์หรือไม่ นอกจากนี้ ผู้นำทางการเมืองได้วิพากษ์วิจารณ์การใช้เทคโนโลยีเพื่อสร้างภาพปลอมที่ชัดเจนต่อสาธารณะ

สำหรับผู้ใช้ ผลกระทบเป็นเรื่องส่วนตัว บุคคลบางคนที่ภาพของพวกเขาถูกแก้ไขโดยใช้ Grok รายงานว่าการรายงานเนื้อหานั้นไม่ได้ช่วยป้องกันการแพร่กระจาย ในบางกรณี การส่งเสริมให้ผู้อื่นรายงานโพสต์กลับทำให้มีผู้คนเห็นภาพปลอมมากขึ้น ทำให้ความเสียหายรุนแรงขึ้น

ปฏิกิริยาตอบโต้ที่เพิ่มขึ้นกำลังกระตุ้นให้ X พิจารณาทบทวนวิธีการทำงานของ Grok โดยเฉพาะอย่างยิ่งเมื่อรัฐบาลเริ่มมองเครื่องมือ AI ว่าเป็นผลิตภัณฑ์ที่ต้องถูกควบคุมมากกว่าฟีเจอร์ทดลอง

โพสต์ มาเลเซียและอินโดนีเซียจำกัด Grok เนื่องจากการใช้ AI ในทางที่ผิดด้านเนื้อหาทางเพศอย่างชัดเจน ปรากฏครั้งแรกใน Technext