Grok: X จะจำกัดการแก้ไขรูปภาพบุคคลจริงของผู้ใช้หลังจากถูกวิพากษ์วิจารณ์ระดับสากล

บริษัท AI ของ Elon Musk คือ xAI ได้นำมาตรการเพื่อกำกับดูแลฟีเจอร์สร้างภาพของ Grok ให้เข้มงวดขึ้น การตัดสินใจนี้มาหลังจากความกังวลที่เพิ่มขึ้นเกี่ยวกับวิธีที่ผู้ใช้บนแพลตฟอร์ม X แก้ไขภาพถ่ายของบุคคลจริง 

หน่วยงานกำกับดูแล กลุ่มสิทธิมนุษยชน และสื่อมวลชนได้เตือนภัยเกี่ยวกับการใช้เครื่องมือในทางที่ผิดเพื่อสร้างภาพลามกอนาจารแบบดีพเฟกโดยไม่ได้รับความยินยอม การวิพากษ์วิจารณ์มาจากทุกทิศทางตั้งแต่อเมริกา ยุโรป และทั่วแอฟริกา

รายงานจากหน่วยงานและนักข่าวที่แสดงให้เห็น Grok ถูกใช้สร้างเนื้อหาลามกโดยไม่ได้รับความยินยอมทำให้ xAI ต้องดำเนินการ 

ตามที่ทีมความปลอดภัยของบริษัทระบุ มาตรการป้องกันใหม่ขณะนี้บล็อกผู้ใช้ทั้งหมดไม่ให้แก้ไขภาพของบุคคลจริงให้สวมเสื้อผ้าที่เปิดเผย เช่น บิกินี่หรือชั้นในในเขตอำนาจศาลที่เนื้อหาดังกล่าวละเมิดกฎหมายท้องถิ่น มาตรการนี้ใช้กับทุกคน รวมถึงสมาชิกพรีเมียม

ดีพเฟก

การเปลี่ยนแปลงนี้เป็นการเปลี่ยนแปลงที่สำคัญสำหรับ Grok ข้อร้องเรียนก่อนหน้านี้ได้อธิบายว่าผู้ใช้สามารถสั่ง AI ให้ "แก้ผ้า" หรือแก้ไขภาพถ่ายเพื่อสร้างภาพดีพเฟกของผู้หญิงและเด็กเยาว์ การสอบสวนในแคลิฟอร์เนียระบุว่ามากกว่าครึ่งหนึ่งของภาพหลายหมื่นภาพที่สร้างขึ้นในช่วงวันหยุดล่าสุดแสดงผู้คนในเสื้อผ้าเปิดเผยขั้นต่ำ โดยบางรายดูเหมือนจะยังไม่บรรลุนิติภาวะ การตรวจสอบทางกฎหมายนั้นได้เพิ่มน้ำหนักให้กับการวิพากษ์วิจารณ์

ฟีเจอร์ภาพของ Grok ของ xAI ขณะนี้ถูกควบคุมอย่างเข้มงวด

ในโพสต์บนบัญชีความปลอดภัยอย่างเป็นทางการ X กล่าวว่าแม้ฟีเจอร์ภาพของ Grok จะถูกควบคุมอย่างเข้มงวดแล้ว แต่ก็ยังไม่ได้ถูกลบออกทั้งหมด การสร้างและแก้ไขภาพผ่าน Grok จะยังคงมีให้ใช้งาน แต่เฉพาะสมาชิกแบบชำระเงินบนแพลตฟอร์ม X เท่านั้น 

บริษัทกล่าวว่าสิ่งนี้จะช่วยเพิ่มความรับผิดชอบและช่วยติดตามการใช้งานในทางที่ผิด การบล็อกตามภูมิศาสตร์ยังได้รับการนำมาใช้ในประเทศที่การสร้างเนื้อหาดังกล่าวเป็นสิ่งผิดกฎหมาย ซึ่งจะหยุดผู้ใช้ในภูมิภาคเหล่านั้นจากการสร้างเนื้อหาที่เป็นปัญหาได้อย่างมีประสิทธิภาพ

การควบคุมที่เข้มงวดขึ้นไม่ได้ทำให้นักวิจารณ์เงียบไป หน่วยงานกำกับดูแลและองค์กรเฝ้าระวังบางแห่งกล่าวว่ามาตรการดังกล่าวยังไม่เพียงพอ 

รายงานสื่อและการทดสอบเชิงสืบสวนชี้ให้เห็นว่ามาตรการป้องกันสามารถถูกหลีกเลี่ยงได้ในบางกรณี นักวิจารณ์โต้แย้งว่าการวางความสามารถที่เป็นอันตรายไว้หลังกำแพงชำระเงินไม่ได้ป้องกันการมีอยู่ของมัน แต่กลับเพียงวางไว้หลังกำแพงการสมัครสมาชิก ผู้อื่นสังเกตว่าแอป Grok และเว็บพอร์ทัลแบบสแตนด์อโลนยังคงอนุญาตให้มีการจัดการภาพบางอย่างโดยไม่มีข้อจำกัดเดียวกัน

นอกจากนี้ยังมีแรงกดดันระดับนานาชาติที่เพิ่มขึ้น เจ้าหน้าที่รัฐบาลในแคลิฟอร์เนีย สหภาพยุโรป และหลายประเทศในเอเชียต่างแสดงความกังวลเกี่ยวกับการใช้ดีพเฟกในทางที่ผิด 

หน่วยงานกำกับดูแลบางแห่งกำลังพิจารณาหรือดำเนินการทางกฎหมายต่อ xAI และ X เนื่องจากไม่ได้ทำเพียงพอเพื่อป้องกันภาพที่เป็นการล่าเหยื่อหรือเอารัดเอาเปรียบจากการถูกสร้างขึ้นบนแพลตฟอร์มของพวกเขา เพื่อตอบสนอง คณะกรรมาธิการยุโรปได้กล่าวว่าจะประเมินมาตรการป้องกันใหม่เพื่อให้แน่ใจว่าสามารถปกป้องพลเมืองได้อย่างแท้จริง

เหตุการณ์นี้เกิดขึ้นท่ามกลางการถกเถียงที่กว้างขึ้นเกี่ยวกับวิธีการกำกับดูแล AI แบบสร้างสรรค์อย่างมีความรับผิดชอบ การวิเคราะห์ล่าสุดของเราเน้นย้ำว่าการออกแบบ "ไม่มีการกรอง" ของ Grok ทำให้มันเสี่ยงต่อการถูกใช้ในทางที่ผิดเป็นพิเศษ กลายเป็นเครื่องมือสำหรับภาพลามกอนาจารแบบดีพเฟกโดยไม่ได้รับความยินยอมในวงกว้าง บทความนั้นสำรวจว่าการผสมผสานระหว่างมาตรการป้องกันที่หละหลวมและโมเดลสร้างสรรค์ที่ทรงพลังสามารถกลายเป็นวิกฤตทางสังคมและกฎหมายได้อย่างรวดเร็วหากไม่ได้รับการแก้ไข

ในขณะนี้ xAI ยืนยันว่ากำลังปรับแต่ง Grok เพื่อตอบสนองต่อความเสี่ยงที่เกิดขึ้นใหม่ บริษัทได้กำหนดกรอบการควบคุมล่าสุดเป็นส่วนหนึ่งของความพยายามอย่างต่อเนื่องในการทำงานร่วมกับผู้ใช้ หน่วยงานกำกับดูแล และพันธมิตรด้านความปลอดภัย 

แต่ความท้าทายที่กว้างขึ้นยังคงอยู่: วิธีการสร้างสมดุลระหว่างนวัตกรรมใน AI แบบสร้างสรรค์กับการปกป้องที่แข็งแกร่งสำหรับความเป็นส่วนตัว ศักดิ์ศรี และสิทธิของบุคคล หน่วยงานกำกับดูแลและกลุ่มสนับสนุนกล่าวว่านี่เป็นเพียงจุดเริ่มต้นของการเดินทางทางกฎหมายและจริยธรรมที่ซับซ้อน

โพสต์ Grok: X จะจำกัดวิธีที่ผู้ใช้แก้ไขภาพของบุคคลจริงหลังการวิพากษ์วิจารณ์ระดับสากล ปรากฏครั้งแรกบน Technext