ArXiv จะแบนผู้เขียนเป็นเวลาหนึ่งปี หากส่งบทความที่สร้างโดย AI โดยไม่ผ่านการตรวจสอบโดยมนุษย์

BitcoinWorld

ArXiv จะแบนผู้เขียนเป็นเวลาหนึ่งปี หากส่งบทความที่สร้างโดย AI โดยไม่ผ่านการตรวจสอบโดยมนุษย์

ArXiv คลังข้อมูลการวิจัยพรีพรินต์แบบเปิดให้เข้าถึงได้ฟรีที่ได้รับความนิยมอย่างแพร่หลาย ได้ประกาศนโยบายใหม่ที่อาจส่งผลให้ผู้เขียนที่ส่งบทความซึ่งมีหลักฐานชัดเจนว่าเนื้อหาถูกสร้างโดย AI โดยไม่ผ่านการตรวจสอบ ถูกแบนเป็นเวลาหนึ่งปี การเคลื่อนไหวดังกล่าวถูกระบุเมื่อวันพฤหัสบดีโดย Thomas Dietterich ประธานส่วนวิทยาการคอมพิวเตอร์ของ ArXiv โดยมุ่งเป้าไปที่ปัญหาที่เพิ่มขึ้นของงานวิจัยคุณภาพต่ำที่ผลิตโดย AI ซึ่งทำลายความน่าเชื่อถือในการตีพิมพ์ทางวิทยาศาสตร์

กฎใหม่นี้มีความหมายอย่างไรต่อนักวิจัย

ภายใต้แนวทางที่อัปเดตใหม่ หากผู้ดูแลระบบพบ "หลักฐานที่หักล้างไม่ได้" ว่าผู้เขียนไม่ได้ตรวจสอบผลลัพธ์จากโมเดลภาษาขนาดใหญ่ (LLMs) ก่อนการส่ง บทความจะถูกปฏิเสธและผู้เขียนจะเผชิญกับการระงับการโพสต์บน ArXiv เป็นเวลาหนึ่งปี หลังจากการแบน ผู้เขียนจะต้องได้รับการยอมรับจากแหล่งตรวจสอบโดยผู้เชี่ยวชาญที่มีชื่อเสียงก่อนจึงจะกลับมาใช้แพลตฟอร์มได้

Dietterich ระบุว่าหลักฐานดังกล่าวรวมถึงการอ้างอิงที่ประดิษฐ์ขึ้น การอ้างอิงที่ไม่สมเหตุสมผล หรือข้อผิดพลาดจากการคัดลอกวางโดยตรงจาก LLM นโยบายนี้ไม่ได้ห้ามการใช้เครื่องมือ AI ทั้งหมด แต่ถือให้ผู้เขียน "รับผิดชอบอย่างเต็มที่" ต่อเนื้อหาทั้งหมด ไม่ว่าจะถูกสร้างขึ้นด้วยวิธีใดก็ตาม ซึ่งรวมถึงการลอกเลียนแบบ ข้อความที่มีอคติ และความไม่ถูกต้องของข้อเท็จจริงที่ AI นำเข้ามา

เหตุใดสิ่งนี้จึงสำคัญต่อความซื่อสัตย์ทางวิทยาศาสตร์

ArXiv เป็นรากฐานสำคัญของการเผยแพร่งานวิจัยอย่างรวดเร็วมาเป็นเวลานาน โดยเฉพาะในสาขาวิทยาการคอมพิวเตอร์ คณิตศาสตร์ และฟิสิกส์ อย่างไรก็ตาม การเติบโตของ AI เชิงสร้างสรรค์ได้นำไปสู่การเพิ่มขึ้นอย่างรวดเร็วของการส่งบทความที่ดูเหมือนถูกผลิตขึ้นโดยมีการดูแลโดยมนุษย์น้อยที่สุด การศึกษาที่ผ่านการตรวจสอบโดยผู้เชี่ยวชาญล่าสุดได้บันทึกการเพิ่มขึ้นของการอ้างอิงที่ประดิษฐ์ขึ้นในวรรณกรรมชีวการแพทย์ ซึ่งน่าจะเชื่อมโยงกับการใช้ LLM

ด้วยการบังคับใช้กฎ "หนึ่งครั้งเพียงพอ" นี้ ArXiv มุ่งหมายที่จะรักษาความน่าเชื่อถือของคลังข้อมูล นโยบายนี้ยังรวมถึงกระบวนการอุทธรณ์ ซึ่งช่วยให้ผู้เขียนสามารถโต้แย้งการตัดสินใจได้ ผู้ดูแลระบบต้องแจ้งเตือนปัญหาก่อน และประธานส่วนต้องยืนยันหลักฐานก่อนที่จะมีการลงโทษ

ผลกระทบที่กว้างขึ้นต่อชุมชนวิจัย

นโยบายนี้สะท้อนถึงฉันทามติที่เพิ่มขึ้นทั่วโลกวิชาการว่าเครื่องมือ AI ควรช่วยเหลือ ไม่ใช่แทนที่การดูแลโดยมนุษย์ในการวิจัย การเปลี่ยนผ่านของ ArXiv ไปเป็นองค์กรไม่แสวงหากำไรอิสระ หลังจากได้รับการโฮสต์โดย Cornell University มากกว่าสองทศวรรษ ทำให้มีความยืดหยุ่นมากขึ้นในการบังคับใช้มาตรการดังกล่าว คลังข้อมูลได้ดำเนินการแล้วเพื่อยับยั้งการส่งบทความที่สร้างโดย AI รวมถึงการกำหนดให้มีการรับรองสำหรับผู้โพสต์ครั้งแรก

สำหรับนักวิจัย ข้อความนั้นชัดเจน: การใช้ AI เพื่อร่างหรือปรับแต่งภาษาเป็นสิ่งที่ยอมรับได้ แต่การส่งงานโดยไม่มีการตรวจสอบข้อเท็จจริงและการยืนยันการอ้างอิงอย่างเข้มงวดนั้นไม่ได้รับการยอมรับ สิ่งนี้สอดคล้องกับมาตรฐานบรรณาธิการที่กว้างขึ้นในการตีพิมพ์ทางวิทยาศาสตร์ ซึ่งความรับผิดชอบยังคงเป็นสิ่งสำคัญที่สุด

บทสรุป

นโยบายการแบนใหม่ของ ArXiv ถือเป็นก้าวสำคัญในการรักษาความซื่อสัตย์ของการวิจัยพรีพรินต์ในยุคที่มีการใช้ AI อย่างแพร่หลาย ด้วยการลงโทษผู้เขียนที่ไม่ตรวจสอบเนื้อหาที่สร้างโดย AI คลังข้อมูลเสริมสร้างหลักการที่ว่านักวิจัยมนุษย์แบกรับความรับผิดชอบสูงสุดต่อผลงานของตน เมื่อเครื่องมือ AI ถูกรวมเข้ากับกระบวนการวิจัยมากขึ้น มาตรการป้องกันดังกล่าวน่าจะกลายเป็นมาตรฐานทั่วทั้งการตีพิมพ์ทางวิชาการ

คำถามที่พบบ่อย

Q1: นโยบายใหม่ของ ArXiv แบนการใช้ AI ในการเขียนบทความหรือไม่?
ไม่ นโยบายไม่ได้แบนการใช้ AI แต่แบนการส่งบทความที่มีหลักฐานชัดเจนว่าผู้เขียนไม่ได้ตรวจสอบเนื้อหาที่สร้างโดย AI เพื่อหาข้อผิดพลาด เช่น การอ้างอิงที่ประดิษฐ์ขึ้นหรือข้อความที่ไม่สมเหตุสมผล

Q2: อะไรที่นับว่าเป็น "หลักฐานที่หักล้างไม่ได้" ของการใช้ AI ในทางที่ผิด?
ตัวอย่างรวมถึงการอ้างอิงที่ถูกประดิษฐ์ขึ้น การอ้างถึงแหล่งที่มาที่ไม่มีอยู่จริง และข้อผิดพลาดจากการคัดลอกวางโดยตรงจาก LLM ที่บ่งชี้ว่าไม่มีการตรวจสอบโดยมนุษย์

Q3: ผู้เขียนสามารถอุทธรณ์การแบนได้หรือไม่?
ได้ นโยบายรวมถึงกระบวนการอุทธรณ์ ผู้ดูแลระบบต้องแจ้งเตือนปัญหา ประธานส่วนยืนยันหลักฐาน และผู้เขียนสามารถโต้แย้งการตัดสินใจได้

This post ArXiv to Ban Authors for One Year if They Submit AI-Generated Papers Without Human Review first appeared on BitcoinWorld.