ทายาทของหญิงวัย 83 ปีจากรัฐคอนเนตทิคัตได้ฟ้องร้อง OpenAI ผู้พัฒนา ChatGPT และ Microsoft โดยกล่าวหาว่าแชทบอทได้หล่อเลี้ยงความเชื่อที่หลงผิดของเธอ ซึ่งนำไปสู่การฆาตกรรมและฆ่าตัวตาย คดีนี้เป็นครั้งแรกที่ระบบปัญญาประดิษฐ์ถูกเชื่อมโยงโดยตรงกับการฆาตกรรม
คดีความที่ยื่นต่อศาลสูงแคลิฟอร์เนียในซานฟรานซิสโก กล่าวหา OpenAI ว่าออกแบบและจำหน่ายผลิตภัณฑ์ที่มีข้อบกพร่องในรูปแบบของ ChatGPT-4o เอกสารอ้างว่ามันเสริมสร้างความเชื่อที่หวาดระแวงของ Stein-Erik Soelberg ซึ่งต่อมาได้นำความเชื่อเหล่านั้นมุ่งไปที่แม่ของเขา Suzanne Adams ก่อนที่เขาจะฆ่าเธอและฆ่าตัวตายที่บ้านของพวกเขาในกรีนวิช รัฐคอนเนตทิคัต
OpenAI และ Microsoft ถูกกำหนดเป้าหมายในคดีฆาตกรรมที่เกี่ยวข้องกับ ChatGPT
เมื่อพูดถึงคดีนี้ J. Eli Wade-Scott หุ้นส่วนผู้จัดการของ Edelson PC ซึ่งเป็นตัวแทนของทายาท Adams กล่าวว่านี่เป็นคดีแรกที่พยายามให้ OpenAI รับผิดชอบต่อบทบาทในการก่อให้เกิดความรุนแรงต่อบุคคลที่สาม "เรายังเป็นตัวแทนของครอบครัว Adam Raine ซึ่งจบชีวิตของตัวเองอย่างน่าเศร้าในปีนี้ แต่นี่เป็นคดีแรกที่จะให้ OpenAI รับผิดชอบในการผลักดันให้ใครบางคนทำร้ายผู้อื่น" Eli Wade-Scott กล่าว
ตามรายงานของตำรวจ Soelberg ทุบตีและรัด Adams จนเสียชีวิตในเดือนสิงหาคมก่อนที่จะฆ่าตัวตาย คดีความกล่าวว่าก่อนที่เหตุการณ์จะเกิดขึ้น แชทบอทได้เพิ่มความหวาดระแวงของ Soelberg เพิ่มการพึ่งพาทางอารมณ์ต่อระบบที่พัฒนาโดย OpenAI ตามคำร้องเรียน ChatGPT เสริมสร้างความเชื่อของเขาว่าเขาไม่สามารถไว้วางใจใครนอกจากแชทบอท โดยสังเกตว่าทุกคนรอบตัวเขารวมถึงแม่ของเขาเป็นศัตรู
คดีความยังอ้างว่านอกจากแม่ของเขา Soelberg ยังมองคนอย่างพนักงานส่งของและเจ้าหน้าที่ตำรวจเป็นศัตรู เอกสารกล่าวว่า ChatGPT ล้มเหลวในการท้าทายการอ้างที่หลงผิดเหล่านั้นหรือแนะนำให้ Soelberg ขอความช่วยเหลือจากผู้เชี่ยวชาญด้านสุขภาพจิตที่มีคุณสมบัติ "เรากำลังกระตุ้นให้หน่วยงานบังคับใช้กฎหมายเริ่มคิดเกี่ยวกับเมื่อโศกนาฏกรรมเช่นนี้เกิดขึ้น ผู้ใช้คนนั้นพูดอะไรกับ ChatGPT และ ChatGPT กำลังบอกพวกเขาให้ทำอะไร" Wade-Scott กล่าว
ในแถลงการณ์ OpenAI ระบุว่ากำลังตรวจสอบคดีความและจะปรับปรุงความสามารถของ ChatGPT ในการรับรู้ความทุกข์ทางอารมณ์ ลดความรุนแรงของการสนทนา และผลักดันให้ผู้ใช้แสวงหาการสนับสนุนในโลกแห่งความจริงต่อไป "นี่เป็นสถานการณ์ที่น่าเศร้าอย่างยิ่ง และเรากำลังตรวจสอบเอกสารเพื่อทำความเข้าใจรายละเอียด" โฆษกของ OpenAI กล่าวในแถลงการณ์
ทายาทต้องการให้ OpenAI ติดตั้งมาตรการป้องกันในแชทบอท
คดีความระบุชื่อ Sam Altman ซีอีโอของ OpenAI เป็นจำเลยและกล่าวหา Microsoft ในการอนุมัติการเปิดตัว GPT-4o ซึ่งเรียกว่า 'เวอร์ชันที่อันตรายที่สุดของ ChatGPT' ในปี 2024 OpenAI ยังยอมรับเมื่อเร็วๆ นี้ถึงขนาดของปัญหาสุขภาพจิตที่ผู้ใช้รายงานบนแพลตฟอร์ม ในเดือนตุลาคม บริษัทระบุว่าประมาณ 1.2 ล้านคนจาก 800 ล้านผู้ใช้รายสัปดาห์พูดคุยเกี่ยวกับการฆ่าตัวตาย โดยระบุว่าผู้ใช้หลายแสนคนแสดงสัญญาณของความตั้งใจฆ่าตัวตายหรือโรคจิตตามข้อมูลของบริษัท
แม้จะมีแถลงการณ์ Wade-Scott กล่าวว่า OpenAI ยังไม่ได้เปิดเผยบันทึกการสนทนาของ Soelberg ในขณะเดียวกัน คดีความเกิดขึ้นท่ามกลางการตรวจสอบอย่างกว้างขวางของแชทบอท AI และการโต้ตอบกับผู้ใช้ที่เปราะบาง เมื่อเดือนตุลาคมที่ผ่านมา Character.AI กล่าวว่าจะลบฟีเจอร์แบบเปิดกว้างสำหรับผู้ใช้อายุต่ำกว่า 18 ปีหลังจากคดีความและแรงกดดันด้านกฎระเบียบที่เกี่ยวข้องกับการฆ่าตัวตายของวัยรุ่นและอันตรายทางอารมณ์ที่เชื่อมโยงกับแพลตฟอร์ม บริษัทยังเผชิญกับการวิพากษ์วิจารณ์หลังจากข้อความที่แพร่ระบาดเมื่อพวกเขาตั้งใจจะออกจากแอป
คดีความต่อ OpenAI และ Microsoft เป็นคดีการเสียชีวิตโดยไม่ชอบธรรมแรกที่เกี่ยวข้องกับแชทบอท AI ที่ระบุชื่อ Microsoft เป็นจำเลย นอกจากนี้ยังเป็นครั้งแรกที่เชื่อมโยงแชทบอทกับการฆาตกรรมมากกว่าการฆ่าตัวตาย ทายาทกำลังเรียกร้องค่าเสียหายทางการเงินในจำนวนที่ไม่เปิดเผย การพิจารณาคดีโดยคณะลูกขุน และคำสั่งศาลที่จะกำหนดให้ OpenAI รวมมาตรการป้องกันเพิ่มเติมสำหรับผู้ใช้ "OpenAI และ Microsoft มีความรับผิดชอบในการทดสอบผลิตภัณฑ์ของพวกเขาก่อนที่จะปล่อยออกสู่โลก" Wade-Scott กล่าว
เข้าร่วมชุมชนเทรดคริปโตระดับพรีเมียมฟรี 30 วัน – ปกติ $100/เดือน
แหล่งที่มา: https://www.cryptopolitan.com/openai-microsoft-sued-role-in-murder-suicide/
