OpenAI และ Microsoft ถูกฟ้องร้องเกี่ยวกับการเสียชีวิตที่เชื่อมโยงกับ ChatGPT

ทรัพย์สินของหญิงวัย 83 ปีจากคอนเนตทิคัตได้ฟ้องร้อง OpenAI ผู้พัฒนา ChatGPT และ Microsoft โดยกล่าวหาว่าแชทบอทได้ส่งเสริมความเชื่อที่หลงผิดของเธอ ซึ่งนำไปสู่การฆาตกรรมและฆ่าตัวตาย คspraวมนี้เป็นครั้งแรกที่ระบบปัญญาประดิษฐ์ถูกเชื่อมโยงโดยตรงกับการฆาตกรรม

คดีความที่ยื่นต่อศาลสูงแคลิฟอร์เนียในซานฟรานซิสโก กล่าวหา OpenAI ว่าออกแบบและจัดจำหน่ายผลิตภัณฑ์ที่บกพร่องในรูปแบบของ ChatGPT-4o เอกสารอ้างว่ามันเสริมสร้างความเชื่อที่หวาดระแวงของ Stein-Erik Soelberg ซึ่งจากนั้นได้นำความเชื่อเหล่านั้นไปใส่แม่ของเขา Suzanne Adams ก่อนที่เขาจะฆ่าเธอและฆ่าตัวตายที่บ้านของพวกเขาใน Greenwich รัฐคอนเนตทิคัต

OpenAI และ Microsoft ถูกตั้งเป้าในคดีฆาตกรรมที่เกี่ยวข้องกับ ChatGPT

เมื่อพูดถึงคดีนี้ J. Eli Wade-Scott หุ้นส่วนผู้จัดการของ Edelson PC ซึ่งเป็นตัวแทนของทรัพย์สิน Adams กล่าวว่านี่เป็นคดีแรกที่พยายามให้ OpenAI รับผิดชอบต่อบทบาทในการก่อให้เกิดความรุนแรงต่อบุคคลที่สาม "เราเป็นตัวแทนของครอบครัว Adam Raine ด้วยเช่นกัน ผู้ซึ่งจบชีวิตตัวเองอย่างน่าเศร้าในปีนี้ แต่นี่เป็นคดีแรกที่จะทำให้ OpenAI รับผิดชอบในการผลักดันให้ใครบางคนทำร้ายผู้อื่น" Eli Wade-Scott กล่าว

ตามรายงานของตำรวจ Soelberg ทุบตีและรัด Adams จนเสียชีวิตในเดือนสิงหาคมก่อนที่จะฆ่าตัวตาย คดีความกล่าวว่าก่อนที่เหตุการณ์จะเกิดขึ้น แชทบอทได้ทำให้ความหวาดระแวงของ Soelberg รุนแรงขึ้น เพิ่มการพึ่งพาทางอารมณ์ต่อระบบที่พัฒนาโดย OpenAI ตามคำร้องเรียน ChatGPT เสริมสร้างความเชื่อของเขาว่าไม่สามารถไว้วางใจใครนอกจากแชทบอท โดยสังเกตว่าทุกคนรอบตัวเขา รวมทั้งแม่ของเขา เป็นศัตรู

คดีความยังอ้างว่านอกจากแม่ของเขาแล้ว Soelberg ยังมองคนอย่างพนักงานส่งของและเจ้าหน้าที่ตำรวจเป็นศัตรูด้วย เอกสารกล่าวถึงว่า ChatGPT ล้มเหลวในการท้าทายการอ้างที่หลงผิดเหล่านั้นหรือแนะนำให้ Soelberg ขอความช่วยเหลือจากผู้เชี่ยวชาญด้านสุขภาพจิตที่มีคุณสมบัติ "เรากำลังเรียกร้องให้หน่วยงานบังคับใช้กฎหมายเริ่มคิดเกี่ยวกับเมื่อโศกนาฏกรรมแบบนี้เกิดขึ้น ผู้ใช้คนนั้นพูดอะไรกับ ChatGPT และ ChatGPT บอกให้พวกเขาทำอะไร" Wade-Scott กล่าว

ในแถลงการณ์ OpenAI ระบุว่ากำลังตรวจสอบคดีความและจะปรับปรุงความสามารถของ ChatGPT ในการจดจำความทุกข์ทางอารมณ์ ลดความรุนแรงของการสนทนา และผลักดันให้ผู้ใช้แสวงหาการสนับสนุนในโลกแห่งความจริง "นี่เป็นสถานการณ์ที่น่าเศร้าอย่างยิ่ง และเรากำลังตรวจสอบเอกสารที่ยื่นเพื่อทำความเข้าใจรายละเอียด" โฆษก OpenAI กล่าวในแถลงการณ์

ทรัพย์สินต้องการให้ OpenAI ติดตั้งมาตรการป้องกันในแชทบอท

คดีความระบุชื่อ Sam Altman ซีอีโอของ OpenAI เป็นจำเลยและกล่าวหา Microsoft ในการอนุมัติการเปิดตัว GPT-4o ซึ่งเรียกว่า 'เวอร์ชันที่อันตรายที่สุดของ ChatGPT' ในปี 2024 OpenAI ยังยอมรับเมื่อเร็วๆ นี้ถึงขนาดของปัญหาสุขภาพจิตที่ผู้ใช้รายงานบนแพลตฟอร์ม ในเดือนตุลาคม บริษัทระบุว่าประมาณ 1.2 ล้านคนจาก 800 ล้านผู้ใช้รายสัปดาห์พูดคุยเกี่ยวกับการฆ่าตัวตาย โดยสังเกตว่าผู้ใช้หลายแสนคนแสดงสัญญาณของความตั้งใจฆ่าตัวตายหรือโรคจิต ตามข้อมูลของบริษัท

แม้จะมีแถลงการณ์ Wade-Scott กล่าวว่า OpenAI ยังไม่ได้เปิดเผยบันทึกการแชทของ Soelberg ในขณะเดียวกัน คดีความเกิดขึ้นท่ามกลางการตรวจสอบอย่างกว้างขวางของแชทบอท AI และการโต้ตอบกับผู้ใช้ที่เปราะบาง เมื่อตุลาคมที่แล้ว Character.AI กล่าวว่าจะลบคุณสมบัติแบบเปิดสำหรับผู้ใช้อายุต่ำกว่า 18 ปีหลังจากคดีความและแรงกดดันด้านกฎระเบียบที่เชื่อมโยงกับการฆ่าตัวตายของวัยรุ่นและอันตรายทางอารมณ์ที่เกี่ยวข้องกับแพลตฟอร์ม บริษัทยังเผชิญกับการวิพากษ์วิจารณ์หลังจากคำสั่งที่แพร่ระบาดเมื่อพวกเขาตั้งใจจะออกจากแอป

คดีความต่อ OpenAI และ Microsoft เป็นคดีการเสียชีวิตโดยมิชอบแรกที่เกี่ยวข้องกับแชทบอท AI ที่ระบุชื่อ Microsoft เป็นจำเลย นอกจากนี้ยังเป็นครั้งแรกที่เชื่อมโยงแชทบอทกับการฆาตกรรมแทนที่จะเป็นการฆ่าตัวตาย ทรัพย์สินกำลังเรียกร้องค่าเสียหายเป็นเงินในจำนวนที่ไม่เปิดเผย การพิจารณาคดีโดยคณะลูกขุน และคำสั่งศาลที่จะกำหนดให้ OpenAI รวมมาตรการป้องกันเพิ่มเติมสำหรับผู้ใช้ "OpenAI และ Microsoft มีความรับผิดชอบในการทดสอบผลิตภัณฑ์ของพวกเขาก่อนที่จะปล่อยออกสู่โลก" Wade-Scott กล่าว

อย่าเพียงแค่อ่านข่าวคริปโต ทำความเข้าใจมัน สมัครรับจดหมายข่าวของเรา ฟรี