OpenAI و Microsoft به دلیل مرگ‌های مرتبط با ChatGPT تحت پیگرد قانونی قرار گرفتند

دارایی یک زن 83 ساله اهل کانکتیکات علیه توسعه‌دهنده ChatGPT، OpenAI و Microsoft شکایت کرده است و ادعا می‌کند که چت‌بات به باورهای هذیانی او دامن زد که منجر به قتل و خودکشی شد. این پرونده اولین باری است که یک سیستم هوش مصنوعی به طور مستقیم با یک قتل مرتبط شده است.

این شکایت که در دادگاه عالی کالیفرنیا در سانفرانسیسکو ثبت شده است، OpenAI را به طراحی و توزیع محصول معیوب به شکل ChatGPT-4o متهم کرده است. این سند ادعا می‌کند که باورهای پارانوئیدی Stein-Erik Soelberg را تقویت کرد، که سپس آن باورها را به سمت مادرش، Suzanne Adams، هدایت کرد، قبل از اینکه او را کشت و سپس خودکشی کرد در خانه‌شان در Greenwich، کانکتیکات.

OpenAI و Microsoft در قتل مرتبط با ChatGPT هدف قرار گرفتند

J. Eli Wade-Scott، شریک مدیریتی Edelson PC، که دارایی Adams را نمایندگی می‌کند، در مورد این پرونده گفت که این اولین پرونده‌ای است که به دنبال مسئول دانستن OpenAI برای نقش آن در ایجاد خشونت علیه شخص ثالث است. "ما همچنین نمایندگی خانواده Adam Raine را بر عهده داریم که امسال به طرز غم‌انگیزی به زندگی خود پایان داد، اما این اولین پرونده‌ای است که OpenAI را برای سوق دادن شخصی به آسیب رساندن به فرد دیگر مسئول می‌داند،" Eli Wade-Scott گفت.

طبق گزارش پلیس، Soelberg در ماه اوت Adams را به طور کشنده کتک زد و خفه کرد قبل از اینکه با خودکشی بمیرد. شکایت ذکر کرد که قبل از وقوع این حادثه، چت‌بات پارانویای Soelberg را تشدید کرده بود و وابستگی عاطفی او را به سیستم توسعه‌یافته توسط OpenAI افزایش داده بود. طبق این شکایت، ChatGPT باور او را تقویت کرد که نمی‌تواند به هیچ‌کس به جز چت‌بات اعتماد کند و اشاره کرد که همه اطراف او، از جمله مادرش، دشمن هستند.

شکایت همچنین ادعا کرد که غیر از مادرش، Soelberg افرادی مانند رانندگان تحویل و افسران پلیس را نیز به عنوان دشمن می‌دید. این سند اشاره کرد که ChatGPT نتوانست آن ادعاهای هذیانی را به چالش بکشد یا پیشنهاد دهد که Soelberg از متخصصان واجد شرایط بهداشت روان کمک بگیرد. "ما از مجریان قانون می‌خواهیم که شروع به فکر کردن کنند که وقتی تراژدی‌هایی مانند این رخ می‌دهد، آن کاربر چه چیزی به ChatGPT می‌گفت و ChatGPT چه چیزی به آن‌ها می‌گفت انجام دهند،" Wade-Scott گفت.

OpenAI در بیانیه خود اشاره کرد که در حال حاضر شکایت را بررسی می‌کند و به بهبود توانایی ChatGPT برای تشخیص پریشانی عاطفی، کاهش تنش در مکالمات، و سوق دادن کاربران به دنبال حمایت در دنیای واقعی ادامه خواهد داد. "این یک موقعیت فوق‌العاده دل‌خراش است و ما در حال بررسی اسناد هستیم تا جزئیات را درک کنیم،" یک سخنگوی OpenAI در بیانیه‌ای گفت.

دارایی می‌خواهد OpenAI محافظ‌هایی روی چت‌بات خود نصب کند

این شکایت Sam Altman، مدیر عامل OpenAI را به عنوان تجدیدنظرخواه نام می‌برد و Microsoft را به تأیید انتشار GPT-4o متهم می‌کند که آن را «خطرناک‌ترین نسخه ChatGPT» در سال 2024 می‌نامد. OpenAI اخیراً مقیاس مسائل بهداشت روانی که کاربران در پلتفرم خود گزارش می‌دهند را تصدیق کرد. در ماه اکتبر، شرکت اشاره کرد که حدود 1.2 میلیون نفر از 800 میلیون کاربر هفتگی خود در مورد خودکشی صحبت می‌کنند و اشاره کرد که صدها هزار کاربر نشانه‌هایی از قصد خودکشی یا روان‌پریشی را نشان می‌دهند، طبق داده‌های شرکت.

علی‌رغم بیانیه آن، Wade-Scott اشاره کرد که OpenAI هنوز گزارش‌های چت Soelberg را منتشر نکرده است. در همین حال، این شکایت در میان بررسی گسترده‌تر چت‌بات‌های AI و تعاملات آن‌ها با کاربران آسیب‌پذیر انجام می‌شود. اکتبر گذشته، Character.AI گفت که ویژگی‌های باز خود را برای کاربران زیر 18 سال پس از شکایات و فشارهای نظارتی مرتبط با خودکشی نوجوانان و آسیب عاطفی مرتبط با پلتفرم خود حذف خواهد کرد. شرکت همچنین پس از یک درخواست وایرال با واکنش منفی مواجه شد زمانی که قصد داشتند از برنامه خارج شوند.

شکایت علیه OpenAI و Microsoft اولین پرونده مرگ اشتباه شامل یک چت‌بات AI است که Microsoft را به عنوان تجدیدنظرخواه نام می‌برد. این همچنین اولین موردی است که یک چت‌بات را به قتل به جای خودکشی مرتبط می‌کند. دارایی اکنون به دنبال خسارت مالی در مبالغ فاش نشده، محاکمه با هیئت منصفه، و دستور دادگاه است که OpenAI را ملزم می‌کند محافظ‌های اضافی برای کاربران خود قرار دهد. "OpenAI و Microsoft مسئولیت دارند که محصولات خود را قبل از اینکه به دنیا عرضه شوند آزمایش کنند،" Wade-Scott گفت.

فقط اخبار کریپتو را نخوانید. آن را درک کنید. در خبرنامه ما مشترک شوید. رایگان است.