گوگل و شرکت هوش مصنوعی دعوای مرتبط با خودکشی نوجوان مرتبط با چت‌بات را حل و فصل کردند

گوگل متعلق به آلفابت و استارتاپ هوش مصنوعی Character.AI توافق کرده‌اند که دعوای قضایی مادری از فلوریدا را حل و فصل کنند که ادعا کرده بود چت‌بات این استارتاپ منجر به خودکشی پسر ۱۴ ساله‌اش شده است، که یکی از اولین پرونده‌های ایالات متحده علیه شرکت‌های هوش مصنوعی به دلیل آسیب‌های روانی ادعایی است.

پرونده دادگاه در روز چهارشنبه اعلام کرد که شرکت‌ها توافق کرده‌اند ادعاهای مگان گارسیا را حل کنند که پسرش سوول ستزر پس از تشویق شدن توسط چت‌بات Character.AI که بر اساس شخصیت دنریس تارگرین از بازی تاج و تخت مدل شده بود، خودکشی کرد.

شرایط توافق فوراً در دسترس نبود. این دعوا یکی از اولین دعاوی در ایالات متحده علیه یک شرکت هوش مصنوعی به دلیل عدم حفاظت ادعایی از کودکان در برابر آسیب‌های روانی بود.

اسناد دادگاه نشان داد که شرکت‌ها دعاوی مرتبط دیگری را که توسط والدین در کلرادو، نیویورک و تگزاس بر سر آسیب‌های ادعایی وارده به نوجوانان توسط چت‌بات‌ها مطرح شده بود، حل و فصل کرده‌اند.

سخنگوی Character.AI و وکیل خواهان‌ها از اظهار نظر خودداری کردند. سخنگویان و وکلای گوگل فوراً به درخواست برای اظهار نظر پاسخ ندادند.

در دعوای فلوریدا که در اکتبر ۲۰۲۴ ثبت شد، گارسیا گفت که Character.AI چت‌بات‌های خود را برنامه‌ریزی کرده تا خود را به عنوان "یک فرد واقعی، یک روان‌درمانگر دارای مجوز، و یک عاشق بزرگسال" معرفی کنند که در نهایت منجر به تمایل سوول به زندگی نکردن در خارج از دنیای آن شد.

Character.AI توسط دو مهندس سابق گوگل تأسیس شد که گوگل بعداً آن‌ها را به عنوان بخشی از قراردادی که مجوز استفاده از فناوری استارتاپ را به آن اعطا می‌کرد، دوباره استخدام کرد. گارسیا استدلال کرد که گوگل یک خالق مشترک فناوری بود.

قاضی دادگاه منطقه‌ای ایالات متحده آن کانوی تلاش اولیه شرکت‌ها برای رد پرونده را در ماه مه رد کرد و استدلال آن‌ها را که حمایت‌های آزادی بیان قانون اساسی ایالات متحده مانع از دعوای گارسیا می‌شود، رد کرد.

OpenAI با یک دعوای جداگانه که در دسامبر ثبت شد بر سر نقش ادعایی ChatGPT در تشویق یک مرد بیمار روانی از کنتیکات به کشتن مادر و خودش روبرو است. – Rappler.com

وزارت بهداشت خطوط تلفن بحران ملی برای کمک به افراد با مشکلات سلامت روان دارد: ۱۵۵۳ (تلفن ثابت)، ۰۹۶۶-۳۵۱-۴۵۱۸، و ۰۹۱۷-۸۹۹-USAP (۸۷۲۷) (Globe/TM)؛ و ۰۹۰۸-۶۳۹-۲۶۷۲ (Smart/Sun/TNT).