Spadkobiercy 83-letniej kobiety z Connecticut pozwali twórcę ChatGPT, firmę OpenAI oraz Microsoft, twierdząc, że chatbot podsycał jej urojeniowe przekonania, co doprowadziło do morderstwa i samobójstwa. Sprawa jest pierwszym przypadkiem, w którym system sztucznej inteligencji został bezpośrednio powiązany z zabójstwem.
Pozew złożony w Sądzie Najwyższym Kalifornii w San Francisco oskarżył OpenAI o zaprojektowanie i dystrybucję wadliwego produktu w postaci ChatGPT-4o. Dokument twierdzi, że wzmocnił on paranoiczne przekonania Stein-Erika Soelberga, który następnie skierował te przekonania przeciwko swojej matce, Suzanne Adams, po czym zabił ją, a następnie siebie w ich domu w Greenwich, Connecticut.
OpenAI i Microsoft objęci postępowaniem w sprawie zabójstwa z udziałem ChatGPT
Mówiąc o sprawie, J. Eli Wade-Scott, partner zarządzający Edelson PC, reprezentujący spadkobierców Adams, wspomniał, że jest to pierwsza sprawa mająca na celu pociągnięcie OpenAI do odpowiedzialności za rolę w spowodowaniu przemocy wobec osoby trzeciej. "Reprezentujemy również rodzinę Adama Raine'a, który tragicznie zakończył swoje życie w tym roku, ale jest to pierwsza sprawa, która pociągnie OpenAI do odpowiedzialności za nakłanianie kogoś do skrzywdzenia innej osoby," powiedział Eli Wade-Scott.
Według raportu policyjnego Soelberg śmiertelnie pobił i udusił Adams w sierpniu, zanim popełnił samobójstwo. Pozew wspomina, że zanim doszło do incydentu, chatbot zintensyfikował paranoję Soelberga, zwiększając jego emocjonalną zależność od systemu opracowanego przez OpenAI. Według skargi ChatGPT wzmocnił jego przekonanie, że nie może ufać nikomu poza chatbotem, wskazując, że wszyscy wokół niego, w tym jego matka, są wrogami.
Pozew twierdzi również, że oprócz matki Soelberg postrzegał jako wrogów także osoby takie jak dostawcy i funkcjonariusze policji. Dokument wspomina, że ChatGPT nie zakwestionował tych urojeniowych twierdzeń ani nie zasugerował, aby Soelberg zwrócił się o pomoc do wykwalifikowanych specjalistów od zdrowia psychicznego. "Wzywamy organy ścigania, aby zaczęły zastanawiać się, gdy dochodzi do takich tragedii, co użytkownik mówił ChatGPT i co ChatGPT kazał mu robić," powiedział Wade-Scott.
W swoim oświadczeniu OpenAI zauważyło, że obecnie przegląda pozew i będzie nadal poprawiać zdolność ChatGPT do rozpoznawania cierpienia emocjonalnego, deeskalacji rozmów i kierowania użytkowników w stronę poszukiwania wsparcia w rzeczywistym świecie. "To niezwykle rozdzierająca serce sytuacja i przeglądamy dokumenty, aby zrozumieć szczegóły," powiedział rzecznik OpenAI w oświadczeniu.
Spadkobiercy chcą, aby OpenAI zainstalowało zabezpieczenia w swoim chatbocie
Pozew wymienia prezesa OpenAI Sama Altmana jako pozwanego i oskarża Microsoft o zatwierdzenie wydania GPT-4o, które nazywa "najbardziej niebezpieczną wersją ChatGPT" w 2024 roku. OpenAI niedawno również przyznało skalę problemów ze zdrowiem psychicznym, które użytkownicy zgłaszają na jego platformie. W październiku firma zauważyła, że około 1,2 miliona z 800 milionów cotygodniowych użytkowników dyskutuje o samobójstwie, wskazując, że setki tysięcy użytkowników wykazuje oznaki zamiarów samobójczych lub psychozy, według danych firmy.
Pomimo swojego oświadczenia Wade-Scott wspomniał, że OpenAI jeszcze nie opublikowało logów czatu Soelberga. Tymczasem pozew pojawia się w szerszym kontekście kontroli chatbotów AI i ich interakcji z wrażliwymi użytkownikami. W zeszłym październiku Character.AI oświadczyło, że usunie swoje otwarte funkcje dla użytkowników poniżej 18 lat po procesach sądowych i presji regulacyjnej związanej z samobójstwami nastolatków i krzywdą emocjonalną związaną z jego platformą. Firma spotkała się również z reakcją po wirusowym komunikacie, gdy zamierzali opuścić aplikację.
Pozew przeciwko OpenAI i Microsoft jest pierwszą sprawą o bezprawną śmierć dotyczącą chatbota AI, w której Microsoft jest pozwany. Jest to również pierwsza sprawa łącząca chatbot z zabójstwem, a nie samobójstwem. Spadkobiercy domagają się teraz odszkodowania pieniężnego w nieujawnionych kwotach, procesu z udziałem ławy przysięgłych oraz nakazu sądowego, który będzie wymagał od OpenAI uwzględnienia dodatkowych zabezpieczeń dla swoich użytkowników. "OpenAI i Microsoft mają obowiązek przetestować swoje produkty, zanim zostaną wypuszczone na świat," powiedział Wade-Scott.
Dołącz do premium społeczności handlu kryptowalutami za darmo przez 30 dni – normalnie 100 USD/mies.
Źródło: https://www.cryptopolitan.com/openai-microsoft-sued-role-in-murder-suicide/
