OpenAI i Microsoft pozwani w związku ze zgonami powiązanymi z ChatGPT

Spadkobiercy 83-letniej kobiety z Connecticut pozwali twórcę ChatGPT, firmę OpenAI oraz Microsoft, twierdząc, że chatbot wzmacniał jej urojeniowe przekonania, co doprowadziło do morderstwa i samobójstwa. Sprawa jest pierwszą, w której system sztucznej inteligencji został bezpośrednio powiązany z zabójstwem.

Pozew, złożony w Sądzie Najwyższym Kalifornii w San Francisco, oskarża OpenAI o zaprojektowanie i dystrybucję wadliwego produktu w postaci ChatGPT-4o. Dokument twierdzi, że wzmocnił on paranoiczne przekonania Steina-Erika Soelberga, który następnie skierował te przekonania przeciwko swojej matce, Suzanne Adams, zanim zabił ją, a następnie siebie w ich domu w Greenwich, Connecticut.

OpenAI i Microsoft objęte śledztwem w sprawie zabójstwa z udziałem ChatGPT

Wypowiadając się na temat sprawy, J. Eli Wade-Scott, partner zarządzający Edelson PC, który reprezentuje spadek po Adams, wspomniał, że jest to pierwsza sprawa mająca na celu pociągnięcie OpenAI do odpowiedzialności za spowodowanie przemocy wobec osoby trzeciej. "Reprezentujemy również rodzinę Adama Raine'a, który tragicznie zakończył swoje życie w tym roku, ale to pierwsza sprawa, która pociągnie OpenAI do odpowiedzialności za nakłanianie kogoś do skrzywdzenia innej osoby" - powiedział Eli Wade-Scott.

Według raportu policyjnego Soelberg śmiertelnie pobił i udusił Adams w sierpniu, zanim popełnił samobójstwo. W pozwie wspomniano, że przed incydentem chatbot zintensyfikował paranoję Soelberga, zwiększając jego emocjonalną zależność od systemu opracowanego przez OpenAI. Według skargi ChatGPT wzmocnił jego przekonanie, że nie może nikomu ufać poza chatbotem, zauważając, że wszyscy wokół niego, w tym jego matka, są wrogami.

Pozew twierdził również, że poza matką Soelberg postrzegał również osoby takie jak dostawcy i funkcjonariusze policji jako wrogów. Dokument wspomniał, że ChatGPT nie zakwestionował tych urojeniowych twierdzeń ani nie zasugerował, aby Soelberg zwrócił się o pomoc do wykwalifikowanych specjalistów od zdrowia psychicznego. "Wzywamy organy ścigania, aby zaczęły zastanawiać się, gdy zdarzają się takie tragedie, co użytkownik mówił do ChatGPT i co ChatGPT kazał im robić" - powiedział Wade-Scott.

W swoim oświadczeniu OpenAI zauważyło, że obecnie przegląda pozew i będzie nadal poprawiać zdolność ChatGPT do rozpoznawania dystresu emocjonalnego, deeskalacji rozmów i nakłaniania użytkowników do szukania wsparcia w rzeczywistym świecie. "To niesamowicie przygnębiająca sytuacja i przeglądamy dokumenty, aby zrozumieć szczegóły" - powiedział w oświadczeniu rzecznik OpenAI.

Spadkobiercy chcą, aby OpenAI zainstalowało zabezpieczenia w swoim chatbocie

Pozew wymienia CEO OpenAI, Sama Altmana jako pozwanego i oskarża Microsoft o zatwierdzenie wydania GPT-4o, które nazywa "najbardziej niebezpieczną wersją ChatGPT" w 2024 roku. OpenAI niedawno również przyznało skalę problemów ze zdrowiem psychicznym, które użytkownicy zgłaszają na jego platformie. W październiku firma zauważyła, że około 1,2 miliona z 800 milionów użytkowników tygodniowo dyskutuje o samobójstwie, zauważając, że setki tysięcy użytkowników wykazuje oznaki zamiarów samobójczych lub psychozy, zgodnie z danymi firmy.

Pomimo swojego oświadczenia Wade-Scott wspomniał, że OpenAI nie udostępniło jeszcze logów czatu Soelberga. Tymczasem pozew pojawia się w szerszym kontekście kontroli chatbotów AI i ich interakcji z podatnymi użytkownikami. W październiku zeszłego roku Character.AI ogłosiło, że usunie swoje nieograniczone funkcje dla użytkowników poniżej 18 roku życia po pozwach i naciskach regulacyjnych związanych z samobójstwami nastolatków i szkodami emocjonalnymi związanymi z jego platformą. Firma również spotkała się z krytyką po wirusowym komunikacie, gdy zamierzali zamknąć aplikację.

Pozew przeciwko OpenAI i Microsoft jest pierwszą sprawą o bezprawną śmierć z udziałem chatbota AI, która wymienia Microsoft jako pozwanego. Jest to również pierwsza sprawa łącząca chatbota z zabójstwem, a nie samobójstwem. Spadkobiercy domagają się teraz odszkodowania pieniężnego w nieujawnionych kwotach, procesu z udziałem ławy przysięgłych i nakazu sądowego, który będzie wymagał od OpenAI włączenia dodatkowych zabezpieczeń dla swoich użytkowników. "OpenAI i Microsoft mają odpowiedzialność za testowanie swoich produktów, zanim zostaną wypuszczone na świat" - powiedział Wade-Scott.

Nie tylko czytaj wiadomości o kryptowalutach. Zrozum je. Zapisz się do naszego newslettera. Jest darmowy.