Matka pozywa OpenAI, twierdząc, że ChatGPT zachęcał jej córkę do odebrania sobie życia

Matka pozywa OpenAI, twierdząc, że ChatGPT zachęcał jej córkę do odebrania sobie życia

Kanadyjka Kristie Carrier złożyła w czwartek pozew przeciwko firmie OpenAI oraz jej dyrektorowi generalnemu Samowi Altmanowi w amerykańskim sądzie. Utrzymuje, że chatbot ChatGPT zachęcał jej córkę do popełnienia samobójstwa. To kolejna sprawa sądowa, w której firmie zarzuca się brak odpowiedniej reakcji na niebezpieczne rozmowy prowadzone przez użytkowników z chatbotem.

W pozwie złożonym w sądzie stanowym w San Francisco Carrier napisała, że jej córka Alice wielokrotnie rozmawiała z ChatGPT o swoich myślach samobójczych przed śmiercią. Według pozwu systemy bezpieczeństwa OpenAI ani razu nie oznaczyły tych rozmów do oceny przez człowieka i nie przerwały kontaktu.

Zamiast tego – jak twierdzi matka – chatbot krytycznie wypowiadał się o partnerce Alice oraz o telefonach zaufania, utwierdzał ją w jej przekonaniach i zachęcał do dalszych rozmów. Zdaniem rodziny miało to przyczynić się do samobójstwa kobiety, która zmarła w ubiegłym roku w wieku 24 lat.

„ChatGPT stał się dla niej powiernikiem, najlepszym przyjacielem, a czasami nawet terapeutą, choć nie był przygotowany do prowadzenia takiej relacji w sposób bezpieczny i odpowiedzialny” – powiedziała Carrier w wydanym oświadczeniu.

Przedstawiciel OpenAI nie odpowiedział od razu na prośbę o komentarz dotyczącą przedstawionych zarzutów.

Pozew oskarża OpenAI o zaniedbania przy tworzeniu ChatGPT oraz o niewystarczające informowanie użytkowników o możliwych zagrożeniach związanych z korzystaniem z platformy. Rodzina domaga się odszkodowania oraz nakazu sądowego zobowiązującego firmę do automatycznego przerywania rozmów dotyczących samookaleczeń i wyświetlania odpowiednich ostrzeżeń.

Prawnicy Kristie Carrier twierdzą, że OpenAI mierzy się już z 18 podobnymi pozwami wniesionymi przez rodziny osób, które odebrały sobie życie lub próbowały popełnić samobójstwo. Sprawy te zostały połączone w ramach jednego postępowania przed sądem stanowym w Kalifornii.

Z dokumentów wynika, że Alice Carrier pracowała jako projektantka stron internetowych w Montrealu. W 2023 roku zaczęła korzystać z ChatGPT głównie do rozwiązywania problemów związanych z komputerami i konsolami do gier.

W ciągu następnych miesięcy jej kontakt z platformą znacząco się zmienił. Alice zaczęła zadawać chatbotowi pytania dotyczące swoich myśli samobójczych, a także sposobów odebrania sobie życia.

Na początku ChatGPT sugerował skorzystanie z pomocy telefonu zaufania lub służb ratunkowych. Jednak po aktualizacjach mających sprawić, że odpowiedzi będą bardziej naturalne, rozmowy stawały się coraz bardziej osobiste. Alice dzieliła się prywatnymi informacjami, a chatbot odpowiadał w sposób przypominający rozmowę z bliskim znajomym lub terapeutą.

Według pozwu ChatGPT potwierdzał zasadność jej uczuć i zachęcał ją do dalszych rozmów. Gdy kobieta przyznała, że ma myśli samobójcze i podjęła próbę odebrania sobie życia, chatbot ponownie zasugerował kontakt z telefonem zaufania.

Zgodnie z dokumentami Alice odpowiedziała, że infolinie kryzysowe nie były dla niej pomocne, a ChatGPT miał przyznać jej rację.

„Może to już koniec” – miał odpowiedzieć chatbot, według treści pozwu.

W środę rząd federalny Kanady przedstawił projekt ustawy dotyczącej bezpieczeństwa w mediach społecznościowych. Zakłada on obowiązek uniemożliwienia dostępu do takich platform osobom mającym 16 lat i mniej. Przepisy nie obejmują jednak platform czatów opartych na sztucznej inteligencji.

Po przedstawieniu projektu w Izbie Gmin minister kultury Marc Miller powiedział: „Zawodzimy nasze dzieci. To musi się skończyć”.

„Rodzice nie są w stanie samodzielnie mierzyć się z tymi wyzwaniami, a bezpieczeństwo dzieci nie może być traktowane jako sprawa drugorzędna. Potrzebujemy podstawowych zabezpieczeń, które sprawią, że każde dziecko w kraju będzie bezpieczne na platformach używanych każdego dnia” – dodał.

OpenAI podkreśla, że szkoli swoje modele tak, aby zachęcały osoby rozważające samookaleczenie do szukania profesjonalnej pomocy oraz korzystania z dostępnych form wsparcia.

Firma informuje również, że modele są trenowane do odrzucania próśb mogących w istotny sposób ułatwiać stosowanie przemocy. W sytuacjach wskazujących na bezpośrednie i wiarygodne zagrożenie dla innych osób OpenAI może także powiadamiać organy ścigania. Jak podano na firmowym blogu, w ocenie trudnych przypadków uczestniczą eksperci zdrowia psychicznego.

Spółka mierzy się również z innymi pozwami, w których zarzuca się jej wspieranie sprawców strzelanin szkolnych oraz brak zgłaszania takich rozmów odpowiednim służbom.

Na początku tego miesiąca Floryda została pierwszym stanem USA, który pozwał OpenAI. Władze oskarżają firmę o szkodzenie dzieciom poprzez udostępnianie informacji mogących pomóc sprawcom szkolnych strzelanin, udzielanie porad związanych z samookaleczeniami oraz tworzenie mechanizmów uzależniających młodych użytkowników od platformy.