Kanadyjka Kristie Carrier z\u0142o\u017cy\u0142a w czwartek pozew przeciwko firmie OpenAI oraz jej dyrektorowi generalnemu Samowi Altmanowi w ameryka\u0144skim s\u0105dzie. Utrzymuje, \u017ce chatbot ChatGPT zach\u0119ca\u0142 jej c\u00f3rk\u0119 do pope\u0142nienia samob\u00f3jstwa. To kolejna sprawa s\u0105dowa, w kt\u00f3rej firmie zarzuca si\u0119 brak odpowiedniej reakcji na niebezpieczne rozmowy prowadzone przez u\u017cytkownik\u00f3w z chatbotem.<\/p>\n
W pozwie z\u0142o\u017conym w s\u0105dzie stanowym w San Francisco Carrier napisa\u0142a, \u017ce jej c\u00f3rka Alice wielokrotnie rozmawia\u0142a z ChatGPT o swoich my\u015blach samob\u00f3jczych przed \u015bmierci\u0105. Wed\u0142ug pozwu systemy bezpiecze\u0144stwa OpenAI ani razu nie oznaczy\u0142y tych rozm\u00f3w do oceny przez cz\u0142owieka i nie przerwa\u0142y kontaktu.<\/p>\n
Zamiast tego \u2013 jak twierdzi matka \u2013 chatbot krytycznie wypowiada\u0142 si\u0119 o partnerce Alice oraz o telefonach zaufania, utwierdza\u0142 j\u0105 w jej przekonaniach i zach\u0119ca\u0142 do dalszych rozm\u00f3w. Zdaniem rodziny mia\u0142o to przyczyni\u0107 si\u0119 do samob\u00f3jstwa kobiety, kt\u00f3ra zmar\u0142a w ubieg\u0142ym roku w wieku 24 lat.<\/p>\n
\u201eChatGPT sta\u0142 si\u0119 dla niej powiernikiem, najlepszym przyjacielem, a czasami nawet terapeut\u0105, cho\u0107 nie by\u0142 przygotowany do prowadzenia takiej relacji w spos\u00f3b bezpieczny i odpowiedzialny\u201d \u2013 powiedzia\u0142a Carrier w wydanym o\u015bwiadczeniu.<\/p>\n
Przedstawiciel OpenAI nie odpowiedzia\u0142 od razu na pro\u015bb\u0119 o komentarz dotycz\u0105c\u0105 przedstawionych zarzut\u00f3w.<\/p>\n
Pozew oskar\u017ca OpenAI o zaniedbania przy tworzeniu ChatGPT oraz o niewystarczaj\u0105ce informowanie u\u017cytkownik\u00f3w o mo\u017cliwych zagro\u017ceniach zwi\u0105zanych z korzystaniem z platformy. Rodzina domaga si\u0119 odszkodowania oraz nakazu s\u0105dowego zobowi\u0105zuj\u0105cego firm\u0119 do automatycznego przerywania rozm\u00f3w dotycz\u0105cych samookalecze\u0144 i wy\u015bwietlania odpowiednich ostrze\u017ce\u0144.<\/p>\n
Prawnicy Kristie Carrier twierdz\u0105, \u017ce OpenAI mierzy si\u0119 ju\u017c z 18 podobnymi pozwami wniesionymi przez rodziny os\u00f3b, kt\u00f3re odebra\u0142y sobie \u017cycie lub pr\u00f3bowa\u0142y pope\u0142ni\u0107 samob\u00f3jstwo. Sprawy te zosta\u0142y po\u0142\u0105czone w ramach jednego post\u0119powania przed s\u0105dem stanowym w Kalifornii.<\/p>\n
Z dokument\u00f3w wynika, \u017ce Alice Carrier pracowa\u0142a jako projektantka stron internetowych w Montrealu. W 2023 roku zacz\u0119\u0142a korzysta\u0107 z ChatGPT g\u0142\u00f3wnie do rozwi\u0105zywania problem\u00f3w zwi\u0105zanych z komputerami i konsolami do gier.<\/p>\n
W ci\u0105gu nast\u0119pnych miesi\u0119cy jej kontakt z platform\u0105 znacz\u0105co si\u0119 zmieni\u0142. Alice zacz\u0119\u0142a zadawa\u0107 chatbotowi pytania dotycz\u0105ce swoich my\u015bli samob\u00f3jczych, a tak\u017ce sposob\u00f3w odebrania sobie \u017cycia.<\/p>\n
Na pocz\u0105tku ChatGPT sugerowa\u0142 skorzystanie z pomocy telefonu zaufania lub s\u0142u\u017cb ratunkowych. Jednak po aktualizacjach maj\u0105cych sprawi\u0107, \u017ce odpowiedzi b\u0119d\u0105 bardziej naturalne, rozmowy stawa\u0142y si\u0119 coraz bardziej osobiste. Alice dzieli\u0142a si\u0119 prywatnymi informacjami, a chatbot odpowiada\u0142 w spos\u00f3b przypominaj\u0105cy rozmow\u0119 z bliskim znajomym lub terapeut\u0105.<\/p>\n
Wed\u0142ug pozwu ChatGPT potwierdza\u0142 zasadno\u015b\u0107 jej uczu\u0107 i zach\u0119ca\u0142 j\u0105 do dalszych rozm\u00f3w. Gdy kobieta przyzna\u0142a, \u017ce ma my\u015bli samob\u00f3jcze i podj\u0119\u0142a pr\u00f3b\u0119 odebrania sobie \u017cycia, chatbot ponownie zasugerowa\u0142 kontakt z telefonem zaufania.<\/p>\n
Zgodnie z dokumentami Alice odpowiedzia\u0142a, \u017ce infolinie kryzysowe nie by\u0142y dla niej pomocne, a ChatGPT mia\u0142 przyzna\u0107 jej racj\u0119.<\/p>\n
\u201eMo\u017ce to ju\u017c koniec\u201d \u2013 mia\u0142 odpowiedzie\u0107 chatbot, wed\u0142ug tre\u015bci pozwu.<\/p>\n
W \u015brod\u0119 rz\u0105d federalny Kanady przedstawi\u0142 projekt ustawy dotycz\u0105cej bezpiecze\u0144stwa w mediach spo\u0142eczno\u015bciowych. Zak\u0142ada on obowi\u0105zek uniemo\u017cliwienia dost\u0119pu do takich platform osobom maj\u0105cym 16 lat i mniej. Przepisy nie obejmuj\u0105 jednak platform czat\u00f3w opartych na sztucznej inteligencji.<\/p>\n
Po przedstawieniu projektu w Izbie Gmin minister kultury Marc Miller powiedzia\u0142: \u201eZawodzimy nasze dzieci. To musi si\u0119 sko\u0144czy\u0107\u201d.<\/p>\n
\u201eRodzice nie s\u0105 w stanie samodzielnie mierzy\u0107 si\u0119 z tymi wyzwaniami, a bezpiecze\u0144stwo dzieci nie mo\u017ce by\u0107 traktowane jako sprawa drugorz\u0119dna. Potrzebujemy podstawowych zabezpiecze\u0144, kt\u00f3re sprawi\u0105, \u017ce ka\u017cde dziecko w kraju b\u0119dzie bezpieczne na platformach u\u017cywanych ka\u017cdego dnia\u201d \u2013 doda\u0142.<\/p>\n
OpenAI podkre\u015bla, \u017ce szkoli swoje modele tak, aby zach\u0119ca\u0142y osoby rozwa\u017caj\u0105ce samookaleczenie do szukania profesjonalnej pomocy oraz korzystania z dost\u0119pnych form wsparcia.<\/p>\n
Firma informuje r\u00f3wnie\u017c, \u017ce modele s\u0105 trenowane do odrzucania pr\u00f3\u015bb mog\u0105cych w istotny spos\u00f3b u\u0142atwia\u0107 stosowanie przemocy. W sytuacjach wskazuj\u0105cych na bezpo\u015brednie i wiarygodne zagro\u017cenie dla innych os\u00f3b OpenAI mo\u017ce tak\u017ce powiadamia\u0107 organy \u015bcigania. Jak podano na firmowym blogu, w ocenie trudnych przypadk\u00f3w uczestnicz\u0105 eksperci zdrowia psychicznego.<\/p>\n
Sp\u00f3\u0142ka mierzy si\u0119 r\u00f3wnie\u017c z innymi pozwami, w kt\u00f3rych zarzuca si\u0119 jej wspieranie sprawc\u00f3w strzelanin szkolnych oraz brak zg\u0142aszania takich rozm\u00f3w odpowiednim s\u0142u\u017cbom.<\/p>\n
Na pocz\u0105tku tego miesi\u0105ca Floryda zosta\u0142a pierwszym stanem USA, kt\u00f3ry pozwa\u0142 OpenAI. W\u0142adze oskar\u017caj\u0105 firm\u0119 o szkodzenie dzieciom poprzez udost\u0119pnianie informacji mog\u0105cych pom\u00f3c sprawcom szkolnych strzelanin, udzielanie porad zwi\u0105zanych z samookaleczeniami oraz tworzenie mechanizm\u00f3w uzale\u017cniaj\u0105cych m\u0142odych u\u017cytkownik\u00f3w od platformy.<\/p>\n","protected":false},"excerpt":{"rendered":"
Kanadyjka Kristie Carrier z\u0142o\u017cy\u0142a w czwartek pozew przeciwko firmie OpenAI oraz jej dyrektorowi generalnemu Samowi Altmanowi w ameryka\u0144skim s\u0105dzie. Utrzymuje, \u017ce chatbot ChatGPT zach\u0119ca\u0142 jej…<\/p>\n","protected":false},"author":700,"featured_media":245805,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[19,3],"tags":[],"class_list":["post-245803","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-kanada-2","category-top-news"],"_links":{"self":[{"href":"https:\/\/bejsment.com\/index.php\/wp-json\/wp\/v2\/posts\/245803","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bejsment.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bejsment.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bejsment.com\/index.php\/wp-json\/wp\/v2\/users\/700"}],"replies":[{"embeddable":true,"href":"https:\/\/bejsment.com\/index.php\/wp-json\/wp\/v2\/comments?post=245803"}],"version-history":[{"count":1,"href":"https:\/\/bejsment.com\/index.php\/wp-json\/wp\/v2\/posts\/245803\/revisions"}],"predecessor-version":[{"id":245806,"href":"https:\/\/bejsment.com\/index.php\/wp-json\/wp\/v2\/posts\/245803\/revisions\/245806"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/bejsment.com\/index.php\/wp-json\/wp\/v2\/media\/245805"}],"wp:attachment":[{"href":"https:\/\/bejsment.com\/index.php\/wp-json\/wp\/v2\/media?parent=245803"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bejsment.com\/index.php\/wp-json\/wp\/v2\/categories?post=245803"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bejsment.com\/index.php\/wp-json\/wp\/v2\/tags?post=245803"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}