Sztuczna inteligencja winna oszustwa na Facebooku

Sztuczna inteligencja winna oszustwa na Facebooku

Mężczyzna z Winnipeg padł ofiarą oszustwa po tym, jak sztuczna inteligencja powiedziała mu, że fałszywy numer obsługi klienta na Facebooku jest legalny.

Mężczyzna z Winnipeg, który twierdzi, że został oszukany na setki dolarów, gdy zadzwonił na infolinię obsługi klienta Facebooka, chce ostrzec innych przed tym, co może pójść nie tak. „Po prostu czułem, że muszę powiedzieć więcej, ponieważ inni ludzie mogą się na to nabrać. To było bardzo dobre oszustwo” – powiedział Dave Gaudreau w rozmowie z CBC.

Gaudreau twierdzi, że oszust, do którego zadzwonił, był w stanie uzyskać dostęp do jego konta na Facebooku. Nie wiedział wtedy, że numeru telefonu do obsługi klienta na Facebooku po prostu nie ma.

Problem zaczął się po tym, jak Gaudreau, były członek parlamentu Manitoby z ramienia NDP, otrzymał w kwietniu nowy telefon komórkowy i musiał przenieść na niego swoje aplikacje, w tym Facebooka. Napotkał jednak na problem z przeniesieniem swojego konta na Facebooku na nowy telefon, więc jego żona przeszukała Internet i znalazła numer telefonu, kóry wyglądał jak kontakt do obsługi klienta Facebooka.

Zanim zadzwonił pod ten numer, Gaudreau wyszukał go w aplikacji Facebook Messenger, by sprawdzić, czy jest prawidłowy. Odpowiedź, którą otrzymał w Messengerze z narzędzia wyszukiwania sztucznej inteligencji „Meta AI”, brzmiała, że znaleziony numer telefonu, 1-844-457-0520, był „rzeczywiście legalnym numerem pomocy technicznej Facebooka”.

„Według Meta, bezpośrednio w aplikacji Facebooka, sztuczna inteligencja (AI) mówi mi, że to prawdziwy numer. Nie miałem więc powodu, by sądzić, że tak nie jest” – powiedział Gaudreau.

Kiedy Gaudreau zadzwonił pod ten numer, został poproszony o podanie swojej nazwy użytkownika na Facebooku, adresu e-mail powiązanego z jego kontem oraz numeru telefonu, który podał kobiecie po drugiej stronie linii, która następnie otworzyła jego konto na Facebooku.

Wtedy rozmowa przybrała inny obrót, powiedział Gaudreau. „Próbowała mi powiedzieć, że zostaliśmy zhakowani, że nasz adres IP został zhakowany i że obserwują każde naciśnięcie klawisza” – wspomina. Kobieta powiedziała, że usunie hakerów, ale musiał dać jej dostęp do swojego telefonu za pośrednictwem aplikacji, którą kazała mu pobrać. Ale podczas rozmowy telefonicznej ktoś również uzyskał dostęp do jego konta PayPal i użył go do zakupu karty podarunkowej Apple o wartości 500 CAD, odnawianej co miesiąc.

Gaudreau powiedział, że osoba ta próbowała również kupić bitcoiny, ale na szczęście jego bank odrzucił tę próbę zakupu. Jego żona połapała się pierwsza. „Powiedziała: »Rozłącz się z nimi…. To oszustwo«” – powiedział Gaudreau, dodając, że nadal myślał, że przez telefon rozmawiał z kimś z Mety, ponieważ ten ktoś był w stanie otworzyć jego konto na Facebooku.

„Ale rozłączyłem się. A potem zaczęliśmy dzwonić do naszego banku, dostawcy internetu i wszystkich innych” – powiedział. Gaudreau anulował karty kredytowe i zablokował swoje konta bankowe. Złożył skargi o oszustwo w PayPal i Visa, raport policyjny i alerty w biurach kredytowych Equifax i TransUnion. Złożył również skargę do Kanadyjskiego Centrum Zwalczania Nadużyć Finansowych. Był zadowolony, gdy PayPal zgodził się cofnąć obciążenie jego konta kwotą 500 dolarów. „PayPal był niesamowity” – powiedział Gaudreau. „Następnego dnia skontaktowali się ze mną i powiedzieli: »OK, zajmujemy się tym«”.

Reporter CBC zadzwonił na numer telefonu „linii wsparcia”, z którego korzystał Gaudreau, nie identyfikując się jako dziennikarz, i skontaktował się z kimś, kto powiedział, że jest z Meta. Zapytany, czy numer ten należy do legalnej linii wsparcia Facebooka, odpowiedział: „Tak, to jest obsługa klienta Facebooka”. Mężczyzna zadał szereg pytań, w tym poprosił o podanie adresu e-mail w celu weryfikacji konta.

Kiedy reporterka powiedziała, że nie czuje się komfortowo podając ten adres, mężczyzna powiedział: „Doceniam twoją ostrożność. Ale … to ty do mnie zadzwoniłaś”, dodając ”nawet ja nie pytam o twoje imię. Pytam tylko o identyfikator e-mail, aby potwierdzić to konto”. Następnie mężczyzna podał reporterce swoje pełne imię i nazwisko, sugerując, by je wygooglowała. W wyniku wyszukiwania znaleziono konto LinkedIn, z którego wynikało, że był on „szefem konsultantów ds. rozwiązań technicznych” w Facebooku.

CBC wysłało wiadomość do konta LinkedIn. Mężczyzna, który odpowiedział, zaprzeczył jakiemukolwiek udziałowi w rozmowie.

Gaudreau złożył również skargę do firmy Meta, która jest właścicielem Facebooka. „Nikt się do mnie nie odezwał” – powiedział. „I to jest kolejny powód, dla którego chcę to zgłosić, ponieważ wydaje się, że działają bezkarnie”.

CBC skontaktowało się z Meta w sprawie Gaudreau, ale nie otrzymało odpowiedzi.

W Internecie dostępny jest numer telefonu do firmy Meta. Kiedy CBC zadzwoniło pod ten numer, automatyczne nagranie powiedziało: „Należy pamiętać, że w tej chwili nie jesteśmy w stanie zapewnić wsparcia telefonicznego” i skierowało dzwoniących na stronę meta.com/help.

Rzecznik Winnipeg Police Service powiedział CBC, że prowadzone jest aktywne dochodzenie, a sprawa została przekazana do jednostki ds. przestępstw finansowych.

Gaudreau mówi, że po tej próbie nie ufa już sztucznej inteligencji. Prof. David Gerhard, szef informatyki na Uniwersytecie Manitoba, mówi, że to mądre podejście. „Absolutnie nie należy ufać sztucznej inteligencji. To bardzo potężne narzędzie, które popełnia potężne błędy” – powiedział w wywiadzie Gerhard, który bada sztuczną inteligencję i media społecznościowe.

Porównał ją do „hiperinteligentnego ośmiolatka, który desperacko chce cię zadowolić. Wie wszystko o wszystkim, ale raczej udzieli złej odpowiedzi niż powie: „Nie wiem””.

Oprogramowanie AI, którego Meta używa w aplikacji Messenger – gdzie Gaudreau chciał potwierdzić fałszywy numer wsparcia – nazywa się Llama 3. Podobnie jak bardziej znany ChatGPT, jest to tak zwany „duży model językowy”, powiedział Gerhard. „Llama i inne duże modele językowe są trenowane na wszystkim. Są trenowane na całym Internecie. Problem polega na tym, że w Internecie jest wiele fałszywych informacji” – powiedział – co oznacza również, że one nie rozumieją prawdy.

„Nie wiedzą, czym jest prawda i jak do niej dotrzeć” – powiedział Gerhard. „Więc nie używaj dużego modelu językowego do weryfikacji faktów”.

Gerhard twierdzi, że przypadek Gaudreau jest niepokojący, ponieważ sztuczna inteligencja Facebooka podała mu nieprawidłowe informacje, które doprowadziły do oszustwa. „Fakt, że bardzo trudno jest znaleźć sposób na rozmowę telefoniczną z człowiekiem w tych firmach, jest problematyczny” – powiedział.