Eksperci ostrzegają: „Oszustwa, które zobaczysz, będą najgorszymi, jakie kiedykolwiek widziałeś”
Eksperci ostrzegają: „Oszustwa, które zobaczysz, będą najgorszymi, jakie kiedykolwiek widziałeś”
Zastanawiasz się, dlaczego widzisz na YouTube filmy przedstawiające popularnego prezentera wiadomości krajowych promującego firmę produkującą konopie indyjskie? Albo dlaczego miliarder Elon Musk pojawia się w reklamie promującej możliwości inwestycyjne, która brzmi zbyt dobrze, aby mogła być prawdziwa?
Bez względu na to, jak przekonująco mogło to wyglądać, wideo jest prawdopodobnie „deepfake’iem”, czyli medium (filmem, fotografią, głosem) zmanipulowanym lub sfabrykowanym przy użyciu sztucznej inteligencji.
Jeff Horncastle, specjalista ds. komunikacji Kanadyjskiego Centrum ds. Zwalczania Nadużyć Finansowych (CAFC), ostrzega Kanadyjczyków przed rosnącą liczbą oszustw wideo i audio, które wykorzystują podobizny osobistości mediów do reklamowania fałszywych platform kryptowalut i innych oszustw.
– Wszystko, czego (oszuści) potrzebują, to odrobina dźwięku osoby, którą chcą sfałszować, zdjęcie lub krótki klip audio, i wykorzystują to jako dodatkowe narzędzie, aby przekonać potencjalne ofiary, że to prawda – powiedział Horncastle.
Aby zbudować zaufanie, oszuści często korzystają z powszechnie znanych nazwisk, takich jak osobowości amerykańskiej telewizji Gayle King, Tucker Carlson i Bill Maher.
W oszustwach reklamowych w serwisie YouTube związanych z fałszywymi filmami wideo pojawił się także główny prezenter wiadomości i starszy redaktor CTV National News, Omar Sachedina. Jedna z tych reklam wydaje się przedstawiać Sachedinę chwalącego firmę produkującą konopie indyjskie. Dźwięk, choć dobrze dopasowany do wideo, jest fałszywy.
Kolejny film pokazuje założyciela Tesli, Elona Muska, sprzedającego akcje fałszywych firm kryptowalutowych.
Chociaż technologia sztucznej inteligencji, która za tym stoi, nie jest nowa, dostęp do aplikacji i stron internetowych, które można wykorzystać do generowania przekonujących fałszywych zdjęć, filmów i klipów audio przedstawiających znajome twarze, staje się coraz łatwiejszy.
Podobnie jak w przypadku automatycznych połączeń telefonicznych i wiadomości spamowych, twórcy tych fałszywych filmów oszukali ludzi na tysiące dolarów . Chociaż nie ma żadnych konkretnych całościowych danych na temat liczby Kanadyjczyków, którzy zostali oszukani przy użyciu fałszywych treści, to w ubiegłym roku CAFC poinformowało, że Kanadyjczycy stracili łącznie 531 mln dolarów w wyniku oszustw. W tym roku, według stanu na czerwiec Kanadyjczycy stracili w tym roku 283,5 miliona dolarów.
Sztuczna inteligencja staje się coraz „lepsza”, co sprzyja oszustom
– Oprócz bardzo realistycznego wyglądu, najbardziej przerażającym aspektem tych deepfakes jest to, że technologia jest coraz lepsza, co utrudnia identyfikację podróbki – mówi ekspert ds. technologii Mark Daley.
– Ważną rzeczą do zapamiętania jest to, że deepfake, które teraz widzisz, będą najgorszymi, jakie kiedykolwiek zobaczysz przez resztę swojego życia. Będą tylko lepiej zrobione – uprzedza Daley, dyrektor ds. informacji cyfrowej w firmie Western University.
Daley wyjaśnia, że postęp technologiczny nasilił się w ciągu ostatnich pięciu lat, ponieważ utworzenie deepfake’a wymagało zwykle wysoko wykwalifikowanej osoby z dostępem do ekskluzywnego oprogramowania technicznego. Teraz każdy, kto ma przeciętną wiedzę na temat sztucznej inteligencji i dostęp do komputera do gier, może rozpowszechniać dezinformację poprzez podobizny znanej postaci, na przykład polityka ubiegającego się o urząd.
Ta dezinformacja jest szczególnie niepokojąca dla psychoterapeutki i dziennikarki technologicznej Georgii Dow, która twierdzi, że sfabrykowane filmy mogą podsycać nienawiść ludzi do określonych grup i osób lub nakłonić ich do wiary w coś, co zdawało się mówić ich ulubiona gwiazda podczas wywiadu, czego nigdy nie powiedziała.
Jednym ze sposobów, w jaki ta technologia może być szkodliwa, jest jej użycie podczas ważnych wydarzeń politycznych.
Na przykład przed wyborami prezydenckimi w USA w 2024 r. potencjalni kandydaci już oglądają filmy przedstawiające ich działania przeciwko ich kampaniom. Gubernator Florydy Ron DeSantis, który obecnie ubiega się o nominację do Partii Republikańskiej, pojawił się w zeszłym tygodniu w fałszywym filmie, w którym ogłaszał, że wycofuje się z wyścigu.
– To rodzaj zasiania w naszych głowach maleńkich ziarenek, że być może ta osoba jest nikczemna, a może ma alternatywne uczucia. Myślę, że z politycznego punktu widzenia to naprawdę poważna sprawa – powiedział Dow.
Niedawno firma Google ogłosiła, że użyje własnej technologii do dodawania ostrzeżeń o znakach wodnych do obrazów generowanych przez sztuczną inteligencję, próbując eliminować fałszywe twierdzenia i potępiać fałszywe zdjęcia; jednakże obawy dotyczące potencjalnego rozprzestrzeniania się dezinformacji istnieją nawet w przypadku takich wysiłków.
W oświadczeniu dla CTV News rzecznik firmy powiedział: – Dążymy do zapewnienia bezpieczeństwa ludzi na naszych platformach, a gdy znajdziemy treści naruszające te zasady, podejmujemy działania.
– Wciąż ulepszamy nasze praktyki egzekwowania prawa, aby zwalczać nadużycia i oszustwa – zapewnił – W ostatnich latach wprowadziliśmy nowe zasady certyfikacji, usprawniliśmy weryfikację reklamodawców i zwiększyliśmy naszą zdolność do wykrywania skoordynowanych oszustw i zapobiegania im.
Jak rozpoznać deepfake?
Eksperci twierdzą, że w miarę postępu technologii ważne jest, aby ludzie kwestionowali media, z których korzystają w Internecie. Sygnały ostrzegawcze sugerujące, że film może być fałszywy, obejmują dźwięk niezgodny z ruchami ust danej osoby, film przedstawiający nienaturalne ruchy oczu oraz różnice w oświetleniu mówiącej osoby i tła.
Dow zalecił również skupienie się na „zarysach” osoby w porównaniu z tłem, w tym na włosach i obszarach wokół twarzy, zwłaszcza w chwili, gdy mówca się porusza.
Horncastle zalecił zadawanie sobie pytań o to, dlaczego niektóre osobistości medialne miałyby promować produkty wykraczające poza ich zainteresowania i dlaczego w ogóle miałyby promować cokolwiek, jeśli nie jest to coś, czym zwykle się zajmują.
– Pierwszą czerwoną flagą powinno być: «Myślę, że ta gwiazda nie promuje takich rzeczy» – powiedzia – A jeśli nadal nie jesteś pewien, przeprowadź jak najwięcej badań, ale istnieje duże prawdopodobieństwo, że promowane przez nich witryny są fałszywe.
Horncastle twierdzi, że sprawdzenie firm stojących za tymi produktami przed zakupem u nich pozwoli dowiedzieć się, na ile są one legalne i co się stanie z Twoimi pieniędzmi.
Na podst. CTV News