fbpx

Deepfake – dezinformacja w cyberprzestrzeni – część I

Deepfake - niebezpieczny trend, który może zniszczyć reputację Twojej firmy

Gigantyczny postęp technologii deepfake elektryzuje media, środowisko naukowe, a także specjalistów ds. bezpieczeństwa na całym świecie. 

Czy rzeczywiście techniki zniekształcania rzeczywistości stanowią realne zagrożenie dla Ciebie i Twojej firmy?

deepfake
Na Jennifer Lawrance nałożono twarz Steve'a Buscemi źródło: www.geekweek.pl

Deepfake - co to jest? Geneza cyfrowej repliki

Deepfake po raz pierwszy wykorzystano pod koniec 2017 r., kiedy to izraelska aktorka Gal Gadot znana z tytułowej roli Wonder Woman pojawiła się w sfałszowanych filmach pornograficznych dostępnych na platformie Reddit. Nagrania zostały spreparowane przy użyciu sztucznej inteligencji – wystarczyło nałożyć twarz konkretnej osoby na dowolną postać, aby uzyskać materiał, w którym celebrytki mówią rzeczy, których nigdy nie powiedziały i wykonują czynności, których w rzeczywistości nie zrobiły.

Opublikowane na Reddicie filmiki nie były technicznie idealne (co pewien czas pojawiały się zauważalne błędy), jednak były one na tyle realistyczne, że część osób uwierzyła w sfałszowane nagrania. Materiały zostały udostępnione przez użytkownika o nicku deepfakes – stąd też wizualną manipulację określono mianem deepfake. 

Jim Carey zastąpił Jacka Nicholsona w Lśnieniu źródło: www.focus.pl

Deepfake AD 2019

W ostatnich latach nastąpił imponujący rozwój tej technologii – dotychczas w spreparowanych filmikach pojawiały się wyłącznie osoby publiczne. Internet podbijały kolejne deepfake’i z udziałem celebrytów i polityków, gdyż opracowanie przekonującego deepfake’a wymagało tysięcy zdjęć i nagrań.

Do klasyki należą deepfake’i z Barackiem Obamą (opublikowane przez BuzzFeed w kwietniu ubiegłego roku), gdzie fałszywy były prezydent ogłasza, że Prezydent Trump jest kompletnym dupkiem i spreparowany filmik z Kitem Haringtonem odtwórcą roli Jona Snowa w kultowym serialu HBO Gra o Tron, gdzie przeprasza fanów za rozczarowujące zakończenie serii.

W tym roku opinią publiczną wstrząsnęło nagranie Marka Zuckerberga, który przyznaje, że ma kontrolę nad światem i skradzionymi danymi ludzi z całego świata – film był wyjątkowo realistyczny, jednak jak się okazało powstał na potrzeby wystawy Spectre, która odbyła się w ramach Sheffield Doc Fest.

Niestety tworzenie fałszywych filmików ośmieszających celebrytów i polityków szybko z niewinnej zabawy stało się poważnym zagrożeniem. 

W maju internet opanowało fałszywe wideo z Nancy Pelosi, spikerką amerykańskiej Izby Reprezentantów, w którym wyglądała na pijaną. Fałszywkę udostępniono tysiące razy, nawet Donald Trump umieścił spreparowane nagranie na swoim Twitterze. 

Gigantyczny postęp AI sprawił, że zostały opracowane systemy deepfake umożliwiające wygenerowanie cyfrowo sfałszowanych nagrań przy wykorzystaniu zaledwie jednego zdjęcia.  

spectre-doc-vida
Deepfake'i, które powstały na potrzeby wystawy Spectre źródło: petapixel.com

Jak skutecznie walczyć z deepfake'ami?

Rozwój sztucznej inteligencji, coraz łatwiejszy dostęp do narzędzi deepfake i skala, w jakiej można rozpowszechniać zmanipulowane materiały rozpoczęły w Stanach Zjednoczonych dyskusję na temat walki z deepfake’ami. Podczas debaty w amerykańskim Kongresie pojawiła się nawet propozycja przyjęcia ustawy zakazującej preparowania nagrań. Natomiast członkini Kongresu z ramienia demokratów Yvette Clarke przedstawiła projekt, który penalizuje rozpowszechnianie nieprawdziwych informacji i nakazuje oznaczanie materiałów deepfake za pomocą znaków wodnych, które będą identyfikować nagranie jako fałszywkę.  

Jednak zdaniem ekspertów usuwanie znaków wodnych jest zbyt proste, aby powstrzymało rozpowszechnianie fałszywych informacji w postaci deepfake’ów. Ponadto długotrwały proces legislacyjny nie ukróci propagowania błędnych informacji czy niszczenia reputacji.  

Hiperrealistyczne materiały sprawiły, że amerykańska Agencja Zaawansowanych Projektów Badawczych w Obszarze Obronności (DARPA) przeznaczyła milion dolarów na rozwój narzędzi rozpoznających deepfake. Również technologiczni giganci Facebook i Microsoft idą na wojnę z fałszywkami – wraz z przedstawicielami środowisk akademickich (Cornell Tech, MIT, Oxford, Berkeley i Maryland) powołali inicjatywę Deepfake Detection Challenge. Facebook zamierza zainwestować 10 milionów dolarów w narzędzia ułatwiające wykrywanie deepfake’ów.

Zafałszowany obraz rzeczywistości - deepfake w praktyce

Mimo, że filmy są coraz lepiej preparowane to uważnie się przyglądając możemy dostrzec, że fałszywy Barack Obama nie mruga, a ruchy jego ust są dosyć sztuczne. Jednak przy budzących skrajne emocje treściach mało kto będzie dokładnie analizował mimikę wypowiadającej się postaci. Myślisz, że jesteś w stanie odróżnić prawdziwe osoby, od tych, które są wytworem sztucznej inteligencji? Sprawdź. Na stronie https://www.abc.net.au/news/2018-09-27/fake-news-part-one/10308638 znajdziesz krótki test.

jon-snow-deepfake
Serialowy Jon Snow przeprasza fanów za rozczarowujące zakończenie Gry o Tron źródło: www.news.com.au
Bezpieczeństwo sieci

Gałczyńskiego 18
40-587 Katowice
NIP: 651-15-41-295
Tel: 32 225 99 66

email: kontakt@vida.pl

Zapytaj o produkt

Rozwiązania IT

Gałczyńskiego 18
40-587 Katowice
NIP: 651-15-41-295
Tel: 32 225 99 66
email: kontakt@vida.pl