Deepfake. Bać się, czy nie?

19.05.2023 • Karina Pohoska

Jakiś czas temu media społecznościowe na całym świecie obiegły trzy ciekawe zdjęcia, Papieża Franciszka w białej, modnej kurtce zimowej, Donalda Trumpa szarpiącego się z policjantami oraz Emmanuela Macrona, jako uczestnika protestów w Paryżu. Wśród nich znalazło się również nagranie, na którym Królowa Elżbieta wygłasza orędzie, tańcząc na stole, a Kim Dzong Un mówi o demokracji. Na jednym z filmików pojawia się nawet Iwona Wieczorek i opowiada o swoim porwaniu. To wszystko tylko na pozór wygląda realistycznie, bo w rzeczywistości sytuacje na nich przedstawione, oczywiście nie miały nawet miejsca. O co zatem chodzi? Poznajcie deepfake.

Grafika: Image by Freepik

CO TO JEST DEEPFAKE?

Deepfake jest zjawiskiem polegającym na tworzeniu nieprawdziwych informacji w formie nie tylko zdjęć, ale również nagrań audio i video. Technika ta wykorzystywana jest do łączenia i nakładania obrazów nieruchomych i ruchomych na obrazy lub filmy źródłowe. Uzyskane w ten sposób realistyczne materiały dają możliwość manipulacji prezentowaną treścią poprzez np. niemożliwą do odróżnienia przez widza zamianę twarzy aktorów występujących w filmie. Może to prowadzić do skompromitowania danej osoby poprzez fałszywe „obsadzenie jej” np. w roli w filmie pornograficznym. To właśnie spotkało gwiazdy, takie jak m.in. Gal Gadot czy Taylor Swift, których wizerunki zostały użyte do tego typu deepfake’ów w 2017 roku. Wtedy to również pojęcie deepfake pojawiło się po raz pierwszy, a jego nazwę zaczerpnięto od pseudonimu użytkownika, który wspomniane filmiki opublikował w sieci.

Mówiąc w wielkim skrócie, deepfake jest to fotografia, materiał audio lub video, które nie są prawdziwe. Algorytmy, które go tworzą, pobierają informacje z różnych miejsc w sieci, a potem łączą go w spójną całość. Efektem tego zabiegu jest fakt, że z prawdziwych danych i dostępnych materiałów powstaje całkiem nowy, lecz fałszywy twór. Jednak nie zawsze tak jest, bo deepfake i idący z postępem rozwój sztucznej inteligencji potrafi nawet stworzyć coś całkiem nowego, np. ludzi, którzy nigdy nie istnieli. Techniki wykorzystywane do wykreowania czegoś takiego – sprawiają, że coraz trudnej jest odróżnić prawdę od fałszu.

JAK ROZPOZNAĆ DEEPFAKE?

Niestety, jak wspomnieliśmy wcześniej, coraz trudniej jest odróżnić to, co jest prawdziwe, a co nie, zwłaszcza gdy jest to wykonane profesjonalnie. Problemy z płynną motoryką ruchów, które wcześniej miały algorytmy, zniknęły, ale wciąż zdarza się wychwycić nienaturalny ruch oczu czy dźwięk niezgodny z ruchem ust. To drugie jednak nie wzbudza zbyt wielu wątpliwości, gdyż wielokrotnie takie rzeczy miały miejsce również na prawdziwych nagraniach. Jeśli jesteśmy już przy dźwięku, warto wsłuchać się – czy przypadkiem nie ma on gorszej jakości niż obraz, bo jeśli tak, może to oznaczać, że jest to deepfake. Kolejną rzeczą, która może nam pomóc w wykryciu oszustwa, to nienaturalnie padające na obiekty światło, a co za tym idzie, dziwnie wyglądający cień i odbicia w innych przedmiotach. Oprócz tego wszelkie pojawiające się nieprawidłowości typu rozmycia, szczególnie na łączeniu ciała i głowy, podejrzanie przeskakujące klatki filmu itp. Fakty mówią same za siebie i w dzisiejszych czasach niestety bardzo łatwo kogoś zmanipulować na różnych płaszczyznach. Dlatego warto być spostrzegawczym, ale nie do takiego stopnia, że będziemy siedzieć z nosem w monitorze, analizując wszystkie materiały pod kątem deepfake. Zaufajmy własnej intuicji i wrodzonej inteligencji. Czasami już na pierwszy rzut oka widać, że coś jest nie tak. Zwłaszcza jeśli zobrazowana w materiale sytuacja wydaje się absurdalna w stosunku do rzeczywistości.

JAKI JEST CEL POWSTAWANIA DEEPFAKE?

Deepfake wykorzystuje się m.in. do wprowadzania błędnych informacji do Internetu (np. dotyczących wydarzeń politycznych), kradzieży hakerskich (m.in. podrabianie poleceń głosowych) oraz tworzenia pornografii np. filmów z celebrytami (porn deepfake). Może być również używany do celów edukacyjnych oraz rozrywkowych i być całkowicie nieszkodliwym zabiegiem.

CZY KAŻDY MOŻE STWORZYĆ DEEPFAKE?

Tak, ale niektórzy pewnie nawet nie są tego świadomi. Prawda jest taka, że filtry, które mamy w telefonach czy aplikacje, z których korzystamy, aby polepszyć swój wygląd na zdjęciach, są właśnie oparte na mechanizmach związanych z deepfake, choć samo tworzenie typowego deepfake, to całkiem inna i bardziej zawiła historia. Aczkolwiek nawet te najbardziej wyrafinowane, hiperrealistyczne fałszerstwa nie wymagają nadzwyczajnych środków do ich wykonania i można je stworzyć choćby przy użyciu oprogramowania szeroko dostępnego w Internecie. Dziś można po prostu wejść na specjalnie do tego przeznaczone strony, wrzucić tam materiały, które nas interesują, a technologia i sztuczna inteligencja zrobią za nas pozostałą robotę. Wpływ deepfake możemy zobaczyć we wszystkich social mediach.

CZY DEEPFAKE JEST LEGALNY?

Według oficjalnych raportów technologia tego typu rozwija się bardzo szybko, a wiele kwestii prawnych z nią związanych, nie zostało jeszcze uregulowanych. Jednak Kodeks cywilny stanowi, że dobrem osobistym człowieka jest m.in. jego wizerunek. Wobec tego, wykorzystanie go w ramach jakiegokolwiek zabiegu w zakresie deepfake, może naruszyć te dobra osobiste. W szczególności, jeśli chodzi o sytuacje mające na celu ośmieszenie osoby, której wizerunek został wykorzystany do niecnych celów.

JAK SOBIE RADZIĆ Z POSTĘPEM DEEPFAKE?

Pierwszym krokiem do walki z nim musi być edukacja — nie tylko zwykłych ludzi, ale przede wszystkim organów ścigania. Powinny powstawać kampanie uświadamiające nam istnienie problemu, zawierające podstawowe informacje o sposobach tworzenia deepfake'ów, o tym w jaki sposób przestępcy mogą się nimi posługiwać oraz o metodach ich identyfikacji. Dotarcie do szerokiego grona odbiorców byłoby tutaj kluczowe.

Organy ścigania muszą się liczyć z tym, że im dalej w „las”, tym dochodzenie w sprawie przestępstw powiązanych z deepfake, będzie wymagało umiejętności technicznych na wyższym poziomie i zasobów wykraczających poza możliwości większości jednostek. W miarę wzrostu świadomości powinno pojawić się więcej przepisów, które będą regulować walkę z zagrożeniem stwarzanym przez fałszywe media. Przepisy te powinny być napisane w taki sposób, aby uwzględnić postęp technologiczny. Muszą obejmować nakazanie jakiejś formy uwierzytelniania cyfrowego wbudowanego w urządzenia nagrywające i zlikwidowanie wszelkich luk prawnych, które umożliwiają rozpowszechnianie szkodliwych materiałów.

Bardzo ważnym krokiem w walce z deepfake jest współpraca, ponieważ jest mało prawdopodobne, aby poszczególne organy ścigania miały wystarczające środki finansowe lub super wykwalifikowany personel do przeprowadzania szeroko zakrojonych badań kryminalistycznych pod tym kątem. W związku z tym ręce będą musiały sobie podać różne grupy zadaniowe ds. przestępstw komputerowych, wszystkie laboratoria zajmujące się kryminalistyką komputerową, eksperci informatyki z sektora prywatnego, akademickie instytucje badawcze itp. Wszyscy powinni zapoznać się z technologią tworzenia i wykrywania deepfake. Partnerstwo w tym zakresie odegra ważną rolę w analizie kryminalistycznej cyfrowego wideo i wykrywaniu deepfake'ów w miarę rozwoju technologii.

Wiele prywatnych firm i badaczy już od dawna pracuje nad postępem technologicznym, który mógłby w przyszłości pomóc organom ścigania poprzez weryfikację filmów w trakcie ich tworzenia. Cyfrowe znaki wodne osadzone w filmach, identyfikujące konkretne urządzenie użyte do ich nagrania, mogą zapewnić uwierzytelnienie materiału dowodowego. Konsorcjum firm, w tym Adobe i Twitter, stworzyło oprogramowanie do śledzenia
obrazów i weryfikacji twórcy oraz wszelkich wprowadzonych zmian.

NIE TAKI DEEPFAKE STRASZNY?

Podczas gdy deepfake, co zresztą już wiemy, może wyrządzić spore szkody, może również przyczynić się do czegoś dobrego. We współpracy z Malaria No More, RG/A i Ridley Scott Associates, firma Synthesia wyprodukowała film z Davidem Beckhamem mówiącym w 9 różnych językach, aby zwiększyć świadomość na temat malarii, jednej z najbardziej śmiercionośnych chorób na świecie. Oczywiście gwiazda piłki nożnej, tak naprawdę, filmik nagrała tylko w jednym języku. Resztę wykonali graficy przy użyciu zarówno wizerunku, jak i głosu piłkarza. W tym przypadku wszystko odbyło się legalnie, a cel był szczytny.

PODSUMOWANIE

Metody wykrywania deepfake'ów są szybko zastępowane coraz to nowszymi metodami tworzenia i wykorzystywania ich w celach nie tylko rozrywkowych, szczytnych, ale i niestety przestępczych. I choć deepfake to krok w ewolucji technologii, a dobrze wykorzystywany może zrobić naprawdę genialną robotę, to ta jego ciemna strona zawsze będzie zabawą w kotka i myszkę z organami ścigania, jeżeli nie poznamy go od A do Z.

Wykorzystano materiały ze stron: trybawaryjny.pl oraz policechiefmagazine.org