Czym jest deepfake?

źródło: shutterstock.com

reklama

Czy wierzysz w to, co widzisz? Zapewne tak. A co, jeśli już za jakiś czas będziesz zmuszony do kwestionowania tej wiary? Co, jeśli dowody empiryczne okażą się niewystarczające?

Czym jest deepfake?

Deepfake to technika łączenia i nakładania ruchomych oraz nieruchomych obrazów, a także próbek głosu, wykorzystująca sztuczną inteligencję, tak aby tworzyć realistycznie wyglądające materiały filmowe. W ciągu kilku ostatnich lat, a dokładnie od 2017 roku, technologia ta niezwykle się rozwinęła, a materiały przygotowane w oparciu o deepfake są często wykorzystywane jako rozrywkowe, humorystyczne treści.

Czasami wykorzystuje się też deepfake do celów edukacyjnych. Dokładnie tak technologię wykorzystało muzeum Salvadora Dalí na Florydzie, które uruchomiło ekspozycję „Dali żyje”, umożliwiającą zwiedzającym rozmowę z artystą i wspólne pozowanie do zdjęć.

Niestety deepfake to zjawisko, które ma też drugą, o wiele bardziej niebezpieczną stronę.

Deepfake – zagrożenia

Materiały deepfake tworzone z pomocą algorytmów sztucznej inteligencji powoli stają się nie do odróżnienia od prawdziwych nagrań wideo. To zaś generuje szereg zagrożeń. Często wskazuje się na fakt, że spreparowane treści mogą wywołać dezinformację i chaos, a nawet panikę społeczną w przypadku rozpropagowania materiałów sugerujących wybuch wojny czy też użycie broni masowego rażenia. Treści takie mogą być używane do kompromitowania, oczerniania, szantażowania i manipulowania. Wprowadzane na masową skalę mogą negatywnie oddziaływać na opinię publiczną i obniżać zaufanie do mediów. Jednak deepfake może być też wykorzystywany na mniejszą skalę, na przykład jako narzędzie nieuczciwej konkurencji. Spreparowane wideo może także zostać wykorzystane przez oszustów. Ponadto nagrania mogą być użyte jako narzędzie przemocy, na przykład wobec kobiet. Już znane są przypadki, kiedy wyprodukowano materiały pornograficzne z rzekomym udziałem aktorek takich jak Scarlett Johansson czy Gal Gadot. I choć to gwiazdy i celebryci wydają się najbardziej zagrożeni, to nie można wykluczyć wykorzystania deepfake w takim charakterze dla prywatnej zemsty. Oczywiście nagrania deepfake mogą też skutecznie utrudnić pracę policji, prokuratury i sądów.

Media coraz częściej i coraz śmielej informują o niebezpieczeństwach związanych nie tylko z fake newsami, ale właśnie z łatwością, z jaką można w dzisiejszych czasach szerzyć dezinformację.

Jak zrobić deepfake?

Deepfake teoretycznie może zrobić każdy, ale przygotowanie dobrego jakościowo nagrania wymaga dużej mocy obliczeniowej, a także solidnej karty graficznej. Do tego konieczny jest odpowiedni program, taki jak Deep Art Effects, Deep Video Portraits lub DeepFaceLab. Algorytmy sztucznej inteligencji wykorzystywane w takich programach szukają wspólnych cech na obrazach, a następnie przenoszą je na zmodyfikowane plik lub formują fotografię, wykorzystując rozbudowaną strukturę uczenia maszynowego oraz generatory i dyskryminatory.

Jak rozpoznać deepfake?

Jak wspominaliśmy, odróżnienie deepfake od oryginalnych, prawdziwych treści może być bardzo trudne, a nawet niemożliwe. Niemniej jednak warto zwrócić uwagę na kilka elementów, które mogą zdemaskować spreparowane nagranie. Przede wszystkim można zauważyć rozbieżność pomiędzy ruchem ust postaci na filmiku a dźwiękiem. Warto też przyjrzeć się uważnie wszelkim nieprawidłowościom pojawiającym się na obrazie, na przykład rozmycie pomiędzy linią łączenia głowy i ciała czy nienaturalny kolor skóry. Widać to chociażby na teledysku, w którym Miley Cyrus „zastępuje” Elon Musk. Choć filmik jest przygotowany poprawnie, to w niektórych ujęciach widać, że karnacja twarzy Muska jest ciemniejsza, niż reszta ciała należącego do piosenkarki, na zbliżeniach widać też, że język jest mocno rozmyty.

Zdemaskować deepfake może też nienaturalne ułożenie światła albo nienaturalne łożenie ciała względem głowy. Należy też zwrócić uwagę na mimikę twarzy, ton głosu i inne sygnały niewerbalne, które odbieramy niejako intuicyjnie.

Fałszywe materiały mogą posłużyć jako źródło rozrywki, ale trzeba mieć na uwadze fakt, że mogą zostać wykorzystywane w niewłaściwych celach. Dlatego warto wyrobić sobie nawyk weryfikowania odbieranych wiadomości w niezależnych źródłach. Tym bardziej że fake newsy, deepfake i inne zjawiska to znak naszych czasów.