Deep fake to technika obróbki obrazu i dźwięku przy pomocy sztucznej inteligencji. Za sprawą specjalnych algorytmów powstają nieprawdziwe zdjęcia, nagrania audio czy filmy, w których mogą pojawiać się autentyczne postaci. Czy łatwo rozpoznać ­deep fake? Niestety coraz trudniej. Sprawdzimy jednak, na co zwracać uwagę, by odróżnić prawdziwe nagrania i zdjęcia od tych stworzonych przez algorytmy.

Co to jest deep fake?

Deep fake to zdjęcie lub nagranie wideo bądź audio, które, najprościej rzecz ujmując, zostało spreparowane – jest nieprawdziwe. Aby powstało, potrzebne są po pierwsze algorytmy, po drugie próbki głosu, dźwięku, wideo czy zdjęć. Co dzieje się dalej? Algorytmy pobierają informacje z różnych miejsc, a potem łączą je ze sobą po to, by powstał materiał do złudzenia przypominający prawdziwy. Przykład takiego fałszywego materiału? Jednym z bardziej znanych deep fake’ów jest wystąpienie Baracka Obamy, które w rzeczywistości nigdy nie miało miejsca.

Warto wiedzieć! Algorytmy potrafią też stworzyć wizerunek zupełnie nowej postaci – takiej, która nigdy nie istniała.

Po co tworzy się deep fake’i?

Obrazy, nagrania czy filmy deep fake powstają przede wszystkim po to, by wprowadzić do obiegu nieprawdziwe informacje, np. na temat „aktualnych” wydarzeń politycznych. Hakerzy tworzą je też do przeprowadzania ataków z użyciem np. podrobionych poleceń głosowych. Ofiarami deep fake’ów padają także osoby publiczne, m.in. celebryci czy politycy.

Czy istnieje pozytywne wykorzystanie takich materiałów? Owszem. Zdarza się, że algorytmy tworzące materiały foto czy wideo stosuje się do celów edukacyjnych i rozrywkowych.

Czy da się rozpoznać deep fake?

W miarę upływu czasu demaskowanie deep fake’ów staje się coraz bardziej kłopotliwe, ponieważ technologie wykorzystywane do tworzenia fałszywych obrazów coraz bardziej się rozwijają. Mimo to nadal istnieje kilka elementów, które mogą zdradzać, że mamy do czynienia z fałszerstwem. Oto kilka wskazówek:

• Niezgodność dźwięku z ruchem ust – nadal część deep fake’ów daje się rozpoznać właśnie poprzez niedopasowanie ruchów ust do wypowiadanych słów. Zwykle usta „nie nadążają” za dźwiękiem.
• Jakość nagrania – jeśli widzisz niezgodność dźwięku i obrazu (objawiającą się nie tylko w niedopasowaniu ruchów ust do głosu), istnieje duże prawdopodobieństwo, że masz do czynienia z filmem typu deep fake. Zwykle jakość dźwięku na takim nagraniu jest pogorszona.
• Nienaturalność – trudno ująć ją słowami, ale jest dostrzegalna dla oka. Jeśli podczas oglądania filmu widzisz, że coś jest nie tak, np. że emocje osoby występującej w filmie nie pasują do tego, co mówi, że proporcje ciała są zaburzone, mowa ciała czy kolor skóry są nienaturalne (a samo ciało układa się w nietypowy sposób) czy że światło odbija się i załamuje nie tak, jak powinno, istnieje duże prawdopodobieństwo, że oglądasz deep fake.
• Błędy techniczne – w materiałach stworzonych przez algorytmy, kiedy manipuluje się obrazem, mogą pojawiać się błędy, takie jak rozmycie obrazu w miejscu montażu (np. w okolicach szyi przy „doklejaniu” głowy), brak ciągłości nagrania czy błędy w ujęciach (np. cień padający nie w tę stronę, w którą powinien).

Dużą rolę w rozpoznawaniu deep fake’ów odgrywa intuicja. Jeśli masz wątpliwości czy nagranie lub obraz są autentyczne, możesz np. poszukać informacji na ich temat w sieci czy też napisać do autora z prośbą o podanie źródła materiału.