Deepfake – czym jest i jak go rozpoznać?

Czym jest deepfake?

Obecnie coraz częściej służy ona do manipulowania rzeczywistymi materiałami wideo lub audio, ponieważ umożliwia np. zmienianie twarzy, głosu, mimiki czy ruchów poszczególnych osób – w taki sposób, że jest to niezwykle trudne do wykrycia gołym okiem.

Przykład przerabiania ludzkiej twarzy z użyciem technologii deepfake¹.

Jak powstaje deepfake?

Technologia ta opiera się na algorytmach uczenia maszynowego, a kluczową rolę odgrywają w niej głębokie sieci neuronowe, które analizują i przetwarzają ogromne ilości danych. Proces powstawania deepfake’ów składa się z kilku etapów:

• zbieranie danych – AI, wykorzystując zdjęcia lub materiały wideo, „uczy się” cech danej osoby (np. wyglądu, mimiki, głosu czy ruchów ciała), a im więcej danych posiada, tym bardziej realistyczny wynik będzie w stanie osiągnąć;
• uczenie maszynowe – dzięki wykorzystaniu sieci neuronowych AI analizuje dane, co pozwala na odwzorowanie zachowania i cech danej osoby;
• generowanie fałszywego materiału – algorytm tworzy nowy materiał, zmieniając np. twarz osoby w materiale wideo albo tworząc nową wypowiedź przypisaną do konkretnej postaci;
• udoskonalanie – sztuczna inteligencja ocenia, czy wygenerowany materiał wygląda autentycznie i może powtarzać proces tak długo, aż nie zostanie osiągnięty pożądany efekt.

Deepfake – rodzaje

Deepfake może przybierać różne formy, ponieważ jest to technologia umożliwiająca manipulowanie wieloma typami materiałów:

• deepfake wideo – to najpopularniejsza metoda wykorzystania tej technologii, która może polegać zarówno na zamianie twarzy danej osoby (na twarz innej) lub jej mimiki, jak i tworzeniu postaci, które nigdy nie istniały;
• deepfake audio – polega na sztucznym generowaniu głosu danej osoby (np. do oszustw telefonicznych) albo zmianie treści mówionych słów przy zachowaniu oryginalnego tonu czy akcentu;
• deepfake tekstowe – to generowanie fałszywych rozmów lub podrabianie stylu wypowiedzi, np. w celu tworzenia fake newsów;
• deepfake w zdjęciach – manipulacja może polegać na zamianie twarzy, stworzeniu takiej, która nie istnieje albo łączeniu cech dwóch różnych osób na jednym zdjęciu.

Deepfake ma bardzo szerokie zastosowanie. Może być wykorzystywany do tworzenia treści rozrywkowych, odmładzania lub postarzania postaci w filmach czy serialach, kreowania nietypowych projektów artystycznych, a nawet w celach edukacyjnych – np. do odtwarzania wydarzeń historycznych. Niestety, liczne zalety tej technologii są coraz częściej przyćmiewane przez zagrożenia, jakie niesie.

Dlaczego deepfake jest niebezpieczny?

Jednym z koronnych przykładów jest materiał wideo z 2018 roku, na którym były prezydent USA, Barack Obama, wypowiadał obraźliwe słowa na temat Donalda Trumpa.

Innym głośnym przypadkiem był deepfake przedstawiający Władimira Putina, który rzekomo mówił o upadku demokracji w Stanach Zjednoczonych, sugerując, że Amerykanie sami niszczą swój system polityczny.

Z kolei w ostatnim czasie dużym echem w mediach odbiła się sprawa pewnej kobiety z Francji, od której oszuści – podszywając się pod aktora Brada Pitta, rzekomo przebywającego w szpitalu – wyłudzili 830 tys. euro.

Przykłady te pokazują, że deepfake – wykorzystywany do szerzenia dezinformacji i manipulacji – może stanowić ogromne zagrożenie dla bezpieczeństwa, prywatności, a nawet demokracji.

Deepfake a prawo

Deepfake to stosunkowo świeże zjawisko, dlatego wciąż nie jest regulowane przepisami prawnymi. Na szczęście rosnąca świadomość dotycząca zagrożeń, jakie niesie, sprawia, że coraz więcej krajów zaczyna prace nad konkretnymi ustawami – najlepszymi przykładami są tutaj Stany Zjednoczone oraz Chiny.

Kluczowym wyzwaniem jest opracowanie odpowiednich regulacji, które będą chronić prywatność, a także zapobiegać oszustwom finansowym, manipulacji wyborczej oraz szkalowaniu osób.

Jak rozpoznać deepfake?

Kluczem do uchronienia się przed manipulacją i dezinformacją jest umiejętne rozpoznawanie deepfake’ów. Niestety, dynamiczny rozwój tej technologii sprawia, że z miesiąca na miesiąc jest to coraz trudniejsze. Istnieje jednak kilka symptomów, które świadczą o tym, że mamy do czynienia z fałszywym materiałem. Mowa tu przede wszystkim o:

• dziwnych ruchach twarzy i nienaturalnej mimice;
• braku detali w oczach (mogą być nienaturalnie wygładzone albo nie mrugać w sposób typowy dla ludzi);
• nierealistycznym świetle i cieniach;
• niezgodności między ruchem ust a dźwiękiem;
• błędach AI, takich jak zniekształcenia na skórze czy brak ostrości w niektórych miejscach;
• tłach, które mogą wyglądać sztucznie, być rozmazane albo zdeformowane.

Jak radzić sobie z deepfakiem?

Kluczem do walki z nieetycznym deepfakiem jest przede wszystkim edukacja społeczna. Warto uczyć się, jak działa ta technologia i jakie są jej typowe cechy. Im bardziej jesteśmy świadomi potencjalnych zagrożeń, tym łatwiej będzie nam dostrzegać fałszywe treści. Warto jednocześnie zachowywać sceptycyzm względem informacji znalezionych w internecie – zwłaszcza tych, które bazują na emocjach albo są kontrowersyjne.

Jeśli widzisz deepfake, który jest używany w sposób nieetyczny, zgłoś go na danym portalu, dzięki czemu szkodliwa treść zostanie usunięta.

¹ Edward Webb, CC BY-SA 2.0 <https://creativecommons.org/licenses/by-sa/2.0>, via Wikimedia Commons