Deepfake – czym są, jak działają i jak chronić się przed złośliwym użyciem w epoce cyfrowej?

Deepfakes to syntetyczne media (zdjęcia, filmy i nagrania audio) tworzone przy użyciu sztucznej inteligencji (AI). W najczęstszych scenariuszach manipuluje się prawdziwymi danymi w celu stworzenia wysoce przekonujących treści, które bardzo trudno odróżnić od legalnych mediów. Na przykład podobizna osoby na istniejącym obrazie lub filmie (w tym jej twarz i głos) zostaje zastąpiona podobizną innej osoby. W wyniku tego procesu mogą powstać bardzo przekonujące fałszywe filmy i nagrania audio, które wydają się przedstawiać osoby mówiące lub robiące rzeczy, których w rzeczywistości nigdy nie robiły.

„Powszechną konfiguracją tworzenia deepfake’ów jest zmiana twarzy osoby poprzez odtworzenie, zastąpienie, edycję lub syntezę przy użyciu technik znanych jako zamiana twarzy, transfer twarzy, manipulacja atrybutami twarzy lub malowanie” – wyjaśniają badacze Bitdefender. „Podejścia te skutkują lokalnymi manipulacjami i tradycyjnie opierają się na sieci GAN. Jednak ostatnio nowa klasa metod – modele probabilistyczne odszumiania dyfuzji – wykazała imponujące możliwości generatywne, budząc nowe obawy dotyczące autentyczności obrazów, które widzimy codziennie w Internecie”.

Czy deepfakes mogą być niebezpieczne?

Tak, technologia tworzenia deepfakes jest łatwo dostępna, a ryzyko nadużyć w cyberprzestępczości, podszywania się pod media społecznościowe, propagandy politycznej i dezinformacji jest bardzo wysokie. Podmioty zagrażające i inne złośliwe osoby mogą wykorzystywać te fałszywe treści między innymi do tworzenia fałszywych narracji, szantażu lub podszywania się pod osoby publiczne w celu dokonania oszustwa lub zniszczenia reputacji osób fizycznych.

Jak wykrywane są deepfakes?

Istnieje wiele sposobów wykrywania fałszywych obrazów lub filmów, w tym:

• Kontrola wizualna: fałszywe obrazy i filmy mogą zawierać określone artefakty lub nieprawidłowości, których nie ma w prawdziwych filmach, takie jak migotanie, zniekształcenie obrazów lub niedopasowane ruchy warg.
• Analiza metadanych: metadane zawarte w pliku cyfrowym można wykorzystać do prześledzenia jego pochodzenia i ustalenia autentyczności. Analizując metadane filmu, można ustalić, czy plik był manipulowany lub edytowany.
• Analiza kryminalistyczna: do wykrywania deepfake można również zastosować techniki kryminalistyczne, takie jak analiza wzorców wideo i dźwięku oraz porównywanie wideo.
• Uczenie maszynowe: algorytmy uczenia maszynowego można trenować na dużych zbiorach danych dotyczących prawdziwych i fałszywych filmów, aby pomóc w klasyfikowaniu nowych filmów jako fałszywych lub prawdziwych.

Należy zauważyć, że w miarę jak fałszywe filmy generowane przez sztuczną inteligencję i zawierające zamianę twarzy staną się bardziej przekonujące, pełna i prawidłowa ocena ich legalności stanie się jeszcze trudniejsza. W związku z tym dokładniejsza ocena może obejmować zastosowanie kombinacji wszystkich powyższych metod.

Jednakże naukowcy zajmujący się wizją komputerową Bitdefender stale pracują nad nowymi metodami wykrywania deepfake w przypadku zmanipulowanych obrazów.

Jak zwykli użytkownicy Internetu mogą odróżnić legalny film od deepfake’a?

Zanim zagłębimy się w szczegóły i wizualne wskazówki deepfakes, chcemy podkreślić, że fałszywe pliki multimedialne mogą opierać się na:

Zdjęciach i filmach przedstawiających prawdziwych ludzi, które zostały zmanipulowane cyfrowo, aby sprawiać wrażenie, że te osoby powiedziały lub zrobiły rzeczy, które nie miały miejsca w rzeczywistości.

Tworzeniu zupełnie nowych tożsamości, które nie istnieją w prawdziwym życiu.
Oto, na co musisz zwrócić uwagę, jeśli nie chcesz dać się nabrać na deepfake:

• Artefakty wizualne i słuchowe.
• Synchronizację głosu i ruchu ust.
• Film wygląda bardzo nienaturalnie, jeśli go zwolnisz.
• Rozmycie obrazu, brak cieni, sztuczne oświetlenie.
• Niespójności symetrii twarzy, takie jak nienaturalne oczy, uszy, zęby, nienaturalne włosy i skóra, która wygląda na zbyt gładką lub zbyt pomarszczoną. Należy również pamiętać, że niektóre z tych wskazówek wizualnych nie są już tak widoczne w przypadku nowszych deepfake’ów.
• Osoba na filmie mruga zbyt szybko lub zbyt wolno, wykazuje nienaturalny ruch oczu lub jego brak.
• Okulary mają nienaturalne odbicie, które nie porusza się jednocześnie z twarzą danej osoby.
• Głos w filmie brzmi syntetycznie i zatrzymuje się w nieodpowiednich momentach.
• Niższa jakość generowanego głosu (mniejsza szybkość transmisji) lub inna wymowa niektórych słów.
• Niespójność między wysyłaną wiadomością a wyrazem twarzy danej osoby lub brak emocji.

W jaki sposób oszuści wykorzystują technologię deepfake do oszustw?

Konsekwencje głębokich podróbek w kontekście cyberbezpieczeństwa i oszustw internetowych są bardzo znaczące. Ponieważ technologia tworzenia deepfakes jest dostępna do indywidualnego użytku na całym świecie, treści generowane przez sztuczną inteligencję są obecnie wykorzystywane w złośliwych celach, w tym:

• Oszustwa na platformach mediów społecznościowych, takich jak Facebook, YouTube, Twitter i Instagram.
• Niszczenie reputacji osób poprzez tworzenie kompromitujących filmów lub zdjęć.
• Omijanie haseł biometrycznych poprzez manipulację obrazem i dźwiękiem.
• Rozpowszechnianie fałszywych wiadomości i dezinformacji (np. wojna na Ukrainie i wojna palestyńsko-izraelska).
• Szantaż i wymuszenie.
• Kradzież tożsamości.

Uwaga: istnieją niezłośliwe deepfakes. Na przykład Hollywood wykorzystuje w filmach efekty generowane przez sztuczną inteligencję, aby postarzyć lub odmłodzić aktorów do odgrywanych przez nich ról.

5 wskazówek, które pomogą Ci chronić się przed zagrożeniami wynikającymi z deepfakes

1. Bądź sceptyczny: zachowuj krytyczne podejście do sensacyjnych lub kontrowersyjnych filmów lub klipów audio w mediach społecznościowych, zwłaszcza jeśli źródło nie jest wiarygodne. Jeśli coś wydaje się „zbyt piękne”, aby mogło być prawdziwe lub informacje są poufne (na przykład wiadomości od władz, oferty usług lub korzyści materialne), to zachowaj spokój i kieruj się zasadą ograniczonego zaufania.
2. Zweryfikuj źródła: zanim uwierzysz lub udostępnisz informacje, które mogą być oparte na głębokiej fałszywce, sprawdź informacje w wielu zaufanych źródłach. Sprawdź tekst, wideo i audio.
3. Korzystaj z technologii: korzystaj z narzędzi bezpieczeństwa, takich jak systemy antywirusowe Bitdefender, które mogą pomóc w wykrywaniu i blokowaniu prób phishingu i innych nielegalnych działań.
4. Bądź na bieżąco: zdobądź wiedzę na temat najnowszych osiągnięć w technologii deepfake, nowych oszustw i metod stosowanych do ich wykrywania.
5. Zgłaszanie podejrzanych działań: za każdym razem, gdy natkniesz się na deepfake (wideo, zdjęcia lub dźwięk) lub staniesz się ofiarą podszywania się, zgłoś to platformie mediów społecznościowych oraz władzom, takim jak CERT i lokalna policja.

Pamiętaj, że im bardziej aktywnie chronisz swoją tożsamość cyfrową oraz prywatność, tym mniejsze jest ryzyko, że staniesz się ofiarą złośliwego wykorzystania deepfakes i podszywania się pod inne osoby w Internecie.