Jak rozpoznać deepfake? Na te rzeczy warto zwrócić uwagę

Deepfake to metoda manipulacji, która za pośrednictwem mechanizmów sztucznej inteligencji służy do opracowywania nieprawdziwych treści wizualnych i dźwiękowych. Powstają one przez łączenie i nakładanie na materiał źródłowy (zdjęcie, audio lub wideo) fałszywego lub wygenerowanego przez AI motywu. Pojawia się problem: jak rozpoznać podróbkę? Przedstawiamy kilka prostych rad, które mogą w tym pomóc.

Pierwszy raz o deepfake zaczęto mówić stosunkowo niedawno, bo w 2017 roku. Od tamtego czasu poziom dezinformacji w sieci rośnie w zastraszającym tempie. Dlatego warto umieć się przed nimi bronić. Kluczem może być dbałość o szczegóły.

Social media i AI: idealne połączenie dla deepfake

Nieustający potok informacji wylewający się z mediów społecznościowych oraz narzędzia generatywnej sztucznej inteligencji do opracowywania tekstów, obrazów, dźwięków i nagrań – to idealne środowisko do powstawania materiałów deepfake, które mogą przedstawiać w miarę wiarygodne treści.

Najważniejsza kwestia to zwracanie uwagi na dziwne szczegóły. Może być to trudne, bo social media nie dają nam wiele czasu na analizę, dostarczając co chwilę nowe wiadomości. Warto jednak wpatrzeć się przez chwilę w obraz lub nagranie. W zmanipulowanych materiałach światło zazwyczaj pada pod dziwnymi kątami, a różne fragmenty ukazywanej przestrzeni nie są oświetlone równomiernie. Często zniekształcone bywają też dłonie.

Jeśli jakieś zdjęcie bardziej przypomina dzieło malarza niż obrazowanie uzyskane za pomocą aparatu, jest to prawdopodobnie deepfake.

Przykładem manipulacji, która zyskała szeroki rozgłos, były fotografie z rzekomego aresztowania byłego prezydenta Stanów Zjednoczonych Donalda Trumpa. Po bliższym przyjrzeniu się widać jednak, że jego twarz jest nienaturalna, a rysy policjantów zniekształcone.

AI wygenerowała też zdjęcie papieża Franciszka w białej bufiastej kurtce. Jednak w oczy rzucają się dziwnie dopasowane okulary głowy Kościoła oraz zdeformowana butelka wody, którą trzyma w dłoni.

Dziwne rzeczy w tle i napisy

Obrazy uzyskane w wyniku działania programów sztucznej inteligencji często mylą szczegóły znajdujące się w tle. Na przykład na zdjęciu przedstawiono prezydenta Francji Emmanuela Macrona zbierającego śmieci. Poza surrealizmem sytuacji o manipulacji obrazem świadczą nieczytelne napisy na workach. Osoby znające Francję dostrzegą też, że sygnalizacja świetlna w tle w niczym nie przypomina tej, którą można znaleźć w Paryżu.

AI ma problemy z napisami na obrazach. Na fałszywym zdjęciu z aresztowania Macrona boty nie potrafiły poprawnie napisać wyrazu „policja” na hełmach i mundurach funkcjonariuszy. Dodatkowo prawa ręka prezydenta ma sześć palców.

Wykrywanie filmów typu deepfake

Zmanipulowane materiały wideo mają zwykle dwie główne cechy: nienaturalne ruchy oczu i dźwięk, który bardzo często nie jest zsynchronizowany z obrazem.

Na fałszywym filmie z 2019 r. wyraźnie widać, że ruchy ust Donalda Trumpa nie pokrywają się z tym, co rzekomo mówi.

Nagrania typu deepfake mogą pomóc w rozsiewaniu propagandy. Nieprawdziwy film rzekomo przedstawiający prezydenta Ukrainy Wołodymyra Zełenskiego wzywającego obywateli jego kraju do poddania się Rosji rozlało się szeroko w mediach społecznościowych. Po bliższym przyjrzeniu się można było dostrzec nienaturalne ruchy oczu oraz niesynchroniczność ruchów warg i wypowiadanych słów.

Przy analizie audio warto zwrócić uwagę na wszelkie nieciągłości w dźwięku oraz charakterystyczne powtórzenia i dziwne odgłosy powtarzające się w tle.

Sztuczna inteligencja zostawi nas w tyle?

W miarę ulepszania algorytmów AI coraz trudniej będzie wykryć rozbieżności między prawdziwymi i fałszywymi materiałami pojawiającymi się w sieci. Dlatego najlepszym sposobem na unikanie zmanipulowanych treści jest osobiste weryfikowanie faktów i korzystanie tylko ze sprawdzonych i zaufanych źródeł informacji.

Polecamy: Kłamstwo jako zaprzeczenie prawdy i relacja międzyludzka

Jeśli nie jesteśmy pewni co do autentyczności danego materiału, możemy porównać go do innego, podobnego, o którym wiemy, że jest prawdziwy. Pomoże nam to w wykryciu ewentualnych nieścisłości.

Istnieją też narzędzia, które służą do wykrywania deepfake’ów np. Deepware Scanner, Microsoft Video Authenticator i inne.

Ponieważ algorytmy, które służą do opracowywania fałszywych materiałów, ciągle ewoluują, także sposoby znajdowania takich treści będą się nieustannie zmieniać. Musimy być tego świadomi, aby nie stać się ofiarami manipulacji. Edukacja na temat deepfake jest pierwszym i być może najważniejszym krokiem, który ochroni nas przed internetowymi oszustami.


Dowiedz się więcej:

Zobacz też: Kłamstwo jako zaprzeczenie prawdy i relacja międzyludzka

Fot.: Markus Winkler / Pexels

Polecamy: Cavatina Guitar Festiwal. Jedyna impreza w Polsce poświęcona gitarze

Opublikowano przez

dr Rafał Cieniek

Author


Idealista wierzący w miłość, prawdę i dobro, których szuka na świecie i wokół siebie. Mimo to starający się racjonalnie patrzeć na człowieka i rzeczywistość. Od kilkunastu lat związany z mediami elektronicznymi, gdzie był autorem, redaktorem i wydawcą. Lubi być zaskakiwany nowymi odkryciami naukowców, czytać i pisać o rozwoju technologii, historii, społeczeństwie, etyce i filozofii. Ma doktorat z nauk o mediach.

Chcesz być na bieżąco?

Zapisz się na naszą listę mailingową. Będziemy wysyłać Ci powiadomienia o nowych treściach w naszym serwisie i podcastach.
W każdej chwili możesz zrezygnować!

Nie udało się zapisać Twojej subskrypcji. Proszę spróbuj ponownie.
Twoja subskrypcja powiodła się.