głębokie podróbki sieją wątpliwości 4 14
 Technologia, która może tworzyć deepfake, jest powszechnie dostępna. (Shutterstock)

Na początku marca rozpowszechniano zmanipulowane wideo prezydenta Ukrainy Wołodymyra Zełenskiego. W nim cyfrowo wygenerowany Zełenski nakazał ukraińskiej armii narodowej poddanie się. Film był rozpowszechniany w Internecie, ale szybko został zdemaskowany jako deepfake – hiperrealistyczny, ale fałszywy i zmanipulowany film wyprodukowany przy użyciu sztucznej inteligencji.

Chociaż rosyjska dezinformacja wydaje się mieć ograniczony wpływ, ten alarmujący przykład ilustruje potencjalne konsekwencje deepfake.

Jednak deepfake są z powodzeniem wykorzystywane w technologii wspomagającej. Na przykład, osoby cierpiące na chorobę Parkinsona mogą używać klonowania głosu do komunikacji.

Deepfake są wykorzystywane w edukacji: irlandzka firma CereProc zajmująca się syntezą mowy stworzyła syntetyczny głos dla Johna F. Kennedy'ego, przywrócenie go do życia, aby wygłosił swoje przemówienie historyczne.

wewnętrzna grafika subskrypcji

Jednak każda moneta ma dwie strony. Deepfake mogą być hiperrealistyczne i w zasadzie niewykrywalny przez ludzkie oczy.

Dlatego ta sama technologia klonowania głosu może być wykorzystywana do phishingu, zniesławienia i szantażu. Kiedy deepfake są celowo wykorzystywane w celu przekształcenia opinii publicznej, podżegania do konfliktów społecznych i manipulowania wyborami, mogą podważyć demokrację.

Naukowcy z Uniwersytetu Waszyngtońskiego stworzyli głębokie podróbki Baracka Obamy.

Powodowanie chaosu

Deepfake są oparte na technologii znanej jako generatywne sieci przeciwne w którym dwa algorytmy uczą się nawzajem, aby tworzyć obrazy.

Chociaż technologia kryjąca się za głębokimi podróbkami może wydawać się skomplikowana, jej wyprodukowanie jest proste. Istnieje wiele aplikacji online, takich jak Zamiana twarzy i Głęboka zamiana ZAO które mogą tworzyć deepfake w ciągu kilku minut.

Google Colaboratory — internetowe repozytorium kodu w kilku językach programowania — zawiera przykłady kodu, który: może służyć do generowania fałszywych obrazów i filmów. Przy tak dostępnym oprogramowaniu łatwo jest zobaczyć, jak przeciętni użytkownicy mogą siać spustoszenie za pomocą deepfake, nie zdając sobie sprawy z potencjalnych zagrożeń bezpieczeństwa.

Popularność aplikacji do zamiany twarzy i usług online, takich jak Głęboka nostalgia pokazać, jak szybko i szeroko deepfake mogą zostać przyjęte przez ogół społeczeństwa. W 2019 roku wykryto około 15,000 XNUMX filmów wykorzystujących deepfake. Oczekuje się, że liczba ta wzrośnie.

Deepfake są idealnym narzędziem do kampanii dezinformacyjnych, ponieważ generują wiarygodne fałszywe wiadomości, których obalenie wymaga czasu. Tymczasem szkody spowodowane przez deepfake – zwłaszcza te, które wpływają na reputację ludzi – są często długotrwałe i nieodwracalne.

Czy widzenie wierzy?

Być może najbardziej niebezpieczną konsekwencją deepfake jest sposób, w jaki poddają się dezinformacji w kampaniach politycznych.

Widzieliśmy to, gdy Donald Trump określił wszelkie niepochlebne relacje w mediach jako „fałszywe wiadomości”. Oskarżając swoich krytyków o rozpowszechnianie fałszywych wiadomości, Trump był w stanie wykorzystać dezinformację w obronie swoich wykroczeń i jako narzędzie propagandowe.

Strategia Trumpa pozwala mu utrzymać wsparcie w środowisku pełnym nieufności i dezinformacji, twierdząc, że „że prawdziwe wydarzenia i historie to fałszywe wiadomości lub deepfake".

Podważana jest wiarygodność we władzach i mediach, tworząc klimat nieufności. A wraz z rosnącym rozprzestrzenianiem się deepfake politycy mogą łatwo zaprzeczać wszelkim pojawiającym się skandalom. Jak można potwierdzić czyjąś tożsamość w filmie, jeśli ktoś jej zaprzeczy?

Jednak zwalczanie dezinformacji zawsze było wyzwaniem dla demokracji, które starają się bronić wolności słowa. Partnerstwa między ludźmi a sztuczną inteligencją mogą pomóc w radzeniu sobie z rosnącym ryzykiem deepfake, umożliwiając ludziom weryfikację informacji. Można również rozważyć wprowadzenie nowych przepisów lub stosowanie istniejących przepisów w celu ukarania producentów deepfake za fałszowanie informacji i podszywanie się pod ludzi.

Wielodyscyplinarne podejście stosowane przez rządy międzynarodowe i krajowe, firmy prywatne i inne organizacje są niezbędne do ochrony społeczeństw demokratycznych przed fałszywymi informacjami.Konwersacje

O autorze

Sze-Fung Lee, asystent naukowy, Zakład Studiów Informacyjnych, McGill University i Benjamin CM Fun, profesor i Kanada Research Chair in Data Mining for Cybersecurity, McGill University

Artykuł został opublikowany ponownie Konwersacje na licencji Creative Commons. Przeczytać oryginalny artykuł.