Niestabilna mieszanka deepfake'ów i kampanii politycznych to dobry powód, by mieć się na baczności. Sean Anthony Eddy Creative/E+ za pośrednictwem Getty Images
Wyobraź sobie Październikowa niespodzianka jak żaden inny: Zaledwie tydzień przed 5 listopada 2024 r. nagranie wideo ujawnia tajne spotkanie Joe Bidena i Wołodymyra Zełenskiego. Amerykańscy i ukraińscy prezydenci postanawiają natychmiast wprowadzić Ukrainę do NATO na mocy „specjalnego protokołu członkostwa w sytuacjach nadzwyczajnych” i przygotować się do ataku nuklearnego na Rosję. Nagle świat stanął u progu Armagedonu.
Chociaż dziennikarze mogliby to zauważyć taki protokół nie istnieje a użytkownicy mediów społecznościowych mogą zauważyć dziwne cechy wideo przypominające gry wideo, inni mogą to poczuć ich najgorsze obawy zostały potwierdzone. Kiedy nadejdzie dzień wyborów, ci zaniepokojeni obywatele mogą pozwolić, by wideo wpłynęło na ich głosy, nieświadomi, że właśnie zostali zmanipulowani przez deepfake sytuacji – wydarzenie, które nigdy się nie wydarzyło.
Deepfakes sytuacji reprezentują kolejny etap technologii, które już mieć wstrząśnięte postrzeganie rzeczywistości przez widzów. W naszych badaniach na Projekt DeFake, moi koledzy z Rochester Institute of TechnologyThe University of Mississippi, Michigan State University i ja zbadaj, w jaki sposób powstają deepfake i jakie środki mogą podjąć wyborcy, aby się przed nimi obronić.
Wyobrażanie sobie wydarzeń, które nigdy się nie wydarzyły
Deepfake powstaje zwłaszcza wtedy, gdy ktoś korzysta z narzędzia sztucznej inteligencji głęboka nauka, manipulować lub generować twarz, A głos lub – wraz ze wzrostem duże modele językowe lubić ChatGPT - język konwersacyjny. Można je łączyć, tworząc „głębokie podróbki sytuacji”.
Podstawowa idea i technologia deepfake'u sytuacyjnego są takie same jak w przypadku każdego innego deepfake'u, ale mają odważniejsze ambicje: manipulować prawdziwym wydarzeniem lub wymyślić je z powietrza. Przykłady obejmują wizerunki Spacer sprawcy Donalda Trumpa i Trump przytula Anthony'ego Fauciego, żadne z nich się nie wydarzyło. Uścisk był promowany przez a konto Twitter związane z kampanią prezydencką rywala Trumpa, Rona DeSantisa. Jakiś reklama ataku wymierzona w kampanię Joe Bidena z 2024 r. opublikowaną przez Republikański Komitet Narodowy wykonane w całości z AI.
Na Projekt DeFake, Nasz badania wykazały że deepfake, w tym sytuacje, są zwykle tworzone przez pewną mieszankę dodanie jednego nośnika do drugiego; za pomocą wideo animować obraz lub zmienić inny film, nazwany lalkarstwem; wyczarowanie kawałka mediów do istnienia, zwykle za pomocą generatywna sztuczna inteligencja; lub jakaś kombinacja tych technik.
Żeby było jasne, wiele fałszywych sytuacji jest tworzonych w niewinnych celach. Na przykład, Magazyn Nieskończona Odyseja produkuje fałszywe fotosy z filmów, które nigdy nie zostały wyprodukowane or mogłaby nigdy nie istnieć. Ale nawet niewinne deepfake'i dają powód do pauzy, jak w przypadku prawie wiarygodnych fałszywych fotografii przedstawiających Lądowanie Apollo na Księżycu jako produkcja filmowa.
Głębokie fałszowanie wyborów
A teraz postaw się w sytuacji kogoś, kto próbuje wpłynąć na nadchodzące wybory. Jakie możliwe sytuacje możesz chcieć stworzyć?
Na początek miałoby znaczenie, czy chcesz przechylić głosowanie w stronę określonego wyniku, czy od niego. Może wcieliłbyś się w kandydata, który zachowuje się bohatersko, usuwając pieszego z drogi pędzącego samochodu lub odwrotnie, robiąc coś obraźliwego lub przestępczego. Ważny byłby również format deepfake sytuacji. Zamiast wideo mogłoby to być zdjęcie, na przykład z rozmyciem i kątami, które symulują aparat w smartfonie lub sfałszowane logo agencji informacyjnej.
Twoja grupa docelowa byłaby kluczowa. Zamiast celować w ogólny elektorat lub bazę partii, możesz celować w teoretyków spiskowych w kluczowych okręgach wyborczych. Możesz przedstawić kandydata lub członków jego rodziny jako zaangażowanych w satanistyczny rytuał, udział w festiwalu w ekskluzywny i kontrowersyjny czeski Gajlub mając tajne spotkanie z istotą pozaziemską.
Jeśli masz do tego ambicje i możliwości, możesz nawet spróbować sfałszować same wybory. W czerwcu 2023 r. doszło do włamań do rosyjskich stacji telewizyjnych i radiowych ogłosić pełny rozkaz mobilizacyjny przez deepfake prezydenta Rosji Władimira Putina. Chociaż byłoby to trudniejsze do zrobienia w wyborach w USA, w zasadzie każdy serwis informacyjny mógłby zostać zhakowany w celu wyemitowania deepfakes swoich prezenterów, ogłaszających błędne wyniki lub ustępującego kandydata.
Obrona rzeczywistości
Istnieje wiele technologicznych i psychologicznych sposobów wykrywania głębokich podróbek sytuacji i obrony przed nimi.
Na froncie technologicznym wszystkie deepfake zawierają pewne dowody na ich prawdziwą naturę. Niektóre z tych cech można zobaczyć ludzkim okiem – na przykład zbyt gładką skórę, dziwne oświetlenie lub architekturę – podczas gdy inne mogą być wykrywalny tylko przez sztuczną inteligencję polującą na deepfake.
budujemy DefałszowaćDetektor firmy ma wykorzystywać sztuczną inteligencję do wychwytywania charakterystycznych oznak deepfake'ów i pracujemy nad przygotowaniem go na czas przed wyborami w 2024 roku. Ale nawet jeśli wystarczająco potężny wykrywacz deepfake, taki jak nasz, nie może zostać wdrożony do dnia wyborów, istnieją narzędzia psychologiczne, których ty, wyborca, możesz użyć do zidentyfikowania deepfake'ów: wiedza podstawowa, ciekawość i zdrowy sceptycyzm.
Jeśli natrafisz na treści medialne dotyczące osoby, miejsca lub wydarzenia, które wydają się nietypowe, zaufaj swojej wiedzy. Na przykład w a niedawna mistyfikacja pożaru w Pentagonie, pokazany budynek wygląda bardziej na kwadratowy niż pięciokątny, co może być niespodzianką.
Staraj się jednak nie polegać wyłącznie na swojej podstawowej wiedzy, która może być błędna lub niejednolita. Nigdy nie bój się dowiedzieć się więcej z wiarygodnych źródeł, takich jak zweryfikowane doniesienia prasowe, recenzowane artykuły naukowe lub wywiady z akredytowanymi ekspertami.
Ponadto pamiętaj, że deepfake można wykorzystać do wykorzystania tego, kim jesteś skłonny uwierzyć o osobie, miejscu lub wydarzeniu. Jednym z najlepszych sposobów radzenia sobie z tym jest po prostu bądź świadomy swoich uprzedzeń i bądź trochę ostrożny w stosunku do wszelkich treści medialnych, które wydają się je potwierdzać.
Nawet jeśli możliwe stanie się tworzenie deepfake'ów idealnych sytuacji, to jak wiarygodna jest ich tematyka, prawdopodobnie pozostanie ich piętą achillesową. Tak więc, z rozwiązaniem technologicznym lub bez, nadal masz moc, aby obronić wybory przed wpływem fałszywych wydarzeń.
O autorze
Krzysztof Szwartz, pracownik naukowy ze stopniem doktora w zakresie bezpieczeństwa komputerowego, Rochester Institute of Technology
Artykuł został opublikowany ponownie Konwersacje na licencji Creative Commons. Przeczytać oryginalny artykuł.
Powiązane książki:
O tyranii: dwadzieścia lekcji z XX wieku
autorstwa Timothy'ego Snydera
Ta książka oferuje lekcje historii dotyczące zachowania i obrony demokracji, w tym znaczenie instytucji, rolę poszczególnych obywateli i niebezpieczeństwa autorytaryzmu.
Kliknij, aby uzyskać więcej informacji lub zamówić
Nasz czas jest teraz: władza, cel i walka o sprawiedliwą Amerykę
autorstwa Stacey Abrams
Autorka, polityk i aktywistka, dzieli się swoją wizją bardziej inkluzywnej i sprawiedliwej demokracji oraz oferuje praktyczne strategie zaangażowania politycznego i mobilizacji wyborców.
Kliknij, aby uzyskać więcej informacji lub zamówić
Jak umierają demokracje
autorstwa Stevena Levitsky'ego i Daniela Ziblatta
Ta książka analizuje znaki ostrzegawcze i przyczyny rozpadu demokracji, opierając się na studiach przypadków z całego świata, aby zaoferować wgląd w to, jak chronić demokrację.
Kliknij, aby uzyskać więcej informacji lub zamówić
The People, No: Krótka historia antypopulizmu
przez Thomasa Franka
Autor przedstawia historię ruchów populistycznych w Stanach Zjednoczonych i krytykuje „antypopulistyczną” ideologię, która, jak twierdzi, zdławiła demokratyczne reformy i postęp.
Kliknij, aby uzyskać więcej informacji lub zamówić
Demokracja w jednej książce lub mniej: jak to działa, dlaczego nie działa i dlaczego jej naprawienie jest łatwiejsze niż myślisz
przez Davida Litta
Ta książka zawiera przegląd demokracji, w tym jej mocne i słabe strony, oraz proponuje reformy, które uczynią system bardziej responsywnym i odpowiedzialnym.
