Detektory zasilane sztuczną inteligencją to najlepsze narzędzia do wykrywania fałszywych filmów generowanych przez sztuczną inteligencję. The Washington Post przez Getty Images

Dziennikarz śledczy otrzymuje nagranie wideo od anonimowego informatora. Przedstawia kandydata na prezydenta przyznającego się do nielegalnej działalności. Ale czy ten film jest prawdziwy? Gdyby tak było, byłaby to wielka wiadomość – miarka życia – i mogłaby całkowicie odwrócić nadchodzące wybory. Ale dziennikarka uruchamia nagranie za pomocą specjalistycznego narzędzia, które mówi jej, że film nie jest tym, na co wygląda. W rzeczywistości jest to „Deepfake”, film wykonany przy użyciu sztucznej inteligencji z głęboka nauka.

Dziennikarze na całym świecie mogą wkrótce korzystać z takiego narzędzia. Za kilka lat takie narzędzie może być nawet wykorzystywane przez wszystkich do wykorzeniania fałszywych treści z ich kanałów w mediach społecznościowych.

As Badacze którzy studiowali wykrywanie deepfake i opracowując narzędzie dla dziennikarzy, widzimy przyszłość dla tych narzędzi. Nie rozwiążą jednak wszystkich naszych problemów i będą tylko częścią arsenału szerszej walki z dezinformacją.

Problem z deepfake'ami

Większość ludzi wie, że nie możesz uwierzyć we wszystko, co widzisz. W ciągu ostatnich kilku dekad doświadczeni konsumenci wiadomości przyzwyczaili się do oglądania obrazów manipulowanych za pomocą oprogramowania do edycji zdjęć. Filmy to jednak inna historia. Reżyserzy z Hollywood mogą wydać miliony dolarów na efekty specjalne, aby stworzyć realistyczną scenę. Ale używając deepfake'ów, amatorzy z kilkoma tysiącami dolarów na sprzęt komputerowy i kilkoma tygodniami do spędzenia mogą stworzyć coś prawie tak realistycznego.

Deepfake umożliwiają umieszczenie ludzi w scenach filmowych, w których nigdy nie byli – pomyśl, że Tom Cruise gra Iron Mana – co sprawia, że ​​filmy są rozrywkowe. Niestety umożliwia również tworzenie pornografia bez zgody z przedstawionych osób. Jak dotąd ci ludzie, prawie wszystkie kobiety, są największymi ofiarami niewłaściwego wykorzystywania technologii deepfake.

Deepfakes można również wykorzystać do tworzenia filmów, na których przywódcy polityczni mówią rzeczy, których nigdy nie powiedzieli. Belgijska Partia Socjalistyczna opublikowała niskiej jakości, niedeep-fałszywe, ale wciąż fałszywe wideo z Prezydent Trump obraża Belgię, które spotkały się z wystarczającą reakcją, aby pokazać potencjalne ryzyko związane z deepfake'ami wyższej jakości.

{vembed Y=poSd2CyDpyA}
Hany Farid z Uniwersytetu Kalifornijskiego wyjaśnia, jak powstają deepfake.

może najstraszniejszy ze wszystkich, mogą służyć do tworzenia wątpliwości co do treści prawdziwych filmów, sugerując, że mogą to być podróbki.

Biorąc pod uwagę te zagrożenia, niezwykle cenna byłaby możliwość wykrywania deepfake i wyraźnego oznaczania ich. Zapewniłoby to, że fałszywe filmy nie oszukają opinii publicznej, a prawdziwe filmy będą odbierane jako autentyczne.

Wykrywanie podróbek

Wykrywanie Deepfake jako dziedzina badań rozpoczęło się nieco dalej trzy lata temu. Wczesne prace koncentrowały się na wykrywaniu widocznych problemów w filmach, takich jak: deepfake, który nie mrugał. Z czasem jednak podróbki stały się lepsze naśladują prawdziwe filmy i stają się trudniejsze do zauważenia zarówno dla ludzi, jak i narzędzi do wykrywania.

Istnieją dwie główne kategorie badań nad wykrywaniem deepfake. Pierwsza obejmuje: patrząc na zachowanie ludzi w filmach. Załóżmy, że masz dużo wideo przedstawiające kogoś sławnego, na przykład prezydenta Obamy. Sztuczna inteligencja może wykorzystać ten film do uczenia się jego wzorców, od gestów dłoni po pauzy w mowie. Może wtedy obejrzyj jego deepfake i zauważ, gdzie nie pasuje do tych wzorców. Takie podejście ma tę zaletę, że może działać, nawet jeśli sama jakość wideo jest zasadniczo doskonała.

{vembed Y=gsv1OsCEad0}
Aaron Lawson z SRI International opisuje jedno podejście do wykrywania deepfake.

Inni badacze, w tym nasz zespół, skupili się na Różnice że wszystkie deepfake mają w porównaniu do prawdziwych filmów. Filmy Deepfake są często tworzone przez łączenie indywidualnie generowanych ramek w celu utworzenia filmów. Biorąc to pod uwagę, metody naszego zespołu wyodrębniają istotne dane z twarzy w poszczególnych klatkach filmu, a następnie śledzą je w zestawach równoległych klatek. Pozwala nam to wykryć niespójności w przepływie informacji z jednej ramki do drugiej. Podobne podejście stosujemy również w przypadku naszego systemu wykrywania fałszywego dźwięku.

Te subtelne szczegóły są trudne do zauważenia przez ludzi, ale pokazują, jak głębokie podróbki nie są całkiem jeszcze doskonały. Takie detektory mogą pracować dla każdej osoby, nie tylko dla kilku światowych liderów. W końcu może się okazać, że potrzebne będą oba typy detektorów deepfake.

Najnowsze systemy wykrywania sprawdzają się bardzo dobrze w przypadku nagrań wideo zebranych specjalnie w celu oceny narzędzi. Niestety, nawet najlepsze modele nie słabo na filmach znalezionych online. Kluczowym następnym krokiem jest ulepszenie tych narzędzi, aby były bardziej niezawodne i użyteczne.

Kto powinien używać detektorów deepfake?

Idealnie, narzędzie do weryfikacji deepfake powinno być dostępne dla wszystkich. Jednak ta technologia jest na wczesnym etapie rozwoju. Naukowcy muszą ulepszyć narzędzia i chronić je przed hakerami przed ich szerokim udostępnieniem.

Jednocześnie jednak narzędzia do tworzenia deepfake są dostępne dla każdego, kto chce oszukać opinię publiczną. Siedzenie z boku nie wchodzi w grę. Dla naszego zespołu właściwą równowagą była współpraca z dziennikarzami, ponieważ to oni są pierwszą linią obrony przed rozprzestrzenianiem się dezinformacji.

Przed opublikowaniem opowiadań dziennikarze muszą zweryfikować informacje. Mają już wypróbowane i prawdziwe metody, takie jak sprawdzanie źródeł i zachęcanie więcej niż jednej osoby do weryfikacji kluczowych faktów. Dlatego oddając narzędzie w ich ręce, dajemy im więcej informacji i wiemy, że nie będą polegać wyłącznie na technologii, ponieważ może ona popełniać błędy.

Czy detektory mogą wygrać wyścig zbrojeń?

Miło jest widzieć drużyny z Facebook i Microsoft inwestowanie w technologię, aby zrozumieć i wykryć deepfake. Ta dziedzina wymaga dalszych badań, aby nadążyć za postępem w technologii deepfake.

Dziennikarze i platformy mediów społecznościowych muszą również dowiedzieć się, jak najlepiej ostrzegać ludzi przed wykryciem deepfake. Badania wykazały, że ludzie pamiętają kłamstwo, ale nie fakt, że to było kłamstwo. Czy to samo dotyczy fałszywych filmów? Samo umieszczenie „Deepfake” w tytule może nie wystarczyć, aby przeciwdziałać niektórym rodzajom dezinformacji.

Deepfakes tu zostaną. Zarządzanie dezinformacją i ochrona opinii publicznej będzie trudniejsze niż kiedykolwiek, ponieważ sztuczna inteligencja stanie się potężniejsza. Jesteśmy częścią rosnącej społeczności badawczej, która zajmuje się tym zagrożeniem, w której wykrycie jest tylko pierwszym krokiem.

O autorach

John Sohrawardi, doktorant w dziedzinie informatyki i nauk informacyjnych, Rochester Institute of Technology oraz Matthew Wright, profesor bezpieczeństwa komputerowego, Rochester Institute of Technology

Artykuł został opublikowany ponownie Konwersacje na licencji Creative Commons. Przeczytać ^oryginalny artykuł.