To nie tylko problem z mediami społecznościowymi – jak wyszukiwarki rozpowszechniają dezinformacjęWyszukiwarki często podają zniekształcającą mieszankę informacji i dezinformacji. Crispin la valiente / Moment przez Getty Images, CC BY-ND

Wyszukiwarki są jedną z głównych bram społeczeństwa do informacji i ludzi, ale są także kanałami dezinformacji. Podobny do problematyczne algorytmy mediów społecznościowych, wyszukiwarki uczą się podawać Ci to, na co Ty i inni kliknęliście wcześniej. Ponieważ ludzi pociąga sensacja, ten taniec między algorytmami a ludzką naturą może sprzyjać rozprzestrzenianiu się dezinformacji.

Wyszukiwarki, podobnie jak większość serwisów internetowych, zarabiają nie tylko na sprzedaży reklam, ale także na śledzeniu użytkowników i sprzedaży ich danych poprzez licytację w czasie rzeczywistym na tym. Ludzie często są prowadzeni do dezinformacji przez pragnienie sensacyjnych i zabawnych wiadomości, a także informacji, które są albo kontrowersyjne, albo potwierdzają ich poglądy. Jedno z badań wykazało, że bardziej popularne filmy YouTube na temat cukrzycy są mniejsze prawdopodobieństwo posiadania medycznie ważnych informacji niż na przykład mniej popularne filmy na ten temat.

Wyszukiwarki oparte na reklamach, takie jak platformy mediów społecznościowych, są zaprojektowane tak, aby nagradzać klikanie kuszących linków, ponieważ pomaga to firmom wyszukiwawczym zwiększyć ich wskaźniki biznesowe. Jako badacz, który bada systemy wyszukiwania i rekomendacji, ja i moi koledzy pokazujemy, że to niebezpieczne połączenie motywacji zysku firmy i indywidualnej podatności sprawia, że ​​problem jest trudny do naprawienia.

Jak wyniki wyszukiwania są nieprawidłowe go

Gdy klikniesz wynik wyszukiwania, algorytm wyszukiwania dowiaduje się, że kliknięty link jest odpowiedni dla Twojego zapytania. To się nazywa informacja zwrotna o trafności. Ta informacja zwrotna pomaga wyszukiwarce nadać większą wagę temu linkowi dla tego zapytania w przyszłości. Jeśli wystarczająca liczba osób kliknie ten link wystarczająco dużo razy, dając w ten sposób silne informacje zwrotne na temat trafności, ta witryna zacznie pojawiać się wyżej w wynikach wyszukiwania dla tego i powiązanych zapytań.

wewnętrzna grafika subskrypcji

Ludzie są większe prawdopodobieństwo kliknięcia linków wyświetlanych wyżej na liście wyników wyszukiwania. Tworzy to pozytywną pętlę sprzężenia zwrotnego – im wyżej wyświetla się witryna, tym więcej kliknięć, a to z kolei powoduje, że witryna porusza się wyżej lub utrzymuje ją wyżej. Techniki optymalizacji wyszukiwarek wykorzystują tę wiedzę do zwiększenia widoczności stron internetowych.

Ten problem z dezinformacją ma dwa aspekty: sposób oceny algorytmu wyszukiwania oraz sposób, w jaki ludzie reagują na nagłówki, tytuły i fragmenty. Wyszukiwarki, podobnie jak większość usług online, są oceniane za pomocą szeregu wskaźników, z których jednym jest zaangażowanie użytkowników. W najlepszym interesie firm zajmujących się wyszukiwarkami jest, aby dać Ci to, co chcesz przeczytać, obejrzeć lub po prostu kliknąć. Dlatego, gdy wyszukiwarka lub dowolny system rekomendacji tworzy listę elementów do przedstawienia, oblicza prawdopodobieństwo, że klikniesz elementy.

Tradycyjnie miało to na celu wydobycie najistotniejszych informacji. Jednak pojęcie trafności stało się niewyraźne, ponieważ ludzie używają wyszukiwania do znajdowania zabawne wyniki wyszukiwania, a także naprawdę trafne informacje.

Wyobraź sobie, że szukasz stroiciela fortepianu. Jeśli ktoś pokaże Ci film z kotem grającym na pianinie, czy byś go kliknął? Wielu by to zrobiło, nawet jeśli nie ma to nic wspólnego ze strojeniem fortepianu. Usługa wyszukiwania wydaje się potwierdzać pozytywną informacją zwrotną o trafności i dowiaduje się, że można pokazać kota grającego na pianinie, gdy ludzie szukają tunerów fortepianowych.

W rzeczywistości w wielu przypadkach jest to nawet lepsze niż pokazywanie odpowiednich wyników. Ludzie lubią oglądać śmieszne filmy z kotami, a system wyszukiwania uzyskuje więcej kliknięć i zaangażowania użytkowników.

To może wydawać się nieszkodliwe. Co z tego, że ludzie od czasu do czasu rozpraszają się i klikają wyniki, które nie są związane z wyszukiwanym hasłem? Problem polega na tym, że ludzi przyciągają ekscytujące obrazy i sensacyjne nagłówki. one mają tendencję do klikania w teorie spiskowe i sensacyjne wiadomości, nie tylko koty grające na pianinie, i rób to więcej niż klikanie na prawdziwe wiadomości lub istotne informacje.

Znane, ale fałszywe pająki

W 2018 r. wyszukiwano hasło „nowy śmiercionośny pająk” wzrosła w Google po wpisie na Facebooku, który twierdził, że nowy śmiertelny pająk zabił kilka osób w wielu stanach. Moi koledzy i ja przeanalizowaliśmy 100 najlepszych wyników wyszukiwania Google dla hasła „new deadly spider” w pierwszym tygodniu tego popularnego zapytania.

To nie tylko problem z mediami społecznościowymi – jak wyszukiwarki rozpowszechniają dezinformacjęPierwsze dwie strony wyników wyszukiwania Google dla hasła „new deadly spider” w sierpniu 2018 r. (obszar zacieniony) były powiązane z oryginalnym postem z fałszywymi wiadomościami na ten temat, a nie z podważaniem lub innymi faktycznymi informacjami. Chiraga Shaha, CC BY-ND

Okazało się, że ta historia był fałszywy, ale osoby, które go szukały, były w dużej mierze narażone na dezinformację związaną z oryginalnym fałszywym postem. Gdy ludzie nadal klikali i dzielili się tymi błędnymi informacjami, Google nadal wyświetlał te strony na górze wyników wyszukiwania.

Ten wzorzec pojawiania się ekscytujących i niezweryfikowanych historii i klikania w nie trwa nadal, a ludzie najwyraźniej albo nie przejmują się prawdą, albo wierzą, że jeśli zaufana usługa, taka jak wyszukiwarka Google, pokazuje im te historie, to muszą one być prawdziwe. Niedawno, a zakwestionowany raport twierdząc, że Chiny pozwoliły na wyciek koronawirusa z laboratorium zyskały popularność w wyszukiwarkach z powodu tego błędnego koła.

Znajdź dezinformację

Aby sprawdzić, jak dobrze ludzie rozróżniają dokładne informacje od dezinformacji, zaprojektowaliśmy prostą grę o nazwie „Google albo nie”. Ta gra online pokazuje dwa zestawy wyników dla tego samego zapytania. Cel jest prosty – wybierz zestaw, który jest niezawodny, godny zaufania lub najbardziej odpowiedni.

To nie tylko problem z mediami społecznościowymi – jak wyszukiwarki rozpowszechniają dezinformacjęW testach mniej więcej w połowie przypadków ludzie nie są w stanie odróżnić wyników wyszukiwania Google zawierających nieprawdziwe informacje od tych, których wyniki są wiarygodne. Chiraga Shaha, CC BY-ND

Jeden z tych dwóch zestawów ma jeden lub dwa wyniki, które są albo zweryfikowane i oznaczone jako dezinformacja lub obalona historia. Udostępniliśmy grę publicznie i reklamowaliśmy ją za pośrednictwem różnych kanałów mediów społecznościowych. W sumie zebraliśmy 2,100 odpowiedzi z ponad 30 krajów.

Kiedy przeanalizowaliśmy wyniki, stwierdziliśmy, że w około połowie przypadków ludzie błędnie wybrali zestaw jako godny zaufania z jednym lub dwoma wynikami dezinformacji. Nasze eksperymenty z setkami innych użytkowników w wielu iteracjach przyniosły podobne wyniki. Innymi słowy, w około połowie przypadków ludzie wybierają wyniki zawierające teorie spiskowe i fałszywe wiadomości. Ponieważ coraz więcej osób wybiera te niedokładne i wprowadzające w błąd wyniki, wyszukiwarki dowiadują się, że właśnie tego chcą ludzie.

Pomijając kwestie regulacji Big Tech i samoregulacji, ważne jest, aby ludzie zrozumieli, jak działają te systemy i jak zarabiają pieniądze. W przeciwnym razie gospodarka rynkowa i naturalna skłonność ludzi do przyciągania wzroku powiązań będą podtrzymywać błędne koło.

O autorze

Chirag Shah, profesor nadzwyczajny informatyki, uniwersytet Waszyngtoński

Artykuł został opublikowany ponownie Konwersacje na licencji Creative Commons. Przeczytać oryginalny artykuł.