Gdziekolwiek jesteś online, ktoś próbuje spersonalizować Twoje doświadczenie w sieci. Twoje preferencje są uprzedzone, Twoje intencje i motywacje są przewidywane. Ten toster, na który rzuciłeś okiem trzy miesiące temu, powraca, by nawiedzać Twoje przeglądanie na dostosowanych do potrzeb reklamowych paskach bocznych. I nie jest to ulica jednokierunkowa. W rzeczywistości dość bezosobowa mechanika niektórych systemów personalizacji może wpływać nie tylko na to, jak postrzegamy świat, ale także na to, jak widzimy siebie.

Zdarza się to każdego dnia, gdy jesteśmy online. Kanał wiadomości na Facebooku próby dostarczenia dopasowanych treści, które „najwięcej zainteresowań” indywidualni użytkownicy. Silnik rekomendacji Amazon wykorzystuje śledzenie danych osobowych w połączeniu z nawykami przeglądania innych użytkowników, aby zasugerować odpowiednie produkty. Google dostosowuje wyniki wyszukiwaniai wiele więcej: na przykład aplikacja do personalizacji Google Now stara się „dostarczyć Ci informacji, których potrzebujesz przez cały dzień, zanim jeszcze poprosisz”. Takie systemy personalizacji mają na celu nie tylko zapewnienie trafności dla użytkowników; dzięki ukierunkowanym strategiom marketingowym generują również zysk z wielu bezpłatnych usług internetowych.

Być może najbardziej znaną krytyką tego procesu jest „bańka filtrująca” teoria. Propozycja aktywisty internetowego Eli Parisera, teoria ta sugeruje, że personalizacja może niekorzystnie wpływać na doświadczenia użytkowników internetu. Zamiast narażać się na uniwersalną, różnorodną treść, użytkownicy otrzymują algorytmicznie dostarczany materiał, który pasuje do ich wcześniej istniejących, samopotwierdzających się punktów widzenia. Bańka filtrująca stanowi zatem problem dla demokratycznego zaangażowania: ograniczając dostęp do trudnych i zróżnicowanych punktów widzenia, użytkownicy nie są w stanie uczestniczyć w zbiorowej i świadomej debacie.

{youtube}6_sim_Wc3mY{/youtube}

Próby znalezienia dowodów na obecność bańki filtracyjnej przyniosły mieszane wyniki. Niektóre badania wykazali, że personalizacja może rzeczywiście prowadzić do „krótkowzroczności” na temat; inne badania odkryli, że w różnych kontekstach personalizacja może w rzeczywistości pomóc użytkownikom w odkrywaniu wspólnych i różnorodnych treści. Moje badania sugerują, że personalizacja wpływa nie tylko na to, jak postrzegamy świat, ale na to, jak postrzegamy siebie. Co więcej, wpływ personalizacji na naszą tożsamość może nie wynikać z filtrujących baniek konsumpcji, ale dlatego, że w niektórych przypadkach personalizacja online wcale nie jest zbyt „osobista”.

Śledzenie danych i wywłaszczanie użytkowników

Aby to zrozumieć, warto zastanowić się, w jaki sposób osiąga się personalizację online. Chociaż systemy personalizacji śledzą nasze indywidualne ruchy w sieci, nie są zaprojektowane tak, aby „poznać” lub identyfikować nas jako osoby. Zamiast tego systemy te zestawiają ruchy i nawyki użytkowników w czasie rzeczywistym w masowe zestawy danych i szukają wzorców i korelacji między ruchami użytkowników. Znalezione wzorce i korelacje są wtedy przetłumaczone z powrotem na kategorie tożsamości, które możemy rozpoznać (takie jak wiek, płeć, język i zainteresowania) i do których możemy się dopasować. Poszukując masowych wzorców w celu dostarczenia osobiście odpowiednich treści, personalizacja opiera się w rzeczywistości na raczej bezosobowy proces.

Kiedy w 2011 roku pojawiła się teoria bańki filtrującej, Pariser argumentował, że jednym z największych problemów związanych z personalizacją było to, że użytkownicy nie wiedzieli, że to się dzieje. W dzisiejszych czasach, pomimo sprzeciwu wobec śledzenia danych, wielu użytkowników jest świadomych że są śledzone w zamian za korzystanie z bezpłatnych usług i że to śledzenie jest wykorzystywane do form personalizacji. Jednak o wiele mniej jasne są szczegóły tego, co jest dla nas personalizowane, w jaki sposób i kiedy.

Znalezienie „osobistego”

Moje badania sugerują, że niektórzy użytkownicy zakładają, że ich doświadczenia są personalizowane w złożonym stopniu. W dogłębnym badaniu jakościowym 36 internautów, po obejrzeniu reklam produktów odchudzających na Facebooku, niektóre kobiety zgłosiły, że założyły, że Facebook profilował je jako osoby z nadwagą lub zorientowane na sprawność fizyczną. W rzeczywistości te reklamy odchudzania były dostarczane ogólnie kobietom w wieku 24-30 lat. Ponieważ jednak użytkownicy mogą nie zdawać sobie sprawy z bezosobowego charakteru niektórych systemów personalizacji, takie ukierunkowane reklamy mogą mieć szkodliwy wpływ na to, jak ci użytkownicy postrzegają siebie: mówiąc wprost, muszą mieć nadwagę, ponieważ Facebook mówi im, że tak.

Nie tylko ukierunkowana reklama może mieć taki wpływ: w badaniu etnograficznym i podłużnym przeprowadzonym na garstce 18- i 19-letnich użytkowników Google Now odkryłem, że niektórzy uczestnicy zakładali, że aplikacja jest w stanie personalizować się w niezwykle złożonym stopniu . Użytkownicy zgłaszali, że wierzą, że Google Now pokazał im informacje o akcjach, ponieważ Google wiedział, że ich rodzice są akcjonariuszami, lub że Google (błędnie) uprzedził „dojazdy” do „pracy”, ponieważ uczestnicy kiedyś kłamali na temat wieku szkolnego na swoich kontach YouTube . Nie trzeba dodawać, że to badanie na małą skalę nie odzwierciedla zaangażowania wszystkich użytkowników Google Now: sugeruje jednak, że w przypadku tych osób obietnice przewidywania Google Now były niemal nieomylne.

W rzeczywistości, krytyka projektowania zorientowanego na użytkownika sugerują, że rzeczywistość wniosków Google jest znacznie bardziej bezosobowa: Google Now zakłada, że „idealny użytkownik” ma – a przynajmniej powinien – interesować się akcjami i że wszyscy użytkownicy to pracownicy, którzy dojeżdżają do pracy. Taka krytyka podkreśla, że ​​to właśnie te założenia w dużej mierze kształtują ramy personalizacji Google (na przykład poprzez przestrzeganie przez aplikację predefiniowane kategorie „kartowe” takich jak „Sport”, który podczas moich badań pozwalał użytkownikom „obserwować” tylko męskie, a nie kobiece kluby piłkarskie w Wielkiej Brytanii). Jednak zamiast kwestionować założenia aplikacji, moje badanie sugeruje, że uczestnicy postawili się poza oczekiwaną normą: ufali Google, że powie im, jak powinny wyglądać ich osobiste doświadczenia.

Choć może się to wydawać skrajnymi przykładami bezosobowego wnioskowania algorytmicznego i założeń użytkownika, fakt, że nie możemy być pewni, co jest personalizowane, kiedy i jak, są bardziej powszechnymi problemami. Dla mnie te zeznania użytkowników podkreślają, że dostosowywanie treści online ma konsekwencje wykraczające poza fakt, że może być szkodliwe dla demokracji. Sugerują, że jeśli nie zaczniemy rozumieć, że personalizacja może czasami działać poprzez wysoce bezosobowe ramy, możemy pokładać zbyt wiele wiary w personalizację, aby powiedzieć nam, jak powinniśmy się zachowywać i kim powinniśmy być, a nie odwrotnie.

O autorze

Tanya Kant, wykładowca mediów i kulturoznawstwa, University of Sussex

Ten artykuł został pierwotnie opublikowany w Konwersacje. Przeczytać oryginalny artykuł.

Powiązane książki

at Rynek wewnętrzny i Amazon