ULU_BIRD/Shutterstock.com

Mustafa uwielbia dobrą kawę. W wolnym czasie często przegląda wysokiej klasy ekspresy do kawy, na które obecnie nie może sobie pozwolić, ale na które oszczędza. Pewnego dnia, jadąc za granicę na ślub przyjaciela, siada w samolocie obok innego przyjaciela. Kiedy Mustafa narzeka, ile zapłacił za bilet, okazuje się, że jego przyjaciel zapłacił mniej niż połowę tego, co zapłacił, mimo że rezerwowali mniej więcej w tym samym czasie.

Bada możliwe przyczyny tego stanu rzeczy i dochodzi do wniosku, że musi to być związane z przeglądaniem przez niego drogich ekspresów i urządzeń do kawy. Jest z tego powodu bardzo zły i skarży się liniom lotniczym, które wysyłają mu letnie przeprosiny, które odnoszą się do spersonalizowane modele cenowe. Mustafa uważa, że ​​jest to niesprawiedliwe, ale nie kwestionuje tego. Dalsze dążenie do tego kosztowałoby go czas i pieniądze.

Ta historia – która jest hipotetyczna, ale może i zdarza się – pokazuje potencjalne szkody dla ludzi w wyniku wykorzystywania danych w obecnej erze „dużych zbiorów danych”. Analityka big data polega na wykorzystaniu dużych ilości danych z wielu źródeł, które są ze sobą powiązane i analizowane w celu znalezienia wzorców, które pomagają przewidywać ludzkie zachowanie. Taka analiza, nawet całkowicie legalna, może zaszkodzić ludziom.

Na przykład Mustafa prawdopodobnie został dotknięty spersonalizowanymi praktykami cenowymi, dzięki którym jego poszukiwania wysokiej klasy ekspresów do kawy zostały wykorzystane do przyjęcia pewnych założeń dotyczących jego chęci do zapłaty lub siły nabywczej. To z kolei mogło doprowadzić do jego wyższych cen biletów lotniczych. Chociaż nie spowodowało to poważnych szkód w przypadku Mustafy, przypadki poważnych szkód emocjonalnych i finansowych nie są niestety rzadkie, w tym odmowa hipoteki dla osób fizycznych i ryzyka dla ogólnej zdolności kredytowej danej osoby w oparciu o powiązania z innymi osobami. Może się tak zdarzyć, jeśli dana osoba ma pewne cechy podobne do innych osób, które: kiepskie historie spłat.

Mogą również wystąpić przypadki szkód emocjonalnych. Wyobraź sobie parę, która dowiaduje się, że spodziewa się bardzo poszukiwanego dziecka, ale poroniła w wieku pięciu miesięcy. Para może odkryć, że miesiące później nadal otrzymują reklamy ze sklepów specjalizujących się w produktach dla niemowląt, świętujących, które powinny być kluczowymi „kamieniami milowymi”, wywołującymi niepokój. To kolejny hipotetyczny, ale całkowicie możliwy scenariusz.

Prawo – albo jego brak

W wielu z tych przypadków, ponieważ szkodliwa praktyka może nie naruszać żadnego prawa, osoby poszkodowane przez wykorzystanie danych mają ograniczone możliwości prawne lub nie mają dla nich żadnych możliwości. Na przykład to, co stało się z Mustafą, było całkowicie legalne, ponieważ nie ma obecnie obowiązujących przepisów zabraniających spersonalizowanej wyceny jako takiej. Nasze obecne systemy prawne nie chronią odpowiednio ludzi przed szkodami wynikającymi z dużych zbiorów danych.

Dzieje się tak, ponieważ bardzo trudno jest prześledzić, w jaki sposób nasze dane są połączone i wykorzystywane. Nawet jeśli linia lotnicza zrobiła coś niezgodnego z prawem, na przykład złamała przepisy dotyczące ochrony danych, Mustafa prawie nie mógłby się o tym dowiedzieć. Osoby, które uważają, że zostały poszkodowane w wyniku wykorzystania danych, mogą mieć trudności z wykazaniem, w jaki sposób ich dane zostały wykorzystane do wyrządzenia tej szkody, jakie dane były zaangażowane lub który administrator danych z nich korzystał. I dlatego mogą nie mieć dowodu, którego potrzebowaliby, aby uzyskać środek prawny.

Co więcej, nawet jeśli pokazują, jak coś, co ktoś zrobił z ich danymi, zaszkodziło im, to konkretne użycie use Informacje dla klientów, aby na przykład dostosować ceny, może nie być bezprawnym.

Podobnie szkoda może być spowodowana nie przez własne dane, ale przez wykorzystanie danych innych osób (dane osób trzecich). Na przykład w przypadku Mustafy może się zdarzyć, że inne osoby, które również były zainteresowane drogimi ekspresami do kawy, miały bardzo wysokie dochody lub kupowały drogie przedmioty. Mogło to sugerować, że Mustafa również należał do tej kategorii, co mogło skutkować dla niego wyższymi cenami innych produktów. Osoba poszkodowana w wyniku wykorzystania danych stron trzecich często nie będzie miała środków prawnych na mocy obowiązujących przepisów o ochronie danych.

Firmy mogą domniemywać rzeczy o Tobie na podstawie Twoich nawyków przeglądania. Załoga/Unsplash, FAL

Nowy system

Aby pomóc rozwiązać takie problemy, kłócimy się że musimy zaakceptować fakt, że niektórym zagrożeniom związanym z wykorzystaniem danych nie można zapobiec. Zamiast skupiać się wyłącznie na próbach minimalizowania lub unikania takiego ryzyka, musimy również znaleźć sposoby na lepsze wspieranie osób poszkodowanych w wyniku wykorzystania danych, na przykład poprzez aktywne monitorowanie i reagowanie na szkody spowodowane wykorzystaniem danych, w tym legalne wykorzystanie danych.

Uważamy, że w ramach tego systemu powinien powstać nowy typ instytucji. Nazywamy je organami łagodzącymi szkody. Zostałyby one ustanowione na szczeblu krajowym, a osoby, które uważały, że zostały poszkodowane w wyniku wykorzystania danych, ale nie kwalifikują się do skorzystania ze środków prawnych, mogłyby zgłosić się do nich w celu zgłoszenia szkód, które ich zdaniem wynikły z wykorzystania danych. W przeciwieństwie do tradycyjnych środków, organy łagodzące szkody mogą zapewnić wsparcie nawet w przypadkach, w których nie złamano żadnego prawa. Byłyby łatwe w użyciu i elastyczne, aby mogły wspierać ludzi tam, gdzie i jak najbardziej tego potrzebują, dając jednostkom więcej władzy i wzmacniając zbiorową odpowiedzialność za wykorzystanie danych.

Proponowane organy zbierałyby informacje na temat rodzajów szkód: obecnie nie ma krajowych ani międzynarodowych organów, które systematycznie zbierałyby informacje na temat szkód związanych z danymi. Przekazują również informacje zwrotne decydentom politycznym i użytkownikom danych, aby pomóc ulepszyć sposób działania. A w przypadkach, gdy ludzie ponoszą szkody finansowe, ale nie mają dostępu do pomocy prawnej, mogą również zapewnić wsparcie finansowe.

Analityka Big Data jest słusznie chwalona za wiele nowych możliwości, jakie oferuje. Ale nieuniknione będzie, że niektórzy ludzie ucierpią. Jako społeczeństwo musimy zmierzyć się z tą prawdą i zapewnić lepszą pomoc tym, którzy doznają krzywdy, aby nikt, kto ponosi koszty tych nowych praktyk, nie został sam.

O Autorach

Aisling McMahon, adiunkt prawa, Narodowy Uniwersytet Irlandii Maynooth; Alena Buyx, profesor etyki, Uniwersytet Techniczny w Monachiumoraz Barbara Prainsack, profesor analizy porównawczej polityki, Uniwersytet Wiedeński

Artykuł został opublikowany ponownie Konwersacje na licencji Creative Commons. Przeczytać oryginalny artykuł.