Amazon Echo i asystent głosowy Alexa szeroko nagłośniły problemy z prywatnością. Czy to jest ilość gromadzonych danych lub fakt, że podobno płacą pracownikom, a czasami zewnętrznym wykonawcom z całego świata, aby słuchaj nagrań, aby poprawić dokładność, istnieje możliwość wycieku poufnych danych osobowych przez te urządzenia.
Ale ryzyko dotyczy nie tylko naszych relacji z Amazonem. W sposobie, w jaki urządzenia Alexa wchodzą w interakcję z innymi usługami, zaczynają pojawiać się poważne obawy dotyczące prywatności – ryzykując narastającą spiralę dystopii nadzór i kontrola.
Konfiguracja Echo zamienia Amazon w dodatkową bramę, przez którą musi przejść każda interakcja online, zbierając dane o każdej z nich. Alexa wie, czego szukasz, czego słuchasz lub wysyłasz w swoich wiadomościach. Niektóre smartfony już to robią, szczególnie te wyprodukowane przez Google i Apple, które kontrolują sprzęt, oprogramowanie i usługi w chmurze.
Ale różnica w Echo polega na tym, że łączy najgorsze aspekty smartfonów i inteligentnych domów. Nie jest to urządzenie osobiste, ale zintegrowane ze środowiskiem domowym, zawsze czekające na słuchanie. Alexa ma nawet projekt artystyczny (nie stworzony przez Amazon), który próbuje to rozjaśnić przerażającym „Zapytaj słuchaczy” funkcja, która komentuje, jak bardzo urządzenie Cię szpieguje. Niektóre urządzenia Echo mają już kamery, a jeśli dodamy funkcje rozpoznawania twarzy, moglibyśmy wejść do świata wszechobecnego monitorowania w naszych najbardziej prywatnych przestrzeniach, nawet śledzonych podczas przemieszczania się między lokalizacjami.
{vembed Y=MnvJ4Bh60L8}
Ta technologia daje Amazonowi ogromną kontrolę nad Twoimi danymi, co od dawna jest celem większości gigantów technologicznych. Podczas Apple i Google – którzy mierzą się z ich własne problemy z prywatnością – mają podobnych asystentów głosowych, przynajmniej poczynili postępy w uruchamianiu oprogramowania bezpośrednio na swoich urządzeniach, dzięki czemu nie będą musieli przesyłać nagrań poleceń głosowych na swoje serwery. Wygląda na to, że Amazon nie próbuje zrobić tego samego.
Częściowo wynika to z agresywnego modelu biznesowego firmy. Wydaje się, że systemy Amazona są zaprojektowane nie tylko do zbierania jak największej ilości danych, ale także do tworzenia sposobów ich udostępniania. Tak więc potencjalne problemy sięgają znacznie głębiej niż Alexa podsłuchiwanie prywatnych chwil.
Udostępnianie organom ścigania
Jednym z obszarów do niepokoju jest możliwość włożenia uszu organów ścigania do naszych domów, szkół i miejsc pracy. Apple ma historia opierania się żądaniom FBI dla danych użytkownika, a Twitter jest stosunkowo przejrzysty w kwestii raportowania jak odpowiada na prośby rządów.
Ale Ring, firma zajmująca się kamerami bezpieczeństwa domowego podłączona do Internetu, należąca do Amazona, ma głośne relacje z policją, które obejmują przekazanie danych użytkownika, Nawet sposób komunikowania się obywateli i policji jest coraz częściej monitorowany i kontrolowany przez Amazon.
Zawsze słucham. Tomasso79/Shutterstock
Grozi to utrwaleniem kultury nadzoru państwowego w działaniach Amazona, co może mieć niepokojące konsekwencje. Widzieliśmy liczne przykłady organów ścigania i innych organów rządowych w krajach demokratycznych, które wykorzystują dane osobowe do szpiegowania ludzi, zarówno w naruszenie prawa i w nim, ale z powodów, które idą daleko poza zapobieganie terroryzmowi. Ten rodzaj masowej inwigilacji stwarza również poważny potencjał do dyskryminacji, ponieważ wielokrotnie wykazano, że ma gorszy wpływ na kobiety i mniejszość grupy.
Jeśli Amazon nie chce się odpychać, nietrudno to sobie wyobrazić Przekazywanie nagrań Alexa na prośby pracowników rządowych i funkcjonariuszy organów ścigania, którzy mogą być skłonni naruszyć ducha lub literę prawa. A biorąc pod uwagę międzynarodowe umowy dotyczące udostępniania informacji wywiadowczych, nawet jeśli ufasz własnemu rządowi, czy ufasz innym?
W odpowiedzi na ten problem, rzecznik Amazona powiedział: „Amazon nie ujawnia informacji o klientach w odpowiedzi na żądania rządu, chyba że jesteśmy do tego zobowiązani, aby spełnić prawnie ważne i ślepe polecenie. Amazon oczywiście sprzeciwia się zbyt szerokim lub innym nieodpowiednim żądaniom.
„Klienci Ringu decydują, czy udostępnić materiał filmowy w odpowiedzi na prośby lokalnej policji prowadzącej dochodzenia. Lokalna policja nie jest w stanie zobaczyć żadnych informacji związanych z tym, którzy użytkownicy Ringu otrzymali żądanie i czy odmówili udostępnienia lub zrezygnowali z przyszłych żądań”. Dodali, że chociaż lokalna policja może uzyskać dostęp do aplikacji Ring's Neighbors w celu zgłaszania przestępczej i podejrzanej aktywności, nie może zobaczyć ani uzyskać dostępu do informacji o koncie użytkownika.
Śledzenie problemów zdrowotnych
Zdrowie to kolejny obszar, w którym Amazon wydaje się próbować przejąć. Brytyjska Narodowa Służba Zdrowia (NHS) podpisała umowę na poradę medyczną dostarczane przez Echo. Na pierwszy rzut oka to po prostu rozszerza możliwości dostępu do publicznie dostępnych informacji, takich jak strona internetowa NHS lub linia telefoniczna 111 – żadne oficjalne dane pacjentów nie są udostępniane.
Ale stwarza to możliwość, że Amazon może zacząć śledzić, o jakie informacje zdrowotne prosimy za pośrednictwem Alexy, skutecznie budując profile historii medycznej użytkowników. Może to być powiązane z sugestiami zakupów online, reklamami firm zewnętrznych dotyczących kosztownych terapii, a nawet reklamami, które mogą być traumatyczne (pomyśl o kobietach, które przeszły poronienia pokazywane produkty dla dzieci).
Rzecznik Amazona powiedział: „Amazon nie tworzy profili zdrowia klientów w oparciu o interakcje z treściami nhs.uk ani nie wykorzystuje takich próśb do celów marketingowych. Alexa nie ma dostępu do żadnych danych osobowych ani prywatnych danych NHS”.
Brutalność i usterki reklam algorytmicznych naruszałyby standardy zawodowe i moralne, które służby zdrowia starają się utrzymać. Poza tym bardzo inwazyjne byłoby traktowanie danych w taki sam sposób, jak wiele nagrań Echo. Czy chciałbyś, aby losowy zewnętrzny wykonawca wiedział, że prosisz o poradę w zakresie zdrowia seksualnego?
Przezroczystość
U podstaw tych problemów leży brak prawdziwej przejrzystości. Amazon jest niepokojący cichy, wymijający i niechętny do działania, jeśli chodzi o radzenie sobie z konsekwencjami ich praktyk związanych z prywatnością, z których wiele jest głęboko ukrytych w ich warunkach lub trudnych do znalezienia ustawieniach. Nawet zaawansowani technicznie użytkownicy niekoniecznie wiedzą pełny zakres zagrożeń prywatności, a po dodaniu funkcji prywatności często tylko powiadomić użytkowników po tym, jak badacze lub prasa podniosą ten problem. Całkowicie niesprawiedliwe jest nakładanie na użytkowników takiego obciążenia, aby dowiedzieć się i złagodzić, jakie to ryzyko.
Więc jeśli masz Echo w swoim domu, co powinieneś zrobić? Na stronie dostępnych jest wiele wskazówek jak sprawić, by urządzenie było bardziej prywatne?, takie jak ustawianie automatycznego usuwania nagrań głosowych lub ograniczanie danych udostępnianych stronom trzecim. Ale inteligentna technologia to prawie zawsze technologia nadzoru, a najlepszą radą jest nie zabieranie jej do domu.
W odpowiedzi na główne punkty tego artykułu, rzecznik Amazona powiedział The Conversation:
W Amazon zaufanie klientów jest w centrum wszystkiego, co robimy, a prywatność i bezpieczeństwo traktujemy bardzo poważnie. Zawsze wierzyliśmy, że prywatność musi być podstawą i wbudowana w każdy tworzony przez nas sprzęt, oprogramowanie i usługę. Od samego początku zapewniamy klientom kontrolę i zawsze szukamy sposobów, aby jeszcze bardziej ułatwić klientom zachowanie przejrzystości i kontrolę nad ich doświadczeniem Alexa. Wprowadziliśmy kilka ulepszeń prywatności, w tym opcję automatycznego usuwania nagrań głosowych po trzech lub 18 miesiącach na bieżąco, możliwość poproszenia Alexy o „usunięcie tego, co właśnie powiedziałem” i „usunięcie tego, co powiedziałem dzisiaj” oraz Alexa Privacy Hub, zasób dostępny na całym świecie, którego celem jest pomaganie klientom dowiedzieć się więcej o naszym podejściu do prywatności i kontroli, którą mają. Będziemy nadal tworzyć więcej funkcji prywatności w imieniu klientów.
Ten artykuł został zmieniony, aby wyjaśnić, że funkcja „Zapytaj słuchaczy” jest projektem artystycznym stworzonym przez stronę trzecią.
O autorze
Garfield Benjamin, badacz z tytułem doktora, School of Media Arts and Technology, Uniwersytet Solent
Artykuł został opublikowany ponownie Konwersacje na licencji Creative Commons. Przeczytać oryginalny artykuł.
