Moja pierwsza prawdziwa świadomość naszego psychologicznego stosunku do technologii pochodziła z niezwykłego źródła: brytyjskiego komika Eddiego Izzarda. Izzard opisuje dwa diametralnie przeciwstawne postawy wobec technologii: techno-strach i techno-radość.

Ci, którzy odczuwają strach przed techno, są niezdecydowani, błądzą i martwią się, że technologia spowoduje koniec świata. Ci, którzy odczuwają techno-radość, są ślepo optymistycznie nastawieni do możliwości technologii. Izzard wyjaśnia jego własna techno-radość:

Kiedy dostaję nową maszynę, myślę: „Tak! Ta maszyna uratuje mi życie, już nigdy nie będę pracować!” … A pierwszą rzeczą, którą robisz, jeśli masz techno-radość, to otrzymujesz instrukcje i wyrzucasz je przez okno!

Jednym z wielkich wyzwań moralnych naszych czasów będzie znalezienie czegoś pomiędzy kategoriami techno-radości i techno-strachu. Musimy znaleźć coś na kształt „techno-mądrości” (choć wątpię, żeby to była dobra komedia).

Potrzeba będzie wielu współpracujących ze sobą ludzi, aby dokładnie określić, jak wygląda ta techno-mądrość. Na szczęście od jakiegoś czasu nad wersjami tego pracuje wielu różnych naukowców i organizacji.

Motywy sporne

Większość sporów dotyczących technologii skupia się wokół trzech odrębnych tematów:

• technologia zwycięża: technologia albo ocali świat, przezwyciężając nasze największe wyzwania, albo pokona nas. Przykładem jest debata wokół śmiercionośne systemy broni autonomicznej,

• wpływ technologii: technologia albo pozwoli nam skoncentrować się na tym, co ważne, albo odwróci naszą uwagę od tego, co ważne. Negatywne przykłady pojawiają się w prawie każdym odcinku serialu telewizyjnego Czarne lustro. Bardziej optymistyczne wersje można znaleźć w debacie nad „etyczne podsuwanie".

• technologia się wzmacnia: dzięki technologii albo będziemy w stanie robić wspaniałe rzeczy szybko, wydajnie i na dużą skalę, albo będziemy w stanie robić okropne rzeczy w ten sam sposób.

Parametry debaty są ustalone i nikt nie wydaje się słabnąć w swoich opiniach. Ale ten impas sam w sobie generuje wyzwania etyczne. Możliwości są zbyt duże, aby ignorować technologię, ale ryzyko jest zbyt duże, aby umożliwić jej swobodny rozwój.

Zrozumienie technologii ma kluczowe znaczenie

W komedii Izzarda ignorancja i nieudolność napędzają tych, którzy boją się technologii. Co ciekawe, maluje te z techno-radością w bardzo podobny sposób. Żaden nie rozumie technologii. Od tego powinna zacząć się nasza technologiczna mądrość: zrozumienie, czym jest technologia i jak działa.

Filozofowie technologii, tacy jak Martin Heidegger, Jacques Ellul i Alberta Borgmana argumentowali, że technologia odzwierciedla charakterystyczny sposób postrzegania otaczającego nas świata. Ma tendencję do sprowadzania świata do serii problemów technicznych do rozwiązania i asortymentu rzeczy do użycia, pomiaru, przechowywania i kontrolowania.

Przy takim zrozumieniu technologia nie jest neutralna pod względem wartości. Zachęca nas do szukania kontroli, ceni wydajność i skuteczność ponad innymi względami i sprowadza wszystko do jednostki miary.

Istnieje niezliczona ilość przykładów potwierdzających tę tezę. Technologia internetowa rzuca wyzwanie tradycyjnym wartościom dziennikarskim na rzecz szybkości i zasięgu. Aplikacje randkowe utowarowują naszych potencjalnych romantycznych partnerów i próbują uwolnić randki od niebezpieczeństw odrzucenia lub niechcianych awansów. Generowane komputerowo porno pozwala sprawić, by twoja ulubiona gwiazda robiła, co tylko zechcesz. Ona nie musi się zgadzać. Ona nawet nie musi wiedzieć.

Jeśli jest to system wartości stojący za technologią, czy czujemy się z nią komfortowo, nawet jeśli sprawia, że ​​życie jest niezwykle wygodne? Jeśli nie, co powinniśmy z tym zrobić?

Skup się na środkach

Pomimo tego, że są biegunowymi przeciwieństwami, techno-strach i techno-radość mają wspólny wątek etyczny: koncentrację na wynikach. Każda ze stron zgadza się, że etyczna technologia musi prowadzić do pozytywnych zmian na świecie (a przynajmniej nie stwarzać więcej problemów). Nie zgadzają się, czy technologia stanie się siłą na dobre czy na złe.

Jednak skupienie się na wynikach przesłania nam inny wymiar etyki technologicznej: środki, za pomocą których te wyniki są osiągane.

Wiele osób myśli o procesach technologicznych i ich etycznych implikacjach, ale często skupiają się na nich, ponieważ przyniosły złe wyniki. Dyskusja staje się kolejnym polem bitwy, na którym można dyskutować o wynikach.

Na przykład debata na temat COMPAS – algorytmu skazującego dane, który był przedmiotem poczytnej Dochodzenie Pro Publica – skupił się na fakcie, że ma tendencję do generowania wyników obciążonych rasowo. To jest ważne. Ale ważne jest również, aby zrozumieć, jak działał COMPAS, nawet jeśli wyniki nie były tak ewidentnie problematyczne.

Wyobraźmy sobie, że wiedzieliśmy, że algorytm taki jak COMPAS był w 100% skuteczny w przewidywaniu prawdopodobieństwa ponownego popełnienia przestępstwa. Wyobraźmy sobie również, że powodem był tak dokładny, ponieważ jego zestaw danych był tak obszerny. Zawierał każdy fragment prywatnej komunikacji, jaki przestępca stworzył w ciągu ostatnich dziesięciu lat. Każda wiadomość tekstowa, post na Facebooku, e-mail, rozmowa telefoniczna, wyświetlenie strony internetowej – to wszystko. Dane te umożliwiły uzyskanie krystalicznie czystego profilu psychologicznego sprawcy i niewiarygodnie precyzyjnych przewidywań ponownego popełnienia przestępstwa.

Nadal byłby powód, by sprzeciwiać się tej technologii, nie dlatego, że osiągnęła okropne wyniki, ale dlatego, że osiągnęła dobre wyniki w sposób, który podważa nasze powszechnie przyjęte zasady dotyczące prywatności i wolności obywatelskich. W tym miejscu prawdziwym problemem staje się filozofia oparta wyłącznie na wynikach.

Najpierw ludzie

Technologia prawdopodobnie będzie częścią rozwiązania większości naszych wielkich wyzwań moralnych. Ale nie sam. Jedną z funkcji technologii jest wzmacnianie działalności człowieka. Oznacza to, że ludzie muszą uporządkować swój dom, zanim technologia będzie pomocna.

Musimy również dopracować proces technologiczny. Musimy zmienić nasz standard tego, co uważa się za „doskonałą” technologię, odchodząc od logiki szybkości, skuteczności i kontroli. Jeśli tego nie zrobimy, technologia prawdopodobnie stanie się naszym kolejnym wielkim wyzwaniem moralnym. Co bardziej niepokojące, do tego czasu mogliśmy scedować zbyt dużo mocy na maszyny, aby móc cokolwiek z tym zrobić.

O autorze

Matthew Beard, zastępca wykładowcy, University of Notre Dame Australia

Ten artykuł został pierwotnie opublikowany w Konwersacje. Przeczytać oryginalny artykuł.

Powiązane książki

at Rynek wewnętrzny i Amazon