żaluzja.
Indywidualistyczne społeczeństwa zachodnie zbudowane są na założeniu, że nikt nie zna naszych myśli, pragnień i radości lepiej niż my. Dlatego my sami, a nie rząd, kierujemy naszym życiem. Mamy tendencję do zgadzania się z filozofem Twierdzenie Immanuela Kanta że nikt nie ma prawa narzucać nam swojego wyobrażenia o dobrym życiu.
Sztuczna inteligencja (AI) to zmieni. Będzie znał nas lepiej niż my sami siebie. Rząd uzbrojony w sztuczną inteligencję może twierdzić, że wie, czego naprawdę chcą jego ludzie i co naprawdę ich uszczęśliwi. W najlepszym razie użyje tego do usprawiedliwienia paternalizmu, w najgorszym totalitaryzmu.
Każde piekło zaczyna się od obietnicy nieba. Totalitaryzm kierowany przez sztuczną inteligencję nie będzie inny. Wolność stanie się posłuszeństwem wobec państwa. Tylko irracjonalni, złośliwi lub wywrotowi mogli chcieć wybrać własną drogę.
Aby zapobiec takiej dystopii, nie możemy pozwolić innym wiedzieć o nas więcej niż my sami. Nie możemy pozwolić na lukę w samowiedzy.
Wszechwidząca sztuczna inteligencja
W 2019 roku inwestor-miliarder Peter Thiel twierdził, że sztuczna inteligencja była „dosłownie komunistyczny”. Wskazał, że sztuczna inteligencja pozwala centralizującej władzy monitorować obywateli i wiedzieć o nich więcej niż oni sami o sobie. Chiny, zauważył Thiel, chętnie przyjął sztuczną inteligencję.
Znamy już potencjał AI do wspierać totalitaryzm poprzez zapewnienie orwellowskiego systemu nadzoru i kontroli. Ale sztuczna inteligencja daje również totalitaryzmom filozoficzną broń. Dopóki wiedzieliśmy o sobie lepiej niż rząd, liberalizm mógł trzymać z daleka aspirujących totalitarystów.
Ale sztuczna inteligencja zmieniła grę. Wielkie firmy technologiczne gromadzą ogromne ilości danych na temat naszych zachowań. Algorytmy uczenia maszynowego wykorzystują te dane do obliczania nie tylko tego, co zrobimy, ale także tego, kim jesteśmy.
Dziś AI może przewidzieć jakie filmy nam się spodobają, jakie newsy będziemy chcieli przeczytać, a kogo będziemy chcieli poznać na Facebooku. Może przewidzieć, czy pary zostaną razem a jeśli będziemy próba samobójstwa. Z naszych polubień na Facebooku, AI może przewidzieć nasze poglądy religijne i polityczne, osobowość, inteligencję, używanie narkotyków i szczęście.
Dokładność przewidywań AI będzie się tylko poprawiać. W niezbyt odległej przyszłości, jako pisarz Yuval Noah Harari sugeruje, AI może nam powiedzieć, kim jesteśmy, zanim sami się dowiemy.
Te wydarzenia mają sejsmiczne implikacje polityczne. Jeśli rządy znają nas lepiej niż my, otwiera się nowe usprawiedliwienie dla interwencji w nasze życie. Będą nas tyranizować w imię naszego własnego dobra.
Wolność przez tyranię
Filozof Isaiah Berlin przewidział to w 1958 roku zidentyfikował dwa rodzaje wolności. Ostrzegł, że jeden typ doprowadzi do tyranii.
Wolność negatywna to „wolność od”. Jest to wolność od ingerencji innych ludzi lub rządu w wasze sprawy. Wolność negatywna oznacza, że nikt inny nie jest w stanie cię powstrzymać, o ile nie naruszasz praw innych osób.
Natomiast wolność pozytywna to „wolność do”. To wolność bycia panem samego siebie, wolność spełniania swoich prawdziwych pragnień, wolność prowadzenia racjonalnego życia. Kto by tego nie chciał?
Ale co, jeśli ktoś inny powie, że nie działasz w swoim „prawdziwym interesie”, chociaż wie, jak możesz. Jeśli nie posłuchasz, mogą zmusić cię do bycia wolnym – zmuszanie Cię do „własnego dobra”. To jeden z najniebezpieczniejszych pomysłów, jakie kiedykolwiek wymyślono. Zabił dziesiątki milionów ludzi w Związek Radziecki Stalina i Chiny Mao.
Rosyjski przywódca komunistyczny, Lenin, miał powiedzieć, że kapitaliści sprzedaliby mu sznur, na którym by ich powiesił. Peter Thiel argumentował że w AI kapitalistyczne firmy technologiczne z Doliny Krzemowej sprzedały komunizmowi narzędzie, które grozi osłabieniem demokratycznego społeczeństwa kapitalistycznego. AI to lina Lenina.
Walczymy o siebie
Takiej dystopii możemy zapobiec tylko wtedy, gdy nikomu nie pozwoli się poznać nas lepiej niż my sami. Nigdy nie wolno nam sentymentalizować nikogo, kto szuka nad nami takiej władzy w dobrych intencjach. Historycznie kończyło się to tylko katastrofą.
Jednym ze sposobów zapobiegania luki w samowiedzy jest podniesienie naszych tarcz prywatności. Thiel, który określił AI jako komunistyczny, argumentował, że „krypto jest wolnościowe”. Kryptowaluty mogą być „zapewniających prywatność”. Prywatność zmniejsza zdolność innych do poznania nas, a następnie wykorzystania tej wiedzy do: manipulować nami dla własnego zysku.
Jednak lepsze poznanie siebie dzięki sztucznej inteligencji oferuje ogromne korzyści. Możemy go wykorzystać, aby lepiej zrozumieć, co sprawi, że będziemy szczęśliwi, zdrowi i bogaci. To może pomóc kierować naszymi wyborami zawodowymi. Bardziej ogólnie, AI obietnice stworzenia wzrostu gospodarczego że trzyma nas od siebie nawzajem do gardeł.
Problemem nie jest sztuczna inteligencja poprawiająca naszą samoświadomość. Problem polega na dysproporcja władzy w tym, co o nas wiadomo. Wiedza o nas wyłącznie w cudzych rękach to władza nad nami. Ale wiedza o nas we własnych rękach jest dla nas mocą.
Ktokolwiek kto przetwarza nasze dane tworzenie wiedzy o nas powinno być prawnie zobowiązane do zwrotu tej wiedzy. Musimy zaktualizować ideę „nic o nas bez nas” dla wieku AI.
Sztuczna inteligencja mówi nam o nas samych, abyśmy rozważyli używanie, a nie by inni czerpali korzyści z nadużyć. Zawsze powinna być tylko jedna ręka na rumplu naszej duszy. I powinno być nasze.
O autorze
Simon McCarthy-Jones, profesor nadzwyczajny psychologii klinicznej i neuropsychologii, Trinity College Dublin
Artykuł został opublikowany ponownie Konwersacje na licencji Creative Commons. Przeczytać oryginalny artykuł.
Powiązane książki:
O tyranii: dwadzieścia lekcji z XX wieku
autorstwa Timothy'ego Snydera
Ta książka oferuje lekcje historii dotyczące zachowania i obrony demokracji, w tym znaczenie instytucji, rolę poszczególnych obywateli i niebezpieczeństwa autorytaryzmu.
Kliknij, aby uzyskać więcej informacji lub zamówić
Nasz czas jest teraz: władza, cel i walka o sprawiedliwą Amerykę
autorstwa Stacey Abrams
Autorka, polityk i aktywistka, dzieli się swoją wizją bardziej inkluzywnej i sprawiedliwej demokracji oraz oferuje praktyczne strategie zaangażowania politycznego i mobilizacji wyborców.
Kliknij, aby uzyskać więcej informacji lub zamówić
Jak umierają demokracje
autorstwa Stevena Levitsky'ego i Daniela Ziblatta
Ta książka analizuje znaki ostrzegawcze i przyczyny rozpadu demokracji, opierając się na studiach przypadków z całego świata, aby zaoferować wgląd w to, jak chronić demokrację.
Kliknij, aby uzyskać więcej informacji lub zamówić
The People, No: Krótka historia antypopulizmu
przez Thomasa Franka
Autor przedstawia historię ruchów populistycznych w Stanach Zjednoczonych i krytykuje „antypopulistyczną” ideologię, która, jak twierdzi, zdławiła demokratyczne reformy i postęp.
Kliknij, aby uzyskać więcej informacji lub zamówić
Demokracja w jednej książce lub mniej: jak to działa, dlaczego nie działa i dlaczego jej naprawienie jest łatwiejsze niż myślisz
przez Davida Litta
Ta książka zawiera przegląd demokracji, w tym jej mocne i słabe strony, oraz proponuje reformy, które uczynią system bardziej responsywnym i odpowiedzialnym.
