Odnajdywanie zaufania i zrozumienia w technologiach autonomicznychZdjęcie: Norbert Aepli, Szwajcaria (Użytkownik: Noebu)

W 2016 roku samochody autonomiczne weszły do ​​głównego nurtu. Pojazdy autonomiczne Ubera stał się wszechobecny w dzielnicach, w których mieszkam w Pittsburghu i krótko w San Francisco. Wydany przez Departament Transportu USA nowe wytyczne regulacyjne dla nich. Niezliczony Papiery i kolumny dyskutowali o tym, jak autonomiczne samochody powinien rozwiązać rozterki etyczne kiedy coś idzie nie tak. I, niestety, w 2016 roku również saw pierwsza ofiara śmiertelna z udziałem pojazdu autonomicznego.

Technologie autonomiczne szybko rozprzestrzeniają się poza sektor transportowy, do: opieki zdrowotnej, zaawansowana cyberobrona i nawet broń autonomiczna. W 2017 roku będziemy musieli zdecydować, czy możemy ufać tym technologiom. To będzie znacznie trudniejsze, niż moglibyśmy się spodziewać.

Zaufanie jest złożone i zróżnicowane, ale jest także kluczową częścią naszego życia. Często ufamy technologii w oparciu o przewidywalność: Ufam czemuś, jeśli wiem, co zrobi w danej sytuacji, nawet jeśli nie wiem dlaczego. Na przykład ufam swojemu komputerowi, ponieważ wiem, jak będzie działał, w tym kiedy się zepsuje. Przestaję ufać, jeśli zaczyna zachowywać się inaczej lub zaskakująco.

Natomiast moje zaufanie do żony opiera się na zrozumienie jej przekonań, wartości i osobowości. Mówiąc bardziej ogólnie, zaufanie międzyludzkie nie polega na dokładnym poznaniu tego, co zrobi druga osoba – moja żona z pewnością mnie czasami zaskakuje! – ale raczej dlaczego zachowują się tak, jak robią. I oczywiście możemy ufać komuś (lub czemuś) w obie strony, jeśli wiemy, co zrobi i dlaczego.

Odkrywam możliwe podstawy naszego zaufania do autonomicznych samochodów i innych autonomicznych technologii, zarówno z perspektywy etycznej, jak i psychologicznej. To są urządzenia, więc przewidywalność może wydawać się kluczem. Jednak ze względu na ich autonomię musimy wziąć pod uwagę znaczenie i wartość – oraz wyzwanie – uczenia się ufania im w sposób, w jaki ufamy innym istotom ludzkim.


wewnętrzna grafika subskrypcji


Autonomia i przewidywalność

Chcemy, aby nasze technologie, w tym samochody autonomiczne, zachowywały się w sposób, który możemy przewidzieć i oczekiwać. Oczywiście systemy te mogą być dość wrażliwe na kontekst, w tym inne pojazdy, pieszych, warunki pogodowe i tak dalej. Ogólnie rzecz biorąc, możemy się spodziewać, że autonomiczny samochód, który jest wielokrotnie umieszczany w tym samym środowisku, powinien zachowywać się za każdym razem podobnie. Ale w jakim sensie te wysoce przewidywalne samochody byłyby autonomiczne, a nie tylko automatyczne?

Nie ma być wiele różne próby do określić autonomia, ale wszystkie mają wspólną cechę: systemy autonomiczne mogą podejmować własne (merytoryczne) decyzje i plany, dzięki czemu mogą działać inaczej niż oczekiwano.

W rzeczywistości jednym z powodów, dla których warto korzystać z autonomii (w odróżnieniu od automatyzacji), jest właśnie to, że systemy te mogą realizować nieoczekiwane i zaskakujące, choć uzasadnione kierunki działania. Na przykład, AlphaGo . DeepMind wygrał drugą grę z ostatniej serii Go przeciwko Lee Sedolowi, częściowo z powodu ruch, którego nigdy nie wykonałby żaden ludzki gracz, ale mimo to był to właściwy ruch. Ale te same niespodzianki utrudniają ustanowienie zaufania opartego na przewidywalności. Silne zaufanie oparte wyłącznie na przewidywalności jest prawdopodobnie możliwe tylko w przypadku systemów zautomatyzowanych lub automatycznych, właśnie dlatego, że są one przewidywalne (zakładając, że system działa normalnie).

Przyjmowanie niespodzianek

Oczywiście, inni ludzie często nas zaskakują, a jednak możemy im ufać w niezwykłym stopniu, nawet dając im władzę na śmierć i życie nad nami. Żołnierze ufają swoim towarzyszom w złożonych, wrogich środowiskach; pacjentka powierza swojemu chirurgowi wycięcie guza; i w bardziej przyziemnym tonie moja żona ufa, że ​​będę jeździł bezpiecznie. To zaufanie międzyludzkie umożliwia nam przyjmowanie niespodzianek, więc może moglibyśmy rozwinąć coś w rodzaju zaufania międzyludzkiego do samojeżdżących się samochodów?

Ogólnie rzecz biorąc, zaufanie interpersonalne wymaga zrozumienia, dlaczego ktoś zachował się w określony sposób, nawet jeśli nie można przewidzieć dokładnej decyzji. Moja żona może nie wiedzieć dokładnie, jak będę prowadzić, ale zna sposoby rozumowania, jakich używam, kiedy prowadzę. I właściwie stosunkowo łatwo jest zrozumieć, dlaczego ktoś inny coś robi, właśnie dlatego, że wszyscy myślimy i rozumujemy z grubsza podobnie, choć z różnymi „surowymi składnikami” – naszymi przekonaniami, pragnieniami i doświadczeniami.

W rzeczywistości nieustannie i nieświadomie wyciągamy wnioski na temat przekonań i pragnień innych ludzi na podstawie ich działań, w dużej mierze zakładając, że myślą, rozumują i decydują z grubsza tak jak my. Wszystkie te wnioski i rozumowanie oparte na naszym wspólnym (ludzkim) poznaniu pozwalają nam zrozumieć czyjeś racje, a tym samym budować z czasem zaufanie międzyludzkie.

Myślisz jak ludzie?

Technologie autonomiczne – w szczególności samochody autonomiczne – nie myślą i nie decydują jak ludzie. Były wysiłki, zarówno Przeszłość i niedawny, aby opracować systemy komputerowe, które myślą i rozumują jak ludzie. Jednak jednym spójnym tematem uczenia maszynowego w ciągu ostatnich dwóch dekad były ogromne korzyści, które osiągnięto właśnie dzięki temu, że nasze systemy sztucznej inteligencji nie wymagają działania w sposób podobny do ludzkiego. Zamiast tego algorytmy i systemy uczenia maszynowego, takie jak AlphaGo, często potrafiły: przewyższają ludzkich ekspertów skupiając się na konkretnych, zlokalizowanych problemach, a następnie rozwiązując je zupełnie inaczej niż ludzie.

W rezultacie próby interpretacji autonomicznej technologii w kategoriach ludzkich przekonań i pragnień mogą się nie powieść. Kiedy kierowca widzi piłkę na drodze, większość z nas automatycznie znacznie zwalnia, aby uniknąć uderzenia dziecka, które może za nią gonić. Jeśli jedziemy autonomicznym samochodem i widzimy kulkę toczącą się na ulicę, oczekujemy, że samochód ją rozpozna i przygotuje się na zatrzymanie się na biegające dzieci. Samochód może jednak zobaczyć tylko przeszkodę, której należy ominąć. Jeśli skręci, nie zwalniając, ludzie na pokładzie mogą się zaniepokoić – a dzieciakowi może grozić niebezpieczeństwo.

Nasze wnioski o „przekonaniach” i „pragnieniach” autonomicznego samochodu prawie na pewno będą błędne w ważnych kwestiach, właśnie dlatego, że samochód nie ma żadnych ludzkich przekonań ani pragnień. Nie możemy rozwinąć zaufania międzyludzkiego do samoprowadzącego się samochodu po prostu obserwując, jak jeździ, ponieważ nie będziemy prawidłowo wywnioskować, dlaczego stoi za jego działaniem.

Oczywiście klienci społeczeństwa lub rynku mogą masowo nalegać, aby autonomiczne samochody miały cechy ludzkie (psychologiczne), właśnie po to, abyśmy mogli zrozumieć i rozwinąć do nich zaufanie interpersonalne. Ta strategia nadałaby zupełnie nowe znaczenie „projektowanie zorientowane na człowieka”, ponieważ systemy zostałyby zaprojektowane specjalnie, aby ich działania były interpretowane przez ludzi. Ale wymagałoby to również włączenia powieści Algorytmy i Techniki w autonomicznym samochodzie, co oznaczałoby ogromną zmianę w stosunku do obecnych strategii badawczo-rozwojowych dotyczących autonomicznych samochodów i innych technologii autonomicznych.

Autonomiczne samochody mogą radykalnie zmienić naszą infrastrukturę transportową na wiele korzystnych sposobów, ale tylko wtedy, gdy możemy im zaufać na tyle, by faktycznie z nich korzystać. Jak na ironię, właśnie ta cecha, która sprawia, że ​​samochody autonomiczne są cenne – ich elastyczne, autonomiczne podejmowanie decyzji w różnych sytuacjach – jest właśnie tym, co sprawia, że ​​trudno im zaufać.

Konwersacje

autor tutaj

David Danks, profesor filozofii i psychologii, Carnegie Mellon University

Ten artykuł został pierwotnie opublikowany w Konwersacje. Przeczytać oryginalny artykuł.

Powiązane książki:

at Rynek wewnętrzny i Amazon