Żyjemy w świecie, który jest coraz bardziej złożony i zautomatyzowane. Tak jak mamy do czynienia z bardziej złożonymi problemami, automatyzacja prowadzi do atrofii ludzkich umiejętności, które mogą sprawić, że będziemy bardziej bezbronni, gdy reagujemy na nieoczekiwane sytuacje lub gdy coś pójdzie nie tak.

Weź pod uwagę ostatnie minuty lotu Air France 447, który rozbił się na Atlantyku w maju 2009 roku po opuszczeniu Rio de Janeiro w Brazylii i udał się do Paryża we Francji.

Jego rejestrator lotu ujawnił się całkowite zamieszanie w kokpicie. Samolot został przechylony w górę pod kątem 15º z automatycznym głosem powtarzającym się „przeciągnięcie, przeciągnięcie”. A jednak piloci chwiali się, jeden wykrzykiwał: „[…] nic nie rozumiemy”.

To nie jest miejsce, w którym można zagłębiać się w tajniki tego niefortunnego lotu, poza tym, że każdy system zaprojektowany do automatycznego radzenia sobie z nieprzewidzianymi sytuacjami przez większość czasu pozostawia zdegradowaną bazę umiejętności dla mniejszości sytuacji, w których projektanci mogliby nie przewidywać.

Przemawiając do Targowisko próżności, Nadine Sarter, inżynier przemysłowy z Uniwersytetu Michigan, wspomina rozmowę z pięcioma inżynierami zaangażowanymi w budowę konkretnego samolotu.

Zacząłem pytać: „No cóż, jak to czy tamto działa?”. I nie mogli zgodzić się na odpowiedzi. Zastanawiałem się więc, jeśli tych pięciu inżynierów nie może się zgodzić, biedny pilot, jeśli kiedykolwiek napotka taką szczególną sytuację… cóż, powodzenia.

W rezultacie złożoność rozsądnego latania wysoce skomplikowanymi, zaawansowanymi technologicznie samolotami pasażerskimi została zlecona robotowi, z inżynierowie lotnictwa do wszelkich celów i celów przeminęli z kokpitów. Tylko starsi piloci i byli piloci sił powietrznych zachowują te szczegółowe umiejętności.

Z powrotem na terra firma, w świecie autonomicznej jazdy mogą istnieć całe przyszłe pokolenia bez żadnego praktycznego doświadczenia w jazdy i nawigacji pojazd.

Już widzimy oznakę Co może pójść źle kiedy ludzie pozostawiają kontrolę systemy autonomiczne.

Dochodzenie w sprawie śmiertelny wypadek Tesli Model S z autopilotem zauważył, że firma przekazała kierowcom informacje o „ograniczeniach systemu”. W takim przypadku zwracanie uwagi nadal należy do kierowców.

Ale jakie szanse miałaby dana osoba na przejęcie kontroli, gdyby w jej przyszłości coś się nie udało? w pełni autonomiczny pojazd. Czy w ogóle wiedzieliby, jak rozpoznać wczesne oznaki nadchodzącej katastrofy?

Zgubić naszą drogę?

Kierowanie tym jest determinizmem technologicznym, który wierzy, że każda innowacja jest z natury dobra. Chociaż nowe technologie mogą jeszcze określać, co to znaczy być człowiekiem, wyzwaniem jest: rozpoznać ryzyko i co zrobić, aby upewnić się, że nic nie pójdzie nie tak.

To jest coraz trudniejsze, ponieważ zwiększamy złożoność, zwłaszcza w przypadku autonomicznej jazdy pociągi podmiejskie, taksówki lotnicze i drony dostawcze.

Projektanci systemów budują większe i bardziej powiązane systemy, aby dzielić obciążenie przetwarzania komputera, mimo że to czyni ich dzieła najlepszymi kandydatami do awarii. Przeoczają fakt, że kiedy wszystko jest połączone, problemy mogą rozprzestrzeniać się równie łatwo jak rozwiązania, a czasem nawet bardziej.

Rosnąca i ogromna złożoność zautomatyzowanego świata stwarza podobne zagrożenia.

Punkty zagrożenia

Z perspektywy czasu potrzebna jest zdolność odcinania sieci w przypadku wystąpienia punktów awarii lub przynajmniej odcinania części pojedynczej sieci, gdy punkty awarii znajdują się gdzie indziej w jej obrębie.

Ta „wysepka” jest cechą inteligentnych sieci elektroenergetycznych, która daje możliwość podziału sieci na fragmenty, które są w stanie samodzielnie podtrzymywać swoje wewnętrzne zapotrzebowanie na moc. Modelowanie pokazało, że mniej połączeń może prowadzić do większego bezpieczeństwa.

Czy nauka o wschodzących złożonościach może pomóc w ustaleniu, gdzie mogą znajdować się niebezpieczne punkty w silnie połączonych sieciach? Marten Scheffer i współpracownicy tak myślałem. Widział podobieństwa między zachowaniem (jego) systemów naturalnych a systemami ekonomicznymi i finansowymi.

Jego wcześniejsza praca na jeziorach, rafach koralowych, morzach, lasach i użytkach zielonych odkryli, że środowiska podlegające stopniowym zmianom, takim jak klimat, ładunek składników odżywczych i utrata siedlisk, mogą osiągnąć punkty krytyczne, które przestawią je w czasami nieodwracalny stan niższy.

Czy bankierzy i ekonomiści zmagający się ze stabilnością rynków finansowych mogliby uczyć się od badaczy ekologii, epidemiologii i klimatologii, aby opracować markery bliskości progów krytycznych i awarii systemu?

W lutym 2016 to wszystko połączyło się w postaci artykuł na temat teorii złożoności i regulacji finansowych współautorem szerokiego grona ekspertów, w tym ekonomisty, bankiera, fizyka, klimatologa, ekologa, zoologa, weterynarza i epidemiologa.

Zalecili integrację danych, metod i wskaźników w trybie online, zasilając testy warunków skrajnych dla globalnych systemów społeczno-ekonomicznych i finansowych w czasie zbliżonym do rzeczywistego. Ten pierwszy jest podobny do tego, co osiągnięto w przypadku innych złożonych systemów, takich jak pogoda.

Możemy zacząć widzieć, jak nasz przykład autonomicznego świata jazdy przeradza się w kwestie stabilności sieci. Wyobraź sobie wysoce połączoną sieć pojazdów autonomicznych.

Istnieje wyraźna potrzeba, aby wiedzieć, jak wykrywać i izolować potencjalne punkty awarii w takiej sieci, zanim coś pójdzie nie tak z potencjalnie tragicznymi konsekwencjami. To coś więcej niż tylko ochrona kierowcy i pasażera przed awarią systemu w jednym autonomicznym pojeździe.

Czas zastanowić się, w jaki sposób możemy wykorzystać te multidyscyplinarne postępy w zrozumieniu stabilności sieci o tak dużej skali, aby uniknąć drastycznych konsekwencji.

O autorze

Peter Fisher, adiunkt, studia globalne, urbanistyczne i społeczne, Uniwersytet RMIT

Ten artykuł został pierwotnie opublikowany w Konwersacje. Przeczytać oryginalny artykuł.

Powiązane książki

at Rynek wewnętrzny i Amazon