Przyszli historycy mogą uznać rok 2023 za przełomowy w pojawieniu się sztucznej inteligencji (AI). Ale czy przyszłość to udowodni utopijny, apokaliptyczny or gdzieś pomiędzy zgaduje ktokolwiek.
W lutym ChatGPT ustanowił rekord najszybszej dostępnej aplikacji 100 milionów użytkowników. Następnie pojawiły się podobne „wielkojęzyczne” modele sztucznej inteligencji oferowane przez Google, Amazon, Meta i inne duże firmy technologiczne, które wspólnie wydają się być gotowe do przekształcenia edukacji, opieki zdrowotnej i wielu innych dziedzin wymagających dużej wiedzy.
Jednak w maju szkodliwy wpływ sztucznej inteligencji został podkreślony przez: złowieszcze stwierdzenie podpisane przez czołowych badaczy:
Zmniejszenie ryzyka wyginięcia przez sztuczną inteligencję powinno być globalnym priorytetem obok innych zagrożeń na skalę społeczną, takich jak pandemie i wojna nuklearna.
W listopadzie, w odpowiedzi na rosnące obawy dotyczące ryzyka związanego ze sztuczną inteligencją, 27 krajów (w tym Wielka Brytania, USA, Indie, Chiny i Unia Europejska) zobowiązało się do współpracy na inauguracyjnym szczycie dotyczącym bezpieczeństwa sztucznej inteligencji w Bletchley Park w Anglii, aby zapewnić bezpieczny rozwój sztucznej inteligencji dla korzyść wszystkich.
Aby to osiągnąć, badacze skupiają się na Dopasowanie AI – czyli jak zapewnić spójność modeli AI z ludzkimi wartościami, preferencjami i celami. Ale jest problem – tak zwana sztuczna inteligencja „mroczna tajemnica”: modele wielkoskalowe są tak złożone, że przypominają czarną skrzynkę, której nikt nie jest w stanie w pełni zrozumieć.
Problem czarnej skrzynki AI
Chociaż przejrzystość i wyjaśnialność systemów AI są ważne cele badawczewydaje się mało prawdopodobne, aby takie wysiłki nadążały za szaleńczym tempem innowacji.
Metafora czarnej skrzynki wyjaśnia, dlaczego przekonania ludzi na temat sztucznej inteligencji są obecne na całej mapie. Prognozy wahają się od utopii po wyginięcie, a wielu wierzy nawet, że wkrótce nastąpi sztuczna inteligencja ogólna (AGI). osiągnąć wrażliwość.
Ale ta niepewność pogłębia problem. Dostosowanie sztucznej inteligencji powinno działać dwukierunkowo: musimy nie tylko zapewnić zgodność modeli sztucznej inteligencji z ludzkimi intencjami, ale także trafność naszych przekonań na temat sztucznej inteligencji.
Dzieje się tak dlatego, że jesteśmy niezwykle biegli w tworzeniu przyszłości zgodnej z tymi przekonaniami, nawet jeśli nie jesteśmy tego świadomi.
Tak zwana "efekty oczekiwane”, czyli samospełniające się proroctwa, są dobrze znane w psychologii. Badania wykazały, że manipulowanie przekonaniami użytkowników wpływa nie tylko na to, jak je postrzegają wchodzić w interakcję z AI, ale jak AI dostosowuje się do użytkownika.
Innymi słowy, sposób, w jaki nasze przekonania (świadome lub nieświadome) wpływają na sztuczną inteligencję, może potencjalnie zwiększyć prawdopodobieństwo wystąpienia dowolnego wyniku, w tym katastrofalnego.
Sztuczna inteligencja, obliczenia, logika i arytmetyka
Musimy zgłębić temat, aby zrozumieć podstawy sztucznej inteligencji – niczym Alicja w Krainie Czarów udać się do króliczej nory i zobaczyć, dokąd nas to zaprowadzi.
Po pierwsze, czym jest sztuczna inteligencja? Działa na komputerach, podobnie jak automatyczne obliczenia. Od samego początku jako „perceptron” – sztuczny neuron zdefiniowany matematycznie w 1943 roku przez neurofizjologa Warrena McCullocha i logik Waltera Pittsa – Sztuczna inteligencja została powiązana z naukami kognitywnymi, neuronauką i informatyką.
Ta zbieżność umysły, mózg i maszyny doprowadziło do powszechnie panującego przekonania, że skoro sztuczna inteligencja to obliczenia wykonywane przez maszynę, to naturalna inteligencja (umysł) musi być obliczana przez mózg.
Ale czym są obliczenia? Pod koniec XIX wieku matematycy Richarda Dedekinda i Giuseppe peano zaproponował zestaw aksjomatów, które zdefiniowana arytmetyka w kategoriach logikii zainspirowało próby oparcia całej matematyki na bezpieczeństwie podstawa formalna.
Choć logik Kurt Godel później udowodnił, że ten cel był nieosiągalne, jego praca była punktem wyjścia dla matematyka (i łamacza kodów) Alan Turing. Jego "Maszyna Turinga”, abstrakcyjne urządzenie, które może uniwersalna kalkulacja, jest podstawą informatyki.
Głęboka struktura percepcji
Zatem obliczenia opierają się na ideach matematycznych, których korzenie sięgają prób zdefiniowania arytmetyki w logice. Ale nasza wiedza arytmetyczna istnieje przed logiką. Jeśli chcemy zrozumieć podstawy sztucznej inteligencji, musimy pójść dalej i zadać sobie pytanie, skąd bierze się sama arytmetyka.
Moi koledzy i ja niedawno pokazaliśmy, że arytmetyka opiera się na „głęboka struktura”percepcji. Ta struktura jest jak kolorowe okulary, które kształtują naszą percepcję w określony sposób, dzięki czemu nasze doświadczanie świata jest uporządkowane i możliwe do kontrolowania.
Arytmetyka składa się ze zbioru elementów (liczb) i operacji (dodawanie, mnożenie), które łączą pary elementów w celu uzyskania innego elementu. Zapytaliśmy: dlaczego spośród wszystkich możliwości liczby są elementami, a dodawanie i mnożenie operacjami?
Pokazaliśmy przez dowód matematyczny że gdy założono, że głęboka struktura percepcji ogranicza możliwości, efektem była arytmetyka. Innymi słowy, kiedy nasz umysł patrzy na abstrakcyjny świat przez te same „kolorowe okulary”, które kształtują nasze doświadczenie świata fizycznego, „widzi” liczby i arytmetykę.
Ponieważ arytmetyka jest podstawą matematyki, wynika z tego, że matematyka jest odbiciem umysłu – wyrazem symboli jej podstawowej natury i kreatywności.
Chociaż głęboka struktura percepcji jest wspólna dla innych zwierząt i jest produktem ewolucji, tylko ludzie wynaleźli matematykę. To nasze najbardziej intymne dzieło – a dzięki umożliwieniu rozwoju sztucznej inteligencji – być może nasze najbardziej istotne.
Kopernikańska rewolucja umysłu
Nasze konto pochodzenie arytmetyki jest zgodna z poglądami XVIII-wiecznego filozofa Immanuela Kanta. Według niego naszą wiedzę o świecie tworzą „czyste intuicje” przestrzeni i czasu, które istnieją przed doświadczeniem zmysłowym – analogicznie do kolorowych okularów, których nigdy nie możemy zdjąć.
Kant sięgnął po swoje filozofia była „kopernikańska rewolucja umysłu”. W ten sam sposób, w jaki starożytni astronomowie wierzyli, że Słońce krąży wokół Ziemi, ponieważ nie byli świadomi ruchu Ziemi, argumentował Kant, filozofowie, którzy wierzyli, że cała wiedza pochodzi od doświadczenie zmysłowe (na przykład John Locke i David Hume) przeoczyli, w jaki sposób umysł kształtuje percepcję.
Choć poglądy Kanta ukształtowały tzw nauki przyrodnicze swoich czasów, udowodnili wpływowy na współczesną psychologię.
Uznanie, że arytmetyka jest a naturalną konsekwencją naszej percepcji, a zatem oparte na biologii, sugeruje podobną kantowską zmianę w naszym rozumieniu obliczeń.
Obliczenia nie są „na zewnątrz” ani oddzielone od nas w abstrakcyjnej sferze prawdy matematycznej, ale są nieodłącznie związane z naturą naszego umysłu. Umysł to coś więcej niż obliczenia; mózg to nie komputer. Raczej obliczenia – podstawa sztucznej inteligencji – są, podobnie jak matematyka, symbolicznym wyrazem natury i kreatywności umysłu.
Prometejski ogień
Jakie są konsekwencje dla sztucznej inteligencji? Po pierwsze, sztuczna inteligencja nie jest umysłem i nigdy nie stanie się świadoma. Pomysł, że możemy przekroczyć naszą biologiczną naturę i osiągnąć nieśmiertelność, przesyłając nasze umysły do chmury, jest tylko i wyłącznie fantazja.
Jeśli jednak zasady umysłu, na których opiera się sztuczna inteligencja, będą wspólne dla całej ludzkości (i prawdopodobnie także innych żywych stworzeń), możliwe będzie pokonanie ograniczeń naszych indywidualnych umysłów.
Ponieważ obliczenia są uniwersalne, możemy swobodnie symulować i tworzyć dowolne wyniki w naszych coraz bardziej połączonych światach wirtualnych i fizycznych. W ten sposób sztuczna inteligencja jest naprawdę nasza Prometejski ogień, dar dla ludzkości skradziony bogom jak w mitologia grecka.
Jako cywilizacja globalna prawdopodobnie znajdujemy się w punkcie zwrotnym. Sztuczna inteligencja nie stanie się świadoma i nie zdecyduje się na to zabij nas wszystkich. Ale jesteśmy w stanie za jego pomocą „apokalipsować” siebie – oczekiwanie może stworzyć rzeczywistość.
Wysiłki mające na celu zapewnienie dostosowania sztucznej inteligencji oraz bezpieczeństwa i ochrony są niezwykle ważne, ale mogą nie wystarczyć, jeśli zabraknie nam świadomości i zbiorowej mądrości. Podobnie jak Alicja, musimy obudzić się ze snu i rozpoznać rzeczywistość i moc naszych umysłów.
Randolpha Grace’a, profesor psychologii, University of Canterbury
Artykuł został opublikowany ponownie Konwersacje na licencji Creative Commons. Przeczytać oryginalny artykuł.
