Chatboty AI stają się coraz potężniejsze, ale skąd wiesz, czy działają w Twoim najlepszym interesie? 

Jeśli zapytasz Alexę, system AI asystenta głosowego Amazona, czy Amazon jest monopolistą, odpowie mówiąc, że nie wie. Nie trzeba wiele, aby to zrobić zmiażdżyć innych gigantów technologicznych, ale milczy na temat występków własnego korporacyjnego rodzica.

Kiedy Alexa odpowiada w ten sposób, oczywiste jest, że przedkłada interesy swojego programisty nad twoje. Zwykle jednak nie jest tak oczywiste, komu służy system sztucznej inteligencji. Aby uniknąć wykorzystywania przez te systemy, ludzie będą musieli nauczyć się sceptycznie podchodzić do sztucznej inteligencji. Oznacza to celowe konstruowanie danych wejściowych, które im przekazujesz, i krytyczne myślenie o wynikach.

Nowsze generacje modeli sztucznej inteligencji, z ich bardziej wyrafinowanymi i mniej rutynowymi reakcjami, utrudniają stwierdzenie, kto odnosi korzyści z ich wypowiedzi. Manipulowanie przez firmy internetowe tym, co widzisz, by służyło ich własnym interesom, nie jest niczym nowym. Wyniki wyszukiwania Google i Twój kanał na Facebooku są wypełniona płatnymi wpisami. Facebook, TikTok a inni manipulują Twoimi kanałami, aby zmaksymalizować czas spędzany na platformie, co oznacza więcej wyświetleń reklam, niż Twoje samopoczucie.

Tym, co odróżnia systemy sztucznej inteligencji od tych innych usług internetowych, jest to, jak bardzo są interaktywne i jak te interakcje będą coraz bardziej przypominać relacje. Nie trzeba wiele ekstrapolować na podstawie dzisiejszych technologii, aby wyobrazić sobie sztuczną inteligencję, która będzie planować dla ciebie wycieczki, negocjować w twoim imieniu lub działać jako terapeuci i trenerzy życia.

Prawdopodobnie będą z tobą 24 godziny na dobę, 7 dni w tygodniu, znają cię blisko i będą w stanie przewidzieć twoje potrzeby. Ten rodzaj konwersacyjnego interfejsu do rozległej sieci usług i zasobów w sieci mieści się w zakresie możliwości istniejących generatywnych sztucznej inteligencji, takich jak ChatGPT. Są na dobrej drodze, by zostać spersonalizowanych asystentów cyfrowych.

Jak ekspert ds. bezpieczeństwa i naukowiec danych, wierzymy, że ludzie, którzy będą polegać na tych AI, będą musieli im bezgranicznie ufać, aby poruszać się w codziennym życiu. Oznacza to, że będą musieli upewnić się, że sztuczna inteligencja nie pracuje potajemnie dla kogoś innego. W całym Internecie urządzenia i usługi, które wydają się działać dla Ciebie, potajemnie działają przeciwko Tobie. Inteligentne telewizory szpiegować cię. Aplikacje na telefon gromadzić i sprzedawać swoje dane. Wiele aplikacji i stron internetowych manipulować tobą poprzez ciemne wzorce, elementy projektu, które celowo wprowadzać w błąd, zmuszać lub oszukiwać odwiedzających witrynę. Jest kapitalizm inwigilacyjny, a sztuczna inteligencja staje się jego częścią. Sztuczna inteligencja odgrywa rolę w kapitalizmie nadzoru, który sprowadza się do szpiegowania cię w celu zarobienia na tobie pieniędzy.

W ciemności

Całkiem możliwe, że z AI mogłoby być znacznie gorzej. Aby ten cyfrowy asystent AI był naprawdę użyteczny, będzie musiał Cię naprawdę poznać. Lepiej niż twój telefon cię zna. Lepiej niż wyszukiwarka Google cię zna. Być może lepiej, niż znają cię twoi bliscy przyjaciele, intymni partnerzy i terapeuta.

Nie masz powodu, aby ufać dzisiejszym wiodącym narzędziom do generatywnej sztucznej inteligencji. Odłóż na bok omamy, zmyślone „fakty”, które tworzą GPT i inne duże modele językowe. Oczekujemy, że zostaną one w dużej mierze oczyszczone w miarę poprawy technologii w ciągu najbliższych kilku lat.

Ale nie wiesz, jak skonfigurowane są AI: jak zostały wyszkolone, jakie informacje zostały im przekazane i jakie instrukcje mają wykonać. Na przykład badacze odkrył tajne zasady które regulują zachowanie chatbota Microsoft Bing. Są w dużej mierze łagodne, ale mogą się zmienić w dowolnym momencie.

Zarabiać pieniądze

Wiele z tych AI jest tworzonych i szkolonych ogromnymi kosztami przez niektóre z największych monopoli technologicznych. Są one oferowane ludziom do użytku bezpłatnie lub po bardzo niskich kosztach. Firmy te będą musiały jakoś na nich zarabiać. I, podobnie jak w przypadku reszty Internetu, może to w jakiś sposób obejmować nadzór i manipulację.

Wyobraź sobie, że prosisz swojego chatbota o zaplanowanie następnych wakacji. Czy wybrał konkretną linię lotniczą, sieć hoteli lub restaurację, ponieważ była dla Ciebie najlepsza, czy też dlatego, że jej producent otrzymał łapówkę od firm? Podobnie jak w przypadku płatnych wyników w wyszukiwarce Google, reklam w kanałach informacyjnych na Facebooku i płatnych miejsc docelowych w zapytaniach Amazon, te płatne wpływy prawdopodobnie z czasem staną się bardziej ukryte.

Jeśli prosisz swojego chatbota o informacje polityczne, czy wyniki są zniekształcone przez politykę korporacji, która jest właścicielem chatbota? Albo kandydat, który zapłacił mu najwięcej pieniędzy? A może nawet poglądy demograficzne osób, których dane wykorzystano w szkoleniu modelu? Czy twój agent AI jest potajemnie podwójnym agentem? W tej chwili nie ma sposobu, aby to wiedzieć.

Godny zaufania zgodnie z prawem

Uważamy, że ludzie powinni oczekiwać więcej od technologii, a firmy technologiczne i AI mogą stać się bardziej godne zaufania. Propozycja Unii Europejskiej Ustawa o sztucznej inteligencji podejmuje kilka ważnych kroków, wymagając przejrzystości danych wykorzystywanych do szkolenia modeli AI, łagodzenia potencjalnych błędów, ujawniania przewidywalnych zagrożeń i raportowania na temat standardowych testów branżowych. Unia Europejska naciska na regulacje dotyczące sztucznej inteligencji.

Większość istniejących AI nie spełnić z tym wyłaniającym się mandatem europejskim i pomimo tego ostatnie prowokacje od lidera senackiej większości Chucka Schumera, Stany Zjednoczone są daleko w tyle pod względem takich regulacji.

Sztuczna inteligencja przyszłości powinna być godna zaufania. O ile i dopóki rząd nie zapewni solidnej ochrony konsumentów dla produktów AI, ludzie będą sami odgadywać potencjalne zagrożenia i uprzedzenia związane ze sztuczną inteligencją oraz łagodzić ich najgorszy wpływ na doświadczenia ludzi z nimi związane.

Kiedy więc otrzymasz rekomendację dotyczącą podróży lub informacje polityczne z narzędzia AI, podejdź do tego tak samo sceptycznie, jak do reklamy na billboardzie lub wolontariusza kampanii. Mimo całej swojej technologicznej magii narzędzie sztucznej inteligencji może być niewiele więcej niż tym samym.

O autorze

Bruce Schneier, Adiunkt Polityki Publicznej, Harvard Kennedy School i Nathana Sandersa, Filia, Berkman Klein Center for Internet & Society, Harvard University

Artykuł został opublikowany ponownie Konwersacje na licencji Creative Commons. Przeczytać oryginalny artykuł.