Informacja jest cennym towarem. A dzięki technologii są miliony terabajtów z tego w Internecie.

Narzędzia sztucznej inteligencji (AI), takie jak ChatGPT, zarządzają teraz tymi informacjami w naszym imieniu – gromadzą je, podsumowują i przedstawiają nam z powrotem.

Jednak ten „outsourcing” zarządzania informacjami do sztucznej inteligencji – choć wygodny – ma swoje konsekwencje. Może wpływać nie tylko co myślimy, ale potencjalnie także w jaki sposób myślimy.

Co dzieje się w świecie, w którym algorytmy sztucznej inteligencji decydują, jakie informacje zostaną utrwalone, a jakie pozostawione na marginesie?

Rozwój spersonalizowanej sztucznej inteligencji

Narzędzia generatywnej sztucznej inteligencji są zbudowane na modelach przeszkolonych na setkach gigabajtów istniejące dane. Na podstawie tych danych uczą się, jak samodzielnie tworzyć tekst, obrazy, treści audio i wideo oraz mogą odpowiadać na zapytania użytkowników, łącząc „najbardziej prawdopodobną” odpowiedź.

ChatGPT jest używany przez miliony ludzi, mimo że został opublikowany niecały rok temu. W czerwcu dodanie niestandardowe odpowiedzi sprawił, że i tak już imponujący chatbot stał się jeszcze bardziej użyteczny. Ta funkcja pozwala użytkownikom zapisać spersonalizowane instrukcje wyjaśniające, do czego używają bota i jak chcieliby, aby reagował.

To jeden z kilku przykładów „spersonalizowanej sztucznej inteligencji”: kategorii narzędzi sztucznej inteligencji, które generują treści dostosowane do konkretnych potrzeb i preferencji użytkownika.

Innym przykładem jest niedawno uruchomiona platforma Meta Wirtualny asystent, MetaAI. Tego chatbota może prowadzić rozmowy, generować obrazy i wykonywać zadania na platformach Meta, w tym WhatsApp, Messenger i Instagram.

Badacz sztucznej inteligencji i współzałożyciel DeepMind, Mustafa Suleyman, opisuje spersonalizowana sztuczna inteligencja to bardziej relacja niż technologia:

To przyjaciel. […] To naprawdę będzie zawsze obecne i obok ciebie, żyjąc z tobą – w zasadzie w twoim zespole. Lubię o tym myśleć, jakbym miał świetnego trenera w swoim narożniku.

Jednak te technologie są również kontrowersyjne i budzą wątpliwości własność danych, stronniczość i mylna informacja.

Firmy technologiczne próbują znaleźć sposoby na walkę z tymi problemami. Na przykład Google dodał linki źródłowe do generowanych przez sztuczną inteligencję podsumowań wyszukiwania Szukaj doświadczenia generatywnego (SGE), które na początku tego roku znalazło się pod ostrzałem ofiarować się nieprawidłowe i problematyczne odpowiedzi.

Technologia już zmieniła nasze myślenie

W jaki sposób narzędzia generatywnej sztucznej inteligencji – zwłaszcza te spersonalizowane dla nas – zmienią nasz sposób myślenia?

Aby to zrozumieć, cofnijmy się do początków lat 1990., kiedy internet po raz pierwszy pojawił się w naszym życiu. Ludzie mogli nagle uzyskać dostęp do informacji o praktycznie wszystkim, niezależnie od tego, czy była to bankowość, pieczenie, nauczanie czy podróżowanie.

Prawie 30 lat później badania wykazały, jak połączenie z globalnym „umysłem roju” zmieniło nasze funkcje poznawcze, pamięć i kreatywność.

Na przykład posiadanie natychmiastowego dostępu do odpowiednika 305.5 miliard stron informacji wzrosła liczba ludzi meta-wiedza – czyli ich wiedza o wiedzy. Jednym z efektów tego jest „Efekt Google'a”: zjawisko, w którym wyszukiwanie online zwiększa naszą zdolność do znajdowania informacji, ale zmniejsza naszą pamięć o tym, jakie to były informacje.

Z jednej strony wykazano, że przeniesienie myślenia na wyszukiwarki internetowe uwalnia nasze rezerwy mentalne rozwiązywanie problemów i kreatywne myślenie. Z drugiej strony, zwiększone jest wyszukiwanie informacji w Internecie roztargnienie i zależność.

Badania pokazują również, że wyszukiwanie w Internecie – niezależnie od ilości i jakości uzyskanych informacji – zwiększa naszą skuteczność samoocena poznawcza. Innymi słowy, zwiększa naszą wiarę we własne „mądrości”.

Połącz to z faktem, że kwestionowanie informacji jest trudne – i że im bardziej ufamy naszej wyszukiwarce, tym mniej krytycznie podchodzimy do niej zajmij się jego wynikami – i widać, dlaczego dostęp do bezprecedensowych ilości informacji niekoniecznie czyni nas mądrzejszymi.

Czy powinniśmy „outsourcingować” nasze myślenie?

Dzisiejsze narzędzia generatywnej sztucznej inteligencji idą znacznie dalej niż tylko prezentowanie nam wyników wyszukiwania. Lokalizują dla nas informacje, oceniają je, syntetyzują i przedstawiają nam z powrotem.

Jakie mogą być tego konsekwencje? Bez nacisków na kontrolę jakości kierowaną przez człowieka perspektywy nie są obiecujące.

Zdolność generatywnej sztucznej inteligencji do tworzenia odpowiedzi, które wydają się znajome, obiektywne i wciągające, sprawia, że ​​jesteśmy na nią bardziej podatni Uprzedzenia poznawcze.

Połączenia stronniczość automatyzacjijest na przykład ludzka tendencja do przeceniania integralności informacji pochodzących z maszyn. I zwykła ekspozycja Efekt jest taki, że jesteśmy bardziej skłonni zaufać informacjom przedstawianym jako znajome lub osobiste.

Badania w mediach społecznościowych mogą pomóc nam zrozumieć wpływ takich uprzedzeń. W jednym badaniu z 2016 r. zgłosili to użytkownicy Facebooka poczucie większej „wiedzy” na podstawie ilości treści informacyjnych opublikowanych w Internecie, a nie tego, ile z nich faktycznie przeczytali.

Wiemy też, że „filtruj bąbelki” tworzone przez algorytmy mediów społecznościowych – w których nasze kanały są filtrowane według naszych zainteresowań – ograniczają różnorodność treści, z którymi mamy do czynienia.

Wykazano, że proces zawężania informacji nasila się polaryzacja ideologiczna poprzez zmniejszenie skłonności ludzi do rozważania alternatywnych perspektyw. Wykazano również, że zwiększa prawdopodobieństwo narażenia na nie fałszywe wiadomości.

Używaj sztucznej inteligencji, aby mądrzeć, a nie ogłupiać

Generatywna sztuczna inteligencja jest bez wątpienia rewolucyjną siłą, która może dokonać wielkich rzeczy dla społeczeństwa. Mogłoby to zmienić kształt naszego systemu edukacji, zapewniając spersonalizowane treści, zmień nasze praktyki pracy, przyspieszając pisanie i analiza informacjii przesuwaj granice odkrycie naukowe.

Ma nawet potencjał, aby pozytywnie zmienić nasze relacje, pomagając nam komunikować się i łączyć z innymi, a czasami może działać jako forma syntetycznego towarzystwa.

Ale jeśli naszym jedynym sposobem oceny przyszłości jest spojrzenie w przeszłość, może teraz jest czas, aby zastanowić się nad tym, jak zarówno Internet, jak i media społecznościowe zmieniły nasze poznanie, i zastosować pewne środki ostrożności. Rozwijanie Znajomość sztucznej inteligencji to dobry punkt wyjścia, podobnie jak projektowanie narzędzi AI, które zachęcają ludzką autonomię i krytyczne myślenie.

Ostatecznie będziemy musieli zrozumieć oba nasze własne oraz mocne i słabe strony sztucznej inteligencji aby mieć pewność, że ci „myślący” towarzysze pomogą nam stworzyć przyszłość, jakiej pragniemy – a nie tę, która akurat znajduje się na szczycie listy.

Sarah Vivienne Bentley, pracownik naukowy, odpowiedzialna innowacja, Data61, CSIRO; Claire Mason, główny naukowiec, CSIRO, Einat Grimberg, stażysta podoktorski w dziedzinie technologii i nauk społecznych, CSIRO

Artykuł został opublikowany ponownie Konwersacje na licencji Creative Commons. Przeczytać oryginalny artykuł.