Typowe konto bota społecznościowego. CC B

Platformy mediów społecznościowych stały się czymś więcej niż tylko narzędziami komunikacji. Przekształciły się w tętniące życiem areny, na których zderzają się prawda i fałsz. Wśród tych platform X wyróżnia się jako: wybitne pole bitwy. To miejsce, w którym kwitną kampanie dezinformacyjne, utrwalane przez armie botów napędzanych sztuczną inteligencją, zaprogramowanych do wpływania na opinię publiczną i manipulowania narracjami.

Boty zasilane sztuczną inteligencją to zautomatyzowane konta zaprojektowane tak, aby naśladować ludzkie zachowanie. Boty w mediach społecznościowych, platformach czatowych i konwersacyjnej sztucznej inteligencji są integralną częścią współczesnego życia. Są one potrzebne na przykład do efektywnego działania aplikacji AI.

Jednak niektóre boty są tworzone ze złymi zamiarami. Co szokujące, boty stanowią znaczną część bazy użytkowników X. W 2017 r oszacowano że istniało około 23 miliony botów społecznościowych, co stanowiło 8.5% wszystkich użytkowników. Ponad dwie trzecie tweetów pochodziły z tych automatycznych kont, zwiększając zasięg dezinformacji i mącąc wody dyskursu publicznego.

Jak działają boty

Wpływ społeczny jest teraz towarem, który można zdobyć kupując boty. Firmy sprzedają fałszywych obserwujących, aby sztucznie zwiększyć popularność kont. Obserwatorzy są dostępni po wyjątkowo niskich cenach, a wśród nabywców znajduje się wiele celebrytów.

Na przykład w trakcie naszego badania wraz z kolegami wykryliśmy bota, który opublikował 100 tweetów oferujących sprzedaż obserwujących.

Wykorzystanie metodologii AI i podejścia teoretycznego tzw teoria aktor-siećwraz z kolegami analizowaliśmy, w jaki sposób złośliwe boty społecznościowe manipulują mediami społecznościowymi, wpływając na to, co ludzie myślą i jak się zachowują, z alarmującą skutecznością. Możemy stwierdzić, czy fałszywe wiadomości zostały wygenerowane przez człowieka, czy bota, z dokładnością na poziomie 79.7%. Aby zrozumieć, w jaki sposób ludzie wykorzystują sztuczną inteligencję do szerzenia dezinformacji, niezwykle istotne jest zrozumienie, w jaki sposób zarówno ludzie, jak i sztuczna inteligencja rozpowszechniają dezinformację.

Jako przykład sprawdziliśmy aktywność konta o nazwie „True Trumpers” na Twitterze.

Konto zostało założone w sierpniu 2017 r., nie ma żadnych obserwujących ani zdjęcia profilowego, ale w momencie badania opublikowało 4,423 tweety. Obejmowały one serię całkowicie sfabrykowanych historii. Warto zauważyć, że bot ten pochodzi z kraju Europy Wschodniej.

Strumień fałszywych wiadomości z konta bota. Buzzfeed, CC BY

Badania takie jak to wpłynęły na X, aby ograniczyć działalność botów społecznościowych. W odpowiedzi na zagrożenie manipulacją w mediach społecznościowych firma X wdrożyła tymczasowe ograniczenia odczytu, aby ograniczyć kradzież i manipulację danymi. Konta zweryfikowane zostały ograniczone do czytania 6,000 postów dziennie, podczas gdy konta niezweryfikowane mogą czytać 600 dziennie. To nowa aktualizacja, więc nie wiemy jeszcze, czy zadziałała.

Czy możemy się chronić?

Jednakże ostatecznie na użytkownikach spoczywa obowiązek zachowania ostrożności i odróżniania prawdy od fałszu, szczególnie w okresach wyborczych. Krytycznie oceniając informacje i sprawdzając źródła, użytkownicy mogą odegrać rolę w ochronie integralności procesów demokratycznych przed atakiem botów i kampaniami dezinformacyjnymi na platformie X. W rzeczywistości każdy użytkownik jest pierwszym obrońcą prawdy i demokracji. Czujność, krytyczne myślenie i zdrowa dawka sceptycyzmu to niezbędna zbroja.

W przypadku mediów społecznościowych ważne jest, aby użytkownicy rozumieli strategie stosowane przez złośliwe konta.

Złośliwi uczestnicy często wykorzystują sieci botów do wzmacniania fałszywych narracji, manipulowania trendami i szybkiego rozpowszechniania dezinformacji. Użytkownicy powinni zachować ostrożność w przypadku napotkania kont wykazujących podejrzane zachowanie, takie jak nadmierne publikowanie lub powtarzanie wiadomości.

Dezinformacja jest również często propagowana za pośrednictwem wyspecjalizowanych witryn z fałszywymi wiadomościami. Mają one naśladować wiarygodne źródła wiadomości. Użytkownikom zaleca się weryfikowanie autentyczności źródeł wiadomości poprzez porównywanie informacji z renomowanymi źródłami i konsultowanie się z organizacjami weryfikującymi fakty.

Samoświadomość to kolejna forma ochrony, zwłaszcza przed taktykami inżynierii społecznej. Często stosuje się manipulację psychologiczną, aby oszukać użytkowników, aby uwierzyli w kłamstwa lub zaangażowali się w określone działania. Użytkownicy powinni zachować czujność i krytycznie oceniać napotkane treści, szczególnie w okresach wzmożonej wrażliwości, takich jak wybory.

Pozostając na bieżąco, angażując się w dyskurs obywatelski i opowiadając się za przejrzystością i odpowiedzialnością, możemy wspólnie kształtować cyfrowy ekosystem, który sprzyja zaufaniu, przejrzystości i świadomemu podejmowaniu decyzji.

Nick Hajli, strateg AI i profesor strategii cyfrowej, Loughborough University

Artykuł został opublikowany ponownie Konwersacje na licencji Creative Commons. Przeczytać oryginalny artykuł.

Powiązane książki:

O tyranii: dwadzieścia lekcji z XX wieku

autorstwa Timothy'ego Snydera

Ta książka oferuje lekcje historii dotyczące zachowania i obrony demokracji, w tym znaczenie instytucji, rolę poszczególnych obywateli i niebezpieczeństwa autorytaryzmu.

Kliknij, aby uzyskać więcej informacji lub zamówić

Nasz czas jest teraz: władza, cel i walka o sprawiedliwą Amerykę

autorstwa Stacey Abrams

Autorka, polityk i aktywistka, dzieli się swoją wizją bardziej inkluzywnej i sprawiedliwej demokracji oraz oferuje praktyczne strategie zaangażowania politycznego i mobilizacji wyborców.

Kliknij, aby uzyskać więcej informacji lub zamówić

Jak umierają demokracje

autorstwa Stevena Levitsky'ego i Daniela Ziblatta

Ta książka analizuje znaki ostrzegawcze i przyczyny rozpadu demokracji, opierając się na studiach przypadków z całego świata, aby zaoferować wgląd w to, jak chronić demokrację.

Kliknij, aby uzyskać więcej informacji lub zamówić

The People, No: Krótka historia antypopulizmu

przez Thomasa Franka

Autor przedstawia historię ruchów populistycznych w Stanach Zjednoczonych i krytykuje „antypopulistyczną” ideologię, która, jak twierdzi, zdławiła demokratyczne reformy i postęp.

Kliknij, aby uzyskać więcej informacji lub zamówić

Demokracja w jednej książce lub mniej: jak to działa, dlaczego nie działa i dlaczego jej naprawienie jest łatwiejsze niż myślisz

przez Davida Litta

Ta książka zawiera przegląd demokracji, w tym jej mocne i słabe strony, oraz proponuje reformy, które uczynią system bardziej responsywnym i odpowiedzialnym.

Kliknij, aby uzyskać więcej informacji lub zamówić