Naukowcy stworzyli model do przewidywania, które cywilne rozmowy online mogą się zmienić i wykoleić.

Po przeanalizowaniu setek wymian między redaktorami Wikipedii badacze opracowali program komputerowy, który na początku rozmowy wyszukuje znaki ostrzegawcze w języku uczestników — takie jak powtarzające się, bezpośrednie pytania lub użycie słowa „ty” — w celu przewidzenia, które z nich początkowo obyczajowe rozmowy pójdzie nie tak. (Uwaga Edtora: Aby uzyskać informacje na temat quizu online, zobacz koniec tego artykułu.)("Zgadnij, która rozmowa pójdzie nie tak" quiz online: http://awry.infosci.cornell.edu/)

Badanie wykazało, że wczesne wymiany zdań, które obejmowały pozdrowienia, wyrazy wdzięczności, żywopłoty, takie jak „wydaje się” oraz słowa „ja” i „my”, były bardziej uprzejme.

„Każdego dnia toczą się miliony takich dyskusji i nie da się ich wszystkich monitorować na żywo. System oparty na tym odkryciu może pomóc moderatorom lepiej skierować ich uwagę” – mówi Cristian Danescu-Niculescu-Mizil, adiunkt nauk informatycznych na Cornell University i współautor książki papier.

„My, jako ludzie, mamy intuicję, czy rozmowa ma się nie udać, ale często jest to tylko podejrzenie. Nie możemy tego zrobić w 100 procentach czasu. Zastanawiamy się, czy możemy budować systemy, które replikują, a nawet wykraczają poza tę intuicję”, mówi Danescu-Niculescu-Mizil.

Model komputerowy, który uwzględniał również perspektywę Google, narzędzie uczenia maszynowego do oceny „toksyczności”, był poprawny w około 65 procentach przypadków. Ludzie zgadywali poprawnie w 72 procentach przypadków.

W quizie online ludzie mogą przetestować swoją umiejętność odgadywania, które konwersacje zostaną wykolejone.

W badaniu przeanalizowano 1,270 konwersacji, które rozpoczęły się cywilnie, ale przerodziły się w ataki osobiste, wybranych z 50 milionów rozmów na 16 milionach stron „rozmów” Wikipedii, na których redaktorzy omawiają artykuły lub inne kwestie. Badali rozmowy w parach, porównując każdą rozmowę, która zakończyła się źle, z tą, która zakończyła się sukcesem na ten sam temat, aby wyniki nie były wypaczone przez drażliwy temat, taki jak polityka.

Naukowcy mają nadzieję, że ten model można wykorzystać do ratowania rozmów o ryzyku i poprawy dialogu online, a nie do blokowania określonych użytkowników lub cenzurowania niektórych tematów. Niektóre plakaty internetowe, takie jak osoby niebędące rodzimymi użytkownikami języka angielskiego, mogą nie zdawać sobie sprawy, że mogą być postrzegane jako agresywne, a impulsy z takiego systemu mogą pomóc im w samoregulacji.

„Jeśli mam narzędzia, które wykrywają osobiste ataki, jest już za późno, ponieważ atak już się wydarzył i ludzie już go widzieli”, mówi współautor Jonathan P. Chang, doktorant w Cornell. „Ale jeśli zrozumiesz, że ta rozmowa zmierza w złym kierunku i podejmiesz działania, może to sprawić, że miejsce będzie trochę bardziej przyjazne”.

Artykuł, napisany wspólnie z dodatkowymi współpracownikami z Jigsaw i Wikimedia Foundation, będzie częścią dorocznego spotkania Association for Computational Linguistics (lipiec 2018) w Melbourne w Australii.

*****

Zgadnij, która rozmowa pójdzie nie tak!

Instrukcje do quizu online:

W tym zadaniu zobaczysz 15 par rozmów. W przypadku każdej rozmowy zobaczysz tylko dwa pierwsze komentarze w rozmowie. Twoim zadaniem jest odgadnięcie na podstawie tych starterów rozmowy, która rozmowa jest bardziej prawdopodobna ostatecznie doprowadzić do osobistego ataku od jednego z dwóch początkowych użytkowników. 

Po udzieleniu odpowiedzi na każde pytanie otrzymasz natychmiastową informację zwrotną, czy Twoja odpowiedź była poprawna (zaznaczona na zielono) czy niepoprawna (zaznaczona na czerwono).

Więcej szczegółów:

Domyślając się, powinieneś użyć następującej definicji ataku osobistego jako odniesienia:

A atak osobisty to komentarz, który jest niegrzeczny, obraźliwy lub lekceważący wobec osoby/grupy lub działań i/lub pracy tej osoby/grupy.

Pamiętaj, że nie szukasz osobistych ataków w komentarzach, które są pokazane. Powinieneś raczej wykorzystać swoją intuicję dotyczącą dynamiki społecznej, aby zdecydować, która wymiana jest bardziej prawdopodobna, aby doprowadzić jednego z uczestników do ostatecznego opublikowania osobistego ataku (którego nie pokazano). 

Czasami może się wydawać, że żaden cytat nie doprowadzi do ataku lub że oba wydają się równie prawdopodobne. Należy jednak pamiętać, że konwersacje źródłowe zostały już opatrzone adnotacjami przez ludzi, a jedna rzeczywiście prowadzi do osobistego ataku. Postaraj się „odzyskać” istniejące etykiety! 

Nie jest to łatwe zadanie i odpowiedź na każde pytanie może zająć kilka minut. Ponieważ jest to trudne zadanie, pierwsze trzy pytania to pytania „na rozgrzewkę”, które nie wpłyną na Twój wynik; są po to, aby pomóc ci „skalibrować” twoje poczucie tego, jakie czynniki mogą sygnalizować przyszłe ataki. Ale pamiętaj, Twoim zadaniem jest odzyskanie jak największej liczby etykiet. 

Ze względu na charakter zadania niektóre z tych komentarzy mogą zawierać obraźliwe treści. Przepraszamy za to.

Kliknij tutaj, aby przejść do quizu online.

Źródło: Cornell University

Powiązane książki

at Rynek wewnętrzny i Amazon