Getty Images

Sztuczna inteligencja (AI) szybko się rozwija i stanie się ważnym narzędziem wsparcia w opiece klinicznej. Badania sugerują, że algorytmy sztucznej inteligencji mogą dokładnie wykryć czerniaka i przewidywać przyszłe nowotwory piersi.

Ale zanim sztuczna inteligencja będzie mogła zostać włączona do rutynowego użytku klinicznego, musimy zmierzyć się z wyzwaniem związanym z uprzedzeniami algorytmicznymi. Algorytmy sztucznej inteligencji mogą mieć nieodłączne uprzedzenia, które mogą prowadzić do dyskryminacji i problemów związanych z prywatnością. Systemy sztucznej inteligencji mogą również podejmować decyzje bez wymaganego nadzoru lub wkładu ludzkiego.

 Przykład potencjalnie szkodliwych skutków sztucznej inteligencji pochodzi z międzynarodowy projekt której celem jest wykorzystanie sztucznej inteligencji do ratowania życia poprzez opracowanie przełomowych metod leczenia. W eksperymencie zespół odwrócił swój „dobry” model sztucznej inteligencji, aby stworzyć opcje dla nowego modelu sztucznej inteligencji, który może wyrządzić „szkodę”.

W ciągu mniej niż sześciu godzin szkolenia odwrócony algorytm sztucznej inteligencji wygenerował dziesiątki tysięcy potencjalnych chemicznych środków bojowych, z których wiele jest bardziej niebezpiecznych niż obecne środki bojowe. Jest to skrajny przykład dotyczący związków chemicznych, ale służy jako sygnał alarmowy do oceny znanych i prawdopodobnie niepoznawalnych konsekwencji etycznych sztucznej inteligencji.

AI w opiece klinicznej

W medycynie mamy do czynienia z najbardziej prywatnymi danymi ludzi i często decyzjami zmieniającymi życie. Niezbędne są solidne ramy etyczne dotyczące sztucznej inteligencji.

Połączenia Australijski projekt dotyczący padaczki ma na celu poprawę życia ludzi i zwiększenie dostępności opieki klinicznej. W oparciu o zaawansowane obrazowanie mózgu, informacje genetyczne i poznawcze od tysięcy osób z padaczką, planujemy wykorzystać sztuczną inteligencję do odpowiedzieć na pytania, na które obecnie nie ma odpowiedzi.

Czy napady tej osoby będą kontynuowane? Który lek jest najskuteczniejszy? Czy operacja mózgu jest realną opcją leczenia? Są to fundamentalne pytania, na które stara się odpowiedzieć współczesna medycyna.

Jako kierownik ds. sztucznej inteligencji w tym projekcie martwię się przede wszystkim tym, że sztuczna inteligencja rozwija się szybko, a nadzór regulacyjny jest minimalny. Te kwestie są powodem, dla którego niedawno założyliśmy ramy etyczne za wykorzystanie sztucznej inteligencji jako narzędzia wsparcia klinicznego. Ramy te mają na celu zapewnienie, że nasze technologie sztucznej inteligencji są otwarte, bezpieczne i godne zaufania, a jednocześnie wspierają integrację i uczciwość w opiece klinicznej.

Jak więc wdrożyć etykę sztucznej inteligencji w medycynie, aby zmniejszyć stronniczość i zachować kontrolę nad algorytmami? Zasada informatyki „śmieci na wejściu, śmieci na wyjściu” odnosi się do sztucznej inteligencji. Załóżmy, że zbieramy tendencyjne dane z małych próbek. Nasze algorytmy sztucznej inteligencji będą prawdopodobnie stronnicze i niemożliwe do powtórzenia w innym środowisku klinicznym.

Przykłady uprzedzeń nietrudno znaleźć we współczesnych modelach sztucznej inteligencji. Popularne duże modele językowe (na przykład ChatGPT) i modele utajonej dyfuzji (DALL-E i Stable Diffusion) pokazują, jak wyraźne uprzedzenia dotyczące płci, pochodzenia etnicznego i statusu społeczno-ekonomicznego.

Badacze odkryli, że proste podpowiedzi użytkownika generują obrazy utrwalające stereotypy etniczne, płciowe i klasowe. Na przykład wezwanie do lekarza generuje głównie wizerunki lekarzy-mężczyzn, co jest niezgodne z rzeczywistością, ponieważ około połowa wszystkich lekarzy w krajach OECD to kobiety.

Bezpieczna implementacja medycznej AI

Rozwiązanie zapobiegające uprzedzeniom i dyskryminacji nie jest trywialne. Zapewnienie równości w zdrowiu i wspieranie inkluzywności w badaniach klinicznych to prawdopodobnie jedne z najważniejszych podstawowe rozwiązania do zwalczania uprzedzeń w medycznej sztucznej inteligencji.

Zachęcająco zaproponowała to niedawno amerykańska Agencja ds. Żywności i Leków wprowadzając obowiązek różnorodności w badaniach klinicznych. Ta propozycja stanowi krok w kierunku mniej stronniczych i opartych na społeczności badań klinicznych.

Kolejną przeszkodą dla postępu są ograniczone fundusze na badania. Algorytmy sztucznej inteligencji zwykle wymagają znacznych ilości danych, co może być kosztowne. Kluczowe znaczenie ma ustanowienie udoskonalonych mechanizmów finansowania, które zapewnią naukowcom niezbędne zasoby do gromadzenia danych istotnych klinicznie, odpowiednich do zastosowań w zakresie sztucznej inteligencji.

Twierdzimy również, że zawsze powinniśmy znać wewnętrzne działanie algorytmów sztucznej inteligencji i rozumieć, w jaki sposób dochodzą one do swoich wniosków i zaleceń. Ta koncepcja jest często określana jako „wyjaśnialność” w sztucznej inteligencji. Odnosi się do idei, że ludzie i maszyny muszą współpracować, aby uzyskać optymalne wyniki.

Wolimy postrzegać wdrażanie predykcji w modelach jako „rozszerzoną” niż „sztuczną” inteligencję – algorytmy powinny być częścią procesu, a zawody medyczne muszą zachować kontrolę nad podejmowaniem decyzji.

Oprócz zachęcania do stosowania zrozumiałych algorytmów wspieramy przejrzystą i otwartą naukę. Naukowcy powinni publikować szczegółowe informacje na temat modeli sztucznej inteligencji i ich metodologii, aby zwiększyć przejrzystość i odtwarzalność.

Czego potrzebujemy w Aotearoa Nowa Zelandia, aby zapewnić bezpieczne wdrożenie AI w opiece medycznej? Kwestie związane z etyką sztucznej inteligencji są głównie kierowane przez ekspertów w tej dziedzinie. Jednak ukierunkowane przepisy dotyczące sztucznej inteligencji, takie jak unijne Ustawa o sztucznej inteligencji zaproponowano, odnosząc się do tych względów etycznych.

Europejskie prawo dotyczące sztucznej inteligencji jest mile widziane i będzie chronić osoby pracujące w ramach „bezpiecznej sztucznej inteligencji”. Niedawno rząd Wielkiej Brytanii wydał ich proaktywne podejście do regulacji AI, służąc jako plan dla innych reakcji rządu na bezpieczeństwo AI.

W Aotearoa opowiadamy się za przyjęciem proaktywnej, a nie reaktywnej postawy wobec bezpieczeństwa sztucznej inteligencji. Ustanowi ramy etyczne dla stosowania sztucznej inteligencji w opiece klinicznej i innych dziedzinach, dając interpretowalną, bezpieczną i bezstronną sztuczną inteligencję. W rezultacie wzrośnie nasza pewność, że ta potężna technologia przynosi korzyści społeczeństwu, jednocześnie chroniąc je przed szkodami.

O autorze

Mangora Pedersena, profesor nadzwyczajny psychologii i neuronauki, Auckland University of Technology

Artykuł został opublikowany ponownie Konwersacje na licencji Creative Commons. Przeczytać oryginalny artykuł.

Powiązane książki:

Ciało utrzymuje wynik: mózg, umysł i ciało w leczeniu traumy

przez Bessela van der Kolka

Ta książka bada powiązania między traumą a zdrowiem fizycznym i psychicznym, oferując spostrzeżenia i strategie leczenia i powrotu do zdrowia.

Kliknij, aby uzyskać więcej informacji lub zamówić

Oddech: nowa nauka o utraconej sztuce

przez Jamesa Nestora

Ta książka bada naukę i praktykę oddychania, oferując spostrzeżenia i techniki poprawy zdrowia fizycznego i psychicznego.

Kliknij, aby uzyskać więcej informacji lub zamówić

Paradoks roślin: ukryte zagrożenia w „zdrowej” żywności, które powodują choroby i przyrost masy ciała

przez Stevena R. Gundry'ego

Ta książka bada powiązania między dietą, zdrowiem i chorobami, oferując spostrzeżenia i strategie poprawy ogólnego stanu zdrowia i dobrego samopoczucia.

Kliknij, aby uzyskać więcej informacji lub zamówić

Kod odpornościowy: nowy paradygmat prawdziwego zdrowia i radykalnego przeciwdziałania starzeniu się

autorstwa Joela Greene'a

Ta książka oferuje nowe spojrzenie na zdrowie i odporność, opierając się na zasadach epigenetyki i oferując spostrzeżenia i strategie optymalizacji zdrowia i starzenia się.

Kliknij, aby uzyskać więcej informacji lub zamówić

Kompletny przewodnik po poście: uzdrawiaj swoje ciało poprzez post przerywany, co drugi dzień i przedłużony

autorstwa dr Jasona Funga i Jimmy'ego Moore'a

Ta książka bada naukę i praktykę postu, oferując spostrzeżenia i strategie poprawy ogólnego stanu zdrowia i dobrego samopoczucia.

Kliknij, aby uzyskać więcej informacji lub zamówić