Nova studija pokazala je da AI pri odabiru pacijenta često daje prednost jednom čimbeniku, dok ljudi uzimaju u obzir više okolnosti.
Što bi se dogodilo kada bi o tome tko će dobiti organ za transplantaciju odlučivala umjetna inteligencija? Nova studija pokazuje da bi odluke AI sustava mogle biti brže i odlučnije od onih koje donose ljudi, ali i manje nijansirane.
Kada je riječ o izboru pacijenta koji će dobiti bubreg koji mu može spasiti život, umjetna inteligencija i ljudi ne pridaju jednaku važnost svim informacijama. Istraživanje znanstvenika sa Sveučilišta Penn State u SAD-u, piše Euronews, pokazalo je da veliki jezični modeli (LLM) često različito procjenjuju karakteristike pacijenata, previše se usredotočuju na pojedinačne čimbenike i pokazuju veću sigurnost u donošenju odluke nego ljudi.
Za potrebe istraživanja znanstvenici su velikim jezičnim modelima predstavili hipotetske scenarije temeljene na postojećim skupovima podataka iz ranijih istraživanja o raspodjeli bubrega. U tim su istraživanjima stvarni sudionici već donosili iste odluke, što je istraživačima omogućilo usporedbu ljudskog i AI odlučivanja.
U svakom scenariju bila su dva pacijenta – pacijent A i pacijent B – koji su oboje ispunjavali uvjete za jedan dostupan bubreg. Pacijenti su se razlikovali prema dobi, zdravstvenom stanju i navikama konzumiranja alkohola, a zadatak je bio odlučiti kojem od njih treba dodijeliti organ.
– Ove smo usporedbe proveli na nekoliko različitih načina. Ponekad smo izdvojili samo jednu karakteristiku, ponekad smo kombinirali nekoliko njih kako bismo vidjeli kako AI odvaguje suprotstavljene čimbenike, a ponekad smo ponudili i mogućnost bacanja novčića kako bismo izmjerili neodlučnost, važan čimbenik prisutan u ljudskom moralnom prosuđivanju – rekao je Hadi Hosseini, voditelj istraživanja sa Sveučilišta Penn State.
AI se često usredotočio na samo jedan čimbenik
Rezultati su pokazali da ljudi i AI modeli nisu jednako vrednovali karakteristike pacijenata.
Ljudski ispitanici veću su važnost pridavali dobi, pri čemu su češće prednost davali mlađim pacijentima u odnosu na starije. S druge strane, mnogi AI modeli prednost su davali pacijentima koji su konzumirali manje alkohola.
Drugim riječima, ljudske odluke češće su uzimale u obzir više različitih čimbenika i bile osjetljivije na kontekst, dok su se LLM-ovi često usredotočili na jednu karakteristiku pacijenta.
– AI chatbotovi često se razlikuju od ljudskih vrijednosti u načinu na koji vrednuju karakteristike pacijenta. Usredotočuju se na jedan čimbenik, poput navika konzumiranja alkohola, umjesto da odvagnu više različitih okolnosti, kao što to čine ljudi – objasnio je Hosseini.
Ljudi su spremniji priznati da ne postoji jednostavan odgovor
Još jedna važna razlika pojavila se kada su istraživači promatrali neodlučnost.
AI sustavi nisu pokazivali mnogo dvojbi oko toga koju opciju odabrati. Ljudi su, s druge strane, češće prepoznavali da u ovakvim situacijama ne postoji nužno jedan objektivno točan odgovor te da odluka može ovisiti o složenim moralnim procjenama.
– Kada raspodjeljujemo nešto čega nema dovoljno za sve, bilo da je riječ o bubregu, radnom mjestu ili pristupu nekom drugom resursu, ne postoji uvijek jedan objektivno točan odgovor. Ljudi prepoznaju tu nejasnoću i kroz otvorenu raspravu uključuju je u proces raspodjele. AI modeli to često ne čine – rekao je John Dickerson, izvršni direktor Mozilla.ai-ja, koji je surađivao na istraživanju.
Sve veća uloga AI-ja u medicini
Ovo pitanje postaje sve važnije jer se od sustava umjetne inteligencije sve češće očekuje više od pružanja činjeničnih informacija. AI sustavi sve se više koriste i u situacijama u kojima je potrebno donositi odluke koje uključuju određene vrijednosti i procjene. Veliki jezični modeli već se integriraju u različita područja zdravstvene skrbi, gdje mogu podržavati kliničke procese, dijagnostiku, planiranje liječenja i pravodobno korištenje ograničenih medicinskih resursa.
Jedna od mogućih primjena odnosi se i na odluke o raspodjeli bubrega preminulih ili živih darivatelja pacijentima. Takve odluke nisu jednostavne jer uključuju niz medicinskih, etičkih i moralnih pitanja. U situacijama s tako velikim posljedicama, ističu istraživači, nije dovoljna samo točnost odluke. Važno je i da način na koji AI donosi odluku bude usklađen s ljudskim vrijednostima i moralnim prosuđivanjem.
Pitanje može li umjetna inteligencija donositi moralne odluke i jesu li takve odluke usklađene s ljudskim vrijednostima stoga je postalo jedno od važnih pitanja u široj raspravi o budućoj ulozi AI-ja.
– Etički ulozi su veliki, a uloga AI-ja u takvim odlukama koje mijenjaju živote zahtijeva duboko promišljanje. Moralne odluke u situacijama poput raspodjele organa izravno određuju tko će živjeti, a tko umrijeti, stoga nije opcionalno pravilno odrediti ulogu AI-ja u takvim odlukama – rekao je Hosseini.
Istraživači pritom ne zagovaraju korištenje umjetne inteligencije kao zamjene za liječnike i druge stručnjake u donošenju odluka.
– Ne želimo poticati korištenje AI-ja kao zamjene za profesionalnu procjenu u medicinskom odlučivanju ili drugim situacijama s velikim posljedicama. No, postaje ključno razumjeti kako se takvi sustavi ponašaju jer se pojedinci, organizacije i tvrtke sve više oslanjaju na AI pri donošenju odluka ili dobivanju preporuka – zaključio je Hosseini.
(Ordinacija.hr)
