UMJETNA INTELIGENCIJA MOŽE BITI JAKO KORISNA, ALI...

WHO upozorava: AI u zdravstvenom sustavu može nositi rizik i 'ozbiljne pogreške'

Autor

mp/h

Umjetna inteligencija (AI) već sada bolje od čovjeka odabire organe donora za transplantaciju te bolje odgovara na neka pitanja o zdravlju pacijenata, ali ona donosi i rizike te "ozbiljne pogreške", upozorila je Svjetska zdravstvena organizacija.

17.05.2023. u 14:18
Ispiši članak

Svjetska zdravstvena organizacija (WHO) sa sjedištem u Ženevi pozdravlja golemi potencijal umjetne inteligencije koja može biti jako korisna, no upozorava da uvođenje postupaka liječenja AI-ja u zdravstveni sustav nosi opasnost od "potpuno pogrešne" informacije.

"Nužno je" procijeniti opasnosti korištenja alata LLMs (generated large language model tools) kao što je ChatGPT jer oni mogu voditi do teških pogrešaka u zdravstvu i potkopati povjerenje u AI", priopćio je WHO.

UN-ova agencija za zdravlje oglasila se u vrijeme kada primjene umjetne inteligencije strelovitom brzinom stječu popularnost. Zabrinutost proistječe iz toga što se redovite norme opreza ne primjenjuju na LLMs.

Predlagači korištenja AI-a vjeruju da će se liječnici ubrzo koristiti sustavom AI chat da brže odgovore na pitanja pacijenata o njihovom zdravlju, a koristit će se AI-jem i u dijagnostici. 

Međutim, dva chatbota, Microsofta te Googlea pokazala su da njihovi odgovori nisu potpuno pouzdani kad je riječ o činjenicama, a WHO je zabrinut baš zato što se ti odgovori čine pouzdanima. "LLMs proizvodi odgovore koji se mogu činiti autoritativnima i vjerodostojnima krajnjem korisniku. Međutim, ti odgovori mogu biti potpuno netočni ili sadržati ozbiljne pogreške, posebno kad je riječ o odgovorima povezanima sa zdravljem", upozorava WHO.

Te informacije mogu dovesti u zabludu i proizvesti informaciju koja će se činiti jako vjerodostojnom, a koju javnost ne može razlučiti od pouzdane.  WHO stoga predlaže da se prije primjene AI-a u zdravstvu struka pozabavi tim pitanjima te da izmjeri korist i štete prije nego što odobri njezino opsežno korištenje.

Komentari

VAŽNO Ako ne vidite komentare ne znači da smo ih zabranili ili ukinuli. Zahvaljujući pravilima Europske unije o privatnosti podataka treba napraviti sljedeće: 1. Logirati se na Facebook u ovom browseru i omogućiti korištenje kolačića (cookies). Logirati se možete ovdje: https://www.facebook.com/ 2. Uključiti third party cookies u svom browseru. Ako koristite Chrome to možete učiniti na chrome://settings/cookies. Pozivamo čitatelje/komentatore da u svojim komentarima njeguju civiliziranu raspravu. Portal Direktno ne može se smatrati odgovornim za komentare koji sadrže uvrede, klevete, govor mržnje, huškanje i/ili poziv na nasilje. Takvi komentari bit će obrisani, a u posebno ekstremnim slučajevima mogu biti i potpuno onemogućeni. Sporne komentare čitatelji mogu prijaviti na [email protected], uz priloženu poveznicu na pripadajući članak i navođenje autora i sadržaja spornoga komentara.