Generatyvusis dirbtinis intelektas (DI): PSO išleidžia naujas LMM valdymo gaires

PSO paskelbė naujas gaires dėl didelių daugiarūšių modelių (LMM) etikos ir valdymo, kad jie būtų tinkamai naudojami siekiant skatinti ir apsaugoti gyventojų sveikatą. LMM yra greitai augančių generatyvų rūšis dirbtinis intelektas (AI) technologija, kuri turi penkis plačius pritaikymus sveikatai in 

1. Diagnostika ir klinikinė priežiūra, pavyzdžiui, atsakymas į pacientų rašytines užklausas; 

2. Paciento vadovaujamas naudojimas, pvz., simptomams ir gydymui tirti; 

3. Kanceliarinės ir administracinės užduotys, pavyzdžiui, pacientų apsilankymų dokumentavimas ir apibendrinimas elektroniniuose sveikatos įrašuose; 

4. Medicininis ir slaugos švietimas, įskaitant stažuotojų imitavimą su pacientais; 

5. Moksliniai tyrimai ir vaistų kūrimas, įskaitant naujų junginių nustatymą. 

Tačiau šios sveikatos priežiūros programos kelia pavojų, kad bus pateikti klaidingi, netikslūs, šališki ar neišsamūs teiginiai, o tai gali pakenkti žmonėms, naudojantiems tokią informaciją priimant sprendimus dėl sveikatos. Be to, LMM gali būti apmokyti remiantis duomenimis, kurie yra prastos kokybės arba šališki, atsižvelgiant į rasę, etninę kilmę, protėvius, lytį, lytinę tapatybę ar amžių. Taip pat kyla didesnė rizika sveikatos sistemoms, pavyzdžiui, geriausių rezultatų veikiančių LMM prieinamumas ir įperkamumas. LMM taip pat gali paskatinti sveikatos priežiūros specialistų ir pacientų „automatizavimo šališkumą“, kai nepastebimos klaidos, kurios kitu atveju būtų nustatytos, arba sunkūs pasirinkimai netinkamai perduodami LMM. LMM, kaip ir kitos formos AI, taip pat yra pažeidžiami kibernetinio saugumo rizikos, kuri gali kelti pavojų pacientų informacijai arba šių algoritmų patikimumui ir sveikatos priežiūros paslaugų teikimui plačiau. 

Todėl, siekdama sukurti saugius ir veiksmingus MMM, PSO pateikė rekomendacijas vyriausybėms ir LMM kūrėjams. 

Vyriausybių pagrindinė pareiga yra nustatyti LMM kūrimo ir diegimo bei jų integravimo ir naudojimo visuomenės sveikatos ir medicinos tikslais standartus. Vyriausybės turėtų investuoti į pelno nesiekiančią ar viešąją infrastruktūrą, įskaitant skaičiavimo galią ir viešuosius duomenų rinkinius, prieinamą viešojo, privataus ir ne pelno sektorių kūrėjams, arba suteikti jai, kad naudotojai laikytųsi etikos principų ir vertybių. mainai į prieigą. 

· Naudokite įstatymus, politiką ir reglamentus, kad užtikrintumėte, jog sveikatos priežiūros ir medicinos srityse naudojami LMM ir programos, neatsižvelgiant į riziką ar naudą, susijusią su AI technologija, atitinka etikos įsipareigojimus ir žmogaus teisių standartus, kurie turi įtakos, pavyzdžiui, asmens orumui, savarankiškumui ar privatumui. 

· Paskirti esamai arba naujai reguliavimo agentūrai įvertinti ir patvirtinti LMM ir programas, skirtas naudoti sveikatos priežiūroje ar medicinoje – jei leidžia ištekliai. 

· Įvesti privalomą nepriklausomų trečiųjų šalių atliekamą auditą po išleidimo ir poveikio vertinimus, įskaitant duomenų apsaugą ir žmogaus teises, kai LMM diegiamas dideliu mastu. Audito ir poveikio vertinimai turėtų būti paskelbti 

ir turėtų apimti rezultatus ir poveikį, suskirstytą pagal vartotojo tipą, įskaitant, pavyzdžiui, pagal amžių, rasę ar negalią. 

· LMM kuria ne tik mokslininkai ir inžinieriai. Potencialūs naudotojai ir visos tiesioginės ir netiesioginės suinteresuotosios šalys, įskaitant medicinos paslaugų teikėjus, mokslinius tyrėjus, sveikatos priežiūros specialistus ir pacientus, turėtų būti įtraukiami nuo ankstyvųjų etapų. AI plėtoti struktūrizuotą, įtraukų, skaidrų dizainą ir suteikti galimybę kelti etikos problemas, pareikšti susirūpinimą ir pateikti indėlį AI nagrinėjama paraiška. 

LMM yra skirtos tiksliai apibrėžtoms užduotims atlikti reikiamu tikslumu ir patikimumu, siekiant pagerinti sveikatos sistemų pajėgumus ir gerinti pacientų interesus. Kūrėjai taip pat turėtų sugebėti numatyti ir suprasti galimus antrinius rezultatus. 

*** 

šaltinis: 

PSO 2024. Dirbtinio intelekto etika ir valdymas sveikatai: didelių multimodalinių modelių gairės. Galimas adresu https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***