PSO paskelbė naujas gaires dėl didelių daugiarūšių modelių (LMM) etikos ir valdymo, kad jie būtų tinkamai naudojami siekiant skatinti ir apsaugoti gyventojų sveikatą. LMM yra greitai augančių generatyvų rūšis dirbtinis intelektas (AI) technologija, kuri turi penkis plačius pritaikymus sveikatai in
1. Diagnostika ir klinikinė priežiūra, pavyzdžiui, atsakymas į pacientų rašytines užklausas;
2. Paciento vadovaujamas naudojimas, pvz., simptomams ir gydymui tirti;
3. Kanceliarinės ir administracinės užduotys, pavyzdžiui, pacientų apsilankymų dokumentavimas ir apibendrinimas elektroniniuose sveikatos įrašuose;
4. Medicininis ir slaugos švietimas, įskaitant stažuotojų imitavimą su pacientais;
5. Moksliniai tyrimai ir vaistų kūrimas, įskaitant naujų junginių nustatymą.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Todėl, siekdama sukurti saugius ir veiksmingus MMM, PSO pateikė rekomendacijas vyriausybėms ir LMM kūrėjams.
Vyriausybių pagrindinė pareiga yra nustatyti LMM kūrimo ir diegimo bei jų integravimo ir naudojimo visuomenės sveikatos ir medicinos tikslais standartus. Vyriausybės turėtų investuoti į pelno nesiekiančią ar viešąją infrastruktūrą, įskaitant skaičiavimo galią ir viešuosius duomenų rinkinius, prieinamą viešojo, privataus ir ne pelno sektorių kūrėjams, arba suteikti jai, kad naudotojai laikytųsi etikos principų ir vertybių. mainai į prieigą.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Paskirti esamai arba naujai reguliavimo agentūrai įvertinti ir patvirtinti LMM ir programas, skirtas naudoti sveikatos priežiūroje ar medicinoje – jei leidžia ištekliai.
· Įvesti privalomą nepriklausomų trečiųjų šalių atliekamą auditą po išleidimo ir poveikio vertinimus, įskaitant duomenų apsaugą ir žmogaus teises, kai LMM diegiamas dideliu mastu. Audito ir poveikio vertinimai turėtų būti paskelbti
ir turėtų apimti rezultatus ir poveikį, suskirstytą pagal vartotojo tipą, įskaitant, pavyzdžiui, pagal amžių, rasę ar negalią.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM yra skirtos tiksliai apibrėžtoms užduotims atlikti reikiamu tikslumu ir patikimumu, siekiant pagerinti sveikatos sistemų pajėgumus ir gerinti pacientų interesus. Kūrėjai taip pat turėtų sugebėti numatyti ir suprasti galimus antrinius rezultatus.
***
šaltinis:
PSO 2024. Dirbtinio intelekto etika ir valdymas sveikatai: didelių multimodalinių modelių gairės. Galimas adresu https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
