HVEM har utstedt ny veiledning om etikk og styring av store multimodale modeller (LMM) for riktig bruk for å fremme og beskytte befolkningens helse. LMM-er er en type raskt voksende generativ kunstig intelligens (AI) teknologi som har fem brede anvendelser for helse in
1. Diagnose og klinisk behandling, som å svare på pasienters skriftlige spørsmål;
2. Pasientveiledet bruk, for eksempel for å undersøke symptomer og behandling;
3. Geistlige og administrative oppgaver, som å dokumentere og oppsummere pasientbesøk i elektroniske helsejournaler;
4. Medisinsk og sykepleieutdanning, inkludert å gi traineer simulerte pasientmøter, og;
5. Vitenskapelig forskning og legemiddelutvikling, inkludert for å identifisere nye forbindelser.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Derfor, for å skape trygge og effektive LMM-er, har WHO gitt anbefalinger til myndigheter og utviklere av LMM-er.
Myndighetene har hovedansvaret for å sette standarder for utvikling og distribusjon av LMM-er, og deres integrering og bruk for folkehelse og medisinske formål. Regjeringene bør investere i eller tilby ideell eller offentlig infrastruktur, inkludert datakraft og offentlige datasett, tilgjengelig for utviklere i offentlig, privat og ikke-for-profit sektor, som krever at brukere overholder etiske prinsipper og verdier i bytte for tilgang.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Tilordne et eksisterende eller nytt reguleringsorgan til å vurdere og godkjenne LMM-er og applikasjoner beregnet for bruk i helsevesen eller medisin – ettersom ressursene tillater det.
· Innføre obligatorisk revisjon etter utgivelsen og konsekvensanalyser, inkludert for databeskyttelse og menneskerettigheter, av uavhengige tredjeparter når en LMM blir distribuert i stor skala. Revisjonen og konsekvensutredningene bør offentliggjøres
og bør inkludere utfall og påvirkninger oppdelt etter type bruker, inkludert for eksempel etter alder, rase eller funksjonshemming.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM-er er designet for å utføre veldefinerte oppgaver med nødvendig nøyaktighet og pålitelighet for å forbedre kapasiteten til helsesystemene og fremme pasientinteresser. Utviklere bør også være i stand til å forutsi og forstå potensielle sekundære utfall.
***
kilde:
WHO 2024. Etikk og styring av kunstig intelligens for helse: veiledning om store multimodale modeller. Tilgjengelig i https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
