HVEM har utstedt ny veiledning om etikk og styring av store multimodale modeller (LMM) for riktig bruk for å fremme og beskytte befolkningens helse. LMM-er er en type raskt voksende generativ kunstig intelligens (AI) teknologi som har fem brede anvendelser for helse in
1. Diagnose og klinisk behandling, som å svare på pasienters skriftlige spørsmål;
2. Pasientveiledet bruk, for eksempel for å undersøke symptomer og behandling;
3. Geistlige og administrative oppgaver, som å dokumentere og oppsummere pasientbesøk i elektroniske helsejournaler;
4. Medisinsk og sykepleieutdanning, inkludert å gi traineer simulerte pasientmøter, og;
5. Vitenskapelig forskning og legemiddelutvikling, inkludert for å identifisere nye forbindelser.
Imidlertid risikerer disse applikasjonene i helsevesenet å produsere falske, unøyaktige, partiske eller ufullstendige utsagn, noe som kan skade folk som bruker slik informasjon i å ta helsebeslutninger. Videre kan LMM-er trenes på data som er av dårlig kvalitet eller partisk, enten det er av rase, etnisitet, aner, kjønn, kjønnsidentitet eller alder. Det er også bredere risikoer for helsesystemer, for eksempel tilgjengelighet og rimelighet for LMM-er med best ytelse. LMM-er kan også oppmuntre til "automatiseringsbias" av helsepersonell og pasienter, der feil blir oversett som ellers ville blitt identifisert eller vanskelige valg er feilaktig delegert til en LMM. LMMer, som andre former for AI, er også sårbare for cybersikkerhetsrisikoer som kan sette pasientinformasjon eller troverdigheten til disse algoritmene i fare og tilbudet av helsetjenester mer bredt.
Derfor, for å skape trygge og effektive LMM-er, har WHO gitt anbefalinger til myndigheter og utviklere av LMM-er.
Myndighetene har hovedansvaret for å sette standarder for utvikling og distribusjon av LMM-er, og deres integrering og bruk for folkehelse og medisinske formål. Regjeringene bør investere i eller tilby ideell eller offentlig infrastruktur, inkludert datakraft og offentlige datasett, tilgjengelig for utviklere i offentlig, privat og ikke-for-profit sektor, som krever at brukere overholder etiske prinsipper og verdier i bytte for tilgang.
· Bruk lover, retningslinjer og forskrifter for å sikre at LMM-er og applikasjoner som brukes i helsevesen og medisin, uavhengig av risikoen eller fordelene forbundet med AI teknologi, oppfylle etiske forpliktelser og menneskerettighetsstandarder som påvirker for eksempel en persons verdighet, autonomi eller privatliv.
· Tilordne et eksisterende eller nytt reguleringsorgan til å vurdere og godkjenne LMM-er og applikasjoner beregnet for bruk i helsevesen eller medisin – ettersom ressursene tillater det.
· Innføre obligatorisk revisjon etter utgivelsen og konsekvensanalyser, inkludert for databeskyttelse og menneskerettigheter, av uavhengige tredjeparter når en LMM blir distribuert i stor skala. Revisjonen og konsekvensutredningene bør offentliggjøres
og bør inkludere utfall og påvirkninger oppdelt etter type bruker, inkludert for eksempel etter alder, rase eller funksjonshemming.
· LMM-er er ikke bare designet av forskere og ingeniører. Potensielle brukere og alle direkte og indirekte interessenter, inkludert medisinske leverandører, vitenskapelige forskere, helsepersonell og pasienter, bør engasjeres fra de tidlige stadiene av AI utvikling i strukturert, inkluderende, transparent design og gitt muligheter til å ta opp etiske spørsmål, gi uttrykk for bekymringer og gi innspill til AI søknad under behandling.
LMM-er er designet for å utføre veldefinerte oppgaver med nødvendig nøyaktighet og pålitelighet for å forbedre kapasiteten til helsesystemene og fremme pasientinteresser. Utviklere bør også være i stand til å forutsi og forstå potensielle sekundære utfall.
***
kilde:
WHO 2024. Etikk og styring av kunstig intelligens for helse: veiledning om store multimodale modeller. Tilgjengelig i https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
