Ny rapport: Frykter kunstig intelligens forsterker diskrimineringen av kvinner i helsevesenet

I den norske helsesektoren er det mange muligheter for at god bruk av kunstig intelligens (KI) skal forbedre tjenester og effektiviseres ressursbruken. I dag finnes det en rekke prosjekter som forsker på hvordan man kan benytte ny teknologi gjennom hele pasientløpet - eksempelvis til forebygging og sykdomsdiagnostikk for norske pasienter.

I rapporten som PA Consulting har utarbeidet med CARE Norge, trekkes blant annet språkanalyse og bildeanalyse frem som eksempler på områder hvor kunstig intelligens benyttes i dag.

— Det er store gevinster å hente ved riktig bruk av kunstig intelligens, om man gjør det på en måte som tar høyde for dataenes iboende svakheter – man kan si det slik at djevelen ligger i dataene, sier generalsekretær i CARE Norge, Kaj-Martin Georgsen.

En av de største utfordringene rapporten peker på er at datasett og algoritmer kan inneholde en rekke uønskede skjevheter mot enkeltgrupper. Dette gir igjen en risiko for diskriminerende eller urettferdig pasientbehandling.

— I flere land har det blitt avdekket tilfeller av KI-anvendelser som har ført til uønsket forskjellsbehandling basert på kjønn, og det er grunn til å tro at dette kan skje også i norsk helsetjeneste dersom ikke disse problemstillingene håndteres ordentlig, sier norgessjef i PA Consulting, Grete Kvernland-Berg.

De 6 anbefalingene i rapporten handler om transparens og bevisstgjøring rundt kjønnsbias i både utvikling og bruk, samt utvikling og tilgjengeliggjøring av tydelige, etiske rammeverk.

— Målet burde være at man skal ta KI i bruk på en måte som motvirker, fremfor å opprettholde, diskriminering, sier Georgsen.

CARE Norge jobber med kvinnehelse i mange av de mest sårbare og fattige landene i verden.

— KI som tar hensyn til kjønnsforskjeller og ikke diskriminerer, kan bli et kraftfullt verktøy for likestilling globalt, sier Georgsen.  

Rapportens hovedfunn:

• Det er manglende bevissthet og forståelse av kjønnsbias blant leverandører av KI-løsninger til norsk helsesektor.
• For leverandører av KI-løsninger er det manglende insentiver til å prioritere biastesting utover krav satt av CE-merkingen.
• Få bruker etiske rammeverk i utviklingen av KI-løsninger.
• Innkjøpere av KI-løsninger tar til en viss grad for gitt at bias har blitt håndtert gjennom CE-merkingen.
• Det er uklart hvor ansvaret for validering ligger i dag og hvordan ansvarsfordelingen ideelt sett bør være.
• Algoritmene til KI-løsninger mangler forklarbarhet, tolkbarhet og transparens. Dette kan hindre oppdagelsen av kjønnsbias.

Les hele rapporten her.

For mer informasjon, kontakt:

Grete Kvernland-Berg, norgessjef i PA Consulting, tlf. 99250356,  grete.kvernland-berg@paconsulting.com

Kaj-Martin Georgsen, generalsekretær i CARE Norge, tlf. 48082609, georgsen@care.no