Ny rapport: Frykter kunstig intelligens forsterker diskrimineringen av kvinner i helsevesenet
Kunstig intelligens (KI) er på full fart inn i helsevesenet. Rapporten fra CARE Norge og PA Consulting løfter frem seks anbefalinger for å sikre at KI gir helsegevist for alle.
I den norske helsesektoren er det mange muligheter for at god bruk av kunstig intelligens (KI) skal forbedre tjenester og effektiviseres ressursbruken. I dag finnes det en rekke prosjekter som forsker på hvordan man kan benytte ny teknologi gjennom hele pasientløpet - eksempelvis til forebygging og sykdomsdiagnostikk for norske pasienter.
I rapporten som PA Consulting har utarbeidet med CARE Norge, trekkes blant annet språkanalyse og bildeanalyse frem som eksempler på områder hvor kunstig intelligens benyttes i dag.
— Det er store gevinster å hente ved riktig bruk av kunstig intelligens, om man gjør det på en måte som tar høyde for dataenes iboende svakheter – man kan si det slik at djevelen ligger i dataene, sier generalsekretær i CARE Norge, Kaj-Martin Georgsen.
En av de største utfordringene rapporten peker på er at datasett og algoritmer kan inneholde en rekke uønskede skjevheter mot enkeltgrupper. Dette gir igjen en risiko for diskriminerende eller urettferdig pasientbehandling.
— I flere land har det blitt avdekket tilfeller av KI-anvendelser som har ført til uønsket forskjellsbehandling basert på kjønn, og det er grunn til å tro at dette kan skje også i norsk helsetjeneste dersom ikke disse problemstillingene håndteres ordentlig, sier norgessjef i PA Consulting, Grete Kvernland-Berg.
De 6 anbefalingene i rapporten handler om transparens og bevisstgjøring rundt kjønnsbias i både utvikling og bruk, samt utvikling og tilgjengeliggjøring av tydelige, etiske rammeverk.
— Målet burde være at man skal ta KI i bruk på en måte som motvirker, fremfor å opprettholde, diskriminering, sier Georgsen.
CARE Norge jobber med kvinnehelse i mange av de mest sårbare og fattige landene i verden.
— KI som tar hensyn til kjønnsforskjeller og ikke diskriminerer, kan bli et kraftfullt verktøy for likestilling globalt, sier Georgsen.
Rapportens hovedfunn:
- Det er manglende bevissthet og forståelse av kjønnsbias blant leverandører av KI-løsninger til norsk helsesektor.
- For leverandører av KI-løsninger er det manglende insentiver til å prioritere biastesting utover krav satt av CE-merkingen.
- Få bruker etiske rammeverk i utviklingen av KI-løsninger.
- Innkjøpere av KI-løsninger tar til en viss grad for gitt at bias har blitt håndtert gjennom CE-merkingen.
- Det er uklart hvor ansvaret for validering ligger i dag og hvordan ansvarsfordelingen ideelt sett bør være.
- Algoritmene til KI-løsninger mangler forklarbarhet, tolkbarhet og transparens. Dette kan hindre oppdagelsen av kjønnsbias.
For mer informasjon, kontakt:
Grete Kvernland-Berg, norgessjef i PA Consulting, tlf. 99250356, grete.kvernland-berg@paconsulting.com
Kaj-Martin Georgsen, generalsekretær i CARE Norge, tlf. 48082609, georgsen@care.no
Nøkkelord
Kontakter
Kaj-Martin GeorgsenCARE Norge
Tel:48082609georgsen@care.noIrene Thoresen RønoldSenior PR-rådgiverCARE Norge
Tel:48354814irene.ronold@care.noBilder
Lenker
Om PA Consulting
PA Consulting er et verdensledende management konsulentselskap med fokus på innovasjon og transformasjon. I Norge er vi om lag 60 medarbeidere som arbeider innen strategisk rådgivning, analytics, digital transformasjon og forretningsutvikling mot både privat næringsliv og offentlig sektor. Globalt er PA Consulting over 4000 ansatte med kontorer i London, København, Stockholm, Amsterdam. London og USA i tillegg til det norske hovedkontoret på Skøyen i Oslo.
Om CARE Norge
CARE ble grunnlagt i 1945 og er nå en av verdens største hjelpeorganisasjoner, med prosjekter i 102 land. CARE Norge jobber med langsiktig utviklingsbistand og nødhjelp i 11 av disse landene, med jenter og kvinners rettigheter i fokus. CAREs bistand nådde mer enn 100 millioner mennesker i 2021.
Følg pressemeldinger fra CARE
Registrer deg med din e-postadresse under for å få de nyeste sakene fra CARE på e-post fortløpende. Du kan melde deg av når som helst.
Siste pressemeldinger fra CARE
Livsfarlig kaos i Rafah7.5.2024 14:20:27 CEST | Pressemelding
– Folk i Gaza var allerede så godt som innesperret, og med stengingen av Rafah-grensen er Gaza nærmest hermetisk lukket, sier Gudrun Bertinussen, utenlandssjef i CARE Norge.
Stålsetter seg for mulig Rafah-invasjon29.4.2024 11:31:54 CEST | Pressemelding
– Vi vet ikke hvor vi skal dra. Vi hører flyene i lufta over oss 24/7, sier CARE-ansatte i Gaza.
Katastrofalt lite nødhjelp slippes inn til Gaza19.4.2024 12:00:00 CEST | Pressemelding
– Vi ser det gang på gang. Israels lovnader om mer nødhjelp er en distraksjon, sier utenlandssjef i CARE Norge Gudrun Bertinussen.
Ett år senere: Kvinner og jenter bærer den tyngste byrden i konflikten i Sudan12.4.2024 11:16:31 CEST | Pressemelding
En bølge av kjønnsbasert vold brer seg over Sudan. Konflikten har grusomme konsekvenser for millioner av mennesker. Akutt matusikkerhet og hungersnød vokser i omfang.
Ny rapport: Katastrofal sult i Gaza – minst halvparten av befolkningen i livsfare18.3.2024 13:42:19 CET | Pressemelding
En ny rapport fra Integrated Food Security and Nutrition Phase Classification (IPC) viser at folk i Gaza er rammet av akutt matmangel.
I vårt presserom finner du alle våre siste pressemeldinger, kontaktpersoner, bilder, dokumenter og annen relevant informasjon om oss.
Besøk vårt presserom