Mannsdominert kunstig intelligens

Hver dag er mange av oss bevisst eller ubevisst i befatning med kunstig intelligens (KI), som når Facebooks algoritmer anbefaler oss nyheter, reklame og nye venner, eller når Lånekassen og NAV behandler søknadene våre. I tillegg opplever arbeidstakere at arbeidsoppgaver helt eller delvis tas over av robotteknologi og automatiserte løsninger.

Forventningene til kunstig intelligens er store, og i Norge er det et uttalt politisk mål å øke bruken av kunstig intelligente systemer. Dette både for å effektivisere, og for levere mer treffsikre og brukertilpassede tjenester.

Samtidig byr de «smarte» løsningene også på flere etiske utfordringer. Både når det gjelder personvern og rettssikkerhet – men også når det gjelder likestilling. Blant annet har KI-teknologi brukt i annonsering, ansettelser og beregninger av forsikringspremier vist seg å ha direkte diskriminerende konsekvenser.

Dette er bakgrunnen for at Kilden kjønnsforskning.no nå har utarbeidet en rapport som kartlegger hva forskningen sier om likestillingskonsekvenser av at KI-teknologi får en stadig større innvirkning på befolkningens hverdag. Rapporten lanseres på Likestillings- og diskrimineringsombudets (LDO) årskonferanse «Kunstig intelligens: Fare eller fremgang for likestillingen?» torsdag 29. oktober 2020.

– Vår kartlegging viser at kunstig intelligens er et mannsdominert felt, sier Trine Rogg Korsvik, som har ledet Kildens arbeid med kunnskapsoversikten «Hva vet vi om kunstig intelligens og likestilling? En kartlegging av norsk forskning».

– Utviklere av KI-systemer er i stor grad menn, og menn dominerer også i KI-forskningen. Fortsatt utgjør kvinner et mindretall i IT-studier som utdanner framtidas KI-utviklere, fortsetter hun.

Forskningen viser at det også er store kjønnsforskjeller når det gjelder befolkningens kjennskap til algoritmer. Menn oppgir i mye større grad enn kvinner at de kan noe om algoritmer. Eldre kvinner med lav utdanning har aller minst kjennskap til algoritmer, ifølge kartleggingen.  

– Den manglende likestillingen på dette området er et demokratisk problem ettersom algoritmer og KI-baserte systemer blir en stadig viktigere del av beslutningsprosessene som angår folk, sier Korsvik.

LDO vier sin årskonferanse til å drøfte likestillingskonsekvenser av kunstig intelligens.

– Kunstig intelligens påvirker stadig flere områder av livet vårt, noe rapporten viser. Den er også en viktig påminnelse av at vi må sikre mer mangfold når teknologien skal utvikles, både i kjønn og alder. Her er rekrutteringen av kvinner til IKT-utdanningene et av mange områder det må jobbes mer med, sier likestillings- og diskrimineringsombud Hanne Bjurstrøm, som har vært med på å finansiere arbeidet med kunnskapsoversikten.

– Vi skal ønske velkommen alle fremskritt som kan gjøre oss bedre, og kunstig intelligens blir en viktig del av morgendagens likestillings- og antidiskrimineringsarbeid, fortsetter Bjurstrøm.

Mer informasjon om rapporten:

Målet med kunnskapsoversikten «Hva vet vi om kunstig intelligens og likestilling? En kartlegging av norsk forskning» er å kartlegge hva norsk forskning sier om likestillingskonsekvenser av at kunstig intelligens tas i bruk på stadig flere samfunnsområder. Rapporten tar for seg tre samfunnsområder der KI-teknologi er relevant i et likestillings- og diskrimineringsperspektiv: Tjenester, arbeidsliv og digitale sosiale plattformer og underholdning.

Kunnskapsoversikten er utarbeidet av Kilden kjønnsforskning.no, og er finansiert av Likestillings- og diskrimineringsombudet (LDO) og Kilden. Gjennomføringen av litteratursøket i kunnskapsoversikten er utført i samarbeid med Universitetsbiblioteket ved Universitetet i Oslo. Rapporten er skrevet av Trine Rogg Korsvik, Marie Hulthin og Anne Sæbø. En referansegruppe bestående av forskere på feltet har bistått arbeidet.

Kilden kjønnsforskning.no er et nasjonalt kunnskapssenter for kjønnsperspektiver og kjønnsbalanse i forskning.