KI flaskes opp på gamle, kjønnskonservative data

Sammen med Aisha Iqbal, Gilda Seddighi og Rudolf Andersen har seniorforsker og forskningsleder ved Vestlandsforskning Hilde G. Corneliussen skrevet rapporten «Bruk av kunstig intelligens i offentlig sektor og risiko for diskriminering».

– Vi tar utgangspunkt i definisjonen av kunstig intelligens (KI) som brukes i den nasjonale strategien og av EU. Denne favner veldig bredt, sier Corneliussen.

Kunstig intelligens er definert som teknologier som bruker algoritmer til å behandle data.

– Dette inkluderer alt fra automatisering av enkle prosedyrer til veldig komplekse former for maskinlæring, utdyper Corneliussen.

– I komplekse former for maskinlæring foregår prosessene i det man referer til som ‘black boxes’, altså at prosessene er såpass kompliserte at det er vanskelig for mennesker å forstå hva som skjer.

Corneliussen sier at dette gjør KI til både et kraftig og skummelt verktøy, og at det derfor er viktig at man er bevisst på risikoen for diskriminering når man bruker KI i offentlig sektor.

– Likevel var det bare tre prosent av de offentlige institusjonene som deltok i kartleggingen som mente at KI øker risikoen for å diskriminere, sier hun. 

Les hele saken i Kilden kjonnsforskning.no sitt uavhengige nyhetsmagasin.