Etikk og mangfold vil øke tilliten til kunstig intelligens

Det viser en undersøkelse Respons analyse har gjennomført for Fremtind, forsikringsselskapet til SpareBank 1 og DNB.

– Kunstig intelligens styrer dine valg hver gang du åpner Spotify eller Netflix, og de fleste synes nok dette er veldig praktisk. Men, det har vært mye snakk om hvilke konsekvenser algoritmer kan føre med seg. Derfor tror jeg nordmenn har fått mer kunnskap om kunstig intelligens og utviklet en sunn skepsis til hva som er greit og ikke, sier Emanuele Lapponi i Fremtind.

Lapponi har doktorgrad i språkteknologi, som er en retning innenfor kunstig intelligens.

Samme teknologi – ulik konsekvens

Denne høsten har varslingene om Facebook vist at selskapets algoritmer, som avgjør hva du får presentert av innhold, kan trekke folk i radikale retninger, bli utsatt for mobbing eller eksponeres for innhold som eksempelvis fremmer selvskading eller spiseforstyrrelser.

– Det er en vesentlig forskjell mellom det å få anbefalt musikk på Spotify, og få anbefalinger på Facebook eller YouTube som kan være falske nyheter, innhold med grov vold eller noe som en med spiseforstyrrelser ikke bør se. Det er den samme teknologien, men sistnevnte er farligere og kan gi alvorlige konsekvenser, sier Lapponi.

Undersøkelsen viser at få ønsker at kunstig intelligens, fremfor mennesker, tar avgjørelser, spesielt i enkelte situasjoner innenfor bank og forsikring. I disse situasjonene mener nordmenn det er greit at kunstig intelligens tar eller hjelper en med valg:

1. Hva jeg bør se eller høre på Netflix, Spotify eller andre strømmetjenester. 40 prosent
2. Hva jeg bør ha til middag. 25 prosent
3. Hvilke aksjer eller aksjefond jeg bør kjøpe. 25 prosent
4. Hvilke forsikringer jeg bør kjøpe. 20 prosent
5. Ingen av de over. 45 prosent.

Umulig å se forskjell på god og dårlig kunstig intelligens

De aller fleste av oss har ikke kompetanse til å se forskjell på etisk god og forsvarlig, og dårlig og uetisk kunstig intelligens.

– Det finnes dessverre ikke et stempel som sier: «Dette er god og etisk forsvarlig kunstig intelligens». Derfor må vi som lager løsninger med kunstig intelligens ha både etikk og mangfold med inn i datasamlingene og algoritmene, sier Lapponi.

– Også er det viktig å være klar over hvilke konsekvenser og problemer som kan oppstå med de løsningene vi utvikler, og iverksette tiltak for å forhindre dem. Da vil tilliten til kunstig intelligens og vi som lager løsningene øke.

Maskinlæringsingeniøren påpeker at etikk ikke er en fast størrelse, og den etiske jobben må gjøres hver eneste gang et selskap eller et team utvikler nye løsninger med kunstig intelligens.

– I tillegg er dialogen med kundene viktig. For eksempel om du har fått oppgjør på en skade, så bør du få vite om det er en maskinlæringsmodell som har avgjort det eller et menneske.

Flere funn fra undersøkelsen

• Det er de mellom 18 og 34 år som i størst grad synes det er greit at kunstig intelligens hjelper dem med valg. Det gjelder alle fire situasjoner nevnt over. I motsatt ende finner vi de over 65 år. Over 70 prosent av de eldre oppgir at de ikke vil at kunstig intelligens skal hjelpe dem med valg i noen av de fire situasjonene.
• Det er menn som i størst grad oppgir at de synes det er greit, og er mer positive til dette enn kvinner i alle fire situasjoner.
• Det er de med høyest inntekt som i størst grad (i forhold til de som tjener mindre) synes det er greit at kunstig intelligens hjelper dem med avgjørelser.
• Det er innbyggerne i Oslo som i størst grad er positive til å la kunstig intelligens hjelpe dem med valg, mens innbyggerne i Møre og Romsdal er mer skeptiske.

 

Kjært barn - mange navn

Det brukes mange ord på kunstig intelligens (KI). I dag sier mange bare «AI», forkortelsen for artificial inteligence, men stadig flere bruker «KI». Du hører ofte begrepet maskinlæring, og det er en metode som bygger det vi oppfatter som kunstig intelligens. Automatiserte løsninger, som chatbots, er en form for kunstig intelligens, og noen bruker bare ordet robot. Felles for dem alle er at det er mennesker som har laget og forhåndsprogrammert algoritmer og regler som gjør at en digital løsning er, eller fremstår som, kunstig intelligent for den som bruker den