Kunstig intelligens: Etterlyser opplæring, retningslinjer og styring

–  Rapporten viser at kunstig intelligens fortsatt er på utprøvingsstadiet, og det er ingen systematisk opplæring i eller bruk av KI, sier fagsjef for utdanning, kompetanse og forskning, Eli-Karin Flagtvedt, i Unio.

Rapporten, Kunstig intelligens i arbeidslivet – en undersøkelse av yrkesgrupper tilknyttet Unio, er en kunnskapsoppsummering av relevant forskning på området. I tillegg har NIFU intervjuet tillitsvalgte og medlemmer i Bibliotekarforbundet, Forskerforbundet, Norsk Radiografforbund, Norsk Sykepleierforbund, Politiets fellesforbund og Utdanningsforbundet.

Selv om Unios grupper oppgir at KI i liten grad benyttes i arbeidshverdagen, er det ingen tvil om at lærere og undervisere i universitets- og høyskolesektoren møter elever og studenter som i stor grad benytter KI.

– Innføringen av ChatGPT har i særlig grad påvirket deres vurderingsarbeid og hva de skal legge vekt på i undervisningen, sier Flagtvedt.

Ansatte i helse- og sikkerhetstjenester har ikke de samme utfordringene.

– De er opptatt av at KI-systemene som brukes, er tilpasset formålet, er godt utprøvde og at de har tydelige retningslinjer.

Store forventninger og fare for innsparing

Både kunnskapsoppsummeringen og intervjuene tyder på at bruken foreløpig er begrenset, men at det likevel er forventninger til KI når det gjelder å endre måten vi jobber på.

– Arbeidsflyt, produktivitet, mer målrettet og presis pasientbehandling og stimulering til forskning og innovasjon er noe av det rapporten peker på, forklarer Flagtvedt.

I helsefagene er det store forventninger om effektivisering ved bruk av KI.

– Blant radiografene er det stor optimisme knyttet til bruk av KI i fremtiden, når det gjelder bedre tjenester og kortere ventetid for pasientene. Effektivisering blir også fremhevet av forskere og bibliotekarer, mens informanter fra politiet peker på muligheter for å analysere store data og sette opp turnus, sier Flagtvedt.

Samtidig kommer det frem mulige negative konsekvenser av effektivisering.

– Flere uttrykker bekymring for at KI-løsninger kan brukes som argument for å spare inn på budsjetter, understreker Flagtvedt.

Bekymret for personvern og falske fakta

I motsetning til hva forskningslitteraturen peker på, tyder ikke studien på at Unios medlemmer er bekymret for å miste jobben som følge av KI.

– Frykt for person- og sensitive data på avveie, risiko for systematiske skjevheter, diskriminering og falske fakta kommer høyt på bekymringslisten blant Unios grupper. For noen er denne skepsisen tilstrekkelig til at KI ikke tas i bruk.

Mangelfull kompetanseheving

Forskningslitteraturen fremhever behovet for tilstrekkelig og kontinuerlig kompetanseheving når nye KI-verktøy innføres.

– I følge rapporten må en vellykket implementering og integrering av KI på arbeidsplassen ta tid, og både arbeidstakere og teknologien må endre seg sakte og parallelt. Kommunikasjon rundt innføring av KI-verktøy bør derfor være en prioritert aktivitet for både ledelse og ansatte, sier Flagtvedt.

Svarene fra Unios informanter bekrefter dette.

– Flere uttrykker at de savner tydelige avklaringer på hvilke KI-verktøy som er nødvendige og nyttige å mestre. Mer systematisk og tilpasset kompetanseheving fra arbeidsgiver, i tillegg til tid og ressurser til kompetanseheving, blir etterlyst av flere.

Svarene i rapporten tyder på manglende oversikt over kompetansebehov, og mangel på relevante tilbud.

– I tillegg til mangelfull kompetanseheving i bruk av KI-verktøy, etterlyser flere kompetanseheving i forståelse av KI-systemet, hva det kan brukes til og hvilke risikoer det er ved bruk av dem. Dette er knyttet til behovet for å bruke KI på en forsvarlig måte, sier Flagtvedt.

Unios informanter uttrykker dessuten frustrasjon over «prøve- og feile»-tilnærmingen til KI, og etterlyser mer styring og fagspesifikke retningslinjer og rutiner for bruk av KI.

Manglende medbestemmelse

Informantene i Unio-forbundene ble spurt om i hvilken grad de opplever medbestemmelse ved innkjøp og innføring av KI-verktøy, og i utforming av retningslinjer.

– Svarene er tydelige på at graden av medbestemmelse er liten. Dette henger tett sammen med at det i liten grad er innført KI-verktøy på arbeidsplassene, men også der KI er tatt i bruk, tyder svarene på det samme, sier Eli-Karin Flagtvedt.

Anbefalinger for videre politikkutforming

Basert på rapporten anbefaler NIFUs forskere:

• Å etablere tydelige retningslinjer for KI på arbeidsplassen
• Å avklare forventninger til bruk av KI
• Anvende pålitelige KI-systemer
• Bruke KI på en forsvarlig måte
• Gjennomføre systematiske kompetansehevingstiltak
• Avklare effektiviseringsgevinster
• Avklare ansvarsfordelingen
• Sørge for prosessorientert medvirkning
• Informere og samarbeide med eksterne aktører

NIFU gjennomførte til sammen 19 intervjuer med 45 informanter fra Bibliotekarforbundet, Forskerforbundet, Norsk Radiografforbund, Norsk Sykepleierforbund, Politiets fellesforbund og Utdanningsforbundet.