Stort løft for AI-forskning ved UiB

I løpet av det siste tiåret har kunstig intelligens (AI) oppnådd store teknologiske gjennombrudd, og det har blitt en naturlig del av arbeidet i forskning, utdanning og arbeidslivet. Men for at AI skal få bred aksept i samfunnet er det avgjørende at AI-systemene er pålitelige. Dagens AI-systemer mangler vitenskapelige definisjoner og klare kriterier for verdier som rettferdighet, ansvar, trygghet, personvern og andre viktige etiske aspekter. Det er også alvorlige svakheter i de juridiske rammene som AI-systemene opererer innenfor, og problemer med nøyaktighet og robusthet i systemene.

For å møte disse utfordringene og styrke AI-forskning av høy kvalitet ved UiB har Trond Mohn stiftelse (TMS) og Universitetet i Bergen (UiB) utviklet forskningsprogrammet Trustworthy AI, eller Pålitelig AI.

TMS utlyste nylig en konkurranse der UiBs fagmiljøer kunne søke støtte til ambisiøse forskningsprosjekter med mål å øke påliteligheten til AI-systemer betydelig. Prosjektene måtte inkludere kompetanse fra flere forskningsgrupper og fagfelt, og ha som mål å utvikle prosesser, metoder, algoritmer og/eller verktøy for å bidra til å løse utfordringene.

Tre nye forskningsprosjekter

Disse tre forskningsprosjektene ble valgt ut:

AI and Education: Layers of Trust (EduTrust AI)

Hovedmålene med prosjektet er å identifisere lag av tillit knyttet til bruk av kunstig intelligens i utdanningssektoren som tar hensyn til de komplekse ansvarlighetsrelasjonene, utvikle ny kunnskap, metoder, retningslinjer og verktøy for mer pålitelige AI-systemer i utdanningssektoren, å oversette innsikter om juridiske, psykologiske og sosiokulturelle determinanter av tillit til juridiske krav i utdanningssektoren, og å gi innspill til et praktisk gjennomførbart rammeverk knyttet til de utfordrende spørsmålene rundt bruken av studentdata og AI-systemer i utdanningen.

Prosjektet er et samarbeid mellom Centre for the Science of Learning & Technology (SLATE), Det psykologiske fakultet og Det juridiske fakultet. Professor Barbara Wasson, SLATE, skal lede prosjektet.

Algorithmic Foundations of Trustworthy AI

Prosjektet skal bygge et nytt teoretisk rammeverk for å forstå, utvikle og designe sosialt ansvarlige algoritmer som innlemmer menneskelige verdier i AI-systemer.
Prosjektet er et samarbeid mellom Institutt for informatikk, Det matematisk-naturvitenskapelige fakultet og Institutt for informasjons- og medievitenskap, Det samfunnsvitenskapelige fakultet. Prosjektleder er professor Fedor V. Fomin, Institutt for informatikk.

TRUSTworthy AI models to predict progression to complications in patients with Diabetes (TRUST-AI4D)

Dette prosjektet skal utvikle og innføre en bedre, mer rettferdig og trygg maskinlæringsalgoritme for å forutsi komplikasjoner hos pasienter med diabetes.
Prosjektet er et samarbeid mellom Klinisk institutt 2 ved Det medisinske fakultet og Matematisk institutt ved Det matematisk-naturvitenskapelige fakultet. Prosjektet ledes av professor Valeriya Lyssenko, Mohn Research Center for Diabetes Precision Medicine, Klinisk institutt 2.

Styrker UiBs posisjon

Prosjektene får seks millioner kroner hver over fem år fra Trond Mohn stiftelse. Fagmiljøene ved Universitetet i Bergen bidrar med minst like mye egenandel til hvert prosjekt. Totalt ramme for prosjektene er over 40 millioner kroner i perioden 2023 – 2028.

– Pålitelig AI er viktigere enn noen gang i alle deler av samfunnet og dette er noe som settes stort søkelys på internasjonalt for tiden.
Vi er svært takknemlige for støtten til disse tre prosjektene, og dette er med på å styrke vår posisjon på feltet både i Norge og i Europa. Universitetet i Bergen har sterke fagmiljøer innen kunstig intelligens på alle fakulteter, og vi er glade for å kunne fortsette det solide arbeidet som gjøres innen kunstig intelligens på UiB, sier prorektor og leder av styringsgruppen for UiB AI, Pinar Heggernes.

Gode vurderinger fra fagpanelet

Basert på resultatene av en innledende søknadsrunde, nominerte UiB åtte prosjekter til stiftelsens søknadsfrist 10. januar 2023.

Et eksternt fagpanel sammensatt av internasjonale eksperter har vurdert og rangert søknadene. Fagpanelet omtalte de åtte søknadene som svært konkurransedyktige prosjektforslag innen et bredt spekter av meget relevante emner, hver med forskjellig disiplinær vekt og tilnærming til temaene som var nevnt i utlysningen: Nøyaktighet og robusthet, åpenhet og rettferdighet, ansvarlighet og etikk.

Svært aktuelle problemstillinger

– Vi gleder oss over at så sterke og ulike fagmiljøer har svart godt på utfordringen om å gå sammen for å løse svært aktuelle problemstillinger. Vi er trygge på at AI-satsingen vil styrke UiB og Bergen på et felt av høy samfunnsmessig betydning. På vegne av stiftelsen vil jeg takke UiB for godt samarbeid i utviklingsfasen og ønske lykke til med prosjektene som vi gleder oss til å følge videre, sier Anne Marie Haga, konstituert daglig leder i TMS.

UiB etablerte initiativet  UiB AI I 2022 for å koordinere og synliggjøre all forskning-, utdannings- og innovasjonsaktivitet innen kunstig intelligens ved Universitetet i Bergen, og legge til rette for samarbeid og kontakt mellom fakultetene og med partnere utenfor UiB.

UiB AI og de tre nye prosjektene skal utarbeide et felles samarbeidsprosjekt for å fremme felles aktiviteter, felles kommunikasjonsinitiativ og samarbeid. Dette arbeidet støttes med to millioner kroner fra TMS.