Norske SimpleAudit godkjent som internasjonalt digitalt fellesgode – blant de første KI-verktøyene i verden

Verktøyet blir den syvende norske digitale løsningen som får DPG-godkjenning, sammen med blant annet Altinn og det digitale grensesnittet (API) til Yr. Innen kategorien “åpne KI-systemer” er SimpleAudit et av fire verktøy globalt som er vurdert og godkjent etter kravene, og det eneste europeiske.

– Vi mener at sikker bruk av KI forutsetter selvstendig tilsyn og skalerbar testing under faktiske forhold. SimpleAudit er vårt bidrag for å hjelpe samfunnet med å forstå begrensningene til KI-systemer i praksis, slik at vi over tid kan bygge bedre sikkerhetsmekanismer og mer robuste systemer, sier professor Michael A. Riegler, sjefsforsker ved Simula og grunnlegger av SimpleAudit. 

SimpleAudit er utviklet av forskere ved Simula og SimulaMet, og er tilgjengelig som åpen kildekode. Rammeverket tester viktige sikkerhetsspørsmål som ikke inkluderes i standardtester av KI-systemer. Blant annet hvordan modeller håndterer skadelige forespørsler, setter nødvendige grenser og gir korrekt informasjon på institusjonelt nivå. 

Dette gjør det mulig å teste og dokumentere hvordan modeller oppfører seg i konkrete, kontekstspesifikke scenarier - blant annet innen helse, juss og offentlige tjenester. 

Verktøyet krever minimalt med oppsett og kan kjøres helt lokalt (ingen API-krav), noe som betyr at ingen data forlater din maskin. Det støtter både åpne og API-baserte modeller.

– Vi lever i en tid der KI-systemer er i ferd med å bli en del av vår grunnleggende infrastruktur. Det er helt avgjørende for både nasjonal og global sikkerhet at disse verktøyene er trygge, sier Klas Pettersen, direktør ved SimulaMet og en av forskerne bak SimpleAudit. 

– Norge har ambisiøse mål for bruk av KI i offentlig sektor, og Simulas mål er å legge et grunnlag for tillit til denne nye digitale infrastrukturen. At SimpleAudit nå er godkjent som et digitalt fellesgode (DPG), er et viktig skritt i den retningen. 

SimpleAudit brukes blant annet i forskningsarbeid som nylig evaluerte sikkerheten til flere språkmodeller i norske samfunns- og forvaltningskontekster. Studien viste at modeller med høy ytelse på standard språktester ikke nødvendigvis er de sikreste i praktisk bruk – et funn forskerne omtaler som et «forståelsesparadoks».

Om Digital Public Goods (DPG)

Digital Public Goods Alliance (DPGA) er et globalt initiativ i regi av FN som fremmer digitale fellesgoder for å nå FNs bærekraftsmål. For å bli godkjent og inkludert i det globale registeret, må løsningen oppfylle ni kriterier. Disse sikrer blant annet at teknologien er basert på åpen kildekode, ivaretar personvern og følger beste praksis for sikkerhet.

Les mer om DPGA her: https://www.digitalpublicgoods.net/

Kontakt:
Michael A. Riegler, Simula
michael@simula.no | +47 953 59 701

Klas H. Pettersen, SimulaMet
klas@simula.no | +47 950 50 294