Forstå KI før du tar det i bruk

Kunstig intelligens (KI) er på full fart inn i offentlig sektor, og Norges digitaliseringsstrategi slår fast at  innen 2030 skal 100 prosent av offentlige virksomheter ha tatt i bruk KI (regjeringen.no).

– Det er et veldig ambisiøst og interessant mål, men for å få til det, må folk på alle nivåer i virksomhetene ha nødvendig kompetanse, sier Michael Riegler, som er sjefsforsker for kunstig intelligens ved forsknings og innovasjonslaben Simula og professor ved OsloMet.

– Vi må forstå hva KI faktisk er og forstå hvordan teknologien kan påvirke forvaltningen.

Skreddersydd for offentlig ansatte

Riegler underviser på videreutdanningen «Kunstig intelligens i offentlig forvaltning», som er et samarbeid mellom OsloMet og Simula (simula.no).

– Emnene er skreddersydd for folk som jobber i offentlig sektor, med kunnskap og innsikt som er direkte relevant for dem, sier Riegler.

Emnene er godt egnet for folk på alle nivåer i en virksomhet.

– Både de som utvikler IT-tjenester, de som skal ta i bruk løsningene, og ledere som skal innføre dem, vil ha nytte av dem.

Sikkerhetsutfordringer

Videreutdanningen dekker både hva bør må vite før man innfører en KI-modell, og hvordan man skal forholde seg til systemene i det daglige – med fokus på blant annet demokratiske og sikkerhetsmessige utfordringer. 

Rieglers undervisning er basert på forskning og hans egne erfaringer med å jobbe i offentlig sektor.

– Når du innfører en KI-modell i IT-systemet ditt, kan det oppstå nye sikkerhetshull som du ikke har tenkt på før. Det er viktig å vite hvordan man kan bedømme om et KI-system er godt nok og hvordan man evaluerer det. Hvordan vet du når modellen svarer feil og når du kan stole på den? 

Finn riktig KI-system

Videreutdanningen skal også gi studentene kompetansen de trenger for å kunne bestille et KI-system fra eksterne.

– Vi skal gi dem basiskompetanse, slik at de kan stille de riktige spørsmålene og kravene og få et system som er bedre og sikrere enn de ellers ville ha fått.

I dag snakkes det mye om språkmodeller som GPT5, som er modellen bak ChatGPT. Dette er generative KI – systemer som skaper nytt innhold basert på eksisterende data. Riegler minner om at det finnes flere KI-systemer som ikke lager nytt innhold, men som for eksempel kan brukes til å forutsi utfall, klassifisere eller analysere data.

– Det er mange KI-metoder som kan være vel så nyttige som generativ KI. Men om man ikke vet at disse alternativene finnes, kan man heller ikke ta dem i bruk.

Læring gjennom ekte caser

Introduksjonsemnet er et rent teoretisk kurs, mens det andre har en praktisk del i tillegg.
Der blir det to dager med en casebasert-workshop, der deltakerne får jobbe med reelle problemstillinger fra offentlig sektor. 

– Vi kan for eksempel ta utgangpunkt i at vi skal innføre en KI-basert chat-tjeneste for en bydel. Øvelsen blir da å kartlegge hva som må undersøkes og avklares. Hva må du være oppmerksom på, og hvor skal du hente data fra?

Riegler har dessuten god erfaring med å la folk prøve seg på å lage og implementere enkle KI-løsninger selv, uten at de har erfaring med programmering fra før.

– Selv uten teknisk bakgrunn får du innsikt som gjør deg tryggere i møte med KI.

Advarer mot å gå for fort fram

Riegler synes KI-målene i Norges digitaliseringsstrategi er spennende, men ser også noen mulige fallgruver.

– KI har potensial til å gjøre oss mer effektive, men da må vi forstå hvordan modellene fungerer og ta dem i bruk på de områdene hvor det faktisk er nyttig. 
Han advarer mot å få fort fram bare for å oppnå overordnede målsetninger.

– Vi må tenke oss godt om før vi innfører slike systemer, og vi må måle hvor mye tid vi sparer og om kvaliteten på arbeidet faktisk øker. Hvis ikke risikerer vi å låse oss til løsninger som ikke gir reell nytte.