Gjøre innbygger- og ansattstemmer om til KI-designprinsipper
KI i offentlig sektor er ikke det samme som KI i kommersielle sammenhenger. Offentlige tjenester har spesielle maktforhold, ansvarsområder, forventninger og store konsekvenser.
30. april 2026
Målet
Målet var enkelt: sørge for at KI-systemer er designet på en måte som respekterer mennesker.
I den offentlige sektoren kan KI-systemer påvirke beslutninger som betyr noe. De kan påvirke støtte, hjelp og tilgang på tjenester. Dette skaper et spesielt ansvar. Per i dag bruker ikke Nav KI direkte i saksbehandling, nettopp fordi det ikke finnes nok kunnskap om hvordan dette kan integreres i offentlig saksbehandling på en ansvarlig måte. Innbyggerne har behov for å forstå hva som foregår. De ansatte har behov for å stole på systemet. Og organisasjonen har behov for å sikre at KI følger lovverket og opptrer rettferdig. Derfor har vi behov for noe mer enn generiske KI-retningslinjer. For å forstå brukernes behov og oversette det til designkunnskap ble forskning utført av prosjektet AI4Users [1] ledet av UiA, i samarbeid med Nav [2]. Forskingen ble basert på Action Design Research (ADR), som krever samarbeid mellom forskning og praksis, bygging av artefakter og læring gjennom ekte interaksjoner.
I dette prosjektet tok vi utgangspunkt i prosessen for vurderinger i sykefraværsoppfølging, nærmere bestemt: behovet for dialogmøte 2. Vurderingen av behovet kan bli støttet av en KI-modell for prediksjon av sykefraværsvarighet. Vi laget to prototyper. Begge tok for seg bruk av KI i sykefraværsoppfølging, men da fra to ulike perspektiv: en rettet mot innbyggere og en rettet mot de ansatte.
Sykefraværsoppfølging ble valgt fordi dette er et viktig område og derfor også noe Nav allerede hadde utforsket KI-datamodellering for og videre sendt inn til datatilsynets sandkasse som et prosjekt. Sandkasseprosjektet omhandlet hvordan Nav kunne ta i bruk KI lovlig og ansvarlig. Du kan lese mer om sandkasseprosjektet og deres resultater.
Lytte til innbyggere
Den første delen av arbeidet fokuserte på innbyggere. Prosjektgruppen laget en interaktiv prototype. Denne prototypen var som en portal for offentlige tjenester, til et scenario der en innbygger blir introdusert til et KI-basert prediksjonssystem.
Prototypen inkluderte forklaringer på hvordan varighetsestimatet er nyttig i vurderingen av oppfølgingsbehov og nødvendigheten av de enkelte informasjonselementene som blir brukt og hvordan de påvirker estimatet. I tillegg inneholder den transparens rundt hvordan KI er en del av prosessen og et punkt for å velge om man samtykker til bruk av KI-basert varighetsestimat eller ikke. Det var ikke bare en «demo». Det var en undersøkelse. En måte å forstå hva personer trenger når KI blir en del av opplevelsen av offentlig sektor.
40 innbyggere deltok i to runder med forskningssesjoner. Sesjonene inneholdt tenke høyt-metoder og gjennomganger av prototypen. Deltakerne ble oppfordret til å reagere, stille spørsmål og reflektere mens de utforsket systemet. Dette gav forskningsteamet innsikt i hva innbyggere faktisk trenger.
Innbyggerne stilte spørsmål som:
- Hvem drar nytte av dette KI-systemet?
- Hvilken data er det som blir brukt?
- Kan jeg si nei?
- Vil jeg bli behandlet annerledes hvis jeg gjør det?
Lytte til ansatte
Den andre delen av arbeidet fokuserte på ansatte i offentlige tjenester.
Som et første steg intervjuet vi 19 saksbehandlere fra ulike Nav-kontorer. I stede for å vise de en prototype brukte vi noe som kalles fremsynsmetoder (foresight methods). Ansatte ble spurt om å se for seg hvordan deres arbeid kan bli påvirket ved en implementering av KI i deres systemer. Saksbehandlerne beskrev ulike fremtider i form av scenarioer for: beste tilfelle, verste tilfelle, og mest sannsynlige tilfelle. Denne tilnærmingen gjorde det mulig å snakke om frykt, muligheter og faglig ansvar.
Basert på denne innsikten, som neste steg, ble det utviklet en prototype rettet mot de ansatte.
Saksbehandlere fra Nav-kontorer i Agder fylke (34 personer totalt) deltok i prototype-workshoper og kom med deres tilbakemeldinger.
Ansatte fremhevet problemer som:
- Hvilke faktorer (som f.eks. diagnose, alder, historikk) har modellen tatt med i beregningen?
- Hvordan kan vi automatisere repetitive oppgaver?
- Hvordan kan jeg være sikker på at ting blir gjort i henhold til lovverket?
- Hvordan kan jeg fortsette å ha kontrollen?
Gjøre innsikt om til prinsipper
Innsikt er nyttig. Men bare hvis den kan tas i bruk. Derfor ble alle funn gjort om til designprinsipper. Dette arbeidet resulterte i to komplementære sett med designprinsipper:
Begge settene har ett felles mål: KI som fungerer for mennesker.
[1] Ai4Users-prosjektet ble finansiert av Norges Forskningsråd (NFR), ledet av UiA og gjennomført in samarbeid mellom UiA, NTNU and UiO (NFR IKTPLUSS, prosjekt #311680).
[2] Dette samarbeidet mellom UiA og Nav utforsker relasjonen mellom menneske og digitalisering med utgangspunkt i Navs digitaliseringsarbeid.