Guide
Vurder behovet for KI
Denne veilederen tar deg gjennom stegene teamet bør vurdere for å kunne si ja eller nei til å bruke KI.
Denne veilederen er ment for produktteam i Nav som har et ønske å ta i bruk kunstig intelligens (KI) for å løse en utfordring teamet har støtt på.
Før man går i gang med å definere et KI-prosjekt (Nav-intern) eller velger modell (Nav-intern) må man først gjøre en ordentlig vurdering om at KI er det riktige verktøyet for å løse problemet.
Kjennetegn for problemer som egner seg for KI
I Nav opererer vi med 5 kjennetegn for problemer/utfordringer som egner seg for KI:
- Det er vanskelig å løse med regelbaserte systemer
- Så store volum at det er for krevende å behandle manuelt
- Relativt isolert
- Historikk som representerer dagens situasjon
- Det går bra å predikere feil
Hvis svaret er Ja til alle disse kjennetegnene burde teamet gå videre med å undersøke bruken av KI. Hvis svaret er Nei til en eller flere anbefaler vi at dere prøver å løse problemet på andre måter enn å benytte KI.
1. Det er vanskelig å løse med regelbaserte systemer
Regelbaserte systemer fungerer godt til å løse problemer vi vet nøyaktig hvordan skal løses. Men det finnes problemer der en sannsynlighetsbasert tilnærming kan være riktig, for eksempel det å skulle vekte flere ulike faktorer og gi en anbefaling basert på dette.
Eksempel som er vanskelig å løse med regelbasert system
Å predikere sannsynlighet for overgang til arbeid basert på opplysninger om historiske arbeidsforhold, utdanning m.m.
Eksempel som kan løses med regelbasert system
Å fastslå hvor mye en bruker skal motta i dagpenger.
2. Så store volum at det er for krevende å behandle manuelt
Hvis problemet som skal løses oppstår ofte så kan det være mer hensiktsmessig å automatisere/effektivisere problemløsninga. Et annet eksempel kan være hvis manuel behandling vil kreve så mye tid at automatisering vil kunne være en stor besparelse.
Hvis problemet som skal løses kan behandles av et lite antall mennesker i et begrenset tidsrom uten at det gjentar seg for ofte vil dette ofte være mer hensiktsmessig å løse ved hjelp av manuel behandling.
Eksempel hvor automatikk kan redusere manuel behandling
Eksempelet over (å predikere sannsynlighet for overgang til arbeid) er noe en veileder på et lokalkontor gjerne vil vite for å kunne prioritere sin brukerportefølje, dette er noe som gjøres kontinuerlig, slik at et system som kunne bidratt til å gjøre denne prioriteringa raskt og presist hadde vært nyttig for veilederen.
3. Relativt isolert
KI-modeller fungerer best på problemer som er tydelig definerte, dette gjelder også generativ KI (GKI). For at KI-modeller skal bli best mulige så må de ha et tydelig mål, som kan være det å være best mulig på å predikere overgang til arbeid. Ulempen er at modellen ikke er brukbar til noe annet, f.eks. å predikere sannsynlighet for sykefravær. For GKI-tjenester ser vi at de blir mye bedre hvis de blir spesialisert til å løse konkrete oppgaver.
Eksempel på isolert bruk av GKI
Ved å bruke GKI til å søke og destillere informasjon fra Nav.no kan en veileder hurtigere få svar på henvendelser hvor svaret ligger på Nav.no. Bruksområdet er også isolert fordi veileder bare burde bruke løsningen til å finne svar fra Nav.no, og ikke f.eks. lovdata.no.
4. Historikk som representerer dagens situasjon
For å kunne trene KI-modeller trenger man data slik at modellen kan tilpasses. For at behandlingen av bruker skal være rettferdig må data som legges til grunn representere dagens situasjon. Hvis dette ikke er tilfellet vil modellen kunne få slagside som i ytterste konsekvens kan lede til diskriminering og feilbehandling.
5. Det går bra å predikere feil
Ved å benytte KI på isolerte områder er det ofte akseptabelt at utfallet av modellen kan gi feil utslag i et begrenset antall. Hvis dette ikke er tilfellet anbefales det på det sterkeste å ikke bruke KI.
Ved vurdering om rett til ytelse eller annen beregning som får direkte konsekvenser for ytelse til bruker vil det være lite handlingsrom for å benytte KI.
Eksempel hvor det ikke er greit å predikere feil
Å benytte en KI-modell for å avgjøre om en bruker har rett til dagpenger eller ikke.
Medvirkende