Hopp til innhold
Aksel

Søk

Ctrl+K for å søkeEsc for å lukke

Aksel

Designsystemet
God praksisBloggen

Guide

Vurder behovet for KI

Denne veilederen tar deg gjennom stegene teamet bør vurdere for å kunne si ja eller nei til å bruke KI.

Denne veilederen er ment for produktteam i Nav som har et ønske å ta i bruk kunstig intelligens (KI) for å løse en utfordring teamet har støtt på.

Før man går i gang med å definere et KI-prosjekt (Nav-intern) eller velger modell (Nav-intern) må man først gjøre en ordentlig vurdering om at KI er det riktige verktøyet for å løse problemet.

Kjennetegn for problemer som egner seg for KI

I Nav opererer vi med 5 kjennetegn for problemer/utfordringer som egner seg for KI:

  1. Det er vanskelig å løse med regelbaserte systemer
  2. Så store volum at det er for krevende å behandle manuelt
  3. Relativt isolert
  4. Historikk som representerer dagens situasjon
  5. Det går bra å predikere feil

Hvis svaret er Ja til alle disse kjennetegnene burde teamet gå videre med å undersøke bruken av KI. Hvis svaret er Nei til en eller flere anbefaler vi at dere prøver å løse problemet på andre måter enn å benytte KI.

1. Det er vanskelig å løse med regelbaserte systemer

Regelbaserte systemer fungerer godt til å løse problemer vi vet nøyaktig hvordan skal løses. Men det finnes problemer der en sannsynlighetsbasert tilnærming kan være riktig, for eksempel det å skulle vekte flere ulike faktorer og gi en anbefaling basert på dette.

Suksess

Eksempel som er vanskelig å løse med regelbasert system

Å predikere sannsynlighet for overgang til arbeid basert på opplysninger om historiske arbeidsforhold, utdanning m.m.

Feil

Eksempel som kan løses med regelbasert system

Å fastslå hvor mye en bruker skal motta i dagpenger.

2. Så store volum at det er for krevende å behandle manuelt

Hvis problemet som skal løses oppstår ofte så kan det være mer hensiktsmessig å automatisere/effektivisere problemløsninga. Et annet eksempel kan være hvis manuel behandling vil kreve så mye tid at automatisering vil kunne være en stor besparelse.

Hvis problemet som skal løses kan behandles av et lite antall mennesker i et begrenset tidsrom uten at det gjentar seg for ofte vil dette ofte være mer hensiktsmessig å løse ved hjelp av manuel behandling.

Suksess

Eksempel hvor automatikk kan redusere manuel behandling

Eksempelet over (å predikere sannsynlighet for overgang til arbeid) er noe en veileder på et lokalkontor gjerne vil vite for å kunne prioritere sin brukerportefølje, dette er noe som gjøres kontinuerlig, slik at et system som kunne bidratt til å gjøre denne prioriteringa raskt og presist hadde vært nyttig for veilederen.

3. Relativt isolert

KI-modeller fungerer best på problemer som er tydelig definerte, dette gjelder også generativ KI (GKI). For at KI-modeller skal bli best mulige så må de ha et tydelig mål, som kan være det å være best mulig på å predikere overgang til arbeid. Ulempen er at modellen ikke er brukbar til noe annet, f.eks. å predikere sannsynlighet for sykefravær. For GKI-tjenester ser vi at de blir mye bedre hvis de blir spesialisert til å løse konkrete oppgaver.

Suksess

Eksempel på isolert bruk av GKI

Ved å bruke GKI til å søke og destillere informasjon fra Nav.no kan en veileder hurtigere få svar på henvendelser hvor svaret ligger på Nav.no. Bruksområdet er også isolert fordi veileder bare burde bruke løsningen til å finne svar fra Nav.no, og ikke f.eks. lovdata.no.

4. Historikk som representerer dagens situasjon

For å kunne trene KI-modeller trenger man data slik at modellen kan tilpasses. For at behandlingen av bruker skal være rettferdig må data som legges til grunn representere dagens situasjon. Hvis dette ikke er tilfellet vil modellen kunne få slagside som i ytterste konsekvens kan lede til diskriminering og feilbehandling.

5. Det går bra å predikere feil

Ved å benytte KI på isolerte områder er det ofte akseptabelt at utfallet av modellen kan gi feil utslag i et begrenset antall. Hvis dette ikke er tilfellet anbefales det på det sterkeste å ikke bruke KI.

Ved vurdering om rett til ytelse eller annen beregning som får direkte konsekvenser for ytelse til bruker vil det være lite handlingsrom for å benytte KI.

Feil

Eksempel hvor det ikke er greit å predikere feil

Å benytte en KI-modell for å avgjøre om en bruker har rett til dagpenger eller ikke.

Medvirkende

Team KI

Innspill til artikkelen

Logg inn med Nav SSO for å gi innspill til artikkelen

Logg inn med Nav SSO