Nav er ikke som alle andre etater. Vi følger innbyggerne fra vugge til grav og vi treffer mennesker i sårbare situasjoner – i alle livets faser. Dette gir oss et ansvar for å se helhetlig på teknologiens muligheter og utfordringer: Den skal ikke bare være effektiv, men også brukerorientert, og styrke rettstaten og autonomien til brukeren.

Det er ikke alltid data og modeller er den beste løsningen på et problem. Vi vurderer alltid alternativer som kan være like godt eller bedre egnet.

Datadrevne løsninger kan gi gevinster for bruker og forvaltningen. Derimot er ikke løsningene helt “nøytrale” eller helt uten slagsider. KI-modeller er ikke bestandig i samsvar med samfunnets generelle verdier og normer, eller normative prinsipper for Nav og forvaltningen spesielt. Derfor vurderer vi etiske og samfunnsmessige konsekvenser ved enhver løsning. Vi holder oss oppdatert om litteratur og verktøy på feltet. Og vi bidrar til å utvikle rammeverk og metodikk som gjør oss bedre rustet til å jobbe frem løsningene på en forsvarlig og ansvarlig måte.

Arbeidet vårt støtter Navs samfunnsoppdrag. Derfor innrettes det ikke på en måte som oppleves nedverdigende, stigmatiserende, bidrar til ekskludering eller har andre skadevirkninger ovenfor borgerne.

Vi ivaretar borgerens verdighet i datadrevne løsninger og søker innovative løsninger for å støtte autonomi og handlekraft.

Vi bygger personvern inn fra start, søker innovative personvernfremmende løsninger og utforsker nye metoder og teknikker for å redusere personverninngripen.

Vi utvikler systemer med konsekvenser. Vi er ansvarlige for at systemene oppfører seg som vi ønsker, og at vi vet om avvikende oppførsel. Derfor er forklarbarhetsvurderinger en naturlig og integrert del av hele utviklingsløpet.

Vi utvikler systemer og løsninger for andre type brukere som også har behov for å forstå systemoppførsel. Deres behov kan være annerledes enn behovene til de som utvikler systemene. Derfor jobber vi tverrfaglig for å forstå behov og jobbe frem løsningene slik at behov for innsyn og forklarbarhet møtes hos alle interessenter.

Åpenhet og transparens i datadrevne systemer er et felt i utvikling. Derfor holder vi oss oppdatert på forskning, offentlige diskusjoner og beste praksis. Vi er innovative i bruk av metoder og innretninger som kan bidra til å styrke måten Nav imøtekommer krav til åpenhet, forutberegnelighet og forsvarlighet i sine løsninger.

Vi erkjenner at vi bærer ansvaret for at modeller Nav tar i bruk, ikke har kjente eller ukjente skjevheter som kan volde skade.

Det er vanskelig å unngå bias i modeller. Derfor antar vi alltid at systemene vi lager har bias. Vi strekker oss langt for å vise at dette ikke er tilfellet, eller at skjevheter ikke har konsekvenser for likestilling, diskriminering eller rettferdighetshensyn, både i og utenfor lov.

Vi dokumenterer våre vurderinger og gjør de tilgjengelig for innsyn, kritikk og diskusjon, og løfter frem kjente utfordringer i tverrfaglige fora før vi går i produksjon.

Vi stress-tester modeller så langt det lar seg gjøre mot kjente angrepsvektorer, og evaluerer og dokumenterer hvordan endringer i data eller bruk påvirker modelloppførsel.

Modellutvikling bringer med seg nye sikkerhetsutfordringer som vi fremdeles har lite kunnskap om. Vi følger utviklingen og utvider rammeverk for beste praksis, og risikovurderinger etter hvert som ny kunnskap tilegnes.

Vi overvåker modelloppførsel over tid og utvikler flaggingssystemer for å plukke opp avvikende oppførsel.

Arbeidet vårt skal være så reproduserbart som mulig. Det betyr at datasett, kode, modeller, parameterkonfigurasjoner og evalueringsresultater så langt som mulig er underlagt sammenhengende versjonskontroll.

Vi dokumenterer hvordan modeller er bygget, hvilke datasett de baserer seg på og hvordan trening, tuning, evaluering m.m. er gjort. Vurderingene gjør vi tilgjengelige for bredt gjennomsyn.

Vi monitorerer hvordan modeller og andre produkter oppfører seg over tid, og gjør resultatene tilgjengelige for gjennomsyn.