Offentlig forvaltning bruker i økende grad kunstig intelligens (KI) i saksbehandlingen.

KI-systemer kan analysere store mengder informasjon, oppdage mønstre og beregne risiko. Dette har åpenbare fordeler: KI-systemer kan bidra til større effektivitet og bedre beslutninger.

Samtidig reiser slik bruk av KI viktige rettssikkerhetsspørsmål. KI-genererte vurderinger og anbefalinger kan føre til usaklig forskjellsbehandling eller diskriminering, uten at det oppdages.

– Forvaltningen må ha tilstrekkelig innsikt i og reelle muligheter til å kontrollere at KI-systemene og resultatene deres bygger på saklige og lovlige hensyn. Hvis ikke er det fare for at feilaktige eller usaklige vurderinger videreføres i forvaltningens avgjørelser, uten at noen oppdager det, skriver sivilombud Hanne Harlem i rapporten. Hun uttaler videre:

– Dersom forvaltningen bruker en KI-generert vurdering uten å kunne kontrollere om vurderingen er egnet som beslutningsgrunnlag, er det grunn til å stille spørsmål ved om saksbehandlingen er forsvarlig.

Les rapporten fra Sivilombudet: Forvaltningsrettslige krav til innsikt i og kontroll med forvaltningens KI-systemer

Rapportens konklusjoner

Forvaltningen har et selvstendig ansvar for at regelverket etterleves, også når KI brukes som beslutningsstøtte.

Forvaltningen må ha reelle muligheter til å kontrollere at KI-systemenes resultater bygger på saklige og lovlige hensyn. Hvis ikke, er det fare for at feil videreføres i forvaltningens avgjørelser, uten at noen oppdager det.

Forvaltningen må ha rutiner som sikrer at kontrollmulighetene benyttes.

Det kan være grunn til å vurdere om kravene til forvaltningens innsikt og kontroll bør komme tydeligere til uttrykk i lov eller forskrift.

Sivilombudet har sendt rapporten til Justis- og beredskapsdepartementet og Digitaliserings- og forvaltningsdepartementet.

Undersøkt fire etaters bruk av KI

Som ledd i undersøkelsen har Sivilombudet innhentet opplysninger fra Nav, Arbeidstilsynet, Skatteetaten og Tolletaten om hvordan de bruker KI til beslutningsstøtte. I rapporten vurderer Sivilombudet etatenes svar i lys av de forvaltningsrettslige kravene. Opplysningene har ikke gitt ombudet tilstrekkelig grunnlag for å ta stilling til om etatenes konkrete bruk av KI-systemene oppfyller de rettslige kravene i alle tilfeller.

To eksempler fra rapporten

Fra Nederland: SyRI-saken, der myndighetene brukte et KI-system for å identifisere personer med forhøyet risiko for trygdesvindel og skatteunndragelse. Systemet sammenstilte opplysninger om enkeltpersoner fra ulike offentlige registre for å vurdere risikoen for regelbrudd. En nederlandsk domstol pekte på faren for at systemet vektla lav inntekt eller innvandrerbakgrunn. Fordi man hadde liten innsikt i hvordan systemet vurderte risiko, var det vanskelig å kontrollere om personene ble valgt ut på et saklig grunnlag.

Fra Sverige: Försäkringskassan i Sverige, som har mange av de samme oppgavene som Nav i Norge, brukte et KI-system som oftere valgte ut kvinner, personer med utenlandsk bakgrunn og personer med lav inntekt til kontroll av støtte til foreldre som var hjemme fra arbeid med syke barn. Kontrollene kunne innebære at utbetalinger ble forsinket. Försäkringskassan har i etterkant selv fremhevet betydningen av transparens og forklarbarhet ved bruk av KI.