Justitia: Vi frygter hovedløs digitalisering

Af Birgitte Arent Eiriksson
Vicedirektøri Justitia og medlem af Dataetisk Råd

Den digitale udvikling er allerede i fuld gang med at ændre vores samfund og den måde, som vi lever på.

I den offentlige sektor vil digitalisering og ny teknologi uden tvivl kunne skabe en mere effektiv forvaltning og samfundsmæssig vækst til gavn for alle.

Men der er også en bagside, som de mere kritiske røster – herunder jeg selv – prøver at gøre opmærksom på.

Desværre bliver den offentlige debat hurtigt et spørgsmål om, hvorvidt man er for eller imod digitalisering.

Det er en ærgerlig forsimpling, da det er de færreste kritikere, som er direkte modstandere af den digitale udvikling eller de gavnlige effekter af ny teknologi.

Men kritikerne stiller relevante spørgsmål til de digitale løsninger, som er værd at lytte til.

Hvis der bare lukkes ned for kritikken med en unuanceret debat, vil vi kunne opleve en hovedløs digitalisering, som ikke i tilstrækkelig grad afspejler vores samfundsstruktur og etiske kompas.

Retssikkerheden er på spil
Mine egne bekymringer vedrører især retssikkerheden, som i høj grad bliver lagt i borgernes egne hænder i de nye digitale og automatiserede processer.

For mange borgere vil dette slet ikke være et problem. De vil tværtimod kunne nyde de store fordele ved en mere tilgængelig og effektiv offentlig forvaltning med korte sagsbehandlingstider.

Det ser dog noget anderledes ud for de mere ressourcesvage borgere, der har sværere ved at gøre deres ret gældende, og som derfor kan have behov for personlig vejledning og løbende kontakt til en sagsbehandler, der kan hjælpe dem med at varetage deres rettigheder og interesser.

Hvis disse borgere alene mødes af digitale processer, risikerer vi, at de ikke får den hjælp, som de har behov for og ret til, fordi de for eksempel ansøger det forkerte sted eller om den forkerte ydelse, eller fordi processen forhindrer dem i at bidrage med de oplysninger, som er nødvendige for at opnå en korrekt afgørelse.

Hvis vi skal undgå, at de ressourcesvage borgere efterlades med et ringere retssikkerhedsniveau end den øvrige del af befolkningen, bør det sikres, at de ikke bliver mødt af en digitaliseringsmur.

Det kan for eksempel ske ved at opretholde muligheden for personlig kontakt med en sagsbehandler og anvende de digitale systemer til at identificere borgere med eksempelvis behov for personlig vejledning, således at disse kan overgå til manuel sagsbehandling.

Digitalisering rejser væsentlige spørgsmål
En anden af mine bekymringer drejer sig om den vedvarende underprioritering af etiske og menneskeretlige hensyn i databehandlingen.

Digitalisering og anvendelse af ny teknologi bliver oftere og oftere anset som løsningen på væsentlige samfundsmæssige problemstillinger.

Rundtomkring i den offentlige sektor udvikles forskellige systemer, der for eksempel kan forudsige, hvilke personer der er i risiko for sygdom eller arbejdsløshed, og hvilke børn der er i risiko for mistrivsel.

Det rejser imidlertid en række væsentlige spørgsmål, herunder om den digitale overvågning er i strid med vores ret til privatliv.

Problemer med betingelser for indgreb
For selvom formålet med de nye systemer utvivlsomt er legitimt og anerkendelsesværdigt, så kan der være problemer med de øvrige betingelser.

De skal være opfyldt, før staten kan foretage et sådant indgreb i borgernes frihedsrettigheder, som er beskyttet i blandt andet Den Europæiske Menneskerettighedskonvention og EU's charter om grundlæggende rettigheder.

Det gælder særligt betingelsen om, at et indgreb i retten til privatliv skal være nødvendigt og proportionalt, da det er rigtig mange borgere, som vil blive udsat for systematisk digital overvågning for at finde de få.

Forudsigelser af borgernes adfærd rejser også etiske spørgsmål – i hvert fald hvis det sker på individniveau.

For hvordan kan sådanne forudsigelser påvirke personens fremtidige adfærd?

Og kan vi være vi sikre på, at de data, som algoritmen baserer sig på, er korrekte, neutrale og relevante, og at algoritmen ikke udvikles med en bias, hvor irrelevante data som for eksempel etnicitet får betydning?

Stort pres lagt på ministerier
Min tredje bekymring handler om proces.

For hvem skal tage stilling til retssikkerhedsniveauet samt de menneskeretlige og etiske grænser, når digitaliseringen tager fart og ny teknologi tages i brug?

Hidtil har det i høj grad været Finansministeriet, som via Digitaliseringsstyrelsen har fastsat retningen.

Styrelsen har blandt andet udsendt en vejledning til udmøntning af den politiske aftale om digitaliseringsklar lovgivning, som lægger et stort pres på fagministerierne om at digitalisere så meget som muligt.

Og arbejdet i det stående udvalg i regi af Digitaliseringsstyrelsen, som blandt andet skulle undersøge, hvordan reglerne i forvaltningsloven om myndighedernes sagsbehandling kan tilgodeses på en hensigtsmæssig måde i en digital verden, har foreløbig ført til et lovforslag fra Justitsministeriet, som reelt ville bemyndige ministrene til at træffe afgørelse om omfattende brug af robotafgørelser.

Kritikken har foreløbig bremset lovforslaget i at nå til Folketingssalen, mens ministeriet prøver at finde den rette balance mellem en effektiv forvaltning og respekten for borgernes og virksomhedernes rettigheder.

Lovforslaget viser imidlertid, at rammerne for digitaliseringen af den offentlige sektor meget vel kan ende med at blive udviklet hos myndighederne selv.    

Folketinget bør afgøre rammerne
Selvom digitalisering og ny teknologi har rigtig mange fordele, er det vigtigt at sikre, at prisen ikke bliver for høj, og at borgerne ikke mister tilliden til systemet.

Derfor bør de kommende store ændringer af vores samfund debatteres bredt i samfundet, og vi bør lytte til de kritiske røster, så vi ikke hovedløst kaster os ud i store digitale samfundsændringer uden at inddrage de nødvendige etiske, retssikkerhedsmæssige og menneskeretlige hensyn.

Derfor er det også meget positivt, at regeringen nu har nedsat et Dataetisk Råd, som skal skubbe på den løbende debat og skabe offentlig opmærksomhed om dataetiske dilemmaer, ligesom rådet løbende skal understøtte en ansvarlig og bæredygtig dataanvendelse.

Det bør dog også sikres, at rammerne for digitaliseringen af den offentlige sektor ikke bliver afgjort i de enkelte fagministerier, men derimod bliver centralt placeret hos Folketinget, der også kan sikre den demokratiske forankring.

debat@altinget.dk