Institut for Menneskerettigheder kritiserer EU’s AI-udspil: Sæt borgeren i centrum

Af Marya Akhtar og Rikke Frank Jørgensen
hhv. chefkonsulent og seniorforsker, Institut for Menneskerettigheder

I april kom EU-Kommissionens længe ventede udspil til regulering af kunstig intelligens. Efter flere års debat om, hvilke principper, der skal være styrende for udvikling og brug af kunstig intelligens, markerer udspillet det første skridt mod bindende europæiske regler på området.

Under begrebet kunstig intelligens finder man blandt andet ansigtsgenkendelsesteknologi og automatiserede afgørelser, der allerede i dag bruges af både private virksomheder og offentlige myndigheder.

Brugen af kunstig intelligens påvirker i høj grad menneskerettigheder, demokrati og retssikkerhed, og det er derfor et vigtigt og rettidigt skridt, at Kommissionen nu har fremlagt et forslag til en juridisk ramme.

Ikke noget bud på den enkeltes rettigheder
Hovedformålet med EU-Kommissionens udkast er at forbedre det indre marked ved at fastsætte ensartede regler for især markedsføring, salg og brug af kunstig intelligens inden for EU.

Beskyttelsen af rettigheder er en integreret del af udspillet, men Kommissionen giver ikke noget bud på, hvilke rettigheder den enkelte borger har i relation til virksomheders og myndigheders brug af kunstig intelligens.

Til sammenligning er for eksempel EU’s databeskyttelsesforordning (GDPR) et klart rettighedsorienteret regelsæt, hvor borgeren er i centrum.

Kommissionens opdeler anvendelsen af kunstig intelligens i forskellige risikogrupper afhængig af, hvor stor risiko teknologien skaber for borgeres sundhed, sikkerhed, levevilkår og rettigheder.

Nogle former for kunstig intelligens skal ifølge Kommissionen være forbudt. Det gælder blandt andet social scoring, som vi kender det fra Kina, hvor borgere får point for, hvordan de opfører sig.

Andre former for kunstig intelligens udgør en høj risiko, så der skal stilles særlige krav til risikohåndtering, mens kunstig intelligens brugt til for eksempel chat-bots anses for at have en begrænset risiko.

Endelig er der brug af kunstig intelligens, der udgør en minimal risiko, som for eksempel spamfiltre.

Håndhæves gennem nationale tilsyn
Udspillet fokuserer særligt på tilfælde, der udgør en høj risiko, og de krav, som virksomheder og offentlige myndigheder her skal efterleve.

Bag svært gennemskuelige termer som ’risiko- og kvalitetsstyringssystemer’ og ’overensstemmelsesvurderinger’ gemmer der sig omfattende procedurer for blandt andet at sikre, at brugen af kunstig intelligens ikke har en negativ indvirkning på borgernes rettigheder.

Der er med andre ord tale om et omfattende kontrolsystem, der skal være på plads, så navnlig datakvalitet, teknisk dokumentation, transparens, menneskelig kontrol med teknologien og teknikkens robusthed kan sikres.

Håndhævelsen skal blandt andet ske gennem nationale tilsynsmyndigheder.

Lægger ikke op til direkte klageadgang
Beskyttelsen af den enkeltes rettigheder er afhængig af, at en negativ indvirkning på rettigheder identificeres og imødegås af de ansvarlige virksomheder eller myndigheder samt af et effektivt tilsyn, så de nye procedurer ikke ender med at blive en simpel afkrydsningsøvelse.

Udspillet lægger beklageligvis ikke op til en direkte klageadgang eller anden adgang til håndhævelse af rettigheder for den enkelte borger. Selvom udkastet opstiller regler for tilsynsmyndigheder på tværs af EU, lægger Kommissionen ikke op til, at borgeren skal have ret til at få behandlet en klage hos dem.

Der er heller ikke lagt op til regler, der skal sikre, at borgerne kan bistås med overblik over eller vejledning om, hvordan teknologien indvirker på deres rettigheder.

Dette på trods af, at udkastet åbner op for, at politiet i visse tilfælde kan bruge ansigtsgenkendelsesteknologi – et område, hvor menneskerettighedsorganisationer og civilsamfundet længe har advaret mod alvorlige, menneskeretlige udfordringer.

Den effektive beskyttelse af borgeren står og falder med, at reglerne efterleves, og at det tiltænkte tilsyn har ressourcer og kompetencer til at kontrollere at reglernes overholdelse.

Med den hastigt øgede brug af kunstig intelligens må det forventes, at flere og flere borgere i EU vil støde på kunstig intelligens i forskellige afskygninger. Dette kan have en markant betydning for deres rettigheder, og udkastet bør derfor indeholde en direkte klageadgang for berørte borgere.

debat@altinget.dk