Karen Melchior om AI-regulering: Teknologien i dag kan mere, end Stasi kunne drømme om
Det er godt, at EU-Kommissionen nu vil sætte grænser for, hvad kunstig intelligens må bruges til. Desværre går forslaget ikke langt nok, skriver Karen Melchior (RV).
Europa-Kommissionen kom i april i år med en verdenspremiere. Det først bud på, hvordan vi fremtiden skal regulere kunstig intelligens, og under hvilke acceptable rammer, vi kan bruge det i vores samfund.
Det er første gang ikke kun i EU, men i hele verden.
Helt konkret så foreslår Kommissionen en risikobaseret tilgang til anvendelse af kunstig intelligens, hvor de kigger på, hvad systemet skal benyttes til, frem for at kigge på selve teknologien. Jo højere risiko, jo skrappere er reguleringerne.
Der skal for eksempel laves ordentlige risikovurderinger, inden vi går i gang med at bruge ny kunstig intelligens-teknologi.
Vi vil stille krav om, at datasættene er af høj kvalitet, for den kunstige intelligens er kun så god som den data, den er oplært på. God data er blandt andet med til at minimere diskrimination som følge af manglende data om dele af befolkningen.
Udover hvordan den kunstige intelligens er lavet, så skal vi føre kontrol med resultaterne.
Endelig skal systemet logge al aktivitet, så vi kan se, hvad der er sket, når noget går galt, eller vi vil klage over en afgørelse. Det betyder, at virksomhederne, der bruger kunstig intelligens, kan holdes til ansvar for deres afgørelser og ikke bare gemme sig bag ’computer says no.’
Socialdemokratisk misforståelse
Vigtigst af alt sikrer forslaget, at brug af kunstig intelligens til overvågning og karakterer fra regeringen, bliver forbudt. Det er længe siden, at Orwell skrev om Big Brother, men den hårde sandhed er, at teknologien i dag kan meget mere, end han kunne forestille sig, og Stasi kunne drømme om.
Vi bliver dagligt udsat for profilering, registrering og behandling gennem den data, vi konstant afgiver, når vi bevæger os rundt på internettet.
“Jeg har ikke noget at skjule, derfor er overvågning i orden” har jeg tit hørt, men vi har ret til at have hemmeligheder for hinanden og staten. Du skal have lov til at have et privatliv.
I Danmark er vi gået videre og vores justitsminister mener, at mere overvågning giver mere frihed!
Det er ikke sandt. Overvågning fængsler mennesker.
Når vi konstant er under overvågning, er vi ikke frie. Øjet i det høje stopper os fra at sige, hvad vi tænker, samles med ligesindede og forsvare vores rettigheder. Overvågning giver en mere føjelig befolkning, men ikke mere frihed.
Derfor er det godt, at Kommissionen bryder med den danske, socialdemokratiske misforståelse og sætter grænser for, hvad kunstig intelligens må bruges til.
Skadeligt at regne på køn og race
Desværre mener jeg ikke, at forslaget går langt nok, når det kommer til at beskytte os mod automatiseret genkendelse og afgørelser ud fra køn eller etnicitet.
Det er skadeligt at lade AI-systemer forsøge at regne på vores køn og race og bruge det til afgørelser. Det bidrager blot til at putte mennesker i kasser, som understøtter fordomme frem for at fjerne dem.
Din bank skal ikke bruge AI til at afgøre, om du har det rette køn eller etnicitet for at måtte tage et lån. Socialcentret skal ikke bruge kunstig intelligens til at definere din etnicitet for at beslutte, om du får plads på et herberg.
Nu er det op til os i Europa-Parlamentet at lave de nødvendige ændringer sådan, at vi for alvor får en lovgivning, der ikke kun har fokus på at hjælpe virksomhederne med at udvikle AI, men som også forsøger at sætte mennesket i centrum i den teknologiske udvikling
Databeskyttelsesforordningen har vist, at beskyttelse af vores rettigheder ikke står i vejen for konkurrencedygtige virksomheder, men giver Europa global indflydelse. Det har vi muligheden for at gøre igen nu. Lad os gribe chancen.
V-ordfører: Sloveniens EU-formandskab bliver næppe et forsvar for retsstaten
Brancheorganisation: Kontrolgebyrer og overimplementering spænder ben for svineeksporten
