Christel Schaldemose om AI: Det er problematisk, når vigtige beslutninger tages helt uden menneskelig indblanding
Én af udfordringerne ved kunstig intelligens er, at flere platforme gør brug af kunstig intelligens til at træffe beslutninger, som vedrører deres brugere. EU's kommende, digitale lovpakke skal sikre større transparens, skriver Christel Schaldemose (S).
Flere af os lever i dag en stor del af vores liv på de online platforme. Den digitale tidsalder skyller ind over os og teknologien udvikler sig hele tiden.
Vi shopper på Amazon, ser serier på Netflix og holder kontakten med venner og familie gennem Facebook. Mange af de online-tjenester vi bruger, er drevet af kunstig intelligens og algoritmer. Måske du umiddelbart tænker på robotter, når du hører ordet ’kunstig intelligens’?
Men faktisk er kunstig intelligens meget mere end det, og vi støder på det i vores hverdag meget oftere, end man måske lige går og tror.
Selvom det på sin vis er en naturlig del af den teknologiske udvikling, så har vi brug for nogle klarere retningslinjer, der kan være med til at afmystificere den kunstige intelligens rolle på de online platforme og ikke mindst sikre bedre rettigheder for de europæiske forbrugere.
Proppet i kasser
Én af de udfordringer ved kunstig intelligens, som jeg er stødt på i mit arbejde som Europa-Parlamentets chefforhandler for den digitale lovpakke ’Digital Services Act’ (DSA) er, at flere platforme gør brug af kunstig intelligens til at træffe beslutninger, som vedrører deres brugere.
Hvis man eksempelvis skal i kontakt med kundeservice på en online markedsplads, kan man opleve at blive sat i kontakt med en såkaldt bot eller en anden form for automatiseret beslutningstager, der træffer afgørelser om ens sag.
Vi ser også i stigende grad problemet i forbindelse med profilering, hvor platforme ved hjælp af algoritmer indsamler personlige oplysninger på baggrund af vores online adfærd.
Brugere, som du og jeg, bliver således proppet i forskellige kasser, som benyttes til at vurdere, hvem vi er som personer.
Ikke nok med at automatiserede beslutningsprocesser, drevet af kunstig intelligens, så igen træffer beslutninger om os og vores videre færd på den pågældende platform, så risikerer det også at føre til diskrimination af bestemte samfundsgrupper.
Jeg mener, at det er svært problematisk, når vigtige beslutninger om brugere på de online platforme tages uden nogen form for menneskelig indblanding. Det risikerer simpelthen at gå udover forbrugernes rettigheder.
Krav på at snakke med rigtigt menneske
I mit arbejde med DSA’en kæmper jeg derfor benhårdt for at skabe mere gennemsigtighed omkring brugen af kunstig intelligens på de online platforme.
Først og fremmest skal forbrugerne vide, når en service er drevet af kunstig intelligens.
Derudover skal man kunne gøre krav på at snakke med et rigtigt menneske, hvis man føler sig uretfærdigt behandlet af de automatiserede beslutningsprocesser.
Og sidst, men ikke mindst, skal vi gøre krav på mere åbenhed omkring de online platformes brug af algoritmer.
Det skal være muligt for alle europæere at forstå, hvordan algoritmerne virker og hvad platformene bruger dem til. Kun på den måde kan vi garantere forbrugerrettighederne, og at brugerne gør brug af de online platforme på et velinformeret grundlag.
Man skal holde tungen lige i munden, for emnet er teknisk. Men EU’s digitale lovgivning er ikke blevet ændret de sidste 20 år, så det er helt afgørende at vi får opdateret vores digitale regelsæt, så det passer til 2021.
Jeg er trukket i arbejdstøjet og er klar til at lægge arm med platformene, så vi kan sikre mere åbenhed om deres brug af kunstig intelligens.
Lægemiddelindustriforeningen: Vi venter i spænding på vejledning om GDPR i forskningen
Forsker: Derfor er der behov for regulering af kunstig intelligens
