Dataetisk ekspert: Kunstig intelligens kan kun gøre os klogere på det, vi allerede gør på socialområdet

Siri-Kommissionen udgav i april rapporten "En fremtidssikret velfærdsstat med AI". Her forsøgte vi at komme med en række anbefalinger til brug af kunstig intelligens, ofte kaldet AI, i den offentlige sektor.

Ikke ud fra et ønske om at bruge AI mest muligt eller at spare penge, men ud fra et borgerperspektiv. At arbejde med et borgerperspektiv betød, at et begreb som tillid hurtigt kom til at stå helt centralt i diskussionerne under arbejdet med rapporten.

Kunstig intelligens handler om data, helst store, relevante mængder af data af god kvalitet. Tillid er forudsætningen for, at vi som borgere vil dele de relevante data. Tillid forudsætter, at man som borger har en følelse af at være i kontrol med, hvilke oplysninger om ens privatliv, der er i omløb og hvad de bruges til.

Det kræver, at man som borger har et overblik over, hvilke data, der indsamles om én, hvad formålet er og at de samme data ikke pludselig også bliver brugt til noget helt andet, uden at man ved det.

Tillid handler også om, hvad vi bruger kunstig intelligens til. En måde at bruge kunstig intelligens er prædiktive algoritmer, altså at forsøge at forudsige for eksempel slitage på bygninger eller udpege børn i risikozonen, som skal hjælpes inden det går galt.

I en befolkningsundersøgelse, vi lavede i forbindelse med rapporten, var 67 procent af danskerne helt eller overvejende enige i, at kommunen gerne må bruge data til at forudsige om hans eller hendes kælder bliver oversvømmet, men kun 20 procent af respondenterne var enige i, at kommunen må indhente oplysninger for at forudsige, om deres børn vil klare sig dårligt i skolen.

Det er altså på ingen måde ligegyldigt, om vi bruger kunstig intelligens på fakturaer og klimatal eller om man går helt tæt på os som mennesker. Så lige præcis socialområdet har nogle helt særlige forhold, der kræver omtanke, bred inddragelse af viden og kompetencer.

Data kan ikke ændre tingene selv

En andet væsentligt benspænd i forhold til at bruge kunstig intelligens er, om man prøver at blive klogere på, hvad der foregår eller om man vil forandre praksis.

{{toplink}}

Hvis man vil afdække, hvad der sker lige nu, for eksempel hvor der er parkeringspladser eller hvorfor der er lys i alle kontorbygningerne klokken 21.00 tirsdag aften eller forsøge at forberede sig på fremtiden, for eksempel ved at beregne behovet for ældrepleje i kommunen om 20 år, så er det et spørgsmål om at arbejde med kendte situationer, lede efter fejl og mangler og finde mønstre.

Det er kunstig intelligens rigtig god til. Derfor er brug af kunstig intelligens til screening for brystkræft også en succes – man ved, hvad man leder efter. Hvis vi derimod har som mål at ændre på tingene, for eksempel identificere flere udsatte børn tidligere, så er det ikke godt nok at fodre algoritmen med data fra tidligere sager og drage anbefalinger ud af det.

Hvis vi gør det, får vi alle tidligere fejl og mangler med og ender med at gentage dem og det var jo netop det, vi ville undgå. Der er altså forskel på, om vi ved, hvad vi leder efter eller om vi har brug for at ændre forholdene og gøre tingene på en anden måde.

Data kan gøre os klogere på, hvad vi gør og allerede ved, finde mønstre i det vi gør og derudfra give os ny og mere viden til at understøtte vores beslutninger. Men skal vi ændre praksis og finde nye veje, så skal der mennesker, fagpersoner, borgere og beslutningstagere indover.

Kunstig intelligens set fra et borgerperspektiv handler i høj grad om at skabe projekter, vi som borgere kan se fordele i, at sikre håndtering af data, som vi alle kan være trygge ved og sikre transparens og åbenhed omkring, hvad vi vil bruge kunstig intelligens til og hvornår fagpersonerne tager over.

debat@altinget.dk