Som folkeoplysning for det 21. århundrede advarer ny bog om teknologier som ansigtsgenkendelse

Hele verdens husfilosof, Yuval Noah Harari, tager bogstaveligt talt hele turen fra Romerriget til Silicon Valley i sin nye bog, der klæder os på til at forstå og regulere den verden, vi er på vej ind i med kunstig intelligens, skriver Niels Frid-Nielsen.

 

Fodboldklubben Brøndby IF indførte i 2019 en ansigtsgenkendelsesteknologi på stadion, der kunne identificere og udelukke fodboldhooligans.

Når de op imod 30.000 tilskuere ankom til stadion, blev de bedt om at fjerne masker, hatte og briller, sådan at en computer kunne scanne deres ansigter og sammenligne dem med en liste over ballademagere.

Metoden blev godkendt af EU's regler for databeskyttelse. Alligevel fremhæver den israelske historiker, filosof og forfatter Yuval Noah Harari tiltaget i Brøndby i sin nye bog om kunstig intelligens.

"Selv om en sådan brug af teknologi i princippet er prisværdig, vækker den åbenlys bekymring vedrørende privathed og overdreven statslig kontrol," skriver Harari.

"I de forkerte hænder kan de samme teknikker, der kan lokalisere oprørere, redde forsvundne børn og holde fodboldhooligans væk fra stadion, også bruges til at forfølge fredelige demonstranter eller håndhæve en rigid ensretning."

Algoritmer skaber virkelighed

Bestsellerne 'Sapiens – en kort historie om menneskeheden' og 'Homo deus – en kort historie om i morgen' gjorde Harari til hele verdens husfilosof.

I hans nye korte historie om informationsnetværk og kunstig intelligens opfordrer Harari os til at skærpe den kritiske sans, så vi til fulde forstår, hvilken trussel kunstig intelligens – eller K.I. som den bare oversættes i bogen – udgør mod den menneskelige civilisation.{{toplink}}

Problemet er, ifølge Harari, at mens jubelkoret over den kunstige intelligens udgøres af it-branchens egne professionelle lykkeriddere, så er kritikerne primært en flok humanister med meget lidt forstand på den informationsteknologi det hele handler om.

Harari vil klæde os på til at regulere den kunstige intelligens, mens det endnu kan lade sig gøre.

Titlen Nexus er latin og betyder forbindelsesled, knudepunkt eller sammenhæng. Det er denne sammenhæng mellem menneske og teknologi, der fundamentalt ændres med kunstig intelligens, argumenterer han.

Mens Bibelen og andre religiøse skrifter blev fortolket og brugt af mennesker til at skabe myter, magt og erkendelse, har algoritmer og kunstig intelligens gjort sig selv til mytemagere og skabere af ny virkelighed.

Mens runer, skrifttegn, trykpresse, telegraf, telefon, radio og fjernsyn alt sammen var redskaber, mennesket kunne bruge til at erobre og forstå verden, så truer den kunstige intelligens nu med at tage magten fra mennesket.

Harari mener, at definitionen på nexus bør ændres, så det ikke længere bare handler om fysiske forbindelser, men også om digital tilstedeværelse.

"Selv om Google og ByteDance ikke har nogen fysisk tilstedeværelse i Uruguay, bør den kendsgerning, at mennesker i Uruguay gør brug af deres onlineservices, ikke desto mindre betyde, at de skal betale skat i Uruguay," skriver Harari.{{toplink}}

"Ligesom Shell og BP betaler skat i lande, hvor de udvinder olie, bør techgiganterne betale skat i lande, hvor de udvinder data."

De nye guder

Men skatteforholdene er bare et enkelt aspekt af kampen om det nye verdensherredømme.

"Computernetværket er blevet nexus for de fleste menneskelige aktiviteter," skriver Harari.

"Midt blandt næsten alle finansielle, sociale eller politiske transaktioner finder vi i dag en computer. Som følge heraf kan vi ligesom Adam og Eva i Edens have ikke skjule os for øjet i det høje."

Algoritmernes evne til at bearbejde tekst, billeder, lydoptagelser og videoer er blevet overmenneskelige. Algoritmerne er de nye guder, konstaterer den israelske filosof.

Han mener, vi bør gribe ind, før computernetværk erstatter forholdet mellem menneske og redskab med en ny "inter-computer-virkelighed", hvor computernetværk skaber nye virkeligheder helt uafhængigt af mennesker.

Det er vores ansvar – og historiske forpligtelse – at regulere disse netværk, så de ikke tager magten fra os. Det mindste vi kan gøre, er at forsyne computerteknologien med selvregulerende mekanismer, så den ikke løber løbsk.

Risikoen er, at den nye verdensorden bliver en række rivaliserende imperier af selvstyrende computernetværk, der uden videre vil kunne køre den menneskelige civilisation i afgrunden. Det lyder voldsomt og dramatisk, men er faktisk temmelig velargumenteret. 

Det er naturligvis en koket underdrivelse, når Harari kalder sin mursten af en bog for en kort historie.

Han er snaksalig, kan godt lide at dvæle ved en anekdote eller to, men på den anden side er det nok det fortællende træk, der har gjort Harari så umådelig populær, at hans bøger nu også udkommer som tegneserier.

Nogle vil nok finde Nexus lige lovlig langhåret. Den tager bogstaveligt talt hele turen fra Romerriget til Silicon Valley på sine 500 sider. Men først og sidst klæder bogen os på til at forstå og regulere den verden, vi er på vej ind i.

Nexus er folkeoplysning for det 21. århundrede.{{toplink}}

Forrige artikel 5 A'er: Ny grøn lærebog inspirerer til handling og bryder med gamle praksisser 5 A'er: Ny grøn lærebog inspirerer til handling og bryder med gamle praksisser