En kvinde i en flygtningelejr går ind i en butik. Hun finder de madvarer, hun mangler og vender sig mod kassen. Her får hun scannet sit øje, købet er registreret, og hun forlader butikken med sine indkøb.

Det er ikke noget fremtidsscenarie. I nogle FN-flygtningelejre kan beboerne betale for mad ved at få scannet deres iris. Hvis de lader sig registrere i en database med biometrisk identifikation, behøver de ikke noget kreditkort, men bliver krediteret gennem databasen. Bogstaveligt talt på et øjeblik.

Den type irisscanning er over fem år gammel og blot én af mange nye teknologiske løsninger, der vinder indpas blandt andet i humanitære indsatser og nødhjælpsarbejde. Og med tendensen følger en række risici.

Det er omdrejningspunktet for en ny bog med titlen Hvordan kan ny teknologi redde verden? Forfatteren, Adam Moe Fejerskov, er seniorforsker ved Dansk institut for Internationale Studier og beskæftiger sig med global ulighed og teknologi. 

Hvordan kan ny teknologi redde verden?

Forfatter: Adam Moe Fejerskov
Forlag: Informations Forlag
68 sider
Pris: 49,95 kr
Udgivelse: 6. dec. 2021
ISBN: 978-87-93772-57-1

I bogen advarer han mod en ukritisk brug af indgribende teknologiske løsninger. Navnlig når det gælder verdens udsatte befolkninger, som ifølge bogen ofte bliver underlagt de teknologiske landvindinger på forsøgsbasis.

“Når det kommer til at afprøve nye radikale teknologier, så er der nogle ting, man bare ikke kan gøre, hvis man er i Danmark eller i USA, eller hvor end man er i Vesten” siger Fejerskov.

Bogen, som er en del af Informations Forlags serie: Moderne Ideer, kommer også med bud på, hvordan vi kan gentænke vores forhold til radikale teknologiers fremtog.

Vi ser ikke, hvad der rammer os

Bogen giver en indføring i hvordan udviklings- og nødhjælpsarbejde og teknologiindustrien de senere år er knyttet tættere og tættere sammen.

FN organisationer og NGO’er, der arbejder med humanitære indsatser og udviklingsarbejde i fattige lande kigger i stadig større grad mod tech-industriens løsninger.

Apps, der hjælper os med at holde kontakt på tværs af tid og rum og kan levere vigtige informationer til sygepersonale i felten. Droner, der gør det muligt at levere medicin eller vacciner til ellers utilgængelige steder. Eller et biometrisk registreringssystem, der muliggør effektiv uddeling af mad og medicin i en flygtningelejr. 

“Grænserne mellem den digitale og den fysiske krop viskes i stigende grad ud, og beskyttelsen af sårbare menneskers liv, integritet og værdighed er derfor af afgørende betydning”, står der i bogen.

Og ifølge Adam Moe Fejerskov forstår vi sjældent konsekvenserne af ny teknologi, før de udspiller sig for øjnene af os. Ikke mindst fordi teknologierne ofte bliver udviklet i én kontekst og brugt i en anden.

Afstand øger sårbarheden

Teknologivirksomhederne tager ikke nødvendigvis hensyn til de mennesker, der skal drage nytte af produkterne i andre sociale sammenhænge eller i andre lande. Og det gør eksempelvis mennesker på flugt ekstra udsatte.

“Det er klart, at når man bor i en flygtningelejr, så har man ikke samme grad af modstandsdygtighed, som man har, hvis man lever et godt middelklasseliv i Danmark”, siger han. 


Derfor taler Fejerskov i bogen om afstande. Både geografiske og sociale afstande mellem de ingeniører, der udvikler teknologien i Silicon Valley, og de mennesker, der ender med at blive konfronteret med den i yderst sårbare situationer. De afstande giver vidt forskellige forudsætninger for at stille krav til eksempelvis beskyttelse af privatliv.

“Vi har stærkt brug et opgør med, hvem der bidrager til at definere, hvilken type teknologi, der er behov for, hvilke problemer den skal løse, hvordan den skal udvikles, og hvordan den skal sættes i spil lokalt”

Adam Moe Fejerskov
Hvordan kan ny teknologi redde verden

Når tech-verden leverer løsninger, er de også med til at bestemme hvilke problemer, der anses for at være væsentlige på tværs af enorme afstande i en anden virkelighed, som ingeniørerne bag udviklingen ikke nødvendigvis har indsigt i. 

Bekymrer sig ikke

“Jeg er bange for, at Facebook er blevet til et monster”, sagde en af FN’s menneskerettighedsrapportører, om Facebooks rolle i forfølgelsen af det etniske mindretal rohingyaerne i Myanmar.

Facebook lagde platform til massive opfordringer til etnisk udrensning i Myanmar og har ifølge FN spillet en afgørende rolle for, at volden tog fart. En situation som Facebook, ifølge Adam Moe Fejerskovs bog, måtte læse om i nyhederne, før det gik op for dem, at de var involveret i.

Når nye teknologier viser sine mørke sider, så er det ikke et utilsigtet udfald, men ifølge Fejerskov, slet og ret udtryk for en ekstrem arrogance hos virksomhederne. 

“Vi ved at Facebook nærmest ingen ansatte havde, der talte burmesisk. De syntes ikke, at det var noget, de nødvendigvis havde brug for”, siger Adam Moe Fejerskov. 

Han mener det er udtryk for, at for eksempel Myanmar ikke var et vigtigt nok marked for Facebook til følge med i, hvad der foregik. 

“Det var en indbygget arrogance overfor resten af verden, en stærk ligegyldighed over for, hvad der foregik på den anden side af jorden”, lyder det i bogen. 

Til Danwatch siger han: “Den måde det tekniske felt, internettet og services er sat op nu, betyder jo, at Facebook kan løbe fra det ansvar, de potentielt set har haft”.

Et andet eksempel fra bogen er den danske forsvarsvirksomhed Terma. I 2020 blev det påvist, at Terma solgte radarsystemer til de Forenede Arabiske Emirater, og virksomheden bidrog således til menneskerettighedskrænkelser i krigen i Yemen. Den slags handel foregår, ifølge bogen, med åbne øjne og kan ikke forstås som blåøjede uheld.

Afghanistan er en guldmine

Fejerskov mener dog ikke kun, at det er udviklingerne af teknologi i Silicon Valley, der sidder med ansvaret for, at udrulningen af teknologi bliver problematisk. Også de organisationer, der vælger at implementere løsningerne i humanitære indsatser har et ansvar. 

FN-organer som World Food Programme eller NGO’er i udviklingssamarbejder bør forholde sig kritisk til forvaltningen af de systemer og løsninger, som de inddrager i deres arbejde.

USA’s kaotiske exit fra Afghanistan endte med at efterlade både militært maskinel og et biometrisk registreringssystem, der kan identificere civile, som har samarbejdet med koalitionen, til Taliban.

I forbindelse med den USA-ledede koalitions interventionen i Afghanistan forsøgte de afghanske myndigheder i samarbejde med koalitionen at koble alle pengeoverførsler fra det offentlige på et biometrisk system. Det vil sige, at eksempelvis alle skolelæreres løn kunne udbetales via et sådant system, hvilket kræver en massiv indsamling af sensitiv data.

“Afghanistan ender med at blive denne her drøm om et land, hvor alle mennesker, er registreret med deres biometriske karakteristika, og hvor ikke bare den afghanske stat, men også internationale partnere kan bruge denne guldmine af data”, fortæller Fejerskov. 

Det er ikke tilfældigt, at en sådan data-guldmine ikke bare bygges op i EU eller USA, mener han. I de fleste vestlige lande, er der love, der forhindrer denne type teknologi og registrering, fordi det bryder med etiske principper og retten til privatliv. 

Derfor er det ofte verdens fattigste lande, der bliver “legepladser eller laboratorier” for teknologivirksomheder til at prøve deres produkter af, som Fejerskov udtrykker det.

Demokratisér udviklingen

Hvordan kan ny teknologi redde verden? er ikke bare et kampskrift mod teknologiske løsninger. Bogen lægger også op til en række konstruktive bud på forbedringer af, hvordan vi tænker og udvikler teknologi. Og i bogens ånd er det ikke snuptagsløsninger, der skal til.

“Udviklingen skal være inkluderende, deltagende og bedre reflektere både lokale behov og lokale kompetencer”, som der står i bogens tredje del, Alternativ.

Behovet for lokal forankring er væsentligt for Adam Moe Fejerskov. Ikke bare for at sikre, at innovationen rammer rigtigt. Men også fordi det vil ændre på status quo i udviklingen, som ifølge bogen lige nu er en top-down implementering. 

“Det er ikke nok bare at forstå lokale behov. Det handler også om at bruge og udvikle de kompetencer, der er til stede lokalt. Fordi det i sidste ende er det, der vil give teknologier, som vil kunne skabe den største forandring”, forklarer han.

Udviklingen af teknologier til brug i udsatte områder skal med bogens ord demokratiseres.

At invitere indenfor

Derudover opfordrer Adam Moe Fejerskov til at øget opmærksomhed på hvornår og i hvilket omfang, der faktisk er brug for teknologiske løsninger, og han advarer mod at sådanne løsninger ender med at stå i vejen for strukturelle udfordringer.

“Teknologien må aldrig blive et endemål. Det skal altid starte med spørgsmålet: Hvad er det vi vil bruge teknologien til?” siger han og tilføjer, at frem for at skubbe den teknologiske udvikling til det yderste, bør man i mange tilfælde tale om “afteknologisering”, af hensyn til beskyttelse af udsatte borgere.

Adam Moe Fejerskov opfordrer til, at man som samfund husker at spørge, hvorvidt der virkelig er brug for så radikale teknologiske skridt. Et spørgsmål, der sætter fokus på de involverede parter og deres interesser.

“Det er vigtigt”, siger han, “at teknologien ikke bliver anset som noget, der bare kan ligge i det private, og så kan det offentlige sætte det i spil”. 

Han understreger, at i de sammenhænge, hvor teknologivirksomheder bidrager til humanitære indsatser, bliver de inviteret indenfor.

“Når man på den måde åbner døren for samarbejde og inviterer indenfor, så har man også muligheder for at sætte rammerne for, hvordan det skal være. Og derfor kan man sagtens som FN eller som dansk NGO stille krav til hvilken udvikling, man vil se, hvad for en brug af teknologi, der giver mening for os”, siger Adam Moe Fejerskov. 

Da 2010’erne blev indledt, var vores ideer om internettet og de sociale medier stadig præget af optimisme og sociale fremskridt: Valgprotester i Iran i 2010 og Det Arabiske Forår i 2011 blev gerne omtalt som Facebook- og Twitter-revolutioner, efter sociale medier havde spredt information om politibrutalitet og korruption og mobiliseret folk bag krav om lighed og basale rettigheder.

Men ved årtiets udgang har euforien lagt sig: Medier som Facebook har været anvendt som redskab for etnisk udrensning i Myanmar og omfattende politisk manipulation under demokratiske valg rundt om i verden. Og langsomt har bevidstheden bredt sig om, at enkelte virksomheder har koncentreret enorme mængder viden og magt, som kan anvendes på os alle, uden vi selv har adgang til den.

Sidste år udkom sociologen Shoshana Zuboffs bestseller om, at vi med techgiganternes datahøst nu befinder os i “overvågningskapitalismens tidsalder”. Og tættere på nytår udkom så antologien Human Rights in the Age of Platforms, som lægger et menneskeretligt perspektiv på techgiganternes magt og overvågning. Bogen indeholder kapitler fra en række internationale forskere, heriblandt Shoshana Zuboff, og er redigeret af seniorforsker ved Institut for Menneskerettigheder med speciale i onlineliv og menneskerettigheder, Rikke Frank Jørgensen.

“Vi er efterhånden begyndt at tale om, hvor meget magt vi har overgivet til techgiganterne”, forklarer hun til Danwatch.

“Med bogen her peger vi nu på, hvordan disse virksomheders kommercielle interesser er begyndt at have indvirkning på nogle ellers helt basale rettigheder – rettigheder som normalt betragtes som betingelser for, at vi kan kalde vores samfund for demokratiske”, siger Rikke Frank Jørgensen.

Magt uden ansvar

Platforme som Google, Facebook, Apple, Twitter og Instagram sidder på en stor del af infrastrukturen i vores sociale liv. De har magt over, hvilke informationer vi har adgang til, og hvordan vi kan udtrykke os, og med deres indsamling af vores data kan de forudse og påvirke de valg og beslutninger, vi træffer.

I forhold til menneskerettighederne udfordrer det særligt vores ret til privatliv og retten til ytrings- og informationsfrihed.

“Man startede med at betragte de her tjenester som nogle neutrale, tekniske platforme, hvorfra folk kunne kommunikere og udveksle meninger”, siger Rikke Frank Jørgensen.

“Men i praksis foregår her en massiv indholdsmoderering – bare på en måde, som ingen af os kan gennemskue, og som ikke er reguleret af Folketinget eller noget andet, som kan stilles til ansvar”, siger hun.

Human Rights in the Age of Platforms problematiserer særligt, hvordan flere af vores grundlæggende rettigheder nu varetages af private virksomheder: brugen af vores data og de algoritmer, der styrer, hvilke informationer vi præsenteres for, betragtes som private forretningshemmeligheder, som det er svært at få indblik i.

[Citat1]

Rikke Frank Jørgensen tilføjer, at debatter og meningsudvekslinger på de digitale platforme desuden adskiller sig fra den måde, den offentlige samtale tidligere har foregået i privatejede medieorganer, fordi de traditionelle medier har været draget til ansvar med medieansvarslov, presseetiske retningslinjer og andre regelsæt.

“Man kan sige, de nye platforme har opnået en kæmpe magt uden noget medfølgende ansvar”, siger hun.

Jubeloptimismen er forbi

Første del af Human Rights in the Age of Platforms handler særligt om, hvordan platformenes høst af deres brugeres data giver dem en hidtil uset magt, der kan udnyttes økonomisk såvel som politisk. Anden del går mere i detaljer med, hvordan techvirksomhederne modererer den information, der deles på deres platforme, og hvordan de håndhæver deres interne retningslinjer, som er uden for demokratisk kontrol. Sidste del af bogen diskuterer løsninger for, hvordan menneskerettighederne kan styrkes på nettet.

“For år tilbage herskede der en optimisme, hvor mange lande var af den opfattelse, at techvirksomhederne kunne regulere sig selv og gennem selvregulering respektere brugernes rettigheder”, siger Rikke Frank Jørgensen.

“Bogen her peger på, at vi nu er kommet til et punkt, hvor vi ikke længere kan tro på, at virksomhederne selv kan løse problemerne. Vi er nødt til at gå ind med noget regulering og nogle standarder med udgangspunkt i menneskeretten, som virksomhederne kan holdes op på”, siger hun.

Organhandel er heller ikke lovligt længere

Rikke Frank Jørgensen nævner EU’s persondataforordning som et forsøg på at regulere virksomhedernes indsamling af data. Men hun tvivler på, at det er en mekanisme, der er stærk nok i forhold til den økonomiske magt, man forsøger at tøjle. Hvad angår mangel på gennemsigtighed om algoritmer og de medfølgende problemer med informations- og ytringsfriheden, så er man kun først lige begyndt at tale om problemerne, siger Rikke Frank Jørgensen.

En af Shoshana Zuboffs hovedpointer er, at techgiganternes datahøst og overvågning ikke er nogen selvfølge: “Mens det er umuligt at forestille sig overvågningskapitalisme uden den digitale verden, kan man sagtens forestille sig en digital verden uden overvågningskapitalisme”, som hun formulerede det i et interview med The Guardian.

Med andre ord er der tale om et system og en forretningsmodel, som man kan ændre på. Shoshana Zuboff bruger selv som et eksempel, at man også har ulovliggjort handel med menneskelige organer. På samme vis må man også kunne regulere handlen med at forudsige menneskers gøren og laden, mener hun.

“Det er ikke utopisk at ulovliggøre dele af techfirmaernes gældende forretningsmodel”, siger Rikke Frank Jørgensen.

“Men det kræver jo politisk vilje. Og man skal ikke være blind for, at man er oppe imod enorme kommercielle interesser og stærke lobbykræfter”.

 

Human Rights in the Age of Platforms, MIT Press, redigeret af Rikke Frank Jørgensen.
Der er boglancering 4. februar 15:00 til 16:30 på Institut for Menneskerettigheder, Wilders Plads 8K, 1403 København K.

Gå ikke glip af den næste afsløring

Nyhedsbrev sign-up

Gå ikke glip af den næste afsløring

  • Få nyt fra en af landets største graverredaktioner.
  • Vi holder virksomheder og stater ansvarlige i forhold til love, konventioner og egne CSR-politikker.
  • Vi forbinder den almindelige dansker med globale problemstillinger og giver et oplyst grundlag at træffe valg på – uanset om det drejer sig om pension, mad, tøj eller andre forbrugsvarer.
Nyhedsbrev sign-up
heartexit-upmagnifierchevron-down