Indlæg

Dine kropsvæsker kan fortælle, hvordan dit liv bliver, og kunstig intelligens forstår dig bedre end dig selv. Eksistensen kortlægges helt ud i krogene, og mens videnskaben jubler, advarer andre om overvågningssamfund og kinesiske tilstande. Ud & Se undersøger, om fremtiden er en datadrøm eller et hverdagsmareridt, og om vi har noget særligt at frygte herhjemme, hvor 10 små offentlige cifre følger os fra vugge til grav.
Tekst:Kim KristensenIllustration:Simon Væth

THOMAS HELMIG OG Renée Toft Simonsen troede måske, at det var en privatsag. Sønnen Hugo Helmigs død i november. For hvis ikke døden er en privatsag, hvad er så egentlig?

Men selv om medierne da også ventede med at bringe nyheden om Hugo Helmigs død, til familien ni dage senere var klar til selv at fortælle om den på de sociale medier, var der en undtagelse.

Frihedens Stemme, som Rasmus Paludan er ansvarshavende chefredaktør for, skrev historien efter fire dage. 

”Hugo Helmig er død,” hed den kortfattede overskrift på artiklen. Her blev stifteren af partiet Stram Kurs citeret for, at den 24-årige musiker, som havde fortalt om sin kamp med angst og misbrug og kort forinden havde været ved at tage sit eget liv, forhåbentlig nu var et bedre sted: 

”Ligesom jeg selv oplevede han de nådesløse konsekvenser af at være i offentlighedens søgelys.” 

Der havde floreret rygter på internettet om dødsfaldet, og da det med Rasmus Paludans ord er ”pressens pligt at efterprøve påstande og rygter”, slog Frihedens Stemme Hugo Helmig op i Folkeregistret på Københavns Kommunes hjemmeside. For at gøre dette behøvede mediet blot at kende hans fødselsdato, som var offentligt kendt, og så ellers betale de krævede 75 kroner for forespørgslen.

”Personen er afgået ved døden 23.11.2022,” lød resultatet et øjeblik senere.

”Hvis man gerne vil vide, om folk er døde eller ej, er det den hurtigste, enkleste og mest sikre måde at få afklaret dette spørgsmål,” fortæller Rasmus Paludan i telefonen til Ud & Se.

”Hans pårørende og andre, som kender ham, kunne jo tage fejl. Men det gør Folkeregistret ikke. Det tager ikke fejl.”

TAL LYVER IKKE

Siden 1968 har Danmark haft et register over alle, der bor eller har boet i Danmark. Dette register hedder Det Centrale Personregister (CPR). Formålet med CPR er at registrere grundlæggende personoplysninger og sikre, at personerne er registreret i CPR på den adresse, hvor de faktisk bor eller opholder sig. Alle kan logge sig ind på folkeregistrene og erhverve sig viden om navn, adresse, om en person er rejst til udlandet, er myndig eller død, medmindre vedkommende har registreret navne- og adressebeskyttelse.

FOLKEREGISTRET ER DOG langtfra det eneste offentlige register, hvor der ligger ’private’ data om dig – og data, som både offentlige myndigheder og andre har adgang til. Og vel at mærke uden at vi nødvendigvis ved dette. 

De offentlige myndigheder ligger inde med data om vores økonomi, sociale baggrund og adfærd samt ikke mindst sundhed. Det er oplysninger om alt lige fra aborter til psykiatriske lidelser og årsagen til vores død. Ja, har du været på session, kender de din IQ fra den obligatoriske intelligenstest. 

I århundreder har offentlige myndigheder skrevet det hele ned og gemt det, og i dag er oplysningerne koblet sammen af CPR-nummeret, de unikke 10 cifre, som alle i det danske folkeregister er blevet tildelt siden 1968.

Hvilket rejser spørgsmålet om ikke bare, hvad der ligger af oplysninger om den enkelte i de offentlige registre, men også om, hvem der – som i tilfældet med Hugo Helmig – kan få adgang til dem og til hvilket formål. Ikke mindst i fremtiden.

”NÅR DATA EKSISTERER, opstår der et pres for at anvende dem til alle mulige formål. Det advarede jeg om allerede for otte år siden i Dagens Medicin. Jeg kan finde artiklen, den står lige heromme,” siger Thomas Ploug, der er professor i dataetik ved Aalborg Universitet. 

Han vender sig halvt om i stolen og peger på bogreolen bag sig på kontoret. 

I 2015, da Thomas Ploug blev interviewet til Dagens Medicin, var han formand for en arbejdsgruppe under Etisk Råd, der så på brugen af de mange sundhedsoplysninger, der ligger i de offentlige registre – og på borgernes samtykke til brugen af disse. 

Eller mangel på samme. 

Dengang var personlig medicin, altså det at tilpasse behandlingen til den enkelte patient ved hjælp af viden om deres gener, det nye buzzword. Og Thomas Ploug advarede om, at det næste logiske skridt kunne blive at bruge denne viden til også at hjælpe samfundsøkonomien. Giver det for eksempel mening at bruge millioner af kroner på en længevarende uddannelse, hvis en gentest fra fødslen afslører, at et barn lider af den arvelige Huntingtons sygdom og altså vil dø, inden det fylder 40 år? Hvorfor ikke bruge pengene på den, som er født med en høj IQ – og kernesund?

Thomas Ploug forudså, at sådan en tankegang, der gør det muligt at sortere i mennesker, ville komme til at spille en langt større rolle i fremtiden – og han er ikke blevet mere optimistisk med årene, tværtimod. 

”Problemet er, at vi Danmark i årtier har haft en utrolig liberal databeskyttelseskultur. Der er nogle forskere og medicinalvirksomheder, som kigger på Danmark og siger: ’Det er et dataparadis.’ Og så er der andre, der kigger på Danmark og siger: ’Det er en bananrepublik.’ Den nuværende overvågning af borgerne i form af deres data er jo det, man drømte om i DDR,” siger professoren, der mener, at kulturen bliver svær at ændre, netop fordi den har været meget liberal i lang tid. 

”Det er altid vanskeligt at tage privilegier fra folk – og i dette tilfælde forskerne og offentlige myndigheder,” siger professoren.

FRA HANS VINDUER på anden sal er der udsigt over Københavns Sydhavn. Aalborg Universitet overtog i 2012 kontorbygningen fra det finske mobiltelefonselskab Nokia, og de 42.500 kvadratmeter er en påmindelse om, at ingen kan forudsige fremtiden. I starten og midten af 00’erne havde Nokia over halvdelen af markedet for mobiltelefoner, og selskabet var Finland og omvendt. 

”Hvis de kan i Finland, kan vi også,” lød det fra daværende statsminister Anders Fogh Rasmussen under valgkampen i 2005, hvor han ustandseligt talte om finske patenter, finsk konkurrencedygtighed og Finland som verdensøkonomi. Indtil de ikke længere kunne.

Nokia forudså ikke, at fremtiden var smartphones. I dag er det svært at forestille sig en verden uden, og vores ivrige brug af dem fodrer internettet med stadig flere data om os, brugerne. Data af stadig flere typer. Og data, som bliver gjort relevante på helt nye og uforudsigelige måder af kunstig intelligens.

Maskinerne oplærer sig selv ved at opdage mønstre og sammenhænge i dataene, og data, som ingen førhen kunne se nogen mening i, finder pludselig uventede anvendelsesmuligheder. 

I USA har forskere for eksempel udviklet en maskine, som ved hjælp af kunstig intelligens, ud fra din måde at tale på, kan forudsige risikoen for at udvikle en psykose. Maskinen opfanger talemønstre, som selv ikke psykiatere ville lægge mærke til. 

”At forsøge at høre disse sproglige nuancer svarer til at forsøge at se mikroskopiske bakterier med det blotte øje,” har en af forskerne, Neguine Rezaii fra Harvard Medical School, forklaret. 

I 2014 PUBLICEREDE det kinesiske statsråd dokumentet ’Planlægning for konstruktion af et socialt kreditsystem’. Her kan man læse, hvordan det sociale kreditsystem skal være med til at skabe et ”harmonisk samfund” med ”social stabilitet”, befolket af ”oprigtige mennesker”. Blandt eksemplerne på sådanne handlinger, der kan svække den enkeltes sociale kreditværdighed, er overtrædelse af færdselsloven, rygning på røgfri arealer eller overdrevet gaming – og prisen kan være lavere internethastighed, forbud mod at flyve eller tage en togrejse på 1. klasse. 

Under interviewet understreger Thomas Ploug flere gange, at der er tale om en balancegang, og at han selvfølgelig godt forstår – og er enig i – behovet for at indsamle oplysninger og bruge dem til for eksempel at udvikle personlig medicin. Der er brug for at anerkende begge sider i debatten og finde fornuftige løsninger, mener professoren.

Men han fastholder, at presset for at samle og bruge oplysninger om statsborgere til stadig flere formål i sidste ende risikerer at føre til den sociale kontrol, som George Orwell allerede i 1949 beskrev i fremtidsromanen ’1984’, og som kan være ved at blive til virkelighed i Kina i dag.

”Der er mange, som forsker i data, der har svært ved at se, at det, at de undersøger, hvor mange der for eksempel kører over for rødt i et kryds her i Sydhavnen, skulle have noget at gøre med social kredit i Kina. Hvad taler du om? Men det er også en uvilje – eller villet blindhed – mod at se, at der er et større perspektiv, og at den danske stat har samlet enorme mængder data om borgerne.”

I SUNDHEDENS TJENESTE

Sundhedsdata samles i sundhedsregistre, der handler om alt fra sygdomme og behandlinger til økonomi og ansatte i sundhedsvæsenet. Der anslås at være 165 nationale sundhedsregistre, og dem har Sundhedsdatastyrelsen ansvaret for. Styrelsens indsamling af data er bestemt ved lov – enten i sundhedsloven eller andre love og bekendtgørelser. Her står der, hvad formålet med indsamlingen er, og om data kun må bruges til forskning og statistik, eller om de kan bruges til administrative formål, for eksempel til din behandling. Der står også, hvor mange oplysninger det er nødvendigt at indsamle, og hvor længe oplysningerne må gemmes.

I DAG HAR næsten alle danskere prøver af blod, urin eller dna liggende i Danmarks Nationale Biobank, som på sin hjemmeside reklamerer med at være en af verdens største og mest avancerede af sin slags. Mere præcist ligger der 14 millioner biologiske prøver i fryserne på Amager, hvoraf alene de såkaldte hælprøver udgør 2,5 millioner.

Siden 1982 er alle nyfødte blevet tilbudt en blodprøve fra hælen, der kan afsløre i alt 19 sjældne medfødte sygdomme, som alle kan behandles – blandt andet en række hormon- og stofskiftesygdomme.

”Det unikke er, at vi herhjemme har det hele samlet i ét register, CPR-registret, som er nøglen til danske data,” fortæller Biobankens direktør, Anne-Marie Vangsted, med henvisning til, at det gør danskerne til én stor undersøgt befolkningsgruppe. Det, som statistikere kalder en kohorte. 

”Hvis vi går til andre lande, har de også kohorter, men de har ikke hele befolkningen samlet i ét register.” 

Biobanken, som blev oprettet i 2012, er en fysisk bank, et nationalt register og et koordinerende center, der skal skabe én fælles indgang til alle biologiske prøver og én fælles udgang, hvor forskere og sundhedspersonale kan søge om – og få adgang til – oplysningerne. Med andre ord behøver forskere kun at lede ét sted, når de vil læse op på vores sundhedshistorie. I 2020 viste en opgørelse, at Biobanken på det tidspunkt havde udleveret 533.517 biologiske prøver til 203 forskningsprojekter, og at 22 procent af alle publikationer af danske forskere med biologisk materiale stammede herfra. 

For at forskerne kan få adgang til prøver, skal forskningsprojektet have ”væsentlig samfundsmæssig betydning”, og de skal arbejde ved en dansk offentlig eller alment velgørende forskningsinstitution, men det kan ske i samarbejde med private – og udenlandske – medicinalselskaber og forskere. Derudover kræves en godkendelse fra Datatilsynet, National Videnskabsetisk Komité og Biobankens eget indstillingsudvalg.

Biobanken er en del af Statens Serum Institut, og direktør Anne-Marie Vangsted har kontor i den hvide patricier­ejendom på Amager Boulevard i København, hvor Seruminstituttet oprindelig havde til huse, inden det rykkede ind i Artillerivejens Kasernes gamle bygninger tæt på. På et fladskærmsfjernsyn på kontorets væg viser Anne-Marie Vangsted en slide med overskriften ’Biobankens forskningspotentiale’ og giver et eksempel:

”Ved at kombinere CPR-nummeret og biologiske prøver kan vi forske i hele livsforløbet,” siger Anne-Marie Vangsted og nævner, at dette for eksempel har betydning for danskere med højt kolesteroltal, som to millioner af os lever med, og som ofte skyldes en kombination af arvelige faktorer, fed kost og for lidt motion. 

”Når vi ved det, kan vi prøve at forebygge sygdommen ved at starte behandlingen, før en person faktisk bliver syg,” forklarer Anne-Marie Vangsted. 

”Og så kan vi bagefter se i registrene, om de, som får behandlingen, også lever længere end dem, som ikke har fået den.”

MULIGHEDEN FOR AT kombinere store mængder persondata med biologisk materiale er ikke bare med til at hjælpe danskere med for højt kolesteroltal. Det gør Danmark og Biobanken attraktiv for både den danske og internationale medicinalbranche.

”Samarbejdet mellem life science-industrien og det danske sundhedsvæsen bidrager til, at vi får skabt et endnu stærkere velfærdssamfund i Danmark med bedre patientbehandling,” hedder det på Indenrigs- og Sundhedsministeriets hjemmeside – og både Lundbeckfonden og Novo Nordisk Fonden var med til at betale en del af de i alt 179 millioner kroner, som det kostede at etablere Biobanken. 

Nogle mener dog, at håndtrykket mellem forskningen og de økonomiske interesser er potentielt usundt.

”Der er ekstremt fri adgang til danske sundhedsdata, og det bliver brugt meget aggressivt i forsøget på at tiltrække medicinalselskaber til landet,” siger Jesper Lund, formand for IT-Politisk Forening, der blev stiftet i 2002.

”Jeg har kaldt det ’borger til salg’. Det lyder selvfølgelig populistisk, men det er reelt det, som man gør. Man sælger borgerne som en slags forsøgspersoner til medicinalindustrien,” siger Jesper Lund over telefonen. Han har sendt et link til Udenrigsministeriets hjemmeside, hvor spørgsmålet til interesserede selskaber lyder: 

”Ready to take a deep dive into Danish health data?”

Jesper Lund forstår godt, hvis forskere er begejstrede for de registerbaserede undersøgelser og deres muligheder for at sammenkøre et væld af relevante oplysninger. Og indtil nu er det kun blevet anvendt til gode formål, fremhæver han:

”Men jeg tror bare ikke, at det bliver ved med at gå, for der er både et øget fokus på dette og en øget risiko, for oplysningerne i baserne kan lække eller blive brugt til andre formål.

PÅ SIT KONTOR på Amager Boulevard understreger direktør Anne-Marie Vangsted flere gange, at Biobanken passer godt på oplysningerne. Ligesom hun understreger, at hun og hendes medarbejdere ikke gemmer data for at tage noget fra borgerne, men for at hjælpe samfundet:

”Hvis vi ikke har viden, kan vi ikke udvikle nye behandlingsformer og diagnostiske metoder. Når vi har en prøve liggende, er det ikke mig som individ, der har betydning. Det er den store mængde af data, som – når denne sammenstilles – kan give nogle svar og muligheder for at udvikle nye behandlinger. Det har ikke noget at gøre med, at man kommer og siger, at det er lige det og det individ, som vi gerne vil vide noget om. Det vil aldrig kunne tillades.” 

En undtagelse er politiet.

Biobankens oplysninger må ikke bruges til for eksempel at identificere gerningsmænd til forbrydelser. Men politiet har flere gange – med en dommerkendelse – fået adgang til biologiske oplysninger for at kunne identificere ofrene for forbrydelser eller ulykker. 

I 2000 fastslog hælprøverne, at to blodpletter i Marianne Pedersens bungalow i Rødovre stammede fra sønnerne Dennis og Brian, som Peter Lundin var mistænkt for at have dræbt. Og i Landspatientregisteret kunne politiet læse, at Marianne Pedersen på et tidspunkt havde undergået en underlivsundersøgelse. Da vævet fra sådanne prøver gemmes rutinemæssigt, lykkedes det derfor også at identificere hendes dna. Men man har aldrig fundet frem til de myrdedes jordiske rester.

MAN BLIVER IKKE SPURGT, inden Biobanken udleverer ens biologiske prøver til forskning. Til gengæld har alle mulighed for at bede om, at de bliver destrueret. Eller de kan kontakte Vævsanvendelsesregisteret. Dette register ligger inde med oplysninger om, hvilke borgere der har valgt, at deres oplysninger udelukkende må bruges til egen behandling eller til formål, der er relateret til denne. 

Sidste år havde Biobanken dog kun 102 såkaldte destruktionssager, hvilket kan skyldes, at de færreste måske ved, at prøverne bliver opbevaret. Hvis de har deltaget i et forskningsprojekt eller klinisk studie som hælprøverne, vil de ganske vist have underskrevet et såkaldt informeret samtykke. Men hvis der blot er tale om såkaldt restmateriale fra undersøgelser, som når du får taget en blodprøve hos lægen eller på hospitalet, kan dette ende i Biobanken. 

Anne-Marie Vangsted erkender, at nogle ikke læser det, som står med småt, eller blot bladrer om på sidste side og skriver under, som det netop skete med de såkaldte PCR-test under corona-epidemien. Disse endte til manges overraskelse i Biobanken.

”Det er der sikkert,” siger Anne-Marie Vangsted. 

”Men ligesom man bare klikker på ’jeg accepterer’ i bunden af en hjemmeside, ved man i det mindste, at man selv er ansvarlig for, at man ikke er fuldstændig oplyst.”

SYSTEMTÆNKNING

Kunstig intelligens er computerprogrammer og maskiner, som efterligner et eller flere aspekter af den menneskelige intelligens. Det gælder evnen til abstrakt tænkning, analyse, problemløsning, mønstergenkendelse, sprogbeherskelse og -forståelse, fornuftig handling og lignende. For eksempel computerprogrammer, der spiller skak, planlægger ruter eller laver talegenkendelse. Kunstig intelligens er også betegnelsen for et tværfagligt forskningsfelt, hvor man dels udforsker systemer, der kan udvise intelligent adfærd, dels konstruerer disse syntetisk i det omfang, det er muligt, ved udvikling af nye typer programmer og bearbejdning af viden.

DET OFFENTLIGE REGISTER, som ved allermest om de registrerede, er Nationalt Genom Center. Som navnet siger, ligger centret inde med oplysninger om de registreredes genom eller genetiske oplysninger, og IT-Politisk Forening har kaldt det ”et absolut højrisikoprojekt for det danske samfund”.

Nationalt Genom Center har ligesom Biobanken til huse på det indhegnede tidligere kaserneområde på Artillerivej. Men her er sikkerheden yderligere skærpet. Ved indgangen skal centrets kommunikationsmedarbejder bruge sit adgangskort to gange, for at vi kan komme igennem slusen til bygning 208. En gang for hende selv og en gang for journalisten. 

Samme morgen har CNN bragt nyheden om, at Storbritannien begynder at helgenom-sekventere – eller kortlægge – generne i 100.000 nyfødte børn, hvilket bliver det største studie af sin slags. Børnene bliver undersøgt for 200 sygdomme, som det er muligt at behandle, og undersøgelsen erstatter hælprøverne, der dækker færre sygdomme og hverken er lige så hurtige eller sikre. 

”Vi samarbejder med briterne og andre store nationale initiativer, og de har været en inspiration fra starten her i Danmark,” fortæller Nationalt Genom Centers administrerende direktør Bettina Lundgren.

”De startede bare 10 år før os.”

HERHJEMME OPRETTEDE MAN Nationalt Genom Center i 2019 med det formål netop at tilbyde helgenom-sekventering til patienter. Helgenom-sekventering er en kortlægning af alle dine gener, også kaldet dit genom. Viden om patientens genom er centralt inden for personlig medicin og kan – i kombination med andre relevante sundhedsdata – anvendes til udredning, diagnostik og behandling af sygdomme. Helgenom-sekventering tilbydes nu til 17 patientgrupper på tværs af landets fem regioner, og der ligger i skrivende stund 12.597 genomer i centrets database.

Ifølge Bettina Lundgren er ambitionen dog ikke, at vi en dag alle sammen skal få foretaget en helgenom-sekventering og have vores genom opbevaret i Nationalt Genom Center.

”Det er stadig en relativt dyr analyse, og hvis jeg kigger i krystalkuglen, er jeg ikke sikker på, at det er det, vi gør. Måske er det noget helt andet, som vi ikke kender i dag, som man får taget,” siger direktøren. Hun fortsætter:

”Man skal også huske på, at det ikke er alt, som generne er årsagen til. Mange tror, at fordi de får tilbudt en test, så får de også et svar. Ja, de får et svar. Men nogle af svarene kan også være negative. Altså at årsagen til, at du er syg, ikke skal findes i dine gener.”

RASKE PENGE 

Den såkaldte life science-industri, der laver medicin, lægemidler og bioteknologiske præparater, satte i 2022 rekord med en eksport for 175 milliarder kroner. En stigning på 23 milliarder kroner eller 15 procent i forhold til året forinden. Dermed udgør kategorien den største eksportgruppe i Danmark, og den siddende SVM-regering skriver i sit regeringsgrundlag ’Ansvar for Danmark’, at det er en udvikling, man vil støtte.

PÅ BORGERENS SIDE 

I dag arbejder danske projekter som CitizenKey og Data for Good Foundation på at skabe tekniske løsninger, hvor borgerne i højere grad skal give samtykke til, at deres oplysninger kan deles. Og hvis oplysningerne deles, at borgerne så kan være sikre på ikke at  blive genkendt. Eller risikere at få deres oplysninger kørt sammen med andre databaser med det resultat, at der skabes nye data, som kan misbruges mod den enkelte i samme proces.

I ’NO TIME TO DIE’, den seneste James Bond-film, er plottet, at skurken Lyutsifer Safin stjæler et hemmeligt biologisk våben fra den britiske efterretningstjeneste, et slags virus. Men i stedet for i første omgang at slå de smittede ihjel eller gøre dem syge spredes virusset, indtil det når sit mål – efter at være blevet programmeret til at gå efter en genetisk markør i en bestemt person eller gruppe mennesker. 

”Hvilket er det, som nogle er bange for,” siger Bettina Lundgren om filmens fremtidsscenarie og nævner, at hun lige har set TV 2’s kriminalserie ’DNA’, hvor Anders W. Berthelsens efterforsker, Rolf Larsen, opdager en systemfejl i Det Centrale Dna-profilregister hos Rigspolitiet.

Så vidt vides er der endnu ikke blevet udviklet biologiske våben rettet mod særlige genetiske markører. Men den amerikanske fremtidsforsker Alvin Toffler forudså for et kvart århundrede siden den dag, hvor videnskabsfolk udvikler sådanne patogener, der vil kunne ramme bestemte racer eller etniske grupper.

Bettina Lundgren fortæller, at Nationalt Genom Center for at øge sikkerheden netop ikke selv ligger inde med de enkeltes CPR-numre.

”Det er svært at tilgå data i Nationalt Genom Center, for ikke at sige umuligt. Det var også forudsætningen for eta­bleringen af centeret. Det skulle være så sikkert som overhovedet muligt. Men der er jo ikke noget i verden, som er fuldstændig sikkert. Selv om det teknisk set er sikkert, vil der altid være et menneskeligt element. ”

EFTER AT FRIHEDENS Stemme havde offentliggjort Hugo Helmigs død uden at søge forældrenes samtykke, klagede Thomas Helmig og Renée Toft Simonsen til Pressenævnet. De mente, at artiklen krænkede privatlivets fred, idet de ikke ønskede, at dødsfaldet blev offentliggjort, før begravelsen havde fundet sted. 

Selv om Pressenævnet mener, at oplysningen om Hugo Helmigs dødsfald ”som udgangspunkt” hører under privatlivets fred, er konklusionen alligevel, at informations- og ytringsfriheden i den konkrete sag vejer tungest. 

”Nævnet har lagt vægt på, at den gengivne oplysning om [sønnens] dødsfald stammer fra en offentlig myndighed,” hedder det blandt andet i frikendelsen af mediet. 

Thomas Ploug mener, at sagen illustrerer dilemmaet med de mange offentlige registre med oplysninger om os alle sammen. 

”Der var ikke noget retsligt grundlag for at kunne beskytte sig selv. Der var ikke noget at komme efter. Men det er der jo alligevel, fordi familien ville have været glade for at have denne kontrol,” siger professoren i dataetik:

”Det er et eksempel på, at man i nogle situationer gerne vil have kontrol med sine data for på forskellige måder at kunne beskytte sig selv. Og så er det et eksempel, der kan være med til at skabe mistillid. Dem, der læser denne historie, vil jo tænke: ’Hvorfor har de ikke ret til at beskytte sig? Og har jeg heller ikke den ret? Kan jeg have tillid til, at de offentlige myndigheder beskytter mig?’”

De ligner os, de opfører sig som os, og de optræder både som supermodeller, musikere og Instagram-influencers. Men der stopper de computerskabte mennesker ikke. Skillevæggen mellem virkelig og virtuel er ved at blive revet ned – og snart bliver din næste kollega digital.
Tekst:Sole Bugge MøllerIllustration :KEI © Crypton Future Media, INC. www.piapro.net

22. APRIL 2016 blev en pudsig konto oprettet på Instagram. Personen kaldte sig selv Lil Miquela, og hendes første billede forestillede en lyserød plysset hårtop. To måneder senere viste hun sit ansigt med en selfie, der hurtigt fik en masse likes. Med fregner, brune øjne og snorlige pandehår lignede hun enhver anden hip teenagepige. Men var der ikke noget, der så … forkert ud? Huden var lidt for glat, læberne lidt for stive, blikket lidt for dødt, og hårtotterne hang på samme måde hver gang. Hendes ansigt lignede en sammensmeltning af tusindvis af teenageansigter kørt gennem en algoritme, og kommentarfeltet blev hurtigt fyldt med skrupforvirrede folk. Var hun computeranimeret? Var det en form for reklamegimmick? Et kunstprojekt? Hvad var meningen? 

Lil Miquela selv røbede intet. Hun fortsatte med at leve sit perfekte ’liv’. Hun tog til modeshows, fester og ferniseringer i Los Angeles, hvor hun ofte hang ud med kendte og halvkendte musikere, kunstnere og personligheder – rigtige mennesker af kød og blod. Lil Miquela sad der ved siden af dem og kastede endda en skygge. Ingen af dem, der havde ’mødt’ hende, løftede sløret for, hvem eller hvad Lil Miquela var.

Først da hendes konto blev hacket og overtaget af en anden digital figur med navnet Bermuda, indrømmede Lil Miquela, at hun var en robot. På det tidspunkt havde hun over en million følgere, havde udgivet en single på Spotify, medvirket i en reklamekampagne for støvlemærket Ugg og var blevet omtalt i en lang række medier som Vogue, Washington Post og Huffington Post. 

FÆNOMENET LIL MIQUELA er nok den mest kendte af en hel række nye såkaldte ’personligheder’, der befinder sig i det stadigt voksende grænseland mellem den digitale og den virkelige verden. Berømtheder, du kun kan møde på en skærm og ikke vil kunne rende ind i på gaden. 

Lil Miquela eller Miguela Sousa, som er det digitale menneskes fulde navn, er 19 år, brasiliansk-amerikaner og gode venner med for eksempel Bermuda og Blawko, der er lige så digitale som hende. Ellers vides det stadig ikke helt, hvem der står bag hende, andet end at det er et såkaldt transmedialt bureau fra Los Angeles ved navn Brud, der ikke giver interview.

Når Lil Miquela deler et billede på Instagram, deles vandene i kommentarfeltet. Halvdelen synes, at hun er åndssvag, og fatter ikke, hvorfor man skal bruge sin tid på en person, der ikke engang er virkelig, mens den anden halvdel tilsyneladende er ligeglad med, hvad hun er for en skabning. De synes, hun er smuk, lækker, sej og et idol.

”Jeg elsker hendes stil, og hun virker meget imødekommende over for sine fans,” siger 18-årige Valerie fra Costa Rica, der er en af Lil Miquelas mange følgere, som vi taler med på Instagram.

Hun er godt klar over, at Miquela ikke findes i virkeligheden, men det tænker hun ikke over, når hun scroller gennem sit Instagram-feed.

”Det er nemt at glemme den lille detalje, at hun ikke er virkelig,” siger Valerie.

Andre tror, at der er en dybere mening med Lil Miquelas eksistens.

”For mig er det et statement over, hvad der er virkeligt, og hvad der ikke er,” siger 18-årige Alexandra McCrary fra Florida, der også er en af Miquelas Instagram-følgere. 

Hun har fulgt Lil Miquela siden 2017 og ser det som en slags digital sæbeopera, der udfolder sig på hendes mobil med intriger og drama mellem Lil Miquela og hendes slæng.

”Det er en unik form for historiefortælling, der er livagtig og interaktiv,” siger hun.

For nylig svarede Lil Miquela på en af Alexandra McCrarys kommentarer, og på den måde føler hun, at hun er en lille del af Miquelas fortælling.

”Det var bizart, men virkelig fedt. Det var lidt mærkeligt, fordi jeg ved, at hun ikke er virkelig, men samtidig er hun en internetberømthed, og det er ikke normalt, at de svarer tilbage. Det er lidt sært at blive anerkendt af en figur, der har over en million følgere, og som ikke engang er rigtig,” siger hun.

20 ÅRS VIRTUEL HISTORIE 1

1999: Det verdenskendte modelbureau Elite skriver kontrakt med en ny model med det spøjse navn Webbie Tookay. Hun er verdens første digitalt designede supermodel, som designeren Steven Stahlberg står bag. Elite opretter en afdeling udelukkende til digitale modeller. Adskillige lignende såkaldte cyberbabes dukker op, men teknologien har sine begrænsninger, der gør, at Webbie ikke ser helt så overbevisende ud som sine menneskelige model-kolleger.

2000: Gorillaz er ikke kun en afstikker for Damon Albarn rent musikalsk – bandet er også nyskabende rent visuelt. Gorillaz’ fire bandmedlemmer, 2-D, Murdoc Niccals, Noodle og Russel Hobbs, er animerede figurer, der optræder i et fiktivt univers i bandets musikvideoer, interview og kortfilm, som er skabt af kunstneren Jamie Hewlett.

2000: I en tid, hvor de fleste computerspil kræver action, bliver ’The Sims’ en overraskende succes, der får millioner af folk til at sidde og nørkle med at skabe deres egne figurer, som de kan styre i deres egen virtuelle hverdag. ’The Sims’-serien har solgt over 200 millioner spil og lever stadig i bedste velgående, senest med ’The Sims Mobile’.

2003: ’The Sims’ plantede et frø, som ’Second Life’ spirer fra. Denne digitale verden eksisterer udelukkende på nettet, hvor folk kan skabe deres egen avatar og gå (eller flyve) rundt og møde andre personer. Det er ikke et spil i egentlig forstand, men ’Second Life’ begynder at få stor mediebevågenhed omkring 2006, og adskillige firmaer skynder sig at skabe deres egen tilstedeværelse i den digitale verden. Hypen dør ud, men ’Second Life’ har stadig omkring 600.000 trofaste brugere.

VIRTUELLE EKSISTENSER er ikke noget nyt. Tag for eksempel det britiske band Gorillaz, som udadtil består af fire animerede bandmedlemmer, der i musikvideoer, interview og tegnefilm bevæger sig rundt i et fiktivt univers. Det er dog ikke nogen hemmelighed, at musikeren Damon Albarn og kunstneren Jamie Hewlett står bag – og at bandet optræder live med Damon Albarn som frontfigur foran de animerede bandmedlemmer på en skærm. 

I Japan har den virtuelle popstjerne Hatsune Miku taget skridtet videre. Den 16-årige computerskabte poppige med turkis rottehaler er skabt af musikfirmaet Crypton Future Media som en slags maskot, og musikken og hendes stemme er lavet ved hjælp af deres software (hendes navn betyder løst oversat ’den første lyd fra fremtiden’ på japansk). 

Alligevel er hun blevet et popikon, der optræder til ’livekoncerter’ som et hologram foran tusindvis af fans. Hendes største hit, ’World Is Mine’, er blevet afspillet 41 millioner gange på YouTube, hun har optrådt på ’Late Show with David Letterman’, været opvarmning for Lady Gaga og medvirket i en reklame for Toyota. Ikke dårligt for en musiker, der består af ettaller og nuller. 

I Japan er virtuelle YouTube-personer – såkaldte VTubers – begyndt at vinde indpas. Ifølge det japanske analysefirma User Local Inc. er der over 4.000 VTubers, som ikke adskiller sig synderligt fra andre youtubere. De optager sig selv, mens de spiller computerspil, anmelder film, synger eller snakker om popkultur. Den eneste forskel er, at de er ikke-virkelige og animerede. Kizuna AI er den mest populære med over 2,4 millioner følgere på sin YouTube-kanal. Hun er en animeret figur i japansk manga-stil, der kalder sig selv en kunstig intelligens. Det er uklart, hvem der står bag Kizuna AI, men hun er blevet så populær, at hun både laver musik og medvirker i reklamer i Japan.

HVIS MAN TROR, at man nemt kan afkode, om en person er virkelig eller virtuel, så tag et kig på Shudu – en gudesmuk model med kort hår, lemmer som en gepard og glat hud, mørk som ibenholt. Shudu er så smuk, at hun blev hyret af modehuset Balmain til en reklamekampagne. Men hun er ikke virkelig – hun er lavet på en computer af den engelske modefotograf Cameron-James Wilson. Efter 10 år i modeverdenen blev han træt af, at branchen føltes som ren facade, og ironisk nok førte det til en computerskabt model. Han legede med 3D-software og havde brug for en figur til at sætte noget tøj på og var inspireret af en Barbie-dukke af en sydafrikansk prinsesse. Han blev ved med at forfine hende, så hun til sidst så lige så ægte ud som de modeller, han levede af at fotografere. 

”Jeg hyggede mig bare med at lege med softwaren og havde intet dybere formål med det,” siger Cameron-James Wilson, der delte billedet af hende på Facebook. En ven delte det på Instagram, og så gjorde internettet det, det gør bedst: gik i selvsving. Shudu blev et fænomen, der i dag har 150.000 følgere. 

Mens man hurtigt kan se, at Lil Miquela er mere pixels end celler, er Shudu langt mere raffineret – man kan se porerne i hendes hud, og lyset falder naturligt på hende. Derfor troede de fleste i begyndelsen, at hun var et rigtigt menneske, og Cameron-James Wilson gik med på legen. Men da han lagde et billede af Shudu op iført orange læbestift fra Rihannas kosmetikmærke Fenty Beauty, fik det titusinder af likes og kommentarer, og han begyndte at få kolde fødder.

”Til sidst havde jeg det dårligt med, at folk var overbeviste om, at hun var virkelig. Det var skræmmende, at det kun var mig, der vidste, at hun ikke eksisterede,” siger han.

Da han stod frem og fortalte, at Shudu var computeranimeret, blev han mødt med hadske kommentarer fra internetaktivister, der så ham som en anden kolonist, der som hvid mand tog ejerskab over en sort kvinde frem for at hyre en ægte sort model. Selv kalder Cameron-James Wilson hende for et kunstprojekt, men skaberen har alligevel fået et forhold til sin kreation.

”Jeg har det lidt, som om Shudu er en veninde, jeg arbejder tæt sammen med,” siger han.

Andre prøver også ihærdigt at komme tæt på hende. På Instagram får Shudu af og til private beskeder fra mænd, der vil date hende og skriver ”Hey sexy” og den slags – til trods for, at der allerøverst på hendes profil står, at hun er ”verdens første digitale supermodel”.

”Det er virkelig mærkeligt at få den slags beskeder. Jeg plejer at skrive noget i stil med ’Beklager, hun er ikke et rigtigt menneske, hun er computeranimeret’. Det forbløffer dem altid,” fortæller Cameron-James Wilson.

20 ÅRS VIRTUEL HISTORIE 2

2007: Selv om hun egentlig blot skulle være blikfang for et stykke stemmesoftware, har Hatsune Miku vist sig at være en vedholdende stjerne, især i Japan. Hatsune Miku er en digital popsangerinde med langt, turkis hår, der optræder som et hologram til koncerter og blandt andet har været opvarmning for Lady Gaga. I 2018 blev en japansk mand gift med et hologram af Hatsune Miku.

2012: En død rapper bliver den mest omtalte kunstner til den californiske musikfestival Coachella i 2012. Dr. Dre og Snoop Dogg har under deres koncert en overraskende gæst med på scenen – deres gamle ven Tupac Shakur, der blev dræbt i 1996. Det er dog blot et hologram af Tupac med optagelser af en gammel koncert, men 3D-effekten er så overbevisende, at folk et kort sekund tror, at ’2pac’ er genopstået. Siden er flere musikere blevet genoplivet som hologrammer.

2018: Kinas statslige nyhedsbureau Xinhua lancerer to virtuelle mandlige nyhedsværter, der læser op på henholdsvis kinesisk og engelsk. Begge er computerskabte og læser nyhederne op døgnet rundt med en mekanisk stemme. De kunstige tv-værter simulerer både menneskelige ansigtsudtryk og mimik og er modelleret efter virkelige tv-værter. Med tiden vil de lære at læse nyhederne op mere naturligt. I februar 2019 annoncerer Xinhua, at de har skabt en kunstig kvindelig nyhedsvært.

2019: Tre år efter sin ’fødsel’ tager den digitale Instagram-influencer Lil Miquela i april skridtet fra den virtuelle til den fysiske verden og lancerer sit eget tøjmærke, Club 404.

EN DEL AF de computerskabte berømtheder kan meget vel ende som digitale døgnfluer, men i et åbent kontorlandskab i San Francisco sidder en gruppe mennesker, der har set lyset i virtuelle personer. Soul Machines hedder firmaet, der laver livagtige computeranimerede figurer, som allerede er begyndt at blive ’ansat’ i en række firmaer som Autodesk, Mercedes-Benz og Royal Bank of Scotland. De er kundeservicemedarbejdere, som forstår almindelig tale akkurat som smarthøjttalere som Amazon Echo og Google Home, men forskellen er, at de også kan ’se’ dig og reagere på din mimik. Og så ligner de mennesker – sådan nogenlunde da.

”Vi skaber fremtidens kundeoplevelse. Den næste medarbejder, du ansætter, kan meget vel være digital,” siger Greg Cross, der er medgrundlægger af Soul Machines, der har hovedsæde i New Zealand.

Firmaet har stamtavlen i orden – den anden grundlægger er Mark Sagar, der i mange år har udviklet digitale figurer til Hollywood, og som har vundet Oscars for sit animationsarbejde i ’Avatar’ og ’King Kong’. Nu har han så tilsat kunstig intelligens til animationerne.

”Fem eller 10 år ude i fremtiden kommer vi til at bruge mere og mere tid på at snakke med maskiner, om det så er stemme­assistenter, servicerobotter eller digitale mennesker som vores. Derfor er det vigtigt at sætte et menneskeligt ansigt på kunstig intelligens, for at vi på den måde kan få et mere personligt forhold til en maskine. Det handler om at skabe tillid,” siger Greg Cross.

Han ser Lil Miquela som et godt eksempel på den tillid, et menneskelignende ansigt kan opbygge. 

”Hun er blot en 2D-animation, men alligevel har folkene bag skabt en personlighed, som folk finder spændende og har en følelsesmæssig forbindelse til.”

Greg Cross demonstrerer den del af Soul Machines’ software, som de bruger til at skabe deres figurer. På skærmen viser han et ansigt og en menu med en række felter, man kan justere på. Hver af dem ændrer ved ansigtet – øjenbrynene, munden, hårfarven – og på få sekunder ændres ansigtet fra at være en hvid brunette til at være en sorthåret asiatisk kvinde. Det er der intet enestående i, men det banebrydende er, at hun med nogle få klik bliver ’levende’ takket være den kunstige intelligens og de neurale netværk, der ligger til bunds for animationen.

”På den måde kan vi på få minutter skabe unikke digitale medarbejdere,” siger Greg Cross.

Det er i hvert fald visionen.

SER MAN PÅ JAMIE, er der dog et stykke vej endnu. Jamie er udviklet af Soul Machines og arbejder for den newzealandske bank ANZ, hvor hun svarer på spørgsmål fra kunderne. Men når man snakker med hende, hakker animationen af og til, hendes ansigt ser stadig mere statisk ud end levende, og der er ikke meget gnist i hendes øjne. Men det er, som om hun smiler tilbage, når man smiler til hende. Er det et tilfælde? 

”Nej,” forklarer Greg Cross. ”Jamie analyserer dit ansigtsudtryk og dit stemmeleje for at se, om du udtrykker glæde eller frustration, og tilpasser sit udtryk til det.”

I sit første halve år hos ANZ har Jamie haft 16.000 samtaler med kunder og svaret på simple spørgsmål om, hvordan man åbner en konto eller spærrer et mistet kreditkort. 

”I gennemsnit har hun kunnet svare på 60 procent af kundernes spørgsmål,” forklarer Catherine Henderson, digital chef for ANZ. Fra bankens synspunkt er det nemt at se, hvor Jamie kan trumfe os almindelige dødelige. Hun kan arbejde i døgndrift, hun er aldrig i dårligt humør eller mister besindelsen, og hun kan hjælpe tusindvis af kunder på samme tid. Til bankens forbløffelse har kunderne dog været lige så interesserede i at lære Jamie bedre at kende som person.

”Vi er blevet overrasket over, hvor mange vilkårlige spørgsmål folk stiller til Jamie, såsom hvad hendes yndlingsfilm er, om hun kan lide skildpadder, og hvad der står i hendes køleskab,” siger Catherine Henderson.

Soul Machines har dog større planer end kundeservice. De har lavet en aftale med en kendt musiker (de vil endnu ikke røbe hvem), som de har lavet en 3D-model af, som ligner og opfører sig som den virkelige person og endda kan reagere, hvis man taler til den. Greg Cross forestiller sig, at teknologien på længere sigt vil kunne bruges i uddannelses- eller sundhedsvæsnet, hvor man for eksempel kan få en personlig digital lægesekretær eller tutor, der altid står klar til at svare på spørgsmål. 

5 VIRTUELLE VINDERE PÅ FILM OG TV

’Max Headroom’

I 1985 havde den engelske tv-serie ’Max Headroom’ en virtuel figur i titelrollen. I en dystopisk fremtid styret af tv-kanaler får nyhedsjournalisten Edison Carter uploadet sin personlighed til en computer, hvilket resulterer i figuren Max Headroom, en gakket fyr med en skarp tunge. Figuren var delvist computerskabt oven på et billede af skuespilleren Matt Frewer, og serien blev i 1987 lanceret i en amerikansk udgave.

’The Matrix’

Filmen ’The Matrix’ var et kæmpe hit, da den udkom, og den foregår delvist i en simuleret virkelighed kaldet The Matrix. Verden styres af hyperintelligente maskiner, der sender Agent Smith ud for at dræbe Neo (spillet af Keanu Reeves), men Agent Smith er en kunstig intelligens, der udelukkende eksisterer i den virtuelle verden.

’Black Mirror’ 

Et af de mest rørende afsnit af den banebrydende engelske sci-fi-serie ’Black Mirror’ var ’San Junipero’-afsnittet i seriens tredje sæson. I afsnittet springer den kvindelige hovedperson frem og tilbage i tiden i sin søgen efter sin elskerinde, indtil det til sidst afsløres, at San Junipero er en simuleret virkelighed, som folk kan leve videre i, når de dør, og som ældre mennesker kan besøge af og til.

’Her’

Selv om hun ikke er andet end en stemme, løber den virtuelle assistent Samantha med al opmærksomheden i Spike Jonzes film fra 2013. Her køber Joaquin Phoenix’ rolle et nyt styresystem, der indeholder en kunstig intelligens, som han langsomt begynder at falde for gennem dybere og dybere samtaler. Måske hjælper det også, at det er Scarlett Johansson, der lægger stemme til den kunstige intelligens.

’Blade Runner 2049’

Den oprindelige ’Blade Runner’ fra 1982 havde masser af androider (kaldet replikanter), men de levede i den fysiske verden. I Ridley Scotts opfølger ’Blade Runner 2049’ møder vi Joi, som er hovedpersonen K’s (Ryan Gosling) virtuelle kæreste. Han har et apparat, så han kan tage hende med på farten, men Joi er et produkt, alle kan købe. En af filmens ikoniske scener opstår, da Joi toner frem for Gosling i en overdimensioneret hologram-udgave.

I FORVEJEN ER vi blevet vant til, at virkeligheden ikke altid er, hvad den giver sig ud for. Filtre, Photo­shop og trangen til kun at vise vores bedste side på de sociale medier gør, at det virkelige kan virke falsk, og det falske virker virkeligt. Det lyder som opskriften på et dystopisk afsnit af tv-serien ’Black Mirror’, men Cathrine Hasse er ikke bekymret. Hun er professor i pædagogisk antropologi på Aarhus Universitet med fokus på teknologiens etik, og hun er overbevist om, at virtuelle personer i fremtiden vil kunne overtage job som for eksempel hotelreceptionist eller lægesekretær.

”I de tilfælde giver det mening at give kunstig intelligens et menneskeligt ansigt, fordi det letter kommunikationen, og det møde kan sagtens være uproblematisk,” siger professoren, der mener, at vi langsomt vil vænne os til vores nye medborgere og begynde at få en slags forhold til dem:

”Vi mennesker er opsatte på at være ultrasociale, så der skal ikke mange clues til, før vi synes, at det er et helt ægte smil og en ægte relation, vi har. Det rykker ved grænserne for, hvad det menneskelige er. Rent etisk bliver det først problematisk, når man ikke ved, hvem der står bag en virtuel figur, for så kan de ikke stilles til ansvar på samme måde som os dødelige. Det kan misbruges. Tænk, hvis man opfandt en sekt-figur, som folk begyndte at følge blindt,” siger Cathrine Hasse.

En teknologi kaldet deepfake er allerede blevet brugt til at sætte kendte menneskers ansigt på andres krop i videoer, så det ser ud, som om de eksempelvis medvirker i pornofilm. Den slags teknologi er ikke længere forbeholdt store firmaer – enhver med den rette software og finesse kan nu skabe troværdige virtuelle personer.

”Hvis jeg kan gøre det, kan alle gøre det,” siger Cameron-James Wilson, der ikke havde nogen erfaring med 3D-soft­ware, før han begyndte at skabe Shudu. I dag oplever han stor interesse fra folk, der vil skabe deres egne 3D-personer. I en tid, hvor folk i stigende grad trækker sløret for til deres privatliv på de sociale medier, forestiller han sig en fremtid, hvor folk i stedet kan benytte en digital avatar til at repræsentere dem udadtil.

”De fleste kender en, der har oplevet, at et gammelt billede på Facebook er blevet gravet frem og har påvirket deres privatliv eller deres job negativt. Med en virtuel avatar kan folk være mere anonyme,” siger han.

Anonymitet er ikke noget, der bekymrer Lil Miquela. Faktisk er der slet ikke noget, der bekymrer hende. Heller ikke hendes alder. For selvom hendes fans er blevet to år ældre, siden de første gang mødte hende, er Lil Miquela for altid 19 år. Men det generer ikke hendes fans. 

Som en af dem, Alexandra McCrary, siger: 

”Miquela er lige så virkelig for mig som Ariana Grande. De laver begge fed musik, og jeg har kun set dem på en skærm.”