Problemet med computerovervågning

Problemet med computerovervågning

Det følgende er et uddrag fra Bruce Schneiers Data og Goliat .

Et af de almindelige forsvar for masseovervågning er, at det bliver udført af algoritmer og ikke mennesker, så det kompromitterer ikke vores privatliv. Det er simpelthen forkert.



Sondringen mellem menneskelig og computerovervågning er politisk vigtig. Lige siden [Edward] Snowden forsynede journalister med et væld af tophemmelige dokumenter, har vi lært om alle mulige NSA-ordspil. Ordet 'samle' har en helt særlig definition, ifølge forsvarsministeriet. Det betyder ikke samle; det betyder, at en person ser på eller analyserer dataene. I 2013 sammenlignede direktør for National Intelligence James Clapper NSA's bunke af akkumulerede data med et bibliotek. Alle de bøger er gemt på hylderne, men meget få bliver faktisk læst. 'Så opgaven for os i interessen for at bevare sikkerheden og bevare borgerlige frihedsrettigheder og privatlivets fred er at være så præcise, som vi overhovedet kan være, når vi går ind i det bibliotek og leder efter de bøger, vi skal åbne op og faktisk læse.'

Tænk på din ven, der har tusindvis af bøger i sit hus. Ifølge denne latterlige definition er de eneste bøger, han kan hævde at have samlet, dem, han har læst.

Dette er grunden til, at Clapper hævder, at han ikke løj i en høring i Senatet, da han svarede 'nej' på spørgsmålet: 'Indsamler NSA overhovedet nogen form for data om millioner eller hundreder af millioner af amerikanere?' Fra militærets perspektiv er det ikke overvågning, før et menneske ser på dataene, selvom algoritmer udviklet og implementeret af forsvarspersonale eller entreprenører har analyseret dem mange gange.

Det er ikke første gang, vi har hørt dette argument. Det var centralt for Googles forsvar af sin kontekstfølsomme annoncering i de tidlige dage af Gmail. Googles computere undersøger hver enkelt e-mail og indsætter en indholdsrelateret annonce i sidefoden. Men ingen mennesker læser disse Gmail-beskeder, kun en computer. Som en Google-chef fortalte mig privat i de tidlige dage af Gmail: 'At bekymre dig om, at en computer læser din e-mail, er som at bekymre sig om, at din hund ser dig nøgen.'

Men det er det ikke, og hundeeksemplet demonstrerer hvorfor. Når du bliver overvåget af en hund, er du ikke særlig bekymret af tre grunde. Hunden kan ikke forstå eller behandle det, den ser, på samme måde som en anden person kan. Hunden vil ikke huske eller basere fremtidige beslutninger på, hvad den ser, på samme måde som en anden person kan. Og hunden er ikke i stand til at fortælle nogen – ikke en person eller en anden hund – hvad han ser.

Når du bliver overvåget af en computer, gælder ingen af ​​den hundeanalogi. Computeren behandler det, den ser, og baserer handlinger på det. Du får måske at vide, at computeren ikke gemmer dataene, men du har ingen sikkerhed for, at det er sandt. Du får måske at vide, at computeren ikke vil advare en person, hvis den opfatter noget af interesse, men du kan ikke vide, om det er sandt. Du har ingen måde at bekræfte, at ingen person vil opfatte hvilken beslutning computeren træffer, og at du ikke vil blive dømt eller diskrimineret på baggrund af, hvad computeren ser.

Når en computer gemmer dine data, er der desuden altid en risiko for eksponering. Privatlivspolitikker kan ændre sig i morgen, hvilket tillader ny brug af gamle data uden dit udtrykkelige samtykke. En hacker eller kriminel kan bryde ind og stjæle dine data. Den organisation, der har dine data, kan bruge dem på en ny og offentlig måde eller sælge dem til en anden organisation. FBI kunne sende et nationalt sikkerhedsbrev til dataejeren. På den anden side er der ikke en domstol i verden, der kan få en beskrivelse af dig nøgen fra din hund.

Data og Goliath: De skjulte kampe for at indsamle dine data og kontrollere din verden

Købe

Den primære forskel mellem en computer og en hund er, at computeren kommunikerer med andre mennesker, og hunden gør det ikke - i det mindste ikke godt nok til at betyde noget. Computeralgoritmer er skrevet af mennesker, og deres output bruges af mennesker. Og når vi tænker på computeralgoritmer, der overvåger os eller analyserer vores personlige data, skal vi tænke på folkene bag disse algoritmer. Uanset om nogen faktisk ser på vores data eller ej, gør netop de fakta, som (1) de kunne, og (2) de styrer de algoritmer, der gør, det til overvågning.

Du ved, at dette er sandt. Hvis du troede på, hvad Clapper sagde, ville du ikke have noget imod et kamera i dit soveværelse - så længe der var regler for, hvornår politiet kunne se på optagelserne. Du ville ikke have noget imod at blive tvunget til at bære en offentligt udstedt lytteanordning 24/7, så længe dine bureaukratiske monitorer fulgte de samme regler. Hvis du gør indsigelse, er det fordi du indser, at privatlivets skade kommer fra den automatiske indsamling og algoritmiske analyse, uanset om en person er direkte involveret i processen eller ej.


Uddrag fra Data og Goliath: De skjulte kampe for at indsamle dine data og kontrollere din verden af Bruce Schneier. Copyright © 2015 af Bruce Schneier. Med tilladelse fra udgiveren, W. W. Norton & Company, Inc. Alle rettigheder forbeholdes.