Kredit: Shutterstock 
Ansigtsgenkendelsesteknologi er overalt omkring os - det er ved koncerter, lufthavne og lejlighedsbygninger. Men dets brug af retshåndhævende myndigheder og retssale giver anledning til særlige bekymringer om privatlivets fred, retfærdighed og partiskhed, ifølge Jennifer Lynch, direktør for overvågningsretssager hos Electronic Frontier Foundation. Nogle undersøgelser har vist, at nogle af de store ansigtsgenkendelsessystemer er unøjagtige.Amazons software fejlidentificeret 28 medlemmer af Kongressen og matchede dem med kriminelle mugshots. Disse unøjagtigheder plejer at være langt værre for farvede og kvinder.
I mellemtiden udvikler og sælger virksomheder som Amazon, Microsoft og IBM også 'følelsesgenkendelses'-algoritmer, som hævder at identificere en persons følelser baseret på deres ansigtsudtryk og bevægelser. Men eksperter i ansigtsudtryk, som Lisa Feldman Barrett, professor i psykologi ved Northeastern University, advarer om, at det er ekstremt usandsynligt, at disse algoritmer kan opdage følelser baseret på ansigtsudtryk og bevægelser alene.
Kunstig intelligens dukker også op i retssale i form af 'risikovurderinger' - algoritmer forudsiger, om nogen er i høj 'risiko' for ikke at dukke op til retten eller blive arresteret igen. Undersøgelser har fundet ud af, at disse algoritmer ofte er forkert og baseret på fejlbehæftede data.
Og selvom vi har en tendens til at se maskiner og algoritmer som 'race neutrale', siger Ruha Benjamin, professor i afroamerikanske studier ved Princeton University, at de er programmeret af mennesker og kan ende med at forstærke skævhed i stedet for at fjerne det fra politi og strafferet. . Samtidig er Sharad Goel, professor i Management Science and Engineering ved Stanford University, ved at udvikle et risikovurderingsværktøj, der redegør for forskellige kilder til bias. Han mener, at der er en måde at bruge AI som et værktøj til mere lige resultater i strafferetsplejen.
Disse gæster slutter sig til Ira for at tale om, hvordan AI styrer beslutninger fra politiafdelinger og retssale over hele landet – og om vi bør være bekymrede.
Ansigtsgenkendelse 101
Hvordan fungerer ansigtsgenkendelsesteknologi?
Tænk på ansigtsgenkendelse som dit 'ansigtsaftryk'. Et computerprogram analyserer din unikke ansigtsstruktur, såsom afstanden mellem din næse og læber, og kortlægger disse nøgletræk på et eksisterende billede - eller almindeligvis mod en database med eksisterende billeder - til sammenligning. Teknologien kan også bruges i 'realtid'. For eksempel kan visse politiafdelinger scanne forbipasserendes ansigter ved hjælp af et overvågningskamera. Men dit ansigtsaftryk er det mindre præcise end et fingeraftryk, når teknologien bruges i realtid eller på store databaser.
Hvordan bruges det?
Ansigtsgenkendelse bruges til at identificere dig - og det kan betyde mange ting. iPhone X bruger teknologien til at låse din smartphone op, når du blot ser på skærmen. Ansigtsgenkendelse er også blevet et værktøj for retshåndhævelse. U.S. Immigration and Customs Enforcement har udvundet DMV-databaserne af stater, der giver kørekort til papirløse immigranter, og det lykkedes kinesiske myndigheder lokalisere og anholde en mand i en menneskemængde på 60.000 til en koncert. Annoncører er også begyndt at dykke ned i teknologien. Dusinvis af Westfield indkøbscentre i Australien og New Zealand bruger digital reklametavler med indbyggede kameraer, der kan bestemme seernes alder, køn og endda humør – og kan fremtrylle skræddersyede reklamer på få sekunder.
Hvor mange mennesker er der i en ansigtsgenkendelsesdatabase?
Det korte svar: Meget. Men det er næsten umuligt at bestemme et nøjagtigt antal. Men vi ved, at der er over 117 millioner mennesker i retshåndhævende ansigtsgenkendelsesnetværk, ifølge en rapport fra Georgetown Law Center on Privacy and Technology. Derudover fandt Government Accountability Office, at FBI i en fireårig periode gennemført over 118.000 ansigtsgenkendelsessøgninger på sin database, og Microsoft Celeb – det største offentligt tilgængelige datasæt til ansigtsgenkendelse i verden – indeholder over 10 millioner billeder af næsten 100.000 individer.
Hvordan kan jeg finde ud af, om jeg er i en af disse databaser?
Du kan ikke – og en ud af hver anden amerikansk voksne er i et retshåndhævende netværk til ansigtsgenkendelse. Du har måske allerede ubevidst givet samtykke til udgivelsen af de billeder, du har uploadet til sociale medier eller datingsider . I betragtning af mængden af møder alle har med ansigtsgenkendelsesteknologi på daglig basis, er du sandsynligvis det.
Hvad er mine privatlivsrettigheder? Og er der nogen byer eller stater, der gør noget ved dette?
Når det kommer til, hvordan retshåndhævelse bruger ansigtsgenkendelse, har flere byer forbudt teknologien, men der er ingen national standard. Men en håndfuld stater har begrænsede restriktioner for, hvordan private virksomheder kan indsamle og bruge data til ansigtsgenkendelse. Illinois blev den første stat til at vedtage lovgivning, der kræver bekræftende samtykke fra kunder, for at virksomheder kan indsamle og opbevare biometriske data. Texas og Washington har udviklet lignende love. men Illinois Biometric Information Privacy Act (BIPA) er den eneste, der giver enkeltpersoner ret til at anlægge sag mod virksomheder for overtrædelser. For nylig afgjorde en føderal domstol, at brugere nu kan sagsøge Facebook for ulovlig brug af ansigtsgenkendelsesteknologi. Derudover har E.U. planlægger større reguleringer.
Yderligere læsning:
- Læs hele rapporterne vedr ureguleret politibrug af ansigtsgenkendelse , og problemer med data og teknologi fra Georgetown Law Center on Privacy & Technology.
- Lær mere om Amazons involvering i udvikling af ansigtsgenkendelsessoftware til retshåndhævelse.
- Dyk ned i en Pew Research Center-rapport om offentlighedens opfattelse af ansigtsgenkendelsesteknologi.
- Lære hvordan EU håndterer regulering af biometriske data.
- Læs et argument i MIT Technology Review på farerne ved at bruge historiske data til at træne risikovurderingsværktøjer.
- Lær mere om 20 milliarder dollars industri af følelsesmæssig detektion AI.