Kredit: ShutterstockNår du bruger internettet, tænker du så på de ting, du er ikke ser? Tag Facebook, for eksempel: Det er en platform, der udelukkende er afhængig af, at brugerne genererer indhold. Der er ingen pause mellem du uploader et billede, og det vises for dine kontakter at se. Og alligevel, hvor ofte har du set noget foruroligende – for eksempel grafiske seksuelle billeder eller voldelige videoer fra krigszoner rundt om i verden? Hvis svaret er 'aldrig', kan du sikkert takke en indholdsmoderator, en af de mange medarbejdere hos sociale medievirksomheder stille veto mod billeder som ikke er i overensstemmelse med platformens indholdsretningslinjer.
For at give dig en idé om omfanget af, hvor meget brugergenereret indhold, der er at sortere igennem, er her en statistik: I 2014 uploadede YouTube-brugere 100 timers videoindhold til webstedet minut. Og mens der har været fremskridt inden for A.I. i stand til at opsnuse stødende eller skadeligt indhold såsom børnepornografi, racisme eller online-ekstremisme (Science Friday talte med udvikleren af et sådant værktøj tidligere på året) falder det meste af arbejdet med at granske stadig til mennesker – og et stigende antal af dem, ifølge nogle eksperter.
Men hvordan udholder folk et job, der kræver, at de ser på og træffer beslutninger om billeder, der er ulovlige eller for grafiske for os andre? To tidligere indholdsmoderatorer hos Microsoft sagsøger virksomheden og hævder, at arbejdet gav dem PTSD. (Microsoft har svaret, at dets indholdsmoderatorer får værktøjer til at minimere den følelsesmæssige skade, såvel som virksomhedspålagt rådgivning.)
Los Angeles-baserede Rochelle LaPlante er en sådan arbejder. Hun fortæller, at som selvstændig entreprenør er hendes arbejde lavtlønnet. Hun skal også ofte vælge mellem overhovedet at arbejde og arbejde for en virksomhed, der har grafiske billeder at moderere.
Sarah T. Roberts, assisterende professor i informationsstudier ved University of California-Los Angeles, har forsket i indholdsmoderatorers arbejde årevis. Hun beskriver den voksende outsourcing af indholdsmoderering — og følelsen der følger med — til mindre velhavende nationer, og hvorfor vi ikke har erstattet disse arbejdere med kunstig intelligens eller automatisering.