- YouTubes forslag algoritmer kaldes af The New York Times i en ny artikel.
- I henhold til forskning udført afTiderne, YouTube's algoritmer foreslår grænseindhold til dem, der søger pædofile videoer.
- Derudover kan algoritmerne også skubbe grænseindhold til dem, der ikke nødvendigvis søger det.
I går,The New York Times offentliggjorde en alarmerende artikel, der fokuserer på, hvordan YouTubes algoritmer til at foreslå nyt indhold utilsigtet kan hjælpe pædofile. Faktisk antyder nogle oplysninger, der indsamles fra forskning for stykket, at algoritmerne endda kan hjælpe med at skubbe pædagogisk indhold til dem, der ikke nødvendigvis leder efter det.
Kort efter, at artiklen var landet, postede YouTube en ny post til sin blog, som indirekte adresserer artiklen. I YouTube-indlægget beskriver virksomheden de handlinger, det har taget i løbet af det seneste år for at bekæmpe pedofili på platformen, samt de forskellige bestræbelser, det har gjort for at beskytte børn.
YouTube-indlægget tilbyder dog ingen nye strategier; snarere opsummerer den blot sine forskellige nuværende bestræbelser som en forsikring.
I den artikel, der vises iThe New York Times, forfatterne fortæller historien om en mor, der med glæde accepterede at give hendes 10-årige datter mulighed for at sende en video til YouTube af sig selv og en ven, der spillede i poolen i baghaven. Moren var chokeret over senere at finde denne video - der blot viser to unge piger, der svømmer og slapper af ved poolen i deres todelt badedragt - havde ramt over 400.000 visninger.
Videoen blev til dels så populær på grund af YouTubes suggestionsalgoritmer. Disse algoritmer er ansvarlige for at foreslå indhold til seerne baseret på andet indhold, de har set. På en måde forkyndte YouTube pædofile til denne video af børnene, der legede i poolen.
Pedofile behøver ikke at søge efter grænseindhold på YouTube, fordi YouTube simpelthen vil foreslå det for dem.
Derudover fandt et brasiliansk forskerteam, at YouTubes algoritmer har en tendens til at skubbe stadig mere ekstremt indhold med sine forslag. For eksempel kunne en person begynde at se en video om, hvordan man reparerer en cykel, og derefter se en video af folk, der faktisk cykler. Derefter kunne YouTube foreslå, at de ser en video af cyklister, der styrter ned, og derefter andre køretøjer styrter ned. Inden seeren ved det, får de forslag til voldeligt og foruroligende indhold - alt sammen skyldes en video om, hvordan man reparerer en cykel.
Se også: YouTube-originaler er gratis for alle at se, bare med annoncer
Tilsvarende kan swimmingpoolvideoen knyttes til et suggestivt voksent indhold. En person kunne tænke sig at se erotisk, men lovligt indhold på YouTube - for eksempel en bikinimodells rulle.Dette indhold kan føre til forslag til andet erotisk badedragtindhold, som gradvist fører til videoer med yngre og yngre modeller. Til sidst fører det til næsten en halv million udsigter over to ti-årige i en pulje.
YouTube har et alvorligt problem på hænderne, hvilket kræver, at virksomheden handler på etik på bekostning af overskud.
HvornårTiderne informeret YouTube om dette spørgsmål vedrørende swimmingpoolvideoen, fjernede virksomheden flere relaterede videoer, men lod mange andre op, herunder nogle, der ser ud til at være fra falske konti. Den justerede også sine forslag, så andet grænseindhold ikke vises. YouTube benægtede imidlertid at gøre dette med vilje, men i stedet hævdede, at algoritmen fortsætter med at lære.
Nu, i sit svar blog-indlæg, fremhæver YouTube sin nylige indsats for at holde børnene trygge på platformen, herunder fjerne kommentarer fra næsten alle videoer med mindreårige, begrænse mindreårige fra live streaming uden en voksen til stede i videoen og begrænse anbefalinger som f.eks. dem beskrevet afTiderne.
YouTube har dog ikke foretaget den store ændring, der ville forhindre hele dette problem: slukke for forslag til videoer med mindreårige. Selvom YouTube har muligheden for at gøre dette ganske let, har det ikke gjort det, sandsynligvis fordi videoforslag kører omkring 70 procent af visningerne. Det er en masse indtægter, der står på spil.
Efter den uventede popularitet af sin datters video sagde moren, der godkendte den, at hun ikke længere vil tillade hendes datter at placere noget på platformen.
