Google heeft aan de Amerikaanse Congrescommissie kenbaar gemaakt dat in het eerste kwartaal van 2019 ruim een miljoen YouTube-video's zijn beoordeeld die potentieel terroristische inhoud zouden hebben. 90.000 van de beoordeelde video's zijn uiteindelijk van YouTube verwijderd omdat deze de beleidsregels rondom content over terrorisme overtraden, zo meldt Reuters.
Volgens Google houdt een team van 10.000 mensen zich bezig met de beoordeling van video's, wat het bedrijf 'honderden miljoenen dollars' kost. Dit team moet voorkomen dat live-streams waarin een terroristische daad zichtbaar is uitgezonden kan worden of video's van terroristische daden of verheerlijking van terrorisme gepubliceerd kunnen worden. Het probleem waar alle tech-bedrijven mee te maken hebben is dat video's pas beoordeeld kunnen worden tijdens- of na publicatie, waardoor video's doorgaans enige tijd online staan en elders al 'gemirrored' kunnen worden.
Vanwege de recente aanslagen in Christchurch (Nieuw Zeeland), die live via Facebook werd gestreamd door de aanslagpleger, staan tech-bedrijven de laatste tijd extra onder druk om ongewenste video's zo snel mogelijk op te sporen en offline te halen. Google zet naast een groot team mensen ook algoritmen in die inhoud van video's beoordelen en video's die potentieel de beleidsregels overtreden melden voor een menselijke beoordeling. Ook gebruikers van onder andere YouTube, Facebook en Twitter kunnen video's waarvan zij vinden dat deze de beleidsregels overtreden melden.
