Apple heeft bevestigd dat het bedrijf van plan is om het algoritme waarmee kinderporno opgespoord kan worden op Apple-apparaten internationaal uit te rollen. Volgens Apple zal de scanner uitgerold gaan worden in landen waar dit nu al juridisch mogelijk is. Een uitrol in Europa is vooralsnog niet aan de orde omdat dit onder de huidige AVG-wetgeving niet mogelijk is. De kans is echter aanwezig dat hiervoor een aanpassing in de wetgeving gemaakt gaat worden. Dit gebeurde eind 2020 ook al voor Facebook, die anders niet in staat was kinderporno op te sporen op Facebook-profielen van Europese gebruikers.
Begin augustus kondigde Apple aan dat het bedrijf een algoritme uitrolt op Amerikaanse Apple-apparaten die in staat is om kinderporno op te sporen op deze apparaten. Daartoe wordt beeldmateriaal dat aanwezig is op het apparaat vergeleken met beelden in de Child Sexual Abuse Material (CSAM)-imagehashes database van het Amerikaanse National Center for Missing and Exploited Children (NCMEC). Het proces maakt gebruik van de cryptografische technologie private set intersection, waardoor de checks kunnen worden uitgevoerd zonder dat het resultaat hoeft te worden getoond.
Nadat het systeem genoeg matches vindt, wordt het account gevlagd. Daarna inspecteert Apple het account zelf en wordt het account in het geval van een daadwerkelijke match op non-actief gezet en een rapport gestuurd naar het NCMEC. Gebruikers kunnen in beroep gaan als ze vinden dat hun account ten onrechte is verbannen.
Omstreden
De kinderpornoscanner is omstreden omdat het algoritme ook gebruikt kan worden voor de opsporing van andere type content. In landen waar de mensenrechten in het geding zijn, kan de scanner bijvoorbeeld gebruikt worden om foto's en video's te detecteren van demonstraties of activiteiten die verboden zijn in het betreffende land. Privacy- en beveiligingsexperts zijn bang dat landen Apple gaat verplichten de scanner zo te programmeren om ook dit soort content op te kunnen sporen. In een open brief riepen experts en critici Apple op om de uitrol van de scanner te staken. Apple zelf stelt dat het de scanner alleen gaat inzetten voor de opsporing van kinderpornografisch materiaal.
