Apple neemt maatregelen tegen verspreiding van kinderporno

Nieuws Mobiel Verenigde Staten 6 AUG 2021

Apple neemt maatregelen tegen verspreiding van kinderporno

Apple gaat maatregelen nemen tegen de verspreiding van pornografisch materiaal met minderjarigen. Het brengt veranderingen aan in iMessage, Siri en iCloud Foto's om de veiligheid van kinderen te garanderen, zo zegt het bedrijf. De functies worden later dit jaar uitgerold in de VS voor iOS 15, iPadOS 15, WatchOS 8 en macOS Monterey.

Waarschuwingen in iMessage

Kinderen en ouders krijgen vanaf de update waarschuwingen wanneer het kind seksueel getinte foto's ontvangt. De foto zal in eerste instantie vaag gemaakt worden. Als het kind de foto wil bekijken, krijgt het een pop-upbericht te zien om te vragen of de foto echt geopend moet worden. Daarnaast verschijnt er soms ook een pop-upbericht dat de ouders een melding krijgen, om zeker te weten dat het kind veilig is. Dergelijke maatregelen gelden ook voor het sturen van seksueel getinte foto's.

De app gebruikt on-device machinelearning om foto's te analyseren en te bepalen of ze seksueel expliciet zijn. Apple krijgt geen toegang tot de foto's. De functie wordt in iOS 15, iPadOS 15, en macOS Monterey geïntroduceerd voor accounts die zijn ingesteld als familie.

Opsporing van kinderpornografisch materiaal in iCloud Foto's

Met de update kan Apple in iOS en iPadOS pornografisch materiaal opsporen in iCloud Foto's. Het systeem checkt on-device overeenkomsten tussen de foto's in de app van de gebruiker en Child Sexual Abuse Material (CSAM)-imagehashes van Amerikaanse National Center for Missing and Exploited Children (NCMEC). Het proces maakt gebruik van de cryptografische technologie private set intersection, waardoor de checks kunnen worden uitgevoerd zonder dat het resultaat hoeft te worden getoond.

Nadat het systeem een match vindt, wordt het account gevlagd. Daarna inspecteert Apple het account zelf en wordt het account in het geval van een match op non-actief gezet en een rapport gestuurd naar het NCMEC. Gebruikers kunnen in beroep gaan als ze vinden dat hun account ten onrechte is verbannen.

Nieuwe functies in Siri en Search

Ook stemassistent Sir en Apple Search worden uitgebreid. Zo krijgen gebruikers die vragen hoe ze kinderporno of uitbuiting van kinderen kunnen melden, meteen informatie van Siri over waar en hoe dat kan.

Daarnaast krijgen Siri en Search updates waardoor ze ingrijpen als gebruikers zoeken naar zoektermen die gerelateerd zijn aan kinderporno. De interventies zullen gebruikers uitleggen dat interesse in het onderwerp schadelijk en problematisch is, en bieden bronnen van partners om hulp te krijgen bij dit probleem.

Gerelateerde artikelen

VERENIGD KONINKRIJK 28 APR

Kinderombudsvrouw wil Brits verbod op AI-apps voor 'nudification'

De Kinderombudsvrouw voor Engeland, Rachel de Souza, roept de Britse overheid op om AI-apps te verbieden die gebruikers in staat stellen om naaktbeelden van kinderen te creëren. Ze stelt dat er geen enkele positieve reden is voor het bestaan van deze apps. In een nieuw rapport laat de Ombudsvrouw zien hoe generatieve AI wordt misbruikt om seksueel expliciete beelden van mensen te maken, en welke negatieve gevolgen deze zogenoemde 'nudificatie'-tools hebben voor de online veiligheid, het welzijn en het gedra

EUROPA 4 AUG 2022

Privacytoezichthouders tegen EU-voorstel om alle social media te scannen op kindermisbruik

Een nieuw Europees wetsvoorstel dat communicatiediensten verplicht communicatie te scannen op kindermisbruik, moet worden aangepast. Dat adviseren de European Data Protection Board (EDPB) en de European Data Protection Supervisor (EDPS) aan de Europese Commissie. Het voorstel brengt het risico met zich mee dat communicatiediensten meekijken bij álle communicatie tussen mensen in Europa.

WERELD 12 NOV 2021

Apple test functie om foto's te blurren voor minderjarige gebruikers

Apple test een scan op naaktfoto's als onderdeel van iMessage voor kinderen, meldt MacRumors. De functie zit in de tweede bèta van iOS 15.2 en is door Apple bevestigd. De scan is niet hetzelfde als het controversiële en uitgestelde plan om alle iPhones te scannen.

VERENIGDE STATEN 6 SEP 2021

Apple vertraagt plan voor scan op kindermisbruik na ophef over privacy

Apple heeft aangekondigd dat het nieuwe kinderbeveiligingsfuncties in iOS en gerelateerde diensten uitstelt, na bezorgdheid van meerdere klanten en belangengroepen over privacy. Het bedrijf zei een maand geleden dat het foto's en video's van klanten die zijn opgeslagen in Apples iCloud zal scannen op afbeeldingen van mogelijk kindermisbruik, die vervolgens zouden worden gerapporteerd aan autoriteiten in de VS.

WERELD 25 AUG 2021

Apple gaat kinderpornoscanner internationaal uitrollen

Apple heeft bevestigd dat het bedrijf van plan is om het algoritme waarmee kinderporno opgespoord kan worden op Apple-apparaten internationaal uit te rollen. Volgens Apple zal de scanner uitgerold gaan worden in landen waar dit nu al juridisch mogelijk is. Een uitrol in Europa is vooralsnog niet aan de orde omdat dit onder de huidige AVG-wetgeving niet mogelijk is. De kans is echter aanwezig dat hiervoor een aanpassing in de wetgeving gemaakt gaat worden. Dit gebeurde eind 2020 ook al voor Facebook, die and

VERENIGDE STATEN 19 AUG 2021

Onderzoeker achterhaalt algoritme van kindermisbruikscantool Apple en kan collision veroorzaken

Onderzoeker Asuhariet Ygvar heeft de code van Apples controversiële NeuralHash-algoritme weten te achterhalen. Ygvar zegt dat het algoritme sinds iOS 14.3 in het besturingssysteem van Apple verstopt zit. Hij ontdekte ook dat het mogelijk is om een collision te veroorzaken, waarbij het algoritme ook bij twee niet-matchende afbeeldingen een match geeft.

VERENIGDE STATEN 16 AUG 2021

Apple past plannen aan voor kinderpornoscanner

Apple wijzigt zijn plannen voor het scannen op kinderporno in de VS. Deze stap volgt een week na de eerste aankondiging en kritiek vanuit de maatschappij op de controversiële plannen. Uit gelekte memo's blijkt dat er binnen Apple ook veel kritiek is. Het bedrijf heeft allereerst meer details gegeven over de ontwikkeling van het kinderpornofilter op apparaten.

WERELD 12 AUG 2021

Facebook-topman: Facebook gaat meer nadruk op privacy leggen

Facebook gaat meer nadruk leggen op de gebruikers van privacy, zo zegt Graham Mudd, Facebooks vicepresident van productmarketing, in gesprek met The Verge. Hij zegt dat het bedrijf wil blijven doen wat het altijd gedaan heeft, maar op een meer privacyvriendelijke manier, die zowel de adverteerder als het advertentieplatform geen nieuwe informatie geeft over de gebruiker.

VERENIGDE STATEN 11 AUG 2021

'Apple-scan op kinderporno niet mogelijk onder AVG'

Apple kan zijn automatische scan op kinderporno niet gebruiken in de Europese Unie omdat de AVG dat verhindert. Dat zegt een van de juristen van ICTrecht tegen BNR. Het adviesbureau is gespecialiseerd in dit soort juridische kwesties.

VERENIGDE STATEN 10 AUG 2021

Apple belooft fotoscantool alleen in te zetten voor kindermisbruik

Apple belooft dat het de nieuwe fotoscantool die het afgelopen week aankondigde alleen voor de opsporing van kindermisbruik te gebruiken. Dat schrijft het bedrijf in een document met veelgestelde vragen over de nieuwe technologie.

WERELD 9 AUG 2021

Critici roepen Apple in open brief op plan voor scans naar kinderporno te staken

Ruim 5.000 critici hebben Apple in een open brief gevraagd om de plannen om foto's op iOS-toestellen op kinderporno te scannen, te staken. De brief is ondertekend door consumenten, oud-werknemers van Apple, veiligheidsexperts en burgerrechtenbewegingen.

BELGIË 5 AUG 2021

Apple Maps toont in realtime informatie over Belgisch openbaar vervoer

Apple Maps is begonnen met het in realtime tonen van informatie over de aankomsttijd van het openbaar vervoer in België. Daardoor is het meteen te zien als een bus, trein of metro vertraging heeft. De app ondersteunt de functie al sinds 2019 in Nederland.

WERELD 4 AUG 2021

Apple vernieuwt online Store-pagina

Apple heeft zijn online winkel een nieuw ontwerp gegeven, die doet denken aan de Store-app voor iOS. De website was van dinsdag op woensdag een uurtje offline, waarna de website weer online kwam met een nieuwe look, met onder andere speciale 'kaartjes' voor producten en productcategorieën en speciale knoppen bovenaan de website voor de belangrijkste productcategorieën.

NEDERLAND 14 APR 2021

Consultatie Wet bestuursrechtelijke aanpak online kinderpornografisch materiaal levert 12 reacties op

De reactietermijn van de consultatie van het nieuwe wetsvoorstel 'Wet bestuursrechtelijke aanpak online kinderpornografisch materiaal', die op 16 februari werd gestart, is gesloten. De consultatie heeft 12 openbare reacties opgeleverd. Onder andere Branchevereniging NLConnect, Stichting Digitale Infrastructuur Nederland (DINL), de Nederlandse orde van Advocaten, Leaseweb, een aantal anonieme partijen en enkele particulieren hebben een reactie ingediend op de consultatie.

NEDERLAND 16 FEB 2021

Nederlandse ICT-bedrijven verplicht servers op te schonen van kinderporno

ICT-bedrijven in Nederland kunnen straks worden verplicht om hun servers op te schonen van online kinderporno. Een onafhankelijke autoriteit gaat erop toezien dat internetbedrijven de norm naleven die ze onderling hebben afgesproken. Na een melding van kinderpornografisch materiaal moeten zij dit binnen 24 uur van hun servers verwijderen.