Apple test een scan op naaktfoto’s als onderdeel van iMessage voor kinderen, meldt MacRumors. De functie zit in de tweede bèta van iOS 15.2 en is door Apple bevestigd. De scan is niet hetzelfde als het controversiële en uitgestelde plan om alle iPhones te scannen.
De instelling heet Communication Safety in Messages en is als bèta beschikbaar voor de iOS-gebruiker die de accounts beheert van minderjarigen in een ‘Apple-gezin’. Als de optie wordt ingeschakeld, (standaard staat-ie uit) gaat de Berichten-app elke foto scannen. Naaktbeelden worden vaag gemaakt en voorzien van waarschuwingen. De software om foto’s te analyseren draait op de iPhone of iPad zelf.
Apple heeft dit jaar aangekondigd dat het een scan ontwikkelt voor kinderporno. Plan is om elke foto op het toestel van gebruikers door midden van kunstmatige intelligentie te vergelijken met een CSAM-database van de (Amerikaanse of Canadese) overheid.
Door experts wordt echter gevreesd dat het systeem ook gebruikt kan worden voor andere doeleinden. De software zou bijvoorbeeld kunnen worden gebruikt om de vrijheid van meningsuiting te beperken en de privacy en veiligheid van Apple-gebruikers te bedreigen. Apple heeft de plannen in september op de lange baan geschoven.
Ook de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) waarschuwde woensdag voor de risico's van AI als deze niet juist gereguleerd wordt. De Raad adviseerde de overheid daarom een beleidsinfrastructuur op te zetten.
