Apple biedt in een officiële verklaring zijn excuses aan voor het grading-programma van digitale spraakassistent Siri. Net als andere aanbieders van dergelijke assistenten (waaronder Google, Amazon en Microsoft) had Apple een programma waarbij een beperkt deel van de verzoeken aan Siri werd beluisterd om verbeteringen in de toepassing aan te brengen. De privacy van Siri-gebruikers bleek niet altijd afdoende beschermd te worden.
In de verklaring schrijft Apple: ‘Voordat we met grading waren gestopt, bestond het proces uit het analyseren van een klein gedeelte van de audio van Siri-verzoeken, minder dan 0,2 procent, en de door de computer-gegenereerde transcripties, om te meten hoe goed Siri reageerde en om de betrouwbaarheid van Siri te verbeteren. Bijvoorbeeld: was het wel de bedoeling van de gebruiker om Siri op te roepen? Heeft Siri het verzoek precies begrepen? En heeft Siri goed op het verzoek gereageerd?’ Apple gebruikte de audio-opnamen van een verzoek, evenals de bijbehorende transcriptie, soms in een computerleerproces waarmee Siri ‘getraind’ wordt om beter te worden.
Apple: grading-programma Siri blijft nodig
Begin augustus liet Apple na een storm van kritiek weten dat het niet langer Siri-verzoeken liet afluisteren. De ingehuurde medewerkers die dit deden, zijn ontslagen. Apple stelt overigens dat het grading-programma nu weliswaar gestaakt is, maar dat het na doorvoeren van een aantal wijzigingen later in het najaar weer opgestart zal worden. Apple stelt voortdurend bezig te zijn met het verbeteren van privacybescherming. Het bedrijf acht het grading-programma echter nodig om gebruikers van Siri een optimale ervaring te bieden.
‘We zijn ons ervan bewust dat klanten zich zorgen maken over recente berichten dat er door mensen naar audio-opnamen van Siri wordt geluisterd, ook wel ‘grading’ genoemd, als onderdeel van ons kwaliteitsevaluatieproces voor Siri. Zodra we hoorden dat onze klanten hier problemen mee hadden, hebben we grading van Siri-verzoeken stopgezet en hebben we onze werkwijze en ons beleid onder de loep genomen. Als gevolg hiervan hebben we besloten enkele wijzigingen aan te brengen bij Siri.'
Drietal verbeterpunten
Vooralsnog gaat het om drie verbeterpunten om privacy van klanten beter te beschermen. Het is niet duidelijk wanneer in het najaar het programma weer hervat zal worden:
- Ten eerste zullen we standaard geen audio-opnamen van interacties met Siri meer bewaren. Wel zullen we door de computer gegenereerde transcripties blijven gebruiken om Siri te verbeteren.
- Ten tweede kunnen gebruikers zich vrijwillig aanmelden om Siri te helpen verbeteren door te leren van de audiofragmenten van hun aanvragen. We hopen natuurlijk dat veel mensen ervoor zullen kiezen om Siri te helpen verbeteren, in de wetenschap dat Apple hun gegevens respecteert en hun privacy beschermt. Klanten die hieraan meedoen, kunnen op elk gewenst moment weer stoppen.
- Ten derde: als klanten zich hiervoor aanmelden zullen de audiofragmenten van de interactie met Siri uitsluitend door Apple werknemers worden beluisterd. Elke opname die een onbedoelde trigger van Siri blijkt te zijn, zal door ons team worden verwijderd.
Afgelopen juli bleek uit onderzoek van Telecompaper dat 14 procent van de Nederlanders geen gebruik maken van digitale spraakassistenten omdat zij zich zorgen maken over hun privacy.
