Regulering van de grote internetplatforms (de gatekeepers) is onderweg in de EU, de VS en Japan. De discussie wordt alom gevoerd en raakt bijna alle topics, met speciale aandacht voor AI. Ook de UvA draagt een steentje bij. Jeff Bezos (Amazon) omschreef social media in het verleden als 'bias confirmation machine' en bij de recente hoorzittingen in de VS als 'nuance-destruction machines'. Waar het om desinformatie (fake news c.q. propaganda) gaat, komt de vrijheid van meningsuiting in het gedrang als er ingegrepen wordt. Een lastig probleem, dus.
Orlowski: engagement en verslaving
In de film komen diverse ex-medewerkers van Facebook, Instagram, Google, YouTube, Twitter en Pinterest aan het woord. Het zijn niet de eerste de beste, zij hebben aan de wieg gestaan van een aantal belangrijke features en diensten. Zij prijzen social media, vooral Facebook, om de positieve rol die het al tien jaar speelt in het bij elkaar brengen van mensen.
Er is echter op de achtergrond iets anders aan de hand. Hun verhaal daarover is onderling consistent en kan als volgt worden samengevat:
- Het ultieme doel is de advertentie-inkomsten maximaliseren. De belangrijkste drivers daarvan zijn engagement (time spent) en growth (vrienden erbij halen). Er is zelfs sprake van het werken aan verslavende features, zoals het (letterlijk) eindeloos door een feed kunnen scrollen.
- Het middel is manipulatie. Daarvoor gebruiken de platforms data (persoons- en gebruiksgegevens), recommendations engines, desinformatie (dat zich vele malen sneller verspreidt dan 'de waarheid') en clickbait. De tools die hierbij gebruikt worden, zijn AI, algoritmen, gebruikersprofielen e.d.
De film besluit met een oproep om het gebruik van social media te staken of op z'n minst sterk terug te brengen. Mogelijkheden daartoe zijn, naast het opzeggen van accounts: likes en notificaties niet gebruiken; cookies zo mogelijk uitschakelen; niet klakkeloos de aanbevelingen volgen van recommendations engines.
Facebook: relevantie en zelfregulering
Het verweer van Facebook komt op een aantal zaken neer:
- De geïnterviewden werken allang niet meer bij Facebook en sindsdien is veel verbeterd, zoals de privacy. In 2018 is een wijziging doorgevoerd die het gebruik verminderde, dus dergelijke ingrepen schuwt men niet.
- De gebruiker is niet het product. Dankzij de reclame-inkomsten hoeven gebruikers niet voor diensten te betalen.
- AI zorgt voor betere features en dus een relevantere dienst (feed, recommendations, etc.).
- Facebook past zelf-regulering toe. Er is daardoor minder clickbait en minder desinformatie. Meer dan 70 partners (bedrijven) zijn als redacteuren (curators) actief om informatie te checken.
Relevantie of verslaving, zelfregulering of regulering
De visies van beide partijen botsen op verschillende fronten. Op zichzelf is aan het maximaliseren van reclame-inkomsten niets mis, maar de vraag is het het doel de middelen heiligt.
- Facebook spreekt van relevantie, de film van engagement en verslaving. De scheidslijn is dun. Een Amerikaans wetsvoorstel (de Social Media Addiction Reduction Technology (Smart) Act) van anderhalf jaar geleden komt wellicht wat kolderiek over maar was oprecht met het doel om de verslaving tegen te gaan. Het eindeloos scrollen en autoplay waren het doelwit.
- Er is de laatste jaren, vooral sinds het Cambridge Analytrica schandaal, veel veranderd. De platforms passen op grote schaal zelfregulering toe door in te grijpen in het aanbod. De vraag is of het voldoende is, want desinformatie is nog steeds een doorn in het oog. Ook bij eventuele regulering kan de vraag gesteld worden: helpt dat? De volumes zijn immers groot en de vraag is of AI en menselijke redacteuren de platforms schoon kunnen houden.
- Is de gebruiker het product dat verkocht wordt? Zo kun je het stellen. Europese toezichthouders verbieden de platforms in ieder geval om hun diensten aan te prijzen als gratis. De consument betaalt met zijn persoons- en gebruiksgegevens. Als 'time spent' het belangrijkste criterium is, dan is de vraag of dat tot een betere dienstverlening leidt of slechts tot verslaving, clickbait en desinformatie.
Zolang omzetmaximalisatie correspondeert met maximalisatie van de 'engagement', blijft een perverse prikkel bestaan om verslavende content aan te bieden. Een mogelijke oplossing is social media te dwingen om een reclamevrije variant tegen betaling aan te bieden, waarbij persoons- en gebruiksgegevens niet benut mogen worden. Facebook zal zeggen dat dan de kwaliteit achteruit gaat omdat de 'relevantie' afneemt. Dat is echter de vraag: een zuiver chronologische tijdslijn is wel zo transparant.
Facebook rapporteert ieder kwartaal de ARPU uit advertising. In de VS is deze USD 36,49 per kwartaal, in Europa USD 11,03. Hier te lande zouden we dus voor minder dan EUR 5 per maand moeten kunnen beschikken over een volstrekt veilig en reclamevrij Facebook.
