Google maant zijn wetenschappers aan een ‘positieve toon’ aan te slaan in publicaties over onderzoek naar artificial intelligence (AI). Dat schrijft Computable, via Reuters. Vooral studies over de ethische kanten van AI en verantwoording liggen gevoelig, met aangescherpte regels als resultaat.
Reuters meldt dat Google een oekaze heeft uitgevaardigd dat onderzoekers voor bepaalde publicaties eerst overleggen met de afdelingen PR, Juridische Zaken en beleidsontwikkeling Uit interne webpagina's blijkt dat dit vooral geldt voor onderwerpen zoals gezichtsherkenning en sentimentanalyse. Ook over AI waarbij mensen worden ingedeeld op basis van ras, geslacht of politieke voorkeur, mag niet meer vrijelijk worden gepubliceerd.
Publicaties worden herschreven
Google claimt op zijn website dat zijn onderzoekers ‘aanzienlijke vrijheid’ genieten. Maar Reuters heeft interne correspondentie ingezien waaruit het tegendeel blijkt. Een Google-manager die een review deed van een studie naar AI-technologie voor het aanbevelen van content, bijvoorbeeld op YouTube, gebood de auteurs een meer positieve toon te laten klinken.In de
eerste versie van de publicatie had de onderzoeker zijn bezorgdheid uitgesproken over deze technologie. Er werd gewezen op het gevaar van desinformatie, discriminatie of andere onwenselijke resultaten. Ook stond vermeld dat de content onvoldoende divers kon zijn en politieke polarisatie in de hand kon werken. In de laatste versie die naar buiten kwam, stond opeens dat de AI-systemen ‘accurate informatie, ‘eerlijkheid’ en ‘diversiteit van content’ bevorderen. De namen van de Google-onderzoekers en alle referenties naar Google-producten waren uit de publicatie geschrapt. Reuters haalt meer van dit soort voorbeelden aan.
Geruchtmakend vertrek AI-onderzoeker
De kritische uitlatingen komen in een periode dat de spanning oploopt tussen Google en een deel van haar onderzoekers. Vooral het abrupte vertrek van topwetenschapper Timnit Gebru, die onderzoek deed naar ethisch verantwoord gebruik van AI, heeft tot veel beroering geleid.
