Google-onderzoekers gevraagd om ‘positiever te klinken’ in onderzoekspapers
Google, de Amerikaanse zoekgigant, heeft zijn onderzoekers gevraagd om een positieve toon te geven aan papers over ‘gevoelige onderwerpen’. Dat blijkt uit een bericht van Reuters. Het bedrijf zou het voorbije jaar extra controles hebben geïmplementeerd om een sterkere greep te krijgen op het wetenschappelijke onderzoek.
Het dochterbedrijf van Alphabet heeft een extra reviewprocedure ingebouwd voor onderzoekers die zich bezighouden met werk rond bepaalde onderwerpen die wat gevoeliger liggen. Deze onderwerpen zouden zich uitstrekken van AI, religie, gender, ras en politieke voorkeuren tot Israël, Iran, China en de olie-industrie. Onderzoekers die zich wel met deze onderwerpen bezighouden, zouden worden aangestuurd om de topics eerst te bespreken met legale afdelingen, beleids- en PR-teams vooraleer ze verder gaan.
Gevoelige huid
Volgens Reuters zouden ten minste drie gevallen zijn waarbij managers onderzoekers aanstuurden om bepaalde technologieën niet te negatief weer te geven. In interne gesprekken zou een manager bij Google naar verluidt hebben gevraagd “om er zeker voor te zorgen een positieve toon te geven” bij een onderzoekspaper naar kunstmatige intelligentie.
In het bericht opperde Google AI-onderzoeker Margaret Mitchell haar bezorgheden: “Als we dingen onderzoeken die binnen onze expertise vallen, en we worden niet toegestaan om het te onderwerpen aan hoog-kwalitatieve peer-reviews, dan krijgen we een serieus probleem van censuur.”
Dat Google hiermee tegen de lamp loopt, is weinig verbazend. Eerder deze maand kwam het bedrijf al in de problemen na het ontslaan van Timnit Gebru, een AI-ethicus bij Google. Nadat ze had geweigerd om een paper in te trekken waar negatieve feedback op kwam, stuurde ze een bericht naar collega’s waarin ze wees op het gebrek aan gelijke kansen binnen het bedrijf. Daar reageerde Google op met haar ontslag. Dat Google zich hiermee in moeilijke wateren begeeft, staat buiten kijf. We hopen alvast dat het bedrijf zich toch blijft vasthouden aan zijn eerdere leuze: ‘Don’t be evil.’
Google, de Amerikaanse zoekgigant, heeft zijn onderzoekers gevraagd om een positieve toon te geven aan papers over ‘gevoelige onderwerpen’. Dat blijkt uit een bericht van Reuters. Het bedrijf zou het voorbije jaar extra controles hebben geïmplementeerd om een sterkere greep te krijgen op het wetenschappelijke onderzoek.
Het dochterbedrijf van Alphabet heeft een extra reviewprocedure ingebouwd voor onderzoekers die zich bezighouden met werk rond bepaalde onderwerpen die wat gevoeliger liggen. Deze onderwerpen zouden zich uitstrekken van AI, religie, gender, ras en politieke voorkeuren tot Israël, Iran, China en de olie-industrie. Onderzoekers die zich wel met deze onderwerpen bezighouden, zouden worden aangestuurd om de topics eerst te bespreken met legale afdelingen, beleids- en PR-teams vooraleer ze verder gaan.
Gevoelige huid
Volgens Reuters zouden ten minste drie gevallen zijn waarbij managers onderzoekers aanstuurden om bepaalde technologieën niet te negatief weer te geven. In interne gesprekken zou een manager bij Google naar verluidt hebben gevraagd “om er zeker voor te zorgen een positieve toon te geven” bij een onderzoekspaper naar kunstmatige intelligentie.
In het bericht opperde Google AI-onderzoeker Margaret Mitchell haar bezorgheden: “Als we dingen onderzoeken die binnen onze expertise vallen, en we worden niet toegestaan om het te onderwerpen aan hoog-kwalitatieve peer-reviews, dan krijgen we een serieus probleem van censuur.”
Dat Google hiermee tegen de lamp loopt, is weinig verbazend. Eerder deze maand kwam het bedrijf al in de problemen na het ontslaan van Timnit Gebru, een AI-ethicus bij Google. Nadat ze had geweigerd om een paper in te trekken waar negatieve feedback op kwam, stuurde ze een bericht naar collega’s waarin ze wees op het gebrek aan gelijke kansen binnen het bedrijf. Daar reageerde Google op met haar ontslag. Dat Google zich hiermee in moeilijke wateren begeeft, staat buiten kijf. We hopen alvast dat het bedrijf zich toch blijft vasthouden aan zijn eerdere leuze: ‘Don’t be evil.’
