Google ontslaat AI-ethicus Timnit Gebru
Ze is een pionier op het vlak van onderzoek naar algoritmische vooroordelen en staat bekend om haar werk rond gezichtsherkenningssoftware en de misidentificatie van vrouwen met een donkere huidskleur. Tot voor kort was Timnit Gebru co-lead van het ethische AI-team bij Google. Tot voor kort, want woensdag maakte ze via Twitter bekend dat ze niet meer welkom was bij de technologiegigant. De aanleiding hiervoor zou tweeledig geweest zijn.
Om te beginnen was Gebru bezig met het schrijven van een onderzoekspaper, samen met enkele andere medewerkers en externe onderzoekers. Wanneer het aankwam op de publicatie ervan kon ze niet rekenen op de steun van haar managers bij Google. Ze werd last-minute uitgenodigd voor een mysterieuze meeting waarin haar gevraagd werd om de paper terug te trekken, aangezien deze negatieve feedback had ontvangen. Daar ging ze niet zomaar mee akkoord en vroeg enkele voorwaarden voor het terugtrekken van haar paper. Dit hield in dat ze wou weten wie er net feedback had gegeven en wat deze feedback nu net inhield.
Gebrek aan gelijke kansen
Dat dit zo moest gebeuren getuigt bij Timnit van het gebrek aan gelijke kansen binnen het bedrijf. Gebru was altijd al een uitgesproken criticus over het gebrek aan diversiteit en ongelijke behandelingen van zwarte arbeiders bij techbedrijven, zoals Alphabet, aldus Bloomberg.
Naar aanleiding van het incident stuurde Gebru een mail naar Brain women and Allies. Daarin beschreef ze de worstelingen die zij ervoer als zwarte leider die werkte aan ethisch onderzoek binnen het bedrijf en schetste ze een somber beeld voor de toekomst van minderheden binnen het bedrijf.
“Je leven wordt erger als je pleit voor ondervertegenwoordigde mensen, je begint de andere leiders boos te maken als ze je tijdens de kalibratie geen goede beoordelingen willen geven. Er is geen manier waarop meer documenten of meer gesprekken iets kunnen bereiken.”
‘gedrag dat niet strookt met de verwachtingen van een Google-manager’
Enige tijd later mocht Timnit een mail ontvangen van de manager van haar manager waarin te lezen stond dat haar ontslag aanvaard werd. Manager Megan Kacholia wenste niet in te gaan op de voorwaarden van Gebru en bovendien waren zij van mening dat bepaalde aspecten van de mail die ze had verstuurd ‘gedrag weerspiegelden dat niet strookt met de verwachtingen van een Google-manager’. Gebru werd dus op staande voet ontslagen en onmiddellijk werd haar de toegang tot haar bedrijfsaccount ontzegd.
Timnit gelooft dat haar ontslag was bedoeld om de rest van de Google-medewerkers een bericht te sturen om niet te spreken. “Ik word op de meest fundamentele manier het zwijgen opgelegd. Je kunt niet eens je wetenschappelijke stem hebben”, vertelt ze in een interview aan Bloomberg.
Al heeft het waarschijnlijk het omgekeerde effect gehad. Op sociale media mocht ze al massale steun ontvangen en wereldwijd verschijnt haar verhaal in de media. ‘Google Walkout For Real Change’ een protestgroep tegen de praktijken van Google startte een petitie op Medium om Gebru te steunen. Die zou al door meer dan 400 medewerkers en 500 academici ondertekend zijn.
Ze is een pionier op het vlak van onderzoek naar algoritmische vooroordelen en staat bekend om haar werk rond gezichtsherkenningssoftware en de misidentificatie van vrouwen met een donkere huidskleur. Tot voor kort was Timnit Gebru co-lead van het ethische AI-team bij Google. Tot voor kort, want woensdag maakte ze via Twitter bekend dat ze niet meer welkom was bij de technologiegigant. De aanleiding hiervoor zou tweeledig geweest zijn.
Om te beginnen was Gebru bezig met het schrijven van een onderzoekspaper, samen met enkele andere medewerkers en externe onderzoekers. Wanneer het aankwam op de publicatie ervan kon ze niet rekenen op de steun van haar managers bij Google. Ze werd last-minute uitgenodigd voor een mysterieuze meeting waarin haar gevraagd werd om de paper terug te trekken, aangezien deze negatieve feedback had ontvangen. Daar ging ze niet zomaar mee akkoord en vroeg enkele voorwaarden voor het terugtrekken van haar paper. Dit hield in dat ze wou weten wie er net feedback had gegeven en wat deze feedback nu net inhield.
Gebrek aan gelijke kansen
Dat dit zo moest gebeuren getuigt bij Timnit van het gebrek aan gelijke kansen binnen het bedrijf. Gebru was altijd al een uitgesproken criticus over het gebrek aan diversiteit en ongelijke behandelingen van zwarte arbeiders bij techbedrijven, zoals Alphabet, aldus Bloomberg.
Naar aanleiding van het incident stuurde Gebru een mail naar Brain women and Allies. Daarin beschreef ze de worstelingen die zij ervoer als zwarte leider die werkte aan ethisch onderzoek binnen het bedrijf en schetste ze een somber beeld voor de toekomst van minderheden binnen het bedrijf.
“Je leven wordt erger als je pleit voor ondervertegenwoordigde mensen, je begint de andere leiders boos te maken als ze je tijdens de kalibratie geen goede beoordelingen willen geven. Er is geen manier waarop meer documenten of meer gesprekken iets kunnen bereiken.”
‘gedrag dat niet strookt met de verwachtingen van een Google-manager’
Enige tijd later mocht Timnit een mail ontvangen van de manager van haar manager waarin te lezen stond dat haar ontslag aanvaard werd. Manager Megan Kacholia wenste niet in te gaan op de voorwaarden van Gebru en bovendien waren zij van mening dat bepaalde aspecten van de mail die ze had verstuurd ‘gedrag weerspiegelden dat niet strookt met de verwachtingen van een Google-manager’. Gebru werd dus op staande voet ontslagen en onmiddellijk werd haar de toegang tot haar bedrijfsaccount ontzegd.
Timnit gelooft dat haar ontslag was bedoeld om de rest van de Google-medewerkers een bericht te sturen om niet te spreken. “Ik word op de meest fundamentele manier het zwijgen opgelegd. Je kunt niet eens je wetenschappelijke stem hebben”, vertelt ze in een interview aan Bloomberg.
Al heeft het waarschijnlijk het omgekeerde effect gehad. Op sociale media mocht ze al massale steun ontvangen en wereldwijd verschijnt haar verhaal in de media. ‘Google Walkout For Real Change’ een protestgroep tegen de praktijken van Google startte een petitie op Medium om Gebru te steunen. Die zou al door meer dan 400 medewerkers en 500 academici ondertekend zijn.
