De schaduwkant van Signal: loert er gevaar om de hoek?
Laten we beginnen bij het begin en even terugkeren naar de situatie bij Facebooks berichtenservice WhatsApp. Sinds 6 januari kregen gebruikers wereldwijd een pop-upmelding te zien die hen inlichtte over nakende veranderingen in het privacybeleid. Het komt erop neer dat bedrijven voortaan berichten zouden kunnen versturen naar de 20 miljoen WhatsApp-leden en die berichten ook kunnen opslaan. Bovendien zou WhatsApp persoonlijke gegevens kunnen verzamelen en doorspelen naar zusterapps Facebook en Instagram. Aan dat nieuwe privacybeleid hing voor de gewone gebruiker een ultimatum vast: ga akkoord met de nieuwe voorwaarden of je kan de app straks niet meer gebruiken. Privacybewuste gebruikers pikten dat niet. Facebook herbekeek zijn strategie, maar uiteindelijk werd het nieuwe beleid gewoon doorgevoerd. Van het uitstel kwam geen afstel. Wat was dan het alternatief? Signal.
Vlak nadat WhatsApp zijn nieuwe policy uitrolde, kreeg concurrent Signal er in één klap 2 miljoen leden bij. Het tempo waaraan de app nieuwe leden binnenrijft, is niet gemilderd. De berichtendienst is de absolute nummer 1 in de App Stores van 70 landen. Hoewel het bedrijf niet wil communiceren over zijn gebruikersaantal, komt de userbase vermoedelijk in de buurt van de 40 miljoen gebruikers wereldwijd.
“We zijn georganiseerd als een non-profitorganisatie omdat we de manier waarop grote techbedrijven werken gewoon waanzin vinden”, liet CEO Moxie Marlinspike (echte naam Matthew Rosenfeld) onlangs optekenen. Volgens hem is die ongezonde situatie het gevolg van onduidelijke businessmodellen die slechte technologie voortbrengen. Met name de impact op de maatschappij zou schadelijk zijn. Signal gaat er prat op dat het de privacy van gebruikers kan verzekeren met end-to-end-encryptie, zonder dat er commerciële motieven spelen.
De heilige graal van encryptie
Encryptie, encryptie en nog eens encryptie. Dat is het stokpaardje van Signal. Ze scoren er begrijpelijk goed mee bij voorvechters van privacy, zoals IT-professionals of journalisten. Dat is ook het doelpubliek van de berichtenservice: mensen die volledige transparantie willen over hun data en hoe die gebruikt wordt. Zij willen graag ongestoord hun dingen kunnen doen, zonder dat een techreus over hun schouder meekijkt. Zelfs Signal zelf kan de berichten die zijn gebruikers versturen niet meelezen. Dat maakt het voor politie en federale inlichtingendiensten bijzonder moeilijk om mogelijk verdachte groeperingen en extreme berichten te onderscheppen.
De populariteit van Signal kreeg vorig jaar een extra zetje door de vele protesten tegen racisme. Het bedrijf integreerde zelfs een tool om gezichten te blurren, zodat activisten hun beelden van de demonstraties veiliger konden verspreiden. Het toen nog 30-koppige team van Signal verwelkomde de groei die het dankzij progressieve groepen boekte. Op 28 oktober voegde Signal uitnodigingslinks toe voor zijn groepen, een functie die WhatsApp ook heeft. Daarmee kunnen beheerders eender wie naar een gesprek loodsen, in groepen die tot wel 1.000 leden tellen. Door de end-to-end-encryptie kan Signal ook de titel van een groep en de groepsafbeelding niet zien. Wie er precies aan deelneemt, valt al helemaal niet te achterhalen. Zowel activisten met goede bedoelingen als groepen met extreme ideeën kunnen dus op een eenvoudige manier veel gelijkgezinden bij hun communicatie betrekken.
Reden tot ongerustheid
Signals waanzinnige groei is dus een reden tot ongerustheid. In en rond de periode van de voorbije Amerikaanse presidentsverkiezingen zouden er intern vragen gerezen zijn rond de ontwikkeling van bepaalde features. Een aantal medewerkers maakte de bedenking of Signal niet gebruikt zouden kunnen worden voor schadelijke doeleinden. Die onrust werd plots veel groter toen oud-president President Trump aan de Proud Boys had gezegd om “afstand te nemen, maar stand-by te zijn”.
Ook die extreem-rechtste groepering maakt graag gebruik van de berichtenapp omdat er niemand kan meelezen. Op de vraag hoe Marlinspike erop zou reageren als een gewelddadige organisatie Signal zou gebruiken om zijn activiteiten te coördineren, reageerde de CEO als volgt: “Als mensen Signal zouden beginnen misbruiken, dan zullen we er een punt van maken. Maar zolang er niets aan de hand is, hoeven we ons daar niet over te bekommeren.” De ontsteltenis bij een groot deel van de werknemers was groot. Hoe kon de CEO er zo nonchalant op reageren? Het lijkt er steeds meer op dat Marlinspike afstand doet van de verantwoordelijkheid, omdat de berichtendienst juist verhindert dat werknemers van Signal berichten kunnen meelezen. “Het komt erop neer dat we geen mediabedrijf willen zijn.”
“We kunnen bepaalde content niet gaan versterken met algoritmes omdat we er geen toegang tot hebben”, vatte de CEO zijn redenering in het verleden al eens samen. De gebruiksovereenkomst bevat wel de standaardmelding dat de app niet gebruikt mag worden voor geweld of om de wet te overtreden. Verder lijkt Signal volledig afstand te doen van bijkomende verantwoordelijkheid rond de inhoud van berichten. En dat is toch zorgwekkend.
Jacht op 100 miljoen
Waarom worden zulke bekommernissen gewoon van tafel geveegd? Het bedrijf had plots vleugels gekregen door de enorme groei en leek maar op één ding gefocust: zo snel mogelijk de mijlpaal van 100 miljoen gebruikers bereiken. De donaties die daaruit voortvloeien zouden namelijk het voortbestaan van het bedrijf kunnen veiligstellen. Het gevaar bestaat erin dat Signal zich blindstaart op zijn gigantische succes en geen achterliggend beleid uitwerkt. Zo zal het niet voldoende gewapend zijn om tussenbeide te komen wanneer Signal gebruikt wordt voor criminele doeleinden, of een platform wordt waarop extreemrechts en -links zich organiseren. Signal zou ook in zijn eigen vel snijden, aangezien het daardoor nauwer in het oog gehouden kan worden door regulatoren. Een researcher besloot het bedrijf te verlaten omdat Signal niet de minste moeite zou doen om een gebruiksovereenkomst uit te werken.
Signal in het nieuws
Diverse nieuwssites konden gelekte screenshots bemachtigen over interne gesprekken. Voor alle insider-info valt één lijn te trekken: Signal lijkt een bedrijf te zijn dat (terecht) trots is op zijn rol als promotor van privacy. Minder fraai is dat de bereidheid er niet lijkt te zijn om de grote bezorgdheden aan te pakken en meer verantwoordelijkheid te nemen. Je zou je dan de vraag kunnen stellen of Signal dan echt zoveel verschilt van WhatsApp, in zijn honger naar groei en inkomsten. Signals groeistrategie wordt voor een stuk bepaald door zijn ongewone bedrijfsstructuur. Het is de Signal Foundation die de app financiert. Die werd op zijn beurt opgericht in 2018, met een lening van 50 miljoen dollar. De ontwikkeling van Signal is afhankelijk van dat bedrag, dat samen met donaties al gegroeid is tot 100 miljoen dollar.
Medewerkers van Signal kregen te horen dat het bedrijf 100 miljoen gebruikers moet kunnen binnenhalen om financieel op eigen benen te staan. Maar dat is niet zo eenvoudig. De concurrentie is stevig, als je weet dat Facebook, Google, Apple en ook nieuwere spelers als Telegram allemaal hun deel van de koek willen. Het oorspronkelijke doelpubliek van activisten en journalisten gaat niet volstaan om te kunnen meedoen met de grote jongens. Signal zal onvermijdelijk zijn antikapitalistische ingesteldheid moeten laten varen en zich moeten neerleggen bij de wetten van Silicon Valley. De financiële realiteit is er wel: zonder nieuwe features toe te voegen en de userbase te doen groeien, kan de berichtendienst niet groot worden. Dat heeft de concurrentie alvast moeten ondervinden.
Risico’s in nieuwe features
Signal lijkt voor de ontwikkeling van zijn nieuwe features niet voldoende stil te staan bij mogelijk misbruik. Zo is het bedrijf onlangs een systeem beginnen uitwerken met usernames. De onderliggende bedoeling is goed: gebruikers kloegen wel eens over het feit dat ze hun telefoonnummer moesten vrijgeven om zich te registreren op de app. De bezorgdheid is dat de eenvoudig aan te maken gebruikersnamen de deur nog wat verder openzetten voor misbruik via fake accounts, phishing of het verspreiden van desinformatie door imitators van bekende personen.
Het lijkt er niet op dat Signal een plan achter de hand heeft om dergelijk misbruik aan te pakken. Daarnaast denkt het bedrijf eraan om elektronische betalingen toe te voegen aan zijn app. De opzet is om mensen in ontwikkelingslanden meer mogelijkheden te bieden, bijvoorbeeld om geld te versturen naar familieleden. Het risico bestaat natuurlijk dat criminelen gretig gebruik gaan willen maken van een niet te traceren, anoniem transactiesysteem. De kans is groot dat Signal de functie er toch zal doorduwen. Zowel Facebook als het Chinese WeChat hebben een betalingssysteem nagejaagd om hun eigen groeistrategie te verwezenlijken.
Visie bijsturen
Een tweede verantwoordelijke voor het bedrijfsbeleid is Brian Acton, nu uitvoerend voorzitter van de Signal Foundation. Zijn naam doet mogelijk geen belletje rinkelen, maar weet dan dat hij mede-oprichter was van WhatsApp. Hij leende destijds startkapitaal aan Signal. Toen hij nog onder de vleugels van moederbedrijf Facebook vertoefde, was hij ook al van mening dat techbedrijven beter niet zelf tussenbeide komen om verschillende vormen van misbruik te voorkomen. Acton vindt dat het niet aan techbedrijven is om voor rechter te spelen. Wanneer technologie misbruikt wordt door haatdragende groeperingen of terroristen, dan is het volgens hem nodig om naar de mensen te kijken en niet in de richting van de technologie.
Het is die achterliggende denkwijze die mee verklaart waarom Signal geen uitgebreider preventief beleid voert. In wezen verschilt de boomende berichtendienst dus niet bijzonder veel van WhatsApp, althans wat preventie van mogelijk misbruik betreft. Toch lijkt het onverstandig voor het bedrijf om zich te laten leiden door zijn honger naar meer groei. Het risico op misbruik minimaliseren kan de toekomst van het bedrijf zelfs in het gedrang brengen. Het verhaal van Signal illustreert dat het niet volstaat om hardnekkig vast te houden aan een businessmodel en vastgeroeste ideeën.
Privacy intact
Idealen zijn mooi, maar als de realiteit ze tegenspreken, moeten de verantwoordelijken hun visie durven bijsturen. Wanneer de verleiding om snel te groeien groot is, dreigen enthousiaste bedrijfsleiders nogal eens blind te blijven voor de grote valkuilen. Want wanneer het ooit zwaar mis gaat (laat ons hopen van niet), dan kan die jarenlange groei in het slechtste geval de prullenmand in. Signal mag dan wel de beste bedoelingen in de wereld hebben, zolang berichten ook in uitzonderlijke gevallen niet te ontgrendelen zijn, zal het risico op misbruik door extremisten of criminelen er altijd zijn. De berichtendienst zal in zijn zoektocht naar groei en zelfredzaamheid onvermijdelijk nieuwe stappen moeten zetten om zijn idealen rond privacy intact te houden.
Laten we beginnen bij het begin en even terugkeren naar de situatie bij Facebooks berichtenservice WhatsApp. Sinds 6 januari kregen gebruikers wereldwijd een pop-upmelding te zien die hen inlichtte over nakende veranderingen in het privacybeleid. Het komt erop neer dat bedrijven voortaan berichten zouden kunnen versturen naar de 20 miljoen WhatsApp-leden en die berichten ook kunnen opslaan. Bovendien zou WhatsApp persoonlijke gegevens kunnen verzamelen en doorspelen naar zusterapps Facebook en Instagram. Aan dat nieuwe privacybeleid hing voor de gewone gebruiker een ultimatum vast: ga akkoord met de nieuwe voorwaarden of je kan de app straks niet meer gebruiken. Privacybewuste gebruikers pikten dat niet. Facebook herbekeek zijn strategie, maar uiteindelijk werd het nieuwe beleid gewoon doorgevoerd. Van het uitstel kwam geen afstel. Wat was dan het alternatief? Signal.
Vlak nadat WhatsApp zijn nieuwe policy uitrolde, kreeg concurrent Signal er in één klap 2 miljoen leden bij. Het tempo waaraan de app nieuwe leden binnenrijft, is niet gemilderd. De berichtendienst is de absolute nummer 1 in de App Stores van 70 landen. Hoewel het bedrijf niet wil communiceren over zijn gebruikersaantal, komt de userbase vermoedelijk in de buurt van de 40 miljoen gebruikers wereldwijd.
“We zijn georganiseerd als een non-profitorganisatie omdat we de manier waarop grote techbedrijven werken gewoon waanzin vinden”, liet CEO Moxie Marlinspike (echte naam Matthew Rosenfeld) onlangs optekenen. Volgens hem is die ongezonde situatie het gevolg van onduidelijke businessmodellen die slechte technologie voortbrengen. Met name de impact op de maatschappij zou schadelijk zijn. Signal gaat er prat op dat het de privacy van gebruikers kan verzekeren met end-to-end-encryptie, zonder dat er commerciële motieven spelen.
De heilige graal van encryptie
Encryptie, encryptie en nog eens encryptie. Dat is het stokpaardje van Signal. Ze scoren er begrijpelijk goed mee bij voorvechters van privacy, zoals IT-professionals of journalisten. Dat is ook het doelpubliek van de berichtenservice: mensen die volledige transparantie willen over hun data en hoe die gebruikt wordt. Zij willen graag ongestoord hun dingen kunnen doen, zonder dat een techreus over hun schouder meekijkt. Zelfs Signal zelf kan de berichten die zijn gebruikers versturen niet meelezen. Dat maakt het voor politie en federale inlichtingendiensten bijzonder moeilijk om mogelijk verdachte groeperingen en extreme berichten te onderscheppen.
De populariteit van Signal kreeg vorig jaar een extra zetje door de vele protesten tegen racisme. Het bedrijf integreerde zelfs een tool om gezichten te blurren, zodat activisten hun beelden van de demonstraties veiliger konden verspreiden. Het toen nog 30-koppige team van Signal verwelkomde de groei die het dankzij progressieve groepen boekte. Op 28 oktober voegde Signal uitnodigingslinks toe voor zijn groepen, een functie die WhatsApp ook heeft. Daarmee kunnen beheerders eender wie naar een gesprek loodsen, in groepen die tot wel 1.000 leden tellen. Door de end-to-end-encryptie kan Signal ook de titel van een groep en de groepsafbeelding niet zien. Wie er precies aan deelneemt, valt al helemaal niet te achterhalen. Zowel activisten met goede bedoelingen als groepen met extreme ideeën kunnen dus op een eenvoudige manier veel gelijkgezinden bij hun communicatie betrekken.
Reden tot ongerustheid
Signals waanzinnige groei is dus een reden tot ongerustheid. In en rond de periode van de voorbije Amerikaanse presidentsverkiezingen zouden er intern vragen gerezen zijn rond de ontwikkeling van bepaalde features. Een aantal medewerkers maakte de bedenking of Signal niet gebruikt zouden kunnen worden voor schadelijke doeleinden. Die onrust werd plots veel groter toen oud-president President Trump aan de Proud Boys had gezegd om “afstand te nemen, maar stand-by te zijn”.
Ook die extreem-rechtste groepering maakt graag gebruik van de berichtenapp omdat er niemand kan meelezen. Op de vraag hoe Marlinspike erop zou reageren als een gewelddadige organisatie Signal zou gebruiken om zijn activiteiten te coördineren, reageerde de CEO als volgt: “Als mensen Signal zouden beginnen misbruiken, dan zullen we er een punt van maken. Maar zolang er niets aan de hand is, hoeven we ons daar niet over te bekommeren.” De ontsteltenis bij een groot deel van de werknemers was groot. Hoe kon de CEO er zo nonchalant op reageren? Het lijkt er steeds meer op dat Marlinspike afstand doet van de verantwoordelijkheid, omdat de berichtendienst juist verhindert dat werknemers van Signal berichten kunnen meelezen. “Het komt erop neer dat we geen mediabedrijf willen zijn.”
“We kunnen bepaalde content niet gaan versterken met algoritmes omdat we er geen toegang tot hebben”, vatte de CEO zijn redenering in het verleden al eens samen. De gebruiksovereenkomst bevat wel de standaardmelding dat de app niet gebruikt mag worden voor geweld of om de wet te overtreden. Verder lijkt Signal volledig afstand te doen van bijkomende verantwoordelijkheid rond de inhoud van berichten. En dat is toch zorgwekkend.
Jacht op 100 miljoen
Waarom worden zulke bekommernissen gewoon van tafel geveegd? Het bedrijf had plots vleugels gekregen door de enorme groei en leek maar op één ding gefocust: zo snel mogelijk de mijlpaal van 100 miljoen gebruikers bereiken. De donaties die daaruit voortvloeien zouden namelijk het voortbestaan van het bedrijf kunnen veiligstellen. Het gevaar bestaat erin dat Signal zich blindstaart op zijn gigantische succes en geen achterliggend beleid uitwerkt. Zo zal het niet voldoende gewapend zijn om tussenbeide te komen wanneer Signal gebruikt wordt voor criminele doeleinden, of een platform wordt waarop extreemrechts en -links zich organiseren. Signal zou ook in zijn eigen vel snijden, aangezien het daardoor nauwer in het oog gehouden kan worden door regulatoren. Een researcher besloot het bedrijf te verlaten omdat Signal niet de minste moeite zou doen om een gebruiksovereenkomst uit te werken.
Signal in het nieuws
Diverse nieuwssites konden gelekte screenshots bemachtigen over interne gesprekken. Voor alle insider-info valt één lijn te trekken: Signal lijkt een bedrijf te zijn dat (terecht) trots is op zijn rol als promotor van privacy. Minder fraai is dat de bereidheid er niet lijkt te zijn om de grote bezorgdheden aan te pakken en meer verantwoordelijkheid te nemen. Je zou je dan de vraag kunnen stellen of Signal dan echt zoveel verschilt van WhatsApp, in zijn honger naar groei en inkomsten. Signals groeistrategie wordt voor een stuk bepaald door zijn ongewone bedrijfsstructuur. Het is de Signal Foundation die de app financiert. Die werd op zijn beurt opgericht in 2018, met een lening van 50 miljoen dollar. De ontwikkeling van Signal is afhankelijk van dat bedrag, dat samen met donaties al gegroeid is tot 100 miljoen dollar.
Medewerkers van Signal kregen te horen dat het bedrijf 100 miljoen gebruikers moet kunnen binnenhalen om financieel op eigen benen te staan. Maar dat is niet zo eenvoudig. De concurrentie is stevig, als je weet dat Facebook, Google, Apple en ook nieuwere spelers als Telegram allemaal hun deel van de koek willen. Het oorspronkelijke doelpubliek van activisten en journalisten gaat niet volstaan om te kunnen meedoen met de grote jongens. Signal zal onvermijdelijk zijn antikapitalistische ingesteldheid moeten laten varen en zich moeten neerleggen bij de wetten van Silicon Valley. De financiële realiteit is er wel: zonder nieuwe features toe te voegen en de userbase te doen groeien, kan de berichtendienst niet groot worden. Dat heeft de concurrentie alvast moeten ondervinden.
Risico’s in nieuwe features
Signal lijkt voor de ontwikkeling van zijn nieuwe features niet voldoende stil te staan bij mogelijk misbruik. Zo is het bedrijf onlangs een systeem beginnen uitwerken met usernames. De onderliggende bedoeling is goed: gebruikers kloegen wel eens over het feit dat ze hun telefoonnummer moesten vrijgeven om zich te registreren op de app. De bezorgdheid is dat de eenvoudig aan te maken gebruikersnamen de deur nog wat verder openzetten voor misbruik via fake accounts, phishing of het verspreiden van desinformatie door imitators van bekende personen.
Het lijkt er niet op dat Signal een plan achter de hand heeft om dergelijk misbruik aan te pakken. Daarnaast denkt het bedrijf eraan om elektronische betalingen toe te voegen aan zijn app. De opzet is om mensen in ontwikkelingslanden meer mogelijkheden te bieden, bijvoorbeeld om geld te versturen naar familieleden. Het risico bestaat natuurlijk dat criminelen gretig gebruik gaan willen maken van een niet te traceren, anoniem transactiesysteem. De kans is groot dat Signal de functie er toch zal doorduwen. Zowel Facebook als het Chinese WeChat hebben een betalingssysteem nagejaagd om hun eigen groeistrategie te verwezenlijken.
Visie bijsturen
Een tweede verantwoordelijke voor het bedrijfsbeleid is Brian Acton, nu uitvoerend voorzitter van de Signal Foundation. Zijn naam doet mogelijk geen belletje rinkelen, maar weet dan dat hij mede-oprichter was van WhatsApp. Hij leende destijds startkapitaal aan Signal. Toen hij nog onder de vleugels van moederbedrijf Facebook vertoefde, was hij ook al van mening dat techbedrijven beter niet zelf tussenbeide komen om verschillende vormen van misbruik te voorkomen. Acton vindt dat het niet aan techbedrijven is om voor rechter te spelen. Wanneer technologie misbruikt wordt door haatdragende groeperingen of terroristen, dan is het volgens hem nodig om naar de mensen te kijken en niet in de richting van de technologie.
Het is die achterliggende denkwijze die mee verklaart waarom Signal geen uitgebreider preventief beleid voert. In wezen verschilt de boomende berichtendienst dus niet bijzonder veel van WhatsApp, althans wat preventie van mogelijk misbruik betreft. Toch lijkt het onverstandig voor het bedrijf om zich te laten leiden door zijn honger naar meer groei. Het risico op misbruik minimaliseren kan de toekomst van het bedrijf zelfs in het gedrang brengen. Het verhaal van Signal illustreert dat het niet volstaat om hardnekkig vast te houden aan een businessmodel en vastgeroeste ideeën.
Privacy intact
Idealen zijn mooi, maar als de realiteit ze tegenspreken, moeten de verantwoordelijken hun visie durven bijsturen. Wanneer de verleiding om snel te groeien groot is, dreigen enthousiaste bedrijfsleiders nogal eens blind te blijven voor de grote valkuilen. Want wanneer het ooit zwaar mis gaat (laat ons hopen van niet), dan kan die jarenlange groei in het slechtste geval de prullenmand in. Signal mag dan wel de beste bedoelingen in de wereld hebben, zolang berichten ook in uitzonderlijke gevallen niet te ontgrendelen zijn, zal het risico op misbruik door extremisten of criminelen er altijd zijn. De berichtendienst zal in zijn zoektocht naar groei en zelfredzaamheid onvermijdelijk nieuwe stappen moeten zetten om zijn idealen rond privacy intact te houden.
