Dialoog uit televisieseries kan spraakassistenten onbedoeld activeren
Spraakassistenten zoals Google Assistent en Siri krijgen een steeds grotere rol in ons leven. Tegenwoordig staan ze op elke smartphone en tablet geïnstalleerd, of we dat nu willen of niet. En wie veel smarthome apparaten koopt, heeft in elk huiskamer een spraakassistent om de toestellen te bedienen.
Die spraakassistenten maken ons leven een stuk eenvoudiger, maar ze hebben ook een keerzijde. Soms luisteren ze ook wel eens mee naar gesprekken die niet voor hen bedoeld zijn. Dat komt omdat we per ongeluk een woord gezegd hebben waardoor ze opspringen. Als je weet dat opnames met spraakassistenten worden opgeslagen tot je ze laat verwijderen, kan het wel eens zijn dat je assistent meer over jezelf weet dan je wil.
Game of Thrones
Maar uit een onderzoekspaper blijkt dat de woorden soms niet eens door ons moeten uitgesproken worden. Onderzoekers van de universiteit van Bochum ontdekten dat ook bepaalde zinnen uit je favoriete televisieserie ervoor kunnen zorgen dat je spraakassistent opspringt. De spraakassistenten van alle belangrijke smarthomefabrikanten – Google, Apple, Alexa, Microsoft en drie Chinese fabrikanten – kregen urenlang geluidsfragmenten te horen uit Amerikaanse en Chinese fictie.
Uit die test bleek regelmatig dat de spraakassistenten onbedoeld ontwaakten door een zin die door de televisiepersonages gezegd werden. Elke spraakassistent leek wel op bepaalde valse triggers te reageren. In de YouTube-video hieronder zie je hoe Alexa ontwaakt door een scène uit Game of Thrones. In totaal konden de onderzoekers voor de verschillende fabrikanten zo’n 1000 valse triggers onderscheiden.
Inbreuk op de privacy
De onderzoekers leggen ook uit hoe dat kan gebeuren. Het proces verloopt in twee stappen. Spraakassistenten analyseren eigenlijk alle conversaties die in hun beurt plaatsvinden. Menen ze een trigger gehoord te hebben, dan uploaden ze de conversatie naar de cloudserver van de fabrikant voor verdere analyse. Krijgen ze de feedback dat het om een valse trigger gaat, dan ondernemen ze geen verdere actie en schakelen ze zich weer uit.
Misschien vind je het niet zo erg dat je spraakassistent mee naar de televisie kijkt, de onderzoekers spreken toch van een ‘onaanvaardbare’ inbreuk op de privacy. Want ook private conversaties belanden op die manier in de cloudomgeving van de fabrikanten, en daar kunnen we weinig tegen doen. Toch is het vanuit het oogpunt van de fabrikanten wel begrijpelijk dat de systemen zo zijn opgebouwd. Het is namelijk de enige manier om de technologie te verbeteren. Bescherming van privacy en technologische vooruitgang zijn soms een moeilijke evenwichtsoefening.
Spraakassistenten zoals Google Assistent en Siri krijgen een steeds grotere rol in ons leven. Tegenwoordig staan ze op elke smartphone en tablet geïnstalleerd, of we dat nu willen of niet. En wie veel smarthome apparaten koopt, heeft in elk huiskamer een spraakassistent om de toestellen te bedienen.
Die spraakassistenten maken ons leven een stuk eenvoudiger, maar ze hebben ook een keerzijde. Soms luisteren ze ook wel eens mee naar gesprekken die niet voor hen bedoeld zijn. Dat komt omdat we per ongeluk een woord gezegd hebben waardoor ze opspringen. Als je weet dat opnames met spraakassistenten worden opgeslagen tot je ze laat verwijderen, kan het wel eens zijn dat je assistent meer over jezelf weet dan je wil.
Game of Thrones
Maar uit een onderzoekspaper blijkt dat de woorden soms niet eens door ons moeten uitgesproken worden. Onderzoekers van de universiteit van Bochum ontdekten dat ook bepaalde zinnen uit je favoriete televisieserie ervoor kunnen zorgen dat je spraakassistent opspringt. De spraakassistenten van alle belangrijke smarthomefabrikanten – Google, Apple, Alexa, Microsoft en drie Chinese fabrikanten – kregen urenlang geluidsfragmenten te horen uit Amerikaanse en Chinese fictie.
Uit die test bleek regelmatig dat de spraakassistenten onbedoeld ontwaakten door een zin die door de televisiepersonages gezegd werden. Elke spraakassistent leek wel op bepaalde valse triggers te reageren. In de YouTube-video hieronder zie je hoe Alexa ontwaakt door een scène uit Game of Thrones. In totaal konden de onderzoekers voor de verschillende fabrikanten zo’n 1000 valse triggers onderscheiden.
Inbreuk op de privacy
De onderzoekers leggen ook uit hoe dat kan gebeuren. Het proces verloopt in twee stappen. Spraakassistenten analyseren eigenlijk alle conversaties die in hun beurt plaatsvinden. Menen ze een trigger gehoord te hebben, dan uploaden ze de conversatie naar de cloudserver van de fabrikant voor verdere analyse. Krijgen ze de feedback dat het om een valse trigger gaat, dan ondernemen ze geen verdere actie en schakelen ze zich weer uit.
Misschien vind je het niet zo erg dat je spraakassistent mee naar de televisie kijkt, de onderzoekers spreken toch van een ‘onaanvaardbare’ inbreuk op de privacy. Want ook private conversaties belanden op die manier in de cloudomgeving van de fabrikanten, en daar kunnen we weinig tegen doen. Toch is het vanuit het oogpunt van de fabrikanten wel begrijpelijk dat de systemen zo zijn opgebouwd. Het is namelijk de enige manier om de technologie te verbeteren. Bescherming van privacy en technologische vooruitgang zijn soms een moeilijke evenwichtsoefening.
