Aantal deepfake video’s op het internet neemt sterk toe
De Nederlandse startup Deeptrace ontwikkelt software om zulke deepfake video’s op te sporen. Om mensen bewust van deze dreiging te maken, registreren ze hoeveel video’s ze op het internet kunnen vinden die gemaakt zijn met deepfake technologie. En die resultaten zijn toch wel opmerkelijk. In de laatste telling uitgevoerd in juni en juli, wisten ze 14.678 video’s op te sporen. De laatste telling van 2018 registreerde 7964 video’s. Dit illustreert dat deepfake technologie aan een flinke opmars bezig is.
Wat zijn deepfakes nu eigenlijk? Deepfake is een techniek voor het samenstellen van menselijke beelden op basis van AI. De technologie maakt het mogelijk om bepaalde beelden en klanken over elkaar te plakken op een zeer realistische manier. Dat hoeft lang niet altijd onschuldig te zijn. Dat bewijst onderstaande YouTube-video die Donald Trump en Mr. Bean tot één persoon maakt.
Uit de hand gelopen grap
Deepfakes origineren eigenlijk van Reddit. Iemand met de accountnaam deepfakes postte enkele korte clips waarin beroemdheden werden verwerkt in pornovideo’s. Of deze persoon het nu bedoelde of niet, zijn grap werd snel een trend op het internet. Twee jaar later zijn er dus al bijna 15.000 video’s met deepfake technologie te vinden. Volgens de onderzoekers is dit te wijten aan de technologie die steeds toegankelijker wordt. Ze vonden ook 2000 deepfake fora waar mensen elkaar tips geven over hoe video’s te maken.
Het overgrote deel van die video’s zijn porno, zo’n 96 procent volgens de onderzoekers. In nagenoeg alle gevallen spelen bekende zangeressen of actrices de ‘hoofdrol’. Op de vier grootste pornowebsites samen zijn die video’s al meer dan 134 miljoen keer bekeken. Deeptrace wil waarschuwen voor deze technologie.
Deepfake politiek
Een vrees waar Deeptrace ook mee zit, is dat de technologie wel eens zou kunnen opspelen tijdens de aankomende Amerikaanse presidentsverkiezingen. Hoewel deepfakes nog nauwelijks voorkomen in een politieke context, kan het een tool worden om nepnieuws te verspreiden. Via een deepfake video kan een handig knutselaar een politici uitspraken laten doen die hij/zij nooit gezegd heeft. Als dit massaal toegepast wordt om bepaalde kandidaten in een slecht daglicht te plaatsen, kan dit een invloed hebben op verkiezingsuitslagen.
Facebook en Microsoft verkondigden vorige maand al de strijd tegen deepfakes samen aan te gaan. Facebook vraagt aan onderzoekers om realistische deepfake video’s te maken, om een AI te ontwikkelen die deze video’s kan onderscheiden. De boodschap van Deeptrace zal in ieder geval dus niet in dovemansoren belanden.
De Nederlandse startup Deeptrace ontwikkelt software om zulke deepfake video’s op te sporen. Om mensen bewust van deze dreiging te maken, registreren ze hoeveel video’s ze op het internet kunnen vinden die gemaakt zijn met deepfake technologie. En die resultaten zijn toch wel opmerkelijk. In de laatste telling uitgevoerd in juni en juli, wisten ze 14.678 video’s op te sporen. De laatste telling van 2018 registreerde 7964 video’s. Dit illustreert dat deepfake technologie aan een flinke opmars bezig is.
Wat zijn deepfakes nu eigenlijk? Deepfake is een techniek voor het samenstellen van menselijke beelden op basis van AI. De technologie maakt het mogelijk om bepaalde beelden en klanken over elkaar te plakken op een zeer realistische manier. Dat hoeft lang niet altijd onschuldig te zijn. Dat bewijst onderstaande YouTube-video die Donald Trump en Mr. Bean tot één persoon maakt.
Uit de hand gelopen grap
Deepfakes origineren eigenlijk van Reddit. Iemand met de accountnaam deepfakes postte enkele korte clips waarin beroemdheden werden verwerkt in pornovideo’s. Of deze persoon het nu bedoelde of niet, zijn grap werd snel een trend op het internet. Twee jaar later zijn er dus al bijna 15.000 video’s met deepfake technologie te vinden. Volgens de onderzoekers is dit te wijten aan de technologie die steeds toegankelijker wordt. Ze vonden ook 2000 deepfake fora waar mensen elkaar tips geven over hoe video’s te maken.
Het overgrote deel van die video’s zijn porno, zo’n 96 procent volgens de onderzoekers. In nagenoeg alle gevallen spelen bekende zangeressen of actrices de ‘hoofdrol’. Op de vier grootste pornowebsites samen zijn die video’s al meer dan 134 miljoen keer bekeken. Deeptrace wil waarschuwen voor deze technologie.
Deepfake politiek
Een vrees waar Deeptrace ook mee zit, is dat de technologie wel eens zou kunnen opspelen tijdens de aankomende Amerikaanse presidentsverkiezingen. Hoewel deepfakes nog nauwelijks voorkomen in een politieke context, kan het een tool worden om nepnieuws te verspreiden. Via een deepfake video kan een handig knutselaar een politici uitspraken laten doen die hij/zij nooit gezegd heeft. Als dit massaal toegepast wordt om bepaalde kandidaten in een slecht daglicht te plaatsen, kan dit een invloed hebben op verkiezingsuitslagen.
Facebook en Microsoft verkondigden vorige maand al de strijd tegen deepfakes samen aan te gaan. Facebook vraagt aan onderzoekers om realistische deepfake video’s te maken, om een AI te ontwikkelen die deze video’s kan onderscheiden. De boodschap van Deeptrace zal in ieder geval dus niet in dovemansoren belanden.
