Adobe ontwikkelt AI om manipulatie portretten te herkennen en terug te draaien
Samen met wetenschappers van UC Berkeley werkt Adobe aan een methode om manipulaties in portretten te achterhalen. Daarbij gaat het om fotobewerkingen die zijn gedaan met het Face Aware Liquify-gereedschap in Photoshop. Zo’n manipulatie zou niet alleen door de AI ontdekt kunnen worden, maar er ook mee ongedaan kunnen worden gemaakt.
De onderzoekers hebben een onderzoek gepubliceerd waarin een methode wordt beschreven die manipulaties detecteert die zijn toegepast op beelden van gezichten van mensen. De technologie bestaat uit een neuraal netwerk dat is getraind met gemanipuleerde beelden die zijn gemaakt met behulp van scripts met Photoshop en de Face Aware Liquify tool.
Om de beoordelingsvaardigheden van de AI te testen, gebruikten de onderzoekers beeldparen met een origineel, onbewerkt beeld en een gewijzigde foto. De wetenschappers vulde het systeem met duizenden foto’s van internet, waarbij verschillende gezichtskenmerken werden veranderd. Het neurale netwerk wist met een nauwkeurigheid van maar liefst 99 procent de gemanipuleerde foto’s eruit te pikken. Liet men de beoordeling over aan mensen, dan bleken zij in slechts 53% het correcte beeld te kiezen.
Bovendien bleek de technologie in staat om de specifieke gebieden van een vervormd gezicht te bepalen en welke methoden daarvoor waren gebruikt. Ook kon het de beste manier berekenen om de bewerkingen terug te draaien om de foto naar zijn oorspronkelijke staat terug te brengen.
Volgens Adobe wordt vertrouwen in een wereld waar beeldbewerking alomtegenwoordig is, steeds belangrijker: “Nepinhoud is een serieus en steeds dringender probleem. Adobe is vastbesloten om de meest bruikbare en verantwoorde manieren te vinden om nieuwe technologieën tot leven te brengen – en voortdurend op zoek naar nieuwe technologieën, zoals kunstmatige intelligentie (AI), om het vertrouwen en de autoriteit in digitale media te vergroten.”
Samen met wetenschappers van UC Berkeley werkt Adobe aan een methode om manipulaties in portretten te achterhalen. Daarbij gaat het om fotobewerkingen die zijn gedaan met het Face Aware Liquify-gereedschap in Photoshop. Zo’n manipulatie zou niet alleen door de AI ontdekt kunnen worden, maar er ook mee ongedaan kunnen worden gemaakt.
De onderzoekers hebben een onderzoek gepubliceerd waarin een methode wordt beschreven die manipulaties detecteert die zijn toegepast op beelden van gezichten van mensen. De technologie bestaat uit een neuraal netwerk dat is getraind met gemanipuleerde beelden die zijn gemaakt met behulp van scripts met Photoshop en de Face Aware Liquify tool.
Om de beoordelingsvaardigheden van de AI te testen, gebruikten de onderzoekers beeldparen met een origineel, onbewerkt beeld en een gewijzigde foto. De wetenschappers vulde het systeem met duizenden foto’s van internet, waarbij verschillende gezichtskenmerken werden veranderd. Het neurale netwerk wist met een nauwkeurigheid van maar liefst 99 procent de gemanipuleerde foto’s eruit te pikken. Liet men de beoordeling over aan mensen, dan bleken zij in slechts 53% het correcte beeld te kiezen.
Bovendien bleek de technologie in staat om de specifieke gebieden van een vervormd gezicht te bepalen en welke methoden daarvoor waren gebruikt. Ook kon het de beste manier berekenen om de bewerkingen terug te draaien om de foto naar zijn oorspronkelijke staat terug te brengen.
Volgens Adobe wordt vertrouwen in een wereld waar beeldbewerking alomtegenwoordig is, steeds belangrijker: “Nepinhoud is een serieus en steeds dringender probleem. Adobe is vastbesloten om de meest bruikbare en verantwoorde manieren te vinden om nieuwe technologieën tot leven te brengen – en voortdurend op zoek naar nieuwe technologieën, zoals kunstmatige intelligentie (AI), om het vertrouwen en de autoriteit in digitale media te vergroten.”
