Facebook ontwikkelt virtueel platform om bots te trainen tegen slecht gedrag
Facebook kamp zoals veel sociale mediaplatformen al sinds zijn oprichting met problemen die mensen met slechte intenties veroorzaken. Ondanks de vele miljoenen dollars en euro’s die het bedrijf al investeerde, zijn fraudeurs en pestkoppen niet zomaar van een platform te weren. Al jaren wordt de sleutel gelegd bij AI bots om dit slechte gedrag op te sporen en daders te bestraffen.
Vandaag stelde Facebook een onderzoeksproject voor dat voor een nieuwe doorbraak moet zorgen in de strijd tegen slecht gedrag van gebruikers. Centraal staat daarin het Web Enabled Simulation-platform (door Facebook WW genoemd), dat je als een ‘virtuele Facebook’ zou kunnen zien. Facebook gaat bots loslaten op dat virtuele platform om interacties tussen mensen te stimuleren.
Via machine learning zullen de bots getraind worden om menselijk gedrag zo realistisch mogelijk na te bootsen. De bots zullen posts publiceren waarop andere bots kunnen reageren, en ze kunnen elkaar zelfs berichten en vriendschapsverzoeken sturen. Ze kunnen wel niet in interactie treden met mensen, en wat binnen het virtuele platform gebeurt zal geen invloed kunnen hebben op het echte Facebook.
Goede en stoute bots
Een belangrijk onderdeel van het onderzoeksopzet is dat sommige bots, net als sommige mensen, zich niet volgens de regels zullen gedragen. Die bots gaan andere bots beginnen uitmaken, of zullen het gedrag van een fraudeur aanleren om goedgelovige bots in de val te lokken. Het uiteindelijke doel is dan om een mechanisme te creëren dat mensen die die gedragingen willen vertonen te dwarsbomen nog voor het kwaad kan geschieden.
Volgens onderzoekers van Facebook zit de kracht in Web Enabled Simulation in het feit dat het zeer polyvalent ingezet kan worden. De bots kunnen allerlei gedragingen simuleren. Ze kunnen patronen herkennen in de listen van fraudeurs, maar ook valse accounts detecteren. Ze zouden zelfs kunnen leren van het gedrag van moderators om zo inschattingen te maken over gerapporteerde content, iets dat nu nog door mensen moet gedaan worden. Al benadrukt Facebook dat het subjectieve beslissingen nooit in handen van een AI-programma zal leggen. Of het virtuele platform ook effectief resultaten in de praktijk zal opleveren kunnen we nu nog niet beoordelen, maar wees alvast gewaarschuwd.
Facebook kamp zoals veel sociale mediaplatformen al sinds zijn oprichting met problemen die mensen met slechte intenties veroorzaken. Ondanks de vele miljoenen dollars en euro’s die het bedrijf al investeerde, zijn fraudeurs en pestkoppen niet zomaar van een platform te weren. Al jaren wordt de sleutel gelegd bij AI bots om dit slechte gedrag op te sporen en daders te bestraffen.
Vandaag stelde Facebook een onderzoeksproject voor dat voor een nieuwe doorbraak moet zorgen in de strijd tegen slecht gedrag van gebruikers. Centraal staat daarin het Web Enabled Simulation-platform (door Facebook WW genoemd), dat je als een ‘virtuele Facebook’ zou kunnen zien. Facebook gaat bots loslaten op dat virtuele platform om interacties tussen mensen te stimuleren.
Via machine learning zullen de bots getraind worden om menselijk gedrag zo realistisch mogelijk na te bootsen. De bots zullen posts publiceren waarop andere bots kunnen reageren, en ze kunnen elkaar zelfs berichten en vriendschapsverzoeken sturen. Ze kunnen wel niet in interactie treden met mensen, en wat binnen het virtuele platform gebeurt zal geen invloed kunnen hebben op het echte Facebook.
Goede en stoute bots
Een belangrijk onderdeel van het onderzoeksopzet is dat sommige bots, net als sommige mensen, zich niet volgens de regels zullen gedragen. Die bots gaan andere bots beginnen uitmaken, of zullen het gedrag van een fraudeur aanleren om goedgelovige bots in de val te lokken. Het uiteindelijke doel is dan om een mechanisme te creëren dat mensen die die gedragingen willen vertonen te dwarsbomen nog voor het kwaad kan geschieden.
Volgens onderzoekers van Facebook zit de kracht in Web Enabled Simulation in het feit dat het zeer polyvalent ingezet kan worden. De bots kunnen allerlei gedragingen simuleren. Ze kunnen patronen herkennen in de listen van fraudeurs, maar ook valse accounts detecteren. Ze zouden zelfs kunnen leren van het gedrag van moderators om zo inschattingen te maken over gerapporteerde content, iets dat nu nog door mensen moet gedaan worden. Al benadrukt Facebook dat het subjectieve beslissingen nooit in handen van een AI-programma zal leggen. Of het virtuele platform ook effectief resultaten in de praktijk zal opleveren kunnen we nu nog niet beoordelen, maar wees alvast gewaarschuwd.
