Meta lanceert tool om online terrorisme op te sporen
In januari krijgt Meta, het moederbedrijf achter Facebook en Instagram, zeggenschap in het Global Internet Forum to Counter Terrorism (GIFCT). Deze NGO heeft als doel om terrorisme op internet te verminderen en financiert heel wat onderzoek naar hoe dat kan gebeuren. De organisatie werd in 2017 opgericht door Meta (toen nog Facebook), Google, Microsoft en Twitter.
Om terroristische content een halt toe te roepen ontwikkelde Meta een softwaretool. De software is helemaal open-source en kostte Meta zo’n 5 miljard dollar om te ontwikkelen. Omdat de software onder een open-sourcelicentie wordt uitgebracht, kan iedere website er gratis gebruik van maken. De software kreeg de weinig verhullende naam ‘Hasher-Matcher-Actioner’ (HMA), die verwijst naar de werking van de softwaretool.
Hasher-Matcher-Actioner
De eerste stap is het zogenaamde labelen en ‘hashen’ van content. Hierbij wordt onwettige content gelabeld en in het systeem ingevoerd. Dit kunnen terroristische posts zijn, maar even goed kan bijvoorbeeld pornografische content gefilterd worden. Het ‘hashen’ van de content houdt in dat er een unieke vingerafdruk voor de post gegeneerd wordt. Die ‘hash’ bestaat uit een string van allerlei nummers en letters.
Deze vingerafdruk wordt opgeslagen in een database. Wanneer er nieuwe posts op het platform gemaakt worden, wordt ook daarvan een vingerafdruk gemaakt. Aangezien identieke posts ook identieke vingerafdrukken krijgen, kunnen nieuwe posts makkelijk gefilterd worden. Dit is het ‘match’-gedeelte van het proces.
Tot slot kan er tot actie worden overgegaan – het laatste deel uit de naam van deze softwaretool. Dit kan automatisch gebeuren, maar kan ook geval per geval bekeken worden.
Enorm voordelig voor techbedrijven, is dat de database met vingerafdrukken over verschillende bedrijven gedeeld worden. Op die manier kan je content filteren die op andere websites al eens geblokkeerd werd.
Terrorisme en haatspraak op Facebook
Meta maakt bekend dat terroristische en haatspraak-posts minder voorkomen op Facebook dan drie jaar geleden. Gingen toen 10 tot 11 views van de 10.000 naar terroristische content en haatspraak, zijn dat er nu slechts twee. Met de HMA-softwaretool zal Meta proberen dat cijfer nog lager te krijgen – zowel op Facebook als op andere websites.
In januari krijgt Meta, het moederbedrijf achter Facebook en Instagram, zeggenschap in het Global Internet Forum to Counter Terrorism (GIFCT). Deze NGO heeft als doel om terrorisme op internet te verminderen en financiert heel wat onderzoek naar hoe dat kan gebeuren. De organisatie werd in 2017 opgericht door Meta (toen nog Facebook), Google, Microsoft en Twitter.
Om terroristische content een halt toe te roepen ontwikkelde Meta een softwaretool. De software is helemaal open-source en kostte Meta zo’n 5 miljard dollar om te ontwikkelen. Omdat de software onder een open-sourcelicentie wordt uitgebracht, kan iedere website er gratis gebruik van maken. De software kreeg de weinig verhullende naam ‘Hasher-Matcher-Actioner’ (HMA), die verwijst naar de werking van de softwaretool.
Hasher-Matcher-Actioner
De eerste stap is het zogenaamde labelen en ‘hashen’ van content. Hierbij wordt onwettige content gelabeld en in het systeem ingevoerd. Dit kunnen terroristische posts zijn, maar even goed kan bijvoorbeeld pornografische content gefilterd worden. Het ‘hashen’ van de content houdt in dat er een unieke vingerafdruk voor de post gegeneerd wordt. Die ‘hash’ bestaat uit een string van allerlei nummers en letters.
Deze vingerafdruk wordt opgeslagen in een database. Wanneer er nieuwe posts op het platform gemaakt worden, wordt ook daarvan een vingerafdruk gemaakt. Aangezien identieke posts ook identieke vingerafdrukken krijgen, kunnen nieuwe posts makkelijk gefilterd worden. Dit is het ‘match’-gedeelte van het proces.
Tot slot kan er tot actie worden overgegaan – het laatste deel uit de naam van deze softwaretool. Dit kan automatisch gebeuren, maar kan ook geval per geval bekeken worden.
Enorm voordelig voor techbedrijven, is dat de database met vingerafdrukken over verschillende bedrijven gedeeld worden. Op die manier kan je content filteren die op andere websites al eens geblokkeerd werd.
Terrorisme en haatspraak op Facebook
Meta maakt bekend dat terroristische en haatspraak-posts minder voorkomen op Facebook dan drie jaar geleden. Gingen toen 10 tot 11 views van de 10.000 naar terroristische content en haatspraak, zijn dat er nu slechts twee. Met de HMA-softwaretool zal Meta proberen dat cijfer nog lager te krijgen – zowel op Facebook als op andere websites.
