AI on edge: het belang van een lokale AI
Wat is edge AI?
Edge AI is een cruciaal onderdeel van de zogenaamde vierde industriële revolutie. Edge AI betekent dat de AI-algoritmen lokaal, en op een hardware-toestel verwerkt worden. De algoritmen maken overigens gebruik van data (sensordata of signalen) die op het toestel zelf werden gecreëerd. Een beetje zoals een perifeer zenuwstelsel. Intelligentie op de edge betekent dat zelfs de kleinste toestelletjes en machines rondom ons hun omgeving als het ware kunnen ‘aanvoelen’, ervan leren en er zelfs op kunnen reageren.
Een toestel dat gebruik maakt van Edge AI hoeft dus niet aangesloten te zijn op je netwerk om degelijk te werken. Het kan namelijk data autonoom verwerken en kan met gemak op eigen houtje beslissingen nemen zonder een werkende internetverbinding.
Hoe werkt het?
Praktisch gezien heb je voor een goed werkende edge AI een soort sensor nodig. Dat kan een accelerometer zijn, een gyrosensor of enig ander type. Die sensor wordt dan verbonden aan een kleine microcontroller (MCU). De MCU zit propvol software die reeds op voorhand is getraind op typische scenario’s dat het toestel zal meemaken. Dat is de trainingsfase, wat ook een continu proces kan zijn van zodra het toestel met een nieuwe situatie in contact komt. De reactie van de AI kan een actie zijn op zijn onmiddellijke omgeving, of het kan bestaan uit een signaal naar een menselijke medewerker of de cloud voor verdere hulp en opvolging van de kwestie ter hand.
Om te kunnen leren uit al die gegevens, is de software op het toestel gebaseerd op een bepaald type machine learning. De meest veelbelovende AI, die ook gebruik maakt van diepe neurale netwerken, gebruiken echter te veel computerkracht en geheugen, waardoor de software moeilijk in te passen valt op de kleine MCU’s die momenteel voorhanden zijn.
En nu in mensentaal
Om zelf gebruik te maken van edge AI, heb je dus een toestel nodig met een microprocessor en sensoren. Bij wijze van voorbeeld; een bejaarde persoon die een horloge draagt met valdetectie is een oplossing die gebaseerd is op edge AI. Het edge AI-systeem maakt namelijk gebruik van realtime gegevens als input om te detecteren wanneer een persoon valt.
Edge AI zorgt ervoor dat je batterij veel langer meegaat.
Een cruciaal element in dat voorbeeld is dat een dergelijk systeem ervoor zorgt dat de batterij langer meegaat. Als het systeem zou verlopen via bluetooth en cloudopslag, zou je een continue verbinding nodig hebben. En dat zuigt je batterij uiteraard in no time leeg.
Waarom is edge AI zo belangrijk?
Edge AI maakt realtime processen zoals datacreatie, en onmiddellijke actie mogelijk. Dat is vooral erg belangrijk voor zelfrijdende auto’s, robots en allerhande andere toepassingen. Kort gezegd zal edge AI de kosten voor datacommunicatie laten dalen, aangezien er ook minder data zullen overgeheveld worden. Door de meeste van je data ook lokaal te verwerken kan je streamingproblemen ook vermijden. Daarnaast is ook de opslag van grote hoeveelheden aan data in de cloud geen probleem meer. Met edge AI ben je daarnaast ook goed beschermd tegen privacyinbreuken.
De snelheid van de cloud is trouwens ook allemaal goed en wel, maar is toch nog niet genoeg. Massieve centralisering, schaal-economieën en een doorgedreven automatisering helpen ons weliswaar al op weg. Toch zijn ze niet bestand tegen de wetten van de fysica; het gewicht van data en de snelheid van licht. Als klanten continu op een reactie moeten wachten van een mijlenver datacenter, ligt de latentie van je business toch nog te hoog. En het oude adagium ‘time is money’ geldt nergens meer dan in de zakelijke wereld.
De toekomst
Dat edge AI in de lift zit, is duidelijk, en bovendien ook gewoon logisch. De wereld heeft namelijk niet genoeg bandbreedte om al de nieuwe data te verwerken die binnenkomen via machine learning-software. Google uitte ooit de intussen befaamde quote: “als elk Android-toestel ter wereld dagelijks drie minuten aan spraakherkenning per dag zou doen, zou het daarvoor twee keer zoveel computerkracht nodig hebben. De evolutie naar edge AI lijkt dus onvermijdelijk.
Wat is edge AI?
Edge AI is een cruciaal onderdeel van de zogenaamde vierde industriële revolutie. Edge AI betekent dat de AI-algoritmen lokaal, en op een hardware-toestel verwerkt worden. De algoritmen maken overigens gebruik van data (sensordata of signalen) die op het toestel zelf werden gecreëerd. Een beetje zoals een perifeer zenuwstelsel. Intelligentie op de edge betekent dat zelfs de kleinste toestelletjes en machines rondom ons hun omgeving als het ware kunnen ‘aanvoelen’, ervan leren en er zelfs op kunnen reageren.
Een toestel dat gebruik maakt van Edge AI hoeft dus niet aangesloten te zijn op je netwerk om degelijk te werken. Het kan namelijk data autonoom verwerken en kan met gemak op eigen houtje beslissingen nemen zonder een werkende internetverbinding.
Hoe werkt het?
Praktisch gezien heb je voor een goed werkende edge AI een soort sensor nodig. Dat kan een accelerometer zijn, een gyrosensor of enig ander type. Die sensor wordt dan verbonden aan een kleine microcontroller (MCU). De MCU zit propvol software die reeds op voorhand is getraind op typische scenario’s dat het toestel zal meemaken. Dat is de trainingsfase, wat ook een continu proces kan zijn van zodra het toestel met een nieuwe situatie in contact komt. De reactie van de AI kan een actie zijn op zijn onmiddellijke omgeving, of het kan bestaan uit een signaal naar een menselijke medewerker of de cloud voor verdere hulp en opvolging van de kwestie ter hand.
Om te kunnen leren uit al die gegevens, is de software op het toestel gebaseerd op een bepaald type machine learning. De meest veelbelovende AI, die ook gebruik maakt van diepe neurale netwerken, gebruiken echter te veel computerkracht en geheugen, waardoor de software moeilijk in te passen valt op de kleine MCU’s die momenteel voorhanden zijn.
En nu in mensentaal
Om zelf gebruik te maken van edge AI, heb je dus een toestel nodig met een microprocessor en sensoren. Bij wijze van voorbeeld; een bejaarde persoon die een horloge draagt met valdetectie is een oplossing die gebaseerd is op edge AI. Het edge AI-systeem maakt namelijk gebruik van realtime gegevens als input om te detecteren wanneer een persoon valt.
Edge AI zorgt ervoor dat je batterij veel langer meegaat.
Een cruciaal element in dat voorbeeld is dat een dergelijk systeem ervoor zorgt dat de batterij langer meegaat. Als het systeem zou verlopen via bluetooth en cloudopslag, zou je een continue verbinding nodig hebben. En dat zuigt je batterij uiteraard in no time leeg.
Waarom is edge AI zo belangrijk?
Edge AI maakt realtime processen zoals datacreatie, en onmiddellijke actie mogelijk. Dat is vooral erg belangrijk voor zelfrijdende auto’s, robots en allerhande andere toepassingen. Kort gezegd zal edge AI de kosten voor datacommunicatie laten dalen, aangezien er ook minder data zullen overgeheveld worden. Door de meeste van je data ook lokaal te verwerken kan je streamingproblemen ook vermijden. Daarnaast is ook de opslag van grote hoeveelheden aan data in de cloud geen probleem meer. Met edge AI ben je daarnaast ook goed beschermd tegen privacyinbreuken.
De snelheid van de cloud is trouwens ook allemaal goed en wel, maar is toch nog niet genoeg. Massieve centralisering, schaal-economieën en een doorgedreven automatisering helpen ons weliswaar al op weg. Toch zijn ze niet bestand tegen de wetten van de fysica; het gewicht van data en de snelheid van licht. Als klanten continu op een reactie moeten wachten van een mijlenver datacenter, ligt de latentie van je business toch nog te hoog. En het oude adagium ‘time is money’ geldt nergens meer dan in de zakelijke wereld.
De toekomst
Dat edge AI in de lift zit, is duidelijk, en bovendien ook gewoon logisch. De wereld heeft namelijk niet genoeg bandbreedte om al de nieuwe data te verwerken die binnenkomen via machine learning-software. Google uitte ooit de intussen befaamde quote: “als elk Android-toestel ter wereld dagelijks drie minuten aan spraakherkenning per dag zou doen, zou het daarvoor twee keer zoveel computerkracht nodig hebben. De evolutie naar edge AI lijkt dus onvermijdelijk.
