AIoT implementeren op microcontrollers: een praktische gids

In een eerdere post onderzocht ik hoe kunstmatige intelligentie steeds meer in Internet-of-Things-apparaten wordt gewebd, wat leidt tot intelligente AIoT-oplossingen die leren van data en autonoom beslissingen nemen. Deze systemen vertonen menselijke interacties met hun omgeving, wat de productfunctionaliteit en gebruikerservaring verbetert.

AI en IoT samen hebben nieuwe markten geopend voor microcontrollers (MCU's). Door simpele MCU's te koppelen aan AI-versnelling, kunnen ontwikkelaars intelligentie insluiten in apparaten die eerder uitsluitend op basis van basissensoren functioneerden. Moderne AI-geïntegreerde MCU's combineren digitaal signaalverwerking (DSP) voor berekening met machine-learning (ML) inferentie, wat toepassingen mogelijk maakt zoals trefwoorden herkennen, sensorfusie, trillinganalyse en spraakherkenning. Hogere prestatie MCU's ondersteunen nu visie- en imagingtaken—gezichtsherkenning, vingerafdrukanalyse, autonome robots—en brengen wat eens exclusief was voor MPU's en GPU's naar de edge.

AI-technologieën in edge-apparaten

Machine Learning (ML): ML-algoritmen bouwen modellen uit representatieve data, waardoor apparaten patronen automatisch kunnen detecteren. Leveranciers leveren algoritmen, API's en trainingshulpmiddelen die ingesloten systemen in staat stellen getrainde modellen voor inferentie uit te voeren. Veelvoorkomende use cases zijn sensorhubs, trefwoorddetectie, predictief onderhoud en classificatie.

Deep Learning: Een subset van ML die meerlagige neurale netwerken traint om hoog-niveau kenmerken uit complexe invoer te extraheren. Deep learning blinkt bij grote, diverse datasets en verbetert continu met elke iteratie. Toepassingen omvatten beeldverwerking, chatbots en gezichtsherkenning.

Natural Language Processing (NLP): NLP stelt systemen in staat menselijke taal—tekst of spraak—te begrijpen en te reageren, waarbij beslissingen worden genomen op basis van die invoer. Het aandrijft spraakherkenning, machinaal vertalen en voorspellend typen.

Computer Vision: Dit veld traint machines om beelddata vast te leggen, te interpreteren en erop te handelen. Door deep learning te benutten, kunnen systemen objecten in realtime identificeren en classificeren. Use cases zijn productiefoutdetectie, medische diagnostiek, detailhandelsgezichtsherkenning en testen van autonome voertuigen.

AIoT op MCU's

Historisch gesehen woonde AI in MPU's en GPU's, waar grote geheugens en krachtige kernen zware workloads konden aan. De verschuiving naar edge-intelligentie plaatst nu AI op MCU's, gedreven door de behoefte aan lagere latentie, verminderde bandbreedte en strakkere energiebudgetten. Recente MCU's beschikken nu over voldoende rekenkracht en geheugen om lichtgewicht neurale netwerk (NN) frameworks te hosten die zijn afgestemd op begrensde apparaten, wat realtime inferentie op de edge haalbaar maakt.

Een neuraal netwerk bestaat uit lagen van knooppunten die gewogen invoer verwerken om uitvoer te produceren. Tijdens training—meestal uitgevoerd in de cloud—stroomt data door het netwerk, en past backpropagation gewichten aan om voorspellingsfouten te minimaliseren. Eenmaal getraind, worden de vaste gewichten opgeslagen in flashgeheugen, waardoor de MCU inferentie kan uitvoeren met minimaal RAM.

Inferentie vereist veel minder berekening dan training, wat MCU's ideale gastheren maakt voor vooraf getrainde modellen. De gewichten blijven statisch, en de MCU kan instantane beslissingen leveren op basis van nieuwe sensordata.

AI implementeren op MCU's

De typische workflow omvat vier fasen:

1. Dataverzameling: Verzamel uitgebreide datasets van het doelapparaat of de toepassing.
2. Modeltraining: Gebruik cloud-gebaseerde tools van AI-leveranciers (bijv. TensorFlow Lite, Caffe) om een neuraal netwerk te trainen dat aan de toepassingsvereisten voldoet.
3. Modelconversie: Converteer het getrainde model naar een flat-buffer formaat met de converter van de leverancier, optioneel quantisatie toepassen om de grootte te verkleinen. De flat buffer wordt vervolgens vertaald naar C-code en gebundeld in de firmware van de MCU.
4. Implementatie & Updates: Flash de firmware op de MCU. Wanneer nieuwe dataklassen verschijnen, kan het model in de cloud hergetraind en via over-the-air (OTA) firmware-upgrades op het apparaat bijgewerkt worden.

Er zijn twee gangbare architectuurpaden voor MCU-gebaseerde AI-oplossingen, uitgaande van een Arm Cortex-M kern:

1. Software-only uitvoering: Het flat-buffer model draait op de Cortex-M CPU, versneld door CMSIS-NN bibliotheken. Deze lichtgewicht opstelling is geschikt voor taken zoals trefwoorddetectie en trillinganalyse.
2. Hardware-versnelde uitvoering: Integreer een micro neural processing unit (u-NPU) of NN-accelerator. De u-NPU behandelt de meeste gangbare audio, spraak, beeldclassificatie en objectdetectie workloads, met fallback naar de CPU voor niet-ondersteunde operaties. Deze benadering levert hogere doorvoer en lager energieverbruik.

Naarmate MCU's evolueren naar het prestatieniveau van MPU's, verwachten we het ontstaan van on-device learning—lichtgewicht trainingsalgoritmen die direct op de MCU draaien. Dit zal nieuwe markten openen en aanzienlijke investeringen van MCU-fabrikanten stimuleren.

AI op de Edge is de toekomst

Edge AI op resource-beperkte MCU's zal exponentieel groeien, wat nieuwe toepassingen ontgrendelt naarmate prestatiegrenzen tussen MCU's en MPU's vervagen. De proliferatie van dunne NN-modellen die zijn ontworpen voor ingesloten contexten zal de adoptie over industrieën heen drijven.