De kloof overbruggen: Machine Learning toegankelijk maken aan de Edge

Edge-intelligentie is nu binnen bereik van ontwerpers zonder formele data-science training, dankzij opkomende hardware-platforms.

Verbonden apparaten en het Internet of Things (IoT) hebben zich in het weefsel van ons dagelijks leven gewreven – of nu binnen huizen, voertuigen of werkplekken. Terwijl de meeste van deze apparaten vertrouwen op cloud-services voor zware taken, vormt een nieuw paradigma, "edge intelligence", hoe we intelligente systemen bouwen.

In dit artikel vergelijken we cloud-gebaseerde intelligentie met edge-intelligentie, illustreren real-world use cases en tonen hoe NXP's hardware en eIQ software-ecosysteem ontwerpers van alle vaardigheidsniveaus in staat stelt om machine learning (ML) op de edge te deployen.

Figuur 1. Van cloud computing naar edge computing ontgrendelt miljarden ML-ingeschakelde apparaten. Image courtesy of NXP.

Belangrijke Machine-Learning termen

Cloud Computing

Cloud computing levert remote computing resources on-demand. Serviceproviders onderhouden de hardware en garanderen beschikbaarheid, wat klanten in staat stelt om alleen te betalen voor wat ze gebruiken. Voor de meeste enterprises blijven cloud-services de go-to oplossing voor large-scale analytics en training.

Edge Computing

Edge computing plaatst verwerking dichter bij de databron – tussen de eindgebruiker en de cloud. Edge-nodes handelen filtering, buffering en privacy-verhogende taken, wat latentie en bandbreedtegebruik reduceert en kosten verlaagt. Moderne edge-apparaten embedden nu AI-accelerators die beslissen welke data de moeite waard is om upstream te sturen voor diepere analyse.

Machine Learning (ML)

In de kern traint ML algoritmen om patronen te herkennen. Neurale netwerken – met name convolutionele architecturen zoals MobileNet – hebben gedemocratiseerd door efficiënt te draaien op apparaten met beperkte resources. Het resultaat is high-accuracy image classificatie, spraakherkenning en meer, allemaal op de edge.

ML buiten het Data-Science domein

Historisch vereiste het bouwen van ML-systemen diepe expertise in data-science. Vandaag is het landschap dramatisch verschoven. Voorspellingen projecteren dat tegen 2025 98% van edge-apparaten ML zal embedden, wat vertaalt naar ongeveer 18-25 miljard slimme apparaten wereldwijd. Deze explosie opent mogelijkheden in computer vision, spraakanalyse, videoverwerking en sequentie-analyse.

Concrete voorbeelden zijn slimme deursloten die camera-feeds gebruiken geautoriseerde gebruikers te herkennen, of fleet-management dashboards die chauffeur-afleiding in real-time detecteren. De sleutel is dat deze capabilities niet meer gelimiteerd zijn tot specialisten; ze kunnen samengesteld worden door ontwerpers met bescheiden ML-kennis.

Hardware-platforms die Edge ML praktisch maken

Geoptimaliseerde neurale-netwerk algoritmen, gecombineerd met krachtige microcontrollers, maken geavanceerde ML-workloads op de edge mogelijk. De i.MX RT1170 biedt bijvoorbeeld een dual-core architectuur – 1 GHz Arm Cortex-M7 plus 400 MHz Cortex-M4 – wat real-time inferentie en gelijktijdige model-uitvoering toestaat. De ingebouwde crypto-engines, graphics en multimedia-ondersteuning maken het ideaal voor chauffeur-afleiding detectie, slimme verlichting, intelligente sloten en fleet-management systemen.

Figuur 2. Blokdiagram van de i.MX RT1170 crossover MCU. Image courtesy of NXP.

De i.MX 8M Plus richt zich op hogere-prestatie toepassingen zoals computer vision en industriële automatisering. Met een toegewijde NPU die tot 2,3 TOPS levert, vier Arm Cortex-A53 kernen en optionele 4K of dual-HD camera-ondersteuning, kan het facial-recognition, object-detectie en geavanceerde multimedia-taken aan. Een additionele low-power Cortex-M7 kern hanteert real-time netwerkfuncties, inclusief CAN FD en TSN-capable Gigabit Ethernet.

Figuur 3. Blokdiagram van de i.MX 8M Plus. Image courtesy of NXP.

De eIQ Toolset: Van model tot deployment

NXP's eIQ ML-ecosysteem verandert deze krachtige apparaten in user-friendly platforms. De suite omvat inference-engines, neurale-netwerk compilers en geoptimaliseerde bibliotheken die integreren met de MCUXpresso IDE en Yocto BSP. Komende releases voegen een grafische eIQ Toolkit en eIQ Portal toe, ondersteunend zowel "bring your own model" (BYOM) als "bring your own data" (BYOD) workflows.

Figuur 4. eIQ Toolkit en eIQ Portal met BYOD/BYOM workflows en selecteerbare inference engines. Image courtesy of NXP.

Met BYOM kunnen developers modellen in de cloud trainen en ze importeren in de eIQ-omgeving, dan de optimale inference-engine kiezen. Met BYOD curateren dezelfde tools datasets, trainen modellen en pakken ze – allemaal binnen dezelfde grafische interface.

Edge ML: Toegankelijk, veilig en schaalbaar

Edge computing houdt gevoelige data lokaal, verlaagt bandbreedtekosten en snijd latentie – voordelen die geamplificeerd worden wanneer gecombineerd met ML. Of het nu real-time chauffeur-afleiding alerts zijn of geautomatiseerde toegangskontrole, ML aan de edge herschikt hoe apparaten interacteren met de wereld.

Door NXP's kosteneffectieve hardware te koppelen aan een developer-vriendelijke software-stack, kunnen ontwerpers op alle ervaringsniveaus robuuste, toekomstbestendige ML-oplossingen creëren. Of u nu een enkele prototype bouwt of een vloot van miljarden apparaten deployed, de tools en platforms zijn nu binnen bereik.

Industry Articles zijn een vorm van content die industriële partners in staat stelt om nuttig nieuws, berichten en technologie te delen met All About Circuits lezers op een manier waar editorial content niet goed voor geschikt is. Alle Industry Articles onderworpen aan strikte editorial richtlijnen met de bedoeling om lezers nuttig nieuws, technische expertise of verhalen te bieden. De meningen en opinies uitgedrukt in Industry Articles zijn die van de partner en niet noodzakelijk die van All About Circuits of zijn schrijvers.