Edge AI: Waarom Verwerking naar de Apparaatlaag Verplaatst

Belangrijkste inzichten:

• De snelle groei van verbonden apparaten en datavolumes maakt gedistribueerd computing onmisbaar voor snelheid, prestaties en databeveiliging.
• Strategische stappen van NVIDIA en VMware maken het mogelijk om data-intensieve AI- en machine learning-workloads direct aan de edge uit te voeren.
• Edge-verwerking biedt concrete voordelen in een breed spectrum van industrieën – van industriële IoT tot consumententoepassingen.

Marktbewegingen Versnellen Edge-Adoptie: NVIDIA

Met miljarden sensoren en slimme apparaten wereldwijd bereiken traditionele gecentraliseerde cloud-architecturen hun grenzen. Hoewel cloud computing de agiliteit van startups en de schaalbaarheid van ondernemingen heeft gerevolutioneerd, vragen opkomende workloads – zoals high-definition video, autonome voertuigen en real-time logistiek – om sub-seconde latentie en veilige, on-premises data-afhandeling.

"Klanten beseffen dat het uitbesteden van te veel verwerking naar de cloud niet meer haalbaar is," zegt Markus Levy, hoofd van AI-technologieën bij NXP Semiconductors, in een recent gesprek over embedded AI. "De edge is waar de echte kans ligt."

Marktdata van MarketsandMarkets projecteert dat de edge-computingmarkt zal groeien van $3,6 miljard in 2020 naar $15,7 miljard in 2025 – een meer dan viervoudige expansie gedreven door de behoefte aan low-latency, high-bandwidth verwerking.

NVIDIA's Arm-overname: Een Mijlpaal voor Edge AI

NVIDIA's $40 miljard overname van Arm in september 2020 is een mijlpaal stap om GPU-geaccelleerde AI dichter bij het apparaat te brengen. Terwijl NVIDIA al lang de data-center GPU-markt domineert, biedt Arm's dominantie in mobiele processors – geleverd aan Apple, Qualcomm, Broadcom en anderen – een krachtig platform voor edge AI.

Zeus Kerravala, analist bij een industrie-onderzoeksfirma, merkt op: "Als je AI ziet als de toekomst, aangedreven door GPU's en CPU's, dan is NVIDIA's vermogen om end-to-end systemen te bouwen net geëxplodeerd – met name in de edge computing arena."

Regulators volgen de deal nauwgezet voor potentiële antitrust-implicaties, gegeven Arm's uitgebreide licentienetwerk en NVIDIA's groeiende invloed in mobiele CPU-marken.

SmartNICs: Intelligentie Verplaatsen naar de Edge

Tijdens VMworld 2020 onthulde VMware Project Monterey – een samenwerking met NVIDIA die SmartNICs en NVIDIA's BlueField DPUs benut om AI-workloads aan de edge te versnellen. Door hypervisor-, netwerk-, beveiligings- en opslagfuncties van de host CPU naar de DPU te verplaatsen, vrijmaakt Monterey tot 30% van CPU-cycli voor toepassingslogica.

Alexander Harrowell, senior analist bij Omdia, observeert: "De trend is duidelijk: berekening dichter bij de data verplaatsen verbetert prestaties en resource-gebruik. SmartNICs verplaatsen de verantwoordelijkheden van de hypervisor naar het netwerk, wat een Harvard-achtig computing-model ontgrendelt."

Greg Lavender, VMware's senior VP en CTO, legt uit: "Het offloaden van I/O en compute naar de Arm-kern in SmartNICs bevrijdt CPU-resources, wat toepassingen extra rekenkracht en geheugen geeft om sneller te opereren."

Voor het connected-things ecosysteem maakt deze verschuiving real-time AI mogelijk – het transformeren van passieve IoT-apparaten naar intelligente, responsieve systemen, zoals Levy benadrukt.

Voor meer dekking over Industriële IoT, neem deel aan Industrial IoT World deze december.