Gereedschapsketting, sensorbord verbeteren AI-chip-ecosysteem

De toolketen van Eta Compute groeit, met de aankondiging van een compiler voor zijn ECM3532-chip die embedded ontwikkeling stroomlijnt.

Gecombineerd met een sensorboard-evaluatiekit ter grootte van een munt en een samenwerking met Edge Impulse, duwt dit de startup naar het volgende volwassenheidsniveau. Eta Compute lanceerde zijn ECM3532 ultra-low-power AI-chip in februari, maar ondersteunde tot nu toe klantontwerpen door handmatig code te optimaliseren voor het dual-core MCU- en DSP-ontwerp.

Sensorknooppunten

De ECM3532 is een dual-core SoC die Arm Cortex-M3- en NXP CoolFlux DSP-kernen gebruikt voor AI-verwerking. Het bedrijf gebruikt een gepatenteerde techniek voor continue spanningsfrequentieschaling (CVFS) om de spanning en klokfrequentie van beide kernen aan te passen aan de variabele behoeften van IoT-apparaten. Het is bedoeld voor sensorfusietoepassingen in ontwerpen op batterijen; Always-on beeldverwerkingstoepassingen kunnen worden gerealiseerd met een stroombudget van 100 µW.

Een klein evaluatiebord dat onlangs is gelanceerd, is bedoeld om de ontwikkeling van slimme sensoren, ingebouwde microfoons, temperatuur- en druksensor, versnellingsmeter, gyroscoop en Bluetooth-connectiviteit te vergemakkelijken. Het meet 1,4 bij 1,4 inch en kan volgens het bedrijf "maanden" werken op een knoopcelbatterij.

Eta Compute's Tensai Sensor Board een compleet AI-geactiveerd sensorknooppunt (Afbeelding:Eta Compute)

Eta Compute is in mei een samenwerking aangegaan met Edge Impulse, waarbij de chip en het evaluatiebord van Eta Compute worden ondersteund door het end-to-end ML-ontwikkelings- en MLOps-platform van Edge Impulse. Een groot deel van de tooling van Edge Impulse zorgt voor visualisatie en beheer van datasets voor AI-compatibele IoT-knooppunten.

"Het kan heel moeilijk zijn om als embedded ontwikkelaar [een Eta Compute]-onderdeel te gaan gebruiken... en ML maken is nog moeilijker", vertelde Zach Shelby, CEO van Edge Impulse, aan EE Times in een eerder interview. “We proberen die pijn weg te nemen. We hebben een mooi binair bestand met slepen en neerzetten dat op [Eta Compute]-borden gaat. Het begint meteen sensorgegevens te verzamelen in ons systeem. En wanneer het tijd is om het ML-algoritme in te zetten, hebben we een implementatieoptie die een bibliotheek voor het Eta Compute-doel bouwt die rechtstreeks op het apparaat wordt uitgevoerd.'

Compiler en middleware

Edge AI-ontwikkelaars worden tegenwoordig geconfronteerd met verschillende problemen die de Tensai Flow-toolketen van Eta Compute aanpakt, volgens Semir Haddad, Senior Director Product Marketing bij Eta Compute.

"De eerste is hoe je communiceert met echte sensoren en die gegevens vastlegt om je netwerk te verbeteren", zei Haddad. “Het tweede is hoe je het netwerk optimaliseert voor de hardware. Tegenwoordig heb je neurale netwerkframeworks of tools die je helpen om op CPU's te werken, maar het is niet echt geoptimaliseerd [voor onze hardware]. Vervolgens moet u firmware genereren die kan worden gebruikt in echte embedded systeemontwikkeling. Het vierde probleem is de complete edge-to-cloud-oplossing, inclusief device-provisioning en verbinding met de cloud. Dit zijn de vier pijnpunten die we aanpakken met Tensai Flow.”

Eta Compute's Tensai Flow tool chain bevat nu een compiler die neurale netwerkcode optimaliseert voor de chip van het bedrijf (Afbeelding:Eta Compute)

Tensai Flow bevat een compiler die een TensorFlow- of ONNX-model gebruikt en deze compileert naar code die kan worden uitgevoerd op het ECM3532-apparaat. Middleware voegt alle software toe die nodig is om een ​​complete applicatie uit te voeren, inclusief een realtime besturingssysteem (RTOS) en sensorstuurprogramma's.

Tensai Flow bevat ook een 'netwerkdierentuin' van vooraf gevalideerde modellen voor specifieke gebruiksscenario's die kunnen worden geïntegreerd in klantontwerpen. Edge Impulse zorgt voor data-ops - verzameling en beheer van gegevens, versiebeheer van de gegevens, delen van datasets tussen ontwikkelaars, enz.

"Wat uniek is aan deze oplossing in vergelijking met wat we van andere leveranciers kunnen vinden... is hoe uitgebreid het is, in termen van het kunnen genereren van geoptimaliseerde code die in een echte applicatie kan worden gebruikt", aldus Haddad. "Tussen het neurale netwerkaspect en het firmware-ontwikkelingsaspect onderscheidt dit [Tensai Flow]."

Eta Compute, opgericht in 2015, heeft met een relatief bescheiden budget en personeelsbestand productie van silicium gerealiseerd. Het bedrijf heeft tot nu toe $ 19 miljoen opgehaald en heeft 35 medewerkers in de VS en India.

>> Dit artikel is oorspronkelijk gepubliceerd op onze zustersite, EE Times.