De analoge verwerkingsbenadering van AI-chips vermindert de kracht

Aspinity, een in Pittsburg gevestigde startup opgericht in 2015, lanceert dinsdag een herconfigureerbaar analoog modulair processorplatform, of RAMP. Het ultra-low power, analoge verwerkingsplatform is ontworpen om eerst onbewerkte sensorgegevens te detecteren, analyseren en classificeren - in het analoge domein. Zodra het gegevens (een stem, een alarm, een verandering in trillingsfrequentie of -grootte, enz.) onderscheidt van achtergrondgeluid, geeft RAMP de gegevens door voor digitalisering.

(Bron:Aspinity)

Het resultaat van deze "analyze-first-in-analog"-benadering is dat het "de stroom die nodig is aan de edge tot 10x vermindert en de hoeveelheid gegevens die wordt verwerkt tot 100x voor always-on applicaties", aldus Aspinity. De startup beweert dat RAMP een sleutelrol kan spelen in op batterijen werkende, always-on-detectieapparaten voor consumenten, smart home, IoT en industriële markten.

Mike Demler, senior analist bij The Linley Group, vertelde EE Times , “Het meest onderscheidende kenmerk van RAMP is het extreem lage vermogen. Het trekken van slechts 10 microampère tijdens actieve werking is een hele prestatie voor een analoge chip.”

Aspinity's oprichter en CEO Tom Doyle vertelde ons dat hij opgetogen was toen hij onlangs Gene Frantz hoorde praten over "de noodzaak om neurale netwerken terug te brengen naar analoog." Frantz, voorheen een technologie fellow en een fervent promotor van DSP bij TI, is nu een professor aan de Rich University. Eerder dit jaar suggereerde hij in een interview met EE Times dat AI een betere oplossing nodig heeft en daarom "moeten we overwegen terug te gaan naar analoge signaalverwerking."

Dit klonk Doyle als muziek in de oren. Analoge verwerking is precies waar de RAMP van Aspinity voor is ingesteld.

Analoog versus digitaal
Andere chipleveranciers, waaronder STMicroelectronics en Renesas, hebben bijvoorbeeld eindpuntapparaten gelanceerd met AI-mogelijkheden voor anomaliedetectie. Waarin verschilt de RAMP van Aspinity?

Joe Hoffman, directeur draadloze connectiviteit en machinedetectie bij SAR Insight &Consulting, zei:"STMicroelectronics en Renesas maken gebruik van digitale technologie. Ze implementeren de fundamentele elementen van het kunstmatige neuron door digitale circuits en software op hun kernprocessors te gebruiken. ST is bijvoorbeeld afhankelijk van ARM-microprocessorkernen, terwijl Renesas zijn eigen Dynamically Reconfigurable Processor (DRP) gebruikt - die Hoffman beschreef als "een hybride benadering ergens tussen een microprocessorkern en een FPGA." Hij zei:"De DRP kan in een oogwenk opnieuw worden geconfigureerd."

Daarentegen gebruikt Aspinity's RAMP een analoge circuitbenadering. Hoffman merkte op dat Aspinity neuronen en synapsen bouwt door analoge ontwerpen te gebruiken in plaats van digitale ontwerpen.

Als gevolg hiervan kan RAMP, in plaats van een voorspellend onderhoudssysteem te ontwikkelen dat continu duizenden gegevenspunten digitaliseert om trends in de veranderingen van bepaalde spectrale pieken te volgen, "RAMP alleen de belangrijkste gegevenspunten bemonsteren en selecteren, waarbij de hoeveelheid trillingsgegevens wordt gecomprimeerd door 100x en het drastisch verminderen van de hoeveelheid gegevens die wordt verzameld en verzonden voor analyse”, aldus het bedrijf.

Het verminderen van de hoeveelheid gegevens is de sleutel tot een op batterijen werkend, draadloos sensorsysteem.

Mythic vs. Aspinity
Analoog was de originele manier om neurale netwerken te modelleren. Digitaal kwam later, zei Demler. "Maar meer recentelijk kijken onderzoekers (en bedrijven zoals Mythic en Syntiant) naar in-memory analoge berekening om het vermogen te verminderen in vergelijking met digitale inferentie-engines."

Door het elimineren van de digitale geheugentransacties die nodig zijn in een typische inferentie-engine, "kun je potentieel veel stroom besparen en sterven gebied", legde Demler uit.

Aspinity's CEO Doyle zei:"Net als een traditionele digitale computerarchitectuur heeft Aspinity zowel 'codegeheugen' om de structuur van het algoritme en de parameters/coëfficiënten van het algoritme op te slaan, als 'datageheugen' om een ​​geschiedenis van de kenmerken van een signaal op te slaan zoals we het verwerken. In tegenstelling tot een traditionele computer gebruikt Aspinity echter geen brok geheugenblokken. In plaats daarvan worden zowel het codegeheugen als het datageheugen "vermengd met de rekencomponenten voor efficiëntie en compactheid", legt Brandon Rumberg, CTO en oprichter van Aspinity, uit. Geïntegreerd in RAMP is niet-vluchtig geheugen.

In zekere zin zijn Mythic en Aspinity vergelijkbaar omdat hun benadering "interne analoge berekening" is. Maar daar houdt de gelijkenis op.

Mythic hangt af van digitale invoer. Aspinity daarentegen verwerkt analoge ingangen. Demler legde uit:"Mythic gebruikt gewoon flash-geheugencellen als spanningsvariabele geleidingselementen om digitale multi-accumulatoren (MAC's) te vervangen." Aan de andere kant:"Aspinity gebruikt een verscheidenheid aan geparametriseerde analoge circuits; versterkers, filters, optellers/aftrekkers, enz.”

6-8 bits precisie
Zoals Hoffman uitlegde:"Digitale schakelingen bieden veel meer precisie in hun berekeningen dan analoge, en zijn compatibel met bekende digitale ontwerpprocessen en CMOS-technologie. Moderne processors zijn bijvoorbeeld allemaal 64-bits breed, terwijl de hier genoemde analoge processen [Mythic, Aspinity en andere] over het algemeen 6 tot 8 bits nauwkeurig zijn. [Echter] deze lagere precisie is goed genoeg voor veel toepassingen.”

Samenvattend merkte Hoffman op:"Aspinity richt zich op een beperkte reeks toepassingen van akoestische verwerking voor detectie van wake-word/geluid bij ultralaag vermogen. Dit is voordelig wanneer de rest van het apparaat in een spaarstand kan worden gezet.”

Demler is ook van mening dat analoog zijn beperkingen heeft, wat betreft proces-/spannings-/temperatuurvariabiliteit, enz. Hij merkte op:"Daarom hebben we het niet veel grip zien krijgen in commerciële producten." Aan de andere kant, "als je alle digitale geheugentransacties die nodig zijn in een typische inferentie-engine kunt elimineren, kun je potentieel veel stroom en verliesgebied besparen."

Toepassingen
Aspinity ziet een groeiende markt voor 'voice-first devices' zoals slimme luidsprekers en wearables/hearables. Doyle zei:"Stel je een spraakgestuurde tv-afstandsbediening voor die een jaar werkt per batterijwissel. Dat geeft fabrikanten een groot concurrentievoordeel.”

Volgens Aspinity kunnen de analoge blokken van het RAMP-platform opnieuw worden geprogrammeerd met toepassingsspecifieke algoritmen. RAMP kan ruwe analoge gegevens analyseren van verschillende soorten sensoren, waaronder versnellingsmeters die worden gebruikt voor industriële trillingsbewaking.

Eerst digitaliseren versus eerst analyseren (bron:Aspinity)

Demler merkte op:"RAMP is een circuit voor speciale doeleinden." Bij het gebruik van RAMP moeten ontwerpers rekening houden met de kosten versus de voordelen van het toevoegen van een ander onderdeel aan hun spraakgestuurde apparaten. Maar is dat een nadeel? Niet precies, zei Demler. “RAMP is een stem (of geluid) activiteitsdetector. Het bepaalt niet precies wat er wordt gezegd. In sommige systemen zou het heel logisch zijn om RAMP te integreren als de voorkant van een spraakprocessor, in plaats van als een afzonderlijke chip."

Aspinity's CEO Doyle zei dat hij van plan is om naast chips ook in IP-zaken te gaan werken. Het bedrijf heeft momenteel een aantal partners waarmee het samenwerkt. "Sommige zijn consumentenbedrijven en andere zijn chipsetpartners", zegt Doyle. De chip is vandaag aan het samplen. Het plan is om in de eerste helft van 2020 in volumeproductie te gaan.

Bedrijf
Aspinity is opgericht om onderzoek aan de West Virginia University te commercialiseren. De startup heeft exclusieve, volledige rechten om de technologie te gebruiken die aan de universiteit is ontwikkeld.

Aspinity heeft in drie rondes in totaal "$ 3,6 tot $ 3,7 miljoen" aan financiering opgehaald. Volgens de CEO deed Amazon mee aan twee rondes. Het bedrijf heeft een team van tien ingenieurs, velen met uitgebreide analoge ervaring, zei Doyle.

— Junko Yoshida, Global Co-In-Chief, AspenCore Media, Chief International Correspondent, EE Times

>> Dit artikel is oorspronkelijk gepubliceerd op onze zustersite, EE Times:"Aspinity zet neurale netwerken terug naar analoog."