XMOS lanceert Xcore.ai: Goedkope crossover-processor voor edge AI-inferentie

BRISTOL, UK — XMOS heeft zijn Xcore-processorkern herontworpen voor machine learning, met de lancering van de Xcore.ai, een crossover-processor ontworpen voor AIoT-apparaten. Vanaf slechts $1 belooft de chip hoge-prestatie inferentie in een compact, laagstroom-pakket.

De Xcore.ai vertegenwoordigt de derde generatie XMOS-producten gebouwd op de proprietaire Xcore-architectuur. Het is ontworpen voor realtime AI-inferentie en besluitvorming op edge-apparaten, terwijl het ook signaalverwerking, controle en communicatietaken afhandelt.

In tegenstelling tot eerdere iteraties, bevat de derde-generatie chip een vector-pijplijn die machine-learning workloads ondersteunt. Het is de enigste crossover-processor van zijn soort die native binariseerde (1-bit) neurale netwerken draait – een opkomende technologie die orde-van-grootte winst biedt in prestaties en geheugendichtheid voor ultra-laagstroom edge AI, tegen een bescheiden afweging in nauwkeurigheid. De Xcore.ai ondersteunt ook 32-bit, 16-bit en 8-bit datatypes.

De Xcore.ai behoort tot een nieuwe klasse van AI-capable system-on-chips voor endpoint-toepassingen, de crossover-processor (Afbeelding: XMOS)

Xcore.ai maakt deel uit van een opkomende klasse van endpoint-processors met AI-mogelijkheden, bekend als crossover-processors. Gecoërd door NXP, beschrijft de term apparaten die de prestaties van een toepassingsprocessor combineren met de laagstroom, realtime-werking van een microcontroller.

„Klanten zien microcontrollers vaak als Cortex-M0, M3 of M4 chips die onder 75 cent kosten en ongeveer 100 MIPS leveren. SoCs daarentegen kunnen quad-A53-kernen hebben die op een gigahertz draaien. Er is een significant gat tussen deze extremen – met name voor stem-gerichte workloads die duizenden MIPS vereisen. Deze middenlaag verdient zijn eigen naam,” zei Mark Lippett, CEO van XMOS, in een exclusief interview met EETimes.

Steminterfaces

XMOS's tweede-generatie XVF3510, gelanceerd in juli 2019, is een ASIC voor steminterfaces gebouwd op hetzelfde Xcore-ontwerp. Referentieoplossingen gebaseerd op de XVF3510 zijn al gekwalificeerd voor Amazon's Alexa Voice Service.

Gegeven XMOS's track record in stem, zal de Xcore.ai-chip initieel stem-interface-toepassingen targeten die AI vereisen voor keyword-spotting of dynamische woordenboekfuncties.

„Stem blijft de meest kritieke AI-workload aan de edge, en dat zal waarschijnlijk jarenlang zo blijven,” zei Lippett. „Om stemervaringen te verbeteren, zullen apparaten steeds multimodaler worden, met additionele sensoren om context te bieden – zoals het detecteren van een persoons aanwezigheid of de richting van hun spraak.”

Mark Lippett (Afbeelding: XMOS)

„Er zijn veel kansen om de gebruikerservaring te verbeteren door verder te luisteren dan audio en multimodale data te benutten,” voegde hij toe.

Privacy, beveiliging en veiligheidseisen dicteren vaak dat verwerking op het endpoint wordt uitgevoerd. Lippett illustreerde dit met apparaten die stem en radar gebruiken om een oven uit te schakelen wanneer alleen kinderen in de keuken zijn.

Om snelle ontwikkeling te ondersteunen, zal Xcore.ai worden geleverd met bibliotheken voor stem-interface-creatie, terwijl de flexibiliteit geboden wordt voor klanten om custom oplossingen te ontwerpen. Een MIPI-interface is ook beschikbaar voor camerainput.

Xcore-architectuur

De Xcore.ai-chip levert tot 3.200 MIPS, 51,2 GMACCs en 1.600 MFLOPS. Het bevat 1 MB ingebed SRAM en een laagstroom DDR-interface voor uitbreiding.

In vergelijking met een vergelijkbare Cortex-M7-apparaat werkend op een vergelijkbare frequentie, claimt XMOS dat Xcore.ai 32× de AI-prestaties en 15× de DSP-prestaties levert.

„In de endpoint-markt is prijs-prestaties van cruciaal belang,” benadrukte Lippett. „We hebben Xcore.ai agressief geprijsd op $1 in volume. Ongeveer de helft van de kost van een vergelijkbare Cortex-M7, biedt het een dramatisch prestatievoordeel.”

De Xcore is gebaseerd op logische kernen gerangschikt in tegels met geheugen, ALU's en vector-eenheden (Afbeelding: XMOS)

Xcore.ai is gebouwd op XMOS's proprietaire Xcore-architectuur. De kern bestaat uit logische kernen die toegewezen kunnen worden aan I/O, DSP, controle of AI-functies. Elke tegel bevat acht logische kernen, twee tegels per chip, en gedeeld geheugen, ALU's en een vector-eenheid.

„Wat Xcore onderscheidt is het voorspelbare delen van bronnen,” legde Lippett uit. „De architectuur is multi-core niet alleen om workloads te versnellen, maar om toegewijde bronnen toe te wijzen aan kritieke functies, wat deterministische timing garandeert.”

Het afbeelden van distincte functies op logische kernen in firmware maakt een „virtuele SoC” mogelijk die volledig software-gedefinieerd is. Bijvoorbeeld, één kern kan I²S, I²C en LED-drivers afhandelen, terwijl anderen neurale netwerken verwerken en traditionele software-taken uitvoeren. Deze software-centrische benadering versnelt ontwikkeling, voldoet aan de dynamische eisen van IoT en verlaagt kosten – wat economische oplossingen zelfs in nichemarkten mogelijk maakt.

Een voorbeeldapplicatie gemapt op een Xcore.ai-apparaat (Afbeelding: XMOS)

„De markt eist een breder scala aan functies, en bedrijven moeten snel reageren,” zei Lippett. „Een generisch platform bouwen dat misschien geen segment past, is riskant. Met Xcore.ai kunnen fabrikanten snel apparaten lanceren met lagere CAPEX en kleinere, meer gerichte inzetten.”

Hoe zal XMOS concurreren met grote microcontrollerfabrikanten die de crossover-processor-ruimte betreden?

„We zullen geen ARM-gebaseerde SoCs repliceren,” zei Lippett. „De enige manier om te concurreren is door architecturaal voordeel – prestaties en flexibiliteit inherent aan de Xcore.”