DSP's benutten voor real-time Audio AI op de Edge

Eens beperkt tot cloud-servers met virtueel onbeperkte resources, migreert machine learning nu naar edge-apparaten. Lagere latentie, verminderde kosten, energie-efficiëntie en verbeterde privacy drijven deze shift. Een zelfrijdende auto kan zich bijvoorbeeld geen vertraging veroorloven door data naar een cloud te sturen voor voetsgangersherkenning, en bandbreedtekosten kunnen cloud-gebaseerde spraakherkenning onbetaalbaar maken.

Waarom Edge-verwerking belangrijk is

Energie-ruil tussen data-transmissie en lokale inferentie is cruciaal. Complexe ML-workloads kunnen een apparaat's batterij leegtrekken als ze niet efficiënt uitgevoerd worden. Edge-inferentie houdt ook gevoelige data - zoals gestemde e-mails - op het apparaat, wat gebruikersprivacy beschermt.

Laag-vermogen Altijd-aan Spraakwakker

Keyword spotting (bijv. "Hey Siri" of "OK Google") is een van de eerste edge-ML use cases. Het draaien van dergelijke detectie op een generieke applicatieprocessor kan meer dan 100 mW consumeren, wat een smartphone-batterij snel leegtrekt. Vroegere telefoons verplaatsten het algoritme naar een kleine DSP die op <5 mW draaide, en moderne slimme microfoons voeren nu dezelfde taak uit op een gespecialiseerde audio-ML DSP bij <0,5 mW.

Boven Stem: Edge-mogelijkheden uitbreiden

Eenmaal een apparaat always-on audio ML ondersteunt, kan het contextuele cues herkennen: drukke restaurants, drukke straten, omgevingsmuziek, ultrasone ruimtesignaturen, of dichtbij schreeuwen en lachen. Deze functies maken geavanceerde use cases mogelijk die zowel het apparaat als de gebruiker ten goede komen.

Een Edge AI DSP bouwen

Top-prestaties en energie-efficiëntie voor edge-inferentie vereisen op maat gemaakte hardware. De meest impactvolle technieken worden samengevat in de onderstaande tabel.

Tabel: Impactvolle technieken om een Edge AI DSP te creëren

Neurale-netwerk inferentie steunt zwaar op matrix-vector vermenigvuldigingen (MVMs). Een fused multiply-accumulate (MAC) operatie is de hoeksteen van efficiënte MVM-uitvoering. Laag-precisie rekenkunde - vaak 8-bit - is voldoende voor inferentie, wat de computationele complexiteit drastisch vermindert. Intel en Texas Instruments bieden bijvoorbeeld processoren met speciale low-precision MAC-eenheden: de TI TMS320C6745 voert 8 MACs van 8-bit operandes per cyclus uit, terwijl Knowles' audio DSP 16 dergelijke MACs per cyclus kan uitvoeren.

Zowel training als inferentie vereisen aanzienlijke geheugenbandbreedte. Wijde datapaden verlichten druk: Intel's AVX-512 ondersteunt 512-bit overdrachten per cyclus in een 64-vermenigvuldiger array; de TI 6745 gebruikt een 64-bit bus; Knowles' processoren adopteren een 128-bit bus, wat chipoppervlak en bandbreedte balanceren. Recurrente architecturen (RNN, LSTM) vereisen feedback-lussen, wat extra architecturale beperkingen oplegt die heavy gepipelined designs kunnen stallen.

Audio-ML-pipelines beginnen typisch met spectrale analyse en feature-extractie. Het versnellen van klassieke DSP-operaties - FFTs, filters, trigonometrische en logaritmische functies - is essentieel voor energie-efficiëntie. Niet-lineaire vectoroperaties (sigmoid, ReLU, etc.) profiteren ook van single-cycle instructies, wat cyclustelling en vermogen verder vermindert.

Kortom, processoren die machine-learning en audio-signaalversnelling fuseren, maken real-time, always-on inferentie mogelijk tegen lage kosten met behoud van privacy. Architecturale keuzes - multiple-operation instructiesets, wijde bussen en gespecialiseerde low-precision eenheden - behouden hoge prestaties zonder hoog vermogen. Naarmate gespecialiseerde edge compute zich verder ontwikkelt, zal het spectrum van haalbare ML use cases zich uitbreiden.

Jim Steele, Vice President of Technology Strategy, Knowles Corp.

© Dit artikel werd oorspronkelijk gepubliceerd op EE Times: "Machine Learning on DSPs: Enabling Audio AI at the Edge."