Imec & GlobalFoundries onthullen 2900 TOPS/W processor‑in‑memory-chip voor ultra‑efficiënte AI

Revolutionaire analoge compute

Imec en GlobalFoundries hebben een processor‑in‑memory-chip gedemonstreerd die energie-efficiëntie tot 2900 TOPS/W kan bereiken, ruwweg twee ordes van grootte boven de huidige commerciële oplossingen. Het ontwerp benut analoge computing binnen SRAM, gebouwd met GlobalFoundries' 22 nm fully‑depleted silicon‑on‑insulator (FD‑SOI)-proces.

Imec's analog in‑memory compute (AiMC) zal beschikbaar zijn voor GlobalFoundries-klanten als een feature op het 22FDX-platform.

Imec's AnIA testchip, gemonteerd op de PCB gebruikt voor meting, kan 2900 TOPS/W bereiken (Afbeelding: Imec)

Analoge compute uitgelegd

Analoge computing, of processor‑in‑memory, is een bewezen techniek al geadopteerd door commerciële AI-accelerators van Mythic, Syntiant, Gyrfalcon en anderen. Het elimineert de kostbare data-shutteling tussen geheugen en processor door multiply‑accumulate-operaties direct binnen een geheugenarray uit te voeren.

Elke memristor-cel is geprogrammeerd naar een analoge geleiding evenredig aan een neurale-netwerk-gewicht. Een spanning evenredig aan de input-activatie drijft de cel, en de resulterende stroom vertegenwoordigt het product van activatie en gewicht. De stroomsom op elke bit‑lijn levert de matrix‑vector-vermenigvuldiging die neurale netwerken vereisen, wat daarna uitgelezen kan worden via een analog‑to‑digital-converter.

"In de praktijk kunnen we ReRAM, MRAM, Flash of DRAM gebruiken – ons doel is de beste optie voor elke toepassing te identificeren en de technologie fijn af te stellen," zei Diederik Verkest, programmadirecteur machine learning bij Imec.

Imec's AnIA Testchip

Gebouwd op GlobalFoundries' 22 nm FD‑SOI, bevat AnIA een 512k-cel SRAM-array, 1024 DACs en 512 ADCs over 4 mm². Het kan ruwweg 500.000 berekeningen per cyclus uitvoeren met 6‑bit-activaties (plus tekenbit), ternaire gewichten en 6‑bit-uitgangen.

"We kunnen matrix‑vector-vermenigvuldiging-resultaten leveren bij meerdere voedingsspanningen – 0,8 V en 0,6 V – zonder nauwkeurigheid in te boeten. Lagere spanningen verminderen energieverbruik dramatisch, wat cruciaal is voor energie‑beperkte inferentie aan de edge," legde Ioannis Papistas van Imec's machine-learning-groep uit.

Op de CIFAR‑10-objectherkenningstaak daalde AnIA's nauwkeurigheid slechts één procentpunt ten opzichte van een vergelijkbaar gekwantiseerd baseline. Bij 0,8 V bereikte de chip 1.050–1.500 TOPS/W voor 23,5 TOPS; bij 0,6 V haalde het 5,8 TOPS en 1.800–2.900 TOPS/W.

Energie-efficiëntievergelijking: Imec's AnIA vs. andere AI-accelerators (klik om te vergroten) (Afbeelding: Imec)

Van lab naar massaproductie

"Deze innovatie is bestemd voor mainstream-adoptie," zei Hiren Majmudar, VP en GM van GlobalFoundries' computing business unit. "We zien partners al in de post‑productiefase met gevalideerd silicium. We verwachten analoge-compute-silicium productie te bereiken bij jaarwisseling of begin volgend jaar, en in de massamarkt te verschijnen uiterlijk 2022 – potentiél eerder."

GlobalFoundries integreert Imec's AiMC-technologie in zijn 22FDX-platform, wat ultralage‑energie AI-accelerators mogelijk maakt. Het FD‑SOI-proces ondersteunt operatie tot 0,5 V met 1 pA/µm standby-lekkage. De 22FDX+AiMC-feature is momenteel in ontwikkeling op GlobalFoundries' 300mm-lijn in Fab 1 in Dresden, Duitsland.

Imec's machine-learning-programma zal drukken naar 10.000 TOPS/W (10 TOPS onder 100 mW) voor always‑on slimme sensoren en wearables. Toekomstig werk zal zich richten op het verkleinen van compute-cellen en het verkennen van opkomende geheugendevices als next‑generatie-platforms.

>> Dit artikel was oorspronkelijk gepubliceerd op onze zus‑site, EE Times.