AI-chip versnelt beeldherkenning

Een proof-of-concept-chip van de Franse onderzoeksinstituten CEA-Leti en LIST, gepresenteerd op VLSI Symposium 2020, bevat een low-power IoT-node en een AI-versneller en demonstreert ultrasnelle wektijd met een 15.000X piek-tot- verlaging van het stroomverbruik bij stationair draaien. Het knooppunt levert tot 1,3 tera bewerkingen per seconde per watt (TOPS/W) of 36 GOPS voor machine learning-taken.

De chip, genaamd SamurAI, werd getest in een aanwezigheidsdetectiesysteem met kant-en-klare componenten, waaronder een PIR-sensor, 224×224 pixel zwart-witcamera, FeRAM en een radio met laag vermogen. Het dagelijkse gemiddelde stroomverbruik van het systeem was 105 µW, waarbij SamurAI 26% van dat budget verbruikte. Het systeem gebruikte de PIR-sensor met een interval van 5 seconden tijdens kamerbezetting 8 uur per dag, de camera op 1 frame per seconde en de radio 10x per dag.

SamurAI-systeem

SamurAI gebruikt twee on-chip subsystemen:een klokloze, gebeurtenisgestuurde wake-upcontroller met laag vermogen die kan opstarten in 207 ns, en een on-demand subsysteem bestaande uit een RISC-V CPU met diepe slaapmodus plus Pneuro AI-versneller en cryptografieversnellers.

Dit schema met twee subsystemen maakt een vermogensverhouding van 15.000X mogelijk. Onderstaande figuur toont het stroomverbruik tijdens verschillende standen; inactieve modus verbruikt slechts 6,4 µW. Met draaiende CPU en AI-versneller is het stroomverbruik 96 mW.

De chip is gebouwd op STMicro's 28 nm volledig verarmd silicium op isolator (FD-SOI) proces, en vermogenscijfers worden gegeven zonder body biasing. Het silicium is 4,5 mm ² en heeft 6 schakelbare vermogensdomeinen.

SamurAI-stroomverbruikmetingen per energiemodus (de modi zijn LR:inactief, alleen wake-up controller (WuC), wake-up controller en wake-up radio (WuR), wake-up controller en randapparatuur, en CPU draait (Afbeelding:CEA-Leti)

AI-versneller

De AI-versneller van de chip, een ontwerp dat het team PNeuro noemt, is een programmeerbare versneller met één instructie, meerdere gegevens (SIMD). Het bestaat uit 2 clusters van 32x 8-bits verwerkingselementen met 264kB multi-banked SRAM. Het kan tot 64 multi-accumulates (MAC's) per cyclus uitvoeren. Het PNeuro-blok kan 1,3 TOPS/W halen bij 2,8 GOPS/0,48V. Het kan tot 36 GOPS doen bij 0,9 V voor 8-bits volledig verbonden neurale netwerklagen.

Het gebruik van de PNeuro-accelerator verminderde het totale stroomverbruik van het systeem met een factor 2,3 vergeleken met het gebruik van de controller RISC-V-kern voor ML-berekening.

SamurAI's twee-cluster PNeuro-versneller met in totaal 64 verwerkingselementen (Afbeelding:CEA-Leti)

De energie-efficiëntie van PNeuro is maximaal 1,3 TOPS/W en de prestaties zijn maximaal 36 GOPS (Afbeelding:CEA-Leti)

Het ontwerp is bedoeld voor IoT-toepassingen die sporadisch rekenkracht nodig hebben tussen lange perioden van "slaap". In plaats van verbinding te maken met de cloud, kan het knooppunt, als het de AI-workload zelf kan verwerken, vaak sneller worden voltooid en is er geen privacyimplicatie omdat de gegevens niet buiten het systeem worden gedeeld. Dit kunnen toepassingen zijn zoals persoonsdetectie of scène-identificatie met behulp van camera's of andere sensoren.

>> Dit artikel is oorspronkelijk gepubliceerd op onze zustersite, EE Times Europe.