Ontwikkelende AI-vereisten oplossen

De komst van kunstmatige intelligentie (AI) vereist diverse nieuwe micro-elektronische oplossingen om te voldoen aan de veranderende eisen van grootschalige datacenters, "middelgrote" systemen zoals autonome voertuigen en robots, en een groeiend scala aan mobiele apparaten, apparaten, wearables, en nog niet voorziene toepassingen. Van centraal belang is de noodzaak om ongekende efficiëntie en snelheid te bereiken bij het verzamelen en analyseren van gegevens, terwijl ook het stroomverbruik en de vormfactor worden beheerd.

In het hardwaredomein vereist dit innovatief denken en nieuwe paradigma's in sensoren, processors, geheugen, interconnectie en verpakking. Veelbelovende opties beginnen zich te materialiseren uit gevestigde en opkomende onderzoeksinspanningen, die we zullen bekijken in de context van Edge AI en andere brede trends. In de toekomst zal interdisciplinaire pre-industriële samenwerking nodig zijn om op basis van deze inspanningen praktische, maakbare oplossingen te creëren.

We kunnen ons de komende AI-markt voorstellen door applicaties te vergelijken op basis van rekencapaciteit en vereisten voor stroomverbruik (Figuur 1). Wearables hebben de grootste stroombeperkingen en (in relatieve termen) de minste computerbehoeften. Datacenters bevinden zich aan de andere kant, met slimme apparaten, augmented reality, robots en autonome voertuigen ertussenin.

Afbeelding 1. (Bron:Leti)

Edge AI, waarin de meeste data-analyse plaatsvindt op het punt van verzameling, is zeer geschikt voor toepassingen aan de linkerkant. Hoewel dit eenvoudig te beschrijven is, vereist het ongekende niveaus van sensor- en processorcapaciteit in extreem kleine pakketten. Sensoren zullen inspiratie moeten halen uit menselijke ogen en oren, en veel flexibeler worden door hun kenmerken (zoals dynamisch bereik) te veranderen op basis van cognitie en lokale intelligentie.

Grootschalige toepassingen zullen ondertussen traditionele computerparadigma's onder druk zetten, met name constante lees-/schrijfcycli van het geheugen die zowel tijd als energie verbruiken.

Met deze vereisten in gedachten heeft Leti prioriteit gegeven aan onderzoek naar slimme sensoren en innovatieve computerbenaderingen.

Een van de aandachtspunten is een fundamenteel probleem van moderne computers:het verplaatsen van gegevens tussen geheugen en processor kost nu veel meer dan rekenen, zowel in tijd als in energieverbruik. Gegevensoverdracht en geheugentoegang zijn goed voor tot 90% van het energieverbruik van het systeem, en omdat toepassingen zoals kunstmatige neurale netwerken afhankelijk zijn van grote databases en eenvoudige rekenbewerkingen, wordt het verminderen van gegevensverplaatsing van cruciaal belang.

Het stapelen van geheugen op processors, om de fysieke verbindingen te verkorten, is het onderwerp van langdurig Leti-onderzoek naar 3D-schakelingen. We streven nu ook naar nieuwe geheugenontwerpen, waarmee optellen, aftrekken en Booleaanse logica binnen SRAM kunnen worden uitgevoerd. De oppervlaktekosten zijn verwaarloosbaar en, nog belangrijker, gegevens verlaten het geheugen nooit. Deze in-memory-computing (IMC)-processors hebben een sterk potentieel voor toepassingen zoals neurale netwerken en cryptografie, en we zijn van mening dat ze tegen de jaren 2020 100 keer de doorvoer van conventionele processors op AI-toepassingen kunnen bieden, terwijl ze hetzelfde frequentie- en energiebudget behouden.