AI-chip verwerkt gelijktijdige workloads

Het bedrijf zal ook zijn AI-modellen voor autonome voertuigen beschikbaar stellen aan ontwikkelaars.

Op de GPU Technology Conference (GTC) van het bedrijf in Suzhou, China, betrad Nvidia-CEO Jensen Huang het podium om Drive AGX Orin te introduceren, de volgende generatie SoC in het autoportfolio van het bedrijf.

Orin volgt Drive AGX Xavier, iets minder dan 2 jaar geleden gelanceerd op CES 2018. Xavier is Nvidia's huidige vlaggenschip SoC voor AI-acceleratie in voertuigen.

Orin, met 17 miljard transistors, is bijna het dubbele van Xavier, die 9 miljard had, en biedt bijna 7x de prestaties (200 TOPS voor INT8-gegevens). Ondanks zijn grootte biedt Orin ook 3x de energie-efficiëntie van Xavier, aldus het bedrijf.

"[Dit is] een enorme boost [in prestaties], maar het gaat niet alleen om de TOPS, het gaat om de architectuur die wordt ontworpen voor zeer complexe werklasten, zeer diverse en redundante algoritmen die in een autonoom voertuig moeten worden uitgevoerd, dat zal worden behandeld door de Xavier vandaag en Orin in de toekomst”, zegt Danny Shapiro, senior director automotive bij Nvidia.

Nvidia CEO Jensen Huang presenteert Orin aan het publiek op de GPU-technologieconferentie van het bedrijf in China (Afbeelding:Nvidia)

Orin zal 12 Hercules ARM64-CPU's gebruiken naast Nvidia GPU-cores van de volgende generatie en nieuwe deep learning- en computervisieversnellers, die het bedrijf niet heeft onthuld.

Het zal worden gebruikt in autonome voertuigen (in ontwerpen van niveau 2 tot niveau 5) en robotica waar veel neurale netwerken en andere toepassingen tegelijkertijd moeten worden uitgevoerd, terwijl het ISO 26262 ASIL-D-veiligheidsniveau wordt bereikt. Orin maakt gebruik van het Nvidia Drive-platform en is softwarecompatibel met Xavier.

De Orin-familie zal een reeks configuraties bevatten op basis van een enkele architectuur en zal in 2022 beschikbaar zijn voor productieruns van klanten.

Federaal leren

Nvidia kondigde ook een samenwerking met Didi aan. Didi is een op apps gebaseerde vervoersaanbieder (vergelijkbaar met Uber), actief in Azië, Latijns-Amerika en Australië.

Didi zal Nvidia GPU's in zijn datacenter gebruiken voor het trainen van algoritmen voor machine learning, en het Nvidia Drive-platform voor inferentie in zijn autonome voertuigen van niveau 4. Het bedrijf heeft zijn autonoom rijdende business unit in augustus omgevormd tot een apart bedrijf. Het zal ook virtuele GPU-cloudservices lanceren voor klanten op basis van Nvidia GPU's.

In een afzonderlijke aankondiging maakte Nvidia bekend dat het vooraf getrainde modellen voor de diepe neurale netwerken (DNN's) die het voor Nvidia Drive heeft ontwikkeld, gratis beschikbaar zal stellen aan ontwikkelaars van autonome voertuigen. Denk aan modellen voor de detectie van verkeerslichten en borden, maar ook aan andere objecten zoals voertuigen, voetgangers en fietsen. Ze omvatten ook algoritmen voor padperceptie, blikdetectie en gebarenherkenning.

Orin biedt 200 TOPS, 7x de prestaties van Xavier bij 3x de energie-efficiëntie (Afbeelding:Nvidia)

Belangrijk is dat deze modellen kunnen worden aangepast met behulp van tools die door het bedrijf worden geleverd en kunnen worden bijgewerkt met behulp van federatief leren. Federated learning is een techniek waarbij training lokaal aan de rand wordt gegeven, waarbij de gegevensprivacy behouden blijft, voordat een centraal model wordt bijgewerkt met trainingsresultaten uit meerdere bronnen.

"Het AI-autonoom voertuig is een softwaregedefinieerd voertuig dat nodig is om over de hele wereld te werken op een breed scala aan datasets", zegt Jensen Huang, CEO van Nvidia. “Door AV-ontwikkelaars toegang te geven tot onze DNN's en de geavanceerde leertools om ze te optimaliseren voor meerdere datasets, maken we gedeeld leren mogelijk tussen bedrijven en landen, terwijl we het eigendom van gegevens en privacy behouden. Uiteindelijk versnellen we de realiteit van wereldwijde autonome voertuigen.”