Nvidia GTC:nieuwe Jetson-module biedt 200 TOPS voor embedded edge AI

Aangekondigd op Nvidia GTC is de Nvidia Jetson AGX Orin, die volgens het bedrijf 's werelds kleinste, krachtigste en energiezuinigste AI-supercomputer is voor robotica, autonome machines, medische apparaten en andere vormen van embedded computing aan de rand.

Gebouwd op de Nvidia Ampere-architectuur, biedt Jetson AGX Orin 6x de verwerkingskracht en handhaaft vormfactor en pincompatibiliteit met zijn voorganger, Jetson AGX Xavier. Het levert 200 biljoen bewerkingen per seconde, vergelijkbaar met die van een GPU-enabled server, maar in een formaat dat in de palm van je hand past.

De nieuwe Jetson-computer versnelt de volledige Nvidia AI-softwarestack, waardoor ontwikkelaars de grootste, meest complexe modellen kunnen inzetten die nodig zijn om edge-AI en robotica-uitdagingen op te lossen in het begrijpen van natuurlijke taal, 3D-perceptie en multisensorfusie.

"Naarmate robotica en embedded computing de productie, gezondheidszorg, detailhandel, transport, slimme steden en andere essentiële sectoren van de economie transformeren, blijft de vraag naar verwerking toenemen", zegt Deepu Talla, vice-president en algemeen manager van embedded en edge computing bij Nvidia. . "Jetson AGX Orin speelt in op deze behoefte, waardoor de 850.000 Jetson-ontwikkelaars en meer dan 6.000 bedrijven die er commerciële producten op bouwen, autonome machines en edge AI-applicaties kunnen maken en implementeren die ooit onmogelijk leken."

Jetson AGX Orin beschikt over een Nvidia Ampere-architectuur GPU en Arm Cortex-A78AE CPU's, samen met de volgende generatie deep learning en vision-versnellers. Snelle interfaces, snellere geheugenbandbreedte en multimodale sensorondersteuning bieden de mogelijkheid om meerdere gelijktijdige AI-toepassingspijplijnen te voeden.

Software- en ecosysteemondersteuning
Klanten die de Jetson AGX Orin gebruiken, kunnen gebruikmaken van de CUDA-X Accelerated Computing Stack, JetPack SDK en de nieuwste Nvidia-tools voor applicatie-ontwikkeling en optimalisatie, inclusief cloud-native ontwikkelingsworkflows. Vooraf getrainde modellen uit de Nvidia NGC-catalogus zijn geoptimaliseerd en klaar voor finetuning met de TAO-toolkit en klantdatasets. Dit vermindert de tijd en kosten voor AI-implementaties van productiekwaliteit, terwijl cloud-native technologieën naadloze updates gedurende de hele levensduur van een product mogelijk maken.

Het ecosysteem van Jetson embedded computing partners omvat een breed scala aan diensten en producten, waaronder camera's en andere multimodale sensoren, carrier boards, hardware-ontwerpservices, AI en systeemsoftware, ontwikkelaarstools en aangepaste softwareontwikkeling.

"Gedreven door de vooruitgang in AI, groeit de roboticamarkt exponentieel", zegt Jim McGregor, hoofdanalist bij TIRIAS Research. “Nvidia is de erkende leider op het gebied van AI en blijft deze expertise gebruiken om robotica vooruit te helpen via een robuust ecosysteem en complete end-to-end-oplossingen, waaronder een reeks hardwareplatforms die gebruikmaken van gemeenschappelijke tools en neurale netwerkmodellen. Het nieuwe Jetson-platform brengt de prestaties en veelzijdigheid van de Nvidia Ampere-architectuur om nog verdere verbeteringen mogelijk te maken in autonome mobiele robots voor een breed scala aan toepassingen, variërend van landbouw en productie tot gezondheidszorg en slimme steden.”

Voor specifieke gebruiksscenario's omvatten softwareframeworks Nvidia Isaac Sim op Omniverse voor robotica, Nvidia Clara Holoscan SDK voor gezondheidszorg en Nvidia DRIVE voor autonoom rijden. De nieuwste Isaac-release bevat aanzienlijke ondersteuning voor de ontwikkelaarsgemeenschap van Robot Operating System (ROS). Nvidia heeft ook de nieuwe Omniverse Replicator uitgebracht voor het genereren van synthetische gegevens en Isaac GEM's, hardwareversnelde softwarepakketten die het voor ROS-ontwikkelaars gemakkelijker maken om krachtige AI-compatibele robots te bouwen op het Jetson-platform.

Realtime detectie voor medische instrumenten, apparaten
De AGX Orin drijft Nvidia Clara Holoscan aan, een nieuw computerplatform voor de gezondheidszorg waarmee ontwikkelaars softwaregedefinieerde medische apparaten kunnen bouwen die streaming-applicaties met lage latentie aan de rand draaien. Deze verwerkingskracht is nodig voor apparaten zoals robotchirurgie, endoscopie en diagnostische beeldvormingssystemen om fysica, beeldvorming en visualisatie te verwerken en realtime AI-beslissingsondersteuning voor artsen mogelijk te maken. Clara Holoscan biedt ontwikkelaars een flexibel platform om AI-microservices te creëren die streaming-applicaties met lage latentie op apparaten uitvoeren en complexere taken doorgeven aan het datacenter.

Vervoer AI-assistenten
De DRIVE AGX Orin, ook aangedreven door de Ampere-architectuur zoals Jetson AGX Orin, is een platform voor de transportindustrie. Het is de geavanceerde processor achter de nieuw aangekondigde Nvidia DRIVE-conciërge en DRIVE-chauffeur - twee AI-platforms die zijn bedoeld om de passagierservaring in de auto opnieuw te definiëren door middel van AI-assistenten en om respectievelijk veilig, autonoom rijden mogelijk te maken. Talloze wereldwijde auto- en vrachtwagenfabrikanten, startups van nieuwe energievoertuigen en shuttlebedrijven gebruiken hun hoogwaardige AI-computing voor hun volgende generatie intelligente, softwaregedefinieerde mobiliteitsoplossingen.

De Jetson AGX Orin-module en ontwikkelaarskit zijn beschikbaar in het eerste kwartaal van 2022.