NVIDIA GTC onthult Jetson AGX Orin: 200 TOPS in de kleinste Edge AI-supercomputer

Op de Global Technology Conference (GTC) van NVIDIA introduceerde het bedrijf de Jetson AGX Orin, een compacte maar krachtige AI-supercomputer ontworpen voor robotica, autonome systemen, medische apparatuur en een breed scala aan embedded edge-toepassingen.

Zesvoudige prestaties in handpalmformaat

Dankzij de Ampere-architectuur levert de Jetson AGX Orin 200 biljoen operaties per seconde – vergelijkbaar met een server-GPU – terwijl het dezelfde vormfactor en pin-compatibiliteit behoudt als zijn voorganger, de Jetson AGX Xavier. Het resultaat is een zesvoudige toename van verwerkingskracht verpakt in een module van de grootte van een handpalm.

Met de volledige NVIDIA AI-softwarestack volledig geaccelereerd, kunnen ontwikkelaars de meest complexe modellen implementeren die nodig zijn voor edge AI-uitdagingen, waaronder natuurlijke taalverwerking, 3D-perceptie en multisensorfusie.

"Robotica en embedded computing veranderen productie, gezondheidszorg, detailhandel, transport en slimme steden, wat de groeiende vraag naar hoogwaardige verwerking aanjaagt," zei Deepu Talla, Vice President en General Manager van Embedded and Edge Computing bij NVIDIA. "De Jetson AGX Orin voldoet aan deze behoefte, waardoor de 850.000 Jetson-ontwikkelaars en meer dan 6.000 bedrijven die commerciële producten bouwen, in staat zijn om autonome machines en edge AI-oplossingen te creëren die voorheen onbereikbaar waren."

Geïntegreerde architectuur en interfaces

De module integreert een Ampere GPU, Arm Cortex-A78AE CPU's en next-generation deep-learning en vision accelerators. Hoogsnelheidsinterfaces, uitgebreide geheugenbandbreedte en multimodale sensorondersteuning maken meerdere gelijktijdige AI-pijplijnen mogelijk.

Software- en ecosysteemondersteuning

Klanten van de Jetson AGX Orin krijgen toegang tot de CUDA-X accelerated computing stack, JetPack SDK en de nieuwste tools van NVIDIA, waaronder cloud-native workflows. Vooraf getrainde modellen uit de NVIDIA NGC-catalogus zijn geoptimaliseerd voor fine-tuning met de TAO-toolkit, wat de tijd en kosten voor productieklare AI-implementaties aanzienlijk vermindert. Cloud-native technologieën vereenvoudigen ook updates gedurende de levenscyclus van een product.

Het Jetson-partnerecosysteem biedt camera's, multimodale sensoren, carrier boards, hardware-ontwerpdiensten, AI- en systeemsoftware, ontwikkelaarstools en custom softwareontwikkeling – wat een uitgebreide omgeving creëert voor snelle innovatie.

Industrie-impact

"AI-voortgang versnelt de robotica-marketing," constateerde Jim McGregor, Principal Analyst bij TIRIAS Research. "NVIDIA's leiderschap in AI, gecombineerd met een robuust ecosysteem en end-to-end-oplossingen, maakt ongekende vooruitgang mogelijk in autonome mobiele robots in landbouw, productie, gezondheidszorg en slimme steden."

Belangrijke softwareframeworks omvatten NVIDIA Isaac Sim op Omniverse voor robotica, NVIDIA Clara Holoscan SDK voor gezondheidszorg en NVIDIA DRIVE voor autonoom rijden. De nieuwste Isaac-release biedt verbeterde ROS-ondersteuning, terwijl Omniverse Replicator en Isaac GEMs synthetische datageneratie en hardware-geaccelereerde pakketten voor ROS-ontwikkelaars bieden.

Realtime sensing voor medische apparaten

De Jetson AGX Orin aandrijft Clara Holoscan, een computing-platform waarmee ontwikkelaars software-gedefinieerde medische apparaten kunnen bouwen die capabel zijn van lage-latency streaming en realtime AI-beslissingsondersteuning. Deze capaciteit is essentieel voor robotische chirurgie, endoscopie en diagnostische beeldvorming, waarbij apparaten fysica-, beeld- en visualisatiedata op de edge verwerken terwijl complexere taken worden gedelegeerd aan datacenters.

Transport AI-assistenten

De DRIVE AGX Orin, eveneens gebaseerd op Ampere, aandrijft NVIDIA DRIVE concierge en DRIVE chauffeur – AI-platforms die de in-auto passagierservaring herdefiniëren en veilig autonoom rijden mogelijk maken. Wereldwijde automakers, nieuwe energie-voertuigstartups en shuttle-exploitanten benutten de hoge AI-rekenkracht voor next-generation intelligente mobiliteitsoplossingen.

De Jetson AGX Orin module en developer kit worden in Q1 2022 geleverd.