NVIDIA werkt samen met VMware om AI-economie te transformeren

Op de VMworld 2019-conferentie vandaag hebben NVIDIA en VMware aangekondigd dat ze het gezamenlijk mogelijk zullen maken om virtuele VMware-machines nu op grafische processoreenheden (GPU's) te implementeren.

Als onderdeel van dit initiatief heeft NVIDIA aangekondigd dat zijn virtuele GPU-software (vGPU) nu kan worden ingezet op virtuele machines op servers, naast de bestaande ondersteuning voor clientsystemen. NVIDIA Virtual Compute Server (vComputeServer)-software voor GPU's wordt ook uitgebreid om ondersteuning voor VMware vSphere-platforms toe te voegen. NVIDIA heeft zich er ook toe verbonden om zijn hub voor toegang tot tools voor het bouwen van kunstmatige intelligentie-applicaties (AI) beschikbaar te maken op VMware-platforms.

Zie ook: Wat zijn de 3 belangrijkste componenten van de gereedheid voor kunstmatige intelligentie?

Met behulp van deze NVIDIA-technologieën beloofde VMware om een ​​cloudservice beschikbaar te stellen die bestaat uit Amazon EC2 bare metal-instanties, versneld door NVIDIA T4 GPU's met vComputeServer-software op VMware Cloud op AWS.

Gezamenlijk hebben deze ontwikkelingen niet alleen significante gevolgen voor het verbeteren van het GPU-gebruik, ze maken het voor datawetenschappers ook mogelijk om meerdere workloads te aggregeren op GPU's die draaien op VMware-servers die zich op locatie of in de cloud bevinden, zegt John Fanelli, vice-president van product voor NVIDIAGrid.

Hoewel de belangstelling voor het gebruik van GPU's om toepassingen voor kunstmatige intelligentie (AI) te bouwen enorm was, waren de kosten voor het bouwen van die toepassingen vaak onbetaalbaar. Bij afwezigheid van een virtuele machine, was elke GPU voorheen gewijd aan het uitvoeren van één workload tegelijk. Door het gebruik van GPU's te verhogen, zullen de kosten voor het bouwen en implementeren van AI-applicaties aanzienlijk afnemen, zegt Fanelli.

Dat is van cruciaal belang, omdat die kosten organisaties ervan hebben weerhouden meer te investeren in AI-toepassingen die het potentieel hebben om bijna een aspect van het menselijk bestaan ​​te transformeren.

"AI is de krachtigste technologie van onze tijd", zegt Fanelli.

De prestaties van die AI-workloads die op virtuele machines worden uitgevoerd, zullen echter variëren, afhankelijk van hun individuele kenmerken, zegt Fanelli. Veel ontwikkelaars kunnen prestatieproblemen compenseren door gebruik te maken van een NVIDIA CUDA-toolkit om AI-workloads parallel uit te voeren, merkte Fanelli op.

Naarmate het betaalbaarder wordt om AI-applicaties efficiënt te bouwen en in te zetten, zou het aantal AI-projecten dat de komende maanden zal worden gelanceerd, moeten toenemen. Om dat proces te versnellen, zei VMware ook dat klanten workloads kunnen migreren van naar GPU-instanties die in lokale datacenters worden uitgevoerd naar de cloud met behulp van VMware HCX-tools die de verplaatsing van virtuele machines automatiseren en de overdracht van gegevens tussen platforms versnellen.

GPU's die voornamelijk in de cloud worden gebruikt, zijn het voorkeursplatform geworden voor het trainen van AI-modellen vanwege de efficiënte manier waarop GPU's geheugen en I/O-overhead beheren. NVIDIA heeft echter met wisselend succes gepleit om ook op GPU's te vertrouwen voor het uitvoeren van de inferentie-engines die nodig zijn om die AI-modellen uit te voeren in plaats van x86-servers. Door ondersteuning voor virtuele servermachines aan de software toe te voegen, zou het een stuk haalbaarder moeten worden om meerdere inferentie-engines op hetzelfde GPU-platform te draaien op vrijwel dezelfde manier als inferentie-engines worden ingezet op x86-platforms.

Natuurlijk is het hebben van toegang tot aanvullende infrastructuurbronnen niet noodzakelijkerwijs een garantie voor AI-succes. Die middelen zullen echter een zeer grote bijdrage leveren aan het verminderen van de kosten van fouten tijdens het AI-ontwikkelingsproces.