NVIDIA en VMware partneren om AI-kostenefficiëntie te versnellen met GPU-virtualisatie

Door de benuttingssnelheden van GPU's te verhogen, zal de kosten van het bouwen en implementeren van AI-applicaties aanzienlijk dalen.

Op de VMworld 2019 conferentie vandaag kondigden NVIDIA en VMware aan dat ze gezamenlijk ervoor zorgen dat VMware virtuele machines nu op grafische processoreenheden (GPU's) geïmplementeerd kunnen worden.

Als onderdeel van deze initiatief kondigde NVIDIA aan dat de virtual GPU (vGPU) software nu op virtuele machines op servers geïmplementeerd kan worden, naast de bestaande ondersteuning voor clientsystemen. NVIDIA Virtual Compute Server (vComputeServer) software voor GPU's wordt ook uitgebreid om ondersteuning voor VMware vSphere-platformen toe te voegen. NVIDIA committeerde zich er ook toe zijn hub voor toegang tot tools voor het bouwen van kunstmatige intelligentie (AI) applicaties beschikbaar te maken op VMware-platformen.

Zie ook: Wat zijn de 3 sleutelcomponenten van AI-klaarheid?

Met behulp van deze NVIDIA-technologieën, beloofde VMware een clouddienst beschikbaar te maken bestaande uit Amazon EC2 bare metal instanties versneld door NVIDIA T4 GPU's die vComputeServer software draaien op VMware Cloud on AWS.

Samen hebben deze vooruitgang niet alleen significante implicaties voor het verbeteren van GPU-benutting, ze maken het ook mogelijk voor data scientists om meerdere workloads op GPU's te aggregeren die draaien op VMware-servers on-premises of in de cloud, zegt John Fanelli, vicepresident product voor NVIDIA Grid.

Terwijl de interesse in het gebruik van GPU's om AI-applicaties te bouwen massaal is, is de kosten van het bouwen van die applicaties vaak verbodzaam. In afwezigheid van een virtuele machine, was elke GPU eerder toegewijd aan het draaien van één workload tegelijk. Door de benuttingssnelheden van GPU's te verhogen, zal de kosten van het bouwen en implementeren van AI-applicaties aanzienlijk dalen, zegt Fanelli.

Dat is cruciaal omdat die kosten organisaties hebben tegengehouden om meer te investeren in AI-applicaties die het potentieel hebben om bijna elk aspect van het menselijk bestaan te transformeren.

"AI is de meest krachtige technologie van onze tijd," zegt Fanelli.

De prestaties van die AI-workloads die op virtuele machines draaien, zullen echter variëren afhankelijk van hun individuele attributen, zegt Fanelli. Veel ontwikkelaars zullen in staat zijn eventuele prestatieproblemen te compenseren door gebruik te maken van een NVIDIA CUDA toolkit om AI-workloads parallel uit te voeren, merkte Fanelli op.

Naarmate het betaalbaarder wordt om efficiënt AI-applicaties te bouwen en implementeren, zal het aantal AI-projecten dat in de komende maanden gelanceerd zal worden toenemen. Om dat proces te versnellen, zei VMware ook dat klanten workloads kunnen migreren van lokale datacenters naar GPU-instanties in de cloud met VMware HCX-tools die de verplaatsing van virtuele machines automatiseren en de overdracht van data tussen platforms versnellen.

GPU's die voornamelijk in de cloud benaderd worden, zijn het preferreerde platform geworden voor het trainen van AI-modellen vanwege de efficiënte manier waarop GPU's geheugen en I/O-overhead managen. NVIDIA heeft echter met gemengd succes een case gemaakt om ook op GPU's te vertrouwen voor het draaien van de inferentie-engines die nodig zijn om die AI-modellen uit te voeren in plaats van x86-servers. Door ondersteuning voor server virtuele machines toe te voegen aan de software, zou het veel meer haalbaar moeten worden om meerdere inferentie-engines op hetzelfde GPU-platform te draaien op ongeveer dezelfde manier als inferentie-engines op x86-platformen geïmplementeerd worden.

Natuurlijk garandeert toegang tot extra infrastructuurbronnen niet noodzakelijk AI-succes. Die bronnen zullen echter een heel lange weg gaan in het reduceren van de kosten van fouten tijdens het AI-ontwikkelingsproces.