Kubernetes Geeft AI-Startups Schaalbare, Gecontaineriseerde Oplossingen

Carmine Rimi, AI product manager bij Canonical (het team achter Ubuntu), deelt inzichten over het snijvlak van AI en Kubernetes.

Een Stanford University-onderzoek rapporteert een 14-voudige stijging in AI-startups sinds 2000, terwijl VK-gebaseerde AI-ontwikkelaars een 200% toename in venture capital-financiering vorig jaar ervoeren. Deze cijfers onderstrepen de groeiende vraag naar betrouwbare, schaalbare AI-infrastructuur.

Het bouwen van AI-applicaties is inherent complex. Ontwikkelaars moeten feature extractie, dataverzamelingsverificatie, statistische analyse en resource-orchestratie managen voordat ze ook maar één regel ML-code schrijven. Continu onderhoud is vereist om modellen actueel en veilig te houden.

Containeriseer Je

Als reactie heeft de industrie zich gekeerd naar Kubernetes – een gratis, open-source platform dat de implementatie en het beheer van gecontaineriseerde workloads automatiseert, inclusief AI- en machine learning-pipelines. Door infrastructuurdetails te abstracteren, stelt Kubernetes teams in staat om zich te richten op modelontwikkeling in plaats van operationele overhead.

Forrester stelde recent dat "Kubernetes de oorlog om container-orchestratie-dominantie heeft gewonnen en het hart van uw microservices-plannen zou moeten zijn." Containers bieden lichte, draagbare omgevingen die eenvoudig schaalbaar zijn over on-premise of cloud resources, wat monolithische AI-diensten in modulaire, onderhoudbare microservices transformeert.

Een Cloud Native Computing Foundation-enquête toont aan dat de meeste ontwikkelaars Kubernetes al over meerdere fasen van de AI-levenscyclus benutten – van training tot inferentie. Kubernetes uitblinkt in het schalen van rekenintensieve deep-learning modellen en het beheren van grote datasets op commodity servers.

Naast training ondersteunt Kubernetes gedistribueerde inferentie over edge-apparaten en centrale datacenters, wat implementatiescenario's vereenvoudigt die anders maatwerk, niet-gecontaineriseerde oplossingen zouden vereisen.

Focus Verschuiven

Naarmate bedrijven AI adopteren om kosten te verlagen, besluitvorming te verbeteren en gepersonaliseerde ervaringen te leveren, zijn Kubernetes-gebaseerde containers het favoriete platform geworden. In december 2020 introduceerde het Kubernetes-project Kubeflow, een framework dat machine-learning-workflows op Kubernetes stroomlijnt.

Oorspronkelijk ontworpen voor stateless services, ondersteunt Kubernetes nu complexe, stateful AI-workloads dankzij zijn rijke API's, betrouwbaarheid en prestaties. In 2017 ondersteunde alleen Google Cloud Platform's Google Kubernetes Engine (GKE) het platform; vandaag de dag biedt elke grote cloud – Microsoft Azure's AKS, Amazon's EKS en anderen – beheerde Kubernetes-services.