AI aan de rand Nog steeds voornamelijk consumenten, niet bedrijven, markt

Datagestuurde ervaringen zijn rijk, meeslepend en onmiddellijk. Maar het zijn ook vertragingsintolerante datazwijnen.

Denk aan pizzabezorging per drone, videocamera's die verkeersongevallen op een kruispunt kunnen registreren, vrachtwagens die een mogelijke systeemstoring kunnen identificeren.

Dit soort snelwerkende activiteiten hebben veel gegevens nodig - snel. Ze kunnen dus geen latentie aan terwijl gegevens van en naar de cloud reizen. Dat heen en weer duurt te lang. In plaats daarvan moeten veel van deze data-intensieve processen gelokaliseerd blijven en worden verwerkt aan de rand en op of in de buurt van een hardwareapparaat.

"Een autonoom voertuig kan zelfs geen tiende van een seconde wachten om een ​​noodremming te activeren wanneer het AI-algoritme [kunstmatige intelligentie] een dreigende botsing voorspelt", schreef Mohanbir Sawhney, professor aan de Northwestern University in "Why Apple and Microsoft Are Moving to the Edge." "In deze situaties moet AI zich aan de rand bevinden, waar beslissingen sneller kunnen worden genomen zonder afhankelijk te zijn van netwerkconnectiviteit en zonder enorme hoeveelheden gegevens over een netwerk heen en weer te verplaatsen."

"AI-edge-processors stellen je in staat om de verwerking op het [apparaat] zelf uit te voeren of naar een server in de achterkamer te voeren in plaats van dat de verwerking in de cloud wordt gedaan", zegt Aditya Kaul, onderzoeksdirecteur bij Omdia, een onderzoeksbureau .

AI at the Edge:adoptie door bedrijven versus consumenten

Het vermogen van AI-chips om taken zoals machine learning inferencing uit te voeren, is de afgelopen jaren enorm uitgebreid. Denk aan de grafische verwerkingseenheid (GPU), die meer dan 10 teraflops aan prestaties biedt, gelijk aan 10 biljoen drijvende-kommaberekeningen per seconde. Moderne smartphones hebben GPU's die miljarden drijvende-kommabewerkingen per seconde aankunnen. Zelfs een paar jaar geleden was dit soort verwerking op het apparaat niet beschikbaar. Maar tegenwoordig kunnen apparaten aan de rand - smartphones, camera's, drones - AI-workloads aan.

Alleen met de opkomst van deep learning-chipsets - of silicium met kunstmatige intelligentie, inclusief GPU's en andere chips - was dit mogelijk. En de markt voor AI-chipsets is als een raket van de grond gekomen.

"Van een paar jaar geleden in wezen nul, zullen [edge AI-chips] in 2020 meer dan 2,5 miljard dollar aan 'nieuwe' inkomsten verdienen, met een groeipercentage van 20 procent voor de komende jaren", schreef het Deloitte-rapport "Bringing AI to het apparaat." [Zie de figuur "The Edge AI Industry Is Poised for Growth" uit het eerder genoemde Deloitte-rapport.]

Volgens het Tractica-rapport "Deep Learning Chipsets" zal de markt voor AI-chipsets naar verwachting in 2025 $ 72,6 miljard bereiken.

Volgens deskundigen heeft de consumentenmarkt de weg vrijgemaakt. Vandaag, in 2020, vertegenwoordigt de markt voor consumentenapparatuur waarschijnlijk 90% van de edge AI-chipmarkt, in termen van verkochte aantallen en hun dollarwaarde.

"De smartphonemarkt loopt hierin voorop", zegt Aditya Kaul, senior director bij Tractica, een analistenbureau, dat onlangs het rapport "Deep Learning Chipsets" uitbracht. Smartphones vertegenwoordigen nog steeds ongeveer 40%-50% van de markt voor AI-chipsets.

Maar, zei Kaul, AI-gebaseerde verwerking aan de rand komt naar de onderneming, in gebieden zoals industriële IoT en detailhandel, maar ook in de gezondheidszorg en productie. "Je kunt het 'enterprise-grade AI edge' noemen", zei Kaul.

De impuls voor de adoptie van AI aan de rand door bedrijven, zei Kaul, is "duidelijkheid over use-cases". Machine vision, bijvoorbeeld, dat productinspectie en procescontrole automatiseert, kan de kwaliteit en efficiëntie van voorheen handmatige processen op gebieden als een industriële werkvloer verbeteren.

“Mensen beginnen deep learning [in industriële omgevingen] te gebruiken om fouten in de auto-industrie te identificeren, bijvoorbeeld:ze kunnen defecten in de deuren, de handgrepen of het glas ontdekken tijdens de montage. In de voedingsmiddelen- en drankenindustrie identificeren ze oude tomaten, of een koekjesfabriek kan koekjes identificeren die niet de juiste vorm hebben, "zei Kaul.

Naast kwaliteitscontrole gebruiken industrieën echter machinevisie om nieuwe ervaringen te promoten. "De detailhandel is een enorme sector waar we een deel van dit zien gebeuren, zei Kaul. Het is enterprise-grade edge en het gebruik van camera's in supermarkten voor klantanalyses. Waar staan ​​ze stil en kijken ze naar bepaalde producten?

AI at the Edge werkt met cloud computing

AI aan de rand heeft de interesse in hardware nieuw leven ingeblazen, na een aantal jaren waarin software koning was.

Maar bij AI aan de rand draait alles om het brengen van lage latentie en gedistribueerde hardware kan verwerking mogelijk maken zonder hulp van de  cloud.

"Met de groei van AI is hardware weer in de mode, na jaren waarin software de meeste belangstelling van bedrijven en investeerders trok", aldus het McKinsey-rapport "Artificial Intelligence:The Time To Act is Now."

Hardware heeft ook de gedecentraliseerde computerarchitectuur weer in zwang gebracht, waar gecentraliseerde architecturen zorgen voor latentie en gegevensbeveiliging.

"Je wilt dat de beslissingen daar en dan worden genomen in plaats van te vertrouwen op de latentie van de cloud", zei Kaul. “En je wilt ook geen data in een cloud van derden. Vanuit veiligheidsoogpunt moeten de gegevens on-premises blijven.”

Uiteindelijk suggereren experts dat AI aan de rand een complementaire architectuur zal zijn voor de bestaande cloud computing-architectuur.

"AI in de cloud kan synergetisch werken met AI aan de rand", schreef Sawhney. "Denk aan een AI-aangedreven voertuig zoals Tesla. AI aan de rand stuurt talloze beslissingen in realtime aan, zoals remmen, sturen en rijstrookwisselingen. 'S Nachts, wanneer de auto geparkeerd staat en verbonden is met een wifi-netwerk, worden gegevens geüpload naar de cloud om het algoritme verder te trainen.”

Verwachtingen van aanhoudende groei in AI at the Edge

Een groot deel van de groei in de AI-edge-chipmarkt is toe te schrijven aan de toegenomen capaciteit in de hardware zelf. Maar het brengt ook operationele veranderingen met zich mee in de manier waarop industrieën AI benaderen.

Hoewel traditionele industrieën zoals de industriële productie voorheen terughoudend waren over het opnemen van kunstmatige intelligentie in processen, zien ze AI nu als gunstig - inderdaad, een sleutel tot ROI. Als gevolg hiervan introduceren ze big data-analyse in hun processen, trainen ze algoritmen om de nauwkeurigheid van deze processen te verbeteren en zien ze de resultaten in kwaliteitscontrole.

"De enige manier waarop deze modellen nauwkeurig kunnen zijn, is door ze te trainen met de juiste gegevens", zei Kaul. “Twee jaar geleden zou je in deze sectoren niet veel mensen hebben gevonden waar ze je misschien vreemd aankijken als je ze naar trainingsgegevens zou vragen. Maar nu begrijpen meer mensen hoe AI werkt', zei hij.

Tractica voorspelt dat deze groei zich zal voortzetten en dat er een "buigpunt zal zijn in 2021-2022", zei Kaul, met een "snelle overgang naar AI-versnellers, ASIC-chips."

Verwacht echter dat de groei zal worden gemeten, benadrukte Kaul.

"Veel van deze leveranciers en markten - in termen van innovatie - zijn gestagneerd", zei Kaul. “Er is niet veel innovatie geweest in de afgelopen 20, 30 jaar. Ze zijn dus over het algemeen traag in beweging. Maar in sommige gebieden gaat het beter - in industriële visie, medische visie en detailhandel. Het is nog vroeg. Maar de dingen beginnen weer op te komen,' zei hij.