AI-chip startups stabiliseren naarmate industrie focus verplaatst naar in-house oplossingen

Terwijl de tech-industrie een AI-renaissance viert, heeft de instroom van AI-chip startups zich gestabiliseerd. Gevestigde hyperscalers zoals Google, Amazon en Meta bouwen nu proprietaire processors die hun specifieke workloads aan, wat de toetredingsdrempel voor nieuwe spelers in de datacentermarkt verhoogt.

Machine-learning (ML) technologieën evolueren snel, met nieuwe neurale-netwerkarchitectuur die opduiken in elk elektronisch systeem.

Laurent Moll, Chief Operating Officer bij Arteris, voorspelt dat "iedereen een vorm van AI geïntegreerd in hun SoCs zal hebben." Deze trend bevoordeelt Arteris, wiens kernbusiness het leveren is van Network-on-Chip (NoC) IP en ontwikkeltools die bedrijven van alle formaten in staat stellen AI naadloos te embedden.

Voor AI-chip startups is de concurrentie echter aan het opkrimpen, wat het moeilijker maakt om niche-marksegmenten te veroveren.

EE Times zal volgende maand zijn "Silicon 100" (2021-editie) vrijgeven, een jaarlijst van opkomende elektronica- en semiconductor-startups. Auteur Peter Clarke, die de industrie al twee decennia volgt, rapporteert dat het aantal gespecialiseerde AI-gefocuste chip-startups is gestabiliseerd vergeleken met vorig jaar. Hij waarschuwt dat de industrie een "peak AI"-fase bereikt kan hebben.

Kortom, de gouden eeuw van AI-chip startups kan aan het einde zijn.

Kevin Krewell, Principal Analyst bij Tirias Research, voorziet voortgaande acquisitie-activiteit. "De golf van startup-financiering volgde Intel's overname van Nervana, wat investeerders een duidelijke exit-strategie signaleerde," merkt hij op. "De markt host momenteel meer AI-firmes dan het duurzaam kan ondersteunen. We anticiperen dat alleen de meest innovatieve – met name die analoge of optische oplossingen verkennen – zullen overleven. Uiteindelijk zullen AI/ML-workloads geïntegreerd worden in grotere SoCs of chiplet-architecturen."

Arteris interviewde recent zijn nieuw aangestelde COO, voormalige Qualcomm VP of Engineering en langjarige Arteris CTO. We vroegen hem de huidige AI-chip-landschap en de toekomstige richting van startups uit te leggen.

Moll vergelijkte de AI-boom met "een van de grootste gouden koortsen" die hij heeft gezien. De prospectoren omvatten nu zowel ervaren silicium-ontwikkelaars als nieuwkomers zonder eerdere fabricatie-ervaring, allemaal strijdend om een plak van dezelfde taart.

Terwijl de uitbreidende ontwikkelaarsbasis en diverse toepassingen Arteris ten goede komen, creëert het een andere realiteit voor AI-chip startups. Ze concurreren nu niet alleen tegen peers maar ook tegen hyperscalers en automotive OEMs, die custom silicium ontwikkelen om hun proprietaire systemen te ondersteunen.

De AI-chipmarkt blijft in een expansiefase, met voortgezette exploratie overall. Echter, "een beetje orde" ontstaat in het datacenter-segment, naarmate hyperscalers controle nemen door in-house accelerators te ontwerpen afgestemd op hun eigen datasets.

Moll legt uit dat hyperscalers exclusieve datasets en proprietaire software-stacks bezitten, wat hen in staat stelt silicium te optimaliseren voor specifieke workloads. In tegenstelling, pionieren kleinere startups nieuwe SoC-architecturen, SRAM/DRAM-gebruik, stacking, en optische interconnects om superieure AI-prestaties te leveren ten opzichte van off-the-shelf oplossingen.

Hyperscalers kiezen vaak voor bewezen architecturen. Google's TPU vertoont een ontwerp dat, hoewel niet revolutionair, uitstekende prestaties levert voor de getargette workloads.

Gefraagd of opkomende startups in hyperscaler-datacenters kunnen breken, was Moll sceptisch. "Het is onwaarschijnlijk dat kleine firmes een voet in die omgevingen zullen krijgen – of dat hyperscalers ze zullen overnemen – tenzij hun technologie onmisbaar blijkt."

Hij vat de hyperscaler-mindset samen: "Ze kennen hun datasets en gewenste architectuur. Wanneer een startup een overtuigende, high-performance oplossing biedt, zullen ze de IP en het team acquireren om hun eigen producten te verbeteren."

Krewell stemt in, met de opmerking dat alleen startups met "spectaculaire" prestaties, zoals Cerebras' wafer-grote chip, hyperscaler-interest trekken. NVIDIA blijft het standaard AI-platform dankzij zijn alomtegenwoordige software-ecosysteem en schaalbaarheid.

Edge AI presenteert een distincte set kansen. De markt blijft breed, met veel spelers die nog bepalen hoe AI toe te passen en efficiënt te implementeren.

klik voor full size image

19 procent van de semiconductor TAM zal gerelateerd zijn aan AI/ML in 2025. (Bron: Bernstein; Cisco; Gartner; IC Insights; IHS Markit; Machina Research; McKinsey Analysis — Gecompileerd door Arteris)

Krewell benadrukt dat de edge nog grotendeels onontgonnen is. ML toevoegen aan sensoren en edge-apparaten, vooral low-power analoge en in-memory oplossingen, toont belofte. Hij ziet significant potentieel voor INT4 en INT2 inferentie in edge-processors, wat nauwkeurigheid balancert met minimaal vermogen en geheugenvoetafdruk.

Toch kan de diversiteit van toepassingen een "Edge AI" hype-cyclus risico lopen, omdat de term geen precise definitie heeft en vaak generiek door startups gebruikt wordt.

Vanuit Moll's perspectief duiken twee edge-trends op: (1) AI ingesloten in multifunctionele chips – drijvende de snelste groei, met name in smartphones waar AI-accelerators stem- en vision-functies aandrijven; en (2) grote dedicated AI-chips, die een evoluerende niche blijven.

In voertuigen strekt AI-adoptie zich uit van advanced driver-assist systems (ADAS) tot volledige autonomie. Moll ziet een spectrum van oplossingen – van lichtgewicht computer-vision chips tot grote AI-processors die high-volume inferentie hanteren.

Terwijl incumbents met proprietaire chips ADAS domineren, biedt de autonomiemarkt vruchtbare grond voor startups die grote AI-silicium produceren. Toch keren automotive OEMs ook vertical, zoals getoond door Tesla's "Full Self-Driving" computer en Volkswagen's aangekondigde plannen om high-power chips te ontwerpen.

Arteris ontvangt verzoeken van OEMs die de gehele stack willen begrijpen en controle willen behouden over het silicium dat de voertuigarchitectuur zal herdefiniëren.

Startups als Recogni, Blaize en Mythic richten zich op automotive als edge AI-segment, hoewel de exacte deployment-paden onzeker blijven.

Krewell merkt op dat automotive-platforms nog evolueren. Gedistribueerde architecturen bieden modulariteit en risicomitigatie maar brengen hogere kosten en complexiteit. Hij benadrukt het belang van het balanceren van edge-intelligentie om dataverkeer, latentie en stroomverdeling te reduceren.

Zowel Moll als Krewell zijn het erover eens dat de focus verschuift van silicium naar software. Het deployen van ML vereist robuuste software-ecosystemen en low-code tools die embedded-ontwikkelaars in staat stellen custom modellen te creëren voor specifieke applicaties.

Gefraagd waarom hij terugkeerde naar Arteris, noemde Moll twee redenen: eerste, Arteris bezit een cruciale niche in het assembleren van grote, complexe SoCs via NoC IP; tweede, de overname van Magillem heeft een krachtige softwarelaag toegevoegd die de hardware-aanbieding complementeert.

Concluderend, het AI-landschap evolueert. Terwijl startups zware concurrentie ondervinden van in-house hyperscaler-oplossingen, blijven kansen bestaan – met name in edge en automotive markten – mits ze innoveren in silicium en software-integratie.

>> Dit artikel is oorspronkelijk gepubliceerd op onze zusje-site, EE Times.