Blaize onthult Graph Streaming Processor (GSP) voor AI-workloads

TOKYO — AI-accelerator-bedrijf Blaize, voorheen ThinCI, kondigde aan dat de volledig programmeerbare Graph Streaming Processor (GSP) in Q2 2020 in volumeproductie zal gaan.

De zes jaar oude startup heeft geen gedetailleerde specificaties onthuld, waaronder stroomverbruik en benchmarkdata. Echter, de testchip - getaped-out in midden-2018 en draaiend in een Linux-gebaseerde behuizing - is het afgelopen jaar in 16 pilotprojecten wereldwijd gebruikt, zei CEO en medeoprichter Dinakar Munagala.

Blaize karakteriseert de GSP als het uitvoeren van directe graafverwerking, het beheren en uitvoeren van taakgraven on-chip, en het mogelijk maken van taakniveau-parallelisme. In essentie adresseert de GSP AI-workloads waar GPU's, CPU's en DSP's moeite mee hebben om efficiënt te bedienen.

Industrie-analisten hebben opgemerkt dat deze claim echo's oproept van bekende beweringen van andere AI-processor-leveranciers.

Kevin Krewell, hoofdanalist bij Tirias Research, zei: "Ik weet een beetje over ThinCI, maar nooit de architectuur-pitch gekregen. Ik ben blij dat ze de naam veranderden."

Het gebrek aan technische details over de GSP-architectuur in de presentatie heeft frustratie en scepticisme bij analisten gewekt. Munagala beloofde echter een uitgebreide informatie-uitgave in Q1 2020.

Op een gekwalificeerde leverancierslijst komen

Het goede nieuws voor Blaize, volgens Munagala, is dat een groeiende reeks vroege adopters al de GSP gebruikt. Het afgelopen jaar heeft Blaize een desktop-eenheid met de GSP verzonden. De eenheid kan in een stopcontact worden gestoken en via Ethernet verbonden. Datagewetenschappers, software- en hardware-ontwikkelaars evalueren al systeemmogelijkheden die door de GSP worden mogelijk gemaakt.

Blaize, met $87 miljoen aan financiering, wordt ondersteund door vroege investeerders en partners waaronder Denso, Daimler en Magna. "We hebben ook al een paar jaar inkomsten gegenereerd uit het automotive-segment," zei Munagala.

Met een getapte-out chip in handen, staan veel startups voor een "Wat doen we nu?" dilemma. Richard Terrill, vice-president en strategische business development bij Blaize, vertelde EE Times: "We zijn die fase al een jaar geleden voorbij."

Blaize heeft zich gericht op het uitbreiden van zijn infrastructuur door een engineering-team te versterken dat nu 325 leden telt over Californië, India en het VK. Het verhuist naar nieuwe faciliteiten en werveelt field-application engineers in Japan en EMEA. "We behouden onze momentum," zei Munagala.

Voor Blaize gaat het GSP-bedrijf niet meer over concurreren op specificatiebladen. Het gaat om het begrijpen hoe klanten de GSP in echte toepassingen zullen gebruiken en het meten van systeemniveau stroomverbruik in die contexten.

Blaize is druk bezig met het finaliseren van logistiek, het verkrijgen van automotive-kwalificatie, en het waarborgen dat interne processen en documentatie certificeringsstandaarden voldoen. "We hebben al een auditproces voltooid en staan op een goedgekeurde en gekwalificeerde leverancierslijst van een automotive-klant," zei Munagala. Deze mijlpaal is cruciaal voor automakers en tier-one leveranciers die partners met bewogen levensduur prefereren.

Blaize heeft 30 ingenieurs in het VK (in Kings Langley en Leeds) aangenomen om zich te richten op automotive productontwikkeling. Het team, bestaande uit hooggekwalificeerde individuen die eerder werkten bij MIPS aan MIPS-gebaseerde ASICs voor Mobileye, brengt diepe domeinexpertise mee.

Graafcomputing

Hoewel AI veel neurale-netwerktypen omvat, "zijn alle neurale netwerken graaf-gebaseerd," legde Munagala uit. In theorie stelt dit ontwikkelaars in staat om meerdere neurale netwerken en hele workflows op een enkele architectuur te bouwen. Daher de GSP's marketing-slogan: "100 percent graph-native."

Blaize is niet alleen in de graafcomputing-ruimte. Concurrenten zoals Graphcore, Mythic en de recent gesloten Wave Computing hebben ook besproken het optimaliseren en compileren van dataflow-graven voor AI-verwerking.

Terrill merkte op: "Graafcomputing heeft een geschiedenis van meer dan 60 jaar."

De Blaize GSP onderscheidt zich van andere graaf-gebaseerde dataflow-processoren op drie manieren, volgens Munagala. Ten eerste is de GSP volledig programmeerbaar, in staat om een breed scala aan taken aan te pakken. Ten tweede is het dynamisch herprogrammeerbaar "op een enkele klokcyclus". Ten derde integreert het streaming om latentie te minimaliseren. Het data-streaming-mechanisme vermindert of elimineert non-computationele data-verplaatsing, wat een aanzienlijke efficiëntie-vermenigvuldiger levert.

Het graaf-native ontwerp van de GSP-architectuur minimaliseert data-verplaatsing naar externe DRAM. Alleen de initiële input en finale output vereisen extern geheugen; intermediaire data blijft on-chip, wat de geheugenbandbreedte en stroomgebruik drastisch reduceert.

De gestelde doelen voor Blaize-systemen zijn "de laagst mogelijke latentie, reductie in geheugenvereisten, en energie-eis op chip-, bord- en systeemniveau."

Gevraagd of Blaize's graafcomputing-ontwerp octrooibescherming heeft, antwoordde Munagala: "We zijn vertrouwd in ons octrooiportofolio. We bezitten meerdere toegekende octrooien en hebben additionele aanvragen lopende, wat jaren gerichte onderzoek weerspiegelt."