AI-chiparchitectuur richt zich op grafiekverwerking

TOKYO — AI-processorontwerper Blaize, voorheen bekend als ThinCI (uitgesproken als "Think-Eye"), heeft onthuld dat zijn volledig programmeerbare Graph Streaming Processor (GSP) in het tweede kwartaal van 2020 in volumeproductie zal gaan.

Terwijl de zes jaar oude startup moeder is van zijn productspecificaties - zoals vermogensniveau en benchmarkingresultaten - is zijn testchip, medio 2018 afgeplakt en gehuisvest in een op Linux gebaseerde doos, betrokken geweest bij 16 pilotprogramma's wereldwijd voor een jaar, beweerde Blaize mede-oprichter en CEO Dinakar Munagala.

Blaize beschrijft zijn SAP als in staat om "directe grafische verwerking, on-chip taakgrafiekbeheer en -uitvoering en taakparallellisme uit te voeren." Kortom, Blaize ontwierp de GSP om te voldoen aan AI-verwerkingsbehoeften waaraan voorheen niet werd voldaan door GPU, CPU of DSP.

Voor veel brancheanalisten die zich bezighouden met AI-processors, is dit een pitch die ze eerder hebben gehoord.

Kevin Krewell, hoofdanalist bij Tirias Research, zei:"Ik weet een beetje over ThinCI, maar heb nooit de architectuurpitch gekregen. Ik ben wel blij dat ze de naam hebben veranderd.”

Het gebrek aan technische details over de SAP-architectuur in de diapresentatie voedt frustratie en scepsis in de gemeenschap van technische analisten. Munagala belooft echter een informatierelease in het eerste kwartaal van 2020.

Blokdiagram op hoog niveau van de SAP-architectuur

De GSP-architectuur bestaat uit een reeks grafische streaming-processors, speciale rekenprocessors, hardwarecontrole en verschillende soorten datacache. Het bedrijf beweert dat het SAP het volgende kan bieden:"Echt parallellisme op taakniveau, minimaal gebruik van off-chip geheugen, diepte-eerst hardwaregrafiekplanning, volledig programmeerbare architectuur." Klik hier voor grotere afbeelding (Bron:Blaize)

Op een lijst van gekwalificeerde leveranciers komen

Het goede nieuws voor Blaize in Munagala's geest is dat een menigte vroege klanten zijn SAP al gebruikt. Sinds een jaar levert Blaize een desktop-eenheid met GSP. Het kan eenvoudig worden aangesloten op een stopcontact en worden aangesloten op Ethernet. Gegevenswetenschappers, software- en hardwareontwikkelaars evalueren al functies op systeemniveau die mogelijk zijn gemaakt door GSP, zei Munagala.

Blaize, met $ 87 miljoen aan financiering, wordt ondersteund door vroege investeerders en partners, waaronder Denso, Japan's tier one, Daimler en Magna. "Sinds een paar jaar maken we ook inkomsten uit het autosegment", zegt Munagala.

Met een afgeplakte chip in de hand, worden veel startups geconfronteerd met een "Wat doen we nu?" dilemma. Richard Terrill, vice-president en strategische bedrijfsontwikkeling bij Blaize, vertelde EE Times:"We zijn dat stadium een ​​jaar geleden al gepasseerd."

Blaize heeft zijn focus verlegd naar het uitbouwen van zijn infrastructuur door het versterken van een technisch team (nu zo groot als 325 mensen) dat zich uitstrekt tot Californië, India en het Verenigd Koninkrijk. . "We houden onze vaart erin", zei Munagala.

Voor Blaize gaat het bij zijn SAP-activiteiten niet langer om concurreren met rivaliserende startups op de specificaties in powerpoint-presentaties. Het gaat erom uit te zoeken hoe klanten het SAP voor welke toepassingen zullen gebruiken - en hoeveel stroom het verbruikt "op systeemniveau" bij specifieke toepassingen.

Blaize is druk bezig geweest om zijn logistiek vast te leggen, zijn producten automotive-gekwalificeerd te krijgen en ervoor te zorgen dat het interne proces en de documentatie gecertificeerd zijn. "We hebben al een auditproces doorlopen en we staan ​​op een lijst van goedgekeurde en gekwalificeerde leveranciers", zei Munagala. Dit was een broodnodig proces dat werd afgedwongen door autofabrikanten en tier-ones, die liever startups vermijden die misschien niet lang genoeg duren om producten te leveren.

Blaize huurde zo'n 30 ingenieurs in het Verenigd Koninkrijk (in Kings Langley en Leeds), toegewezen om te werken aan de ontwikkeling van autoproducten. Het is een hecht team van ingenieurs dat losgelaten werd toen Imagination MIPS afsloot. "Dit zijn een aantal hooggekwalificeerde individuen die bij MIPS hebben samengewerkt om op MIPS gebaseerde ASIC's automotive-gekwalificeerd te krijgen voor Mobileye", legt Munagala uit.

Grafiekberekening

Hoewel AI in veel verschillende soorten neurale netwerken voorkomt, "zijn alle neurale netwerken op grafieken gebaseerd", legt Munagala uit. In theorie stelt dit ontwikkelaars in staat om de grafische structuur te gebruiken om meerdere neurale netwerken en volledige workflows op één enkele architectuur te bouwen. Vandaar dat het nieuwe marketingpraatje van het bedrijf voor zijn SAP "100 procent graph-native" is.

Blaize is echter niet bepaald een eenhoorn in het grafische universum. Graphcore, Mythic en nu falende Wave Computing hebben het allemaal gehad over "optimalisatie en compilatie van gegevensstroomgrafieken" in AI-verwerking.

Terrill zei:"Graph computing heeft natuurlijk een geschiedenis van meer dan 60 jaar."

Blaize GSP claimt een onderscheid met andere op grafieken gebaseerde gegevensstroomprocessors op drie gebieden, zei Munagala. Ten eerste:"Ons SAP is volledig programmeerbaar", in staat om "een breed scala aan taken uit te voeren", zei hij.

Ten tweede is het "dynamisch herprogrammeerbaar ... op een enkele klokcyclus."

Ten derde:"We bieden de integratie van streaming", wat het mogelijk maakt om de latentie te minimaliseren. De enorme efficiëntievermenigvuldiger wordt geleverd via "een gegevensstreamingmechanisme", waarbij niet-computationele gegevensverplaatsing wordt geminimaliseerd of geëlimineerd, legde hij uit.

Sequentiële uitvoeringsverwerking

Klik hier voor grotere afbeelding (Bron:Blaize)

Het grafische karakter van de GSP-architectuur kan gegevensverplaatsing heen en weer naar externe DRAM minimaliseren. Alleen de eerste invoer en de laatste uitvoer zijn extern nodig, terwijl al het andere in het midden slechts tijdelijke, tussentijdse gegevens zijn. Dit resulteert in een enorme vermindering van de geheugenbandbreedte en het stroomverbruik.

Klik hier voor grotere afbeelding (Bron:Blaize)

De gestelde doelen voor Blaize-systemen zijn "de laagst mogelijke latentie, vermindering van geheugenvereisten en energievraag op chip-, bord- en systeemniveau."

Op de vraag of Blaize's ontwerp voor grafische verwerking door patenten verdedigbaar zal zijn, zei Mungala:"We hebben vertrouwen in onze patentportfolio. We hebben meerdere patenten - sommige zijn al verleend en andere zijn toegepast, maar we doen dit al meerdere jaren."