Xilinx integreert gestapelde HBM om bandbreedte en beveiliging aan te pakken

Xilinx heeft zijn spel opgevoerd in het aanpakken van prestatieknelpunten in netwerken en datacenters, met een nieuwe serie in zijn Versal Adaptive Compute Acceleratie Platform (ACAP)-portfolio dat high-bandbreedte geheugen (HBM) integreert om snelle compute-acceleratie mogelijk te maken voor enorme, verbonden datasets met minder en goedkopere servers.

De nieuwe Versal HBM-serie integreert geavanceerde HBM2e DRAM, met 820 GB/s doorvoer en 32 GB capaciteit voor 8x meer geheugenbandbreedte en 63% lager vermogen dan DDR5-implementaties (een vergelijking gebaseerd op een typische systeemimplementatie van vier DDR5-6400-componenten). Xilinx zei dat de Versal HBM-serie is ontworpen om gelijke tred te houden met de hogere geheugenbehoeften van de meest rekenintensieve, geheugengebonden applicaties voor datacenters, bekabelde netwerken, testen en meten, en ruimtevaart en defensie.

In een briefing met embedded.com zei Mike Thompson, senior productlijnmanager voor Xilinx Versal FPGA's:"Er zijn momenteel drie belangrijke trends:exponentiële groei van netwerkverkeer en te verwerken gegevens; DDR-bandbreedtebeschikbaarheid die tot prestatieknelpunten leidt; en de derde is gegevensbeveiliging. Versal HBM vergroot de capaciteit van elk van deze drie lagen, vooral omdat de bandbreedte en beveiligingseisen de huidige verwerkings- en geheugentechnologieën overtreffen.”

De Versal HBM-serie maakt gebruik van geheugen met hoge bandbreedte dat is geïntegreerd met behulp van gestapelde siliciuminterconnect (SSI) op basis van TSMC's CoWoS (chip op wafer op substraat) 3D-stapeltechnologie. Thompson zei dat deze heterogene integratie een belangrijk onderdeel is van het aanpakken van het zogenaamde einde van de wet van Moore. Hij zei dat traditionele architecturen een bottleneck vormen voor geheugen en netwerktoegang voor realtime applicaties.

De Versal HBM-serie gebruikt de basis van Xilinx Versal Premium, maar verwisselt één superlogica-regio (SLR) in het apparaat om de HBM2e-stack in te wisselen en een andere SLR om een ​​geïntegreerde HBM-controller toe te voegen. Dit maakt een architectuur mogelijk voor snelle gegevensverplaatsing en adaptieve verwerking door de integratie van een genetwerkt intellectueel eigendom (IP) en geheugensubsysteem. Thompson gaf aan dat de Versal HBM 14 equivalente FPGA's integreert (vergeleken met Xilinx Virtex EltraScale+), en 32 DDR5-chips vervangt door geïntegreerde HBM.

Het nieuwe HBM-platform bevat voor energie geoptimaliseerde netwerkkernen voor veilige connectiviteit met hoge bandbreedte. De Versal HBM-serie biedt 5,6 Tb/s seriële bandbreedte met 112 Gb/s PAM4-transceivers, 2,4 Tb/s schaalbare Ethernet-bandbreedte, 1,2 Tb/s lijnsnelheid encryptie-doorvoer, 600 Gb/s Interlaken-connectiviteit en 1,5 Tb/s van PCIe Gen5-bandbreedte met ingebouwde DMA, die zowel CCIX als CXL ondersteunt. Deze brede set van geharde IP biedt kant-en-klare, multi-terabit netwerkconnectiviteit voor een breed scala aan protocollen, datasnelheden en optische standaarden, waardoor optimale kracht en prestaties en een snelle time-to-market mogelijk zijn.

Als adaptief, heterogeen computerplatform is de Versal HBM-serie ontworpen om een ​​breed scala aan workloads met grote datasets te versnellen, door aanpasbare engines te integreren voor hardwareparallellisme met lage latentie, DSP-engines voor AI-inferentie en signaalverwerking, en scalaire engines voor embedded compute, platformbeheer en veilig opstarten en configureren. In tegenstelling tot versnellers met vaste functies, kan de Versal HBM-serie hardware dynamisch herconfigureren in milliseconden om zich aan te passen aan evoluerende algoritmen en opkomende protocollen, waardoor herontwerp en herimplementatie van hardware niet meer nodig is. Thompson vertelde ons:"Dit met aanpasbare rekenkracht is belangrijk voor agile ontwerp."

Deze convergentie van aanpasbare compute met geheugen met hoge bandbreedte en multi-terabit-connectiviteit maakt cloudversnelling van de volgende generatie en veilige netwerken mogelijk. Versal HBM ACAP's leveren goede prestaties en energie-efficiëntie voor big data-workloads, waaronder fraudedetectie, aanbevelingsengines, databaseversnelling, gegevensanalyse, financiële modellering en deep learning-inferentie voor natuurlijke taalverwerking (NLP). Door de runtimes met een orde van grootte te verbeteren ten opzichte van moderne CPU's van serverklasse, terwijl 4x grotere datasets worden ondersteund, kunnen gebruikers applicaties implementeren met enorme, verbonden datasets met veel minder en goedkopere servers.

Evenzo leveren Versal HBM ACAP's netwerkschaalbaarheid en prestaties voor 800G-routers, switches en beveiligingsapparatuur. Een traditionele Network Processing Unit (NPU) implementatie van een 800G next-generation firewall zou meerdere NPU-apparaten en DDR-modules vereisen, terwijl een enkele Versal HBM ACAP externe geheugens elimineert en pakketverwerking, beveiligingsverwerking en aanpasbare AI-geïnfuseerde anomaliedetectie op dramatisch lager vermogen en tegen een fractie van de vormfactor. De serie levert grote CapEx- en OpEx-besparingen op voor cloud- en netwerkproviders doordat klanten minder apparaten en systemen hoeven te gebruiken om hun applicaties te implementeren.

Versal HBM ACAP's zijn toegankelijk voor zowel hardware- als softwareontwikkelaars en bieden een ontwerptoegangspunt voor elke ontwikkelaar, inclusief Vivado Design Suite voor hardwareontwikkelaars, het Vitis uniforme softwareplatform voor softwareontwikkelaars en Vitis AI voor datawetenschappers met domeinspecifieke frameworks en versnellingsbibliotheken.

De Versal HBM-serie is gebouwd op het fundament van in de productie bewezen 7nm Versal-apparaten. Ontwikkelaars kunnen beginnen met het maken van prototypes op apparaten en evaluatieborden uit de Versal Premium-serie en gemakkelijk migreren naar de Versal HBM-serie. De Versal HBM-serie begint met bemonstering in de eerste helft van 2022. Documentatie is nu beschikbaar en tools zullen beschikbaar zijn in de tweede helft van 2021 via een programma voor vroege toegang.