Xilinx richt zich op de offload van datacenters met 'composable' hardware

Xilinx heeft een reeks datacenterproducten gelanceerd op basis van 'composable hardware' om een ​​groter aanpassingsvermogen en flexibiliteit mogelijk te maken om aan de voortdurend veranderende datacenterbehoeften te voldoen, evenals latentieproblemen in videoanalyse en financiële handelsplatforms aan te pakken.

De producten omvatten een nieuwe familie van Alveo SmartNIC's (netwerkinterfacekaarten), kunstmatige intelligentie (AI) videoanalysetoepassingen, een versneld algoritmisch handelsreferentieontwerp voor handel in sub-microseconden en de Xilinx App Store. Het doel van de nieuwe producten is om softwareontwikkelaars in staat te stellen rekenintensieve prestaties te leveren zonder dat er dure en langdurige hardwareontwikkeling nodig is. Met deze nieuwe producten en oplossingen, zei Xilinx dat het de barrières voor softwareontwikkelaars wegneemt om snel softwaregedefinieerde, hardwareversnelde applicaties op Alveo-versnellerkaarten te maken en te implementeren.

De uitdaging voor veel datacenters is de enorm toegenomen vraag naar netwerkbandbreedte en optimalisatie voor AI en realtime analyseworkloads, die voortdurend evolueren en de bestaande infrastructuur tot het uiterste drijven. Volgens Xilinx drijft dit de behoefte aan volledig "composeerbare", softwaregedefinieerde hardwareversnellers met het aanpassingsvermogen om te optimaliseren voor veeleisende toepassingen, evenals de flexibiliteit om snel nieuwe workloads en protocollen aan te nemen en deze op lijnsnelheid te versnellen.

"Composable" SmartNIC

De eerste van zijn nieuwe reeks producten voor het datacenter is de Xilinx Alveo SN1000, een familie van samen te stellen SmartNIC's. Met composable bedoelt het bedrijf dat het softwaregedefinieerde hardwareversnelling biedt voor alle functie-offloads.

In een briefing met embedded.com zei Kartik Srinivasan, directeur productmarketing voor de datacentergroep bij Xilinx:"In onze samenwerking met hyperscalers en early adopters heeft iedereen verschillende behoeften, maar ze hebben allemaal continue functie-innovatie nodig, terwijl ze niet om compromissen te sluiten over de prestaties. Omdat de NIC een cruciaal onderdeel was in de I/O van een server, voorbij 25 Gb, begonnen offload-NIC's in opkomst te komen."

"Met ASIC-implementaties van deze offload-NIC's is er geen programmeerbaarheid en dus geen manier om te schalen en aan te passen aan verschillende behoeften. Evenzo, voor CPU-implementaties, hoewel sommige aspecten van programmeerbaarheid kunnen hebben, zijn ze niet efficiënt en kunnen ze niet worden geschaald naar 100 Gb-connectiviteit en meer.”

De SN1000 SmartNIC's ontlasten CPU-intensieve taken direct om de netwerkprestaties te optimaliseren, met een open architectuur die een breed scala aan netwerkfuncties op lijnsnelheid kan versnellen. Ze bieden softwaregedefinieerde hardwareversnelling voor een breed scala aan offloads van netwerken, beveiliging en opslag, zoals Open vSwitch en virtualisatieversnelling (Virtio.net). Beveiligingsoffloads omvatten IPsec, kTLS en SSL/TLS en versnelde opslagtoepassingen, waaronder Virtio.blk, NVMe over TCP, Ceph, en compressie- en cryptoservices.

Met behulp van het Vitis Networking-platform en industriestandaard programmeertalen op hoog niveau zoals P4, C en C++, kunnen softwareontwikkelaars netwerkfuncties, protocollen en applicaties creëren die in hardware op de SmartNIC werken. Met Vitis Networking kunnen organisaties snel en eenvoudig nieuwe netwerkfuncties samenstellen en bestaande netwerkfuncties aanpassen om nieuwe protocollen en applicaties te verwerken zonder hardware te vervangen, waardoor investeringen toekomstbestendig zijn.

Srinivasan voegde toe:“Klanten krijgen een kant-en-klare plug-and-play-ervaring. We programmeren een aantal functies waarvan we denken dat klanten ze nodig hebben, plus versnelling, en dan kan de klant blokkades verwijderen of zijn eigen aangepaste accelerators toevoegen."

Bij de lancering zei Xilinx dat het goede industrie-ondersteuning heeft voor zijn SmartNIC's. Lee Caswell, vice-president marketing bij de cloudplatform-business unit van VMware, zei:"VMware definieert de hybride cloudarchitectuur voor toepassingen van de volgende generatie met verhoogde beveiligingsvereisten. SmartNIC's zullen een cruciale rol spelen in de VMware-cloudfunderingsarchitectuur door klanten een uniform beheer-, beveiligings- en veerkrachtmodel te bieden dat zowel bare-metal als gevirtualiseerde omgevingen omvat, waar de configureerbaarheid van Xilinx Alveo SN1000 SmartNIC's een flexibele, geïntegreerde en gekwalificeerde oplossing zal bieden voor klanten.”

Ben Li, algemeen directeur van de netwerkbedrijfseenheid bij Inspur, voegt toe:"Het huidige softwaregedefinieerde datacenter vereist flexibiliteit en schaalbaarheid om te voldoen aan de steeds veranderende behoeften van klantworkloads. Het innovatieve composable offload-framework van de Xilinx Alveo SN1000 SmartNIC-familie geeft Inspur de flexibiliteit om zich aan te passen aan veranderende klantbehoeften door snel aangepaste workloads te ontwikkelen en in te zetten.”

Gebaseerd op de Xilinx 16nm UltraScale+™-architectuur, wordt de SN1000-familie van SmartNIC's aangedreven door de low-latency Xilinx XCU26 FPGA en een 16-core Arm ^® verwerker. ​SN1000 SmartNIC's leveren dual-QSFP-poorten voor 10/25/100Gb/s connectiviteit met toonaangevende kleine pakketprestaties en een PCIe Gen 4-interconnect. Het eerste model in de familie is de SN1022, die wordt aangeboden in een vormfactor van volledige hoogte, halve lengte in een vermogensomhulling van 75 watt.

Video-analyseplatform richt zich op latentiegevoelige AI-video-inferentie

De tweede van Xilinx-datacenterproducten die wordt gelanceerd, is het smart world video-analyseplatform, samen met een ecosysteem van partneroplossingen die zijn gebouwd om de meest complexe en latentiegevoelige AI-video-inferentietoepassingen te versnellen.

Aangedreven door de Xilinx video-machine-learning streaming-server, levert het volledige applicatie-acceleratie en kan het meerdere neurale netwerken ondersteunen op een enkele Alveo-versnellerkaart met een deterministische sub-100 ms pijplijnlatentie. Xilinx zei dat het resultaat de laagste TCO (total cost of ownership) in de branche is voor veeleisende AI-videoanalysetoepassingen.

De partneroplossingen die bij de lancering beschikbaar zijn, zijn onder meer:

• Aupera:biedt kant-en-klare smart city- en slimme winkeloplossingen die Aupera's intelligente videoverwerking combineren met Alveo-versnellers.
• Mipsology:biedt een toolset voor eenvoudige migratie van bestaande AI-applicaties van GPU-gebaseerde architecturen naar het Alveo-platform, evenals plug-and-play, high-performance AI-inferentieversnelling.
• DeepAI:het leveren van AI-training aan de rand op Alveo-versnellers met tot 10x prestatie per kostenvoordeel in vergelijking met GPU-gebaseerde oplossingen.

Xilinx vertelde embedded.com dat de retailmarkt een belangrijk verticaal doelwit is voor dit productplatform, aangezien krimp door diefstal een groot probleem is in de sector.

Referentieontwerp voor elektronische financiële handel met lage latentie

Het bereiken van een latentie van minder dan een microseconde in algoritmische handel vergde traditioneel dure en tijdrovende hardware-ontwikkeling. Het Vitis-ontwikkelingsplatform bevat nu een referentieontwerp voor versnelde algoritmische handel (AAT) dat softwareontwikkelaars de mogelijkheid geeft om snel en kosteneffectief sub-microscond handelsprestaties te leveren zonder de noodzaak van aangepaste hardware-ontwikkeling.

AAT, geïmplementeerd op Alveo-versnellerkaarten, biedt een modulair ontwerp dat alle benodigde componenten bevat voor een end-to-end handelsoplossing met lage latentie. Elke module kan worden aangepast met behulp van C en C++ in het Vitis-platform om aan de specifieke behoeften van elk bedrijf te voldoen. Het AAT-referentieontwerp is vandaag gratis beschikbaar voor klanten met een Alveo-versnellerkaart.

App store met kant-en-klare videoanalyse- en financiële handelsoplossingen

Xilinx voltooit zijn assortiment en heeft ook een app store gelanceerd met kant-en-klare, versnelde applicaties die zich uitstrekken over slimme wereld AI-videoanalyse tot antiwitwaspraktijken en live videotranscodering. Ontwikkeld door Xilinx-ecosysteempartners, bieden de vooraf gebouwde applicaties in containers een gemakkelijke manier om versnelde applicaties in enkele minuten te evalueren, kopen en implementeren.