Xilinx SOM streeft naar bredere acceptatie van edge AI en embedded vision

Xilinx heeft een grote stap gezet om een ​​bredere marktacceptatie van edge artificial intelligence (AI) en met name embedded vision mogelijk te maken door de system on module (SOM) markt te betreden, compleet met vooraf gebouwde softwarestack en een app store met kant-en-klare vooraf gedefinieerde applicaties.

Het eerste product in de nieuwe portfolio van SOM's van het bedrijf is de Kria K26 SOM, specifiek gericht op vision AI-toepassingen in slimme steden en slimme fabrieken, samen met een kant-en-klare, goedkope ontwikkelingskit, de Kria KV260 AI vision beginnerskit. Het bedrijf zei dat het de toenemende complexiteit in vision-AI aanpakt, evenals uitdagingen voor het implementeren van AI aan de rand. Daarom is het geprijsd met de aantrekkingskracht op de massamarkt in gedachten, waarbij de starterkit online wordt verkocht voor $ 199, en de Kria K26 SOM voor $ 250 voor een commerciële versie, of $ 350 voor de industriële variant.

Xilinx zei dat de huidige visie op AI erg complex is, waarbij veel ontwikkelaars niet per se de expertise op hardwareniveau hebben. Dus door naar een hoger abstractieniveau te gaan, met vooraf gebouwde hardwareplatforms met industriestandaard softwarestacks plus een bibliotheek met apps, kunnen miljoenen softwareontwikkelaars toegang krijgen tot AI-mogelijkheden zonder dat ze expertise op chipniveau nodig hebben.

Dit maakt deel uit van de Kria-ontwikkelingservaring:een zelfvoorzienend pad bieden voor verkenning, ontwerp en uiteindelijk productie-implementatie via een uitgebreide reeks online bronnen. Zowel hobbyisten, makers als commerciële ontwikkelaars kunnen elke fase van de ontwerpcyclus versnellen met instructievideo's, trainingen en een enorm ecosysteem van providers die versnelde applicaties, ontwerpservices en meer aanbieden.

Hiertoe zei het bedrijf dat het zwaar heeft geïnvesteerd in zijn toolstromen om adaptive computing toegankelijker te maken voor AI- en softwareontwikkelaars zonder hardware-expertise. Het Kria SOM-portfolio tilt deze toegankelijkheid naar een hoger niveau door het hardware- en softwareplatform te koppelen aan productieklare vision-versnelde applicaties. Deze kant-en-klare applicaties elimineren al het FPGA-hardwareontwerpwerk en vereisen alleen softwareontwikkelaars om hun aangepaste AI-modellen en applicatiecode te integreren en optioneel de visiepijplijn aan te passen - met behulp van bekende ontwerpomgevingen, zoals TensorFlow, Pytorch of Café-frameworks, evenals C , C++, OpenCL en Python programmeertalen - mogelijk gemaakt door het Vitis uniforme softwareontwikkelingsplatform en bibliotheken.

De nieuwe Kria SOM's maken ook aanpassing en optimalisatie mogelijk voor embedded ontwikkelaars met ondersteuning voor standaard op Yocto gebaseerde PetaLinux en, voor de eerste keer ooit, kondigt Xilinx een komende samenwerking aan met Canonical om Ubuntu Linux-ondersteuning te bieden, de zeer populaire Linux-distributie die wordt gebruikt door AI ontwikkelaars. Dit biedt brede bekendheid met AI-ontwikkelaars en interoperabiliteit met bestaande applicaties. Klanten kunnen zich in beide omgevingen ontwikkelen en beide benaderingen van productie volgen. Beide omgevingen zijn vooraf gebouwd met een software-infrastructuur en handige hulpprogramma's.

"Voor smart vision-applicaties willen ontwikkelaars en innovators de Ubuntu-ervaring die ze gewend zijn van cloud tot desktop", zegt Thibaut Rouffineau, vice-president marketing, Canonical/Ubuntu. "Samen met Xilinx zijn we verheugd om Kria SOM-klanten te kunnen voorzien van kant-en-klare productiviteit, een soepele overgang van ontwikkeling naar productie en gegarandeerde stabiliteit en veiligheid in het veld."

Bespaar 9 maanden ontwikkeltijd voor het toevoegen van AI

De introductie van kant-en-klare modules en apps maakt deel uit van een groeiende trend om het mysterie van het inbedden van edge-AI en vision-AI weg te nemen en toegankelijk te maken voor bredere eindmarkten.

Volgens Jeff Bier, analist van embedded computer vision-technologie, heeft niet elk bedrijf een afdeling voor machine learning of computer vision, wat resulteert in een grote kloof in kennis en vaardigheden als het gaat om het implementeren van edge AI. Bier, oprichter van de Edge AI and Vision Alliance die volgende maand de embedded vision-top 2021 houdt, legde in een recente briefing met embedded.com uit dat steeds meer leveranciers ernaar streven technologie toegankelijk te maken.

Hij zei bijvoorbeeld dat niet veel bedrijven de middelen of de vaardigheden hebben om een ​​diep neuraal netwerk (DNN) te gebruiken op basis van de gegevens die ze van de camera oppikken. Daarom, zei hij, bieden veel halfgeleiderbedrijven ook meer softwarereferentieontwerpen aan.

In een persconferentie tijdens het lanceringsevenement voor de nieuwe SOM's, zei Chetan Khona, directeur van industrieel, visie en gezondheidszorg bij Xilinx:"Productieklare systemen zijn belangrijk voor snelle implementatie [van embedded vision AI]. Klanten kunnen tot negen maanden ontwikkelingstijd besparen door een modulegebaseerd ontwerp te gebruiken in plaats van een apparaatgebaseerd ontwerp.” Hij voegde eraan toe dat gebruikers met de starterkit binnen een uur aan de slag kunnen, "zonder dat FPGA-ervaring nodig is." In dit opzicht sluit de gebruiker de camera, kabels en monitor aan, plaatst de geprogrammeerde microSD-kaart en zet het bord aan; dan kan de gebruiker een versnelde applicatie naar keuze selecteren en die versnelde applicatie uitvoeren.

Een senior Xilinx executive, Kirk Saban, zei:"Xilinx's intrede in de snelgroeiende SOM-markt bouwt voort op onze evolutie voorbij de chip-level business die begon met onze Alveo boards voor het datacenter en gaat verder met de introductie van complete board-level oplossingen voor ingebedde systemen. Saban, vice-president product- en platformmarketing bij Xilinx, voegde toe:"Het Kria SOM-portfolio breidt ons marktbereik uit naar meer edge-applicaties en zal de kracht van aanpasbare hardware toegankelijk maken voor miljoenen software- en AI-ontwikkelaars."

De Kria K26 SOM is gebouwd op de Zynq UltraScale+ MPSoC-architectuur, met een quad-core Arm Cortex A53-processor, meer dan 250.000 logische cellen en een H.264/265-videocodec. De SOM beschikt ook over 4 GB DDR4-geheugen en 245 IO's, waardoor hij kan worden aangepast aan vrijwel elke sensor of interface. Xilinx zei dat met 1.4 tera-ops van AI-computing, de Kria K26 SOM ontwikkelaars in staat stelt om vision AI-applicaties te maken die meer dan 3x hogere prestaties bieden bij lagere latentie en kracht in vergelijking met GPU-gebaseerde SOM's, van cruciaal belang voor smart vision-applicaties zoals beveiliging, verkeer en stadscamera's, winkelanalyses, machinevisie en vision-geleide robotica.

Als onderdeel van de nieuwe benadering van het aanbieden van versnelde applicaties voor op software gebaseerd ontwerp, kondigde Xilinx ook de eerste embedded app store voor edge-applicaties aan. De Xilinx app store, die verder gaat dan de Alveo-catalogus van apps voor datacenters, biedt klanten nu een brede selectie apps voor Kria SOM's van Xilinx en zijn ecosysteempartners. Khona legt verder uit:“We bouwen de bibliotheek met applicaties op. De app store is nog niet geautomatiseerd, dus je moet contact opnemen met de IP-leverancier [als deze van een ecosysteempartner is].' De apps die rechtstreeks van Xilinx beschikbaar zijn, zijn open source-versnelde applicaties, die gratis worden aangeboden, en variëren van slimme camera-tracking en gezichtsdetectie tot natuurlijke taalverwerking met slimme visie.

Xilinx benadrukte enkele vroege applicaties die de Kria SOM al hebben geïmplementeerd. Dit geldt ook voor Kutleng Engineering Technologies, die trackingcamera's kon inzetten voor de veiligheid van dieren in het wild in Zuid-Afrika. Kutleng zei dat het de lancering van verschillende nieuwe producten binnen slechts twee maanden kon versnellen, met behulp van vision-functies die beschikbaar zijn via de versnelde applicaties van Xilinx. Daarnaast implementeerde Optimized Solutions Limited in India AI-gebaseerde visie voor detectie, herkenning en identificatie van meerdere objecten voor een smart city-applicatie met behulp van de Kria SOM.