Nieuwe AI-versnellingsmodules verbeteren edge-prestaties

Hailo, chipmaker voor kunstmatige intelligentie (AI), heeft zijn M.2 en Mini PCIe high-performance AI-versnellingsmodules gelanceerd voor het versterken van edge-apparaten. Op basis van de Hailo-8-processor kunnen de modules worden aangesloten op een verscheidenheid aan edge-apparaten, waardoor AI-mogelijkheden kunnen worden ingezet in slimme steden, slimme winkels, industrie 4.0 en slimme huizen.

De modules stellen klanten in staat om hoogwaardige AI-mogelijkheden te integreren in edge-apparaten, wat een geoptimaliseerde oplossing biedt voor het versnellen van een reeks op deep learning gebaseerde applicaties met een hoge efficiëntie - het optimaliseren van de time-to-market met een standaard vormfactor.

Hailo's AI-versnellingsmodules kunnen naadloos worden geïntegreerd in standaardframeworks, zoals TensorFlow en ONNX, die beide worden ondersteund door Hailo's dataflow-compiler. Klanten kunnen hun neurale netwerken (NN's) snel overzetten naar de Hailo-8-processor.

De plug-in-oplossingen komen op een moment dat industrieën steeds meer edge-apparaten gebruiken die zowel goed presteren als kosteneffectief zijn. Er is bijvoorbeeld veel vraag naar ventilatorloze AI-edgeboxen omdat ze het mogelijk maken om veel camera's of sensoren aan te sluiten op een enkel intelligent verwerkingsapparaat bij gebruik buitenshuis. Hailo's modules - met hun Hailo-8 AI-processor die 26 Tera-Operations Per Second (TOPS) levert en een energie-efficiëntie van 3 TOPS/W - kunnen worden aangesloten op elk bestaand edge-apparaat met de juiste M.2- of Mini PCIe-sockets, wat prestaties levert terwijl de latentie wordt verminderd en de privacy wordt verbeterd.

Een vergelijking tussen de Hailo-8 gemiddelde frames per seconde (FPS) met concurrenten over meerdere standaard NN-benchmarks (gebaseerd op de laatst gepubliceerde cijfers) toont aan dat Hailo's AI-modules een FPS-snelheid behalen die 26x hoger is dan Intel's Myriad-X-modules en 13x hoger dan De edge TPU-modules van Google.

Volgens Orr Danon, CEO van Hailo:"Fabrikanten in alle sectoren begrijpen hoe cruciaal het is om AI-mogelijkheden te integreren in hun edge-apparaten. Simpel gezegd, oplossingen zonder AI kunnen niet langer concurreren. Onze nieuwe Hailo-8 M.2- en Mini PCIe-modules zullen bedrijven over de hele wereld in staat stellen om nieuwe krachtige, kostenefficiënte, innovatieve op AI gebaseerde producten te creëren met een korte time-to-market - terwijl ze binnen de thermische beperkingen van de systemen blijven. De hoge efficiëntie en topprestaties van Hailo's modules zijn een echte gamechanger voor de edge-markt."

De Hailo-8 M.2-module is al geïntegreerd in de volgende generatie Foxconn's BOXiedge - een 24-core miniserver die slechts 30 watt vermogen nodig heeft om te werken - zonder dat de PCB opnieuw hoeft te worden ontworpen. De oplossing biedt een goede energie-efficiëntie voor stand-alone AI-inferentieknooppunten, wat gunstig is voor toepassingen zoals slimme steden, slimme detailhandel, industrie 4.0 en slimme medische apparatuur.

"De integratie van Hailo's M.2 AI-module in onze BOXiedge zorgt voor een revolutie in onze next-generation edge computing-apparaten en stelt ons in staat om onze missie te blijven ondersteunen om innovatieve, efficiënte en concurrerende producten voor de elektronica-industrie te creëren", aldus Gene Liu, VP van de halfgeleidersubgroep bij Foxconn Technology Group. “Hailo's M.2 en Mini PCIe-modules, samen met de hoogwaardige Hailo-8 AI-chip, zullen veel snel evoluerende industrieën in staat stellen om in zeer korte tijd geavanceerde technologieën toe te passen, wat een nieuwe generatie van high-performance, low power, en slimmere op AI gebaseerde oplossingen.”