Waar Edge en Endpoint AI de cloud ontmoeten

De COVID-19-pandemie heeft nieuwe gezondheids- en veiligheidseisen gecreëerd die de manier waarop mensen met elkaar en met hun directe omgeving omgaan hebben veranderd. De torenhoge vraag naar contactloze ervaringen heeft op zijn beurt de overgang naar AI-aangedreven systemen en spraakgestuurde bediening en andere contactloze gebruikersinterfaces versneld, waardoor intelligentie steeds dichter bij het eindpunt komt.

Een van de belangrijkste trends in de elektronica-industrie van vandaag is de integratie van AI in embedded apparaten, met name AI die sensorgegevens zoals afbeeldingen interpreteert en machine learning voor alternatieve gebruikersinterfaces zoals spraak.

Embedded Artificial Intelligence of Things (AIoT) is de sleutel tot het ontsluiten van de naadloze, handsfree ervaring die gebruikers zal helpen veilig te blijven in een post-Covid-omgeving. Overweeg de mogelijkheden:slimme winkelwagentjes waarmee u uw goederen kunt scannen terwijl u ze in uw winkelwagentje plaatst en mobiele betalingen kunt gebruiken om de kassa te omzeilen, of intelligente videoconferentiesystemen die tijdens vergaderingen automatisch verschillende sprekers herkennen en de focus op een meer 'persoonlijke' ervaring voor teams op afstand.

Waarom is het nu tijd voor een embedded AIoT-doorbraak?

AIoT gaat verhuizen

Aanvankelijk zat AI in de cloud waar het profiteerde van schaalbaarheidsniveaus voor rekenkracht, geheugen en opslag die de edge en het eindpunt gewoon niet konden evenaren. We zien echter steeds vaker dat niet alleen machine learning-trainingsalgoritmen naar de rand van het netwerk gaan, maar ook een verschuiving van deep learning-training naar deep learning-inferentie.

Waar 'training' meestal in de netwerkkern zit, leeft 'inferentie' nu op het eindpunt waar ontwikkelaars in realtime toegang hebben tot AI-analyses en vervolgens de apparaatprestaties kunnen optimaliseren, in plaats van de apparaat-naar-cloud-naar-apparaat-lus te doorzoeken.

Tegenwoordig loopt het grootste deel van het gevolgtrekkingsproces op CPU-niveau. Dit verschuift echter naar een chiparchitectuur die meer AI-versnelling op de chip integreert. Efficiënte AI-inferentie vereist efficiënte eindpunten die gegevens in realtime kunnen afleiden, voorbewerken en filteren. Door AI op chipniveau in te bedden, neurale verwerking en hardwareversnellers te integreren en embedded AI-chips te koppelen aan speciale processors die speciaal zijn ontworpen voor deep learning, krijgen ontwikkelaars een trifecta van de prestaties, bandbreedte en realtime responsiviteit die nodig zijn voor volgende- generatie verbonden systemen.

Figuur 1 (Bron:Renesas Electronics)

Een AIoT-toekomst:thuis en op het werk

Bovendien opent een convergentie van ontwikkelingen rond AI-versnellers, adaptieve en voorspellende controle en hardware en software voor spraak en zicht nieuwe gebruikersinterfacemogelijkheden voor een breed scala aan slimme apparaten.

Zo wordt spraakactivering in snel tempo de geprefereerde gebruikersinterface voor altijd-aan verbonden systemen voor zowel de industriële als de consumentenmarkt. We hebben de toegankelijkheidsvoordelen gezien die op spraakbesturing gebaseerde systemen bieden voor gebruikers met visuele of andere fysieke handicaps, waarbij gesproken commando's worden gebruikt om taken te activeren en uit te voeren. Met de stijgende vraag naar contactloze bediening als gezondheids- en veiligheidsmaatregel in gedeelde ruimtes zoals keukens, werkruimten en fabrieksvloeren, zal spraakherkenning - in combinatie met een verscheidenheid aan draadloze connectiviteitsopties - naadloze, contactloze ervaringen in huis en werkruimte brengen .

Multimodale architecturen bieden een ander pad voor AIoT. Het gebruik van meerdere invoerinformatiestromen verbetert de veiligheid en het gebruiksgemak van op AI gebaseerde systemen. Een combinatie van stem + visieverwerking is bijvoorbeeld bijzonder geschikt voor handsfree AI-gebaseerde vision-systemen. Spraakherkenning activeert object- en gezichtsherkenning voor kritieke, op visie gebaseerde taken voor toepassingen zoals slimme bewaking of handsfree videoconferentiesystemen. Vision AI-herkenning springt vervolgens in om het gedrag van de operator te volgen, bewerkingen te controleren of fout- of risicodetectie te beheren.

Op fabrieks- en magazijnvloeren drijft multimodale AI collaboratieve robots - of CoBots - aan als onderdeel van de technologiegroepering die dient als de vijf zintuigen waarmee CoBots veilig taken zij aan zij met hun menselijke tegenhangers kunnen uitvoeren. Met spraak- en gebarenherkenning kunnen de twee groepen communiceren in hun gedeelde werkruimte.

Wat is er aan de horizon?

Volgens IDC Research zullen er tegen 2025 wereldwijd 55 miljard verbonden apparaten zijn die 73 zettabytes aan gegevens genereren, en edge AI-chips zullen de cloud AI-chips overtreffen, aangezien deep learning-inferentie zich blijft verplaatsen naar de edge en device-eindpunten. Deze geïntegreerde AI zal de basis vormen die een complexe combinatie van 'sense'-technologieën aandrijft om slimme toepassingen te creëren met meer natuurlijke, 'menselijke' communicatie en interactie.