Ingesloten AI beheersen

De aantrekkingskracht van AI in embedded applicaties ligt voor de hand, bijvoorbeeld het gebruik van face-id om toegang tot machinebesturingen op een fabrieksvloer te autoriseren. Gezichtsherkenning, spraakbesturing, anomaliedetectie, met AI zijn er zoveel mogelijkheden. In deze blog gebruik ik face-id als voorbeeld. Zoveel gebruiksvriendelijker, intelligenter en robuuster dan traditionele mens-machine-interfaces en wachtwoorden. Om nog maar te zwijgen van het feit dat iedereen het doet. Hoe AI werkt, lijkt misschien magisch, maar wat het kan, wordt snel een minimale verwachting. Niemand wil producten transparant evalueren op basis van de technologie van gisteren.

De uitdaging

Er is een probleem voor een productbouwer. Op AI gebaseerde ontwikkeling is heel anders dan standaard ingebedde ontwikkeling. U schrijft geen software, althans niet voor de kernfunctie. Je moet een neuraal netwerk trainen om patronen (zoals afbeeldingen) te herkennen, net zoals je een kind op school zou trainen. Vervolgens moet u dat net optimaliseren voor de beperkte voetafdruk van uw embedded apparaat, om te voldoen aan de doelstellingen voor grootte en vermogen. Neurale netten zijn misschien geen conventionele code, maar het net en zijn berekeningen verbruiken nog steeds geheugen en verbruiken energie. Als embedded developer weet je hoe belangrijk het is om deze metrics zoveel mogelijk uit te persen. Hier kom ik in mijn volgende blog op terug. Laten we nu in ieder geval een deel van de werking van deze neurale netwerken begrijpen.

De basis

Ik wil je niet door een lange uitleg van neurale netwerken leiden; precies wat u moet doen om uw toepassing te laten werken. Een neuraal net is conceptueel een reeks lagen van "neuronen". Elk neuron leest twee (of meer) invoer van een vorige laag of de invoergegevens, past een berekening toe met behulp van getrainde gewichten en voert een resultaat door. Op basis van deze gewichten detecteert een laag objecten, die steeds complexer worden naarmate u door lagen beweegt, en uiteindelijk een complexe afbeelding bij de uitvoer herkent.

Het eerste slimme deel is dan het ontwerpen van het net - hoeveel lagen, verbindingen tussen de lagen enzovoort - het neurale netwerkalgoritme. Het tweede slimme deel is in training. Dit is een proces waarbij veel afbeeldingen over het net worden gehaald, met labels om te identificeren wat moet worden herkend. Deze runs bouwen de gewichtswaarden op die nodig zijn voor herkenning.

Als je ambitieus bent, kun je je eigen neurale netwerk helemaal opnieuw bouwen voor een van de standaardnetwerken zoals TensorFlow. Je zou ook kunnen beginnen met een open-source optie zoals deze voor face-id. Je kunt dit allemaal inbouwen in een app die op een laptop kan draaien, wat handig is voor klanten die nieuwe goedgekeurde gezichten willen registreren. Nu kun je beginnen met het trainen van je netwerk met een testset van goedgekeurde gezichten in meerdere poses.

Waarom doe je dit niet gewoon in de cloud?

Er zijn services die gezichtsherkenning online zullen doen - u hoeft niet in rommelige AI op uw apparaat te komen. Maak gewoon de foto, upload deze naar de cloud, de app stuurt een OK terug en uw product keurt de volgende stap goed.

Maar - al uw goedgekeurde medewerkers moeten hun foto's en andere referenties in de cloud hebben. Misschien niet zo'n geweldig idee voor veiligheid en privacy. Elke keer dat een werknemer toegang wil tot een machine, verbruikt u behoorlijk wat energie door de afbeelding naar de cloud te communiceren. En als uw internetverbinding uitvalt, kan niemand worden goedgekeurd totdat deze weer beschikbaar is. Door authenticatie rechtstreeks op het apparaat uit te voeren, blijft de privacy en veiligheid behouden, blijft het stroomverbruik laag en blijft het werken, zelfs als de netwerkverbinding is verbroken.

Volgende – uw getrainde netwerk insluiten

Nu je het AI-harde deel hebt gedaan, moet je het naar je apparaat downloaden. Dat is een interessante stap op zich, waarbij je zeker hulp van je AI-platform nodig hebt. Daar vertel ik meer over in mijn volgende blog. Bekijk ondertussen voor meer informatie "Deep learning voor de realtime ingebedde wereld."

Ariel Hershkovitz is CEVA's Senior Manager Customer Solutions for Software Development Tools. Ariel heeft meer dan 14 jaar multidisciplinaire ervaring in softwareontwikkeling, verificatie, integratie en implementatie van softwareleveringen, zowel in technische als leidinggevende functies. Hij is gepassioneerd door gebruikerservaringen, gebruiksgemak en innovatieve technologie. Zeer bedreven in het analyseren van complexe problemen en deze vereenvoudigen voor een snelle oplossing. Ariel heeft een B.Sc. in computerwetenschappen van de Ben-Gurion University en een MBA van de Bar-Ilan University.

Verwante inhoud:

• Machine learning toepassen in embedded systemen
• De uitdagingen en kansen voor machine learning in het IoT
• Trainingsbias in machine learning aanpakken
• Gebruik maken van FPGA's voor diepgaand leren
• Benchmarkscores benadrukken een breed scala aan machine learning-inferentieprestaties
• Leer overdragen voor het IoT
• Algoritmen voor kunstmatige intelligentie en uitdagingen voor autonome voertuigen

Abonneer u voor meer Embedded op de wekelijkse e-mailnieuwsbrief van Embedded.