CMU doorbraak: training van autonome drones met cross-modale gesimuleerde data

Om autonoom te vliegen, moeten drones begrijpen wat ze in de omgeving waarnemen en beslissens nemen op basis van die informatie. (Zie video hieronder.)

Een nieuwe methode ontwikkeld door onderzoekers van Carnegie Mellon University stelt drones in staat om perceptie en actie apart te leren.

De twee-fasen benadering overbrugt de "simulatie-naar-realiteit kloof", en creëert een manier om veilig drones die volledig getraind zijn op gesimuleerde data in te zetten in real-world parcoursnavigatie.

Rogerio Bonatti, een doctoraal student in de School of Computer Science's Robotics Institute, zegt: "Typisch faalen drones getraind op zelfs de beste fotorealistische gesimuleerde data in de echte wereld omdat de verlichting, kleuren en texturen nog te anders zijn om te vertalen.

"Onze perceptiemodule is getraind met twee modaliteiten om robuustheid te verhogen tegen omgevingsvariabiliteit."

De eerste modaliteit die helpt de perceptie van de drone te trainen is beeld. De onderzoekers gebruikten een fotorealistische simulator om een omgeving te creëren die de drone, een voetbalveld, en rode vierkante poorten die van de grond waren getild en willekeurig gepositioneerd om een parcours te creëren, omvatte.

Ze bouwden vervolgens een grote dataset van gesimuleerde beelden uit duizenden willekeurig gegenereerde drone-en-poort configuraties.

De tweede modaliteit die nodig is voor perceptie is het weten van de positie en oriëntatie van de poorten in de ruimte, wat de onderzoekers bereikten met behulp van de dataset van gesimuleerde beelden.

Het trainen van het model met meerdere modaliteiten versterkt een robuuste representatie van de ervaring van de drone, wat betekent dat het de essentie van het veld en de poorten op een manier kan begrijpen die van simulatie naar realiteit vertaalt.

Het comprimeren van afbeeldingen om minder pixels te hebben helpt dit proces. Leren van een laag-dimensionale representatie stelt het model in staat om door de visuele ruis in de echte wereld heen te kijken en de poorten te identificeren.

Met de perceptie geleerd, implementeren de onderzoekers de drone binnen de simulatie zodat het de controlebeleid kan leren – of hoe fysiek te bewegen.

In dit geval leert het welke snelheid toe te passen terwijl het de parcours navigeert en elke poort tegenkomt. Omdat het een gesimuleerde omgeving is, kan een programma de optimale traject van de drone berekenen voor implementatie.

Deze methode biedt een voordeel ten opzichte van handmatig gesuperviseerd leren met een expert-operator, aangezien real-world leren gevaarlijk, tijdrovend en duur kan zijn.

De drone leert de parcours navigeren door trainingsstappen te doorlopen gedicteerd door de onderzoekers. Bonatti zegt dat hij specifieke wendbaarheden en richtingen uitdaagt die de drone in de echte wereld nodig zal hebben.

Bonatti zegt: "Ik laat de drone naar links en rechts draaien in verschillende parcoursvormen, die moeilijker worden naarmate ik meer ruis toevoeg. De robot leert niet om door een specifiek parcours te racen.

"Eerder, door de gesimuleerde drone strategisch te sturen, leert het alle elementen en typen bewegingen om autonoom te racen."

Bonatti wil de huidige technologie drijven om de capaciteit van een mens om omgevingscues te interpreteren te benaderen.

Hij zegt: "Het meeste werk op autonoom drone racen tot nu toe heeft zich gericht op het engineeren van een systeem versterkt met extra sensoren en software met het enkele doel van snelheid.

"In plaats daarvan, wilden we een computationeel weefsel creëren, geïnspireerd door de functie van een menselijk brein, om visuele informatie te mappen naar de juiste controle-acties door een latente representatie."

Maar drone racen is slechts één mogelijkheid voor dit type leren. De methode van het scheiden van perceptie en controle kan toegepast worden op veel verschillende taken voor kunstmatige intelligentie zoals rijden of koken.

Terwijl dit model zich baseert op beelden en posities om perceptie te leren, kunnen andere modaliteiten zoals geluiden en vormen gebruikt worden voor inspanningen zoals het identificeren van auto's, wild of objecten.

Bijdragende onderzoekers aan dit werk zijn Carnegie Mellon's Sebastian Scherer, en Ratnesh Madaan, Vibhav Vineet en Ashish Kapoor van Microsoft Corporation.

Het papier, Learning Visuomotor Policies for Aerial Navigation Using Cross-Modal Representations, is geaccepteerd voor de International Conference on Intelligent Robots and Systems 2020.

De code van het papier is open-source en beschikbaar voor andere onderzoekers.