Simulatie-gedreven pipelines passen trainingsdata aan voor handige robots

Motion Design INSIDER

PhysicsGen kan een paar tientallen virtuele realiteit demonstraties vermenigvuldigen in bijna 3.000 simulaties per machine voor mechanische compagnieën zoals robotarmen en handen. (Afbeelding: Ontworpen door Alex Shipps/MIT CSAIL, met foto's van de onderzoekers)

De uitdaging: schaarsheid van robot trainingsdata

Wanneer ChatGPT of Gemini wat lijkt op een expert antwoord geven op je brandende vragen, realiseer je je misschien niet hoeveel informatie het vertrouwt om die reply te geven. Zoals andere populaire generatieve kunstmatige intelligentie (AI) modellen, vertrouwen deze chatbots op ruggengraat systemen genaamd foundation models die getraind worden op miljarden, of zelfs biljoenen, datapunten.

Op een vergelijkbare manier hopen ingenieurs foundation models te bouwen die een reeks robots trainen op nieuwe vaardigheden zoals oppakken, verplaatsen en neerleggen van objecten in plekken zoals huizen en fabrieken. Het probleem is dat het moeilijk is om instructieve data te verzamelen en over te dragen over robotische systemen. Je kunt je systeem leren door de hardware stap-voor-stap te teleopereren met technologie zoals virtuele realiteit (VR), maar dat kan tijdrovend zijn. Trainen op video's van het internet is minder instructief, aangezien de clips geen stap-voor-stap, gespecialiseerde taakwalkthrough bieden voor specifieke robots.

PhysicsGen: simulatie-gedreven data augmentatie

Een simulatie-gedreven benadering genaamd "PhysicsGen" van MIT's Computer Science and Artificial Intelligence Laboratory (CSAIL) en het Robotics and AI Institute past robot trainingsdata aan om robots te helpen de meest efficiënte bewegingen voor een taak te vinden. Het systeem kan een paar tientallen VR demonstraties vermenigvuldigen in bijna 3.000 simulaties per machine. Deze hoge-kwaliteit instructies worden dan gemapt naar de precieze configuraties van mechanische compagnieën zoals robotarmen en handen.

PhysicsGen creëert data die generaliseren naar specifieke robots en condities via een drie-stap proces. Eerst volgt een VR-headset hoe mensen objecten zoals blokken manipuleren met hun handen. Deze interacties worden tegelijkertijd in een 3D fysieke simulator gemapt, wat de sleutelpunten van onze handen visualiseert als kleine ballen die onze gebaren spiegelen. Zum voorbeeld, als je een speelgoed omkeerde, zou je 3D-vormen zien die verschillende delen van je handen vertegenwoordigen een virtuele versie van dat object roteren.

De pipeline mapt deze punten dan naar een 3D-model van de opstelling van een specifieke machine (zoals een robotarm), ze verplaatsend naar de precieze "gewrichten" waar een systeem draait en kantelt. Ten slotte gebruikt PhysicsGen trajectoptimalisatie — essentieel het simuleren van de meest efficiënte bewegingen om een taak te voltooien — zodat de robot de beste manieren kent om dingen te doen zoals een doos herschikken.

Elke simulatie is een gedetailleerd trainingsdatapunt dat een robot door potentiele manieren loopt om objecten te hanteren. Wanneer geïmplementeerd in een policy (het actieplan dat de robot volgt), heeft de machine een verscheidenheid aan manieren om een taak aan te pakken en kan het verschillende bewegingen uitproberen als er een niet werkt.

"We creëeren robot-specifieke data zonder dat mensen gespecialiseerde demonstraties voor elke machine hoeven te her-opnemen," aldus Lujie Yang, een MIT Ph.D. student in electrical engineering and computer science en CSAIL affiliate die de hoofdauteur is van een nieuwe paper die het project introduceert. "We schalen de data op op een autonoom en efficiënte manier, wat taakinstructies nuttig maakt voor een breder bereik machines."

Resultaten: 60% verbetering in nauwkeurigheid

Het genereren van zoveel instructieve trajecten voor robots kan uiteindelijk ingenieurs helpen een massale dataset te bouwen om machines zoals robotarmen en handige handen te sturen. Zum voorbeeld, de pipeline kan twee robotarmen helpen samenwerken aan het oppakken van magazijnitems en ze in de juiste dozen voor leveringen plaatsen. Het systeem kan ook twee robots begeleiden om samen te werken in een huishouding aan taken zoals kopjes wegzetten.

PhysicsGen's potentieel strekt zich ook uit tot het converteren van data ontworpen voor oudere robots of verschillende omgevingen in nuttige instructies voor nieuwe machines. "Ondanks dat ze verzameld zijn voor een specifiek type robot, kunnen we deze eerdere datasets herleven om ze algemeen nuttiger te maken," aldus Yang. PhysicsGen transformeerde slechts 24 menselijke demonstraties in duizenden gesimuleerde, wat zowel digitale als realworld robots hielp objecten te reorienteren.

Yang en haar collega's testten hun pipeline eerst in een virtueel experiment waar een zwevende robothand een blok moest roteren in een doelpositie. De digitale robot voerde de taak uit met een nauwkeurigheid van 81 procent door te trainen op PhysicsGen's massale dataset, een 60 procent verbetering ten opzichte van een baseline die alleen leerde van menselijke demonstraties.

De onderzoekers vonden ook dat PhysicsGen kon verbeteren hoe virtuele robotarmen samenwerken om objecten te manipuleren. Hun systeem creëerde extra trainingsdata die twee paren robots hielp taken tot 30 procent vaker met succes te volbrengen dan een puur menselijk-geleerde baseline.

In een experiment met een paar realworld robotarmen, observeerden de onderzoekers vergelijkbare verbeteringen toen de machines samenwerkten om een grote doos in zijn aangewezen positie om te keren. Toen de robotten afweek van de beoogde traject of het object verkeerd handelden, konden ze mid-taak herstellen door alternatieve trajecten uit hun bibliotheek van instructieve data te refereren.

Senior auteur Russ Tedrake, die de Toyota Professor of Electrical Engineering and Computer Science, Aeronautics and Astronautics, en Mechanical Engineering aan MIT is, zei dat deze imitatie-geguide data generatie techniek de sterktes van menselijke demonstratie combineert met de kracht van robot motion planning algoritmes.

"Zelfs een enkele demonstratie van een mens kan het motion planning probleem veel makkelijker maken," aldus Tedrake, die ook senior vice president is van large behavior models bij het Toyota Research Institute en CSAIL principal investigator. "In de toekomst kunnen foundation models misschien in staat zijn om deze informatie te leveren, en dit type data generatie techniek zal een type post-training recept voor dat model bieden."

Toekomst: nieuwe taken leren zonder demonstraties

Binnenkort kan PhysicsGen uitgebreid worden naar een nieuwe grens: het diversificeren van de taken die een machine kan uitvoeren. "We willen PhysicsGen gebruiken om een robot te leren water te gieten wanneer het alleen getraind is om afwas weg te zetten, Zum voorbeeld," zegt Yang. "Onze pipeline genereert niet alleen dynamisch haalbare bewegingen voor bekende taken; het heeft ook het potentieel om een diverse bibliotheek van fysieke interacties te creëren die we geloven kunnen dienen als bouwstenen voor het volbrengen van volledig nieuwe taken die een mens niet gedemonstreerd heeft."

Het creëren van veel breed toepasbare trainingsdata kan uiteindelijk helpen een foundation model voor robots te bouwen, hoewel MIT onderzoekers waarschuwen dat dit een enigszins ver af gelegen doel is. Het CSAIL-geleide team onderzoekt hoe PhysicsGen vast, ongestructureerde bronnen — zoals internetvideo's — kan benutten als zaden voor simulatie. Het doel: alledaagse visuele inhoud omzetten in rijke, robot-klaar data die machines taken kan leren uitvoeren die niemand expliciet hen liet zien.

Yang en haar collega's streven er ook naar PhysicsGen nog nuttiger te maken voor robots met diverse vormen en configuraties in de toekomst. Om dat te laten gebeuren, plannen ze datasets te benutten met demonstraties van echte robots, vastlegend hoe robotgewrichten bewegen in plaats van menselijke.

De onderzoekers plannen ook reinforcement learning te incorporeren, waar een AI-systeem leert door trial and error, om PhysicsGen zijn dataset uit te breiden voorbij menselijk-geleverde voorbeelden. Ze kunnen hun pipeline augmenteren met geavanceerde perceptietechnieken om een robot te helpen hun omgeving visueel te perceperen en te interpreteren, wat de machine in staat stelt om de complexiteiten van de fysieke wereld te analyseren en aan te passen.

Voor nu toont PhysicsGen hoe AI ons kan helpen verschillende robots leren objecten binnen dezelfde categorie te manipuleren, met name starre. De pipeline kan binnenkort robots helpen de beste manieren te vinden om zachte items (zoals fruit) en deformeerbare (zoals klei) te hanteren, maar die interacties zijn nog niet gemakkelijk te simuleren.

Bron