AI voorspelt hoe snel computerchips code uitvoeren

• De nieuwe machine learning tool voorspelt hoe lang een bepaalde computerchip nodig heeft om specifieke code uit te voeren.
• Het is nauwkeuriger dan Intels eigen voorspellingsmodel.

Het bepalen van het aantal klokcycli dat een processor nodig heeft om een ​​blok assemblage-instructies in een stabiele toestand uit te voeren, is cruciaal voor zowel prestatie-ingenieurs als compilerontwerpers.

Het ontwikkelen van een analytisch model om dit te doen is een uiterst gecompliceerde taak, vooral in moderne processorarchitecturen waar de taak foutgevoeliger wordt en voor elke processorgeneratie helemaal opnieuw moet worden uitgevoerd.

Nu hebben MIT-onderzoekers een machine learning-tool gebouwd die dit proces automatiseert, waardoor het sneller, gemakkelijker en nauwkeuriger wordt dan de modernste handgeschreven tools die momenteel worden gebruikt in statische machinecode-analysers en compiler-backends.

Ze beschreven deze nieuwe machine learning-pijplijn in drie conferentiepapers:

1. Ithemal:een neuraal netwerkmodel wordt getraind op basisblokken van gelabelde gegevens (blokken met computerinstructies). Het voorspelt vervolgens hoe lang een bepaalde microprocessor nodig heeft om onverwerkte basisblokken uit te voeren.

2. BHive:om Ithemal te valideren, hebben onderzoekers een benchmarksuite gemaakt van basisblokken uit verschillende velden, zoals cryptografie, compilers, machine learning en grafische afbeeldingen. Ze verzamelden meer dan 300.000 blokken en stopten ze in BHive, een open-source dataset.

Uit de tests bleek dat Ithemal in staat was te voorspellen hoe snel Intel-processors code nauwkeuriger zouden uitvoeren dan het door Intel zelf ontwikkelde prestatiemodel.

3. Vemal:onderzoekers hebben een nieuwe methode ontwikkeld om automatisch een algoritme te maken met de naam Vemal dat specifieke code omzet in vectoren, zodat deze kan worden aangeklaagd voor parallelle computing.

Vemal presteert beter dan handgemaakte vectorisatie-algoritmen die worden gebruikt in industriële compilers, waaronder de LLVM-compiler.

Gegevens gebruiken in plaats van Chips documentatie

Intel biedt gedetailleerde documentatie om de architectuur van zijn chip uit te leggen. Maar alleen bepaalde deskundige ontwikkelaars maken prestatiemodellen om de uitvoering van code op die architecturen te simuleren. En aangezien deze chips eigendom zijn, laat Intel bepaalde informatie weg in documentatie.

Wat onderzoekers deden, is dat ze het gemiddelde aantal cycli hebben geklokt dat een chip nodig heeft om basisblokinstructies uit te voeren (zoals een specifiek commando uitvoeren, afsluiten en opnieuw opstarten), met behulp van een neuraal netwerk.

Bron:MIT 

Het neurale netwerk profileert automatisch miljoenen blokken en leert geleidelijk hoe verschillende processorarchitecturen code uitvoeren. In eenvoudige bewoordingen gebruikten onderzoekers een kunstmatige-intelligentiemodel om gegevens te analyseren zonder zich te concentreren op de documentatie van de chip.

Ithemal neemt ongeziene basisblokken als invoer en genereert een enkel getal dat suggereert hoe lang een bepaalde processor nodig heeft om die code uit te voeren.

In het tweede artikel toonden onderzoekers aan dat Ithemal beter presteert dan conventionele handgemaakte modellen. Terwijl het foutenpercentage van Intel's voorspellingsmodel 20% was, was het foutenpercentage van Ithemal 10% op verschillende basisblokken in verschillende domeinen.

Het model kan eenvoudig worden getraind op nieuwe architecturen:verzamel gewoon meer gegevens van die chip, voer het door de profiler en gebruik die informatie om Ithemal te trainen. Dat is het; het model is nu klaar om de prestaties te schatten. Het kan prestatiesnelheden leren voor elke processorarchitectuur, inclusief de nieuwe Tensor Processing Unit van Google.

Lezen: Facebook bouwt "SapFix":een AI-tool die code debugt

Onderzoekers weten echter nog steeds niet hoe dit model voorspellingen doet, aangezien veel van machine learning een zwarte doos is. In de volgende studie zullen ze proberen technieken te verkennen die deze modellen kunnen interpreteren.