Robuuste AI-systemen bouwen: Foutbestendige algoritmen voor de industrie

Storingen in machinevision-camera's, ongekalibreerde sensoren of onvoorspelbare schaduwen kunnen leiden tot potentiël kostbare en gevaarlijke fouten in industriële AI-systemen. Onderzoekers ontwikkelen echter foutbestendige algoritmen en eenvoudige maatregelen om de kans op fouten te verminderen.

Industriële toepassingen voor kunstmatige intelligentie

Er zijn talloze industriële toepassingen voor AI, zoals robotica-platforms, materiaalafhandeling, verpakking, machinetending, assemblage, inspectie en BAS (gebouwautomatiseringssystemen). Specifiekere voorbeelden zijn drone- en zwermtechnologie voor sorteren, verplaatsen en transporteren van items of het detecteren van afwijkingen in productieprocessen.

AI is een kritiek, maar vaak vergeten aspect van industriële automatisering geworden, afhankelijk van machinevision, robotarmen, remote sensing en procesbeheersing.

AI-tools zijn echter geen simpele black box waarin data als input wordt gegeven en omgezet in nauwkeurige output. Soms is de output foutief, en dat is een bron van zorg.

Typen fouten in industriële toepassingen

Computers doen wat ze worden verteld, dus een mens zit aan de basis van elke fout. Het kan een ontwerpfout, een algoritmefout, een engineeringfout of slechte data zijn, maar er zal altijd een mens aan de basis zitten.

Dit geldt ook voor AI, inclusief industriële AI. Fouten binnen industriële AI kunnen in twee categorieën vallen: algoritmische bias en machinebias.

Algoritmische bias betreft fouten die zowel herhaalbaar als systeemmatig zijn. Zulke fouten kunnen zich op verschillende manieren manifesteren: inherente fout in de logica van het algoritme, onverwacht gebruik van de algoritme-output, of problemen met de data die aan het AI-systeem wordt gevoerd.

Machinebias treedt op wanneer een beperkte dataset wordt gebruikt om het systeem te trainen, wat leidt tot foutieve output.

Het belang van AI-fouten onder controle te houden

Als voorbeeld van algoritmische bias: overweeg een AI-geïmplementeerd machinevision-systeem voor geautomatiseerde kwaliteitscontrole. Zo'n toepassing is sterk afhankelijk van nauwkeurige metingen die als data aan de AI worden geleverd, om te bepalen of een onderdeel binnen toleranties valt. Als onnauwkeurige metingen aan de AI worden gegeven, resulteert dit in foutieve labelering van onderdelen.

De algoritmes achter de machinevision-AI kunnen 100% correct zijn, maar slechte data betekent slechte output. Acceptabele onderdelen kunnen worden afgekeurd, terwijl slechte-kwaliteit onderdelen naar klanten worden gestuurd. Dit leidt tot onnodige kosten en downtime terwijl de bron van het probleem wordt opgespoord.

Sommige AI-systemen vereisen training voordat ze in een specifieke omgeving of toepassing kunnen worden gebruikt. In dergelijke gevallen is de trainingsdata die aan het systeem wordt gevoerd, van cruciaal belang. Als een systeem bijvoorbeeld training ontvangt die beperkt is tot omstandigheden in een verlichte omgeving, zullen er problemen ontstaan wanneer het systeem moet presteren zonder licht.

AI foutbestendig maken (AI trainen)

Omdat er een menselijk element achter AI en machine learning zit, kan het niet volledig foutbestendig worden gemaakt. Er zijn echter manieren om fouten in AI-systemen te minimaliseren. Een voorbeeld is CARRL (Certified Adversarial Robustness for Deep Reinforcement Learning), een deep-learning algoritme ontwikkeld aan MIT, bedoeld om autonome systemen te helpen door een mate van scepticisme aan te moedigen over de data die in rekening wordt gebracht, zoals ruis in de data en vijandelijke pogingen om het systeem te verwarren.

Carnegie Mellon werkt ook aan een AI-algoritme voor deep learning modellen. RATT (Randomly Assign, Train and Track) genaamd, gebruikt deze benadering onge-labelde en ruisende trainingsdata om een bovengrens te bepalen voor het echte foutenrisico. Deze bovengrens kan dan bepalen hoe goed een AI-model zich aanpast aan nieuwe inputdata. Daarnaast onderzoeken onderzoekers van Princeton algoritmes die een AI-systeem in staat stellen effectief te leren wanneer er fouten in de trainingsdata zitten.

Er zijn ook standaarden in ontwikkeling die van invloed zullen zijn op foutbestendigheidsinspanningen. NIST (National Institute of Standards and Technology) draagt actief bij aan AI-standaarden die zich richten op het evalueren van de betrouwbaarheid van AI-technologie. NIST heeft ook een aanpak voorgesteld om het risico op bias in AI-systemen te verminderen.

De Amerikaanse CISA (Cybersecurity and Infrastructure Security Agency) kijkt al naar standaarden voor het screenen van AI-algoritmen en dataverzameling, zoals onthuld werd tijdens een paneel in 2020 getiteld "Genius Machines". Deze inspanning, samen met die van NIST, benadrukt verantwoordelijkheid.

Fouten in AI-systemen aanpakken

Hoewel het foutbestendig maken van de AI-systemen waar u voor verantwoordelijk bent misschien niet mogelijk is vanwege het menselijke element, zijn er zeker manieren om de kans op fouten te minimaliseren.

Als u vermoedt dat fouten afkomstig zijn van uw AI-systeem, blaam dan niet automatisch het algoritme; bestudeer de fouten om een patroon te ontdekken. Als het bijvoorbeeld een autonom bin-picking robot is dat fouten maakt, kijk dan of er iets gemeenschappelijk is aan de foutief gesorteerde items of of er veranderingen in de omgeving van de robot zijn (verlichting, schaduwen, etc.) die de prestaties kunnen beïnvloeden. Er kan ook een probleem zijn met een vuile camera-lens in het machinevision-gedeelte van het systeem, zoals die in autonome mobiele robots.

Een harde regel in programmeren is dat slechte input altijd leidt tot slechte output. De eerste stap in het minimaliseren van fouten gegenereerd door een industriëel AI-systeem is ervoor te zorgen dat de data zo nauwkeurig mogelijk is, beginnend bij de sensoren. De sensoren die inputdata leveren aan AI-systemen moeten regelmatig gekalibreerd worden.

Hulpmiddelen binnen het AI-systeem die gebruikers in staat stellen acceptabele bereiken voor data in te stellen, moeten worden geïmplementeerd na zorgvuldige overweging van een acceptabel bereik: te strikt, en de AI levert weinig waarde; te los, en het genereert veel te veel fouten. En onthoud, deze waarden kunnen worden aangepast.

Ook, zoals eerder aangehaald, houd camera's schoon. Hoewel machinevision-systemen ontworpen zijn om robuust te zijn in diverse omstandigheden, betekent dat niet dat ze nog goed presteren wanneer het zicht wordt bemoeilijkt door een vuile lens. Hetzelfde geldt voor andere industriële sensoren wiens nauwkeurigheid kan worden aangetast door opbouw van scaling, blootstelling aan corrosieve omgevingen, mechanische problemen of veroudering.

AI wordt breed gebruikt in de industriële sector voor alles van procesbeheersing tot kwaliteitsinspecties. En vanwege het menselijke factor zijn deze AI-systemen ook vatbaar voor fouten. Foutbestendige algoritmes worden ontwikkeld, maar deze methoden zijn nog niet volledig volwassen, noch uitgebreid getest op industriële toepassingen. En hoewel organisaties zoals NIST en CISA werken aan foutbestendigheidsstandaarden, zijn deze nog in ontwikkeling. Echter, eenvoudige maatregelen kunnen de kans op fouten in uw AI-systemen verminderen.