Foutbestendige AI-algoritmen

Storingen met machine vision-camera's, niet-gekalibreerde sensoren of onvoorspelbare schaduwen kunnen leiden tot mogelijk kostbare en gevaarlijke fouten in industriële AI-systemen. Onderzoekers ontwikkelen echter foutbestendige algoritmen en eenvoudige maatregelen die kunnen worden genomen om de kans op fouten te verkleinen.

Kunstmatige intelligentie is veel verder ontwikkeld dan het basale kunstmatige neurale netwerk van Perceptron, maar fouten blijven een probleem. Afbeelding gebruikt met dank aan Pixabay

Industriële toepassingen voor kunstmatige intelligentie

Er zijn tal van industriële toepassingen voor AI (kunstmatige intelligentie), zoals robotica-platforms, material handling, verpakking, machineverzorging, assemblage, inspectie en BAS (gebouwautomatiseringssystemen). Meer specifieke voorbeelden zijn onder meer drone- en zwermtechnologie voor het sorteren, verplaatsen en transporteren van artikelen of het detecteren van afwijkingen in productieprocessen.

AI is een cruciaal maar vaak vergeten aspect van industriële automatisering geworden, afhankelijk van machinevisie, robotarmen, teledetectie en procesbesturing.

AI-tools zijn echter geen eenvoudige zwarte doos waarin gegevens als invoer worden aangeboden en worden omgezet in nauwkeurige uitvoer. Soms is de output verkeerd, en dat is een bron van zorg.

Soorten fouten in industriële toepassingen

Computers doen wat ze wordt opgedragen, dus een mens ligt aan de basis van elke fout. Het kan een ontwerpfout, een algoritmefout, een technische fout of slechte gegevens zijn, maar er zal een mens aan de basis liggen.

Dat geldt ook voor AI, dus ook voor industriële AI. Fouten binnen industriële AI kunnen in twee categorieën vallen:algoritmische vooringenomenheid en machinevooringenomenheid.

Algoritmische vooringenomenheid omvat fouten die zowel herhaalbaar als systemisch zijn. Dergelijke fouten kunnen zich op verschillende manieren manifesteren:inherente fout in de logica van het algoritme, onvoorzien gebruik van de output van het algoritme of problemen met de gegevens die aan het AI-systeem worden verstrekt.

Machine bias treedt op wanneer een beperkte dataset wordt gebruikt om het systeem te trainen, wat leidt tot foutieve output.

Het belang van het onder controle houden van AI-fouten

Overweeg als voorbeeld van algoritmische vooringenomenheid een AI-gemachtigd machine vision-systeem dat wordt gebruikt voor geautomatiseerde kwaliteitscontrolesystemen. Een dergelijke toepassing is sterk afhankelijk van nauwkeurige metingen die als gegevens aan de AI worden geleverd, om te bepalen of het onderdeel binnen de toleranties valt. Als onnauwkeurige metingen aan de AI worden verstrekt, zal dit resulteren in foutieve etikettering van onderdelen.

De algoritmen achter de machine vision AI kunnen 100% correct zijn, maar slechte data betekent slechte output. Acceptabele onderdelen kunnen worden weggegooid, terwijl onderdelen van slechte kwaliteit kunnen worden doorgestuurd naar klanten. Dit leidt tot onnodige kosten en uitvaltijd omdat de oorzaak van het probleem wordt opgespoord.

FANUC's iRVision 3DL gebruikt lasers en AI om de oppervlaktecondities van een onderdeel te controleren. Afbeelding gebruikt met dank aan FANUC

Sommige AI-systemen die training vereisen voordat ze in een bepaalde omgeving of toepassing worden gebruikt. In dergelijke gevallen zijn de trainingsgegevens die aan het systeem worden verstrekt, uiterst belangrijk. Als een systeem bijvoorbeeld een training krijgt die beperkt is tot omstandigheden in een verlichte ruimte, ontstaan ​​er problemen wanneer het systeem zonder licht moet werken.

Foutbestendige AI (Training AI)

Omdat er een menselijk element achter AI en machine learning zit, kan het niet foutbestendig zijn. Er zijn echter manieren om fouten binnen AI-systemen te minimaliseren. Een voorbeeld hiervan is CARRL (Certified Adversarial Robustness for Deep Reinforcement Learning), een diepgaand lerend algoritme dat is ontwikkeld aan het MIT en dat als doel heeft autonome systemen te helpen door een zekere mate van scepsis over de gegevens aan te wakkeren die rekening houdt met, zoals ruis in de gegevens en vijandige pogingen om het systeem te verwarren.

Carnegie Mellon heeft ook gewerkt aan een AI-algoritme voor deep learning-modellen. Deze benadering wordt RATT (Randomly Assign, Train and Track) genoemd en maakt gebruik van niet-gelabelde en luidruchtige trainingsgegevens om een ​​bovengrens voor het echte foutenrisico vast te stellen. Deze bovengrens kan vervolgens bepalen hoe goed een AI-model zich aanpast aan nieuwe invoergegevens. Daarnaast hebben onderzoekers van Princeton gekeken naar algoritmen waarmee een AI-systeem effectief kan leren wanneer er fouten in de trainingsgegevens zitten.

Er zijn ook normen in ontwikkeling die van invloed zijn op de inspanningen om fouten te voorkomen. NIST (National Institute of Standards and Technology) draagt ​​actief bij aan AI-normen, waaronder een focus op het evalueren van de betrouwbaarheid van AI-technologie. NIST heeft ook een aanpak voorgesteld om het risico op vooringenomenheid in AI-systemen te verminderen.

De Amerikaanse CISA (Cybersecurity and Infrastructure Security Agency) kijkt al naar normen voor het doorlichten van AI-algoritmen en gegevensverzameling, zoals onthuld tijdens een 2020-panel getiteld "Genius Machines". Deze inspanning, samen met die van NIST, legt de nadruk op verantwoordelijkheid.

Fout in AI-systemen oplossen

Hoewel het foutbestendig maken van de AI-systemen waarvoor u verantwoordelijk bent misschien niet mogelijk is vanwege het menselijke aspect, zijn er zeker manieren om de kans op fouten te minimaliseren.

Als u vermoedt dat er fouten uit uw AI-systeem komen, geef dan niet automatisch de schuld aan het algoritme; bestudeer liever de fouten om een ​​patroon te zoeken. Als het bijvoorbeeld een autonome bin-picking-robot is die fouten maakt, kijk dan of er iets is dat de verkeerd gesorteerde items gemeen hebben of dat er veranderingen zijn in de omgeving van de robot (verlichting, schaduwen, enz.) die de prestaties kunnen beïnvloeden . Er kan ook een probleem zijn met een vuile cameralens in het machine vision-gedeelte van het systeem, zoals die worden aangetroffen in autonome mobiele robots.

Veel machine vision-camera's hebben ingebouwde AI-systemen, zoals de FLIR Firefly DL, maar deze systemen kunnen fouten veroorzaken als ze niet schoon worden gehouden en niet correct worden geconfigureerd. Afbeelding gebruikt met dank aan FLIR

Een harde programmeerregel is dat slechte input altijd zal resulteren in slechte output. De eerste stap bij het minimaliseren van de fout die door een industrieel AI-systeem wordt gegenereerd, is ervoor te zorgen dat de gegevens zo nauwkeurig mogelijk zijn, te beginnen met de sensoren. De sensoren die invoergegevens aan AI-systemen leveren, moeten regelmatig worden gekalibreerd.

Tools binnen het AI-systeem waarmee gebruikers acceptabele bereiken voor gegevens kunnen instellen, moeten worden geïmplementeerd na zorgvuldige afweging van een acceptabel bereik:te streng en de AI zal niet veel waarde bieden; te los, en het genereert veel te veel fouten. En onthoud, deze waarden kunnen worden aangepast.

Houd ook, zoals eerder vermeld, alle camera's schoon. Hoewel machine vision-systemen zijn ontworpen om robuust te zijn in verschillende omgevingsomstandigheden, betekent dit niet dat ze nog steeds goed zullen presteren als het zicht wordt aangetast door een vuile lens. Hetzelfde geldt voor andere industriële sensoren waarvan de nauwkeurigheid kan worden aangetast door een toename van kalkaanslag, blootstelling aan corrosieve omgevingen, mechanische problemen of veroudering.

AI wordt veel gebruikt in de industriële sector voor alles van procescontroles tot kwaliteitsinspecties. En vanwege de menselijke factor die erbij komt kijken, zijn ook deze AI-systemen onderhevig aan fouten. Er wordt gewerkt aan foutbestendige algoritmen, maar deze methoden zijn nog niet volledig ontwikkeld en zijn ook niet uitgebreid getest op industriële toepassingen. En hoewel organisaties zoals NIST en CISA werken aan foutbestendige standaarden, zijn ze nog in ontwikkeling. Enkele eenvoudige maatregelen kunnen echter de kans op fouten in uw AI-systemen verkleinen.