Zelfrijdende voertuigen vinden het moeilijk om donkere voetgangers te detecteren

• Zelfrijdende auto's zijn 5% minder nauwkeurig in het detecteren van mensen met een donkere huidskleur.
• Dit gebeurt omdat de meeste algoritmen voor objectdetectie waren getraind op datasets met afbeeldingen van blanke mensen.

De machine learning-modellen beginnen in ons dagelijks leven huizen te vinden. Vooral het gebied van autonoom rijden is het afgelopen decennium van 'misschien mogelijk' naar 'nu commercieel beschikbaar' gegaan.

Deze vooruitgang in geautomatiseerde systemen heeft de afgelopen jaren echter veel zorgen gewekt over zelfrijdende auto's, en het lijkt erop dat de lijst met zorgen alleen maar langer is geworden. Naast zorgen over hun veiligheid en het vermogen om obstakels op wegen aan te pakken, is het ook noodzakelijk om je zorgen te maken of zelfrijdende voertuigen mensen van kleur kunnen schaden.

Nu hebben onderzoekers van het Georgia Institute of Technology een onderzoek uitgevoerd waarin ze concludeerden dat algoritmen die worden gebruikt in autonome rijsystemen 5% minder nauwkeurig zijn in het detecteren van voetgangers met een donkere huidskleur.

Hogere foutenpercentages voor bepaalde demografische groepen dan andere

Het team begon met het onderzoeken van de nauwkeurigheid van ultramoderne objectdetectiemodellen die meestal worden gebruikt in autonome voertuigen. Ze wilden weten hoe deze modellen precies mensen uit verschillende demografische groepen detecteren.

Ze analyseerden een enorme dataset met foto's van voetgangers en splitsten de mensen op op basis van hun huidskleur. Vervolgens keken ze hoe vaak dergelijke modellen de aanwezigheid van mensen in de groep met een donkere huidskleur precies identificeerden, evenals mensen in de groep met een lichte huidskleur.

Referentie:arXiv:1902.11097 | Georgia Institute of Technology

De onderzoekers ontdekten dat deze modellen gemiddeld 5% minder nauwkeurig waren bij het detecteren van groepen met een donkere huidskleur. Deze inconsistentie bleef hetzelfde, zelfs na het aanpassen van een paar cruciale parameters, zoals het vaak belemmerde zicht op voetgangers en de tijd van de dag in foto's.

De studie houdt alleen rekening met modellen die worden gebruikt voor onderzoeksdoeleinden, die zijn getraind op openbaar beschikbare datasets. Het heeft geen enkel model geanalyseerd dat daadwerkelijk wordt gebruikt door commerciële autonome voertuigen. Dit betekent echter niet dat de bevindingen van onschatbare waarde zijn:onderzoeken zoals deze bieden sterke inzichten in echte gebreken en risico's.

Redenen achter vooringenomen/racistische algoritmen

Dit is niet de eerste keer dat iemand een rapport over vooringenomen algoritmen publiceert. Vorig jaar ontdekte een onderzoek dat drie gezichtsherkenningssystemen die zijn ontwikkeld door techreuzen (Microsoft, IBM en Megvii) het geslacht van mensen met een donkere huidskleur waarschijnlijk vaker verkeerd identificeerden dan mensen met een lichte huidskleur.

Afbeelding tegoed:Iyad Rahwan

Aangezien kunstmatige-intelligentiemodellen, met name machine learning en deep learning-algoritmen, leren van de trainingsdatasets die ze krijgen, en als u niet voldoende variatie aan gegevens levert, zullen deze modellen niet nauwkeurig werken wanneer ze worden ingezet in de echte wereld.

Hetzelfde geldt voor zelfrijdende auto's:de algoritmen voor objectdetectie waren voornamelijk getraind op datasets met afbeeldingen van blanke mensen. Ook legden deze algoritmen niet veel nadruk op het leren van beperkte datasets (mensen met een donkere huidskleur).

Lezen:nieuwe AI voor zelfrijdende voertuigen kan voetgangerbewegingen voorspellen

Onderzoekers zijn van mening dat deze modellen kunnen worden verbeterd door raciaal diverse voorbeelden op te nemen en meer nadruk te leggen op beperkte voorbeelden tijdens de training.