Moet een zelfrijdend voertuig de voetganger of de passagier doden?

• Onderzoekers ontwerpen een experiment om een ​​menselijk perspectief te verzamelen op morele beslissingen die worden genomen door kunstmatige intelligentie.
• Ze analyseerden miljoenen menselijke reacties en onthulden hoeveel ethiek tussen culturen verschilt.

We gaan een tijdperk in waarin machines niet alleen de taak hebben om schade te minimaliseren, maar ook om de schade te verdelen die ze niet kunnen elimineren. Het verdelen van schade (evenals het welzijn dat de machine creëert) leidt meestal tot afwegingen, waarvan de oplossing binnen het morele domein valt.

Denk aan een situatie waarin een autonoom voertuig op het punt staat te crashen en geen pad kan evalueren dat iedereen zou redden. In dergelijke gevallen zullen voertuigen moeten beslissen hoe ze het risico op schade eerlijk over verschillende mensen op de weg kunnen verdelen. Deze morele dilemma's kunnen door geen enkele robotwet of menselijke ethische principes worden opgelost.

In 2014 ontwierpen MIT-onderzoekers een experiment met de naam Moral Machine om een ​​menselijk perspectief te verzamelen op morele beslissingen die worden genomen door AI-uitgeruste machines, zoals zelfrijdende auto's. Tot nu toe heeft het experiment meer dan 40 miljoen reacties ontvangen van over de hele wereld. Dit biedt waardevolle inzichten in de collectieve ethische prioriteiten van verschillende culturen.

The Moral Machine test 13 verschillende scenario's waarin mensen beslissen welk zelfrijdend voertuig prioriteit moet krijgen:

• Meer levens over minder
• Mannen boven vrouwen
• mensen boven huisdieren
• jong over oud
• hogere sociale status dan lagere
• over ongezond heen passen
• wetvolger over wetsovertreder

Onderzoekers analyseerden alle reacties en onthulden hoe menselijke ethiek varieert op basis van geografische locatie, economie en cultuur.

Ze ontdekten dat verschillende landen verschillende voorkeuren hebben. Mensen uit collectivistische culturen zoals Japan en China sparen bijvoorbeeld eerder de ouderen dan de jongeren. Terwijl landen met meer individualistische culturen minder geneigd zijn om de oude te sparen.

Referentie:Natuur | DOI:10.1038/s41586-018-0637-6 | Morele machine 

Evenzo hebben mensen uit individualistische culturen, zoals de VS en het VK, de neiging om meer levens te sparen bij alle andere keuzes. Mensen uit ontwikkelingslanden met zwakkere instellingen zijn toleranter voor voetgangers die jaywalken dan voetgangers die legaal oversteken.

De voorkeur om tekens met een hogere status te sparen is veel minder uitgesproken voor oosterse landen (Japan, Taiwan, Saoedi-Arabië, Indonesië) en veel hoger voor zuidelijke landen (Centraal- en Zuid-Amerika, Frankrijk).

Westerse en Oosterse landen hebben een veel grotere voorkeur voor het sparen van mensen dan huisdieren, vergeleken met zuidelijke landen.

Beperkingen

Ondanks de grote steekproefomvang kent het onderzoek tal van beperkingen. Onderzoekers hielden bijvoorbeeld geen rekening met de onzekerheid over het lot van de personages. Alle personages werden met 100% zekerheid herkend als kinderen en volwassenen, en hun leven en dood werden met 100% zekerheid geschat.

Ze introduceerden ook niet de hypothetische relatiefactor (bijvoorbeeld echtgenoten en familieleden) tussen respondenten en personages. Hoewel deze aannames nogal onrealistisch waren, waren ze nodig om het experiment hanteerbaar te houden.

Lees:Zelfrijdende voertuigen vinden het moeilijk om donkere voetgangers te detecteren

We komen misschien niet tot een universele overeenstemming, maar deze resultaten kunnen door technologiebedrijven en autofabrikanten worden gebruikt om beter te begrijpen hoe het publiek zou reageren op ethiek van verschillende ontwerp- en beleidsbeslissingen.