Wie moeten zelfrijdende auto's offeren: voetgangers of passagiers?

• Onderzoekers ontwerpen een experiment om een menselijk perspectief te verzamelen over morele beslissingen gemaakt door kunstmatige intelligentie.
• Ze analyseerden miljoenen menselijke reacties en onthulden hoeveel ethiek varieert over culturen.

We treden een tijdperk binnen waarin machines niet alleen belast zijn met het minimaliseren van schade, maar ook met het verdelen van de schade die ze niet kunnen elimineren. Verdelen van schade (evenals welzijn dat de machine creëert) creëert meestal trade-offs, wier oplossing valt binnen het morele domein.

Overweeg een situatie waarin een autonoom voertuig op het punt staat te crashen en geen pad kan evalueren dat iedereen zou redden. In dergelijke gevallen zullen voertuigen moeten beslissen hoe het risico op schade eerlijk te verdelen tussen verschillende mensen op de weg. Deze morele dilemma's kunnen niet opgelost worden door enige wet van robotica of menselijke ethische principes.

In 2014 ontwierpen MIT-onderzoekers een experiment genaamd Moral Machine om een menselijk perspectief te verzamelen over morele beslissingen gemaakt door AI-uitgeruste machines, zoals zelfrijdende auto's. Tot nu toe heeft het experiment meer dan 40 miljoen reacties ontvangen uit de hele wereld. Dit biedt waardevolle inzichten in de collectieve ethische prioriteiten van verschillende culturen.

De Moral Machine test 13 verschillende scenario's waarin mensen beslissen wat een zelfrijdend voertuig moet prioriteren:

• Meer levens over minder
• Mannen over vrouwen
• mensen over huisdieren
• jong over oud
• hogere sociale status over lagere
• fit over ongezond
• wet-volger over wet-overtreder

Onderzoekers analyseerden alle reacties en onthulden hoe menselijke ethiek varieert op basis van geografische locatie, economie en cultuur.

Ze vonden dat verschillende landen verschillende voorkeuren hebben. Mensen uit collectivistische culturen zoals Japan en China zijn geneigder om ouderen te sparen boven jongeren. Terwijl landen met meer individualistische culturen minder geneigd zijn om ouderen te sparen.

Referentie: Nature | DOI:10.1038/s41586-018-0637-6 | Moral Machine

Op dezelfde manier neigen mensen uit individualistische culturen, zoals de VS en VK, ertoe om meer levens te sparen gegeven alle andere keuzes. Mensen uit ontwikkelingslanden met zwakkere instituties zijn toleranter tegenover voetgangers die onregelmatig oversteken versus voetgangers die legaal oversteken.

De voorkeur om hogere statuspersonages te sparen is veel minder uitgesproken voor Oostelijke landen (Japan, Taiwan, Saoedi-Arabië, Indonesië), en veel hoger voor Zuidelijke landen (Centraal- en Zuid-Amerika, Frankrijk).

Westerse en Oostelijke landen tonen een veel hogere voorkeur voor het sparen van mensen boven huisdieren, vergeleken met Zuidelijke landen.

Beperkingen

Ondanks de grote steekproefgrootte, heeft de studie talloze beperkingen. Bijvoorbeeld, onderzoekers hielden geen rekening met onzekerheid over de loten van de personages. Alle personages werden herkend als kinderen en volwassenen met 100% zekerheid, en hun leven en dood-uitkomsten werden geschat met 100% zekerheid.

Ze introduceerden ook niet de hypothetische relatie factor (bijvoorbeeld, echtgenoten en verwanten) tussen respondenten en personages. Hoewel deze aannames redelijk onrealistisch waren, waren ze noodzakelijk om het experiment hanteerbaar te houden.

Lees: Zelfrijdende Voertuigen Vinden Het Moeilijk Om Donkergehuiden Voetgangers Te Detecteren

We misschien nooit universele akkoord bereiken, maar deze resultaten kunnen gebruikt worden door techbedrijven en autofabrikanten om beter te begrijpen hoe het publiek zou reageren op ethiek van verschillende ontwerp- en beleidsbeslissingen.