Moeten zelfrijdende auto's een geweten ingebouwd krijgen?

17 februari 2018
In de toekomst moeten zelfrijdende auto's autonoom een aantal beslissingen nemen in het verkeer. In gevaarlijke verkeerssituaties zullen die beslissingen zelfs op leven en dood genomen worden, zonder dat er een chauffeur aan te pas komt.

Gedachte-experiment

Filosoof Maarten Boudry legt in "Interne Keuken" een gedachte-experiment uit: de trolley test van filosofe Philippa Foot. 

Het experiment gaat als volgt: een losgeslagen trolley stevent af op een treinspoor waarop vijf mensen vastgebonden liggen. Als het treintje zijn gang gaat, dan worden de vijf mensen doodgereden. Het enige wat je kan doen is de trolley op een ander spoor zetten. Maar op dat ander spoor ligt één persoon vastgebonden. De vraag is: ga je de wissel omschakelen en dus een onschuldige persoon doden maar wel vijf personen redden? Of ga je niets doen en de vijf personen laten omkomen?

De situatie die hier beschreven werd, is een voorbeeld van een ethisch dilemma. De keuze die iemand in deze (fictieve) situatie maakt, is een morele keuze. 

Zelfrijdende wagens en morele keuzes

Ingenieurs die de programmatuur van zelfrijdende auto's schrijven, staan voor morele keuzes. Filosoof Maarten Boudry verklaart: "Ingenieurs zullen zelfrijdende auto's op een bepaalde manier programmeren zodat die auto's een inschatting kunnen maken van verkeersomstandigheden die zich mogelijks voordoen. Ingenieurs kunnen uiteraard niet op voorhand voorspellen in welke gevaarlijke situaties een zelfrijdende auto kan terechtkomen. Maar het is wel mogelijk om de auto uit te rusten volgens bepaalde vuistregels. Zo kan er een waarde toegekend worden aan passagiers of kunnen verkeersslachtoffers ingedeeld worden in categorieën."

Nu al bestaan er ingebouwde camera's die zien wie er precies over het zebrapad wandelt. Denk aan een persoon met terminale kanker, of een jonge briljante student. "Programmatoren van zelfrijdende auto's zouden dus rekening kunnen houden met het type slachtoffer in gevaarlijke situaties." Op basis daarvan zou een zelfrijdende auto kunnen kiezen om in een gevaarlijke verkeerssituatie naar deze of gene kant uit te wijken. En dus: in de richting van de persoon met een terminale kanker, of in de richting van de jonge briljante student. "

Medische wereld

De gelijkwaardigheid van elke mens is een moreel beginsel waar we in het algemeen vanuit vertrekken. Maar in de praktijk zijn er al veel situaties waar dat principe niet geldt. Volgens Boudry is dat in de medische wereld het geval. "Een mens is niet in elke situatie en op elk moment van zijn leven evenwaardig aan een ander mens. Medici houden niet alleen rekening met het leven van elk individu maar ook met de levensverwachting onder bepaalde omstandigheden. In het geval van orgaandonatie zijn we minder geneigd om iemand die 80 jaar is en nog maar een paar gezonde levensjaren in het verschiet heeft, een orgaan te geven. Een andere persoon die nog 50 levensjaren voor zich heeft, zal wellicht een voorkeursbehandeling krijgen. Dat zijn natuurlijk lastige afwegingen."

Bestaande morele afwegingen

Boudry stelt voor om zelfrijdende auto's te programmeren in het verlengde van de morele afwegingen die we sowieso maken. "Als je mensen vraagt om in een auto te stappen die geprogrammeerd is om de passagier op te offeren wanneer de auto vijf kinderen dreigt omver te rijden, zullen de meeste mensen terugdeinzen. Mensen zullen wel in een auto stappen waarvan ze weten dat de chauffeur uitwijkt als hij vijf kinderen dreigt omver te rijden. Die chauffeur zal zich niet zomaar voor een muur storten maar hij loopt wel het risico dat er een vrachtwagen van rechts komt op het moment dat hij naar die kant afwijkt."

Los van de morele afwegingen zal het globale plaatje voor de zelfrijdende auto's positief uitvallen, denkt Boudry. "Zelfrijdende auto's zijn nooit vermoeid en dronken."

Lees ook