Wat als een zelfrijdende auto moet kiezen tussen vijf voetgangers doden of zijn passagier?

© iStock
Dirk Draulans
Dirk Draulans Bioloog en redacteur bij Knack.

Je kunt als psycholoog zoveel hypothetische dilemma’s onderzoeken als je wilt, echte experimenten blijken verrassende, ándere resultaten op te leveren, merkte Dries Bostyn (UGent). Een gesprek over hoe we morele keuzes maken, op het snijvlak tussen filosofie en psychologie.

Stelt u zich even voor dat u op een brug staat, en er dondert een trein voorbij. U weet dat die trein verderop vijf nietsvermoedende spoorarbeiders zal doodrijden. Door een hendel over te halen kunt u hem naar een ander spoor leiden, waar hij maar één arbeider zal doden. Wat doet u? Het is een filosofisch gedachte-experiment dat al een tijd de ronde doet en ‘het trolleydilemma’ is gaan heten. Doet u niets, dan sterven er vijf mensen. Grijpt u in, dan sterft er maar één persoon, maar daar bent u dan wel verantwoordelijk voor.

‘Het dilemma is ontworpen om een onderscheid te kunnen maken tussen twee types van moreel gedrag rond rechten en plichten’, zegt filosoof en psycholoog Dries Bostyn van de UGent. ‘De stelling dat folteren altijd slecht is, ongeacht het feit of er iets goeds uit te halen valt, is een typisch voorbeeld van deontologisch redeneren: je reduceert het redeneren tot een kwestie van rechten en plichten. De andere optie is dat je gaat kijken naar de uitkomst van je morele handelingen, en op basis daarvan gaat handelen. Dat is de utilitaristische redenering, in dit geval met een uitkomst van vijf slachtoffers of één.’

Veel mensen kwamen zich achteraf verontschuldigen omdat ze een muis een elektrische schok hadden gegeven. Terwijl hun keuze perfect te verdedigen valt.

Vijftien jaar geleden schoven Amerikaanse wetenschappers enkele proefpersonen in een hersenscanner om te kijken wat hun hersenen deden terwijl ze worstelden met het dilemma. De resultaten van hun werk verschenen in het topvakblad Science. ‘Uit de studie bleek dat deontologisch redeneren gelinkt is aan emoties’, legt Bostyn uit. ‘We noemen dat het morele instinct. Het utilitaristische komt naar boven als je bewust gaat redeneren. Veel mensen zullen in het trolleydilemma eerst instinctief beslissen om niets te doen, want dat is emotioneel het makkelijkst. Maar dan sterven er vijf mensen. Als ze voldoende tijd krijgen om daarover na te denken, switcht de activiteit van hun hersenen van sociaal-instinctieve zones naar zones die met cognitieve processen bezig zijn. Het rationele moet het emotionele dus kunnen overrulen.’

Mensen versus muizen

Toch bleef Bostyn wat op zijn honger met die analyse. Hij zocht naar een manier om het gedachte-experiment in de praktijk te brengen. Hij speculeerde lang over een methode om het met menselijke vrijwilligers te simuleren, maar raakte steevast in de knel met de moeilijkheid dat de vrijwilligers wisten wat er zou gebeuren én dat de proefpersonen ervan uit zouden gaan dat de vrijwilligers op de hoogte waren. Bovendien speelt ook altijd het ethische bezwaar dat je mensen mentaal gaat belasten.

Om dat te omzeilen en om het praktisch haalbaarder te maken, bedacht hij een experiment met muizen. Tweehonderd proefpersonen werden geconfronteerd met een dilemma: ze konden zien hoe vijf muizen in een kooi een sterke elektroshock zouden krijgen, tenzij ze binnen de 20 seconden op een knop zouden duwen, dan werd de shock getransfereerd naar een kooi met slechts één muis. Voor de duidelijkheid: de shocks waren fake, er werd geen enkele muis gepijnigd, maar dat wisten de proefpersonen niet. De resultaten, die gepubliceerd werden in Psychological Science, wezen uit dat 84 procent van de proefpersonen binnen de 20 seconden op de knop duwde.

Wat als een zelfrijdende auto moet kiezen tussen vijf voetgangers doden of zijn passagier?

‘Dat was verrassend, want in een proef waarin de mensen enkel denkbeeldig moesten reageren op hetzelfde scenario, zei slechts 66 procent dat ze de knop zouden indrukken’, vertelt Bostyn. ‘Dat lag niet in de lijn van de verwachtingen, want er werd aangenomen dat in een echte situatie mínder mensen op de knop zouden duwen dan in een imaginaire, omdat ze er een schuldgevoel aan zouden overhouden. We vonden dus een discrepantie tussen wat mensen in het echt deden en wat ze in een gedachte-experiment zegden te zullen doen.’

U begint uw publicatie met een quote van de achttiende-eeuwse filosoof David Hume. Waarom van hem?

Dries Bostyn: Hij is mijn lievelingsfilosoof en een van mijn inspiratiebronnen. Hij waarschuwde zijn vakgenoten in 1739 al voor het risico dat is verbonden aan gedachte-experimenten om naar ons denken te peilen. Toch steunt de psychologie sterk op zulke experimenten. Ik vond het de moeite waard om te onderzoeken of Hume het bij het rechte eind had.

Dat was nog nooit gebeurd?

Bostyn: Er is een experiment rond het trolleydilemma gedaan in virtual reality, waarvan de resultaten aansluiten bij de onze. De klassieke redenering was dat hoe echter een dilemma is, hoe meer mensen deontologisch zullen reageren – passief dus, op basis van emoties. Maar net zoals wij vaststelden, gebeurde in het VR-experiment het omgekeerde. In echte situaties gaan mensen meer utilitaristisch te werk, op basis van een analyse van pro’s en contra’s. Ze grijpen dus meer in.

Hoe verklaart u het verschil?

Bostyn: Er is vermoedelijk een sterke sociale component in het spel. In hypothetische situaties gaan mensen misschien meer redeneren met het oog op de persoonlijke gevolgen van hun keuze. Als anderen zouden zien dat je in staat bent om iemand actief te doden door een hendel over te halen, zul je over het algemeen als onbetrouwbaar gekwalificeerd worden. Maar die bedenking valt weg als ze het daadwerkelijk moeten doen, want dan overheerst de utilitaristische component: het verschil tussen vijf doden en één slachtoffer. Wat sterk opviel, is dat veel mensen zich tijdens de debriefing na ons experiment verontschuldigden voor hun beslissing om de knop in te drukken. Ze vonden het nodig te benadrukken dat ze geen slechte mensen waren. Wat vreemd is, want beide keuzes vallen perfect te verdedigen.

Er is dus een duidelijk verschil tussen de hypothetische en de concrete aanpak?

Bostyn: Inderdaad. De hypothetische is een free lunch: je beslissing blijft zonder gevolgen. Dan kun je kiezen voor de moreel gemakkelijkste oplossing: je doet niets. Maar als er daadwerkelijk slachtoffers vallen, gaan mensen meer verantwoordelijkheid naar zich toe trekken. Ze doen het toch, hoewel ze het niet willen. Er bestaat een bijzonder interessant theoretisch artikel over zulke dilemma’s, met als veelzeggende titel: ‘ When it takes a bad person to do the right thing‘ (‘Wanneer je een slechte persoon nodig hebt om het juiste te doen’). Het impliceert dat mensen in hypothetische dilemma’s meer vrijheid hebben om de makkelijkste morele keuze te maken dan in een concrete situatie.

Hoe mensen met dieren omgaan, is een goede voorspeller van hun sociale gedrag. Wie als kind katten martelt, ontwikkelt makkelijk antisociale stoornissen.

Zijn er karaktertrekken die ervoor zorgen dat sommige mensen makkelijker aan de hendel trekken dan andere?

Bostyn: Je zou denken dat mensen met psychopathische karaktertrekken sneller de hendel overhalen, maar dat blijkt niet uit ons experiment. In het geval van hypothetische dilemma’s is dat wel de meest bepalende karaktertrek om te voorspellen wie zal trekken, maar niet in onze realiteit. Mensen die in ons experiment niet op de knop drukten, verantwoordden dat meestal met een fatalistische houding: het is niet aan ons om zoiets te beslissen, het is niet aan ons om Gods wil bij te sturen. Fatalistisch denken stimuleert de deontologische code rond rechten en plichten.

Dus bij fatalistische mensen verdwijnt het emotionele niet naar de achtergrond?

Bostyn: Ik denk dat het emotionele in alle omstandigheden actief blijft, ook als je een utilitaristische beslissing neemt. Het is het emotionele dat ertoe leidt dat mensen het nodig vinden zich te verontschuldigen. Je blijft zitten met het onhebbelijke gevoel dat je iets hebt gedaan wat niet mocht: iemand doden of pijn doen.

Zou het toch geen groot verschil maken als u de proef met mensen zou doen in plaats van met muizen?

Bostyn: Ik denk het niet. Hoe mensen met dieren omgaan, is een goede voorspeller van hun sociale gedrag. Iemand die als kind katten martelt, zal later makkelijk antisociale stoornissen ontwikkelen. Het harde onderscheid tussen mensen en andere dieren gaat niet op. Het is een kwestie van meer of minder empathie, het is zelden een zwart-witverhaal. Veel van onze deelnemers waren echt onder de indruk van het gebeuren, en reageerden opgetogen toen ze vernamen dat de elektroshocks voor de muizen fake waren. Sommigen vonden het zelfs erger om zoiets op dieren te doen dan op mensen, want die laatsten zouden tenminste begrijpen wat er aan de hand was. Wat niet belet dat ik toch overweeg om een experiment met mensen op te zetten. Dat kan misschien andere dimensies blootleggen.

Zoals?

Bostyn: Je zou kunnen nagaan in welke mate het type slachtoffer meespeelt. Of er een verschil in perceptie is tussen, bijvoorbeeld, een neonazi of een priester als slachtoffer. Ik denk dat nogal wat mensen het erger zouden vinden dat een puppy een elektroshock krijgt dan een neonazi. Vanuit filosofisch standpunt is dat vreemd: waarom zouden we in verschillende omstandigheden verschillende morele standaarden hanteren?

Wat als een zelfrijdende auto moet kiezen tussen vijf voetgangers doden of zijn passagier?
© Lies Willaert

Hoe reageren uw collega’s? Dat u de bruikbaarheid van hypothetische dilemma’s op de helling zet moet toch onrust veroorzaken?

Bostyn: Vooralsnog wordt afgewacht of onze bevindingen overeind zullen blijven in vervolgonderzoek. Er zijn ook elementen in onze resultaten die conclusies van hypothetisch werk ondersteunen. Hoe mensen dachten over hypothetische dilemma’s voorspelde bijvoorbeeld goed hun twijfel over ons experiment, en hoe comfortabel ze zich erbij voelden. Maar het is duidelijk dat we tot dusver een belangrijke dimensie gemist hebben, anders zouden onze resultaten meer overeengestemd hebben met die van traditioneel onderzoek. Als mijn buikgevoel correct is dat het vooral om een sociale dimensie gaat, zal het nog meevallen met de betrouwbaarheid van hypothetische analyses.

En als uw buikgevoel u in de steek laat?

Bostyn: Dan zullen we eens goed moeten nadenken, want dan zou het basismodel helemaal verkeerd kunnen zijn. Maar daar gaan we nog niet van uit.

Heeft uw ontdekking praktische gevolgen? Wat betekent dit bijvoorbeeld voor het programmeren van zelfrijdende auto’s? De programma’s zijn gebaseerd op hypothetische menselijke inschattingen.

Bostyn: Het trolleydilemma is al toegepast op het programmeren van zelfrijdende auto’s. Wat als een auto de controle verliest en moet kiezen tussen het aanrijden van vijf voetgangers of het opofferen van één persoon, bijvoorbeeld de passagier? Mensen vinden dat de auto een utilitaristische keuze moet maken en voor het ene slachtoffer moet kiezen, maar ze zeggen er wel meteen bij dat ze nooit zo’n auto zouden kopen. Zo schuiven ze het dilemma door naar de constructeurs: willen die wel een auto maken waarin de koper kan sterven als de auto een utilitaristische keuze moet maken?

Dat is pas een dilemma!

Bostyn: Toch denk ik dat constructeurs ernstiger problemen aan hun hoofd hebben dan dit soort noodgevallen.

Het basisprobleem van het trolleydilemma – het afwegen van de rechten van een individu versus die van een groep – komt natuurlijk op veel vlakken terug, zoals bij het maken van politieke keuzes. Bijvoorbeeld: hoeveel geld wil je uittrekken voor een klein aantal mensen met een zeldzame dodelijke ziekte? Door het artificiële karakter van hypothetische dilemma’s zou je bijna vergeten dat het vaak om dagelijkse conflicten gaat.

Wat als een zelfrijdende auto moet kiezen tussen vijf voetgangers doden of zijn passagier?

De onderzoeksgroep in Gent waar u deel van uitmaakt, werkte ook mee aan een experiment waarin een klassieker uit de sociale psychologie onderuitgehaald werd: de bevinding dat het opdreunen van de tien geboden ervoor zorgt dat mensen minder liegen.

Bostyn: De twee hoogleraren in mijn groep, Alain Van Hiel en mijn promotor Arne Roets, hebben daar inderdaad aan meegewerkt. De publicatie in 2008 van ‘het tiengebodeneffect’ was een van die sexy ontdekkingen van jaren geleden die vandaag niet reproduceerbaar blijken, wat toch een van de vereisten is van gedegen wetenschappelijk werk. Als je niet dezelfde resultaten kunt behalen in min of meer dezelfde omstandigheden, kun je twijfels uiten over de waarde van de oorspronkelijke bevindingen. De sociale psychologie worstelt vandaag sterk met die problematiek.

Ook het snoepjesexperiment is onderuitgegaan: zet een kleuter in een kamer met een snoepje, zeg hem dat hij na een kwartiertje een tweede snoepje krijgt als hij het laat liggen en verlaat de kamer. Als het kind kan wachten, zal het later in zijn leven succesvoller zijn.

Bostyn: Inderdaad, dat lijkt evenmin reproduceerbaar. Sommige resultaten zijn gewoon te sexy om waar te kunnen zijn. Ik denk dat het uitgangspunt van zulke onderzoeken verdedigbaar kan zijn, zoals het feit dat als je iemand attent maakt op een ethisch gedragspatroon hij of zij zich ethischer zal gedragen. Maar de vertaling naar een sexy experiment is dat niet noodzakelijk. Het geldt voor veel van wat wij priming-experimenten noemen, waarin je met een minimale manipulatie – zoals het opdreunen van de tien geboden – een verstrekkend gevolg probeert te genereren. De resultaten daarvan sneuvelen één voor één, vooral als gevolg van methodologische problemen. Vroeger gingen onderzoekers nogal vlotjes om met statistiek en andere gebruiken voor degelijke gegevensverwerking.

Is dat niet verontrustend voor de wetenschappelijke discipline?

Bostyn: Het goede aan wetenschap is dat we leren uit onze fouten. Het is een zelfcorrigerend systeem. Als iemand mijn onderzoek herhaalt en iets anders vindt, zal ik eerst eens hard vloeken en vervolgens kijken wat er gebeurd is. Zo boek je vooruitgang.

Zijn er in veel psychologische onderzoeken niet te veel ongrijpbare factoren in het spel? Recent ontdekte men dat de namen van figuren in psychologische spelletjes de resultaten kunnen beïnvloeden.

Bostyn: Dat is een terechte vraag. Maar ze mag ons niet tegenhouden om te zoeken naar de beste onderzoeksmethodes. Misschien zijn we vroeger te naïef geweest, zijn we beginnen te lopen voor we konden wandelen. Het menselijke gedrag is heel complex. Dan moeten we ons de vraag stellen hoeveel we erover kunnen leren door naar slechts twintig proefpersonen te kijken.

Dries Bostyn

– 1984: geboren in Roeselare

– Humaniora: Latijn-wiskunde in het Klein Seminarie van Roeselare

– 2008: master in de filosofie (UGent)

– 2013: master in de psychologie (UGent)

– Sinds 2013: doctoraat in de psychologie (UGent)

Dat is een vreemde vraag voor een filosoof.

Bostyn: (grinnikt) Ik volg momenteel een master in de statistiek. En ik vertrek binnenkort naar de Verenigde Staten voor een stage in een gerenommeerd instituut voor experimentele filosofie. Ik hoop op termijn, als alles goed gaat, iets vergelijkbaars op te starten in Gent. Maar we moeten natuurlijk bescheiden blijven, ook en misschien wel vooral als psycholoog. Het blijkt zeer moeilijk te zijn om het menselijke gedrag te manipuleren, zeker met bescheiden interventies.

Eigenlijk is dat goed nieuws, maar reclamemakers zullen het niet graag horen.

Bostyn: Natuurlijk is dat goed nieuws. Als zulke trucjes echt een effect op ons doen en laten zouden hebben, zouden we veel gemakkelijker speelballen worden, van het lot en van anderen. Ik ben geen marketingexpert, maar ik heb het gevoel dat reclamemensen dat ook doorhebben. Langetermijnbranding van een product blijkt veel belangrijker dan het te linken aan subtiele emotionele componenten. Je moet aan Coca-Cola denken als je dorst hebt, niet als je een emotioneel warm gevoel wilt.

Waarom bent u psychologie gaan studeren na uw studie filosofie?

Bostyn: Ik ben als filosoof opgebrand geraakt omdat het zo moeilijk is om er vooruitgang in te boeken. Ik had het gevoel dat ik na vijf jaar nog altijd dezelfde discussies voerde. Filosofen veranderen heel moeilijk hun standpunt. Zo stootte ik op de experimentele psychologie, in de hoop dat ik met concrete gegevens vooruitgang zou kunnen boeken in de discussies. Ik vind de interactie tussen psychologie en filosofie uitermate boeiend.

Kunt u een voorbeeld geven van wat experimentele filosofie al opgeleverd heeft?

Bostyn: Er is een filosoof die vindt dat geluk geen morele waarde heeft, wat voor hem een argument tegen het utilitarisme is. Maar uit experimenten blijkt dat je geluksgevoel mee bepaalt welke morele conclusies je trekt. Op die manier heeft geluk wél een morele component. Dat is een stap vooruit in het debat.

Fout opgemerkt of meer nieuws? Meld het hier

Partner Content