De vijf geboden

donderdag 25 augustus 2011

Moreel handelen is een punt dat hoog op de agenda staat in discussies over wat we mogen toevertrouwen aan een machine en waarover we als mens het beslisrecht in handen moeten houden. Wij zijn immers uitgerust met een moreel kompas dat ons een richting op stuurt waar de overlevingskansen van ons DNA het grootst zijn; waar we elkaar niet uitmoorden, waar we onze levensmiddelen eerlijk met elkaar delen zodat we niet sterven van het honger, waar we onze gemeenschap verdedigen tegen gevaren van buitenaf, waar respect wordt getoond voor leiders om chaos te voorkomen en waar voortplanting met familieleden en smerig gedrag dat risico’s op infecties met zich meebrengt worden vermeden. En omdat we dat morele kompas zelf nog niet helemaal begrijpen, we zijn relatief gezien pas kort geleden op grotere schaal gestopt met het toeschrijven van deze morele gevoelens aan een god, zijn we nog steeds terughoudend in het afgegeven van beslisrecht aan machine’s.

Maar verschuivingen in moraliteit wijzen er op dat dat morele kompas van ons ook niet feilloos de juiste richting aan geeft. Een ‘verschuiving in moraliteit’ lijkt haast een contradictio in terminis. Moraliteit wordt vaak gezien als iets universeels. Haidt noemt dan ook vijf bouwstenen van moraliteit[1] die je overal ter wereld en in alle tijden terug ziet: je mag een ander geen pijn doen, je moet eerlijk zijn, je moet loyaal zijn, je moet respect hebben voor autoriteit en je mag een onreine dingen doen. Als deze vijf bouwstenen universeel zijn, hoe kan er dan toch een verschil zijn tussen onze westerse moraliteit en die van een Talibanstrijder, of tussen onze huidige westerse moraliteit en die van een eeuw geleden? Een morele verschuiving is in feite een verschuiving in de balans tussen deze vijf bouwstenen. Een homohuwelijk vonden we vroeger niet gepast, of misschien zelfs wel ronduit smerig. Dat we ons dat nu niet meer voor kunnen stellen komt omdat de gevoelens die wij hebben met betrekking tot gelijke behandeling zo sterk zijn dat ze die gevoelens dat een homohuwelijk smerig zou zijn hebben verdrongen. Diezelfde eerlijkheid is wat onze morele barometer in het rood doet uitslaan wanneer we de mogelijkheid hebben om een familielid voor te dragen voor een groot contract. Wij vinden immers dat andere bedrijven een gelijke kans moeten krijgen en loyaliteit richting de familie delft dan het onderspit. Het belang dat een Talibanstrijder hecht aan de autoriteit en reinheid van zijn geloof rechtvaardigt voor hem het toebrengen van pijn aan eenieder die die autoriteit en reinheid in de wind slaat.

Ons morele zintuig kan ons helpen om in een flits van een seconde de juiste beslissing te nemen, omdat de gevoelens van afkeer die we ervaren bij een moreel verkeerde handeling zo sterk zijn dat we de gevolgen van de verkeerde handeling niet eens in beschouwing nemen. Maar net als onze andere zintuigen heeft ook ons morele zintuig last van illusies en kan het ons op het verkeerde pad zetten zonder dat we dat door hebben. Dat kan bijvoorbeeld leiden tot een situatie waarin we het belangrijker vinden om de zuster die een patient het verkeerde infuus toediende waardoor de patient overleed te straffen voor haar fout en het leed dat ze de nabestaanden heeft toegebracht, dan dat we nadenken over hoe we de zuster kunnen helpen om een dergelijke fout in de toekomst te voorkomen door bijvoorbeeld de constructie van infusen aan te passen, waardoor het fysiek onmogelijk wordt om het verkeerde infuus toe te dienen. Verschuivingen in moraliteit geven ons de kans om ons rationele denken in te zetten en zo de mensheid vooruit te helpen. Dergelijke verschuivingen hebben bijvoorbeeld aan de wieg gestaan van het accepteren van medische uitvindingen als vaccinaties, bloedtransfusies, orgaantransplantaties en IVF. [2]

Zoals ik al aangaf in “Groeten uit 2011”, moeten we, als we meer en meer gaan toevertrouwen aan machines, op een gegeven moment gaan nadenken over hoe we kunnen zorgen dat machines het voorbestaan van de mensheid als hoogste doel hebben. De moraliteit van de mens heeft zich inmiddels als succesvol mechanisme bewezen, we hebben elkaar immers nog niet uitgeroeid. Maar het is absoluut geen feilloos mechanisme. De geschiedenis heeft ons geleerd dat morele gevoelens alleen niet voldoende zijn om het voortbestaan van de mensheid te garanderen; de tweede wereldoorlog had heel anders af kunnen lopen en ook met de wapenwedloop tussen de VS en de Sovjet Unie zijn we wellicht dicht bij ons eigen einde gekomen. Als morele gevoelens de overhand nemen, kunnen we veranderen in de meest verschrikkelijke monsters met de beste bedoelingen. De vijf geboden; gij zult een ander geen pijn doen, gij zult eerlijk handelen, gij zult loyaal handelen, gij zult respect tonen voor autoriteit en gij zult geen onreine handelingen verrichten, zijn niet voldoende om een armageddon te voorkomen. Er moet een balans zijn tussen morele gevoelens en rationele gedachten.

Machines zijn nu juist bij uitstek goede rationele denkers. Dus waar zijn we eigenlijk bang voor? Een intelligente machine zou ons juist kunnen laten inzien welke van onze morele bezwaren onze eigen vooruitgang in de weg staan en welke gegrond zijn. Misschien is een verschuiving in moraliteit hier dus wel op zijn plaats; misschien moeten we onze morele bezwaren om de menselijke psyche en zijn gevoelens en gedachtenspinsels te simuleren op een computer[3] eens goed onder de loep nemen. Want is het eigenlijk niet oneerlijk om in de discussie over de toekomst van artificial intelligence maar blindelings te blijven vertrouwen op de reinheid van onze eigen morele gevoelens?

[1]Zie http://faculty.virginia.edu/haidtlab/mft/index.php

[2]Zie http://www.nytimes.com/2008/01/13/magazine/13Psychology-t.html?pagewanted=print

[3]Mijns inziens zijn dit bezwaren die volgen uit een drang om de eigen gemeenschap, ofwel de mensheid, te beschermen tegen invloeden van buitenaf, namelijk slimme technologie.