Column
Drie wetten
23 november 2011
Het is 2050. De spanning op het veld is te snijden. Het zou een historische dag kunnen worden. China, de kersverse wereldkampioen voetbal, neemt het op tegen een team supergeavanceerde robots. Waar de traditionele seizoensopening na het vorige WK nog een vermakelijk demonstratiepotje was, liggen de verhoudingen nu anders. Vandaag maken de robots een serieuze kans om te winnen. In de 88ste minuut – het is nog 0–0 – breekt Dao Xi, de beste voetballer van het moment, door op rechts. Met een ultieme sliding probeert robotverdediger RDF004 hem te achterhalen. Xi is echter net te snel, waardoor RDF004 niet de bal speelt maar Xi vol op het been raakt. Scheenbeen verbrijzeld, einde carrière voor Xi. Wie gaat dat betalen?
Oké, mijn fantasie is misschien wat te groot en het lijkt wellicht nog ver van ons bed, maar de vraag is terecht: wie is er verantwoordelijk voor de acties van een robot? Het is verstandig nu na te denken over de ethische, juridische en sociale consequenties van de opkomst van robots. Vergeet niet dat de Amerikanen al robots gebruiken bij militaire operaties in Irak en Afghanistan, waar ze met de machines mensen doden. Bovendien komen we steeds dichter bij het moment dat elk huishouden een of meerdere robots in dienst heeft.
Als het onverhoopt misgaat, wie betaalt dan de schade? Als een huishoudrobot een dure vaas kapot laat vallen, wie draait er dan op voor de kosten? Of extremer: als een verzorgingsrobot een patiënt blijvende fysieke schade toebrengt, wie is er dan aansprakelijk? Op dit moment zijn het de ontwerpers die volledig voor hun creatie moeten instaan. Het duurt echter niet lang meer of er verschijnen robots op de markt waarvan het gedrag in zekere mate een spontaan en onvoorspelbaar gevolg is van het design en de invoerbeslissingen van mensen en zelfs andere machines. Wie zal een rechter dan als schuldige aanwijzen?
Het eerste probleem is dat er, voor zover ik weet, geen wetgeving bestaat die rekening houdt met dergelijke nieuwe mogelijkheden in robottechnologie. Natuurlijk zijn er wetten en regels die ook betrekking hebben op robots. Dat ze langzaam evolueren naar zelfdenkende en zelfbeslissende systemen hebben de beleidsmakers ongetwijfeld niet ingecalculeerd. Het is daarom goed dat een initiatief als Roboned het voortouw neemt. Op een recente bijeenkomst van het platform was de discussiesessie over dit onderwerp een van de populairste.
Een tweede probleem is dat het grote publiek slecht is voorgelicht. Velen halen al hun kennis over robots uit sciencefictionfilms en -boeken, maar Terminator en Transformers geven nou niet echt een reële voorstelling van zaken. Het zou daarom goed zijn om openbaar de mogelijkheden én onmogelijkheden te bespreken. Daarna kunnen we pas goed discussiëren en debatteren over wat we eigenlijk van robots verwachten. Wat willen we dat ze doen? En wat willen we vooral niet?
De politici zullen pas bedenken hoe ze met intelligente robots moeten omgaan als ze ermee worden geconfronteerd. Dat is te laat. Aan de industrie kunnen we het niet overlaten. Robots zijn immers big business en commerciële bedrijven zijn zelden oprecht geïnteresseerd in fundamentele beperkingen als die niet wettelijk zijn vastgelegd en de winst in de weg staan. Omdat de militaire industrie een grote motor is achter het robotonderzoek en ze daar al helemaal niet zitten te wachten op lastige regeltjes, is het hoog tijd gezamenlijk een standpunt in te nemen.
Sciencefiction heeft ons hierbij een mooi startpunt gegeven. Al in de jaren veertig van de vorige eeuw formuleerde Isaac Asimov zijn drie wetten van de robotica. Voor wie ze niet (meer) kent:
1. een robot mag een mens geen letsel toebrengen of door niets te doen, toestaan dat een mens letsel oploopt;
2. een robot moet de bevelen van mensen opvolgen, tenzij dat in strijd is met de eerste wet;
3. een robot moet zichzelf beschermen, tenzij dat in strijd is met de eerste twee wetten.
Uiteraard zijn die wetten bij lange na niet sluitend. Sterker nog: er zijn boeken vol geschreven over mensen of robots die tussen de mazen van het net door glippen. Ik zie het echter als een goede basis. Zoals de fundamentele rechten van de mens zijn dit de fundamentele plichten van een robot.