‘Killer robots moeten verboden worden voor het te laat is’

De federale regering moet op om op internationaal niveau pleiten voor een preventief verbod op de zogenoemde ‘killer robots’, vinden Willem Staes van Pax Christi Vlaanderen en Daan Kayser van Pax Nederland.

Het gebeurt niet vaak dat we de kans hebben iets te verbieden voordat het te laat is. Die kans is er nu. Op 15 maart wordt in het federale parlement een resolutie besproken over zogenaamde “killer robots”. De resolutie roept de federale regering op om op internationaal niveau te pleiten voor een preventief verbod, en zelf een nationaal verbod in te stellen.

Drones op steroïden

Dit komt geen dag te vroeg. Killer robots zijn gewapende drones op steroïden: moordmachines die volledig autonoom doelwitten kunnen selecteren en aanvallen zonder enige menselijke interventie. Dergelijke machines zijn hoogstwaarschijnlijk niet in staat om een onderscheid te maken tussen burgers en soldaten, of om in te schatten of een aanval proportioneel is in termen van het aantal burgerslachtoffers. Ze zijn daarom niet verenigbaar met het internationaal recht. Het Internationale Rode Kruis had het al in 2011 over een ‘monumentale programmeeruitdaging’ die ‘misschien wel onmogelijk blijkt te zijn.’

Killer robots verlagen bovendien de drempel om geweld te gebruiken. Daarnaast rijst de vraag wie verantwoordelijk kan worden gehouden als het mis gaat: de programmateur of de producent? Of slepen we binnenkort ook robots zelf voor de rechter?

Meer dan 3.000 experts op het vlak van robotica en artificiële intelligentie (waaronder Stephen Hawking en Elon Musk), twintig Nobelprijswinnaars, het Europees Parlement, 160 religieuze leiders en de Speciale VN-Rapporteur voor Buitenrechtelijke Executies roepen daarom op tot een volledig verbod.

Derde revolutie in oorlogsvoering

Pax Christi Vlaanderen en PAX Nederland zijn lid van de Campaign to Stop Killer Robots, een internationale coalitie van 61 organisaties uit 26 landen die ijvert voor een preventief verbod op de ontwikkeling en productie van killer robots. De campagne ziet het preventief verbod van verblindende laserwapens in 1995 als voorbeeld van de mogelijkheid om ongewenste wapens te verbieden voordat ze een realiteit zijn.

De urgentie voor zo’n preventief verbod is hoog. Wetenschappers die werken rond artificiële intelligentie stellen dat de ontwikkeling van killer robots geen kwestie is van decennia, maar van enkele jaren.

Deze wetenschappers, die tot de absolute top in hun vakgebied behoren, hebben het over de ‘derde revolutie in oorlogsvoering, na buskruit en kernwapens‘. Ze wijzen er ook op dat dergelijke wapensystemen relatief makkelijk na te maken zijn, wat dreigt te leiden tot een razendsnelle verspreiding op de zwarte markt. Betrokken wetenschappers hebben het over de ‘kalasjnikovs van morgen.’

De geschiedenis leert ons dat de mensheid niet erg goed is in het inschatten van de gevaren van nieuwe ontwikkelingen in wapentechnologie. Nationale regeringen interpreteren het internationaal recht ook vaak naar eigen goeddunken, waardoor het huidige regulerende kader niet volstaat. De snelle proliferatie en ongecontroleerde inzet van “gewone” gewapende drones toont hoe regelgeving altijd achter de feiten aanloopt. Het is ook maar de vraag of landen die nu miljarden dollars investeren in de ontwikkeling van steeds autonomere wapensystemen in de toekomst nog akkoord gaan met een verbod.

Belgisch leiderschap

Recent IPSOS-onderzoek toont dat 63 procent van de Belgische bevolking tegen de ontwikkeling van killer robots is. België kan en moet daarom een leidende rol spelen in deze internationale debatten. In het verleden was dit vaak het geval. In 1996 en 2006 was België het eerste land dat een nationaal verbod instelde op landmijnen en op cluster munitie.

In 2017 heeft België weer de kans om een leidende rol te spelen. Binnen internationale fora moet ons land pleiten voor een preventief verbod op killer robots. In eigen land kan een nationaal verbod worden ingesteld op de ontwikkeling en het gebruik van deze wapensystemen.

We staan op de rand van een nieuw tijdperk: de volledige automatisering van oorlogsvoering en het uitbesteden van beslissingen over leven en dood aan computerprogramma’s. Killer robots zullen niet lang sciencefiction zijn. Het is daarom essentieel om geen feiten te creëren die we nadien niet meer kunnen terugdraaien. Killer robots moeten verboden worden voordat het te laat is.

Willem Staes is beleidsmedewerker Veiligheid en Ontwapening bij Pax Christi Vlaanderen

Daan Kayser is programmamedewerker humanitaire ontwapening bij PAX Nederland