‘Killer robots: wapens die zelf beslissen over leven of dood, willen we dat?’

‘Middelbare scholieren uit Ieper kiezen iedere drie jaar wie de Vredesprijs van de stad in ontvangst mag nemen. Dit jaar kozen ze voor de Campaign to Stop Killer Robots’, schrijft Stefan Nieuwinckel van Pax Christi. ‘Die is deze week in ons land om de prijs in ontvangst te nemen. Weet u evenveel over killer robots als de middelbare scholieren van Ieper? En onze politici, zijn ze even alert om tegen deze nieuwe wapensystemen op te treden?’

Killer robots zijn autonome wapensystemen die volledig zelfstandig – dus zonder tussenkomst van de mens – een doelwit selecteren en dit ook kunnen uitschakelen. Misschien dacht u in de eerste plaats aan drones. De drones die vandaag al worden ingezet op het slagveld worden wel nog bestuurd door een mens en vuren op menselijk bevel. Een killer robot kan een drone zijn, maar ook eender welk ander wapensysteem. De essentie is dat een algoritme aan de slag gaat om een doel te selecteren en dit uit te schakelen. De eerste killer robots zijn al te koop.

Dit stelt het technologiedebat op scherp. Wat zijn de gevaren als we dit toelaten? We kennen veel geweldige toepassingen van artificiële intelligentie, van verkeersregeling tot medische wonderen. Maar wapens die zelf beslissen over leven of dood: willen we dat?

Ik vind dit een angstaanjagend idee, zo de controle over wat essentieel is uit handen geven. En ik ben niet alleen. Experts van het internationale recht fronsen meer dan de wenkbrauwen: als er (oorlogs)geweld gepleegd wordt, moet de verantwoordelijkheid daarvoor kunnen vastgesteld worden. Kan een machine verantwoordelijk geacht worden? Ik hoop dat ook veiligheidsstrategen meer zien dan het mooie speelgoed. Als autonome wapens vrij ‘hun ding’ doen, wie roept hen dan nog terug? Wie stopt een escalatie?

Laat ons op cruciale momenten in de technologische ontwikkeling toch vooral ook de ethische vraag centraal stellen. Algoritmes zijn regels code. Willen wij dat een reeks enen en nullen, hoe gesofisticeerd ook, beslist over leven en dood? Brengen we zo onze menselijkheid niet in gevaar? Die vraag stellen ook veel militairen zich. Zij gaan akkoord dat het outsourcen van de beslissing om te doden aan een machine zowel strategisch als ethisch onverantwoord is.

Het is aan onze politieke vertegenwoordigers om nù te handelen. De Verenigde Naties zijn het speelveld waar een verbodsverdrag tot stand kan komen. De Secretaris-Generaal van de VN sprak zich al duidelijk uit in die zin. Meer en meer landen tonen zich voorstander van een verdrag. In december valt er een belangrijke beslissing of er een proces voor een verbodsverdrag wordt opgezet. Als voorzitter van de werkgroep die hierover aanbevelingen moet doen, zit ons land mee aan de knoppen.

Ook onze regering sprak zich al uit voor een internationaal verbod. Ondertussen werd er in afwachting van een internationaal verbod een voorstel voor een nationale wet op het verbod op killer robots ingediend in het parlement. Dat is belangrijk op zich en is bovendien een belangrijke graadmeter voor de houding van onze regering op internationaal terrein. Woensdag jl. hierover tijdens een hoorzitting gedebatteerd in de bevoegde commissie. De leerlingen uit Ieper konden niet dichter op de actualiteit zitten met hun Vredesprijs.

Voor velen is het duidelijk: de beloftevolle technologie, die we op zoveel manieren kunnen inzetten om deze wereld beter te maken, kunnen en mogen we niet inzetten voor destructie. Daar zijn de Ieperse leerlingen het helemaal mee eens. Voor onze politici ligt er een duidelijk pad klaar dat begint in de Kamercommissie op woensdag, en eindigt met onderhandelingen in de Verenigde Naties. Ieper blijft een symbolische vredesstad: hier werden de gruwelen van de ’technologische vooruitgang’ op het slagveld van WO I getoond.

Ik wens elke politicus en politica die – vanuit welke positie dan ook – kan bijdragen aan de noodzakelijke stappen naar een verbodsverdrag de inspiratie die deze Vredesprijs van de Ieperse leerlingen brengt.