Preventief verbieden killer robots naïef

Afgelopen dinsdag werd er in NRC door “drie deskundigen op het gebied van AI” een lans gebroken voor een verbod van autonome wapensystemen, tendentieus “killer robots” genoemd. Deze oproep en de discussie galmt al jaren door universiteiten en een overleggroep in het kader van de VN waar de belangrijkste spelers, de VS, Rusland, China, Noord-Korea, India en Israel geen deel van uit maken. Zij gaan door met het verder ontwikkelen van autonome wapensystemen en verdedigen dit onder meer dat op deze wijze effectiever inzet mogelijk is, minder “collateral damage” zal optreden en   emotionele uitwassen en misbruik (zoals recent bekend werd uitgevoerd door Australische commando’s in Afghanistan en andere talloze historische voorbeelden) wordt geminimaliseerd.  De genoemde landen zien de ontwikkeling van de AI technologie met name als perfectionering van defensiesystemen als bijvoorbeeld een autonoom functionerend patriot verdedigingssysteem die kunnen bijdragen tot verdere afschrikking van het gebruik van agressieve wapensystemen. Daarnaast is er het probleem van de terminologie: er is nog geen overeenstemming over de definitie van autonome wapensystemen en wat valt in “vredesnaam”onder betekenisvolle menselijke controle (meaningful human control)?  Een verbod van het gebruik van autonome wapensystemen zal er mijns inziens niet komen, hooguit een “non-proliferatieverdrag”, vergelijkbaar met het nucleaire niet-verspreidingsverdrag. Dit wordt echter pas  verwacht als genoemde landen voldoende autonome wapensystemen hebben ontwikkeld om hun afschrikking te realiseren. De vraag is of deze beperking afdoende zal zijn om andere spelers van het gebruik en misbruik van deze wapens af te houden. De geschiedenis maakt duidelijk dat technologieontwikkeling niet is tegen te houden, en zeker niet op defensieterrein. En is het werkelijk zo’n groot verschil voor de slachtoffers of er een computer of een persoon met een joystick op de knoppen drukt? Degene die verantwoordelijk is voor de inzet van raketten, drones, “mother of all boms” of autonoom wapensysteem zal altijd tot verantwoording binnen het kader van het oorlogsrecht of internationaal strafrecht kunnen worden geroepen. De door de drie deskundigen aangegeven “zekerheid” dat de ontwikkeling van het ontbreken van menselijke inzet er voor zorgt dat de drempel om oorlog te voeren veel lager wordt is uit de lucht gegrepen. Juist de mens besluit op irrationele gronden tot het opnemen van wapens. Dat is helaas zo oud als de mensheid.

Rob van den Hoven van Genderen

(Vrije Universiteit Amsterdam, University of Lapland,  Switchlegal Advocaten)

DOOR communicatie & vorm