Hoe trek je de stekker uit de killerrobot?

Stop de killerrobot, voor het te laat is. In een open brief aan de Verenigde Naties eisen meer dan honderd ondernemers op het gebied van robotica een verbod op killerrobots. Hoe gevaarlijk is de ontwikkeling van autonome wapens? “Schrijf liever een brandbrief over privacy en computerbeveiliging,” zegt de Tilburgse hoogleraar Kunstmatige Intelligentie Eric Postma, “de gevaren daarvan zijn veel groter en urgenter.”

Het is een bekend scenario in science fictionfilms. Robots die zelfstandig worden en erop uittrekken om de mensheid te vernietigen. Maar als we niet snel iets ondernemen, komt dat toekomstbeeld misschien akelig snel dichterbij.

In de brief wijzen 116 robotica-ondernemers – waaronder Elon Musk van Tesla en Mustafa Suleyman van Googles DeepMind – erop dat autonome wapens de derde revolutie op oorlogsgebied ontketenen. Killerrobots kunnen schade aanrichten op een ongekend grote schaal, zeker als ze in verkeerde handen vallen, of gehacked worden.

De ondernemers maken de vergelijking met de doos van Pandora. Als de killerrobots er eenmaal zijn, is het lastig ze te stoppen. En het enge is: de eerste killerrobots bestaan al. Nog geen cyborgs zoals in de Terminator-reeks. Maar er bestaan al drones die zelfstandig hun doelwit kunnen identificeren en uitschakelen. En momenteel test het Amerikaanse leger de MAARS (Modular Advanced Armed Robotics System), een onbemande tank die zelfstandig opereert.

Al sinds de eerste robot bestaan er dystopische fantasieën waarin de mensheid het verliest van de technologie. Niks nieuws onder de zon dus? Misschien niet, maar het is wel voor het eerst dat makers van robotica zich massaal uitspreken tegen autonome wapens. Terecht? Eric Postma erkent dat nieuwe technologie gevaren met zich meebrengt, maar ziet niet hoe je zomaar de stekker uit de nieuwe ontwikkelingen trekt.

Deelt u de angst van de briefschrijvers?

“In het verleden heb ik vaak gereageerd op doemverhalen van Elon Musk of Stephen Hawking, waarin zij waarschuwden voor zelfstandig denkende robots die de wereld overnamen. Dat soort horrorscenario’s zijn onzin. Kunstmatige intelligentie is nog lang niet zover dat we moeten vrezen voor autonome robots die autonome beslissingen maken. En de vraag is of dat ooit gaat gebeuren. De open brief is overdreven. Ik snap niet waarom er zo panisch wordt gedaan.”

“De killerrobot is sexy. Er draait een hele filmindustrie op”

Killerrobots blijven dus voer voor science fictionfilms?

“Niet helemaal. Waar we het eigenlijk over hebben, zijn geautomatiseerde wapensystemen. Die systemen denken niet zelfstandig, maar handelen wel zelfstandig. Een drone heeft geen eigen gedachten, maar je kunt hem wel uitrusten met face recognition, waardoor hij eigenhandig zijn doelwit vindt. Daardoor kunnen geautomatiseerde wapensystemen ontzettend snel opereren. Daarin schuilt wel degelijk een groot gevaar. Er kan een ratrace ontstaan wie de snelste wapens maakt. Een conflict kan vervolgens heel snel en op grote schaal escaleren.”

(tekst loopt verder onder de foto) Toch maar de stekker eruit dan?

“Maar hoe doe je dat? Technologische vooruitgang is ontzettend moeilijk te reguleren. Kunstmatige intelligentie brengt de wereld veel voordelen. Sinds dit jaar wordt borstkanker sneller door de computer herkend dan door mensen. En niemand twijfelt aan het voordeel van een automatische piloot in een passagiersvliegtuig. Je kunt niet zomaar zeggen: we stoppen met technologische vooruitgang. Kunstmatige intelligentie zal zich verder ontwikkelen en zal ook met wapens worden gecombineerd. Daar doe je niks aan. Maar er zitten altijd mensen achter de wapens. De kans dat ze op eigen houtje de wereld in trekken, is echt heel klein.”

In de brief wordt gewaarschuwd wat er kan gebeuren als killerrobots gehacked worden door bijvoorbeeld terroristen.

“Kijk, dat is een reëel gevaar. Daar moet veel meer aandacht aan worden besteed. Moest ik een brandbrief schrijven, dan zou die over privacy en computerbeveiliging gaan. Dagelijks wordt er opnieuw bewezen dat veel systemen relatief makkelijk te hacken zijn. We hebben op dat gebied nog grote stappen te maken. En daar is wel degelijk haast bij. Jammer dat grote namen als Elon Musk daar niet massaal voor op de barricade gaan staan.”

Ze zoeken het gevaar in de verkeerde hoek?

“Ach, zo’n open brief over killerrobots, ik heb het idee dat die nog een ander doel dient.”

Wat dan?

“Zelfprofilering. Met een brandbrief over computerbeveiliging haal je de voorpagina’s niet. Met een apocalyptische waarschuwing voor killerrobots wel. Mensen zijn dol op dat soort verhalen. Er draait een hele filmindustrie op. De killerrobot is sexy.”

Advertentie

Bekijk meer recent nieuws

Schrijf je in voor onze nieuwsbrief

Blijf op de hoogte. Meld je aan voor de nieuwsbrief van Univers.