SÉNAT DE BELGIQUE BELGISCHE SENAAT
________________
Session 2012-2013 Zitting 2012-2013
________________
2 juillet 2013 2 juli 2013
________________
Question écrite n° 5-9456 Schriftelijke vraag nr. 5-9456

de Nele Lijnen (Open Vld)

van Nele Lijnen (Open Vld)

au vice-premier ministre et ministre de la Défense

aan de vice-eersteminister en minister van Landsverdediging
________________
Les robots tueurs De killer robots 
________________
robot industriel
robotisation
nouvelle technologie
armement
armée
industriële robot
toepassen van robots
nieuwe technologie
bewapening
krijgsmacht
________ ________
2/7/2013 Verzending vraag
1/8/2013 Antwoord
2/7/2013 Verzending vraag
1/8/2013 Antwoord
________ ________
Requalification de : demande d'explications 5-3504 Requalification de : demande d'explications 5-3504
________ ________
Question n° 5-9456 du 2 juillet 2013 : (Question posée en néerlandais) Vraag nr. 5-9456 d.d. 2 juli 2013 : (Vraag gesteld in het Nederlands)

Human Rights Watch mène une campagne pour demander aux gouvernements de s'opposer au développement d'instruments de guerre totalement autonomes et agissant sans intervention humaine. Ces « robots tueurs » pourraient devenir une réalité en 2030, selon un rapport de l'armée américaine; ils formeraient alors la composante la plus faible d'une armée. Un autre rapport a annoncé que l'on travaillait actuellement à une autonomie contrôlée mais que l'autonomie complète était l'objectif ultime. En ce moment, le Pentagone exige encore qu'un homme décide si le robot ou le drone peut faire feu. Mais un robot totalement autonome serait capable de réagir bien plus rapidement à une situation et donc aussi faire feu plus rapidement. Si certains pays (Chine, Russie, …) continuent à développer ces technologies, les USA ou le Royaume-Uni ne voudront pas se laisser dépasser.

Les arguments contre de pareils « robots tueurs » sont nombreux. Le plus important est éthique : là où des soldats, même fanatisés et cruels, restent en fin de compte des êtres humains, ce n'est pas le cas des robots. Ils ne sont pas en état de prendre des décisions complexes de vie ou de mort. Pourraient-ils distinguer les civils des soldats, surtout dans des conflits où cette séparation n'est pas claire ? À la différence des êtres humains, il ne connaissent probablement pas la clémence, et il se pose la question de savoir s'ils se rendraient dans une situation sans issue. Même si on réussissait à donner une « conscience » aux robots, une autorité malveillante pourrait encore la déconnecter.

Des organisations de la société civile demandent que l'on interdise préventivement le développement et l'utilisation de ces robots, avant que l'opportunité, l'argent et l'urgence pour ces développements ne deviennent effectives.

J'aimerais poser au ministre les questions suivantes :

1) Que pense le ministre du développement de robots complètement autonomes comme éléments des guerres futures ? Pense-t-il que cela ait quelque crédibilité ? Est-il question d'une course aux armements dans ce domaine entre les États-Unis et d'autres pays ?

2) Le ministre estime-t-il qu'il soit admissible, sur le plan éthique, que de tels robots puissent, à l'avenir, prendre de manière totalement autonome des décisions sur le champ de bataille, sans qu'un être humain ne fasse le choix de faire feu ? Peut-il expliquer sa position ?

3) Le ministre pense-t-il qu'un problème surgira autour de la responsabilité liée à des crimes graves commis par de pareils robots ?

4) Que pense-t-il de l'appel à arrêter ce type de développement, étant donné les préoccupations que suscitent ces robots guerriers totalement autonomes ?

5) Quel rôle joue déjà notre pays dans le développement de technologies permettant à des machines (partiellement) autonomes de combattre ? Le ministre pense-t-il que notre pays, à cause du rôle innovant de notre industrie de l'armement, contribuera à ces développements ? Peut-il expliquer sa position ?

 

Human Rights Watch voert campagne om regeringen te vragen zich te verzetten tegen de ontwikkeling van volledig autonome en onbemande oorlogstuigen. Deze zogenaamde "killer robots" zouden volgens een rapport van het Amerikaanse leger in 2030 realiteit kunnen zijn, waardoor gewone militairen de zwakste component van een leger zouden worden. Een andere rapport stelde dat men nu werkt aan gecontroleerde autonomie, maar dat volledige autonomie het ultieme doel is. Op dit moment wil het Pentagon nog dat een mens beslist of de robot of drone mag vuren. Maar een volledig autonome robot zou veel sneller kunnen reageren op een situatie en dus ook veel sneller kunnen vuren. Wanneer bepaalde landen (China, Rusland, …) deze technologieën verder gaan ontwikkelen, zullen de V.S. of het V.K. niet willen achterblijven.

De argumenten tegen zulke "killer robots" zijn talrijk. Het belangrijkste is het ethische aspect: daar waar soldaten, hoe fanatiek en wreed ook, uiteindelijk nog mensen zijn, geldt dit niet voor robots. Zij zijn niet in staat complexe beslissingen te nemen met betrekking tot leven en dood. Zouden ze het onderscheid kunnen maken tussen burgers en soldaten, zeker in conflicten waar dit onderscheid niet duidelijk is? In tegenstelling tot mensen kennen ze waarschijnlijk geen genade, en het is maar de vraag of ze zich zouden overgeven in een wanhopige situatie. Zelfs al zou men er in slagen om de robots een “geweten'” te geven, dan nog zou een kwaadwillige overheid deze kunnen uitschakelen.

Organisaties uit het middenveld roepen op om de ontwikkeling en het gebruik van deze robots preventief te verbieden. Dit voordat het momentum, de gelden en de urgentie er voor deze ontwikkelingen werkelijk zijn.

Graag had ik de minister volgende vragen gesteld:

1) Hoe ziet de minister de ontwikkeling van volledig autonome robots als onderdeel van toekomstige oorlogen? Acht hij dit geloofwaardig? Is er op dit vlak sprake van een wapenwedloop tussen de Verenigde Staten en andere landen?

2) Vindt de minister het ethisch toelaatbaar dat zulke robots in de toekomst volledig autonoom beslissingen kunnen nemen in het strijdveld, zonder dat een mens kiest om te vuren? Kan u toelichten?

3) Denkt de minister dat er een probleem zal ontstaan omtrent de aansprakelijkheid met betrekking tot grove misdaden van zulke robots?

4) Wat vindt hij van de oproep om dergelijke ontwikkelingen een halt toe te roepen, gelet op de bezwaren die gemaakt worden tegen volledig autonome oorlogsrobots?

5) Welke rol speelt ons land reeds in de ontwikkeling van technologieën om machines (deels) autonoom te laten vechten? Denkt de minister dat ons land, gelet op de innovatieve rol van onze wapenindustrie, mee zal bijdragen aan deze ontwikkelingen? Kan hij toelichten?

 
Réponse reçue le 1 aôut 2013 : Antwoord ontvangen op 1 augustus 2013 :

L'honorable membre est prié de trouver ci-après la réponse à ses questions.

En ce qui concerne le développement de technologies de Défense, la Belgique s’oriente sur l'OTAN et l'Union européenne. Aucune de ces deux organisations n’a de projets en cours sur le développement de robots totalement autonomes. D’éventuels plans individuels d'autres pays dans ce contexte ne sont pas connus de la Défense.

Je peux donc confirmer qu’à la Défense aucun développement technologique dans le domaine « killer robots » ne se fait. Aucun projet dans cette direction n’est prévu dans un avenir proche. Le Service de Déminage et de Destruction d'Engins Explosifs dispose bien d’un robot, équipé d'un canon à eau à haute pression, qui vise à neutraliser des explosifs. Ce robot est intégralement sous surveillance humaine, donc également les tirs du canon à eau, mais je ne pense pas que l'on puisse parler d'un « killer robot », il s'agit plutôt d'un « saver robot ».

Het geachte lid wordt verzocht hierna het antwoord te willen vinden op de door haar gestelde vragen

België richt zich wat betreft de ontwikkeling van defensietechnologie op de NATO en de Europese unie. Geen van beide organisaties heeft projecten lopen betreffende de ontwikkeling van volledig autonome robots. Eventuele individuele plannen van andere landen in dit verband zijn bij Defensie niet bekend.

Ik kan dus bevestigen dat er bij Defensie geen enkele technologische ontwikkeling in het domein van de “killer robots” gebeurt. Geen enkel project dat die richting uitgaat, is voorzien in de nabije toekomst. De Dienst voor Ontmijning en Vernietiging van Ontploffingstuigen beschikt wel over een robot, uitgerust met een waterhogedruk-kanon, die bestemd is om explosieven te neutraliseren. Deze robot staat integraal onder menselijk toezicht, dus ook het afvuren van het waterkanon, maar ik denk niet dat wij het hier over een “killer robot” kunnen hebben, het gaat eerder over een “saver robot”.