03/11/2021 (2021-11-03)
[Source : Amnesty International]
Amnesty International et la campagne Stop Killer Robots dévoilent mardi 2 novembre un filtre pour réseaux sociaux donnant un aperçu terrifiant du futur de la guerre, du maintien de l’ordre et du contrôle aux frontières. Escape the Scan, un filtre destiné à Instagram et Facebook, fait partie d’une grande campagne en faveur d’une nouvelle législation internationale visant à interdire les systèmes d’armement autonomes. Il utilise la technologie de la réalité augmentée afin de montrer certains aspects de systèmes d’armement déjà en développement, tels que la reconnaissance faciale, les capteurs de déplacement, et d’autres dispositifs ayant la capacité de lancer des attaques contre des « cibles » sans véritable contrôle humain.
Plusieurs pays sont très investis dans le développement des armes autonomes, malgré les implications dévastatrices pour les droits humains que comporte le transfert à des machines de la responsabilité du recours à la force. En décembre, un groupe d’experts des Nations unies doit se réunir afin de déterminer s’il est opportun de négocier une nouvelle législation internationale relative à l’autonomie des systèmes d’armement. Amnesty International et Stop Killer Robots ont lancé une pétition demandant à tous les gouvernements d’exprimer leur soutien en faveur de négociations.
Nous basculons dans un scénario de cauchemar, un monde où des drones et d’autres armes avancées peuvent sélectionner et attaquer des cibles sans aucun contrôle humain
Verity Coyle, Amnesty International
« Nous basculons dans un scénario de cauchemar, un monde où des drones et d’autres armes avancées peuvent sélectionner et attaquer des cibles sans aucun contrôle humain. Ce filtre est conçu pour donner aux utilisateurs une idée de ce que les robots tueurs seraient bientôt capables de faire, et montrer pourquoi nous devons agir de toute urgence afin que les humains gardent le contrôle du recours à la force », a déclaré Verity Coyle, conseillère principale sur les équipements militaires, de sécurité et de police pour Amnesty International.
« Permettre à des machines de trancher des questions de vie ou de mort constitue une atteinte à la dignité humaine, et risque en outre de causer des violations dévastatrices des lois de la guerre et des droits humains. Cela exacerbera par ailleurs la déshumanisation de la société sur l’espace numérique, qui réduit les personnes à des points de données à traiter. Il nous faut un traité international robuste et juridiquement contraignant afin de faire cesser la prolifération des robots tueurs – avant qu’il ne soit trop tard. »
Escape the Scan sera disponible à compter du 2 novembre sur les comptes Instagram et Facebook de Stop Killer Robots.
Une version grand format du filtre sera visible dans le cadre d’une expérience interactive à Westfield Stratford City – un des plus grands centres commerciaux d’Europe -, à Londres, pendant deux semaines à compter du 2 novembre.
We have had a decade of talks on autonomous weapons at the United Nations, but these are being blocked by the same states that are developing the weapons
Ousman Noor, Stop Killer Robots
Il est temps de fixer des limites
« Cela fait une décennie que l’on parle des armes autonomes aux Nations unies, mais ces discussions sont bloquées par les pays qui développent actuellement ces armes », a déclaré Ousman Noor, de la campagne Stop Killer Robots.
« Le secrétaire général des Nations unies, le Comité international de la Croix-Rouge, des prix Nobel, des milliers de scientifiques, de spécialistes de la robotique et de professionnel·le·s des technologies demandent un traité ayant force de loi afin d’empêcher que ces armes ne deviennent réalité. Les gouvernements doivent fixer des limites face à des machines capables de choisir de tuer. »
Le 2 décembre 2021, le Groupe d’experts gouvernementaux des parties à la Convention sur certaines armes classiques entamera des discussions cruciales, afin de déterminer s’il convient d’ouvrir des négociations sur un nouveau traité pour lutter contre la menace posée par des robots tueurs. Pour l’instant, 66 États ont appelé de leurs vœux un nouveau cadre juridiquement contraignant sur l’autonomie des systèmes d’armements. Les avancées sur ce terrain ont cependant été bloquées par un petit nombre d’États puissants, notamment la Russie, Israël et les États-Unis, qui considèrent que la création d’une nouvelle législation internationale est prématurée.
Quel est le problème ?
Le remplacement de soldat·e·s par des machines rendra la décision de partir en guerre plus facile. Par ailleurs, les machines ne peuvent pas effectuer de choix complexes sur le plan éthique dans des contextes imprévisibles comme les champs de bataille ou des scénarios du monde réel ; rien ne saurait remplacer une prise de décision humaine. Nous avons déjà vu que les technologies telles que la reconnaissance faciale, vocale, des émotions et de la démarche ont des difficultés à identifier les femmes, les personnes de couleur et les personnes présentant des handicaps ; et aussi qu’elles causent d’immenses torts aux droits humains lorsqu’elles « fonctionnent ». Employer ces technologies sur les champs de bataille, dans le domaine de l’application des lois ou de contrôle aux frontières, serait désastreux.
Malgré ces inquiétudes, des pays comme les États-Unis, la Chine, Israël, la Corée du Sud, la Russie, l’Australie, l’Inde, la Turquie et le Royaume-Uni effectuent de lourds investissements dans le développement de systèmes autonomes. Le Royaume-Uni développe par exemple actuellement un drone capable de voler en mode autonome et d’identifier une cible dans une zone programmée. La Chine est en train de créer de petits « essaims » de drones qui pourraient être programmés pour attaquer la moindre créature ayant une température corporelle, tandis que la Russie construit un tank robot sur lequel peuvent être fixés une mitrailleuse ou un lance-grenade.
Stop Killer Robots est une coalition mondiale de plus de 180 ONG internationales, régionales et nationales, et partenaires universitaires travaillant à travers 66 pays afin de garantir que les humains maintiennent un véritable contrôle du recours à la force, par le biais d’une nouvelle législation internationale. Amnesty International est une des neuf organisations faisant partie du comité directeur de cette coalition.
⚠ Les points de vue exprimés dans l’article ne sont pas nécessairement partagés par les (autres) auteurs et contributeurs du site Nouveau Monde.
