Il n'y aura pas de soulèvement de machines : les plus grands constructeurs de robots ont refusé de les équiper d'armes


Boston Dynamics et d'autres fabricants de robots ont refusé d'armer leurs machines. Des représentants des sociétés Agility Robotics, ANYbotics, Boston Dynamics, Clearpath Robotics, Open Robotics et Unitree Robotic ont écrit une lettre ouverte sur leur décision à tous les membres de la communauté robotique et les ont exhortés à écouter.


Les scientifiques contre la militarisation


L'émergence de robots très mobiles menace leur possible abus

dit la lettre.

La position générale des inventeurs est la suivante : il ne faut pas laisser les fruits du développement de nouveaux la technologie utilisé pour nuire aux gens.

Les opposants à la militarisation des machines pensent que l'utilisation de robots à des fins militaires ébranlera la confiance des gens dans les nouvelles technologies et la science en général.

Nous pensons que les robots mobiles modernes apporteront de grands avantages à la société en tant que collègues dans l'industrie et compagnons à la maison.

- disent les représentants des entreprises de robotique.

Dans le même temps, Ghost Robotics, également connu dans les milieux militaires, n'a pas soutenu la contestation. Ces développeurs de machines IA sont activement utilisés par l'armée américaine : le Pentagone teste actuellement leurs produits sur des sites de test.

Comme toute nouvelle technologie qui offre de nouvelles opportunités, l'avènement des robots mobiles avancés comporte des risques d'abus. Des personnes non dignes de confiance peuvent les utiliser pour violer les droits civils ou intimider d'autres personnes. Un domaine particulièrement préoccupant est l'utilisation de robots armés.

Comment les robots sont utilisés dans l'armée


En octobre dernier, la société susmentionnée Ghost Robotics a publié des photos du robot Q-UGV, qui a été créé à l'origine pour les opérations de reconnaissance, et a ensuite reçu un système de tir de tireur d'élite automatisé (photo). Contrairement aux tourelles fixes télécommandées connues de longue date, les armes robotisées peuvent fonctionner sans la participation d'un opérateur humain. Les armées américaines et australiennes étaient intéressées par des appareils similaires.

Il n'y aura pas de soulèvement de machines : les plus grands constructeurs de robots ont refusé de les équiper d'armes

L'armée russe ne nous a pas fait attendre longtemps pour une réponse. Le 19 octobre 2021, il a été annoncé que le robot de combat Marker était testé sur une chenille. Ils prévoient maintenant de le moderniser pour l'utiliser lors d'une opération spéciale en Ukraine. Le poids et les dimensions de la plate-forme resteront les mêmes que ceux des échantillons existants, mais les possibilités seront considérablement élargies. "Marker-2" visera au moins trois tâches: la protection, l'élimination des conséquences des urgences (ES) et la conduite de travaux auxiliaires dans des conditions de combat, en tenant compte des besoins des troupes. Le seul problème est de trouver des installations de production adaptées au projet.

Lors des tests de l'année dernière, trois "marqueurs" ont démontré le travail d'équipe de l'intelligence artificielle avec force et force: ils ont occupé avec compétence les positions de tir et réparti les cibles entre eux. Leur armement était bien plus puissant que celui du concurrent américain : mitrailleuses, lance-grenades et même roquettes. Si une voiture des États-Unis ressemble à un chien, alors notre "Marker" est comme un char miniature.


Des deux côtés, les militaires ont déclaré qu'ils n'utiliseraient des robots que pour protéger les installations critiques, et non dans les opérations de combat. Cependant, au printemps de l'année dernière, un rapport est apparu sur la table du Conseil de sécurité de l'ONU, qui indiquait que des robots de combat avaient été utilisés pour la première fois dans un affrontement ouvert avec des personnes.

L'utilisation de robots autonomes en temps de guerre : risques et enjeux éthiques


Selon le rapport, en 2020, des drones kamikazes turcs ont été utilisés avec le soutien des troupes libyennes occidentales visant à supprimer les positions des soldats du maréchal Haftar en Libye. Les drones agissaient en même temps de manière indépendante, sans contrôle externe.

Permettez-moi de souligner que les drones télécommandés que vous voyez dans la chronique militaire d'aujourd'hui ne sont pas à la hauteur d'une voiture autonome qui n'a besoin d'une personne que pour changer ses batteries. Ainsi, jusqu'à récemment, le concept de "tue une personne, pas une arme" était vrai. Même une bombe à tête chercheuse ou une fusée ne se contrôle pas, car une personne la lance sur les ordres de la même personne, mais avec un grand nombre d'étoiles sur les bretelles. Que se passera-t-il si les armes robotiques ont la liberté d'action ? Eh bien, si cela se passe comme dans la vieille blague: "Les chars intelligents ont décidé de ne pas se battre et sont allés boire du carburant diesel."


Qui sera responsable si le programme échoue et que les machines commencent à détruire des civils, des médecins, des casques bleus ou leurs propres militaires ? Qui peut donner une réponse exacte, s'agissait-il d'un bug, d'un hack ou d'une imitation malveillante d'un bug ? Comment, enfin, une machine peut-elle distinguer un ennemi d'un ami dans une semi-guérilla hybride, quand les mêmes Forces armées ukrainiennes utilisent des véhicules civils pour se déplacer ?

L'existence de robots de combat violera les dispositions des Conventions de Genève relatives à la protection des droits de la population civile dans la zone de conflits militaires, en particulier les principes de distinction et de proportionnalité. Le dernier postulat est que la population civile ne doit en aucun cas souffrir.

Une autre difficulté dans la régulation juridique et éthique de l'utilisation des drones autonomes est qu'il n'existe pas de définition claire d'un "système de combat autonome" au niveau international. Autrement dit, dans certains pays, à la fois un robot capable de choisir l'une de plusieurs options d'action, même s'il est sous contrôle externe, et un drone tueur entièrement automatique peuvent être considérés comme autonomes.

En août 2018, la troisième réunion du Groupe d'experts gouvernementaux des Nations Unies sur les systèmes autonomes de combat s'est tenue à Genève. Cependant, ses participants n'ont pas réussi à parvenir à des accords spécifiques en raison des contradictions ci-dessus. Et le développement de systèmes militaires autonomes se poursuit aujourd'hui.

Rien n'empêche, par exemple, le gouvernement américain de donner l'ordre au même Boston Dynamics de développer un drone de reconnaissance et, dans l'obscurité, de créer une filiale qui lui attachera des armes. Les contrats militaires sentent généralement l'argent fabuleux et le capitaliste est toujours à la recherche de profits. Ainsi, la réponse à la question de savoir s'il vaut la peine de croire à la déclaration «honnête d'avant-garde» des concepteurs est toujours ouverte.
4 commentaires
information
Cher lecteur, pour laisser des commentaires sur la publication, vous devez autoriser.
  1. FAIRE Офлайн FAIRE
    FAIRE (Dmitry) 7 Octobre 2022 16: 35
    +1
    Dans le même temps, Ghost Robotics, également connu dans les milieux militaires, n'a pas soutenu la contestation. Ces développeurs de machines IA sont activement utilisés par l'armée américaine : le Pentagone teste actuellement leurs produits sur des sites de test.

    L'essentiel est la nécessité pour le complexe militaro-industriel russe de travailler intensément dans cette direction.
    Sinon, la même chose se produira qu'avec le drone - l'armée russe sera obligée d'importer des robots de combat.
    1. Corsair Офлайн Corsair
      Corsair (DNR) 9 Octobre 2022 13: 06
      +3
      Citation : FAIRE
      L'essentiel est la nécessité pour le complexe militaro-industriel russe de travailler intensément dans cette direction.

      Et qui contesterait cela, sinon pour un "MAIS" (plus précisément, beaucoup d'entre eux) ?

      Le complexe militaro-industriel n'est pas en mesure de répondre simplement aux besoins des forces aérospatiales et de l'aviation de l'armée en bombes planantes réglables et en missiles air-sol de haute précision, de la classe feu et oublie, et vous vous êtes tourné vers les développements dans le domaine de l'IA...
  2. Sergey Latyshev Офлайн Sergey Latyshev
    Sergey Latyshev (Serge) 7 Octobre 2022 18: 33
    +1
    Dans la fiction, le problème a longtemps été envisagé. Il n'y a pas de contre-mesures. Tout le monde veut "démilitariser" un peu les opposants
  3. Vladimir Tuzakov Офлайн Vladimir Tuzakov
    Vladimir Tuzakov (Vladimir Tuzakov) 7 Octobre 2022 21: 54
    0
    les plus grands fabricants de robots ont refusé de les équiper d'armes.

    Il s'agit d'une désinformation militaire claire pour les crédules (les Russes). TOUJOURS la dernière technologie a été et est utilisée en premier lieu dans les affaires militaires - c'est la loi constante de la guerre à tout moment. Par conséquent, renforcer le développement et la mise en œuvre d'armes et d'équipements robotiques dans les troupes pour tous les types et branches de l'armée. Mais alors que Y. Borisov et V. Rogozin sont pour l'essentiel - le pillage des fonds alloués et les échecs des programmes sont garantis, il y a une telle expérience constante.