01 56 43 68 80

6, rue de Saint-Petersbourg, 75008 Paris

Les robots tueurs bénéficient d’un vide juridique qu’il convient de combler

iStock 000065158775 Medium

Par Gérard HAAS et David GRANEL

Les avancées en matière d’intelligence artificielle et dans la robotique pourraient faire émerger sur un plan militaire d’ici quelques années des « robots soldats » ou des « robots tueurs », les termes sont à choisir selon la sensibilité de chacun. Néanmoins, l’expression technique retenue pour désigner ces robots est «systèmes d’armes létaux autonomes».

Les «systèmes d’armes létaux autonomes» ou la 3ème révolution des techniques de guerre

La technologie va conduire, selon certains spécialistes des questions militaires, à la troisième révolution dans les techniques de guerre. La première fût liée à l’invention de la poudre à canon qui a limité le combat frontal. La seconde fût l’arme absolue qui n’en reste pas moins une force dissuasive, à savoir, l’arme nucléaire, elle est néanmoins réservée à un club d’Etats limité.

Les robots produits en série pourraient constituer de véritables armées à prix « discount », à la  conception facile et à la production rapide par tous. Etats belliqueux, dictateurs et autres groupes terroristes seraient friands de ces «systèmes d’armes létaux autonomes» qui subviendraient à leurs plus funestes ambitions.

Si « 1984 » de George Orwell a suscité quelques peurs et fantasmes avec « Big Brother is watching you », que dire :

  • si dans l’avenir, certaines parties du monde disposent de caméras avec mitraillettes intégrées ?
  • si des groupes terroristes envoient des robots n’ont pas kamikazes mais à usage unique perpétrer des attentats ?

La technologie existe donc pour les concevoir et certains sont déjà produits. C’est le cas notamment au sud de la frontière entre les deux Corées, où des gardes d’un nouveau genre surveillent la zone démilitarisée. Ces gardes fabriqués par l’industriel Samsung (qui ne fabrique donc pas que des téléphones et des téléviseurs) n’ont pas d’identité mais un acronyme : SGR-A1. Ces robots sont équipés de capteurs et de caméras, comme tout bon système de surveillance. Mais, ils sont aussi dotés de mitrailleuses et de lance-grenades pour une toute autre mission…

 

Le droit international pour interdire ou encadrer les «systèmes d’armes létaux autonomes»

A l’issue de la seconde guerre mondiale, la Convention de Genève de 1949 est venue définir et renforcer les règles de protection des personnes en cas de conflit armé. Ces robots devraient donc s’y soumettre et plus généralement leurs fabricants et leurs utilisateurs. Mais le texte n’avait pas anticipé ces armes d’un nouveau genre et autonomes.

L’intelligence artificielle au défi de la notion de « crime de guerre ».

Techniquement, ces robots sont des armes de guerre dotées d’une intelligence artificielle permettant à leurs logiciels de prendre la décision d’éliminer une cible. Sont-ils pour autant des soldats au sens strict (tout homme de guerre) puisqu’ils sont dépourvus de personnalité, de sensibilité et de subjectivité, seront-ils capables de distinguer un civil parmi des combattants, une personne blessée d’une personne présentant une réelle menace.

Au-delà quelle serait la responsabilité de ces systèmes belliqueux si nous sommes face à des « crimes de guerre ».

Apprendre à ces robots à faire la différence entre « le bien » et « le mal » et programmer dans ces machines un logiciel d’humanité reste pour l’instant un défi non résolu.

Enfin, observons qu’à ce jour, aucun cadre juridique international n’est adapté à ces «systèmes d’armes létaux autonomes», tant au niveau de la production que de l’utilisation, aussi, l’ONU envisage de le faire rapidement avant que cette technologie ne se développe et prolifère.

Contre ces robots tueurs, diverses personnalités telles qu’Elon Musk, PDG de TESLA, Steve Wozniak, cofondateur d’Apple et des scientifiques et intellectuels appellent à signer une pétition visant à interdire cette technologie.

 

#avocat, #intelligenceartificielle, #robot, #robottueur

ENVELOPPE NEWSLETTER copie

L'actu juridique numérique
du mardi matin.

Inscrivez-vous pour recevoir nos derniers articles, podcasts, vidéos et invitations aux webinars juridiques.

*Champs requis. Le cabinet HAAS Avocats traite votre adresse e-mail pour vous envoyer ses newsletters.

Vous pouvez accéder aux données vous concernant, les rectifier, demander leur effacement ou exercer votre droit à la limitation du traitement de vos données en nous contact à l’adresse mail suivante : dpo@haas-avocats.com