Drones tueurs pilotés par IA : bientôt un traité pour encadrer leur utilisation ?

• Selon l’ONU, des systèmes d’armes létales autonomes ont été utilisés par les armées russes et ukrainiennes sur le champ de bataille.
• Des discussions pour encadrer l’usage de ces armes sont en cours aux Nations unies depuis 2013 et pourraient aboutir à un cadre réglementaire.
• TF1info a contacté Raja Chatila, professeur émérite d’intelligence artificielle et d’éthique des technologies à Sorbonne Université.

Des armes autonomes capables de choisir leurs cibles et d’appuyer sur la détente sans la moindre intervention humaine. Le 24 août, une enquête du New York Times affirmait qu’un drone russe autonome piloté par l’intelligence artificielle (IA) aurait tué trois personnes le 6 juillet dans la ville ukrainienne de Zaporijia (nouvelle fenêtre). Selon le quotidien américain, l’engin devait frapper une station-service mais aurait finalement choisi de manière autonome sa cible précise, probablement des réservoirs de propane. Le journal britannique The Guardian a de son côté évoqué un seul mort, affirmant que cette attaque avait été perpétrée par un drone Molniya. 

L’analyse des débris a révélé que l’engin était équipé d’un « mini-ordinateur embarqué » commercialisé par le géant américain des puces Nvidia, qui a déterminé par lui-même la cible, selon le quotidien américain qui cite des experts et des responsables militaires. Le Haut-Commissaire de l’ONU aux droits de l’homme, Volker Türk, s’est dit « horrifié » par ces informations. « Je m’associe aux appels en faveur d’une interdiction urgente des armes capables de tuer sans intervention humaine« , a-t-il plaidé lundi 7 septembre devant le Conseil des droits de l’homme de l’ONU à Genève, en Suisse. Selon lui, « l’armée ukrainienne aurait également procédé à des essais sur le terrain ».

Il y a une certaine urgence à délimiter la légitimité de l’utilisation de ces systèmes

Raja Chatila, professeur émérite d’intelligence artificielle et d’éthique des technologies

Pour Raja Chatila, professeur émérite d’intelligence artificielle et d’éthique des technologies à Sorbonne Université, il ne fait aucun doute que de nombreux pays maîtrisent cette capacité, mais ceux qui l’utilisent ne le disent pas et, par conséquent, cela reste difficile à démontrer. L’IA est une technologie susceptible d’être intégrée dans un système d’armes autonome, mais elle ne constitue pas, en soi, une arme autonome, rappelle ce spécialiste. 

« Avec l’intelligence artificielle, les drones sont dotés de capacités de guidage, de reconnaissance et de ciblage quasi autonomes. Si la décision est basée sur des informations fournies par l’IA, que ces données sont biaisées, erronées ou non conformes à la légalité, et que l’humain n’a pas le moyen de le savoir, c’est la machine qui va décider finalement, même si c’est le pilote du drone qui appuie sur le bouton », souligne Raja Chatila. « Et donc, il y a une certaine urgence à délimiter la légitimité de l’utilisation de ces systèmes d’armes autonomes de manière à responsabiliser ceux qui vont avoir la tentation de s’en servir », ajoute-t-il.

Depuis 2013, sous l’impulsion de la France, des discussions ont lieu sous l’égide de l’ONU pour réguler les systèmes d’armes létales autonomes (Sala), souvent qualifiés de « robots tueurs ». Samedi 5 septembre, 128 pays ont trouvé un accord sur un rapport définissant les armes autonomes. En novembre, les États décideront de la suite à donner et s’ils ouvrent des négociations sur un traité encadrant ces armes, une décision qui devra toutefois faire consensus. Selon Lex International, un fonds philanthropique basé à Genève, « les États-Unis, la Russie, l’Inde et Israël figurent parmi les principaux opposants » à ces négociations.