par Servan Le Janne | 11 mars 2018

 

La base

Toutes les 10 minutes, un appa­­reil décolle d’Al Oudeid, à 32 kilo­­mètres de Doha, la capi­­tale du Qatar. Sur le tarmac chauffé par les 50 degrés du mercure, les Boeing KC-135 Stra­­to­­tan­­ker sont garés les uns à côté des autres. Depuis les années 1990, l’avia­­tion améri­­caine rayonne au Moyen-Orient à partir de cette base mili­­taire de la taille d’un village qui a coûté un milliard de dollars. Plus de 10 000 mili­­taires y sont station­­nés. En 2003, 60 millions de dollars supplé­­men­­taires ont été inves­­tis pour construire un bunker qui « ressemble à un bâti­­ment sorti d’un film futu­­riste », d’après l’US Air Force.

La base mili­­taire d’Al Oudeid
Crédits : US Gov

À l’in­­té­­rieur de ce Combi­­ned Air Opera­­tions Center (CAOC), les couleurs améri­­caines sont aujourd’­­hui accom­­pa­­gnées des drapeaux de pays euro­­péens et de la pénin­­sule arabe. Une coali­­tion inter­­­na­­tio­­nale mène ici la guerre à l’État isla­­mique. Au mur, une carte de la région est proje­­tée sur laquelle naviguent de petit points verts. Il y a là des avions mais aussi des drones de combat. Derrière leurs ordi­­na­­teurs, les soldats en consultent les images. Mais ils ne peuvent pas tout voir.

En 2014, Washing­­ton possé­­dait plus de 8 000 aéro­­nefs auto­­nomes. L’an­­née suivante, une étude du cabi­­net IHS-Jane promet­­tait que le marché de ces appa­­reils allait doubler d’ici à 2024. Car ils sont de moins en moins chers. Déjà, « pour le prix d’un avion haut-de-gamme, une armée pour­­rait ache­­ter un million de drones », évalue le rapport Arti­­fi­­ciel Intel­­li­­gence and Natio­­nal Secu­­rity de Gregory C. Allen et Taniel Chan, publié en juillet 2017. « Si la chute des prix se pour­­suit dans la robo­­tique, elle pour­­rait en acqué­­rir un milliard. Dans pareil scéna­­rio, les drones seraient moins chers que certaines muni­­tions aujourd’­­hui. » Pour le cher­­cheur du Center for a New Ameri­­can Secu­­rity, Paul Scharre, « les mini-drones imprimé en 3D donne­­ront aux États-Unis la possi­­bi­­lité de faire voler des milliards – oui, des milliards – d’ap­­pa­­reils simili-insectes ».

Le flot d’images engen­­dré par cette nuée échappe déjà au contrôle humain. C’est pourquoi l’an­­cien sous-secré­­taire d’État à la Défense, Robert O. Work, a annoncé, le 26 avril 2017, la créa­­tion d’une « équipe inter-fonc­­tion­­nelle de guerre algo­­ri­th­­mique » afin de travailler sur un projet baptisé Maven. « Comme plusieurs études l’ont montré, le Dépar­­te­­ment de la Défense (DoD) doit inté­­grer l’in­­tel­­li­­gence arti­­fi­­cielle et le machine lear­­ning plus effi­­ca­­ce­­ment dans ses opéra­­tions pour main­­te­­nir son avan­­tage sur des adver­­saires de mieux en mieux dotés », écrit Work.

Un drone MQ-1C Gray
Crédits : US Air Force

En 2017, le DoD a investi 7,4 milliards d’eu­­ros dans l’in­­tel­­li­­gence arti­­fi­­cielle et l’ana­­lyse de données. Une partie est allée à l’équipe de six personnes travaillant sur le projet Maven, dont la direc­­tion a été confiée au lieu­­te­­nant géné­­ral de l’US Air Force Jack Shana­­han et au colo­­nel des marines Drew Cukor. Des recherches avaient déjà été effec­­tuées aupa­­ra­­vant sur des systèmes semi-auto­­nomes, mais c’est la première fois que le deep lear­­ning et les réseaux neuro­­naux « au niveau de l’in­­tel­­li­­gence arti­­fi­­cielle de pointe » sont concer­­nés, d’après Gregory C. Allen. Il faut bien ça pour analy­­ser les vidéos aériennes envoyées par des drones comme le ScanEagle, le MQ-1C Gray ou le MQ-9 Reaper.

« Leurs capteurs produisent des images qui ressemblent à ce que vous pouvez voir sur Google Earth », explique Gregory C. Allen. « Un seul drone génère des téra­oc­­tets de données chaque jour. Avant l’in­­té­­gra­­tion de l’in­­tel­­li­­gence arti­­fi­­cielle, une équipe d’ana­­lystes devait travailler pendant 24 heures pour en exploi­­ter une partie. » Cette tâche doit donc être auto­­ma­­ti­­sée. Et, si les drones sont capables de passer au cribles des images pour recon­­naître des objec­­tifs, ils pour­­raient bien être amenés à tirer sans qu’un ordre ait été donné. Les États-Unis ne sont d’ailleurs pas les seuls à plan­­cher sur des robots tueurs.

Dans cette optique, l’équipe inter-fonc­­tion­­nelle de guerre algo­­ri­th­­mique s’est entou­­rée d’ex­­perts en intel­­li­­gence arti­­fi­­cielle, et notam­­ment Google. Début mars 2018, la colla­­bo­­ra­­tion avec le DoD a été inten­­sé­­ment discu­­tée sur le serveur interne du géant de la tech. Et certains desti­­na­­taires, qui ont tenu à rester anonymes, ont fini par faire fuiter l’in­­for­­ma­­tion. Ils étaient mani­­fes­­te­­ment indi­­gnés par le fait que leur société aide à conce­­voir des tech­­no­­lo­­gies de surveillance pour drones mili­­taires. Le projet soulève en effet de nombreuses ques­­tions éthiques.

Le sergent

Dans la nuit du 19 octobre 2001, deux compa­­gnies du 3e bataillon du 75e régi­­ment de rangers de l’ar­­mée améri­­caine sautent en para­­chute au-dessus d’Objec­­tive Rhino, une zone au sud-ouest de l’Af­­gha­­nis­­tan. Sous le comman­­de­­ment du colo­­nel Joseph Votel, 200 hommes posent le pied en plein désert, non loin de la ville de Kanda­­har, pour y mener une des premières opéra­­tions contre les tali­­bans depuis les atten­­tats du 11 septembre. Parmi eux se trouve l’agent de recon­­nais­­sance Paul Scharre, un sergent qui a fait ses classes à Washing­­ton.

Si cet ancien étudiant en sciences et ses collègues n’af­­frontent cette fois pas de grande résis­­tance, cela change vite. Les atten­­tats-suicides commis par l’en­­nemi rela­­ti­­visent la supé­­rio­­rité de l’ar­­mée améri­­caine. « Depuis la Seconde Guerre mondiale, nous n’avons cessé de dire que ce n’était pas la quan­­tité qui comp­­tait, mais la qualité », retrace-t-il. « Cepen­­dant, dans les guerres actuelles, ce n’est pas suffi­­sant, il faut aussi de la quan­­tité. En cela, les systèmes auto­­nomes en grand nombre peuvent aider. » Son état-major mène la même réflexion, conscient que la mobi­­li­­sa­­tion d’un soldat en Afgha­­nis­­tan coûte cher (850 000 dollars par an).

En Irak, la mise en place d’un système de défense sol-air semi-auto­­nome n’a du succès que la foudroyance. Le 2 avril, une douzaine de jours après l’in­­va­­sion du terri­­toire par les États-Unis, deux missiles PAC-3 abattent un appa­­reil conduit par le lieu­­te­­nant de la Navy Nathan D. White, tué sur le coup. Personne n’est tenu respon­­sable. Après quatre ans en Afgha­­nis­­tan, Paul Scharre est juste­­ment affecté en Irak. Sa femme, Heather, d’un an son aînée, le voit partir de nouveau sans engoue­­ment : « Nous étions habi­­tués à des déploie­­ments de quatre mois et on nous dit main­­te­­nant d’at­­tendre entre 14 et 16 mois », se lamente-t-elle.

Envoyé sur place en tant que spécia­­liste des affaires civiles en 2006, Paul n’en est pas moins touché par le conflit, alors à son point culmi­­nant. « Il y avait un gros problème de cein­­tures explo­­sives dans la région », se souvient-il. Dans ce genre de situa­­tion, les armes suscep­­tibles d’être déclen­­chées à distance peuvent s’avé­­rer utiles. Cela dit, l’am­­bi­­guïté et la confu­­sion qui règnent parfois, en cas d’in­­sur­­rec­­tion, requièrent des déci­­sions à la fois rapides et complexes. « L’in­­tel­­li­­gence arti­­fi­­cielle actuelle est trop faible pour faire face à cela », juge-t-il.

Même si un traité était signé, il ne serait en lui-même pas suffi­­sant.

À son retour à Washing­­ton, en 2008, le sergent Scharre trouve un emploi à l’Of­­fice of the Secre­­tary of Defense, une unité qui, comme son nom l’in­­dique, dépend du DoD. Il dirige un groupe de travail sur les armes auto­­nomes. Cette notion existe véri­­ta­­ble­­ment depuis la créa­­tion, par l’US Air Force, du premier drone capable de tirer des missiles Mave­­rick en décembre 1971. Mais elle a gagné en popu­­la­­rité quand les Améri­­cains ont dû se doter de maté­­riel auto­­nome afin de ne pas s’ex­­po­­ser aux kami­­kazes en Irak. En 2007, ils y ont lancé la « première patrouille de robots armés », susci­­tant les craintes du profes­­seur de robo­­tique britan­­nique Noël Shark­­ley. « Nous avançons comme des funam­­bules dans un nouveau monde où les robots décident qui, où et quand tuer », écri­­vait-il cette année-là.

À Washing­­ton, Paul Scharre et ses collègues travaillent sur une direc­­tive afin de donner un cadre à la créa­­tion de systèmes armés auto­­nomes. Ce docu­­ment est achevé en 2012. « Les armes auto­­nomes et semi-auto­­nomes doivent être conçues pour permettre aux comman­­dants et aux opéra­­teurs d’exer­­cer un niveau appro­­prié de juge­­ment sur l’usage de la force », préco­­nise-t-il. Sauf que les États-Unis ne sont pas seuls. La même année, l’Ac­­coun­­ta­­bi­­lity Office du gouver­­ne­­ment améri­­cain note dans un rapport qu’en sept ans, « le nombre de pays a avoir acquis un véhi­­cule aérien auto­­nome est passé de 40 à 75 ».

Un intrus à la Maison-Blanche

Une pluie fine tombe sur Washing­­ton, ce lundi 26 janvier, à 3 heures du matin. C’est le moment idéal pour faire voler un drone, semble penser un employé d’une agence de rensei­­gne­­ment améri­­caine vivant à un jet de pierre de la Maison-Blanche. Ivre, l’homme actionne les quatre hélices du DJI Phan­­tom et le voit décol­­ler avant de le perdre de vue. Il envoie alors un texto inquiet à l’ami qui lui a prêté l’en­­gin puis s’en­­dort. Le lende­­main, il apprend qu’un drone a été retrouvé dans la rési­­dence offi­­cielle du président, pour­­tant équi­­pée pour détec­­ter les appa­­reils volants intrus. Heureu­­se­­ment, celui-ci n’était pas mal inten­­tionné – si tant est qu’un robot puisse l’être.

Crédits : Stop Killer Robots/Flickr

Depuis 2013, période à laquelle Paul Scharre a quitté son poste au DoD, la campagne Stop Killer Robots alerte sur la menace que repré­­sentent les armes auto­­nomes. Le rappor­­teur spécial des Nations Unies sur les exécu­­tions extra­­ju­­di­­ciaires, sommaires ou arbi­­traires réclame au même moment un mora­­toire sur leur déve­­lop­­pe­­ment. L’an­­née suivante, Paul Scharre a commencé à étudier ces ques­­tions en qualité de cher­­cheur au Center for a New Ameri­­can Secu­­rity (CNAS). Il constate que les « armes auto­­nomes super­­­vi­­sées par l’homme sont utili­­sées par au moins 30 pays. Elles le sont depuis des décen­­nies et n’ont pas entraîné de “robo­­po­­ca­­lypse” ».

Néan­­moins, l’amé­­lio­­ra­­tion de leur tech­­no­­lo­­gie tend à rendre toute super­­­vi­­sion détaillée obso­­lète. En avril 2016, la machine de la société DeepMind, AlphaGo, étale son intel­­li­­gence arti­­fi­­cielle au public en battant le cham­­pion de go Lee Sedol en tête à tête. Mais alors, qui sera respon­­sable si elle décide, plutôt que de dépla­­cer des pions, d’ap­­puyer sur la gâchette ? Rentrés aux casernes, ou réfu­­giés au Combi­­ned Air Opera­­tions Center (CAOC) d’Al Oudeid, les soldats n’au­­ront certai­­ne­­ment aucune envie d’as­­su­­mer les bavures qu’ils n’ont pas provoquées. De leur côté, les déci­­deurs poli­­tiques pour­­raient bien être plus enclins à se lancer dans la bataille, pourvu que les pertes humaines soient moindres.

« C’est peut-être vrai, mais à condi­­tion qu’il n’y ait abso­­lu­­ment personne derrière les canons », tempère Paul Scharre. « Que les armes soient auto­­nomes ou pas, c’est quelque chose de problé­­ma­­tique. » Lors de la session annuelle de l’As­­sem­­blée géné­­rale des Nations Unies, en octobre 2016, 36 pays ont affi­­ché leur volonté de donner un cadre légal inter­­­na­­tio­­nal aux systèmes armés auto­­nomes. Lors de la réunion de la Conven­­tion on Certain Conven­­tio­­nal Weapons qui s’est tenue à l’au­­tomne 2017, la Russie a regretté le manque de progrès dans ce domaine : « La diffi­­culté à distin­­guer clai­­re­­ment les domaines civils et mili­­taires dans le déve­­lop­­pe­­ment de systèmes auto­­nomes qui sont basés sur les mêmes tech­­no­­lo­­gies est un obstacle majeur à la discus­­sion », constate Moscou.

Même si un traité était signé, il ne serait en lui-même pas suffi­­sant. « Il y a un tas d’exemples, dans l’his­­toire, de trai­­tés prévoyant l’in­­ter­­dic­­tion d’armes qui ont ensuite été utili­­sées », pointe Paul Scharre. En octobre dernier, DeepMind a publié un article féli­­ci­­tant AlphaGo Zero. Cette nouvelle machine se serait montrée capable d’ap­­prendre le jeu de go elle-même, sans rece­­voir des données d’en­­traî­­ne­­ment par un homme, et, après trois jours de jeu, de battre l’an­­cien programme 100 fois d’af­­fi­­lée.

Tout le monde n’est pas encore en posi­­tion de bâtir une telle machine. Mais, de manière géné­­rale, « la tech­­no­­lo­­gie est telle­­ment parta­­gée qu’un déve­­lop­­peur raison­­na­­ble­­ment compé­tent pour­­rait fabriquer une arme auto­­nome dans son garage », aver­­tit Paul Scharre. « L’idée de mettre en place une sorte de régime de non-proli­­fé­­ra­­tion semble naïve. Dans ce genre de monde, il faut s’at­­tendre à ce qu’il y ait, au mini­­mum, des utili­­sa­­tions par des terro­­ristes et des régimes voyous. » La prophé­­tie n’est pas de nature à rassu­­rer, alors que les gouver­­ne­­ments élus avancent souvent à couvert. Si Google assure ne travailler que sur des tech­­no­­lo­­gies non-offen­­sives avec le DoD, le champ de ses recherches demeure sibyl­­lin. Or, la firme possède une grande quan­­tité d’in­­for­­ma­­tions person­­nelles sur ses utili­­sa­­teurs.

Crédits : DR/Ulyces

D’ailleurs, son direc­­teur exécu­­tif, Milo Medin, ainsi que le président exécu­­tif de la maison-mère, Alpha­­bet, sont tout deux membre du Defense Inno­­va­­tion Board, qui conseille le Penta­­gone sur les ques­­tions de systèmes de données. Lorsque le groupe a racheté DeepMind en 2014, il s’est doté d’un comité d’éthique sur l’in­­tel­­li­­gence arti­­fi­­cielle. Mais là encore, ses travaux sont restés secrets.


Couver­­ture : Un drone Reaper MQ9. (US Army)


Down­load Nulled WordP­ress Themes
Down­load Premium WordP­ress Themes Free
Down­load WordP­ress Themes
Down­load Best WordP­ress Themes Free Down­load
udemy course down­load free
Download WordPress Themes
Download Best WordPress Themes Free Download
Download Premium WordPress Themes Free
Download WordPress Themes
udemy paid course free download

Plus de monde