fbpx

Mise au service de quelques fantasmes mégalos, la technologie en germe aujourd'hui pourrait menacer demain la planète entière.

par Servan Le Janne | 25 avril 2019

Le Titan fou

Chaque année, au début du prin­­temps, un convoi de vans noirs longs comme des limou­­sines s’ar­­rête devant le musée de l’avia­­tion de Palm Springs, en Cali­­for­­nie. Jeff Bezos prépare ici quelques démons­­tra­­tions aux invi­­tés de la confé­­rence MARS (Machine-lear­­ning, Auto­­ma­­tion, Robo­­tics and Space). Il y a deux ans, dans un hangar aux lumières viola­­cées, le patron d’Ama­­zon leur a présenté un mecha. Quand ce robot contrôlé de l’in­­té­­rieur a bougé, les murmures se sont trans­­for­­més en souffles éton­­nés puis en rires. Le milliar­­daire s’amu­­sait comme un enfant en cabine de pilo­­tage. « Pourquoi j’ai l’im­­pres­­sion d’être Sigour­­ney Weaver ? » s’est-il exclamé en réfé­­rence à cette scène d’Aliens où Ripley prend les commandes d’un pareil exosque­­lette.

Crédits : Hankook Mirae Tech­­no­­logy

Avec ses pattes d’ours méca­­nique qui obéissent au doigt et à l’œil, le Method-2 de Hankook Mirae Tech­­no­­logy semble débarquer de la science-fiction. Ce n’est pas un hasard si l’un de ses créa­­teurs, Vitaly Bulga­­rov, a aussi travaillé sur les films Ghost In the Shell et Trans­­for­­mers 4: Age of Extinc­­tion. À bord, Bezos prenait évidem­­ment un malin plai­­sir à jouer le super-héros, au risque d’ef­­frayer l’as­­sis­­tance. Car le vertige qu’il ressen­­tait en haut du mecha était la démons­­tra­­tion que ses fantasmes les plus fous pouvaient être réali­­sés à coup d’in­­no­­va­­tion. Or, on le sait main­­te­­nant, Amazon colla­­bore sans scru­­pule avec l’ar­­mée améri­­caine. Derrière le crâne chauve de Bezos se cache peut-être moins un avatar du Profes­­seur Xavier que de Lex Luthor, voire de Thanos.

Dans le film sorti le 24 avril 2019 en France, ce « Titan fou » vient de détruire la moitié de toute forme de vie dans l’uni­­vers, en se servant des Pierres de l’In­­fini préa­­la­­ble­­ment réunies. Les Aven­­gers et les Gardiens de la Galaxie qui ont survécu vont devoir le neutra­­li­­ser. À l’image de leur ennemi, qui concentre à lui seul un pouvoir sans précé­dent, les patrons des géants tech­­no­­lo­­giques ont ces dernières années accu­­mulé assez de moyens pour dispo­­ser d’un grand pouvoir de nuisance. Le fonda­­teur de Palan­­tir, Peter Thiel, est encore plus heureux que Bezos de mettre son exper­­tise au service du Penta­­gone. Il soutient même ouver­­te­­ment Donald Trump, dont le projet du mur à la fron­­tière mexi­­caine est appuyé par un autre magnat de la tech­­no­­lo­­gie, Palmer Luckey et sa société Andu­­ril.

L’as­­cen­­sion de ces reje­­tons de la Sili­­con Valley a été si rapide et si grisante que rien ne devrait selon eux s’op­­po­­ser à leurs rêves. Sûr de sa capa­­cité à chan­­ger le monde, Jeff Bezos promeut le tourisme spatial avec Blue Origin et songe à rallon­­ger sa durée de vie grâce aux médi­­ca­­ments déve­­lop­­pés par la start-up Unity Biote­ch­­no­­logy, à l’ins­­tar des fonda­­teurs de Google/Alpha­­bet Sergueï Brin et Larry Page, qui couvent le rêve d’ac­­cé­­der à l’im­­mor­­ta­­lité à travers leurs filiales Calico et Verily. De son côté, le respon­­sable de Tesla, Elon Musk veut construire une ville sur Mars d’ici 2050 et entend connec­­ter le cerveau humain à une intel­­li­­gence arti­­fi­­cielle (IA). Avec le progrès scien­­ti­­fique, les méga­­lo­­manes d’aujourd’­­hui disposent de leviers nouveaux pour satis­­faire leurs obses­­sions démiur­­giques. En plus des robots, ils misent sur l’IA et la géné­­tique pour créer un homme augmenté. Mais il n’est pas néces­­saire d’être milliar­­daire pour avoir la capa­­cité de faire le mal à grande échelle.

Nick Bostrom

« Les progrès réali­­sés dans les outils de bioha­­cking à domi­­cile pour­­raient permettre à n’im­­porte quel apprenti-biolo­­giste de tuer des millions de personnes », aver­­tit le cher­­cheur d’Ox­­ford Nick Bostrom. Dans un article inti­­tulé « L’hy­­po­­thèse du monde vulné­­rable », le patron du Future of Huma­­nity Insti­­tute (FHI), ratta­­ché à l’uni­­ver­­sité d’Ox­­ford, prévient contre d’autres risques : « Les nouvelles tech­­no­­lo­­gies mili­­taires pour­­raient déclen­­cher une course aux arme­­ments dans laquelle celui qui frap­­pera le premier aura un avan­­tage déci­­sif ; ou une formule écono­­mique fruc­­tueuse pour­­rait produire des exter­­na­­li­­tés néga­­tives globales diffi­­ciles à régu­­ler. »

Le cher­­cheur rappelle aussi qu’il s’en est fallu de peu pour que la guerre froide ne débouche pas sur une apoca­­lypse, chaque super-puis­­sance ayant amassé assez d’armes pour condam­­ner la Terre. Avant de trou­­ver les pierres de l’in­­fini, Thanos avait d’ailleurs lancé une attaque nucléaire contre son propre monde, tuant des milliers de personnes dont sa mère.

Éthique de la fin du monde

Moscou ne répond plus. Dans les profon­­deurs de la mer des Caraïbes, au large de Cuba, un silence abys­­sal accom­­pagne le sous-marin sovié­­tique B-59. Traqué par des navires améri­­cains depuis deux jours, ce 27 octobre 1962, le submer­­sible se tient à bonne distance de la surface. Le signal radio est hors d’at­­teinte. À l’in­­té­­rieur, sevré d’air frais et d’in­­for­­ma­­tion, l’équi­­page végète dans un cloaque empesté par le gaz carbo­­nique du moteur. Il fait 50 degrés. Aux dernières nouvelles, l’at­­mo­­sphère est à peine plus respi­­rable là-haut : dès qu’ils ont décou­­vert des missiles russes près de La Havane, les États-Unis ont sorti les leurs. Une batte­­rie de bombes ther­­mo­­nu­­cléaires est poin­­tée vers l’Eu­­rope de l’est par soixante B-52 améri­­cains.

Quand soudain, cinq déto­­na­­tions résonnent coup sur coup en cabine. « Est-ce la guerre ? » s’enquiert le comman­­dant. Cinq secousses plus tard, Valen­­tin Savitsky explose : « On va les pulvé­­ri­­ser main­­te­­nant. Nous mour­­rons, mais nous coule­­rons tous ensemble. » L’ordre est alors donné d’ar­­mer une torpille nucléaire de dix kilo­­tonnes, pareille à celle d’Hi­­ro­­shima. Par chance, un certain Vassili Arkhi­­pov se trouve à bord. Ce chef d’état-major de la flotte déploie une force de persua­­sion suffi­­sante pour le convaincre de ne pas tirer. Les explo­­sions n’étaient que des « charges creuses ». Selon l’his­­to­­rien Thomas Blan­­ton, Arkhi­­pov « a sauvé le monde » et n’a donc rien à envier aux Aven­­gers.

Vassili Arkhi­­pov

Aujourd’­­hui, son nom est inscrit devant une salle de confé­­rence du Future of Huma­­nity Insti­­tute (FHI), sur le campus d’Ox­­ford, au Royaume-Uni. De l’autre côté du couloir, une pièce porte le nom de Stani­­slav Petrov, l’of­­fi­­cier sovié­­tique qui a désa­­morcé un poten­­tiel conflit nucléaire en 1983. « Ils ont peut-être sauvé plus de vies que la plupart des hommes d’États célé­­brés par nos timbres », remarque le fonda­­teur de l’ins­­ti­­tut, Nick Bostrom. Né en Suède, ce quadra­­gé­­naire tire de ses études en physique, en infor­­ma­­tique, en mathé­­ma­­tiques et en philo­­so­­phie une réflexion foison­­nante sur la tech­­no­­lo­­gie. Après avoir mis sur pied l’As­­so­­cia­­tion trans­­hu­­ma­­niste mondiale en 1998 (rebap­­ti­­sée Huma­­ni­­ty+), il a parti­­cipé à la créa­­tion de l’Insti­­tut d’éthique pour les tech­­no­­lo­­gies émer­­gentes en 2004 puis au FHI en 2005. Fin 2018, ce dernier a reçu un don de 13,3 millions de livres en prove­­nance de The Open Philan­­thropy Project, l’or­­ga­­ni­­sa­­tion cari­­ta­­tive du cofon­­da­­teur d’Ins­­ta­­gram Mike Krie­­ger.

Cette approche réso­­lu­­ment pros­­pec­­tive n’en fait pas un techno-béat. Dans l’ou­­vrage Supe­­rin­­tel­­li­­gence: Paths, Dangers, Stra­­te­­gies, paru en 2014, le cher­­cheur d’Ox­­ford explore les catas­­trophes que pour­­raient engen­­drer l’in­­tel­­li­­gence arti­­fi­­cielle (IA). Les algo­­rithmes, prévient-il, sont « poten­­tiel­­le­­ment plus dange­­reux que les ogives nucléaires ». Contrai­­re­­ment aux tech­­niques d’en­­ri­­chis­­se­­ment d’ura­­nium, qui restent l’apa­­nages de quelques États, ils sont assez faciles d’ac­­cès, pour le meilleur comme pour le pire. En février 2019, l’orga­­ni­­sa­­tion OpenAI a d’ailleurs refusé de publier tous les résul­­tats de ses recherches sur des géné­­ra­­teurs de textes, par crainte que des personnes malveillantes ne s’en servent.

Boule noire

Nick Bostrom venait juste­­ment d’éla­­bo­­rer sa « théo­­rie du monde vulné­­rable ». Désor­­mais, prévient-il, « les progrès scien­­ti­­fiques et tech­­no­­lo­­giques » portent le bacille d’une « désta­­bi­­li­­sa­­tion de la civi­­li­­sa­­tion ». Bostrom cite pèle-mêle le bioha­­cking, les tech­­no­­lo­­gies mili­­taires ou encore le dérè­­gle­­ment clima­­tique, et l’on pense aux outils d’édi­­tion du génome, aux épidé­­mies conser­­vées en labo­­ra­­toire ainsi qu’aux armes auto­­nomes. Tout cela pour­­rait être enca­­dré mais, dans la Sili­­con Valley, beau­­coup de monde s’y oppose. Car il ne faut pas prendre de retard sur la Chine, où un cher­­cheur a déjà géné­­tique­­ment modi­­fié des bébés au mépris de toutes règles éthiques.

« Si le progrès tech­­no­­lo­­gique conti­­nue, il rendra possible l’anéan­­tis­­se­­ment de la civi­­li­­sa­­tion »

Le monde est ainsi lancé dans une dange­­reuse fuite en avant dont se réjouit Peter Thiel. Dans un essai écrit en 2009 pour le Cato Insti­­­­tut, le fonda­­teur de Palan­­tir s’élève contre les impôts, le gouver­­­­ne­­­­ment, les femmes, les pauvres et même l’inexo­­­­ra­­­­bi­­­­lité de la  mort. « Je ne pense pas que la liberté et la démo­­­­cra­­­­tie soient encore compa­­­­tibles », ajoute-t-il. Depuis les années 1920, « l’ac­­­­crois­­­­se­­­­ment de nombre de béné­­­­fi­­­­ciaires des aides sociales et l’ex­­­­ten­­­­sion du droit de vote aux femmes ont trans­­­­formé la notion de démo­­­­cra­­­­tie capi­­­­ta­­­­liste en un oxymore. »

À une époque où l’in­­no­­va­­tion proli­­fère parfois en dehors de tout cadre légal, l’hu­­ma­­nité ne joue-t-elle pas avec le feu ? « Nous avons des exemples de civi­­li­­sa­­tions qui ont été détruites par des inven­­tions », pointe le cher­­cheur suédois. Pendant les « grandes décou­­vertes », les navires qui permirent aux Euro­­péens de traver­­ser l’At­­lan­­tique ont par exemple été fatals aux popu­­la­­tion vivant aux Amériques, en Austra­­lie, en Tasma­­nie ou ailleurs. Il n’est au reste pas exclu qu’Homo sapiens ait survécu aux Néan­­der­­ta­­liens et aux Déni­­so­­viens – dont il porte une partie du code géné­­tique grâce à une meilleure maîtrise des tech­­no­­lo­­gies.

Aujourd’­­hui, n’im­­porte qui peut loisi­­ble­­ment reprendre les codes de l’IA ou trans­­for­­mer des outils d’édi­­tion géné­­tique pour essayer d’en faire une arme. Si Elon Musk, Jeff Bezos et Peter Thiel ne sombrent pas dans la démence à force de se mirer dans leur réus­­site, les outils qu’ils déve­­loppent pour­­raient bien être récu­­pé­­rés par d’autres. Et rien ne dit qu’un nouveau Vassili Arkhi­­pov sera présent au moment fati­­dique. Si « là où croît le péril, croît ce qui sauve », comme disait le philo­­sophe alle­­mand Frie­­drich Hölder­­lin, la réci­­proque n’est pas moins vraie. Pour sché­­ma­­ti­­ser le problème qui s’offre à l’hu­­ma­­nité, Nick Bostrom compare les cher­­cheurs à des joueurs de l’émis­­sion de télé­­vi­­sion Motus : ils trouvent une idée comme on pioche une boule dans un grand bac, c’est-à-dire sans trop savoir ce que cela va entraî­­ner.

« Dans l’his­­toire, nous avons eu beau­­coup de bonnes boules, pour la plupart jaunes, mais certaines avaient des nuances de gris (elles étaient plus ou moins néfastes) », constate-t-il en partant de ce prin­­cipe. Pour l’heure, « nous ne sommes pas tombés sur une boule noire, autre­­ment dit sur une tech­­no­­lo­­gie qui détrui­­rait inévi­­ta­­ble­­ment la civi­­li­­sa­­tion », pour­­suit-il. « Cela n’est pas dû à notre carac­­tère parti­­cu­­liè­­re­­ment préve­­nant ou notre gran­­deur d’es­­prit. Nous avons juste été chan­­ceux. » Et puisque le vent est ainsi fait qu’il tourne, chaque virage tech­­no­­lo­­gique va devoir être maîtrisé avec préci­­sion. Si possible.

En eaux troubles

Devant son jour­­nal, Leo Szilard fait une mine grise comme le ciel de Londres en ce 12 septembre 1933. Réfu­­gié dans la capi­­tale anglaise pour échap­­per aux nazis, le physi­­cien hongrois apprend en lisant les mots de son collègue Ernest Ruther­­ford qu’il est vain de vouloir extraire de l’éner­­gie de la réac­­tion nucléaire. Passa­­ble­­ment irrité, Szilard calme ses nerfs en partant se prome­­ner. Chemin faisant, il a l’idée d’une réac­­tion en chaîne qui donnera plus tard nais­­sance à la bombe atomique. Heureu­­se­­ment, cette arme dévas­­ta­­trice ne peut être conçue qu’à partir de plusieurs kilos de pluto­­nium et d’ura­­nium enri­­chi, deux compo­­sants diffi­­ciles à obte­­nir.

Quand il confie ses décou­­vertes à ami Albert Einstein, puis au président améri­­cain Frank­­lin Roose­­velt, Szilard les prévient bien sûr contre leur danger. Cela n’em­­pê­­chera ni le projet Manhat­­tan ni les bombar­­de­­ment des villes japo­­naises d’Hi­­ro­­shima et Naga­­zaki, en 1945. Les scien­­ti­­fiques ont beau plai­­der pour un contrôle strict de la tech­­no­­lo­­gie après la guerre, elle est vite copiée par les Sovié­­tiques puis par d’autres.

« La poli­­tique nucléaire n’est plus entre leurs mains », observe Nick Bostrom. Elle serait logique­­ment tombée entre d’en­­core plus mauvaises mains s’il n’était pas si diffi­­cile de déve­­lop­­per la bombe. Cette crainte explique la présence du nucléaire et de ses radia­­tions dans de nombreux comics, de Hulk aux Aven­­gers en passant par Spider-Man, Les 4 Fantas­­tiques, Super­­man ou les X-Men. Dans Watch­­men, le Dr Manhat­­tan porte même le nom du projet améri­­cain de déve­­lop­­pe­­ment de la bombe.

Crédits : X-Men Apoca­­lypse

Désor­­mais, « vus la rapi­­dité et l’ano­­ny­­mat avec lesquels quelqu’un peut publier sur Inter­­net, il serait encore plus diffi­­cile de limi­­ter la propa­­ga­­tion de secrets scien­­ti­­fiques », estime Bostrom. Confronté à la vola­­ti­­lité de l’in­­for­­ma­­tion, les pouvoirs publics « n’ont pas les moyens de surveillance suffi­­sants pour empê­­cher à de petits groupes de prendre des initia­­tives désap­­prou­­vées par 99 % de la popu­­la­­tion mondiale. » C’est le premier symp­­tôme de ce que le cher­­cheur suédois appelle l’état « semi-anar­­chique » qui carac­­té­­rise l’époque. Le deuxième est une « gouver­­nance limi­­tée », et le troi­­sième « une grande dispa­­rité d’in­­té­­rêts ». En cher­­chant à deve­­nir riche dans leur coin, certains acteurs pour­­raient par exemple prendre des risques incon­­si­­dé­­rés pour la planète entière.

Qui les en empê­­chera ? Même si son ancienne société de merce­­naires, Black­­wa­­ter, a essuyé un scan­­dale inter­­­na­­tio­­nal pour son rôle dans l’as­­sas­­si­­nat de civils en Irak, Erik Prince conti­­nue d’être « partout », d’après un article du New York Times publié en octobre 2018. Après avoir mani­­gancé de longues années pour fonder une armée de l’air privée, le frère de Betsy DeVos tente à présent de convaincre les offi­­ciels améri­­cains de délé­­guer ses opéra­­tions mili­­taires en Afgha­­nis­­tan à des firmes privées.

Face à de tels acteurs, le monde est vulné­­rable, pointe Bostrom : « Si le déve­­lop­­pe­­ment tech­­no­­lo­­gique conti­­nue, il rendra un jour l’anéan­­tis­­se­­ment de la civi­­li­­sa­­tion probable, à moins qu’elle sorte de son état semi-anar­­chique. » Elle n’avance certes pas complè­­te­­ment à l’aveugle. Pour amélio­­rer la méta­­phore, « nous pouvons admettre que la couleur des boules est corré­­lée à une matière, en sorte que nous pour­­rions avoir une idée de quoi piocher », précise le cher­­cheur en reve­­nant à Motus. Des élas­­tiques pour­­raient aussi les relier les unes aux autres, une inven­­tion pouvant en cacher une autre.

Une sugges­­tion procède de ce modèle : les cher­­cheurs doivent évidem­­ment se lais­­ser le temps de la réflexion – à l’en croire, surtout ceux qui mani­­pulent l’ADN. Pour le reste, la réponse de Bostrom tient en deux mots : gouver­­nance et surveillance. Afin d’em­­pê­­cher des acteurs malveillants d’uti­­li­­ser la tech­­no­­lo­­gie à mauvais escient, il imagine un panop­­tique capable de les repé­­rer tout en proté­­geant la vie privée. L’IA serait bien sûr mise à profit. Car là où croît le péril, croît aussi ce qui sauve.


Couver­­ture : Jeff Thanos, titan d’Ama­­zon. (Ulyces/Marvel)


 

Premium WordP­ress Themes Down­load
Premium WordP­ress Themes Down­load
Down­load Best WordP­ress Themes Free Down­load
Down­load Best WordP­ress Themes Free Down­load
free down­load udemy paid course
Premium WordPress Themes Download
Download Premium WordPress Themes Free
Download WordPress Themes Free
Premium WordPress Themes Download
udemy course download free

Plus de turfu

Ransom­wares : comment les hackers prennent en otage des villes entières

127k 4 novembre 2019 stories . turfu

Nos ordi­na­teurs nous espionnent-ils ?

110k 24 octobre 2019 stories . turfu

Peut-on vivre jusqu’à 200 ans ?

120k 22 octobre 2019 stories . turfu