par Steven Levy | 29 décembre 2015

Comme si le domaine de l’in­­tel­­li­­gence arti­­fi­­cielle (IA) n’était pas déjà assez compé­­ti­­tif – avec des géants comme Google, Apple, Face­­book, Micro­­soft et même des marques auto­­mo­­biles comme Toyota qui se bous­­culent pour enga­­ger des cher­­cheurs –, on compte aujourd’­­hui un petit nouveau, avec une légère diffé­­rence cepen­­dant. Il s’agit d’une entre­­prise à but non lucra­­tif du nom d’OpenAI, qui promet de rendre ses résul­­tats publics et ses brevets libres de droits afin d’as­­su­­rer que l’ef­­frayante pers­­pec­­tive de voir les ordi­­na­­teurs surpas­­ser l’in­­tel­­li­­gence humaine ne soit pas forcé­­ment la dysto­­pie que certains redoutent.

ulyces-openai-01
L’équipe d’OpenAI
Crédits : OpenAI

Les fonds proviennent d’un groupe de sommi­­tés du monde de la tech, parmi lesquels Elon Musk, Reid Hoff­­man, Peter Thiel, Jessica Living­s­ton et Amazon Web Services. À eux tous, ils ont promis plus d’un milliard de dollars desti­­nés à être versés au fur et à mesure. Les co-prési­­dents de l’en­­tre­­prise sont Musk et Sam Altman, le PDG d’Y Combi­­na­­tor, dont le groupe de recherche fait aussi partie des dona­­teurs – ainsi qu’Alt­­man lui-même. Musk est célèbre pour ses critiques de l’IA, et il n’est pas surpre­­nant de le retrou­­ver ici. Mais Y Combi­­na­­tor, ça oui. Le Y Combi­­na­­tor est l’in­­cu­­ba­­teur qui a démarré il y a dix ans comme un projet esti­­val en finançant six star­­tups et en « payant » leurs fonda­­teurs en ramens et en précieux conseils, afin qu’ils puissent rapi­­de­­ment lancer leur busi­­ness. Depuis, YC a aidé à lancer plus de mille entre­­prises, dont Drop­­box, Airbnb et Stripe, et a récem­­ment inau­­guré un dépar­­te­­ment de recherche. Ces deux dernières années, l’en­­tre­­prise est diri­­gée par Altman, dont la société, Loopt, faisait partie des star­­tups lancées en 2005 – elle a été vendue en 2012 pour 43,4 millions de dollars. Mais si YC et Altman font partie des bailleurs et qu’Alt­­man est co-président, OpenAI est néan­­moins une aven­­ture indé­­pen­­dante et bien sépa­­rée. En gros, OpenAI est un labo­­ra­­toire de recherche censé contrer les corpo­­ra­­tions qui pour­­raient gagner trop d’in­­fluence en utili­­sant des systèmes super-intel­­li­­gents à des fins lucra­­tives, ou les gouver­­ne­­ments qui risque­­raient d’uti­­li­­ser des IA pour asseoir leur pouvoir ou même oppres­­ser les citoyens. Cela peut sembler idéa­­liste, mais l’équipe a déjà réussi à embau­­cher plusieurs grands noms, comme l’an­­cien direc­­teur tech­­nique de Stripe, Greg Brock­­man (qui sera le direc­­teur tech­­nique d’OpenAI) et le cher­­cheur de renom­­mée inter­­­na­­tio­­nale Ilya Suts­­ke­­ver, qui travaillait pour Google et faisait partie d’un groupe renommé de jeunes scien­­ti­­fiques étudiant à Toronto sous la houlette du pion­­nier du système neuro­­nal Geoff Hinton. Il sera le direc­­teur de recherche d’OpenAI. Le reste des recrues comprend la crème des jeunes talents du milieu, dont les CV incluent des expé­­riences au sein des plus grands groupes d’étude, à Face­­book AI et DeepMind, la société d’IA que Google a récu­­pé­­rée en 2014. Open AI dispose aussi d’un pres­­ti­­gieux panel de conseillers dont Alan Kay, un scien­­ti­­fique pion­­nier de l’in­­for­­ma­­tique. Les diri­­geants d’OpenAI m’ont parlé du projet et de leurs aspi­­ra­­tions. Les inter­­­views se sont dérou­­lées en deux parties, d’abord avec Altman seul, ensuite avec Altman, Musk et Brock­­man. J’ai édité et mixées les deux inter­­­views dans un souci de clarté et de longueur. ulyces-openai-02

 Tout public

Comment tout cela a-t-il commencé ?

Sam Altman : Nous avons lancé YC Research il y a envi­­ron un mois et demi, mais cela faisait long­­temps que je réflé­­chis­­sais à l’IA, tout comme Elon. Si vous pensez aux choses qui importent le plus pour l’ave­­nir du monde, je pense qu’une IA de qualité se situe dans le haut de la liste. C’est pourquoi nous créons OpenAI. Cette orga­­ni­­sa­­tion tente de créer une IA tour­­née vers l’hu­­main. Et parce qu’il s’agit d’un projet non lucra­­tif, il sera à libre dispo­­si­­tion du monde entier. Elon Musk : Comme vous le savez, je suis préoc­­cupé par l’IA depuis un bon moment. Et j’ai eu de nombreuses conver­­sa­­tions avec Sam, Reid (Hoff­­man), Peter Thiel et bien d’autres. On se deman­­dait : « Existe-t-il un moyen de s’as­­su­­rer ou d’aug­­men­­ter la proba­­bi­­lité pour que l’in­­tel­­li­­gence arti­­fi­­cielle se déve­­loppe de façon béné­­fique ? » Nous sommes arri­­vés à la conclu­­sion que de créer une asso­­cia­­tion à but non lucra­­tif, sans aucune obli­­ga­­tion de maxi­­mi­­ser un quel­­conque profit, serait proba­­ble­­ment une bonne idée. Nous allons aussi faire très atten­­tion à la sécu­­rité. Il y a égale­­ment un élément philo­­so­­phique très impor­­tant : nous souhai­­tons que l’IA se répande très large­­ment. Il y a deux écoles : ceux qui veulent beau­­coup d’IA et ceux qui en veulent peu. Nous pensons qu’il vaut proba­­ble­­ment mieux qu’il y en ait beau­­coup. Au point même de pouvoir en faire des exten­­sions de la volonté humaine, ce serait bien. ulyces-openai-03

Volonté humaine ?

Musk : C’est-à-dire une IA qui serait une exten­­sion de vous-même, si bien que chaque personne serait en symbiose avec une IA, contrai­­re­­ment à un scéna­­rio dans lequel l’IA serait une énorme intel­­li­­gence centrale qui serait autre. On peut penser à la façon dont on utilise les appli­­ca­­tions sur Inter­­net, par exemple. Vous avez vos emails, vos réseaux sociaux et les appli­­ca­­tions sur votre smart­­phone : ils vous rendent effec­­ti­­ve­­ment surhu­­main et vous n’y pensez pas comme à une entité indé­­pen­­dante, vous les consi­­dé­­rez comme une exten­­sion de vous-même. Dans la mesure où nous pour­­rons orien­­ter l’IA dans cette direc­­tion, c’est ce vers quoi nous voulons aller. Et nous avons trouvé un certain nombre d’in­­gé­­nieurs et de cher­­cheurs qui partagent le même état d’es­­prit dans le domaine. Altman : Nous pensons que la meilleure façon de déve­­lop­­per l’IA est d’en faire un éman­­ci­­pa­­teur indi­­vi­­duel qui rend les êtres humains meilleurs, qui soit gratuit et acces­­sible à tous, et pas une entité unique des millions de fois plus puis­­sante que n’im­­porte quel indi­­vidu. Puisque nous ne sommes pas une entre­­prise à but lucra­­tif, comme Google, nous pouvons nous concen­­trer non pas sur la meilleure façon d’en­­ri­­chir nos action­­naires mais sur ce que nous pensons être le mieux pour l’ave­­nir de l’hu­­ma­­nité.

Google ne partage-t-il pas ses déve­­lop­­pe­­ments avec le public, comme il vient de le faire avec l’ap­­pren­­tis­­sage auto­­ma­­tique ?

Altman : Ils partagent effec­­ti­­ve­­ment énor­­mé­­ment de leurs recherches. Mais le temps passant, à mesure qu’on se rappro­­chera de quelque chose qui surpasse l’in­­tel­­li­­gence humaine, on est en droit de se deman­­der ce que Google parta­­gera.

ulyces-openai-ex2Les trucs que vous allez faire à OpenAI, ne pour­­raient-ils pas surpas­­ser l’in­­tel­­li­­gence humaine ?

Altman : Je pense que c’est possible, mais ce sera en open source et utili­­sable par tous plutôt que de ne l’être que par Google, pour ne citer qu’eux. Tout ce que le groupe déve­­lop­­pera sera acces­­sible à tous. Si vous le prenez et que en chan­­gez l’objec­­tif, vous ne serez pas obli­­gés de parta­­ger le résul­­tat. Mais tout le travail que nous faisons en interne sera dispo­­nible pour tout le monde.

Si je suis malin­­ten­­tionné et que je l’uti­­lise, ne me donne­­rez-vous pas davan­­tage de pouvoir ?

Musk : C’est une excel­­lente ques­­tion et c’est quelque chose dont nous avons beau­­coup débattu. Altman :  À ce sujet, nous sommes parve­­nus à diffé­­rentes conclu­­sions. Tout comme les humains se protègent du mal par le fait que la plupart d’entre eux sont bons et que la force collec­­tive de l’hu­­ma­­nité parvient à conte­­nir les mauvais éléments, nous pensons qu’il est plus probable qu’un grand nombre d’IA travaillent à endi­­guer les mauvaises inten­­tions occa­­sion­­nelles plutôt qu’une seule grosse entité d’IA un milliard de fois plus puis­­sante que quoi que ce soit d’autre. Car si cette entité déraille ou si des personnes mal inten­­tion­­nées s’en emparent sans qu’il existe rien pour la contrer, là on sera très très mal.

Allez-vous super­­­vi­­ser ce qui ressort du travail d’OpenAI ?

Altman : Nous voulons effec­­ti­­ve­­ment construire un organe de super­­­vi­­sion d’ici quelques temps. On commen­­cera simple­­ment par Elon et moi. Nous sommes encore très loin de déve­­lop­­per une véri­­table IA. Mais je pense que nous aurons tout le temps de créer un dépar­­te­­ment de super­­­vi­­sion. Musk : J’ai l’in­­ten­­tion de passer du temps avec l’équipe : au moins un après-midi ou deux au bureau toutes les semaines juste pour me tenir au courant, leur donner mes retours et tout simple­­ment avoir une idée plus précise d’où en sont les choses dans le domaine de l’IA – savoir si nous sommes proches de quelque chose de dange­­reux ou non. Je vais m’im­­pliquer person­­nel­­le­­ment dans la sécu­­rité. C’est quelque chose qui me préoc­­cupe beau­­coup. Et si nous trou­­vons effec­­ti­­ve­­ment quelque chose qui repré­­sente un risque sécu­­ri­­taire poten­­tiel, nous le rendrons public. ulyces-openai-04

L’IA qui valait un milliard

Un exemple de mauvaise IA ?

Altman : Eh bien, il y a toute la science-fiction, dont nous sommes encore loin, comme Termi­­na­­tor ou quelque chose dans ce genre. Je ne m’inquiète pas de ce genre de choses à court terme. Ce qui je pense va être un défi, même si je ne consi­­dère pas cela comme de l’IA malin­­ten­­tion­­née, c’est l’au­­to­­ma­­ti­­sa­­tion massive et l’éra­­di­­ca­­tion d’em­­plois qui se profile. Il y a un autre exemple d’IA malin­­ten­­tion­­née dont les gens parlent : les programmes de type IA qui piratent des ordi­­na­­teurs et qui sont bien plus fort qu’au­­cun être humain. Ça existe déjà.

Allez-vous commen­­cer avec un système déjà construit ?

Altman : Non. Nous allons commen­­cer comme tous les labo­­ra­­toires de recherche et c’est ce à quoi nous allons ressem­­bler pendant un bon moment. Personne ne sait encore comment construire tout ça. Nous avons huit cher­­cheurs qui vont s’y mettre from scratch et quelques autres qui vont se joindre à l’équipe dans les mois à venir. Pour l’ins­­tant, ils vont utili­­ser les bureaux d’YC, et à mesure qu’ils gros­­si­­ront, ils démé­­na­­ge­­ront. Ils vont jongler avec les idées et conce­­voir des logi­­ciels pour voir s’ils peuvent faire avan­­cer l’état actuel de l’art de l’IA.

Y aura-t-il des contri­­bu­­tions exté­­rieures ?

Altman : Abso­­lu­­ment. L’un des avan­­tages de travailler en étant un programme tota­­le­­ment ouvert, c’est que le labo­­ra­­toire peut colla­­bo­­rer avec n’im­­porte qui car il peut parta­­ger les infor­­ma­­tions libre­­ment. Il est très diffi­­cile de colla­­bo­­rer avec des gens de Google, par exemple, car ils ploient sous les clauses de confi­­den­­tia­­lité.

ulyces-openai-05
Sam Altman

Sam, étant donné qu’O­­penAI va débu­­ter dans les locaux d’YC, votre star­­tup aura-t-elle accès à leurs travaux ? (Update : Altman me dit à présent que le bureau sera basé à San Fran­­cisco.)

Altman : Si OpenAI déve­­loppe vrai­­ment une tech­­no­­lo­­gie géniale et que tout le monde peut l’uti­­li­­ser gratui­­te­­ment, cela sera béné­­fique à toutes les entre­­prises de tech­­no­­lo­­gie. Mais pas plus à l’une qu’à l’autre. Cepen­­dant, nous allons deman­­der aux socié­­tés d’YC de rendre dispo­­nibles à OpenAI toutes les données qu’elles accep­­te­­ront de parta­­ger. Et Elon va aussi voir quelles données Tesla et Space X peuvent parta­­ger.

Avez-vous un exemple du type de données qui pour­­raient être parta­­gées ?

Altman : Il y en a telle­­ment. Toutes les données Reddit feraient un set d’en­­traî­­ne­­ment très utile, par exemple. Tout comme des infor­­ma­­tions vidéo sur la voiture auto­­nome de Tesla. Les larges volumes de données sont très impor­­tants. Réfle­­chis­­sez à la façon dont les humains deviennent plus intel­­li­­gents : vous lisez un livre, vous deve­­nez plus intel­­li­gent, je lis un livre, je deviens plus intel­­li­gent. Mais on ne devient pas plus intel­­li­gent soi-même grâce au livre que l’autre a lu. Alors qu’a­­vec Tesla par exemple, si une Tesla apprend quelque chose, toutes les Tesla en tirent immé­­dia­­te­­ment béné­­fice. Musk : Globa­­le­­ment, nous avons peu de plans parti­­cu­­liers parce que nous n’en sommes qu’au tout début de l’or­­ga­­ni­­sa­­tion. C’est encore à l’état embryon­­naire. Mais Tesla aura sûre­­ment une énorme quan­­tité de données à parta­­ger, de vraies données mondiales grâces aux millions de kilo­­mètres accu­­mu­­lés chaque jour par nos flottes de véhi­­cules. Tesla aura certai­­ne­­ment plus de données mondiales qu’au­­cune autre société.

ulyces-openai-06
Elon Musk

L’IA néces­­site beau­­coup de calculs. Quelle sera votre infra­s­truc­­ture ?

Altman : Nous faisons un parte­­na­­riat avec Amazon Web Services. Ils contri­­buent au projet en nous four­­nis­­sant une grosse quan­­tité d’in­­fra­s­truc­­ture.

Et il y a un milliard de dollars promis à ce projet ?

Musk : Je ne pense pas exagé­­rer en disant qu’à l’heure actuelle il y a un peu plus d’un milliard de dollars qui ont été promis. Nous ne voulons pas donner de chiffre exact, mais il y a eu de très impor­­tantes contri­­bu­­tions de la part des gens mention­­nés dans l’ar­­ticle.

Sur combien de temps cet argent va-t-il être versé ?

Altman : Sur autant de temps que la construc­­tion pren­­dra. Nous serons aussi économes que possible, mais c’est proba­­ble­­ment un projet qui va s’étendre sur plusieurs décen­­nies et qui va deman­­der beau­­coup de main d’œuvre et de maté­­riel infor­­ma­­tique. ulyces-openai-07

Et cela ne néces­­site pas que vous fassiez du profit ?

Musk : Exac­­te­­ment. Ce n’est pas un inves­­tis­­se­­ment à but lucra­­tif. Il n’est pas impos­­sible qu’il génère des reve­­nus dans le futur, tout comme le Stan­­ford Research Insti­­tute est une asso­­cia­­tion qui génère des reve­­nus. Il pourra donc y avoir des reve­­nus, mais pas de profit. Il n’y aura pas de profit destiné à enri­­chir des action­­naires, pas d’ac­­tions ou quoi que ce soit. Nous pensons que c’est la meilleur chose à faire.

L’es­­prit tranquille

Elon, vous avez déjà investi dans l’en­­tre­­prise d’IA DeepMind, pour des raisons qui me semblent simi­­laires – s’as­­su­­rer que l’IA soit super­­­vi­­sée. Puis Google a racheté la société. Est-ce une deuxième tenta­­tive ?

Musk : Je dois dire que je ne suis pas vrai­­ment un inves­­tis­­seur au sens clas­­sique du terme. Je ne cherche pas à inves­­tir pour obte­­nir ensuite un retour sur inves­­tis­­se­­ment. Je mets de l’argent dans des socié­­tés que j’aide à créer, je pour­­rais inves­­tir pour aider un ami, ou dans une cause dans laquelle je crois ou par laquelle je me sens concer­­née. Au-delà de ma propre société, je ne me suis pas du tout diver­­si­­fié au sens maté­­riel. Mais oui, mon genre d’ « inves­­tis­­se­­ment » dans DeepMind avait simple­­ment pour objec­­tif de mieux comprendre l’IA et de garder un œil sur ce qui se faisait.

ulyces-openai-ex3Allez-vous devoir vous battre pour les meilleurs scien­­ti­­fiques, ceux qui vont à Face­­book, DeepMind ou Micro­­soft ?

Altman : Notre recru­­te­­ment se passe plutôt bien jusque là. L’un des éléments qui attire le plus les cher­­cheurs, c’est la liberté et l’ou­­ver­­ture, ainsi que la possi­­bi­­lité de parta­­ger le fruit de leurs travaux. C’est quelque chose qu’au­­cun labo­­ra­­toire indus­­triel ne pratique à un tel degré. Nous avons pu consti­­tuer une équipe initiale d’une telle qualité que d’autres personnes veulent main­­te­­nant la rejoindre. Et puis tout simple­­ment, je crois que notre mission, notre vision et notre struc­­ture plaît énor­­mé­­ment aux gens.

Combien de cher­­cheurs allez-vous embau­­cher ? Des centaines ?

Altman : Peut-être bien.

Je veux reve­­nir à l’idée selon laquelle en parta­­geant l’IA, nous pour­­rions ne pas souf­­frir du pire de ses consé­quences néga­­tives. En la rendant plus dispo­­nible, n’y a-t-il pas un risque d’aug­­men­­ter les dangers poten­­tiels ?

Altman : Je voudrais pouvoir comp­­ter les heures que j’ai passées à débattre de ça avec Elon et les autres. Et pour­­tant, je ne suis toujours pas sûr à 100 %. On ne peut jamais l’être tout à fait, n’est-ce pas ? Mais envi­­sa­­geons les diffé­­rents scéna­­rios. La sécu­­rité par le secret, dans le monde de la tech­­no­­lo­­gie, ne s’est jamais révé­­lée très effi­­cace. Si une seule personne doit y avoir accès, comment décide-t-on si c’est Google ou le gouver­­ne­­ment améri­­cain, ou les Chinois, ou Daech ou je ne sais qui ? Il y a beau­­coup d’êtres humains malin­­ten­­tion­­nés dans le monde et pour­­tant l’hu­­ma­­nité conti­­nue de s’épa­­nouir. Cepen­­dant, que se passe­­rait-il si l’un de ces indi­­vi­­dus était un milliard de fois plus puis­­sant que les autres ? Musk : Je pense que la meilleure défense contre une mauvaise utili­­sa­­tion de l’IA, c’est de donner le pouvoir de l’uti­­li­­ser à un maxi­­mum de gens. Si tout le monde y a accès, alors aucun indi­­vidu ou groupe d’in­­di­­vi­­dus ne détient le super pouvoir de l’IA.

Elon, vous êtes PDG de deux socié­­tés et président d’une autre. On pour­­rait penser que vous n’avez pas beau­­coup de temps libre à consa­­crer à un nouveau projet.

Musk : Oui, c’est vrai. Mais la sécu­­rité autour de l’in­­tel­­li­­gence arti­­fi­­cielle occupe mes pensées depuis long­­temps, et je pense que je me rétri­­bue­­rai en tranquillité d’es­­prit !

ulyces-openai-08
Illus­­tra­­tion : Back­­chan­­nel

Traduit de l’an­­glais par Caro­­line Bour­­ge­­ret d’après l’ar­­ticle « How Elon Musk and Y Combi­­na­­tor Plan to Stop Compu­­ters From Taking Over », paru dans Back­­chan­­nel. Couver­­ture : Elon Musk et Sam Altman. Créa­­tion graphique par Ulyces.

Down­load Nulled WordP­ress Themes
Down­load Premium WordP­ress Themes Free
Down­load WordP­ress Themes
Premium WordP­ress Themes Down­load
down­load udemy paid course for free
Free Download WordPress Themes
Download Best WordPress Themes Free Download
Download WordPress Themes Free
Download WordPress Themes
download udemy paid course for free

PLUS DE SCIENCE