par Steven Levy | 29 décembre 2015

Comme si le domaine de l’in­­tel­­li­­gence arti­­fi­­cielle (IA) n’était pas déjà assez compé­­ti­­tif – avec des géants comme Google, Apple, Face­­book, Micro­­soft et même des marques auto­­mo­­biles comme Toyota qui se bous­­culent pour enga­­ger des cher­­cheurs –, on compte aujourd’­­hui un petit nouveau, avec une légère diffé­­rence cepen­­dant. Il s’agit d’une entre­­prise à but non lucra­­tif du nom d’OpenAI, qui promet de rendre ses résul­­tats publics et ses brevets libres de droits afin d’as­­su­­rer que l’ef­­frayante pers­­pec­­tive de voir les ordi­­na­­teurs surpas­­ser l’in­­tel­­li­­gence humaine ne soit pas forcé­­ment la dysto­­pie que certains redoutent.


ulyces-openai-01
L’équipe d’OpenAI
Crédits : OpenAI

Les fonds proviennent d’un groupe de sommi­­tés du monde de la tech, parmi lesquels Elon Musk, Reid Hoff­­man, Peter Thiel, Jessica Living­s­ton et Amazon Web Services. À eux tous, ils ont promis plus d’un milliard de dollars desti­­nés à être versés au fur et à mesure. Les co-prési­­dents de l’en­­tre­­prise sont Musk et Sam Altman, le PDG d’Y Combi­­na­­tor, dont le groupe de recherche fait aussi partie des dona­­teurs – ainsi qu’Alt­­man lui-même. Musk est célèbre pour ses critiques de l’IA, et il n’est pas surpre­­nant de le retrou­­ver ici. Mais Y Combi­­na­­tor, ça oui. Le Y Combi­­na­­tor est l’in­­cu­­ba­­teur qui a démarré il y a dix ans comme un projet esti­­val en finançant six star­­tups et en « payant » leurs fonda­­teurs en ramens et en précieux conseils, afin qu’ils puissent rapi­­de­­ment lancer leur busi­­ness. Depuis, YC a aidé à lancer plus de mille entre­­prises, dont Drop­­box, Airbnb et Stripe, et a récem­­ment inau­­guré un dépar­­te­­ment de recherche.



Ces deux dernières années, l’en­­tre­­prise est diri­­gée par Altman, dont la société, Loopt, faisait partie des star­­tups lancées en 2005 – elle a été vendue en 2012 pour 43,4 millions de dollars. Mais si YC et Altman font partie des bailleurs et qu’Alt­­man est co-président, OpenAI est néan­­moins une aven­­ture indé­­pen­­dante et bien sépa­­rée. En gros, OpenAI est un labo­­ra­­toire de recherche censé contrer les corpo­­ra­­tions qui pour­­raient gagner trop d’in­­fluence en utili­­sant des systèmes super-intel­­li­­gents à des fins lucra­­tives, ou les gouver­­ne­­ments qui risque­­raient d’uti­­li­­ser des IA pour asseoir leur pouvoir ou même oppres­­ser les citoyens. Cela peut sembler idéa­­liste, mais l’équipe a déjà réussi à embau­­cher plusieurs grands noms, comme l’an­­cien direc­­teur tech­­nique de Stripe, Greg Brock­­man (qui sera le direc­­teur tech­­nique d’OpenAI) et le cher­­cheur de renom­­mée inter­­­na­­tio­­nale Ilya Suts­­ke­­ver, qui travaillait pour Google et faisait partie d’un groupe renommé de jeunes scien­­ti­­fiques étudiant à Toronto sous la houlette du pion­­nier du système neuro­­nal Geoff Hinton. Il sera le direc­­teur de recherche d’OpenAI. Le reste des recrues comprend la crème des jeunes talents du milieu, dont les CV incluent des expé­­riences au sein des plus grands groupes d’étude, à Face­­book AI et DeepMind, la société d’IA que Google a récu­­pé­­rée en 2014. Open AI dispose aussi d’un pres­­ti­­gieux panel de conseillers dont Alan Kay, un scien­­ti­­fique pion­­nier de l’in­­for­­ma­­tique. Les diri­­geants d’OpenAI m’ont parlé du projet et de leurs aspi­­ra­­tions. Les inter­­­views se sont dérou­­lées en deux parties, d’abord avec Altman seul, ensuite avec Altman, Musk et Brock­­man. J’ai édité et mixées les deux inter­­­views dans un souci de clarté et de longueur. ulyces-openai-02

 Tout public

Comment tout cela a-t-il commencé ?

Sam Altman : Nous avons lancé YC Research il y a envi­­ron un mois et demi, mais cela faisait long­­temps que je réflé­­chis­­sais à l’IA, tout comme Elon. Si vous pensez aux choses qui importent le plus pour l’ave­­nir du monde, je pense qu’une IA de qualité se situe dans le haut de la liste. C’est pourquoi nous créons OpenAI. Cette orga­­ni­­sa­­tion tente de créer une IA tour­­née vers l’hu­­main. Et parce qu’il s’agit d’un projet non lucra­­tif, il sera à libre dispo­­si­­tion du monde entier. Elon Musk : Comme vous le savez, je suis préoc­­cupé par l’IA depuis un bon moment. Et j’ai eu de nombreuses conver­­sa­­tions avec Sam, Reid (Hoff­­man), Peter Thiel et bien d’autres. On se deman­­dait : « Existe-t-il un moyen de s’as­­su­­rer ou d’aug­­men­­ter la proba­­bi­­lité pour que l’in­­tel­­li­­gence arti­­fi­­cielle se déve­­loppe de façon béné­­fique ? » Nous sommes arri­­vés à la conclu­­sion que de créer une asso­­cia­­tion à but non lucra­­tif, sans aucune obli­­ga­­tion de maxi­­mi­­ser un quel­­conque profit, serait proba­­ble­­ment une bonne idée. Nous allons aussi faire très atten­­tion à la sécu­­rité. Il y a égale­­ment un élément philo­­so­­phique très impor­­tant : nous souhai­­tons que l’IA se répande très large­­ment. Il y a deux écoles : ceux qui veulent beau­­coup d’IA et ceux qui en veulent peu. Nous pensons qu’il vaut proba­­ble­­ment mieux qu’il y en ait beau­­coup. Au point même de pouvoir en faire des exten­­sions de la volonté humaine, ce serait bien. ulyces-openai-03

Volonté humaine ?

Musk : C’est-à-dire une IA qui serait une exten­­sion de vous-même, si bien que chaque personne serait en symbiose avec une IA, contrai­­re­­ment à un scéna­­rio dans lequel l’IA serait une énorme intel­­li­­gence centrale qui serait autre. On peut penser à la façon dont on utilise les appli­­ca­­tions sur Inter­­net, par exemple. Vous avez vos emails, vos réseaux sociaux et les appli­­ca­­tions sur votre smart­­phone : ils vous rendent effec­­ti­­ve­­ment surhu­­main et vous n’y pensez pas comme à une entité indé­­pen­­dante, vous les consi­­dé­­rez comme une exten­­sion de vous-même. Dans la mesure où nous pour­­rons orien­­ter l’IA dans cette direc­­tion, c’est ce vers quoi nous voulons aller. Et nous avons trouvé un certain nombre d’in­­gé­­nieurs et de cher­­cheurs qui partagent le même état d’es­­prit dans le domaine. Altman : Nous pensons que la meilleure façon de déve­­lop­­per l’IA est d’en faire un éman­­ci­­pa­­teur indi­­vi­­duel qui rend les êtres humains meilleurs, qui soit gratuit et acces­­sible à tous, et pas une entité unique des millions de fois plus puis­­sante que n’im­­porte quel indi­­vidu. Puisque nous ne sommes pas une entre­­prise à but lucra­­tif, comme Google, nous pouvons nous concen­­trer non pas sur la meilleure façon d’en­­ri­­chir nos action­­naires mais sur ce que nous pensons être le mieux pour l’ave­­nir de l’hu­­ma­­nité.

Google ne partage-t-il pas ses déve­­lop­­pe­­ments avec le public, comme il vient de le faire avec l’ap­­pren­­tis­­sage auto­­ma­­tique ?

Altman : Ils partagent effec­­ti­­ve­­ment énor­­mé­­ment de leurs recherches. Mais le temps passant, à mesure qu’on se rappro­­chera de quelque chose qui surpasse l’in­­tel­­li­­gence humaine, on est en droit de se deman­­der ce que Google parta­­gera.

ulyces-openai-ex2Les trucs que vous allez faire à OpenAI, ne pour­­raient-ils pas surpas­­ser l’in­­tel­­li­­gence humaine ?

Altman : Je pense que c’est possible, mais ce sera en open source et utili­­sable par tous plutôt que de ne l’être que par Google, pour ne citer qu’eux. Tout ce que le groupe déve­­lop­­pera sera acces­­sible à tous. Si vous le prenez et que en chan­­gez l’objec­­tif, vous ne serez pas obli­­gés de parta­­ger le résul­­tat. Mais tout le travail que nous faisons en interne sera dispo­­nible pour tout le monde.

Si je suis malin­­ten­­tionné et que je l’uti­­lise, ne me donne­­rez-vous pas davan­­tage de pouvoir ?

Musk : C’est une excel­­lente ques­­tion et c’est quelque chose dont nous avons beau­­coup débattu. Altman :  À ce sujet, nous sommes parve­­nus à diffé­­rentes conclu­­sions. Tout comme les humains se protègent du mal par le fait que la plupart d’entre eux sont bons et que la force collec­­tive de l’hu­­ma­­nité parvient à conte­­nir les mauvais éléments, nous pensons qu’il est plus probable qu’un grand nombre d’IA travaillent à endi­­guer les mauvaises inten­­tions occa­­sion­­nelles plutôt qu’une seule grosse entité d’IA un milliard de fois plus puis­­sante que quoi que ce soit d’autre. Car si cette entité déraille ou si des personnes mal inten­­tion­­nées s’en emparent sans qu’il existe rien pour la contrer, là on sera très très mal.

Allez-vous super­­­vi­­ser ce qui ressort du travail d’OpenAI ?

Altman : Nous voulons effec­­ti­­ve­­ment construire un organe de super­­­vi­­sion d’ici quelques temps. On commen­­cera simple­­ment par Elon et moi. Nous sommes encore très loin de déve­­lop­­per une véri­­table IA. Mais je pense que nous aurons tout le temps de créer un dépar­­te­­ment de super­­­vi­­sion. Musk : J’ai l’in­­ten­­tion de passer du temps avec l’équipe : au moins un après-midi ou deux au bureau toutes les semaines juste pour me tenir au courant, leur donner mes retours et tout simple­­ment avoir une idée plus précise d’où en sont les choses dans le domaine de l’IA – savoir si nous sommes proches de quelque chose de dange­­reux ou non. Je vais m’im­­pliquer person­­nel­­le­­ment dans la sécu­­rité. C’est quelque chose qui me préoc­­cupe beau­­coup. Et si nous trou­­vons effec­­ti­­ve­­ment quelque chose qui repré­­sente un risque sécu­­ri­­taire poten­­tiel, nous le rendrons public. ulyces-openai-04

L’IA qui valait un milliard

Un exemple de mauvaise IA ?

Altman : Eh bien, il y a toute la science-fiction, dont nous sommes encore loin, comme Termi­­na­­tor ou quelque chose dans ce genre. Je ne m’inquiète pas de ce genre de choses à court terme. Ce qui je pense va être un défi, même si je ne consi­­dère pas cela comme de l’IA malin­­ten­­tion­­née, c’est l’au­­to­­ma­­ti­­sa­­tion massive et l’éra­­di­­ca­­tion d’em­­plois qui se profile. Il y a un autre exemple d’IA malin­­ten­­tion­­née dont les gens parlent : les programmes de type IA qui piratent des ordi­­na­­teurs et qui sont bien plus fort qu’au­­cun être humain. Ça existe déjà.

Allez-vous commen­­cer avec un système déjà construit ?

Altman : Non. Nous allons commen­­cer comme tous les labo­­ra­­toires de recherche et c’est ce à quoi nous allons ressem­­bler pendant un bon moment. Personne ne sait encore comment construire tout ça. Nous avons huit cher­­cheurs qui vont s’y mettre from scratch et quelques autres qui vont se joindre à l’équipe dans les mois à venir. Pour l’ins­­tant, ils vont utili­­ser les bureaux d’YC, et à mesure qu’ils gros­­si­­ront, ils démé­­na­­ge­­ront. Ils vont jongler avec les idées et conce­­voir des logi­­ciels pour voir s’ils peuvent faire avan­­cer l’état actuel de l’art de l’IA.

Y aura-t-il des contri­­bu­­tions exté­­rieures ?

Altman : Abso­­lu­­ment. L’un des avan­­tages de travailler en étant un programme tota­­le­­ment ouvert, c’est que le labo­­ra­­toire peut colla­­bo­­rer avec n’im­­porte qui car il peut parta­­ger les infor­­ma­­tions libre­­ment. Il est très diffi­­cile de colla­­bo­­rer avec des gens de Google, par exemple, car ils ploient sous les clauses de confi­­den­­tia­­lité.

ulyces-openai-05
Sam Altman

Sam, étant donné qu’O­­penAI va débu­­ter dans les locaux d’YC, votre star­­tup aura-t-elle accès à leurs travaux ? (Update : Altman me dit à présent que le bureau sera basé à San Fran­­cisco.)

Altman : Si OpenAI déve­­loppe vrai­­ment une tech­­no­­lo­­gie géniale et que tout le monde peut l’uti­­li­­ser gratui­­te­­ment, cela sera béné­­fique à toutes les entre­­prises de tech­­no­­lo­­gie. Mais pas plus à l’une qu’à l’autre. Cepen­­dant, nous allons deman­­der aux socié­­tés d’YC de rendre dispo­­nibles à OpenAI toutes les données qu’elles accep­­te­­ront de parta­­ger. Et Elon va aussi voir quelles données Tesla et Space X peuvent parta­­ger.

Avez-vous un exemple du type de données qui pour­­raient être parta­­gées ?

Altman : Il y en a telle­­ment. Toutes les données Reddit feraient un set d’en­­traî­­ne­­ment très utile, par exemple. Tout comme des infor­­ma­­tions vidéo sur la voiture auto­­nome de Tesla. Les larges volumes de données sont très impor­­tants. Réfle­­chis­­sez à la façon dont les humains deviennent plus intel­­li­­gents : vous lisez un livre, vous deve­­nez plus intel­­li­gent, je lis un livre, je deviens plus intel­­li­gent. Mais on ne devient pas plus intel­­li­gent soi-même grâce au livre que l’autre a lu. Alors qu’a­­vec Tesla par exemple, si une Tesla apprend quelque chose, toutes les Tesla en tirent immé­­dia­­te­­ment béné­­fice. Musk : Globa­­le­­ment, nous avons peu de plans parti­­cu­­liers parce que nous n’en sommes qu’au tout début de l’or­­ga­­ni­­sa­­tion. C’est encore à l’état embryon­­naire. Mais Tesla aura sûre­­ment une énorme quan­­tité de données à parta­­ger, de vraies données mondiales grâces aux millions de kilo­­mètres accu­­mu­­lés chaque jour par nos flottes de véhi­­cules. Tesla aura certai­­ne­­ment plus de données mondiales qu’au­­cune autre société.

ulyces-openai-06
Elon Musk

L’IA néces­­site beau­­coup de calculs. Quelle sera votre infra­s­truc­­ture ?

Altman : Nous faisons un parte­­na­­riat avec Amazon Web Services. Ils contri­­buent au projet en nous four­­nis­­sant une grosse quan­­tité d’in­­fra­s­truc­­ture.

Et il y a un milliard de dollars promis à ce projet ?

Musk : Je ne pense pas exagé­­rer en disant qu’à l’heure actuelle il y a un peu plus d’un milliard de dollars qui ont été promis. Nous ne voulons pas donner de chiffre exact, mais il y a eu de très impor­­tantes contri­­bu­­tions de la part des gens mention­­nés dans l’ar­­ticle.

Sur combien de temps cet argent va-t-il être versé ?

Altman : Sur autant de temps que la construc­­tion pren­­dra. Nous serons aussi économes que possible, mais c’est proba­­ble­­ment un projet qui va s’étendre sur plusieurs décen­­nies et qui va deman­­der beau­­coup de main d’œuvre et de maté­­riel infor­­ma­­tique. ulyces-openai-07

Et cela ne néces­­site pas que vous fassiez du profit ?

Musk : Exac­­te­­ment. Ce n’est pas un inves­­tis­­se­­ment à but lucra­­tif. Il n’est pas impos­­sible qu’il génère des reve­­nus dans le futur, tout comme le Stan­­ford Research Insti­­tute est une asso­­cia­­tion qui génère des reve­­nus. Il pourra donc y avoir des reve­­nus, mais pas de profit. Il n’y aura pas de profit destiné à enri­­chir des action­­naires, pas d’ac­­tions ou quoi que ce soit. Nous pensons que c’est la meilleur chose à faire.

L’es­­prit tranquille

Elon, vous avez déjà investi dans l’en­­tre­­prise d’IA DeepMind, pour des raisons qui me semblent simi­­laires – s’as­­su­­rer que l’IA soit super­­­vi­­sée. Puis Google a racheté la société. Est-ce une deuxième tenta­­tive ?

Musk : Je dois dire que je ne suis pas vrai­­ment un inves­­tis­­seur au sens clas­­sique du terme. Je ne cherche pas à inves­­tir pour obte­­nir ensuite un retour sur inves­­tis­­se­­ment. Je mets de l’argent dans des socié­­tés que j’aide à créer, je pour­­rais inves­­tir pour aider un ami, ou dans une cause dans laquelle je crois ou par laquelle je me sens concer­­née. Au-delà de ma propre société, je ne me suis pas du tout diver­­si­­fié au sens maté­­riel. Mais oui, mon genre d’ « inves­­tis­­se­­ment » dans DeepMind avait simple­­ment pour objec­­tif de mieux comprendre l’IA et de garder un œil sur ce qui se faisait.

ulyces-openai-ex3Allez-vous devoir vous battre pour les meilleurs scien­­ti­­fiques, ceux qui vont à Face­­book, DeepMind ou Micro­­soft ?

Altman : Notre recru­­te­­ment se passe plutôt bien jusque là. L’un des éléments qui attire le plus les cher­­cheurs, c’est la liberté et l’ou­­ver­­ture, ainsi que la possi­­bi­­lité de parta­­ger le fruit de leurs travaux. C’est quelque chose qu’au­­cun labo­­ra­­toire indus­­triel ne pratique à un tel degré. Nous avons pu consti­­tuer une équipe initiale d’une telle qualité que d’autres personnes veulent main­­te­­nant la rejoindre. Et puis tout simple­­ment, je crois que notre mission, notre vision et notre struc­­ture plaît énor­­mé­­ment aux gens.

Combien de cher­­cheurs allez-vous embau­­cher ? Des centaines ?

Altman : Peut-être bien.

Je veux reve­­nir à l’idée selon laquelle en parta­­geant l’IA, nous pour­­rions ne pas souf­­frir du pire de ses consé­quences néga­­tives. En la rendant plus dispo­­nible, n’y a-t-il pas un risque d’aug­­men­­ter les dangers poten­­tiels ?

Altman : Je voudrais pouvoir comp­­ter les heures que j’ai passées à débattre de ça avec Elon et les autres. Et pour­­tant, je ne suis toujours pas sûr à 100 %. On ne peut jamais l’être tout à fait, n’est-ce pas ? Mais envi­­sa­­geons les diffé­­rents scéna­­rios. La sécu­­rité par le secret, dans le monde de la tech­­no­­lo­­gie, ne s’est jamais révé­­lée très effi­­cace. Si une seule personne doit y avoir accès, comment décide-t-on si c’est Google ou le gouver­­ne­­ment améri­­cain, ou les Chinois, ou Daech ou je ne sais qui ? Il y a beau­­coup d’êtres humains malin­­ten­­tion­­nés dans le monde et pour­­tant l’hu­­ma­­nité conti­­nue de s’épa­­nouir. Cepen­­dant, que se passe­­rait-il si l’un de ces indi­­vi­­dus était un milliard de fois plus puis­­sant que les autres ? Musk : Je pense que la meilleure défense contre une mauvaise utili­­sa­­tion de l’IA, c’est de donner le pouvoir de l’uti­­li­­ser à un maxi­­mum de gens. Si tout le monde y a accès, alors aucun indi­­vidu ou groupe d’in­­di­­vi­­dus ne détient le super pouvoir de l’IA.

Elon, vous êtes PDG de deux socié­­tés et président d’une autre. On pour­­rait penser que vous n’avez pas beau­­coup de temps libre à consa­­crer à un nouveau projet.

Musk : Oui, c’est vrai. Mais la sécu­­rité autour de l’in­­tel­­li­­gence arti­­fi­­cielle occupe mes pensées depuis long­­temps, et je pense que je me rétri­­bue­­rai en tranquillité d’es­­prit !

ulyces-openai-08
Illus­­tra­­tion : Back­­chan­­nel

Traduit de l’an­­glais par Caro­­line Bour­­ge­­ret d’après l’ar­­ticle « How Elon Musk and Y Combi­­na­­tor Plan to Stop Compu­­ters From Taking Over », paru dans Back­­chan­­nel. Couver­­ture : Elon Musk et Sam Altman. Créa­­tion graphique par Ulyces.

Down­load WordP­ress Themes Free
Down­load WordP­ress Themes Free
Down­load WordP­ress Themes
Down­load Best WordP­ress Themes Free Down­load
online free course
Free Download WordPress Themes
Free Download WordPress Themes
Download Nulled WordPress Themes
Download WordPress Themes Free
udemy course download free

PLUS DE SCIENCE