Face­book désac­tive deux IA qui avaient inventé leur propre langage codé

par   Nicolas Prouillac et Arthur Scheuer   | 1 août 2017

Han, le robot expres­sif de Hanson Robo­tics Face­book a désac­tivé deux intel­li­gences arti­fi­cielles qui discu­taient entre elles dans un langage compris d’elles seules. Le maga­zine Forbes rapporte que les deux chat­bots ont apporté des modi­fi­ca­tions à l’an­glais pour conver­ser plus effi­ca­ce­ment. Le résul­tat est incom­pré­hen­sible pour nous, et les ingé­nieurs de Face­book n’ont aucune idée de ce que les IA ont bien pu se racon­ter. À l’ori­gine, les robots avaient pour tâche de mener des négo­cia­tions pour s’échan­ger des chapeaux, des balles et des livres auxquels on avait attri­bué diffé­rentes valeurs. Mais peu après le début de l’ex­pé­rience, les IA se sont mises à conver­ser dans un langage dérivé de l’an­glais parfai­te­ment imbi­table pour les cher­cheurs humains. Ça donnait ça :

Bob: i can i i every­thing else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i every­thing else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i every­thing else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i every­thing else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i every­thing else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Ce qui fait dire aux ingé­nieurs de Face­book qu’il ne s’agit pas d’un non-sens total, c’est que certaines des négo­cia­tions ont été conclues après cette série d’échanges bizarres. Bien que pour l’ins­tant indé­chif­frable, ce langage semble avoir des règles. Peut-être les répé­ti­tions expriment-elles  simple­ment des valeurs, mais cette hypo­thèse n’a pas suffi à déco­der les messages. L’in­ci­dent s’est produit quelques jours après le clash qui a eu lieu entre Mark Zucker­berg, patron de Face­book, et Elon Musk, patron de Tesla, sur la ques­tion de l’in­tel­li­gence arti­fi­cielle. Pour Elon Musk, le fonda­teur du réseau social a une « compré­hen­sion limi­tée » du problème et des menaces que pose l’in­tel­li­gence arti­fi­cielle. La veille de cette remarque, le 24 juillet, Zucker­berg avait déclaré lors d’un Face­book Live qu’il ne compre­nait pas les oiseaux de mauvais augure de l’IA, qui ressassent les dangers que l’in­tel­li­gence arti­fi­cielle est suscep­tible de nous faire courir. Alice et Bob ne discu­taient proba­ble­ment pas d’un plan pour se retour­ner contre leur créa­teur, mais Mark Zucker­berg ferait bien de les surveiller d’un œil. Sait-on jamais. Source : Forbes 

Free Download WordPress Themes
Free Download WordPress Themes
Free Download WordPress Themes
Download Nulled WordPress Themes
online free course