Han, le robot expressif de Hanson Robotics Facebook a désactivé deux intelligences artificielles qui discutaient entre elles dans un langage compris d’elles seules. Le magazine Forbes rapporte que les deux chatbots ont apporté des modifications à l’anglais pour converser plus efficacement. Le résultat est incompréhensible pour nous, et les ingénieurs de Facebook n’ont aucune idée de ce que les IA ont bien pu se raconter. À l’origine, les robots avaient pour tâche de mener des négociations pour s’échanger des chapeaux, des balles et des livres auxquels on avait attribué différentes valeurs. Mais peu après le début de l’expérience, les IA se sont mises à converser dans un langage dérivé de l’anglais parfaitement imbitable pour les chercheurs humains. Ça donnait ça :
Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Ce qui fait dire aux ingénieurs de Facebook qu’il ne s’agit pas d’un non-sens total, c’est que certaines des négociations ont été conclues après cette série d’échanges bizarres. Bien que pour l’instant indéchiffrable, ce langage semble avoir des règles. Peut-être les répétitions expriment-elles simplement des valeurs, mais cette hypothèse n’a pas suffi à décoder les messages. L’incident s’est produit quelques jours après le clash qui a eu lieu entre Mark Zuckerberg, patron de Facebook, et Elon Musk, patron de Tesla, sur la question de l’intelligence artificielle. Pour Elon Musk, le fondateur du réseau social a une « compréhension limitée » du problème et des menaces que pose l’intelligence artificielle. La veille de cette remarque, le 24 juillet, Zuckerberg avait déclaré lors d’un Facebook Live qu’il ne comprenait pas les oiseaux de mauvais augure de l’IA, qui ressassent les dangers que l’intelligence artificielle est susceptible de nous faire courir. Alice et Bob ne discutaient probablement pas d’un plan pour se retourner contre leur créateur, mais Mark Zuckerberg ferait bien de les surveiller d’un œil. Sait-on jamais. Source : Forbes
