OpenAI veut créer une police contre les intelligences artificielles rebelles

OpenAI souhaite créer un nouveau type de surveillance via une « police en ligne » afin d’éviter toute dérive d’une intelligence artificielle (IA). Rappelons que le but de l’entreprise, composée d’une équipe de recherche à but non lucratif, est de s’assurer que l’IA ne soit pas utilisée à des fins malveillantes. Pour cela, elle rend tous ces résultats publics et ces brevets sont libres de droits. L’appel pour une « police en ligne » montre bien l’application de cette philosophie. L’entreprise ne veut pas seulement produire une nouvelle forme d’intelligence artificielle et la partager avec le monde entier, elle veut aussi traquer les escrocs.

« Nous n’avons pas encore d’idée précise du projet », a avoué Ian Goodfellow, ancien chercheur à Google qui a récemment rejoint OpenAI. « C’est pour cela que nous avons lancé un appel destiné aux chercheurs ». Une possibilité a néanmoins été envisagée : être présent dans tous les domaines où est utilisée l’IA comme les marchés financiers, les jeux et les nouveaux services en ligne en général. Surveiller ces domaines, par le biais de méthodes traditionnelles ou en créant des intelligences artificielles capables de traquer d’autres intelligences artificielles, pourrait permettre aux « policiers en ligne » d’identifier les dérives de ce système. Ian Goodfellow soupçonne par exemple les entreprises financières d’augmenter leurs profits à l’aide de fines astuces qui trompent les systèmes d’IA utilisés par leurs concurrents. ^{Les « policiers en ligne » devront traquer les dérives de l’intelligence artificielle pour protéger l’humanité / Crédit : 20 minutes} Greg Brockman, l’ancien responsable de la technologie de l’entreprise Stripe, qui supervise désormais OpenAI, reconnaît que la détection des comportements malveillants est difficile, et c’est la raison pour laquelle OpenAI a lancé un appel sur son site web la semaine dernière, afin de recruter des chercheurs qui commenceraient à travailler sur ce sujet. Brockman et la OpenAI appellent en parallèle les chercheurs à amorcer de nouveaux projets comme la création d’une IA capable de gérer elle-même la cyber sécurité. Ainsi qu’une autre capable de battre un programme en ligne, à l’image de Google qui a inventé un système capable de battre l’homme au jeu de Go. Source : Wired