Une mère de famille américaine a envoyé des vidéos deepfakes à l’école de sa fille, pour saper la réputation de ses rivales au sein de son club de pom-pom girls. Les fausses images montraient les adolescentes en train de commettre des actes obscènes et compromettants, rapportait le Philadelphia Inquirer le 12 mars.

Les enquêtes sur la question ont commencé en juillet 2020 lorsque les parents d’une des victimes ont alerté la police. La jeune fille et son entraîneur avaient alors reçu des messages anonymes contenant des images d’elle nue, buvant et vapotant. Peu après, deux autres familles ont informé la police d’incidents similaires avec leurs propres filles. Après avoir établi qu’il s’agissait de deepfakes, des faux réalisés à l’aide d’intelligence artificielle, les policiers ont retracé la source du trucage pour arrêter Raffaela Spone, une mère de 50 ans.

« Je ne sais pas ce qui a pu la pousser à faire ça », a confié George Ratel, le père d’une des victimes. « En tant que père, j’étais été secoué par ce qui s’est passé. C’est une image de ma fille qui n’est tout simplement pas vraie. » Bien que Raffaela Spone dise avoir fait cela « pour le bien » de sa fille, cette dernière n’était pas au courant des agissements de sa maman.

Cet incident est un rappel choquant de l’impact néfaste que les deepfakes peuvent avoir. Au fur et à mesure que l’IA derrière eux devient plus sophistiquée, il deviendra de plus en plus difficile de distinguer les faits de la fiction. Heureusement, les scientifiques développent de nouveaux outils capables d’identifier avec toujours plus de précision les trucages.

Source : The Philadelphia Inquirer