Face à l’accélération de la présence d’images et de vidéos manipulées sur les réseaux sociaux, Facebook détaille ses moyens de lutte contre les deepfakes. Facebook traque les contenus générés par l’IA comme les faux comptes. Le réseau social s’appuie sur 50 experts de tous secteurs dans le monde pour identifier les modes de détection.
Facebook annonce la suppression de contenus dont le sens du contenu aurait été modifié en donnant une impression de contenu authentique.
Cette mesure ne s’applique pas au contenu parodique ou satirique, ni aux vidéos qui ont été modifiées uniquement pour omettre ou modifier l’ordre des mots.
En septembre dernier, Facebook a lancé le Deep Fake Detection Challenge doté de 10M$ de subvention qui a incité à produire des recherches et des outils open source pour détecter les deepfakes. Ce projet a inclus le Partnership on AI, Cornell Tech, l’Université de Californie à Berkeley, le MIT, WITNESS, Microsoft, la BBC et AWS.
Reuters a également été intégré pour identifier les deepfakes et les médias manipulés grâce à une formation en ligne gratuite.
