Un certain nombre d'entreprises, dont Microsoft і Facebook, et même des chercheurs de l'Université de Californie du Sud, développent des technologies pour lutter contre les deepfakes et empêcher leur propagation par les médias jaunes et la désinformation en général. Cependant, un groupe de scientifiques a quand même réussi à les tromper.
Une équipe d'informaticiens de l'Université de Californie à San Diego a averti qu'il est toujours possible de tromper les systèmes de détection de deepfake existants en insérant des données d'entrée appelées "exemples concurrents" dans chaque image vidéo. Les scientifiques ont présenté leurs découvertes lors de la conférence WACV 2021 sur la vision par ordinateur, qui s'est tenue en ligne le mois dernier.
Les exemples concurrents sont des entrées légèrement modifiées qui font que les systèmes d'intelligence artificielle, tels que les modèles d'apprentissage automatique, font des erreurs. De plus, l'équipe a montré que l'attaque fonctionne toujours après la compression de la vidéo. Dans la vidéo ci-dessus, les scientifiques montrent que XceptionNet, un détecteur de deepfake, qualifie leur vidéo concurrente de "réelle".
La plupart de ces détecteurs fonctionnent en suivant les visages dans une vidéo et en envoyant les données de visage recadrées à un réseau de neurones pour analyse. Le réseau de neurones va alors analyser ces données et trouver des éléments habituellement mal reproduits dans les deepfakes, comme le scintillement.
En insérant des exemples concurrents, les chercheurs ont découvert qu'ils pouvaient tromper ces détecteurs deepfake en leur faisant croire que les vidéos étaient réelles.
Ils déclarent dans l'article que «pour utiliser ces détecteurs deepfake dans la pratique, il est important de les évaluer par rapport à un adversaire adaptatif qui est conscient de cette protection et tente délibérément de la briser. Nous montrons que les méthodes modernes de détection des deepfakes peuvent être facilement contournées si l'attaquant est pleinement ou même partiellement conscient du détecteur."
Comme ces scientifiques l'ont montré, les technologies d'automatisation développées pour lutter contre la désinformation ne sont peut-être pas encore à la hauteur de la tâche.
Lisez aussi: