Facebook : une IA pour combattre les deepfakes

Le réseau social a mis au point une intelligence artificielle capable de repérer les deepfakes et de bloquer la reconnaissance faciale.

La vidéo fait le tour du web aujourd’hui. On y voit l’actrice Jennifer Lauwrence à gauche, mondialement connue pour son rôle dans Hunger Games, et à droite une autre femme, à la ressemblance troublante. Gestuelle et manière de parler similaires, vêtements identiques, on jurerait voir une copie conforme. Pourtant, quelques petits détails entachent cette reproduction.

Déformer la réalité pour berner la reconnaissance faciale

Ce clone approximatif de l’actrice est en réalité une création d’un tout nouveau logiciel développé dans les laboratoires de recherche en intelligence artificielle de Facebook. Cette IA a pour vocation première d’appliquer un ou plusieurs filtres sur des vidéos afin d’empêcher tout détournement par des logiciels de reconnaissance faciale, et de créer des deepfakes par la même occasion.

Pour rappel, les deepfakes sont des vidéos mensongères où l’on peut par exemple voir des célébrités et personnalités politiques tenir des propos absolument effarants, comme Barack Obama qui insultait ouvertement Donald Trump. Rien de tout ça n’est vrai. C’est bien la voix et le visage de l’ex-président des Etats-Unis, et pourtant tout est faux. C’est la magie des logiciels de reconnaissance faciale.

Cette IA se veut à la pointe de la désidentification, un domaine de recherche très récent qui regroupe toutes les techniques existantes pour berner les logiciels de reconnaissance faciale. En général, les chercheurs essaient d’appliquer des retouches minimes à des visages, quasi invisibles à l’oeil nu, mais suffisamment importantes pour tromper ces logiciels. Les caractéristiques sont faussées, et il devient impossible d’exploiter ces visages à des fins disons malhonnêtes.

Un carton plein

L’efficacité de l’IA de Facebook serait sans précédent selon les dires du réseau social. Elle n’aurait pas besoin de machine learning (l’amélioration par l’apprentissage) et prodiguerait de bons résultats immédiatement, sur n’importe quelle vidéo, en direct ou non. Toujours selon la firme californienne, l’outil aurait réussi à mettre en échec les principaux logiciels de reconnaissance faciale actuels. « La reconnaissance faciale pose des gros enjeux de respect de la vie privée, et les technologies qui permettent de modifier le visage peuvent être utilisées pour créer des contenus trompeurs », explique l’un des chercheurs dans les colonnes de VenturaBeat, repris par le Figaro. Le FAIR, le réseau de laboratoire de recherche en intelligence artificielle de Facebook, doit officiellement présenter leur invention à Séoul la semaine prochaine, lors de la Conference On Computer Vision.