DeepTomCruise fait la joie des réseaux sociaux. On voit le célèbre acteur, ou tout du moins son jumeau numérique, jouer de la guitare ou parcourir les terrains de golf. La plateforme britannique ITVX a généralisé le procédé. Avec sa série "Deep Fake Neighbour Wars", elle met en scène des querelles de voisinage entre stars, de la chanteuse Nicki Minaj au footballeur Harry Kane, sans qu'aucune d'entre elles n'ait participé au tournage.

Le recours aux deepfakes, soit la génération par ordinateur de fausses images ou vidéos visant à tromper le spectateur, ne prête pas toujours à sourire. On se souvient de la diffusion, il y a quelques mois, d'une vidéo glaçante du président de l'Ukraine, Volodymyr Zelensky, appelant à la capitulation de son pays face à l'avancée de l'armée russe. Le deepfake est aussi utilisée par les cybercriminels pour personnaliser leurs attaques.

Alimenté par les technologies d'intelligence artificielle, le deepfake, mot-valise né de la contraction de "deep learning" et de "fake", atteint un tel niveau de perfection qu'il est souvent difficile de dicerner le vrai du faux. Au-delà de la sensibilisation du grand public sur l'existence de ce risque d'usurpation d'identité, il existe des solutions techniques de détection. Elles restent rares comme le montre notre sélection plutôt restreinte. A l'instar des dispositifs de cybersécurité, elles ont, par ailleurs, souvent un train de retard sur les faussaires de contenus.

Microsoft Video Authenticator pour lutter contre la désinformation

C'est en septembre 2020 que Microsoft a présenté Video Authenticator. Cet outil analyse une photo ou une vidéo puis établit un score de confiance. Pour savoir si le média a été artificiellement manipulé, il passe en revue des éléments indétectables à l'œil humain comme des déformations dans les niveaux de gris ou des décolorations de l'image.

Microsoft propose une autre solution disponible sur le cloud d'Azure qui vise à garantir l'authenticité et la provenance de contenus en ajoutant des fonctions de hachage cryptographique (hash) et des certificats numériques. Le destinataire de ces contenus vérifie l'intégrité des certificats et les correspondances de hachage à l'aide, par exemple, d'une extension de navigateur. Cette méthode permet d'indiquer, avec un degré élevé de précision, si le contenu a été modifié ou non et de fournir des détails sur l'identité du producteur.

Développé dans le cadre de son programme Defending Democracy Program, Microsoft n'a pas rendu Video Authenticator public pour éviter, on suppose, que les cybercriminels ne l'utilisent pour perfectionner leurs outils de génération de deepfakes. La firme de Redmond le destine aux médias et aux équipes de campagnes électorales pour lutter contre la désinformation.

Deepware, un scanner en ligne open source

Faisant appel à des algorithmes d'apprentissage automatique, Deepware est un outil de scan en ligne open source permettant d'analyser des vidéos provenant de plateformes telles que YouTube, Facebook ou Twitter. Si nos essais de ce service en version bêta ne sont pas révélés concluants, il est possible d'uploader une vidéo depuis le site. Seules restrictions, la durée de la vidéo ne doit pas dépasser les dix minutes et comprendre des visages puisque Deepware se concentre sur la détection faciale.

Vainqueur du Deepfake Detection Challenge organisé par Facebook, Deepware est développé par l'éditeur turque Zemana, spécialisé dans les systèmes de cybersécurité. La solution est également disponible sous forme d'API, de SDK, d'outil en ligne de commandes sous Windows et Linux et d'application Android (version iOS en cours).

Truepic garantit l'authenticité des photos et vidéos

Startup fondée en 2015 à San Diego, Truepic a pris le problème à l'envers. Plutôt que d'essayer de détecter les contenus potentiellement contrefaits, sa technologie prouve l'authenticité des contenus produits. Se présentant comme un kit de développement logiciel (SDK) pour les environnements web, IOS ou Android, son dispositif antifraude Truepic Lens va signer les photos ou les vidéos prises, en prenant en compte les métadonnées d'horodatage (date, heure, lieu) et la composition des pixels capturés.

L'éditeur commercialise aussi une application mobile, baptisée Truepic Vision. Celle-ci peut, par exemple, être proposée par une société d'assurances à ses clients. L'empreinte numérique apposée aux photos qu'ils pendront d'un sinistre, tels qu'un accident de voiture ou un dégât des eaux, assurera leur intégrité.

Truepic est membre fondateur de C2PA, Coalition for Content Provenance and Authenticity, aux côtés de Microsoft, Adobe, Intel et Arm. Ce consortium lutte contre la désinformation en élaborant des normes techniques pour vérifier l'authenticité de contenus en ligne. La startup a levé 26 millions de dollars en septembre 2021 et revendique plus de cent entreprises clientes et partenaires dont Ford ou Equifax.

FakeCatcher pour une analyse temps réel

FakeCatcher est la solution la plus récente de ce comparatif. Présentée par Intel en novembre 2022, elle permet de détecter de fausses vidéos avec un taux de précision revendiqué de 96 %. Pour cela, le fabricant de puces fait appel à la photopléthysmographie, une méthode originale qui consiste à analyser les veines du visage qui changent de couleur suivant l'afflux du sang. Son modèle basé sur le deep learning analyse ainsi une trentaine de zones du visage.

Pour éviter qu'une fausse vidéo ne devienne virale, Intel insiste sur la dimension temps réel. Il ne faudrait que quelques microsecondes à FakeCatcher pour poser son diagnostic. Pour cela, le fondeur utilise, entre autres, les boîtes à outils open source OpenVino pour exécuter ses modèles algorithmiques, et OpenCV pour le traitement d'images et de vidéos en temps réel ainsi que sa propre bibliothèque logicielle multithread Integrated Performance Primitives. Côté processeurs, Intel fait son auto-promotion en indiquant qu'il recourt au Xeon Scalable de troisième génération.

DuckDuckGoose, un plugin gratuit pour navigateur

Startup hollandaise, DuckDuckGoose a développé une série d'outils pour analyser une vidéo ou une photo en quelques secondes avec un taux de précision estimé à 95 %. DeepDetector, sa solution principale se présente sous forme d'API ou d'application selon un modèle tarifaire combinant abonnement et paiement à l'usage. DuckDuckGoose propose un DeepfakeProof, un plugin gratuit pour navigateur (Chrome) qui détecte automatiquement les deepfakes en ligne en analysant les pages web visitées par l'utilisateur.

Plus originale, la startup propose Replicant, son propre outil de génération de deepfakes à des fins de tests. DuckDuckGoose, qui a l'Institut médico-légal ou la Chambre des représentants des Pays-Bas comme références, se positionne sur plusieurs cas d'usage comme l'authentification de contenus, la vérification d'identité numérique, la conformité KYC (Know your client) ou la protection des utilisateurs sur les médias sociaux.