Repérer les “deepfakes” n’est pas une mince affaire ; cela devient de plus en plus complexe.

Savoir repérer les deepfakes en 2024 est une nécessité, compte tenu de la puissance des outils de manipulation que peuvent être les deepfakes. Les deepfakes qui utilisent une combinaison de technologie d’apprentissage profond et d’IA peuvent créer des contenus audio et vidéo manipulés réalistes, ce qui confirme que la technologie a toujours été une épée à double tranchant. Il y a de bonnes choses, et puis il y a les pires choses que vous pouvez faire avec elles.

Dans ce contexte, voyons ce que sont les deepfakes et comment les repérer en 2024

Qu’est-ce qu’un “deepfake” ?

Pour faire simple, il s’agit de faux médias réalisés à l’aide d’applications de bureau ou de smartphone. Ces applications utilisent des algorithmes spécifiques pour remplacer des parties de l’original et les échanger avec d’autres, comme cette deepfake vidéo d’Obama.

Voyez à quel point elle semble “réelle”.

Voilà le but recherché. Tromper ou divertir les gens avec ces médias synthétiques.

Il y a quelque temps, il était très difficile de créer des vidéos aussi convaincantes, mais aujourd’hui, il suffit d’une carte graphique puissante, de bons outils d’échange de visages par l’IA et de quelques jours pour y parvenir.

Comment repérer les “Deepfakes” ?

Tous les “deepfakes” ne se valent pas. Par conséquent, toutes les techniques ne fonctionnent pas partout. Si certaines présentent des signes révélateurs d’une fabrication mécanique, d’autres nécessitent une observation attentive, voire d’autres outils d’IA, pour être différenciées.

Néanmoins, la tâche se simplifie de jour en jour, les algorithmes devenant efficaces sur du matériel bas de gamme et l’informatique puissante faisant son apparition.

Il est donc important que nous soyons conscients des fraudes les plus courantes et que nous soyons vigilants pour les distinguer de la vérité.

Teint de la peau

C’est la première chose à noter. La partie “travaillée” (généralement le visage) présente de légères différences de couleur de peau, ce qui crée un décalage avec le reste des parties visibles du corps.

zelensky-deepfake and real side-by-side

La partie gauche de l’image ci-dessus provient d’une fausse vidéo du président ukrainien, M. Volodymyr Zelenskyy, demandant à ses forces et à son peuple de se rendre à la Russie.

Mais personne n’a été dupe de ce médiocre travail de copier-coller, et il a été immédiatement dénoncé comme un deepfake.

Expressions

Il s’agit du principal indice, en particulier lorsque des amateurs se font passer pour des experts en deepfakes. Leurs créations médiocres souffrent souvent d’un mouvement des lèvres peu naturel, sans que des pauses humaines ne permettent de les identifier comme fausses. Regardez par exemple cette vidéo de deepfake de Volodymyr Zelensky.

Toutefois, certains algorithmes prévoient des pauses respiratoires. Néanmoins, vous pouvez reconnaître les arrêts identiques et les mouvements de tête qui suivent des schémas similaires, généralement trop mécaniques pour être ignorés.

De même, le clignement des yeux est un autre domaine qui révèle les deepfakes en tant que tels. Il s’agit également de cycles (comme indiqué dans leur code), qui ne sont pas aussi humains si vous les observez à côté d’une vraie vidéo de la même personne.

Le mouvement des globes oculaires est un autre élément permettant de repérer les deepfakes. L’IA, une machine dépourvue d’émotions et de distractions, semble souvent plus concentrée qu’un humain moyen lorsqu’elle parle.

En conclusion, les deepfakes sont plus faciles à repérer s’ils ne sont pas réalisés avec (presque) perfection, comme cette vidéo deepfake de Morgan Freeman.

Patchs

Comment savoir qu’il ne s’agit pas du vrai Morgan Freeman ?

La meilleure chose à propos de la vidéo précédente est sa haute qualité. Vous pouvez passer à la résolution la plus élevée (4k disponible) pour vous donner une chance de repérer l’artifice.

Et plus l’écran est grand, mieux c’est. Vous pouvez également faire une capture d’écran et zoomer pour voir si un travail informatique se cache derrière ce qui est évident.

morgan-freeman-deepfake-zoomed

Voyez-vous la peau maquillée ? C’est là que les algorithmes échouent, dans les petits détails, aussi sophistiqués soient-ils.

La peau a l’air inégale et la reproduction des cheveux du visage (et de la tête) n’est pas naturelle et semble collée.

Cela vous aidera à mieux analyser ce qui suit :

Je peux clairement distinguer la peau synthétique, principalement visible autour de la moustache, de la barbe et de la racine des cheveux.

Le menton, les sourcils, le visage (le vrai est mince), le nez, etc. – comparez cela au vrai (à droite), et c’est clair comme de l’eau de roche.

Je le répète, le fait d’avoir le vrai à côté du faux permet de le distinguer facilement.

Les détails

Il se passe beaucoup de choses lorsque nous parlons. Chacun a son propre style, qui fait que les lèvres, la langue, le menton, les joues, etc. bougent selon un schéma qui lui est propre.

En outre, la technologie deepfake doit encore maîtriser les images de l’intérieur de la bouche pendant que l’on parle. Par exemple, vous ne pouvez pas montrer les dents inférieures (mandibulaires) individuelles dans le deepfake d’Obama.

Tout ce que l’on voit, c’est une bande blanche en bas, et il n’y a aucun signe de mouvement de la langue.

obama-deepfake

Vous pouvez regarder n’importe quelle vidéo authentique d’Obama et observer que l’homme est beaucoup plus expressif, avec beaucoup de mouvements faciaux, que cette réplique d’IA.

En outre, vous pouvez constater que la vidéo elle-même n’est pas très claire. Elle est de très mauvaise qualité, compressée pour masquer la réalité ou en raison de limitations informatiques.

Transitions

L’une des limites de la création de deepfake est la génération image par image. Chaque image doit être vérifiée pour que le masquage soit parfait et que la magie reste intacte.

C’est pourquoi les vidéos deepfake les plus convaincantes sont extrêmement limitées en termes de mouvements faciaux. Elles ne montrent que des visages de face, sans vues latérales, car les transitions entre les deux faces peuvent révéler les goulots d’étranglement de la création.

Regardez cette photo d’un deepfake de Tom Cruise:

tom-cruise

Si vous ralentissez la vidéo et observez attentivement à partir de 35-40 secondes, les transitions latérales-frontales présentent des parties floues.

Ce sont sans doute les parties les plus difficiles à dissimuler et les plus propices à la découverte de telles créations de l’IA.

Voilà donc quelques éléments qui peuvent vous aider à repérer les “deepfakes” et à limiter la désinformation. En résumé :

1.Vérifiez les variations du teint de la peau.
2.Soyez attentif aux synchronisations labiales non naturelles, aux clignements d’yeux robotisés ou inexistants, etc.
3.Zoomez pour voir si la texture de la peau, la reproduction des cheveux, etc. est fidèle à la réalité.
4.Comparez les expressions faciales et la façon de parler avec les vraies vidéos.
5.Vérifiez si des versions de haute qualité sont disponibles.
6.Effectuez une recherche rapide sur Google pour vérifier s’il s’agit d’un faux.
8.Prenez note des dimensions générales du visage et comparez-les avec les vraies.
9.Ralentissez la vidéo pour repérer les mauvaises transitions.
10.L’intérieur de la bouche semble-t-il réel et détaillé ?
11.Partagez la vidéo et demandez l’avis de vos amis et de votre famille en cas d’ambiguïté.
Repérer les deepfakes 101

Les Deepfakes ne sont pas parfaits !

Nous n’avons abordé que les deepfakes vidéo, mais l’audio créé par l’IA sera soumis à des restrictions similaires. Et bien que les machines s’améliorent au fur et à mesure que nous en parlons, elles resteront toujours en retrait par rapport aux personnes vivantes.

Cependant, l’apprentissage n’est pas complet si vous ne mettez pas la main à la pâte. C’est pourquoi nous avons conçu ce guide qui explique ce que sont les deepfakes et comment les créer.