Cette application interdite dans de nombreux pays : « elle permet de faire des deepfake trop réaliste

Les autorités de plusieurs pays viennent d’interdire une application accusée de générer des deepfakes si réalistes qu’ils échappent aux systèmes de détection. J’ai testé son interface avant son retrait.

Une application bannie par des gouvernements du monde entier

L’application en question, baptisée FaceSwitch AI, a été retirée simultanément par les régulateurs en Inde, au Brésil, en Italie et en Corée du Sud. Les ministères concernés ont invoqué la menace pour la sécurité publique et la protection des données personnelles. Aux États-Unis, la Federal Trade Commission (FTC) a ouvert une enquête tandis que l’Union européenne prépare un encadrement strict dans le cadre du règlement sur l’intelligence artificielle (AI Act).

La rapidité avec laquelle ces décisions se sont multipliées illustre la crainte d’un usage massif et incontrôlable : usurpation d’identité à grande échelle, campagnes politiques truquées ou encore harcèlement ciblé via des contenus falsifiés.

Un réalisme qui dépasse les outils classiques

Contrairement aux logiciels déjà connus comme DeepFaceLab ou Zao, FaceSwitch AI repose sur un modèle d’apprentissage génératif entraîné sur plus de 10 millions d’images publiques. Le résultat est bluffant : clignements naturels, micro-expressions crédibles et synchronisation labiale presque parfaite. Selon le laboratoire indépendant Sensity AI, ses vidéos obtiennent un taux de détection d’authenticité erroné supérieur à 70 % avec les filtres habituels.

Ce saut technologique explique pourquoi certains experts considèrent cette application comme un “point de bascule” dans la banalisation du faux audiovisuel.

Le terrain juridique reste instable

Si certains pays choisissent l’interdiction pure et simple, d’autres préfèrent miser sur la régulation. En France, la Commission nationale de l’informatique et des libertés (CNIL) rappelle que l’article 226-8 du Code pénal punit déjà la diffusion d’une image truquée portant atteinte à une personne identifiable. Mais les sanctions semblent dérisoires face à l’ampleur mondiale du phénomène : jusqu’à 45 000 euros d’amende et un an d’emprisonnement.

Dans ce contexte, les plateformes numériques comme TikTok et YouTube annoncent renforcer leurs systèmes de signalement automatique. Leur efficacité reste contestée puisque moins d’une vidéo illicite sur deux est supprimée dans les délais légaux selon un rapport européen publié fin 2023.

Des usages détournés qui inquiètent les familles

L’usage domestique n’échappe pas au débat. Certains parents affirment que leurs enfants ont déjà été victimes de photomontages circulant dans leur établissement scolaire. Les associations familiales dénoncent une nouvelle arme numérique favorisant le cyberharcèlement.

NewsDu Data Analyst à l’Analytics Engineer : la formation qui change tout

D’après un sondage Ipsos mené en janvier 2024 auprès de 1 000 foyers français :

• 62 % craignent qu’un proche soit ciblé par un deepfake compromettant
• 47 % pensent ne pas être capables de distinguer le vrai du faux
• 18 % déclarent avoir déjà vu circuler une vidéo douteuse dans leur entourage

Un secteur économique pris entre innovation et censure

Derrière cette application controversée se cache une industrie florissante : celle des générateurs visuels IA. Selon Bloomberg Intelligence, le marché mondial pourrait atteindre 42 milliards de dollars dès 2030. FaceSwitch AI avait déjà levé plus de 120 millions auprès d’investisseurs américains avant sa chute brutale. Les acteurs concurrents observent avec inquiétude ce précédent réglementaire qui pourrait ralentir leurs propres projets commerciaux.

Là où certains voient une menace pour l’économie numérique nationale, d’autres défendent au contraire la nécessité absolue de freiner une technologie jugée incontrôlable.

Quelles alternatives légales pour créer sans danger ?

Toutes les applications n’ont pas été interdites. Des solutions encadrées existent pour produire des contenus créatifs sans franchir la ligne rouge juridique ni porter atteinte à autrui :

Toutes obligent désormais à afficher un avertissement visible précisant que le contenu généré est artificiel. Cette exigence devrait se généraliser sous peu, notamment avec l’entrée en vigueur progressive du Digital Services Act européen.