Désinformation (Fake News & IA)

L'Essentiel

Ce qu’il faut retenir :

1. Quoi : L’utilisation de l’IA pour fabriquer du faux contenu (texte, image, voix, vidéo) indiscernable du vrai.
2. Le Changement : Avant, créer un faux médiatique demandait une équipe d’experts. Aujourd’hui, un individu seul peut inonder le web de millions de faux articles ou créer un Deepfake d’un président en 5 minutes.
3. L’Enjeu : La “Vérité” devient floue. Comment prouver que quelque chose est vrai si tout peut être falsifié ?

Ce que vous saurez dans 3 minutes

L’IA générative n’a pas inventé le mensonge, mais elle a inventé le mensonge à coût marginal nul. C’est une arme à double tranchant : elle permet la créativité (cinéma) mais aussi la manipulation massive (élections, arnaques au président). Le plus grand danger n’est peut-être pas que les gens croient aux mensonges, mais qu’ils ne croient plus à rien (le “Dividende du Menteur”).

---

1. Comprendre

Le Spectre du Faux

Il faut distinguer :

• Misinformation : Partager une info fausse par erreur (ex: Hallucination d’une IA partagée de bonne foi).
• Disinformation : Fabriquer une info fausse pour nuire ou manipuler (ex: Usines à trolls russes).
• Malinformation : Utiliser une info vraie mais hors contexte pour nuire (ex: Vie privée).

Les Outils de l’Attaquant

Deepfakes Vidéo

Remplacer le visage ou les mouvements des lèvres d’une personne.

• Exemple : Vidéos pornographiques non consenties (Taylor Swift), faux discours politiques.

Clonage Vocal

Reproduire une voix avec 3 secondes d’audio.

• Exemple : Arnaque au “Faux Patron” qui demande un virement urgent au comptable.

Fermes de Contenu

Générer des milliers de sites d’actualité factices (“Pink Slime Journalism”) pour saturer Google News et orienter l’opinion.

---

2. Appliquer

Comment se Défendre ?

Aucune solution n’est parfaite, c’est une course aux armements.

1. Provenance (C2PA) Des standards techniques (comme le filigrane numérique invisible) pour certifier l’origine d’une image (prise par une caméra Sony vs générée par Midjourney). C’est la solution poussée par Adobe, Microsoft et Google.

2. Détection Des IA entraînées pour détecter l’IA.

   • Problème : Elles ont toujours un train de retard et font des faux positifs (accuser un étudiant innocent).

3. Éducation (Esprit Critique)

   • Vérifier la source (pas juste le contenu).
   • Chercher la confirmation latérale (d’autres médias en parlent-ils ?).
   • Se méfier de l’émotion forte (la désinformation joue sur la colère ou la peur).

L’Impact Business

Pour une entreprise, le risque est réputationnel :

• Une fausse vidéo du PDG annonçant des pertes.
• Une image générée montrant une explosion dans une usine (c’est arrivé au Pentagone, faisant chuter la bourse brièvement).

---

3. Aller plus loin

Le Concept du “Liar’s Dividend”

C’est un effet pervers : comme les Deepfakes existent, un politicien ou un dirigeant pris en flagrant délit (vidéo réelle comprometante) peut simplement dire “C’est un faux généré par l’IA”. L’existence de la technologie permet aux coupables de nier la réalité.

Régulation (AI Act)

L’Europe impose désormais le marquage des contenus générés par IA.

• “Les systèmes d’IA destinés à interagir avec des personnes physiques… doivent informer la personne.”
• Les Deepfakes doivent être signalés comme artificiels.

---

Notions Liées (Spider Web)

• Technique : GAN (Generative Adversarial Networks), IA Générative
• Risques : Hallucination, Biais
• Loi : AI Act

Ressources Externes

• Organisation : NewsGuard (Traque les sites de désinformation IA)