Désinformation et hypertrucages

L'impact des modèles génératifs sur la fabrication massive de faux récits, d'images trompeuses et d'hypertrucages, et les limites de l'authentification par la norme C2PA.

6 min de lecture

#éthique
#désinformation
#hypertrucage
#C2PA

En une phrase

La désinformation assistée par intelligence artificielle désigne la création et la propagation massive de faux articles, de rumeurs textuelles et d’hypertrucages audiovisuels ultraréalistes rendues possibles par l’effondrement du coût de production des contenus synthétiques.

L’analogie

Pense à un faussaire du Moyen Âge qui souhaitait inonder le royaume de faux décrets royaux pour semer la révolte. Pour chaque feuille de parchemin, il devait fabriquer son encre, imiter laborieusement l’écriture gothique à la plume pendant des heures, et copier le sceau royal à la cire. S’il travaillait d’arrache-pied, il pouvait produire deux faux par jour. Son impact restait marginal et facilement repérable.

Imagine maintenant que ce faussaire se voie offrir une imprimerie magique automatisée : il glisse un mot d’ordre (« Faites croire que le roi a doublé les impôts »), et la machine expédie en trois secondes cinquante mille parchemins parfaits, chacun rédigé avec des tournures légèrement différentes pour cibler précisément la colère des forgerons, des boulangers et des paysans de chaque village.

C’est exactement ce que les modèles génératifs ont changé : ils n’ont pas inventé le mensonge politique, mais ils ont réduit son coût de fabrication et de personnalisation à zéro.

Comment ça marche

La désinformation traditionnelle se heurtait à deux limites concrètes : le temps humain nécessaire pour rédiger des articles persuasifs et la compétence technique requise pour retoucher des photos de manière crédible. Les modèles de langage et les modèles de diffusion ont balayé ces deux contraintes.

L’effondrement du coût marginal de fabrication

Auparavant, monter une cellule de propagande exigeait de recruter des dizaines de rédacteurs rémunérés pour alimenter des sites web pirates et animer des armées de faux comptes sur les réseaux sociaux.

Avec les grands modèles actuels, un seul opérateur doté d’une simple boucle de script peut commander la rédaction de dix mille faux articles par jour. Le modèle peut traduire instantanément le message dans vingt langues différentes, adapter le registre de langue (du jargon technique pour séduire des professionnels à l’argot des réseaux sociaux pour toucher des adolescents) et varier les arguments pour tester ceux qui provoquent le plus de réactions émotives. Le coût de production d’un faux crédible a été divisé par plus de dix mille.

L’illusion de surface et la fausse autorité

L’efficacité redoutable des textes générés par IA repose sur leur perfection syntaxique. Un modèle de langage ne dispose d’aucune conscience de la vérité factuelle, mais il maîtrise souverainement les codes de l’autorité discursive :

Il emploie un ton neutre, posé et journalistique.
Il invente des noms de professeurs, des comités d’experts et des dates précises avec un aplomb stylistique désarmant.
Il tisse des raisonnements en apparence rigoureux autour de prémisses totalement fictives.

Des études menées en sciences politiques ont démontré que des panels de citoyens ordinaires jugent des articles de désinformation produits par un grand modèle aussi convaincants, voire plus crédibles, que de véritables enquêtes écrites par des journalistes professionnels.

Les hypertrucages multimodaux (Deepfakes)

La menace ne se limite plus au texte écrit. La convergence des technologies génératives a donné naissance aux hypertrucages (deepfakes) :

Le clonage vocal neuronal : Il suffit aujourd’hui d’enregistrer trois secondes de la voix d’une personnalité publique lors d’une interview pour conditionner un modèle acoustique capable de lui faire prononcer n’importe quel discours avec son intonation exacte et son timbre naturel.
La diffusion visuelle et vidéo : Les modèles de diffusion génèrent des photographies et des séquences vidéo où les traits d’un dirigeant politique ou d’un citoyen sont plaqués sur des situations dégradantes ou compromettantes avec un réalisme photographique saisissant.

La norme cryptographique C2PA et ses limites

Face à l’impossibilité de détecter les faux par de simples algorithmes d’analyse d’image, l’industrie et les médias se sont regroupés autour de la coalition C2PA (Coalition for Content Provenance and Authenticity).

Le principe consiste à intégrer une signature cryptographique infalsifiable directement dans le fichier au moment de sa capture par un appareil photo certifié ou de sa génération par un logiciel d’IA (le dispositif Content Credentials). En cliquant sur le badge d’un média, l’utilisateur peut inspecter l’historique complet : la marque du capteur, le logiciel employé et les retouches appliquées.

Toutefois, cette solution souffre d’un talon d’Achille majeur : la plupart des grandes plateformes de réseaux sociaux et de messageries instantanées compressent les images et suppriment systématiquement ces métadonnées cryptographiques pour économiser de la bande passante, détruisant ainsi la chaîne de confiance.

Dans la vraie vie

Les attaques informationnelles utilisant des modèles génératifs sont déjà une réalité quotidienne :

L’appel fantôme de Joe Biden (2024) : Lors des primaires présidentielles du New Hampshire, des milliers d’électeurs ont reçu un message téléphonique avec la voix clonée du président Joe Biden leur demandant de garder leur vote pour l’élection de novembre et de ne pas se déplacer, une opération de manipulation politique montée en quelques heures avec des outils commerciaux.
La fausse photo du Pape en doudoune (2023) : Une image montrant le Pape François vêtu d’une doudoune blanche de haute couture générée sur Midjourney est devenue virale en quelques minutes, trompant des millions d’internautes et des rédactions professionnelles avant d’être démentie.
Réseaux d’ingérence étrangère en France : Le service gouvernemental Viginum a mis au jour en 2024 le réseau « Portal Kombat », composé de près de deux cents sites d’information synthétiques alimentés par des modèles pour disséminer des narratifs hostiles à la France et à l’Europe.
Le « dividende du menteur » : L’existence même des hypertrucages permet à des personnalités corrompues de se disculper d’enregistrements audio ou vidéo authentiques en affirmant simplement : « Ce n’est pas moi, c’est une vidéo fabriquée par une IA ».

Idées reçues

« Un texte sans faute d’orthographe et riche en vocabulaire provient forcément d’une source humaine fiable. » Les modèles de langage excellent dans le style académique sans posséder la moindre notion de vérité factuelle. Une syntaxe parfaite n’est plus du tout un gage de crédibilité.
« Les logiciels d’analyse permettront toujours de distinguer à coup sûr une fausse image d’une vraie photo. » L’asymétrie entre la qualité de génération et les capacités de détection rend les filtres passifs poreux. Seuls le recoupement des sources par des journalistes et la signature cryptographique à la source (C2PA) offrent une défense durable.
« Les hypertrucages ne concernent que les chefs d’État et les célébrités mondiales. » N’importe quel citoyen, lycéen ou collégien peut voir son visage et sa voix détournés pour fabriquer des photomontages malveillants ou du harcèlement scolaire à partir de simples photos publiques Instagram.

Pour aller plus loin

Spécification technique officielle C2PA v2.0 — Coalition for Content Provenance and Authenticity, 2024 (EN) : Le standard international pour l’authentification cryptographique des métadonnées de provenance des médias.
Rapports publics de vigilance contre les ingérences numériques — Viginum (France), 2024 (FR) : Les synthèses officielles de l’agence française documentant l’utilisation des LLM dans la manipulation coordonnée de l’information.
All the News That’s Fit to Fabricate: AI-Generated Text in the Sphere of Influence — Sarah Kreps et al., 2022 (EN) : Étude de l’Université de Cambridge mesurant la force persuasive des textes trompeurs générés par des grands modèles.