L'IA générative alimente la désinformation massive sur le conflit Israël-Iran

51 sites diffusent des infox générées par intelligence artificielle selon NewsGuard

Le conflit entre Israël et l'Iran devient le théâtre d'une guerre informationnelle sans précédent, alimentée par l'intelligence artificielle générative. Des deepfakes ultra-réalistes aux chatbots diffusant des fausses nouvelles, la technologie transforme radicalement la nature de la désinformation en temps de guerre, créant des défis inédits pour distinguer le vrai du faux.

Une sophistication technologique inégalée dans la propagande

L'ampleur de cette campagne de désinformation dépasse tout ce qui a été observé précédemment dans les conflits modernes. L'entreprise américaine NewsGuard a identifié pas moins de 51 sites internet qui ont publié plus d'une douzaine d'informations erronées, utilisant massivement l'intelligence artificielle pour créer des contenus trompeurs d'un réalisme saisissant.

Cette déferlante d'infox illustre parfaitement l'évolution des techniques de manipulation de l'information à l'ère de l'IA générative. Les outils technologiques permettent désormais de créer des contenus visuels et textuels d'une qualité telle qu'ils deviennent pratiquement indiscernables de la réalité pour l'observateur non averti.

Ken Jon Miyachi, fondateur de l'entreprise spécialisée BitMindAI, constate une "vague de désinformation générée par l'IA en lien avec le conflit Israël-Iran en particulier", évoquant "une sophistication sans précédent" dans les techniques employées.

Veo 3 de Google détourné pour créer des scènes apocalyptiques

L'une des révélations les plus troublantes concerne l'utilisation détournée de Veo 3, l'outil de génération vidéo développé par Google. GetReal Security, entreprise américaine spécialisée dans la détection de contenus truqués par IA, a établi un lien direct entre des vidéos particulièrement convaincantes de scènes apocalyptiques de bombardements iraniens en Israël et ce générateur d'intelligence artificielle.

Le cas le plus flagrant implique une vidéo publiée par le média Tehran Times, présentée comme montrant "le moment où un missile iranien a frappé Tel Aviv". L'analyse technique révèle non seulement que cette séquence a été générée par Veo 3, mais que le logo de l'outil reste visible au bas de la vidéo, trahissant son origine artificielle.

Cette situation soulève des questions cruciales sur la responsabilité des entreprises technologiques dans la prévention de l'usage malveillant de leurs outils. Hany Farid, co-fondateur de GetReal Security et professeur à l'Université de Californie à Berkeley, souligne que "ce n'est pas une surprise qu'au fur et à mesure que les outils d'IA générative s'améliorent en termes de réalisme, ils soient détournés pour diffuser de la désinformation".

L'aéroport Ben Gourion, cible de deepfakes viraux

Après les salves de missiles tirés par l'Iran en riposte aux bombardements israéliens, des vidéos générées par intelligence artificielle ont circulé massivement sur les réseaux sociaux, prétendant montrer des dégâts considérables subis par l'aéroport Ben Gourion de Tel Aviv. Ces images, d'un réalisme troublant, provenaient en réalité d'un compte TikTok spécialisé dans la production de contenu généré par IA.

La viralité de ces fausses images illustre la rapidité avec laquelle la désinformation peut se propager dans l'écosystème numérique contemporain. Les algorithmes des réseaux sociaux, conçus pour favoriser l'engagement, amplifient involontairement la diffusion de ces contenus trompeurs, créant un effet de caisse de résonance particulièrement dangereux en période de crise.

Cette manipulation de l'opinion publique par des images factices de destruction massive démontre comment l'IA peut être instrumentalisée pour intensifier les tensions géopolitiques et influencer les perceptions du conflit à l'échelle mondiale.

L'Iran, laboratoire de la guerre informationnelle

L'analyse de NewsGuard révèle que l'Iran occupe une position centrale dans cette campagne de désinformation. Parmi les diffuseurs de faux contenus figurent des chaînes Telegram officiellement liées à l'armée iranienne et des sources affiliées aux médias d'État iraniens, suggérant une orchestration coordonnée à haut niveau.

McKenzie Sadeghi, chercheur chez NewsGuard, observe que "nous assistons à un déferlement de désinformation, et les Iraniens lambda semblent être le cœur de cible" de cette manipulation informationnelle. Cette stratégie vise apparemment à façonner l'opinion publique iranienne en faveur des positions gouvernementales.

Les contenus fabriqués vont des photos générées par IA censées montrer des destructions massives à Tel Aviv aux récits entièrement inventés faisant état de pilotes israéliens capturés par l'Iran. Cette diversité de formats et de narratifs témoigne d'une approche méthodique et professionnelle de la désinformation.

Un environnement informationnel verrouillé

La situation informationnelle en Iran présente des caractéristiques particulièrement préoccupantes pour la propagation de fausses informations. Sadeghi décrit un contexte où "avec la télévision d'État qui pousse les Iraniens à supprimer WhatsApp, Internet fortement restreint, et un contrôle strict de la presse, les Iraniens sont pris au piège dans un environnement d'information clos".

Cet écosystème fermé, "dominé par les médias d'État, qui se contredisent activement les uns les autres dans une tentative désordonnée de contrôler le récit", crée des conditions idéales pour la manipulation de l'information. L'absence d'accès à des sources indépendantes rend la population particulièrement vulnérable aux campagnes de désinformation orchestrées par le pouvoir.

Cette stratégie de contrôle informationnel s'inscrit dans une tradition de gestion autoritaire de l'information, mais exploite désormais les capacités inédites offertes par l'intelligence artificielle pour créer des contenus trompeurs d'une qualité jamais atteinte auparavant.

La dimension internationale de la propagande

L'impact de cette campagne de désinformation dépasse largement les frontières iraniennes. Certains de ces faux contenus ont été repris et amplifiés par des médias d'État russes et chinois, "les exportant ainsi sur une scène plus vaste", selon l'analyse de NewsGuard.

Cette internationalisation de la désinformation révèle l'existence de réseaux de coopération entre différents acteurs étatiques dans le domaine de la guerre informationnelle. La Russie et la Chine, ayant leurs propres objectifs géopolitiques, trouvent un intérêt stratégique à relayer des narratifs qui remettent en question l'ordre international occidental.

Cette convergence d'intérêts crée un écosystème global de désinformation où les fausses informations générées dans un contexte spécifique peuvent être réutilisées et adaptées pour servir différents agendas politiques à travers le monde.

Au-delà de l'IA : les techniques traditionnelles persistent

Parallèlement aux innovations technologiques, les acteurs de la désinformation continuent d'exploiter des méthodes plus traditionnelles mais toujours efficaces. Des séquences tirées de jeux vidéo sont indûment présentées comme de vraies scènes de guerre, une pratique déjà observée lors des conflits en Ukraine et en Syrie.

Cette persistance des techniques classiques de manipulation s'explique par leur facilité de mise en œuvre et leur efficacité prouvée. Les images de jeux vidéo, particulièrement celles provenant de titres militaires récents aux graphismes photoréalistes, peuvent tromper un public non averti, surtout lorsqu'elles sont diffusées dans un contexte de crise où l'émotion prime sur l'analyse critique.

L'hybridation entre techniques traditionnelles et innovations technologiques crée un arsenal de désinformation particulièrement redoutable, multipliant les vecteurs d'attaque contre l'intégrité de l'information publique.

L'effacement des garde-fous numériques

Cette explosion de la désinformation intervient dans un contexte particulièrement préoccupant de réduction des mécanismes de modération sur les principales plateformes numériques. Les entreprises technologiques ont considérablement réduit leurs équipes de modération de contenu et se passent de plus en plus des services de fact-checkeurs professionnels.

Cette régression des dispositifs de contrôle coïncide malheureusement avec l'émergence d'outils d'IA générative de plus en plus performants et accessibles. Le décalage entre l'évolution des capacités de création de faux contenus et l'affaiblissement des mécanismes de détection crée un environnement particulièrement favorable à la prolifération de la désinformation.

Les conséquences de cette situation dépassent le cadre du conflit israélo-iranien et posent des questions fondamentales sur la gouvernance de l'information à l'ère de l'intelligence artificielle.

L'urgence d'une réponse technologique et éducative

Face à ces défis inédits, Ken Jon Miyachi alerte sur "un besoin urgent de meilleurs outils de détection, d'éducation aux médias, et de responsabilisation des plateformes, pour préserver l'intégrité du discours public". Cette recommandation souligne la nécessité d'une approche multidimensionnelle pour lutter contre la désinformation.

Le développement d'outils de détection plus performants constitue un enjeu technologique majeur. Les entreprises spécialisées comme GetReal Security ou BitMindAI travaillent sur des solutions capables d'identifier automatiquement les contenus générés par IA, mais la course entre les technologies de création et de détection reste incertaine.

L'éducation aux médias représente un autre pilier essentiel de la riposte. Former le public à identifier les signes de manipulation et à adopter une approche critique face à l'information devient une compétence citoyenne fondamentale dans un monde où la réalité peut être artificiellement recréée.

Les implications pour l'avenir des conflits

Cette instrumentalisation massive de l'IA dans la guerre informationnelle autour du conflit israélo-iranien préfigure probablement l'évolution future de tous les conflits internationaux. La capacité à façonner l'opinion publique mondiale par la création de faux contenus ultra-réalistes transforme fondamentalement la nature de la guerre moderne.

Les enjeux dépassent la simple question de la vérité factuelle pour toucher aux fondements mêmes de la démocratie et du débat public. Quand la réalité devient indiscernable de la fiction générée artificiellement, la possibilité d'un dialogue constructif et d'une prise de décision éclairée se trouve compromise.

L'intelligence artificielle continue de transformer notre rapport à l'information et à la vérité. Cette évolution s'inscrit dans un contexte plus large de régulation technologique, comme en témoignent les efforts européens pour encadrer l'IA à haut risque, qui visent à prévenir les usages malveillants de ces technologies.

Conclusion : Un défi civilisationnel

La campagne de désinformation qui accompagne le conflit israélo-iranien marque un tournant dans l'histoire de la manipulation informationnelle. L'alliance entre l'intelligence artificielle générative et les stratégies géopolitiques crée des défis inédits pour la préservation d'un espace public informé et démocratique.

Cette situation exige une mobilisation urgente de tous les acteurs concernés : entreprises technologiques, institutions publiques, organisations de fact-checking et citoyens. L'enjeu dépasse largement le cadre d'un conflit spécifique pour questionner notre capacité collective à maintenir un environnement informationnel fiable dans un monde où la technologie permet de créer artificiellement n'importe quelle réalité apparente.

La bataille pour la vérité à l'ère de l'IA ne fait que commencer, et son issue déterminera largement la nature de nos sociétés futures.