Les images générées par l’intelligence artificielle deviennent de plus en plus réalistes. Certaines sont utilisées pour manipuler l’opinion ou appuyer de fausses campagnes. Un nouvel outil cherche à alerter quand le doute est permis. 6ez3o

Photos truquées, visages artificiels, mises en scène qui semblent vraies… L’intelligence artificielle brouille de plus en plus la frontière entre réel et fiction. Sur les réseaux sociaux, certaines images générées par IA circulent comme s’il s’agissait de documents authentiques. Le problème est en pleine explosion, notamment en période électorale ou lors de conflits d’actualité.

Le phénomène n’est plus anecdotique. Un rapport publié par Anthropic montre que des acteurs malveillants ont utilisé leur IA Claude pour générer du contenu visuel destiné à des campagnes de désinformation. Des dizaines de bots sur Facebook et X ont été pilotés pour publier, commenter et partager ces images dans plusieurs langues, dans le but d’influencer discrètement certains débats politiques. Ces opérations sont menées contre rémunération, et visent à faire er des opinions pour des faits.

Un outil permet de détecter si une image a été générée par IA ou non 5v2j3a

Face à cette menace, plusieurs entreprises développent des outils capables de détecter automatiquement si une image a été créée par une IA. Adobe, par exemple, propose déjà une technologie appelée Content Credentials, qui permet d’identifier les contenus générés artificiellement grâce à des signatures numériques. D’autres acteurs comme Google, OpenAI ou Anthropic travaillent sur des méthodes de détection similaires, parfois intégrées directement aux navigateurs ou aux plateformes. Pour le grand public, ces programmes ne sont pas encore disponibles, mais ils pourraient bientôt être intégrés aux moteurs de recherche, aux réseaux sociaux ou aux applications de messagerie.

Jusqu’à récemment, générateur d’images de ChatGPT, par exemple, produit des visuels très proches de la réalité, même dans les détails. Dans ce contexte, seule une vérification automatisée peut suivre le rythme. Ces outils de détection pourraient devenir essentiels pour les journalistes, les institutions ou les réseaux sociaux. La course entre génération et détection ne fait que commencer.