Semaine 28 : Le présent et l’avenir de la détection des images générées par l’IA
L’intelligence artificielle (IA) fait partie de notre quotidien depuis un certain temps. Toujours plus utilisée aussi pour des escroqueries, elle permet désormais de créer en quelques minutes des courriels crédibles, des sites web qui semblent professionnels ou de fausses images. Cette année, dans sa série estivale, l’OFCS montre comment les cybercriminels emploient des images générées par l’IA et quels sont les indices qui permettent de les détecter.
Utilisée quotidiennement déjà dans de nombreux domaines, l’IA est devenue un outil de travail plus ou moins utile. Cette évolution touche aussi les tentatives d’escroquerie. Désormais, des courriels frauduleux sont rédigés dans un français, un allemand ou un italien parfait. L’IA permet de créer rapidement des sites web excellemment conçus, des vidéos ou des photos convaincantes, et même des conférences téléphoniques dans lesquelles des personnes sont imitées. Cette année, la série estivale de l’OFCS est consacrée aux images générées par l’IA et à leur utilisation lors de tentatives d’escroquerie. Le premier article contient des généralités sur les développements de ces dernières années. Tandis que le deuxième article est consacré aux textes et aux sites web, le troisième montre comment des images falsifiées sont désormais utilisées dans des arnaques. Enfin, la série se conclut sur les perspectives à venir.
Il convient de distinguer l’IA générative de l’IA traditionnelle. Ainsi, un filtre anti-spam dans un programme de messagerie est déjà une sorte d’IA employée depuis de nombreuses années. L’essor de l’IA générative n’a toutefois commencé qu’en 2022, avec l’arrivée de ChatGPT. Contrairement aux systèmes qui l’ont précédée, l’IA générative ne se contente pas d’analyser des données existantes. Elle est aussi capable de créer elle-même de nouveaux contenus tels que des textes, des images ou de la musique.
Ces derniers mois, l’OFCS a reçu de nombreux signalements concernant des cas où des images générées par l’IA ont été utilisées pour des escroqueries. Il s’agissait en particulier de sites web d’investissement frauduleux, mais aussi de fausses offres d’emploi et de tentatives d’hameçonnage visant des données d’accès. Les photos générées incluaient par exemple de fausses factures de la Poste.
Le problème, c’est que les modèles s’améliorent constamment. Par conséquent, un indice permettant de détecter une image générée par l’IA aujourd’hui ne sera peut-être plus valable demain. Actuellement, certains signes peuvent toutefois nous alerter et nous permettre d’identifier de telles images.
Mains
Les mains ont longtemps constitué le plus grand défi pour l’IA. On pouvait constater des anomalies, par exemple, au niveau du nombre et de la longueur des doigts ainsi que de la texture de la peau. De petits détails, tels que le nombre de boutons sur un vêtement ou leur emplacement, peuvent aussi indiquer que l’IA a été employée. Avec l’amélioration des modèles, ces indices vont toutefois perdre en importance. Ainsi, les modèles de 2026 ne comportent presque plus d’erreurs et affichent tout au plus des détails illogiques.
Visages et personnes
Par le passé, l’IA a aussi eu de la peine à générer des visages. Comme pour les mains, différents détails pouvaient paraître étranges. Depuis, l’IA a là aussi réalisé de grands progrès. Si les premiers modèles avaient encore des difficultés avec les yeux et la peau, les plus récents sont désormais bien plus fiables. La peau, les cheveux et les dents paraissent maintenant plus naturels. Cependant, même les modèles actuels présentent encore de petites imperfections (reflets sur les deux boucles d’oreilles, bijoux qui disparaissent dans le cou, oreilles trop longues, etc.).
Paysages
L’IA est souvent utilisée pour générer des images de paysages afin de gagner la confiance des victimes, par exemple en simulant un lien avec la Suisse. Ici aussi, certains éléments permettent de reconnaître le recours à l’IA. Souvent, les contrastes sont exagérés lors des levers et couchers de soleil et semblent donc irréels. En outre, l’IA réplique fréquemment plusieurs fois les mêmes objets tels que des drapeaux ou des maisons. Dans la réalité, il est rare que les bâtiments d’une localité soient tous peints dans les mêmes couleurs et présentent les mêmes motifs. C’est donc un indicateur fiable d’un recours à l’IA.
Arrière-plans et groupes de personnes
L’un des problèmes bien connus de l’IA est sa logique défaillante. Les arrière-plans apparaissent très souvent flous, comme si la photo était prise en mode portrait. L’IA a aussi de la peine à représenter de grands groupes : soit il manque des objets, soit il y en a trop (p. ex. pas assez d’assiettes et trop de verres compte tenu du nombre de personnes présentes). Comme indiqué plus haut, des incohérences peuvent aussi apparaître lors de la génération des mains et des membres (p. ex. deux mains gauches, déformation des doigts). Les scènes complexes posent encore des problèmes à l’IA : les visages peuvent apparaître flous ou déformés, en particulier dans les grands groupes de personnes. Même dans des situations normales, les arrière-plans ont tendance à manquer de netteté. Des objets peuvent se fondre les uns dans les autres : des chaises peuvent se transformer en table, ou des couverts peuvent disparaître dans les mains qui les tiennent. La géométrie peut aussi être un indice : les murs ou les fenêtres peuvent ne pas être droits ou ne pas converger. Enfin, des ombres qui ne s’étendent pas dans la même direction peuvent également signaler un recours à l’IA.
Textes dans des images
Même aujourd’hui, l’IA a encore des difficultés à insérer des textes réalistes dans des images. Si les anciens modèles avaient beaucoup de peine à générer des lettres, les textes des nouveaux modèles donnent l’impression d’avoir été ajoutés par ordinateur. Des lettres déformées ou des fautes d’orthographe peuvent encore être le signe d’un recours à l’IA.
Autres indices
Des images générées par l’IA peuvent aussi être détectées au moyen de subtiles incohérences. Ainsi, la lumière et les ombres peuvent paraître peu naturelles, notamment lorsque les sources lumineuses semblent contradictoires ou que les ombres sont projetées dans des directions différentes. La perspective peut également fournir des indices lorsque les lignes sont déformées ou que les structures spatiales ne s’articulent pas de manière logique. Souvent, des motifs répétitifs tels que des fenêtres, des personnes ou des textures se ressemblent de manière frappante. Un autre signe distinctif est un rendu peu naturel de la peau et des textures qui paraissent trop lisses ou artificielles. Enfin, l’image donne fréquemment une impression générale d’artificialité : elle peut sembler convaincante à première vue, mais en y regardant de plus près, on constate que quelque chose ne colle pas tout à fait.
Conclusion
Même si, à l’heure actuelle, de nombreux éléments permettent encore de déceler les images générées par l’IA, il faudra fortement adapter notre approche à l’avenir. En effet, vu les progrès fulgurants des modèles génératifs, bon nombre de ces indices disparaissent progressivement ou ne se manifestent plus que de manière subtile. Par conséquent, il s’agira plutôt d’axer l’évaluation sur la logique du contenu de l’image et sur la compréhension globale du motif représenté. Les facteurs déterminants ne seront pas des erreurs évidentes par-ci par-là, mais des illogismes subtils liés à la perspective, au contexte, aux proportions ou à la cohérence sémantique. À l’avenir, il conviendra d’observer les images plus attentivement et de développer un œil averti pour repérer les détails qui semblent plausibles à première vue, mais qui, à y regarder de plus près, ne sont pas vraiment cohérents.
Statistiques et chiffres actuels
Les annonces de la dernière semaine selon les catégories sont publiées sous: