Panda SecurityLes arnaques en ligne changent de nature. Les fraudeurs utilisent désormais l’intelligence artificielle non seulement pour produire de faux contenus plus convaincants, mais aussi pour tenter d’influencer les outils auxquels les internautes font confiance. Résultat : une recherche, une recommandation d’achat ou même un appel téléphonique peuvent devenir le point de départ d’une escroquerie.
L’essentiel à retenir
- Les fraudeurs cherchent désormais à influencer les réponses fournies par les assistants IA.
- Des outils d’achat utilisant l’IA peuvent donner une apparence de crédibilité à des boutiques frauduleuses.
- Les arnaques sont devenues une véritable industrie organisée, avec des infrastructures, des scripts et des équipes spécialisées.
- L’IA permet de produire à grande échelle des faux messages, images, voix et vidéos beaucoup plus convaincants.
Et si votre assistant IA vous envoyait lui-même vers une arnaque ?
Pendant des années, les internautes ont appris à se méfier des résultats douteux dans les moteurs de recherche. Avec les assistants IA, le réflexe change. Plutôt que de parcourir plusieurs résultats, on pose une question et on attend une réponse présentée comme synthétique et fiable.
C’est précisément ce changement d’habitude qui intéresse les fraudeurs :
- Ils peuvent tenter de manipuler les données utilisées par les IA. Cela s’appelle « le data poisoning », qui consiste à influencer les informations sur lesquelles un modèle s’appuie pour produire ses réponses.
- Ils peuvent également chercher à optimiser leur présence dans les réponses générées par les IA. Ces techniques, parfois regroupées sous le terme Generative Engine Optimization (GEO), cherchent à influencer la manière dont les systèmes d’IA sélectionnent et présentent certaines informations.
- Le problème est aussi psychologique. Lorsqu’une IA fournit directement un numéro de téléphone ou recommande un site, l’utilisateur peut avoir tendance à lui accorder davantage de confiance qu’à un résultat trouvé au hasard sur Internet.
Lors d’une période de fortes perturbations aériennes aux États-Unis, avec plus de 5 000 vols annulés, ses chercheurs ont demandé à ChatGPT les numéros du service client de plusieurs compagnies aériennes. Plusieurs numéros fournis étaient frauduleux et les appels aboutissaient chez des escrocs.
Le danger est donc particulièrement subtil. La victime ne cherche pas une arnaque. Elle cherche justement de l’aide.
Les achats en ligne deviennent eux aussi un terrain de manipulation
Les assistants capables de rechercher des produits et de recommander des boutiques ajoutent une nouvelle dimension au problème.
Contrairement à un moteur de recherche traditionnel, un outil d’achat utilisant l’IA ne se contente pas d’afficher une liste de résultats. Il peut agir comme un conseiller et suggérer directement un produit ou un marchand.
Une boutique inconnue peut donc paraître plus légitime simplement parce qu’elle est recommandée par l’IA.
Les outils qui recherchent les « meilleures offres » peuvent être particulièrement sensibles aux techniques classiques des faux magasins : énormes réductions, promotions limitées dans le temps ou prétendues liquidations.
L’IA peut même reprendre les arguments commerciaux présents sur un site frauduleux et leur donner davantage de visibilité.
Les escrocs ne travaillent plus forcément seuls dans leur coin
Autre évolution importante : l’arnaque est devenue une activité industrielle.
Il existe aujourd’hui des organisations criminelles capables de gérer des opérations à grande échelle, parfois depuis d’immenses centres regroupant des centaines, voire des milliers de personnes. Ces structures disposent de scripts, de formations et d’outils permettant de reproduire les mêmes techniques auprès d’un très grand nombre de victimes.
- Les nouveaux escrocs peuvent être formés à partir de scénarios préparés à l’avance.
- Des infrastructures télécoms permettent de gérer massivement les appels et les messages.
- Des scripts expliquent aux opérateurs comment réagir aux différentes réponses de leurs victimes.
- L’IA peut désormais s’ajouter à cette organisation pour générer des contenus ou imiter une personne.
Certaines opérations ressemblent ainsi davantage à des centres d’appels frauduleux qu’à l’image traditionnelle du cybercriminel isolé derrière son ordinateur.
Les deepfakes effacent progressivement les signes qui permettaient de repérer une arnaque
L’autre grande transformation vient de l’IA générative.
Les fautes d’orthographe, les messages maladroits ou les images grossièrement truquées constituaient autrefois des indices assez faciles à repérer. Ces signaux deviennent beaucoup moins fiables :
- L’IA permet maintenant de rédiger des messages crédibles dans plusieurs langues.
- Elle peut générer des images réalistes et des profils fictifs.
- Des voix artificielles peuvent imiter celles de personnes réelles.
- Des vidéos peuvent donner l’impression qu’une personnalité ou un proche tient réellement certains propos.
Et cette évolution commence à modifier la perception des internautes. Dans une enquête américaine menée en 2026, 85 % des personnes interrogées se disent préoccupées par le fait que l’IA rende impossible, à terme, la distinction entre le vrai et le faux sur Internet.
Le problème ne sera donc bientôt plus seulement de savoir si un message semble suspect. Il faudra aussi apprendre à ne plus considérer comme une preuve de fiabilité ce qui paraît parfaitement professionnel, bien écrit ou visuellement authentique.
Avec l’IA, les fraudeurs peuvent désormais travailler sur les deux fronts : fabriquer de faux contenus plus crédibles et tenter d’influencer les outils auxquels les utilisateurs font confiance pour obtenir des informations.
