L’intelligence artificielle transforme déjà la cybersécurité en accélérant la recherche de vulnérabilités et la création d’exploits. Mais jusqu’où peut-elle aller seule ? C’est la question à laquelle James Kettle, chercheur en sécurité chez PortSwigger, a voulu répondre en testant les capacités des modèles d’IA à imaginer de nouvelles méthodes d’attaque.
Ses expérimentations, menées à partir de septembre 2025 avec des modèles d’Anthropic et d’OpenAI, montrent une réalité plus nuancée que celle d’une IA capable de pirater de manière totalement autonome. Les modèles se sont révélés capables de produire de nombreuses pistes de recherche, mais leur capacité à imaginer seuls de nouvelles voies d’attaque reste limitée.
En revanche, lorsqu’un expert humain intervient aux moments clés, les résultats deviennent beaucoup plus puissants. Cette collaboration a notamment conduit à l’identification d’une nouvelle catégorie potentielle de vulnérabilité baptisée « Shared-Parser Confusion ».
L’essentiel à retenir
- James Kettle a testé les capacités de l’IA à développer de nouvelles techniques de piratage.
- Les modèles testés se sont montrés très efficaces pour produire des pistes de recherche, mais beaucoup plus limités pour concevoir seuls de nouvelles voies d’attaque.
- Les expérimentations ont commencé en septembre 2025 avec des modèles d’Anthropic et d’OpenAI.
- L’intervention d’un chercheur humain aux moments clés a permis d’aller beaucoup plus loin.
- Cette collaboration a conduit à la découverte d’une nouvelle catégorie potentielle de vulnérabilité appelée « Shared-Parser Confusion ».
- Selon James Kettle, cette découverte n’aurait probablement été réalisée ni par l’IA seule, ni par lui-même sans l’aide de l’IA.
Jusqu’où l’IA peut-elle aller seule dans le hacking ?
Les systèmes d’IA sont déjà capables d’accélérer considérablement certaines tâches de cybersécurité, notamment la recherche de vulnérabilités. Mais l’expérience menée par James Kettle montre que leur capacité à imaginer de nouvelles méthodes d’attaque de manière totalement autonome reste limitée.
Le chercheur souhaitait précisément dépasser les usages connus de l’IA pour déterminer si un système pouvait développer une méthode d’attaque originale, depuis le concept jusqu’à son application pratique.
Les résultats sont nuancés. L’IA peut générer un grand nombre de pistes et explorer rapidement des possibilités qu’un humain aurait difficilement le temps d’examiner. Mais elle rencontre davantage de difficultés lorsqu’il s’agit de franchir certains obstacles conceptuels et d’identifier une nouvelle voie d’attaque à partir de ces observations.
Comment James Kettle a-t-il testé les capacités de l’IA ?
James Kettle a commencé ses expérimentations en septembre 2025 avec les modèles les plus récents d’Anthropic et d’OpenAI disponibles à cette période.
Une première difficulté est rapidement apparue : les modèles avaient tendance à présenter comme nouvelles des recherches qui existaient déjà, notamment sur des sujets très spécialisés et difficiles à vérifier.
Le chercheur a donc décidé de limiter les expérimentations à son propre domaine d’expertise : la sécurité des applications web. Cette approche lui permettait de vérifier lui-même les résultats produits par l’IA et de détecter plus facilement les erreurs ou les recherches déjà existantes.
Il a également fourni aux modèles sa propre méthodologie de recherche afin de tester leur capacité à aller au-delà des informations qui leur avaient été transmises.
L’IA a-t-elle réellement permis de trouver de nouvelles vulnérabilités ?
Les expérimentations ont montré que l’IA pouvait produire des pistes de recherche à un rythme beaucoup plus important qu’un chercheur humain travaillant seul. James Kettle explique que le système produisait parfois des résultats intéressants tous les deux jours, générant tellement de pistes qu’il devenait difficile de toutes les explorer.
En quelques mois, le système a ainsi permis d’identifier davantage d’exemples de vulnérabilités confirmées que le chercheur estime pouvoir en trouver seul en plusieurs années.
Mais cette efficacité ne signifie pas que l’IA avait pris la place du chercheur. Une partie essentielle du travail consistait justement à évaluer les résultats produits, à déterminer lesquels méritaient d’être approfondis et à identifier les pistes susceptibles de mener à une découverte réellement nouvelle.
Qu’est-ce que la « Shared-Parser Confusion » ?
La « Shared-Parser Confusion » est une nouvelle piste de vulnérabilité identifiée grâce aux expérimentations de James Kettle avec l’IA. Le modèle IA a remarqué que certains serveurs utilisent le même code pour analyser les requêtes et les réponses, puis a suggéré qu’une règle appliquée aux réponses puisse également concerner les requêtes. James Kettle a ensuite testé cette hypothèse et l’a confirmée.
Pourquoi cette découverte est-elle importante ? Les requêtes peuvent être contrôlées par un attaquant, contrairement aux réponses du serveur. Le fait qu’un même code puisse analyser les deux ouvre donc une nouvelle piste de recherche en sécurité web, qui pourrait dépasser le cadre des attaques de désynchronisation HTTP étudiées par Kettle.
Pourquoi l’humain reste-t-il indispensable ?
L’expérience de James Kettle ne montre pas que l’IA est incapable de découvrir de nouvelles techniques. Elle montre plutôt que certaines avancées apparaissent lorsque l’IA et l’expertise humaine interviennent à des étapes différentes du processus.
Dans le cas de la Shared-Parser Confusion, l’IA a identifié une hypothèse à partir de résultats réels et existants. James Kettle a ensuite compris la portée de cette observation, l’a évaluée et l’a confirmée.
Le chercheur résume cette complémentarité en expliquant que l’IA n’aurait pas pu confirmer seule la découverte, mais que lui-même ne l’aurait probablement pas trouvée seul non plus.
L’IA pourrait-elle devenir totalement autonome ?
Pour le chercheur, les expérimentations montrent surtout que l’autonomie complète reste limitée dans certains domaines de la recherche en sécurité. Les modèles peuvent générer et explorer de nombreuses hypothèses, mais certaines étapes nécessitent encore l’expertise d’un humain capable de comprendre le contexte et d’identifier une idée réellement nouvelle.
Cette limite est particulièrement importante dans la recherche en cybersécurité, où il ne suffit pas de produire une anomalie ou une piste technique. Il faut également comprendre ce qu’elle signifie, déterminer si elle constitue réellement une vulnérabilité et évaluer son potentiel.
L’expérience menée par Kettle suggère donc moins une opposition entre humains et IA qu’une complémentarité entre leurs capacités.
Une nouvelle étape dans le hacking assisté par IA
Les travaux présentés par James Kettle à la conférence Black Hat montrent que l’IA peut déjà jouer un rôle important dans la recherche offensive comme défensive en cybersécurité.
Son expérience montre cependant que les progrès les plus significatifs ne viennent pas nécessairement d’une IA travaillant seule. Dans le cas étudié, c’est l’association entre la capacité de l’IA à explorer rapidement un très grand nombre de pistes et l’expertise du chercheur humain qui a permis d’aboutir à la découverte de la Shared-Parser Confusion.
L’IA peut donc multiplier la capacité d’exploration d’un chercheur, sans pour autant remplacer son expertise. Et pour l’instant, certaines des découvertes les plus intéressantes semblent encore se situer précisément à l’endroit où ces deux capacités se rencontrent.