Mindgard est une plateforme de sécurité IA qui aborde la protection des systèmes d'IA comme le ferait un attaquant. Au lieu de partir d'une liste de prompts, elle commence par une reconnaissance native des agents : elle profile les modèles, agents, outils, instructions, permissions et comportements qui composent un système d'IA, afin d'identifier les chemins d'attaque les plus susceptibles de causer des dommages réels. Cette reconnaissance s'appuie sur un renseignement sur les vulnérabilités issu des divulgations publiées par l'entreprise elle-même.
La plateforme couvre l'ensemble du cycle de sécurité. La reconnaissance révèle ce qu'un déploiement d'IA peut réellement faire ; le red teaming teste en continu les agents et systèmes face à des attaques évolutives ; l'évaluation valide quelles faiblesses sont réellement exploitables et quantifie leur impact ; la protection à l'exécution et les conseils de remédiation aident à combler les failles et à vérifier que les défenses tiennent lorsque le système change. C'est essentiel, car le comportement de l'IA évolue à chaque mise à jour de modèle, changement de prompt ou nouvelle intégration d'outil, ce qui rend un test ponctuel insuffisant.
Mindgard est née de plus d'une décennie de recherche en sécurité de l'IA à l'université de Lancaster et affirme être à l'origine de plus de 175 vulnérabilités divulguées publiquement dans des systèmes d'IA majeurs. Elle est conçue pour s'intégrer aux workflows d'ingénierie existants via des API, des pipelines CI/CD et une intégration Burp Suite, afin que l'évaluation de sécurité de l'IA s'exécute avant le déploiement et en continu en production, plutôt que comme un exercice externe périodique.
