Depuis fin de 2022, la vague de l’IA générative, amorcée par l’arrivée de ChatGPT, déferle sur le monde et le monde de la sécurité n’y a pas échappé. Sans surprise, les aspects offensifs ont rapidement attiré l’attention, avec en premier lieu, la manipulation des réponses d’un modèle à l’aide de prompts malveillants, pour le pousser à ignorer ses mesures de sécurité et à divulguer des données sensibles.
Depuis, l’écosystème de l’IA se développe à un rythme frénétique parfois difficile à suivre pour les défenseurs. Du côté des utilisateurs, la tentation est grande de fournir à un LLM toutes sortes de données, y compris sensibles, pour espérer gagner en rapidité et en efficacité. Le nerf de la guerre des leaders du domaine est la donnée et les informations qu…
- Accédez à tous les contenus de Connect en illimité
- Découvrez des listes de lecture et des contenus Premium
- Consultez les nouveaux articles en avant-première