ESSAI (European Symposium on Security and AI) - Vulnérabilités de l'IA
20 nov. 2025 — 09:00 - 10:30Nef
Pitch
Conférence en anglais
ESSAI
Le European Symposium on Security and AI (ESSAI) tiendra sa seconde édition lors l’European Cyber Week (ECW) le 20 novembre 2025.
Cet évènement, co-organisé par l’AMIAD (Agence Ministérielle de l’Intelligence Artificielle de Défense) et l’INRIA, proposera un programme de deux sessions thématiques axées sur :
La sécurité des systèmes d’intelligence artificielle, qui abordera des sujets tels que les portes dérobées, la confidentialité des données, etc.
Les agents IA, tant dans le domaine numérique que physique, qui explorera des sujets tels que la sécurité des systèmes multi-agents ou de robotique basés LLM, etc.
Les participants pourront assister à des présentations données par des experts nationaux et internationaux, dont les travaux ont été acceptés dans des conférences de premier plan en intelligence artificielle et en sécurité.
Ce symposium, volontairement interdisciplinaire, mettra en lumière une variété de domaines d’application, pouvant couvrir entre autres les enjeux de l’intelligence artificielle appliquée à la défense, la santé ou encore les médias, offrant ainsi aux participants une compréhension plus complète et diversifiée des défis et des opportunités dans ces domaines.
Programme
09h00 - 12h00: Session #1: Vulnérabilités de l'IA
Les attaquants peuvent faire mieux : facteurs surestimés et sous-estimés des attaques par vol de modèle
Daryna Oliynyk, Rudolf Mayer, Andreas Rauber
Les évaluations des défenses de confidentialité en matière d'apprentissage automatique sont trompeuses
Michael Aerni, Jie Zhang, Florian Tramèr
Attaques contre la confidentialité dans l'apprentissage décentralisé
Abdellah El Mrini, Edwige Cyffers, Aurélien Bellet
Backdoors neuronales architecturales à partir des principes fondamentaux
Harry Langford, Ilia Shumailov, Yiren Zhao, Robert Mullins, Nicolas Papernot
IEEE SSP 2025
Combler le fossé entre les modèles de langage visuel dans l'identification des concepts dangereux à travers les modalités
Y. Qu, Michael Backes, Ryan WEBSTER