De l’optimisation à la manipulation : Quand les mathématiques exploitent les failles de l’IA

Une conférence de Athmane Bakhta, Saint Gobain

Lundi 24 mars 2025 à 16h30, Halle aux Farines, Amphi 13 E

Résumé : L’intelligence artificielle s’immisce dans de nombreux domaines, de la voiture autonome à la reconnaissance d’images. Cependant, derrière sa puissance se cache une vulnérabilité peu connue mais redoutable : les attaques adversariales. Ces attaques exploitent des imperfections dans les modèles pour induire des erreurs de prédiction, parfois de manière imperceptible. À travers un exemple pratique avec le modèle de classification d’images ResNet50, nous verrons comment une image apparemment banale peut être mal classée. En décryptant le raisonnement mathématique et l’optimisation derrière ces attaques, nous explorerons également des pistes pour rendre les systèmes d’IA plus robustes et mieux protégés contre ces vulnérabilités

Le Maths Club : séminaire pour étudiants
Les vidéos du Maths Club (Les vidéos des conférences passées)

Pour en savoir plus : https://irems.u-paris.fr/maths-club/
Contact : mathsclub@univ-paris-diderot.fr
Les organisateurs, Guillaume Malod, Catherine Muhlrad-Greif et Patrick Simonetta
UNIVERSITÉ PARIS CITÉ - UFR DE MATHÉMATIQUES et IREMS de Paris