Robustesse IA
Aussi appelé : AI Robustness · ai-robustness · fiabilité de l'IA · résilience d'IA
Mis à jour le
La robustesse en IA est la capacité d'un modèle à maintenir des performances fiables et constantes même face à des données bruitées, inhabituelles ou délibérément altérées.
📖 Définition
💬 En termes simples
Imaginez un pont conçu pour résister aux tempêtes de verglas, aux crues printanières et aux charges exceptionnelles. Un système d'IA robuste est construit selon la même philosophie : il doit fonctionner correctement dans les conditions normales, mais aussi dans les situations imprévues et extrêmes.
🎯 Exemple concret
Un système de diagnostic dans les hôpitaux du Québec maintient sa précision malgré des équipements différents d'un établissement à l'autre. Une institution financière soumet son modèle à des tests de robustesse simulant des tentatives de contournement. Un constructeur de véhicules autonomes teste son système dans les conditions hivernales extrêmes du nord du Québec.
💡 Le saviez-vous ?
Il suffit parfois de modifier un seul pixel dans une image pour tromper un modèle de vision par ordinateur. La Loi canadienne sur l'IA et les données (LIAD) devrait exiger des évaluations de robustesse obligatoires pour les systèmes d'IA à haut risque déployés au Canada.
❓ Questions fréquentes
Pourquoi la robustesse est-elle vitale pour la confiance en l'IA ?
Comment teste-t-on la robustesse d'un système ?
Quels sont les liens entre robustesse et éthique ?
📚 Sources
- NIST - AI Robustness (NIST, 2024)
- ArXiv - Towards Robust AI (Gary Marcus, 2019)
🔗 Termes liés
🏷️ Catégorie parente