Séquence animée par Kamel Guerda (CNRS/IDRIS) et Léo Hunout (CNRS/IDRIS)

L’optimisation de l’apprentissage est un enjeu environnemental essentiel, dont l’objectif est de permettre un apprentissage sobre, rapide et efficace, en s’appuyant sur un ensemble de techniques et d’outils tels que l’optimisation des hyperparamètres, la collecte de données de qualité, le choix du bon algorithme pour résoudre une tache spécifique, la normalisation de données, etc…

• 00:00 Introduction de la sequence
• 0:43 Plan de la sequence
• 1:40 Pourquoi optimiser un modele d’ IA?
• 9:29 Les différentes manières d’optimiser un modele d’IA
• 11:22 Les techniques d’optimisations
• 39:22 Pause questions
• 45:52 Les problémes d’optimisations (Vashing gradient, Exploding gradient) et leurs améliorations (gradient clipping, bactch size …)
• 52:08 Importance de la gestion et de la préparation des données
• 55:05 Rappel des techniques d’optimisations essentielles
• 1:02:17 Pause questions
• 1:08:17 Comment améliorer son entrainnement ? (transfert learning ,fine-tuning..)
• 1:28:23 Les outils de visualisations avancés (tensorboard, mflow, DVC, Profiler)
• 1:33:33 Pause questions
• 1:39:53 Exemple de travaux pratique d’optimisation
• 1:58:38 Pause questions
• 2:06:01 Conclusion

Durée : 2h