UE 3.1 Sparse Coding

This course aims at providing advanced notions in machine learning related to dictionary learning for signal and image representation, matrix factorization for recommendation system and adapted recent convex optimization methods adapted to this task.

• Découvrir un panorama des méthodes récentes d'apprentissage statistique
• Maitriser l'apprentissage de dictionnaires pour la représentation des signaux et images (débruitage)
• Connaitre la factorisation de matrices (exemple des systèmes de recommandation)

• Data Mining
• Statistiques
• Traitement du Signal

Contrôle continu

• Introduction
  • Démélange de sources audio

• Apprentissage, Régularisation et optimisation
  • Régularisation L2 vs L1
  • Exemple pénalité L1
  • Sous gradient et dualité de Fenchel

• Dualité lagrangienne
• Régression parcimonieuse
  • Ridge regression
  • Lasso

• Méthode proximale pour l'optimisation

•  Apprentissage de dictionnaires ou factorisation de matrices
  • Méthodes alternées (MOD)
  • Contraintes sur la décomposition (Alternate ISTA)

• Domaines d'application vus en cours
  • Restauration d'images
  • Systèmes de recommandation (factorisation de matrices)
  • Débruitage de signaux (approximation parcimonieuse)