Apprentissage Profond

Le cours débute par une introduction aux réseaux de neurones multicouches et leur algorithme d'apprentissage par rétropropagation du gradient de l'erreur. L'algorithme SGD est présenté et le problème de la disparition du gradient dans les architectures profondes est mis en évidence. Les différentes techniques permettant de maîtriser ce phénomène sont présentées. Les réseaux convolutifs sont ensuite abordés, et mis en valeur pour les applications à la reconnaissance de visages. Les architecture de réseaux récurrents sont présentés pour la reconnaissance de la parole. Les architectures de réseaux adverses permettent d’aborder les techniques de génération de fausses données.

Comprendre et maîtriser les techniques modernes d’apprentissage supervisée et faiblement supervisée reposant sur les architectures de réseaux de neurones, et réseaux de neurones profonds. Comprendre et maîtriser les algorithmes d’optimisation spécifiques à ces architectures. Savoir mettre en œuvre ces algorithmes en utilisant les environnements de calcul dédiés en langage python, tels que Tensor Flow, Keras, ou  PyTorch.

Apprentissage automatique

Contrôle continu

• Architecture d'un réseau de neurones multicouches : propriétés, algorithme d'apprentissage
• Réseau de neurones auto-encodeur, apprentissage de représentation
• Architecture profonde totalement connectée - Régularisation
• Optimisation pour l'apprentissage d'une architecture profonde
• Réseau de neurones convolutifs
• Réseaux de neurones récurrents
• Réseaux de neurones génératifs