“Architectures composites : Encoder-Decoder, AE, VAE, U-net…” (épisode 8)

“Dans cette séquence, après avoir vu des modèles de classification ou de régression, nous étudierons des exemples d’architectures composites pour des applications avancées et diversifiées. Les Réseaux auto-encodeurs (AE) sont particulièrement intéressants de par leur capacité à effectuer, de manières non supervisées, des représentations compactes de données complexe. Ils sont ainsi très utiles pour une large variété de tâches telles que la reconstruction, la détection d’anomalies, la réduction de dimensionnalité, le débruitage ou encore la génération de données. Les Variational Autoencoder (VAE) sont une famille de modèles génératifs capable de projeter, de manière contrôlée, des données de grande dimension dans un espace latent de plus faible dimension. Ils sont particulièrement intéressants car, contrairement aux autoencodeurs “basiques”, la projection dans l’espace latent est organisée de manière à permettre une compréhension et une utilisation de cet espace latent, telle que la génération de données, l’extraction de caractéristiques ou l’augmentation des données. Les domaines d’applications sont potentiellement nombreux, vision par ordinateur, détection d’anomalie, reconnaissance vocale, etc.”

NoteToDo this week

Watch the video “Architectures composites : Encoder-Decoder, AE, VAE, U-net…” (épisode 8) before 2025-12-05.

Course

Course webpage: https://fidle.cnrs.fr/w3/archives/2024-2025/08-AE-VAE.html

Video course: “Architectures composites : Encoder-Decoder, AE, VAE, U-net…” (épisode 8) (2h course)

Outline

• Principes et architecture d’un autoencodeur (AE)
• Espace latent, convolution classiques et transposées
• Exemple proposé : Débruitage d’images fortement bruitées
• Principes et architecture d’un Variational AutoEncodeur (VAE)
• Projection gaussienne,
• Génération de données,
• Morphing dans l’espace latent
• “Exemple proposé” => ”Génération de données”

Tutorial/practical

Unsupervised learning with an autoencoder neural network (AE), using Keras3

• K3AE1 - Prepare a noisy MNIST dataset
  Episode 1: Preparation of a noisy MNIST dataset
• K3AE2 - Building and training an AE denoiser model
  Episode 1 : Construction of a denoising autoencoder and training of it with a noisy MNIST dataset.
• K3AE3 - Playing with our denoiser model
  Episode 2 : Using the previously trained autoencoder to denoise data
• K3AE4 - Denoiser and classifier model
  Episode 4 : Construction of a denoiser and classifier model
• K3AE5 - Advanced denoiser and classifier model
  Episode 5 : Construction of an advanced denoiser and classifier model

Generative network with Variational Autoencoder (VAE), using Keras3

• K3VAE1 - First VAE, using functional API (MNIST dataset)
  Construction and training of a VAE, using functional APPI, with a latent space of small dimension.
• K3VAE2 - VAE, using a custom model class (MNIST dataset)
  Construction and training of a VAE, using model subclass, with a latent space of small dimension.
• K3VAE3 - Analysis of the VAE’s latent space of MNIST dataset Visualization and analysis of the VAE’s latent space of the dataset MNIST