apprentissage supervisé (supervised learning) : les données et les sorties sont connues
apprentissage non-supervisé (unsupervised learning): les données sont connues mais pas les sorties, par contre on dispose d’une mesure de similarité qui va permettre de regrouper des données proches
apprentissage auto-supervisé (self-supervised learning) : utilise les données d’entrée elles-mêmes, au lieu de se fier aux étiquettes éxternes
par renforcement : les données et un signal soit au cours du traitement, soit à la fin (Q-Learning, R-Learning, TD-learning)
Il s’agit de l’apprentissage auto-supervisé (self-supervised learning).
Les couches dans ces réseaux de neurones peuvent être pleinement connectées (fully connected), et aussi impliquer d’autres types de couches, comme par exemple les couches convolutionnelles (convolutional layers)
Les Autoencodeurs reconstruisent donc une fonction \[ f(X) = X \]
avec \(X \in R^m\), en passant par un espace latent \(Z \in R^n\) avec \(m>>n\). La fonction f(X) est composée de deux fonctions :
et donc \[ f(X) = D(E(X)) \]
Les Autoencodeurs sont particulièrement performants - car ils sont capables réduire le nombre de dimensions de données tout en gardant des caractéristiques clées des données, - ce qui compacte les données dans des données dans l’espace latent, - ce qui peut servir de modifier l’espace latent pour en créer de nouvelles données.
Autoencodeur pour le débruitage


Patrick Reuter - http://www.labri.fr/perso/preuter/dl2025