L'ACP capture les relations linéaires. Ces méthodes capturent les structures non-linéaires — variétés, manifolds, clusters — là où l'ACP échoue.
L'ACP cherche des sous-espaces linéaires — des hyperplans. Si les données vivent sur une variété non-linéaire (une "surface courbe" dans l'espace de haute dimension), l'ACP déforme les distances et perd l'information structurelle. Les méthodes présentées ici préservent la géométrie locale ou la structure topologique des données.
| Méthode | Idée clé | Distance préservée | Paramètre principal | Complexité |
|---|---|---|---|---|
| ACP | Projection linéaire — variance max | Euclidienne globale | — (déterministe) | \(O(p^3)\) |
| ISOMAP | Géodésiques sur la variété via graphe de voisinage | Géodésique (locale → globale) | \(k\) voisins ou \(\epsilon\) | \(O(n^2 \log n)\) |
| LLE | Reconstruction locale par combinaisons linéaires | Poids de reconstruction locale | \(k\) voisins | \(O(n k^3)\) |
| t-SNE | Minimiser KL entre distributions de similarité | Similarités locales (probabilistes) | Perplexité (5–50) | \(O(n^2)\) ou \(O(n \log n)\) |
| UMAP | Graphe de voisinage fuzzy + optimisation topologique | Structure locale ET globale | \(n\_neighbors\), \(min\_dist\) | \(O(n^{1.14})\) |
Geodesic Isometric Mapping — distances géodésiques via graphe de voisinage + MDS
Reconstruction locale par combinaisons linéaires des voisins, préservée en basse dimension
t-distributed Stochastic Neighbor Embedding — distribution gaussienne → Student, divergence KL
Uniform Manifold Approximation and Projection — théorie topologique, plus rapide que t-SNE