Cours 5 — Algèbre linéaire et analyse de données
L3 GBI — Université d’Évry
Génératrice — assez de vecteurs.
Libre — pas de vecteur superflu.
Deux exigences opposées. Une famille peut satisfaire les deux.
Une famille libre et génératrice de \(F\).
\[\mathcal{B} = (\mathbf{v}_1, \dots, \mathbf{v}_p) \ \text{base de } F \iff \operatorname{Vect}(\mathcal{B}) = F \ \text{ et } \ \mathcal{B} \ \text{libre}\]
\[ \mathbf{e}_1 = \begin{pmatrix} 1 \\ 0 \\ 0 \end{pmatrix}, \quad \mathbf{e}_2 = \begin{pmatrix} 0 \\ 1 \\ 0 \end{pmatrix}, \quad \mathbf{e}_3 = \begin{pmatrix} 0 \\ 0 \\ 1 \end{pmatrix} \]
La plus commode de \(\mathbb{R}^3\). Pas la seule.
\(n\) vecteurs de \(\mathbb{R}^n\), rangés en colonnes dans \(A\) :
\[\mathcal{B} \ \text{base de } \mathbb{R}^n \iff n \ \text{pivots} \iff A \ \text{inversible}\]
Convergence La liste du cours 3 s’allonge : \(A\) inversible \(\iff\) ses colonnes forment une base.
\[ \mathbf{b}_1 = \begin{pmatrix} 1 \\ 1 \end{pmatrix}, \qquad \mathbf{b}_2 = \begin{pmatrix} -1 \\ 1 \end{pmatrix} \]
Non colinéaires : deux pivots, donc une base de \(\mathbb{R}^2\).
Théorème \(\mathcal{B}\) base de \(F\) : tout \(\mathbf{x} \in F\) s’écrit d’une seule manière comme combinaison linéaire de \(\mathcal{B}\).
\[\forall \mathbf{x} \in F, \ \exists!\, (\alpha_1, \dots, \alpha_p) \in \mathbb{R}^p \ : \ \mathbf{x} = \alpha_1\mathbf{v}_1 + \dots + \alpha_p\mathbf{v}_p\]
Deux écritures de \(\mathbf{x}\) : leur différence est une combinaison nulle.
\[\sum_i \alpha_i \mathbf{v}_i = \sum_i \beta_i \mathbf{v}_i \ \Longrightarrow \ \sum_i (\alpha_i - \beta_i)\mathbf{v}_i = \mathbf{0}\]
Famille libre : tous les \(\alpha_i - \beta_i\) sont nuls.
La liberté fait l’unicité. La génération fait l’existence.
Les \(\alpha_i\) : les coordonnées de \(\mathbf{x}\) dans \(\mathcal{B}\).
\[[\mathbf{x}]_{\mathcal{B}} = \begin{pmatrix} \alpha_1 \\ \vdots \\ \alpha_p \end{pmatrix}\]
Un vecteur de \(\mathbb{R}^p\), distinct de \(\mathbf{x}\).
\(\mathbf{x} = (4, 2)\) dans \(\mathcal{B} = (\mathbf{b}_1, \mathbf{b}_2)\) :
\[\alpha \begin{pmatrix} 1 \\ 1 \end{pmatrix} + \beta \begin{pmatrix} -1 \\ 1 \end{pmatrix} = \begin{pmatrix} 4 \\ 2 \end{pmatrix}\]
Un système linéaire. Solution : \(\alpha = 3\), \(\beta = -1\).
\(B\) : la matrice dont les colonnes sont les vecteurs de \(\mathcal{B}\).
\[B\,[\mathbf{x}]_{\mathcal{B}} = \mathbf{x} \qquad \Longleftrightarrow \qquad [\mathbf{x}]_{\mathcal{B}} = B^{-1}\mathbf{x}\]
\(\mathcal{B}\) est une base : \(B\) est inversible. La formule a toujours un sens.
\[[\mathbf{x}]_{\mathcal{E}} = \begin{pmatrix} 4 \\ 2 \end{pmatrix}, \qquad [\mathbf{x}]_{\mathcal{B}} = \begin{pmatrix} 3 \\ -1 \end{pmatrix}\]
Point capital Le vecteur ne change pas. Seule change la grille de lecture.
Figure 1
Quatre pas à droite, deux vers le haut.
Figure 2
Trois pas selon \(\mathbf{b}_1\), un pas en arrière selon \(\mathbf{b}_2\).
Changer de base : changer les nombres qui décrivent les mêmes données.
Première marche L’ACP consiste à choisir la base dans laquelle les données se lisent le mieux.
La mécanique du changement de base : cours 6.
Théorème Toutes les bases d’un même sous-espace ont le même nombre de vecteurs.
Ce nombre : la dimension de \(F\), notée \(\dim F\).
| Sous-espace | Dimension |
|---|---|
| \(\{\mathbf{0}\}\) | \(0\) |
| Droite par l’origine | \(1\) |
| Plan par l’origine | \(2\) |
| \(\mathbb{R}^n\) | \(n\) |
La base canonique de \(\mathbb{R}^n\) compte \(n\) vecteurs.
\[p > \dim F \ \Longrightarrow \ \text{famille liée}, \qquad p < \dim F \ \Longrightarrow \ \text{famille non génératrice}\]
Trop de vecteurs : redondance. Trop peu : insuffisance.
Théorème Dans un espace de dimension \(n\), pour une famille de exactement \(n\) vecteurs, les propriétés « libre », « génératrice » et « base » sont équivalentes.
\[\operatorname{card} \mathcal{F} = \dim F \ \Longrightarrow \ \bigl( \mathcal{F} \ \text{libre} \iff \mathcal{F} \ \text{génératrice} \iff \mathcal{F} \ \text{base} \bigr)\]
Au bon cardinal, une seule des deux propriétés reste à vérifier.
Toute famille libre se complète en une base.
Toute famille génératrice contient une base.
\[\mathcal{L} \ \text{libre} \ \subset \ \mathcal{B} \ \subset \ \mathcal{G} \ \text{génératrice}\]
Une base : une famille libre maximale, ou génératrice minimale.
Le rang de \(A\) : la dimension de son image.
\[\operatorname{rg}(A) = \dim \operatorname{Im}(A) = \dim \operatorname{Vect}(\mathbf{a}_1, \dots, \mathbf{a}_n)\]
Le nombre de colonnes réellement indépendantes.
Résultat \(\operatorname{rg}(A)\) = nombre de pivots de toute forme échelonnée de \(A\).
Le \(r\) du cours 2, sous son vrai nom.
\[\operatorname{rg}(A) = \operatorname{rg}(A^{\intercal})\]
Autant de lignes indépendantes que de colonnes indépendantes.
Le résultat est admis.
\[\operatorname{rg}(A) \leqslant \min(m, n)\]
Une matrice \(3 \times 500\,000\) a un rang au plus égal à \(3\).
La symétrie lignes-colonnes rend ce plafond immédiat.
\[ A = \begin{pmatrix} 1 & 2 & 3 \\ 2 & 4 & 6 \\ 1 & 1 & 1 \end{pmatrix} \]
\(L_2 = 2L_1\) : une ligne pour rien.
\[ \begin{pmatrix} 1 & 2 & 3 \\ 0 & -1 & -2 \\ 0 & 0 & 0 \end{pmatrix} \qquad \operatorname{rg}(A) = 2 \]
Les colonnes pivots de \(A\) forment une base de \(\operatorname{Im}(A)\).
Piège Les colonnes de \(A\) d’origine, pas celles de la forme échelonnée. L’échelonnement change l’image, il ne conserve que les positions des pivots.
La description paramétrique du cours 2 livre directement une base.
\[\mathcal{S}_0 = \bigl\{\, t_1 \mathbf{d}_1 + \dots + t_{n-r}\mathbf{d}_{n-r} \;\bigm|\; t_i \in \mathbb{R} \,\bigr\}\]
Un vecteur \(\mathbf{d}_i\) par variable libre. Ils sont libres, et générateurs.
D’où \(\dim \operatorname{Ker}(A) = n - r\).
Théorème du rang Pour toute matrice \(A\) à \(n\) colonnes : \[\dim \operatorname{Ker}(A) + \operatorname{rg}(A) = n\]
\(n\) inconnues, réparties en deux groupes.
\[\underbrace{n - r}_{\text{variables libres}} + \underbrace{r}_{\text{variables liées}} = n\]
Le théorème du rang, déjà rencontré au cours 2 sans son nom.
\[ \begin{pmatrix} 1 & 2 & 3 \\ 0 & -1 & -2 \\ 0 & 0 & 0 \end{pmatrix}, \qquad r = 2, \quad n = 3 \]
Une variable libre, donc \(\dim \operatorname{Ker}(A) = 1\).
\[\operatorname{Ker}(A) = \operatorname{Vect}\!\left( \begin{pmatrix} 1 \\ -2 \\ 1 \end{pmatrix} \right)\]
Rang élevé : image grande, noyau petit.
Rang faible : beaucoup de redondance, noyau grand.
Conservation La somme est fixée par le nombre de colonnes. Gagner d’un côté, perdre de l’autre.
\(A\) carrée d’ordre \(n\) :
\[A \ \text{inversible} \iff \operatorname{rg}(A) = n \iff \operatorname{Ker}(A) = \{\mathbf{0}\}\]
Le rang maximal, dit « rang plein ».
Pour \(A\) carrée d’ordre \(n\), équivalences :
Un dernier ajout au cours 8.
\(n\) individus, \(p\) variables mesurées.
Question : ces \(p\) variables apportent-elles \(p\) informations ?
\[\operatorname{rg}(X) < p \ \Longrightarrow \ \text{au moins une variable est combinaison des autres}\]
Composition d’un échantillon en pourcentages :
\[ x_1 + x_2 + \dots + x_p = 100 \]
La dernière variable se déduit des autres.
Conséquence \(p\) colonnes, mais un rang au plus égal à \(p - 1\). Une dimension illusoire.
Le rang mesure le nombre de directions réellement occupées par les données.
\(500\,000\) colonnes de SNP, un rang au plus égal à \(3\,000\).
Vers l’ACP Réduire, ce sera trouver les quelques directions qui portent l’essentiel — et changer de base pour s’y placer.
| Notion | Définition | Calcul |
|---|---|---|
| Base | libre et génératrice | \(n\) pivots dans \(\mathbb{R}^n\) |
| Coordonnées \([\mathbf{x}]_{\mathcal{B}}\) | l’unique écriture dans \(\mathcal{B}\) | résoudre \(B\boldsymbol{\alpha} = \mathbf{x}\) |
| Dimension | cardinal commun des bases | — |
| Rang | \(\dim \operatorname{Im}(A)\) | nombre de pivots |
| Théorème du rang | \(\dim \operatorname{Ker} + \operatorname{rg} = n\) | libres \(+\) liées \(= n\) |