Base, coordonnées, dimension et rang

Cours 5 — Algèbre linéaire et analyse de données

Christophe Ambroise

L3 GBI — Université d’Évry

La bonne famille

Le dilemme du cours 4

Génératrice — assez de vecteurs.

Libre — pas de vecteur superflu.

Deux exigences opposées. Une famille peut satisfaire les deux.

Base

Une famille libre et génératrice de \(F\).

\[\mathcal{B} = (\mathbf{v}_1, \dots, \mathbf{v}_p) \ \text{base de } F \iff \operatorname{Vect}(\mathcal{B}) = F \ \text{ et } \ \mathcal{B} \ \text{libre}\]

Base canonique

\[ \mathbf{e}_1 = \begin{pmatrix} 1 \\ 0 \\ 0 \end{pmatrix}, \quad \mathbf{e}_2 = \begin{pmatrix} 0 \\ 1 \\ 0 \end{pmatrix}, \quad \mathbf{e}_3 = \begin{pmatrix} 0 \\ 0 \\ 1 \end{pmatrix} \]

La plus commode de \(\mathbb{R}^3\). Pas la seule.

Reconnaître une base

\(n\) vecteurs de \(\mathbb{R}^n\), rangés en colonnes dans \(A\) :

\[\mathcal{B} \ \text{base de } \mathbb{R}^n \iff n \ \text{pivots} \iff A \ \text{inversible}\]

Convergence La liste du cours 3 s’allonge : \(A\) inversible \(\iff\) ses colonnes forment une base.

Un exemple dans le plan

\[ \mathbf{b}_1 = \begin{pmatrix} 1 \\ 1 \end{pmatrix}, \qquad \mathbf{b}_2 = \begin{pmatrix} -1 \\ 1 \end{pmatrix} \]

Non colinéaires : deux pivots, donc une base de \(\mathbb{R}^2\).

Coordonnées

Unicité de l’écriture

Théorème \(\mathcal{B}\) base de \(F\) : tout \(\mathbf{x} \in F\) s’écrit d’une seule manière comme combinaison linéaire de \(\mathcal{B}\).

\[\forall \mathbf{x} \in F, \ \exists!\, (\alpha_1, \dots, \alpha_p) \in \mathbb{R}^p \ : \ \mathbf{x} = \alpha_1\mathbf{v}_1 + \dots + \alpha_p\mathbf{v}_p\]

Pourquoi

Deux écritures de \(\mathbf{x}\) : leur différence est une combinaison nulle.

\[\sum_i \alpha_i \mathbf{v}_i = \sum_i \beta_i \mathbf{v}_i \ \Longrightarrow \ \sum_i (\alpha_i - \beta_i)\mathbf{v}_i = \mathbf{0}\]

Famille libre : tous les \(\alpha_i - \beta_i\) sont nuls.

La liberté fait l’unicité. La génération fait l’existence.

Coordonnées d’un vecteur

Les \(\alpha_i\) : les coordonnées de \(\mathbf{x}\) dans \(\mathcal{B}\).

\[[\mathbf{x}]_{\mathcal{B}} = \begin{pmatrix} \alpha_1 \\ \vdots \\ \alpha_p \end{pmatrix}\]

Un vecteur de \(\mathbb{R}^p\), distinct de \(\mathbf{x}\).

Calcul des coordonnées

\(\mathbf{x} = (4, 2)\) dans \(\mathcal{B} = (\mathbf{b}_1, \mathbf{b}_2)\) :

\[\alpha \begin{pmatrix} 1 \\ 1 \end{pmatrix} + \beta \begin{pmatrix} -1 \\ 1 \end{pmatrix} = \begin{pmatrix} 4 \\ 2 \end{pmatrix}\]

Un système linéaire. Solution : \(\alpha = 3\), \(\beta = -1\).

Coordonnées par l’inverse

\(B\) : la matrice dont les colonnes sont les vecteurs de \(\mathcal{B}\).

\[B\,[\mathbf{x}]_{\mathcal{B}} = \mathbf{x} \qquad \Longleftrightarrow \qquad [\mathbf{x}]_{\mathcal{B}} = B^{-1}\mathbf{x}\]

\(\mathcal{B}\) est une base : \(B\) est inversible. La formule a toujours un sens.

Le même vecteur, deux listes

\[[\mathbf{x}]_{\mathcal{E}} = \begin{pmatrix} 4 \\ 2 \end{pmatrix}, \qquad [\mathbf{x}]_{\mathcal{B}} = \begin{pmatrix} 3 \\ -1 \end{pmatrix}\]

Point capital Le vecteur ne change pas. Seule change la grille de lecture.

Lecture dans la base canonique

Figure 1

Quatre pas à droite, deux vers le haut.

Lecture dans la base \(\mathcal{B}\)

Figure 2

Trois pas selon \(\mathbf{b}_1\), un pas en arrière selon \(\mathbf{b}_2\).

Ce qui se prépare

Changer de base : changer les nombres qui décrivent les mêmes données.

Première marche L’ACP consiste à choisir la base dans laquelle les données se lisent le mieux.

La mécanique du changement de base : cours 6.

Dimension

Un invariant

Théorème Toutes les bases d’un même sous-espace ont le même nombre de vecteurs.

Ce nombre : la dimension de \(F\), notée \(\dim F\).

Valeurs de référence

Sous-espace Dimension
\(\{\mathbf{0}\}\) \(0\)
Droite par l’origine \(1\)
Plan par l’origine \(2\)
\(\mathbb{R}^n\) \(n\)

La base canonique de \(\mathbb{R}^n\) compte \(n\) vecteurs.

Deux bornes

\[p > \dim F \ \Longrightarrow \ \text{famille liée}, \qquad p < \dim F \ \Longrightarrow \ \text{famille non génératrice}\]

Trop de vecteurs : redondance. Trop peu : insuffisance.

Critère par le cardinal

Théorème Dans un espace de dimension \(n\), pour une famille de exactement \(n\) vecteurs, les propriétés « libre », « génératrice » et « base » sont équivalentes.

\[\operatorname{card} \mathcal{F} = \dim F \ \Longrightarrow \ \bigl( \mathcal{F} \ \text{libre} \iff \mathcal{F} \ \text{génératrice} \iff \mathcal{F} \ \text{base} \bigr)\]

Au bon cardinal, une seule des deux propriétés reste à vérifier.

Compléter, extraire

Toute famille libre se complète en une base.

Toute famille génératrice contient une base.

\[\mathcal{L} \ \text{libre} \ \subset \ \mathcal{B} \ \subset \ \mathcal{G} \ \text{génératrice}\]

Une base : une famille libre maximale, ou génératrice minimale.

Rang

Rang d’une matrice

Le rang de \(A\) : la dimension de son image.

\[\operatorname{rg}(A) = \dim \operatorname{Im}(A) = \dim \operatorname{Vect}(\mathbf{a}_1, \dots, \mathbf{a}_n)\]

Le nombre de colonnes réellement indépendantes.

Calcul

Résultat \(\operatorname{rg}(A)\) = nombre de pivots de toute forme échelonnée de \(A\).

Le \(r\) du cours 2, sous son vrai nom.

Lignes et colonnes

\[\operatorname{rg}(A) = \operatorname{rg}(A^{\intercal})\]

Autant de lignes indépendantes que de colonnes indépendantes.

Le résultat est admis.

Bornes

\[\operatorname{rg}(A) \leqslant \min(m, n)\]

Une matrice \(3 \times 500\,000\) a un rang au plus égal à \(3\).

La symétrie lignes-colonnes rend ce plafond immédiat.

Un exemple

\[ A = \begin{pmatrix} 1 & 2 & 3 \\ 2 & 4 & 6 \\ 1 & 1 & 1 \end{pmatrix} \]

\(L_2 = 2L_1\) : une ligne pour rien.

\[ \begin{pmatrix} 1 & 2 & 3 \\ 0 & -1 & -2 \\ 0 & 0 & 0 \end{pmatrix} \qquad \operatorname{rg}(A) = 2 \]

Base de l’image

Les colonnes pivots de \(A\) forment une base de \(\operatorname{Im}(A)\).

Piège Les colonnes de \(A\) d’origine, pas celles de la forme échelonnée. L’échelonnement change l’image, il ne conserve que les positions des pivots.

Base du noyau

La description paramétrique du cours 2 livre directement une base.

\[\mathcal{S}_0 = \bigl\{\, t_1 \mathbf{d}_1 + \dots + t_{n-r}\mathbf{d}_{n-r} \;\bigm|\; t_i \in \mathbb{R} \,\bigr\}\]

Un vecteur \(\mathbf{d}_i\) par variable libre. Ils sont libres, et générateurs.

D’où \(\dim \operatorname{Ker}(A) = n - r\).

Théorème du rang

L’énoncé

Théorème du rang Pour toute matrice \(A\) à \(n\) colonnes : \[\dim \operatorname{Ker}(A) + \operatorname{rg}(A) = n\]

Lecture par les inconnues

\(n\) inconnues, réparties en deux groupes.

\[\underbrace{n - r}_{\text{variables libres}} + \underbrace{r}_{\text{variables liées}} = n\]

Le théorème du rang, déjà rencontré au cours 2 sans son nom.

Noyau de l’exemple

\[ \begin{pmatrix} 1 & 2 & 3 \\ 0 & -1 & -2 \\ 0 & 0 & 0 \end{pmatrix}, \qquad r = 2, \quad n = 3 \]

Une variable libre, donc \(\dim \operatorname{Ker}(A) = 1\).

\[\operatorname{Ker}(A) = \operatorname{Vect}\!\left( \begin{pmatrix} 1 \\ -2 \\ 1 \end{pmatrix} \right)\]

Un arbitrage

Rang élevé : image grande, noyau petit.

Rang faible : beaucoup de redondance, noyau grand.

Conservation La somme est fixée par le nombre de colonnes. Gagner d’un côté, perdre de l’autre.

Matrices carrées

\(A\) carrée d’ordre \(n\) :

\[A \ \text{inversible} \iff \operatorname{rg}(A) = n \iff \operatorname{Ker}(A) = \{\mathbf{0}\}\]

Le rang maximal, dit « rang plein ».

La liste, complétée

Pour \(A\) carrée d’ordre \(n\), équivalences :

  • \(A\) est inversible
  • \(A \sim I_n\),   \(A\) possède \(n\) pivots
  • \(A\mathbf{x} = \mathbf{0}\) admet la seule solution \(\mathbf{x} = \mathbf{0}\)
  • \(A\mathbf{x} = \mathbf{b}\) admet une solution unique, pour tout \(\mathbf{b}\)
  • les colonnes de \(A\) forment une base de \(\mathbb{R}^n\)
  • \(\operatorname{rg}(A) = n\),   \(\dim \operatorname{Ker}(A) = 0\)

Un dernier ajout au cours 8.

Retour aux données

Un tableau de mesures

\(n\) individus, \(p\) variables mesurées.

Question : ces \(p\) variables apportent-elles \(p\) informations ?

\[\operatorname{rg}(X) < p \ \Longrightarrow \ \text{au moins une variable est combinaison des autres}\]

Une redondance classique

Composition d’un échantillon en pourcentages :

\[ x_1 + x_2 + \dots + x_p = 100 \]

La dernière variable se déduit des autres.

Conséquence \(p\) colonnes, mais un rang au plus égal à \(p - 1\). Une dimension illusoire.

L’information utile

Le rang mesure le nombre de directions réellement occupées par les données.

\(500\,000\) colonnes de SNP, un rang au plus égal à \(3\,000\).

Vers l’ACP Réduire, ce sera trouver les quelques directions qui portent l’essentiel — et changer de base pour s’y placer.

Récapitulatif

Notion Définition Calcul
Base libre et génératrice \(n\) pivots dans \(\mathbb{R}^n\)
Coordonnées \([\mathbf{x}]_{\mathcal{B}}\) l’unique écriture dans \(\mathcal{B}\) résoudre \(B\boldsymbol{\alpha} = \mathbf{x}\)
Dimension cardinal commun des bases
Rang \(\dim \operatorname{Im}(A)\) nombre de pivots
Théorème du rang \(\dim \operatorname{Ker} + \operatorname{rg} = n\) libres \(+\) liées \(= n\)