Cours 3 — Algèbre linéaire et analyse de données
L3 GBI — Université d’Évry
Un système : un tableau de coefficients, un second membre.
Jusqu’ici, un support de calcul.
Changement de statut Ce tableau devient un objet mathématique, avec ses propres opérations.
Un tableau rectangulaire de réels, à \(m\) lignes et \(n\) colonnes.
\[A = (a_{ij})_{\substack{1 \leqslant i \leqslant m \\ 1 \leqslant j \leqslant n}} \in \mathcal{M}_{m,n}(\mathbb{R})\]
\(a_{ij}\) : ligne \(i\), colonne \(j\). Toujours dans cet ordre.
Carrée — \(m = n\).
Vecteur colonne — \(n = 1\). Vecteur ligne — \(m = 1\).
Diagonale — carrée, \(a_{ij} = 0\) dès que \(i \neq j\).
Identité \(I_n\) — diagonale, tous les termes diagonaux à \(1\).
\[(I_n)_{ij} = \delta_{ij} = \begin{cases} 1 & \text{si } i = j \\ 0 & \text{sinon} \end{cases}\]
Coordonnée par coordonnée, comme pour les vecteurs.
\[(A + B)_{ij} = a_{ij} + b_{ij}, \qquad (\lambda A)_{ij} = \lambda\, a_{ij}\]
Somme définie seulement entre matrices de mêmes dimensions.
\[ A = \begin{pmatrix} 2 & 1 \\ 0{,}5 & 1{,}6 \end{pmatrix}, \qquad \mathbf{x} = \begin{pmatrix} x_1 \\ x_2 \end{pmatrix} \]
\[ A\mathbf{x} = x_1 \begin{pmatrix} 2 \\ 0{,}5 \end{pmatrix} + x_2 \begin{pmatrix} 1 \\ 1{,}6 \end{pmatrix} \]
Combinaison des colonnes \(A\mathbf{x}\) : la combinaison linéaire des colonnes de \(A\), pondérée par les coefficients de \(\mathbf{x}\).
\[A\mathbf{x} = \sum_{j=1}^{n} x_j \, \mathbf{a}_j, \qquad \mathbf{a}_j = j\text{-ième colonne de } A\]
Figure 1
Les colonnes de C1, revisitées. Ici \(\mathbf{x} = (1, 1)\).
Coefficient \(i\) de \(A\mathbf{x}\) : la ligne \(i\) de \(A\), « appliquée » à \(\mathbf{x}\).
\[(A\mathbf{x})_i = \sum_{j=1}^{n} a_{ij}\, x_j\]
Utile pour calculer. La lecture par colonnes, pour comprendre.
\(AB\) : chaque colonne de \(B\), transformée par \(A\).
\[AB = \bigl[\, A\mathbf{b}_1 \ \big| \ A\mathbf{b}_2 \ \big| \ \dots \ \big| \ A\mathbf{b}_p \,\bigr]\]
Une définition, \(p\) produits matrice-vecteur.
\[(AB)_{ij} = \sum_{k=1}^{n} a_{ik}\, b_{kj}\]
Ligne \(i\) de \(A\), colonne \(j\) de \(B\).
\[ \underset{m \times n}{A} \ \cdot \ \underset{n \times p}{B} \ = \ \underset{m \times p}{AB} \]
Condition Le nombre de colonnes de \(A\) égale le nombre de lignes de \(B\).
Sinon : produit non défini.
\[ A = \begin{pmatrix} 1 & 2 \\ 3 & 4 \end{pmatrix}, \qquad B = \begin{pmatrix} 0 & 1 \\ 1 & 1 \end{pmatrix} \]
\[ AB = \begin{pmatrix} 2 & 3 \\ 4 & 7 \end{pmatrix} \]
\[ BA = \begin{pmatrix} 3 & 4 \\ 4 & 6 \end{pmatrix} \]
Non-commutativité \(AB \neq BA\) en général. Le produit matriciel n’est pas commutatif.
\[ \begin{pmatrix} 1 & 0 \\ 0 & 0 \end{pmatrix} \begin{pmatrix} 0 & 0 \\ 0 & 1 \end{pmatrix} = \begin{pmatrix} 0 & 0 \\ 0 & 0 \end{pmatrix} \]
Un produit nul, sans facteur nul.
Et \(AB = AC\) avec \(B \neq C\) : possible. Aucune simplification.
\[AB = 0 \ \not\Longrightarrow \ A = 0 \ \text{ ou } \ B = 0, \qquad AB = AC \ \not\Longrightarrow \ B = C\]
| Propriété | |
|---|---|
| Associativité | \(A(BC) = (AB)C\) |
| Distributivité | \(A(B+C) = AB + AC\) |
| Scalaires | \(\lambda(AB) = (\lambda A)B = A(\lambda B)\) |
| Élément neutre | \(I_m A = A I_n = A\) |
Tout, sauf la commutativité et la simplification.
\[ \begin{cases} a_{11}x_1 + \dots + a_{1n}x_n = b_1 \\ \quad \vdots \\ a_{m1}x_1 + \dots + a_{mn}x_n = b_m \end{cases} \]
\[ x_1 \mathbf{a}_1 + x_2 \mathbf{a}_2 + \dots + x_n \mathbf{a}_n = \mathbf{b} \]
Une combinaison linéaire des colonnes.
\[ A\mathbf{x} = \mathbf{b} \]
Le même problème Trois écritures, un seul objet. Le choix relève de la commodité.
Compatibilité \(A\mathbf{x} = \mathbf{b}\) compatible \(\iff\) \(\mathbf{b}\) est combinaison linéaire des colonnes de \(A\).
\[\mathcal{S} \neq \emptyset \iff \mathbf{b} \in \bigl\{\, x_1\mathbf{a}_1 + \dots + x_n\mathbf{a}_n \;\bigm|\; \mathbf{x} \in \mathbb{R}^n \,\bigr\}\]
L’existence devient une question d’appartenance.
\(A\mathbf{x} = \mathbf{0}\) : toujours compatible.
\(\mathbf{x} = \mathbf{0}\) convient — la solution triviale.
La vraie question : en existe-t-il d’autres ?
\[\exists\, \mathbf{x} \neq \mathbf{0} \ : \ A\mathbf{x} = \mathbf{0} \iff \text{au moins une variable libre}\]
\[(A^{\intercal})_{ij} = a_{ji}, \qquad A \in \mathcal{M}_{m,n} \ \Longrightarrow \ A^{\intercal} \in \mathcal{M}_{n,m}\]
\[ \begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \end{pmatrix}^{\intercal} = \begin{pmatrix} 1 & 4 \\ 2 & 5 \\ 3 & 6 \end{pmatrix} \]
\[(A^{\intercal})^{\intercal} = A, \qquad (A+B)^{\intercal} = A^{\intercal} + B^{\intercal}, \qquad (AB)^{\intercal} = B^{\intercal}A^{\intercal}\]
L’ordre s’inverse dans le produit. Une source d’erreurs constante.
\(A^{\intercal} = A\). Nécessairement carrée.
À retenir pour plus tard Les matrices de covariance et de corrélation sont symétriques. Tout le cours 9 repose sur cette propriété.
\(A\) carrée est inversible s’il existe \(B\) carrée telle que :
\[AB = BA = I_n\]
\(B\) est alors unique, notée \(A^{-1}\).
\[ A = \begin{pmatrix} a & b \\ c & d \end{pmatrix} \]
Critère \(A\) inversible \(\iff ad - bc \neq 0\), et alors \[A^{-1} = \frac{1}{ad-bc}\begin{pmatrix} d & -b \\ -c & a \end{pmatrix}\]
Le nombre \(ad - bc\) : le déterminant. Cours 8.
\[ A = \begin{pmatrix} 1 & 2 \\ 3 & 4 \end{pmatrix}, \qquad ad - bc = -2 \]
\[ A^{-1} = -\frac{1}{2}\begin{pmatrix} 4 & -2 \\ -3 & 1 \end{pmatrix} = \begin{pmatrix} -2 & 1 \\ 3/2 & -1/2 \end{pmatrix} \]
\[ \begin{pmatrix} 1 & 2 \\ 2 & 4 \end{pmatrix}, \qquad ad - bc = 0 \]
Deuxième colonne : le double de la première.
Les colonnes ne « remplissent » pas le plan.
\[(A^{-1})^{-1} = A, \qquad (AB)^{-1} = B^{-1}A^{-1}, \qquad (A^{\intercal})^{-1} = (A^{-1})^{\intercal}\]
Là encore, l’ordre s’inverse dans le produit.
\(A\) inversible : solution unique.
\[A\mathbf{x} = \mathbf{b} \iff \mathbf{x} = A^{-1}\mathbf{b}\]
Élégant sur le papier.
Jamais en pratique Calculer \(A^{-1}\) puis multiplier coûte trois fois plus cher qu’un pivot de Gauss, et amplifie les erreurs d’arrondi.
L’inverse est un outil de raisonnement, pas de calcul.
Chaque opération élémentaire sur les lignes de \(A\) :
une multiplication à gauche par une matrice \(E\).
\[A \ \xrightarrow{\ L_i \leftarrow L_i + \lambda L_j\ } \ EA\]
La même opération, appliquée à l’identité.
\[ L_2 \leftarrow L_2 - 3L_1 \quad\Longrightarrow\quad E = \begin{pmatrix} 1 & 0 \\ -3 & 1 \end{pmatrix} \]
Chaque opération élémentaire est réversible.
\[E^{-1} \ \text{existe, et correspond à l'opération inverse}\]
\[ E = \begin{pmatrix} 1 & 0 \\ -3 & 1 \end{pmatrix} \quad\Longrightarrow\quad E^{-1} = \begin{pmatrix} 1 & 0 \\ 3 & 1 \end{pmatrix} \]
Inversibilité \(A\) carrée est inversible \(\iff\) sa forme échelonnée réduite est \(I_n\).
\[A \sim I_n \ : \ E_k \cdots E_1 A = I_n \ \Longrightarrow \ A^{-1} = E_k \cdots E_1\]
L’inverse : le produit des opérations qui mènent à \(I_n\).
Le pivot de Gauss appliqué à \([\,A \mid I_n\,]\).
\[[\,A \mid I_n\,] \ \sim \ \dots \ \sim \ [\,I_n \mid A^{-1}\,]\]
Les opérations qui transforment \(A\) en \(I_n\) transforment \(I_n\) en \(A^{-1}\).
\[ A = \begin{pmatrix} 1 & 1 & 0 \\ 0 & 1 & 1 \\ 0 & 0 & 1 \end{pmatrix} \]
\[ \left[\begin{array}{rrr|rrr} 1 & 1 & 0 & 1 & 0 & 0 \\ 0 & 1 & 1 & 0 & 1 & 0 \\ 0 & 0 & 1 & 0 & 0 & 1 \end{array}\right] \]
\(L_2 \leftarrow L_2 - L_3\)
\[ \left[\begin{array}{rrr|rrr} 1 & 1 & 0 & 1 & 0 & 0 \\ 0 & 1 & 0 & 0 & 1 & -1 \\ 0 & 0 & 1 & 0 & 0 & 1 \end{array}\right] \]
\(L_1 \leftarrow L_1 - L_2\)
\[ \left[\begin{array}{rrr|rrr} 1 & 0 & 0 & 1 & -1 & 1 \\ 0 & 1 & 0 & 0 & 1 & -1 \\ 0 & 0 & 1 & 0 & 0 & 1 \end{array}\right] \]
\[ A^{-1} = \begin{pmatrix} 1 & -1 & 1 \\ 0 & 1 & -1 \\ 0 & 0 & 1 \end{pmatrix} \]
Vérification par \(AA^{-1} = I_3\) : indispensable.
Une ligne de zéros à gauche, avant d’atteindre \(I_n\).
Verdict immédiat Moins de \(n\) pivots : \(A\) n’est pas inversible. Aucun calcul supplémentaire.
Pour \(A\) carrée d’ordre \(n\), équivalences :
Cette liste s’allongera jusqu’au cours 8.