Introduction au machine learning (M1)

Cours de M1 consacré aux méthodes supervisées et non supervisées, de la décision statistique à l’ACP et à k-means.

Ce cours introduit les principaux concepts du machine learning en articulant apprentissage supervisé et non supervisé. La première partie traite de décision statistique, de classification, de validation, d’arbres et de régression régularisée ; la seconde aborde la réduction de dimension par ACP et la classification automatique par k-means.

Chaque séance associe un cours et un TD de 90 minutes. Les supports de cours sont disponibles sous forme de transparents HTML interactifs et de versions PDF imprimables ; les TD sont proposés en HTML et en PDF, avec des applications en Python et en R. Deux TP, sur des jeux de données classiques, font travailler ensemble méthodes non supervisées et supervisées.

Apprentissage supervisé et non supervisé représentés par une frontière de décision, des groupes de points et des directions principales

Cours

Séance Thème HTML PDF
C1 Cadre de l’apprentissage Transparents Version imprimable
C2 Modèles gaussiens et Bayes naïf Transparents Version imprimable
C3 k plus proches voisins et validation Transparents Version imprimable
C4 Arbres de décision Transparents Version imprimable
C5 Régression ridge Transparents Version imprimable
C6 Analyse en composantes principales Transparents Version imprimable
C7 Classification automatique par k-means Transparents Version imprimable

Travaux dirigés

TD Thème HTML PDF Corrigé
TD 1 Deux gaussiennes : décision et métriques Ouvrir le TD Version imprimable HTML · PDF
TD 2 Bayes naïf, LDA et QDA Ouvrir le TD Version imprimable HTML · PDF
TD 3 k plus proches voisins Ouvrir le TD Version imprimable —
TD 4 Arbres : impureté, profondeur et élagage Ouvrir le TD Version imprimable —
TD 5 Régression ridge Ouvrir le TD Version imprimable —
TD 6 ACP : projection, reconstruction et inertie Ouvrir le TD Version imprimable —
TD 7 k-means : inertie et choix de K Ouvrir le TD Version imprimable —

Données

Les jeux de données utilisés en cours, en TD et en TP, au format CSV, réunis dans une archive. Les extraits de code lisent ../data/iris.csv, ../data/wine.csv… : décompresser l’archive dans un dossier data/ placé à côté du dossier de travail, ou adapter le chemin.

Fichier Contenu Utilisé pour
iris.csv 150 fleurs, 4 mesures en cm et l’espèce classification, ACP, k-means
diabetes.csv 442 patients, 10 variables et une cible quantitative régression ridge
wine.csv 178 vins, 13 mesures chimiques et le cépage (UCI Wine) TP 1
digits.csv 1 797 images de chiffres manuscrits, 8 × 8 pixels, et le chiffre (UCI) TP 2

Télécharger les données (zip)

Travaux pratiques

Chaque TP croise exploration sans étiquette (ACP, k-means) et prédiction (modèles gaussiens, k plus proches voisins, régularisation). Les squelettes de code sont donnés en Python et en R ; le compte rendu attendu réunit code, figures et réponses rédigées.

TP Thème Données PDF
TP 1 Vins : explorer sans étiquette, puis prédire wine.csv Sujet
TP 2 Chiffres manuscrits : compresser, regrouper, reconnaître digits.csv Sujet