Téléverser un fichier

s’attaquer À une compÉtition de machine learning · régression linéaire réseau de neurones...

  • Home
  • Documents
  • S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties
41
S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING Méthodologie et exemples pratiques

Upload: others

Post on 26-Sep-2020

2 views

Category:

Documents


0 download

Report

TRANSCRIPT

Page 1: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

S’ATTAQUER À UNE

COMPÉTITION DE MACHINE

LEARNINGMéthodologie et exemples

pratiques

Page 2: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

INTRODUCTION

Page 3: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

PLAN

➤ Qu’est ce qu’une compétition de machine learning ?

➤ Connaissances requises

➤ Méthodologie

Page 4: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

MACHINE LEARNING

InformatiqueMathématiques

StatistiquesMachine

Learning

Page 5: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

QU’EST CE QU’UNE COMPÉTITION DE MACHINE LEARNING

ANIMAL

CHAT

CHAT

CHIEN

CHIEN

CHANT DES BALEINES

NON

OUI

NON

OUI

OBSCENE INSULTE MENACE

X X

X

X X

X

PRIX

520000

145000

345000

87090

SURFACE CHAMBRES PIECES

145 3 5

65 1 2

210 4 8

31 1 3

Page 6: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

QU’EST CE QU’UNE COMPÉTITION DE MACHINE LEARNING

Apprentissage supervisé

X = Y =

➤ Matrice des variables explicatives ➤ Variable à prédire (cible) contenant les labels (réponses) correspondant à chacune des observations

Page 7: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

QU’EST CE QU’UNE COMPÉTITION DE MACHINE LEARNING

X entraînement X test

Y entraînement Y test (public) Y test (privé)

Données disponibles pour entraîner votre modèle M

Ŷ prédit

Prédiction M(X test)

Labels utilisés pour le calcul du score à chaque soumission

Labels utilisés pour calcul du score final

Page 8: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

CONNAISSANCES REQUISES

➤ Régression linéaire

➤ Perceptron multicouche

➤ Arbres décisionnels (RandomForest)

➤ Boosting (Extreme Gradient Boosting Trees)

➤ Réseaux de neurones à convolution

➤ Réseaux de neurones récurrents

Page 9: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

CONNAISSANCES REQUISES

➤ Pourquoi est-ce important ?

➤ Parce que c’est passionnant !

➤ Savoir les paramétrer efficacement

➤ Connaître leurs limites

➤ Pour mieux les comprendre :

➤ Implémenter une version simplifiée

➤ Les manipuler sur des données synthétiques

Page 10: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

CONNAISSANCES REQUISES

Volume_eau > (d x 0.5 - e ) x 3.14 x h2

2

Page 11: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

CONNAISSANCES REQUISES

➤ Pourquoi est-ce important ?

➤ Parce que c’est passionnant !

➤ Savoir les paramétrer efficacement

➤ Connaître leurs limites

➤ Pour mieux les comprendre :

➤ Implémenter une version simplifiée

➤ Les manipuler sur des données synthétiques

Page 12: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

CONNAISSANCES REQUISES

➤ Langage de programmation

➤ Bibliothèques utiles (Python)

➤ Scikit-learn

➤ Keras

➤ Pandas

➤ Structures de données

➤ Complexité algorithmique

➤ Gestion de la mémoire

Page 13: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

CONNAISSANCES REQUISES

➤ Pourquoi est-ce important ?

➤ Ecrire du code rapidement

➤ Ecrire du code optimisé

➤ Ecrire du code structuré

Page 14: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

CONNAISSANCES REQUISES➤ Apprentissage supervisé

➤ Régression linéaire

➤ Réseau de neurones (MLP)

➤ Random forest

➤ Boosting

➤ Bibliothèques utiles (Python)

➤ Scikit-learn

➤ Keras

➤ Pandas

➤ Numpy

➤ Apprentissage non-supervisé

➤ Analyse en composante principale

➤ K-Means

➤ Notions

➤ Sur-apprentissage/Sous-apprentissage

➤ Variables numériques/Catégorielles

➤ Validation croisée

➤ Algorithmique

➤ Calcul de complexité

➤ Méthode de tri

➤ Structure de données

➤ Table de hachage

➤ Arbre binaire

➤ Liste et vecteur

Page 15: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE

➤ Passage en revue de l’état de l’art (5 %)

➤ Exploration des données (20 %)

➤ Features engineering (50 %)

➤ Mise en place d’une procédure d’évaluation (10 %)

➤ Création du modèle (15 %)

Page 16: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : EXPLORATION DES DONNEES

➤ Compréhension de ce que représente chaque variable

➤ Analyse de la variable cible (données équilibrées ?)

➤ Type des variables explicatives : Catégorielles, Ordinales, Continues

➤ Analyse des variables explicatives

➤ Valeurs manquantes

➤ Corrélation entre les variables

➤ Se familiariser avec le jeu de données

Page 17: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : EXPLORATION DES DONNEES

Page 18: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : EXPLORATION DES DONNEES

62 %

38 %

Survivants Non survivants Valeurs manquantes

Page 19: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : EXPLORATION DES DONNEES

Survived Died

Survived Died

Survived Died

Survived Died

Survived Died

Page 20: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : EXPLORATION DES DONNEES

Page 21: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : FEATURE ENGINEERING

➤ Transformation de la donnée pour être exploitée au mieux par les algorithmes d’apprentissage

➤ Extraction des informations pertinentes et informatives cachées dans les données

➤ Sélection de variables explicatives

«  Feature engineering is the process of using domain knowledge of the data to create features that make machine learning algorithms work. Feature engineering is fundamental to the application of machine learning, and is both difficult and expensive. Coming up with features is difficult, time-consuming, requires expert knowledge. "Applied machine learning" is basically feature engineering. »

Andrew Ng

Page 22: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : FEATURE ENGINEERING

Page 23: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : FEATURE ENGINEERING

Page 24: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : FEATURE ENGINEERING

Page 25: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : FEATURE ENGINEERING

Page 26: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : FEATURE ENGINEERING

Page 27: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : FEATURE ENGINEERING

Page 28: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : FEATURE ENGINEERING

Page 29: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : FEATURE ENGINEERING

Page 30: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : FEATURE ENGINEERING

Page 31: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : FEATURE ENGINEERING

Page 32: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : PROCEDURE D’EVALUATION

➤ Découpage aléatoire entraînement / validation (50% / 50%)

➤ Entraînement sur E puis évaluation du modèle sur V

➤ Inconvénients :

➤ Surévaluation ou sous-évaluation du modèle

➤ Utilisation d’un sous-ensemble des données pour l’entraînement

Jeu de données

E V SCORE

Page 33: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : PROCEDURE D’EVALUATION

➤ Validation croisée : découpage en k parties (k-fold)

➤ Pour chacune des k parties, validation sur k et entrainement du modèle sur les k-1 parties restantes

Jeu de données

V E E E

E V E E

E E V E

VE E E

SCORE 1

SCORE 2

SCORE 3

SCORE 4

Page 34: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : CREATION DES MODELES

Modèle Score en VC

RandomForest 82.3

ExtraTrees 82.7

Xgboost 83.6

k-NN 81.2

SVC 79.12

MLP 81.6

RL 78.4

➤ Ajuster les hyper-paramètres :

➤ Manuellement

➤ Automatiquement

➤ Hyperopt

➤ Grid search

➤ Entraînement et évaluation d’un modèle :

Page 35: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : CREATION DES MODELES

Modèle Score en VC

RandomForest 82.3

ExtraTrees 82.7

Xgboost 83.6

k-NN 81.2

SVC 79.12

MLP 81.6

RL 78.4

SELECTION DU MEILLEUR

MODELE83.6

Page 36: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : CREATION DES MODELES

Modèle Score en VC

RandomForest 82.3

ExtraTrees 82.7

Xgboost 83.6

k-NN 81.2

SVC 79.12

MLP 81.6

RL 78.4

MOYENNE DES

PREDICTIONS84.3

Page 37: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : CREATION DES MODELES

Modèle Score en VC

RandomForest 82.3

ExtraTrees 82.7

Xgboost 83.6

k-NN 81.2

SVC 79.12

MLP 81.6

RL 78.4

84.3

w1

w2

w3

w4

w5

w6

w7

Entraînement d’un nouveau classifieur pour combiner les prédictions des algorithmes

Page 38: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

METHODOLOGIE : DEMARCHE EXPERIMENTALE

Exploration des données Feature

Transformation de la donnée

Sélection des features

Extraction de nouvelles features

Features engineering

Création du modèle

Evaluation du modèle

Résultat attendu ?

Formuler une nouvelle

hypothèse

OUI

Investiguer

NO

N

Page 39: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

COMPETITION TITANIC : PREDICTION DES SURVIVANTS

Page 40: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

COMPETITION AXA : PREDICTION DU CONDUCTEUR

Page 41: S’ATTAQUER À UNE COMPÉTITION DE MACHINE LEARNING · Régression linéaire Réseau de neurones (MLP) ... Sélection de variables explicatives ... du modèle sur les k-1 parties

QUESTIONS

QUESTIONS ???


Aide-mémoiredestatistique appliquéeàlabiologie...qualitative binaire autre Variable à expliquer Type de variables explicatives Type de variable à expliquer Régression Comparaison

EconométriedesVariablesQualitativesemmanuel.duguet.free.fr/ecovarqua2008_6.pdf · CHAPITRE1 Lesvariablesqualitatives explicatives Lesvariablesqualitativesexplicativessonttrèsnombreuseslorsquel’on

Notes explicatives sur les règles de l’UE en matière de ... · Notes explicatives sur les règles de l’UE en matière de TVA concernant le lieu de prestation des services se

SPÉCIAL ANNIVERSAIRE DE L’AIVPrejoignent sur un projet commun, vous savez que c’est sérieux. Sous le nom de Skills Navigator, les ports veulent s’attaquer à l’inadéquation

 · 2 ADMINISTRATION COMMUNALE DE FOREST GEMEENTEBESTUUR VORST CONSEIL COMMUNAL DU 17 DÉCEMBRE 2019 GEMEENTERAAD VAN 17 DECEMBER 2019 NOTES EXPLICATIVES TOELICHTINGSNOTA

Résister à la récession: le pouvoir des coopératives financièresbase.socioeco.org/docs/wcms_235765.pdf · 2019. 5. 23. · de s’attaquer aux causes de la crise, en préconisant:

Intitulé: Apprentissage des réseaux de neurones MLP par une

Commencer avec KXEN Analytical Framework 3.0datamining4trading.free.fr/ressources/KXEN_K2R_GettingStarted_fr.pdf · Sélectionner les variables explicatives K2R - Commencer avec KXEN

notes explicatives de la nomenclature combinée des communautés européennes

NOTES EXPLICATIVES RÈGLEMENT 1667-94-2019 MODIFIANT LE

Revue de littérature sur les approches explicatives …...1 Revue de littérature sur les approches explicatives des inégalités de santé en France Dans le cadre d’une comparaison

Dossier pédagogique à destination des enseignantsforetvasion.com/documents/Cycle1_enseignants.pdf · dossier pédagogique, composé de fiches explicatives et ludiques, qui permettra

Recension des écritsville.montreal.qc.ca/pls/portal/docs/PAGE/CONS_MONTREAL...Pour la majorité des entreprises et villes qui décident de s’attaquer au plafond de verre, l’adoption

COMMISSION DE L’INFORMATION ET DE LA … · disponibilité des données ; et un manque d’utilisation de l’information pour prendre des mesures correctives. 4. Pour s’attaquer

LES PROTÉINES HOMOLOGUES-SPÉCIFIQUES ONT-ELLES UN …depot-e.uqtr.ca/id/eprint/8718/1/Claire Letanneur.pdf · Résumé Melampsora larici-populina (Mlp) est un champignon microscopique

Nutrition et croissance néonatale - ORBi: Home · Circonstances explicatives d’une hypoglycémie néonatale SFA ( contexte obstétrical/ infection sévère/Hypothermie)

Tanagra TSW MLP - Unité de Recherche 3083eric.univ-lyon2.fr/~ricco/tanagra/fichiers/en_Tanagra_TSW_MLP.pdf · A Multilayer Perceptron for a classification task (neural network):

Protocole Enseigne culturelle - MLP...Avenant au Protocole Interprofessionnel Du 3 juillet 2007, ... Cet avenant au protocole d’accord et la nouvelle convention qui en découle sont

S’attaquer au problème de plein front : les commotions ... · Nadia Faucher, analyste . Sonya Norris, analyste . Karin Phillips, analyste . v . SOUS-COMITÉ SUR LES COMMOTIONS

Notes explicatives sur - ec.europa.eu

CPV 2008 NOTES EXPLICATIVES - SIMAP · 2 I. NOTES EXPLICATIVES CONCERNANT LES DIVISIONS 01 À 44 ET LA DIVISION 48 RELATIVE AUX FOURNITURES Le CPV est composé d'un «Vocabulaire

repères - MLP...sommaire repères #49 la lettre d’information de MLP Avril 2010 C’est déjà demain p.4L’offre e-mailing Le dossier p.5Assortiment Focus p.8Le hors-presse avec

Calcul, communication, simulation et métrologie … · pourraient s’attaquer à des problèmes quantiques à N-corps ... quantique dès la fin des années 1990.

LES FICHES EXPLICATIVES DU CENTRE POLE VISION Les

Etudes & Tendances Presse histoire - MLP

V4 PADD Wannehain€¦ · PLU de Wannehain – PADD 2 Grille de révision 4 26/01/15 V4 JBP JBP 3 06/05/14 V3 JBP JBP 2 14/11/13 V2 MLP JBP 1 25/10/13 V1 MLP JBP Indice de révision

Etudes & Tendances Presse Maison - MLP · Etudes Marketing Editeurs - Commercial publications JUIN 2012 Etudes & Tendances 13 Le marché du bricolage en France En 2011, le marché

Histologie fonctionnelle du thymus - cdbn.frcdbn.fr/file/frontend/2016/12/Histologie-fonctionnelle-du-t…  · Web viewils vont s’attaquer au pancréas déclenchant ainsi le diabète)

Th©ories explicatives de la dyslexie - Cndp

Index par catégorie Famille - Accueil - Société de …arbre généalogique des Bastien.Notes explicatives de l'album-souvenir Mariages familles Bastien.Mariages familles Paquin

DITES NON AUX BRIMADES, DITES NON AU HARCÈLEMENT · OU SE RENDENT COUPABLES DE HARCELEMENT 27 NOTEX EXPLICATIVES 3: POUR LES OFFICIERS SUPERIEURS 33 NOTES EXPLICATIVES 4: UN CHANGEMENT

CAP des SACDD - equipementcgt.fr · - Changements de résidence administrative - Réorganisations de services ... l’apprentissage et l’assurance chômage avant de s’attaquer

Intervenants Comment développer pratiquement ses recettes ... · Des solutions pour chaque étape du cycle de vie 2. Fous sur l’éonomie de l’invendu ... Partenariat MLP + 1001mags.com

MLP · • Dans la durée, tenter de générer du chiffre d’affaires supplémentaire. Tentez de monétiser votre audience sur Facebook grâce à une boutique intégrée Inclus :

LES PROTÉINES HOMOLOGUES-SPÉCIFIQUES ONT-ELLES UN …depot-e.uqtr.ca/8718/1/Claire Letanneur.pdf · Résumé Melampsora larici-populina (Mlp) est un champignon microscopique qui