machine learning pour tous
TRANSCRIPT
MACHINE LEARNING POUR TOUSL'éducation a des racines amères, mais ses fruits sont doux
Forum AFUP, Paris, 2015
AGENDA
Comment enseigner à un ordinateur
Application à la recherche de code dans les commentaires
Des apprentissages complexes
INTERVENANT
Damien Seguy
Directeur technique à Exakat
Services d'analyse de code
APPLICATIONS
Detection de fraude et estimation du risque
Traduction automatique ou la transcription automatique
Reconnaissance de caractères ou de visages
Les diagnostics médicaux
La reconnaissance de bon code PHP
MACHINE LEARNING
Machine : l'ordinateur
Learning : apprentissage
Il se bâtit un modèle tout seul : phase d'entrainement
Il propose alors des prédictions : phase d'utilisation
APPRENTISSAGE SURPERVISÉ
DonnéesHistoriques Apprentissage
ModèleDonnées réelles
Résultat
APPLICATION PRATIQUE
Détecter du code dans les commentaires
Un problème classique
Un bon problème de machine learning
Complexe, pas de solution simple
Permet de faire des tests avec beaucoup de données
THE FANN EXTENSION
ext/fann (https://pecl.php.net/package/fann)
Fast Artificial Neural Network
http://leenissen.dk/fann/wp/
Réseaux Neuronaux en PHP
RÉSEAUX NEURONAUX
Imitation de la nature
Couche d'entrée
Couche de sortie
Neurones intermédiaires et couches de neurones
RÉSEAUX NEURONAUX
Imitation de la nature
Couche d'entrée
Couche de sortie
Neurones intermédiaires et couches de neurones
INITIALISATION<?php
$num_layers = 1; $num_input = 5; $num_neurons_hidden = 3; $num_output = 1; $ann = fann_create_standard($num_layers, $num_input, $num_neurons_hidden, $num_output);
// fonction d'activation fann_set_activation_function_hidden($ann,
FANN_SIGMOID_SYMMETRIC); fann_set_activation_function_output($ann, FANN_SIGMOID_SYMMETRIC);
EXPERTISE// Test if the if is in a compressed format
// none need yet
// icon
// There is a parser specified in `Parser::$KEYWORD_PARSERS`
// Show generated config file in a <textarea>
// numGlyphs + 1
// $a && $b and multidimensional
// $result should exist, regardless of $_message
// if(ob_get_clean()){
//$annots .= ' /StructParent ';
// $cfg['Servers'][$i]['controlpass'] = 'pmapass';
VECTEUR D'ENTRÉE
'length' : taille du commentaire
'countDollar' : présence du $
'countEqual' : présence du =
'countObjectOperator' présence du ->
'countSemicolon' : présence de ;
DONNÉES D'ENTRÉE46 5 1 825 0 0 0 1 0 37 2 0 0 0 0 55 2 2 0 1 1 61 2 1 3 1 1 ...
* This file is part of Exakat. * * Exakat is free software: you can redistribute it and/or modify * it under the terms of the GNU Affero General Public License as published by * the Free Software Foundation, either version 3 of the License, or * (at your option) any later version. * * Exakat is distributed in the hope that it will be useful, * but WITHOUT ANY WARRANTY; without even the implied warranty of * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the * GNU Affero General Public License for more details. * * You should have received a copy of the GNU Affero General Public License * along with Exakat. If not, see <http://www.gnu.org/licenses/>. * * The latest code can be found at <http://exakat.io/>. * */
// $x[3] or $x[] and multidimensional
//if ($round == 3) { die('Round '.$round);}
//$this->errors[] = $this->language->get('error_permission');
APPRENTISSAGE$max_epochs = 500000; $desired_error = 0.001;
// apprentissage lui-même if (fann_train_on_file($ann, 'leçon.data', $max_epochs, $epochs_between_reports, $desired_error)) { fann_save($ann, 'appris.out'); }fann_destroy($ann); ?>
APPRENTISSAGE
47 leçons
5 caractéristiques
3 neurones
Durée d'exécution : 5,711 s
EXPLOITATION
DonnéesHistoriques Apprentissage
ModèleDonnées réelles
Résultat
EXPLOITATION<?php
$ann = fann_create_from_file('appris.out');
$commentaire = "//$gvars = $this->getGraphicVars();";
$input = makeVector($commentaire); $resultats = fann_run($ann, $input);
if ($resultats[0] > 0.8) { print "\"$commentaire\" : -> $resultats[0] %\n"; }
?>
DONNÉES RÉELLES
Testé sur 14093 cas
Durée d'exécution 367.01ms
Trouvé 665 cas (5%)
99.999893 // $cfg['Servers'][$i]['controlhost'] = '';
99.999928 //$_SESSION['Import_message'] = $message->getDisplay();
/* 99.999928 if (defined('SESSIONUPLOAD')) { // write sessionupload back into the loaded PMA session
$sessionupload = unserialize(SESSIONUPLOAD); foreach ($sessionupload as $key => $value) { $_SESSION[$key] = $value; }
// remove session upload data that are not set anymore foreach ($_SESSION as $key => $value) { if (mb_substr($key, 0, mb_strlen(UPLOAD_PREFIX)) == UPLOAD_PREFIX && ! isset($sessionupload[$key]) ) { unset($_SESSION[$key]); } } }
98.780382 //LEAD_OFFSET = (0xD800 - (0x10000 >> 10)) = 55232
99.361396 // We have server(s) => apply default configuration 98.383027 // Duration = as configured
99.999928 // original -> translation mapping
97.590065 // = ( 59 x 84 ) mm = ( 2.32 x 3.31 ) in
Vrai positif Faux positif
Vrai négatif Faux négatif
Rapporté par le RN
Objectif
Vrai positif Faux positif
Vrai négatif Faux négatif
Rapporté par le RN
Objectif
// $cfg['Servers'][$i]['table_coords'] = 'pma__table_coords';
//(isset($attribs['height'])?$attribs['height']: 1);
// if ($key != null) did not work for index "0"
// the PASSWORD() function
99.999923
73.295981
99.999851
2.104115
BILAN
665 code trouvés
72% de faux positifs
mais après nettoyage facile, il reste 23% de faux positif
Analyse de 14k commentaires en 367 ms// = ( 59 x 84 ) mm = ( 2.32 x 3.31 ) in
RETROACTION
Amélioration de la base d'entrainement
Ajout/retraits de caractéristiques
Changement de configuration du RN
Nouvel apprentissage
Nouvelle validation
Données réelles
DonnéesHistoriques
Apprentissage
Modèle Résultat
Rétraction
AMÉLIORATION DE LA BASE
Augmentation de la taille
Variété des situations
Inclusion des cas particuliers rencontrés
Accumulation d'expérience
REVUE DES CARACTÉRISTIQUES
Ajouts de nouvelles caractéristiques
Retrait des caractéristiques moins pertinentes
CONFIGURATION DU RN
Vecteurs d'entrée
Couches intermédiaires et neurones cachés
Fonction d'activation
Vecteur de sortie
PILOTAGE AUTOMATIQUE
Tester sur différentes configurations
Identifier les résultats
Idéalement, retirer les faux positifs
RésultatsNombre de couches
Nombre de neurones
SYNOPSIS
Selection d'une base de données d'apprentissage
Configuration du RN
Apprentissage
Validation sur des données de tests
Retroaction
AUTRES TECHNIQUES
Réseaux Bayésiens
Algorithmes génétiques
Apprentissage par renforcement
APPRENTISSAGE PAR RENFORCEMENT
Logiciel
Monde réel
RécompenseActionRéaction
FILTRES BAYESIENS
ALGORITHMES GÉNÉTIQUES
Population
Population
Selection
Reproduction
PopulationVariations
QUELQUES OUTILS
PHP ext/fann
Langage R
https://github.com/kachkaev/php-r
Scikit-learn
https://github.com/scikit-learn/scikit-learn
Mahout
https://mahout.apache.org/
MERCI@exakat
http://joind.in/talk/view/15265
AUTRES CONFIGURATIONS
Fonction d'activation
FANN_SIGMOID_SYMMETRIC
FANN_LINEAR
FANN_THRESHOLD
FANN_SIN_SYMMETRIC
Linéaire Seuil
Tangeante
Gaussienne Quadratique
Sigmoide
QUELLES APPLICATIONS?
Non-déterministe
Elimination de tout ce qui est systématique à trouver
Accès à l'expertise et aux vecteurs de caractéristiques
Couche finale après les résultats
Classification, priorisation, approximation rapide