réseaux de neurones
TRANSCRIPT
Réseaux de neurones(neural computing)
Université Djillali Liabbes de Sidi Bel Abbes
Département d’informatique
Introduction l'objectif des chercheurs était de construire une
machine capable de reproduire certains aspects de l'intelligence humaine
Les réseaux de neurones artificiels « Neural
Network » réalisés à partir du modèle biologique ne sont rien qu'une tentative de modélisation mathématique du cerveau humain
Ils sont donc conçus pour reproduire certaines de leurs caractéristiques comme :
la capacité d'apprentissage
la capacité de mémoriser l'information
la capacité de traiter des informations incomplètes
HistoriqueMac Culloch et Pitts ont proposé dès 1943 les
premiers neurones formels calqués sur les neurones
biologiques
Les réseaux de neurones appelé « NNs » ont donc
une histoire relativement jeune (60 ans) mais ce
n'est que depuis le début des années 1990 que les
applications intéressantes des réseaux de neurones
ont vu le jour
Soma Soma
Synapse
Synapse
Dendrites
Axon
Synapse
Dendrites
Axon
DéfinitionQu'est-ce qu'un neurone ?
Un neurone est une cellule d'un
système permettant la
communication et le traitement
de l'information.
Qu'est-ce qu'un neurone
artificiel ?
Les réseaux de neurones artificiels sont un moyen de modéliser
le mécanisme d'apprentissage et de traitement de l'information
qui se produit dans le cerveau humain.
Comparaison Analogy: Biologique-Artificiel
Biological Neuron Artificial Neuron
corps cellulaire neurone
Dendrites inputs
Axone output
Synaps poids
Comparaison (programmation)
Approches informatiques
Approche algorithmique (programmation
complète)
Création des « moteurs d’inférence »
(programme qui raisonne ; règles
SI..ALORS.. ; système expert)
l’approche connexionniste (réseaux
neuronaux)
Calcul non-algorithmique
Information et mémoire distribuée dans le
réseau
Apprentissage par entraînement sur des
exemples
Inspiré du fonctionnement du cerveau
Analogy: Approches pour résoudre un problème
• Les entrées "E" du neurone proviennent soit d’autres éléments "processeurs", soit de l’environnement.
• Les poids "W" déterminent l’influence de chaque entrée.
• La fonction de combinaison "p" combine les entrées et les poids.
• La fonction de transfert calcule la sortie "S" du neurone en fonction de la combinaison en entrée.
Σ Fct
E1
E2
E3
E4
En
S
w1
w2
w3
w4
wn
Σ fp
FONCTION
de
TRANSFERT
FONCTION
de
COMBINAISON
Les éléments de neurone artificiel
(le model formel)
La Fonction de Combinaison calcule
l’influence de chaque entrée en tenant
compte de son poids. p = ∑ Wi Ei
• Wi : Poids de la connexion à l’entrée i.
• Ei : Signal de l’entrée i.
p
Σ f
E1
E2
E3
E4
En
S
w1
w2
w3
w4
wn
FONCTION
de
COMBINAISON
Les éléments de neurone artificiel
(model formel)
FONCTION
de
TRANSFERT
La Fonction de Transfert détermine l'état du
neurone (en sortie)
• Calcul de la sortie : S = f(p)
• La fonction de transfert "f" peut avoir plusieurs formes.
Les éléments de neurone artificiel
(model formel)
• Fonction en échelon.
• Fonction linéaire par morceaux.
• Fonction dérivable (sigmoïde).
La fonction ‘f’ peut être de la forme :
S = f(p)
SEUIL
+1
-1
p
Fonction de transfert
dérivable (sigmoïde) :
Les éléments de neurone artificiel
(model formel)
S = f(p)
SEUIL
+1
-1
p
Les éléments de neurone artificiel
(model formel)
Fonction de transfert
linéaire par morceaux :
S = f(p)
SEUIL
+1
-1
p
Fonction de
transfert
en échelon :
Les éléments de neurone artificiel
(model formel)
Configurations des NNs Réseaux partiellement connectés: Chaque neurone
est relié à quelques neurones localisés dans son périmètre.
Réseaux à connexions complètes: Chaque
neurone est lié à tous les autres neurones du réseau
Réseaux à couches:Tous les neurones d'une couche
sont connectés aux neurones de la couche en aval.
Architecture des NNs Les réseaux non bouclés :(feedforward).
Réseaux bouclés : feedback network
ou récurrent Network
L’utilisation des NNsAujourd'hui, les réseaux de neurones ont de nombreuses applications dans des domaines très
variés :
•traitement d'image : compression d'images, reconnaissance de caractères et de signatures,
reconnaissance de formes et de motifs, cryptage, classification, ...
•traitement du signal : traitement de la parole, identification de sources, filtrage,
classification, ...
•contrôle : diagnostic de pannes, commande de processus, contrôle qualité, robotique, ...
•optimisation : allocation de ressources, planification, régulation de trafic, gestion, finance,
...
•simulation : simulation boîte noire, prévisions météorologiques
•classification d'espèces animales étant donnée une analyse ADN
•modélisation de l'apprentissage et perfectionnement des méthodes de l'enseignement
•approximation d'une fonction inconnue ou modélisation d'une fonction connue mais
complexe à calculer avec précision
Avantages des NNs
Capacité de représenter n'importe quelle fonction, linéaire ou pas, simple ou complexe.
> Faculté d'apprentissage à partir d'exemples représentatifs, par « rétro propagation des Erreurs
». L'apprentissage (ou construction du modèle) est automatique
> Résistance au bruit ou au manque de fiabilité des données.
> Simple à manier, beaucoup moins de travail personnel à fournir que dans l'analyse statistique
classique. Aucune compétence en matis, informatique statistique requise.
> Comportement moins mauvais en cas de faible quantité de données.
> Pour l'utilisateur novice, l'idée d'apprentissage est plus simple à comprendre
que les complexités des statistiques multi variable
Inconvénients des NNs
> L'absence de méthode systématique permettant de définir la meilleure topologie du réseau et le
nombre de neurones à placer dans la (ou les) couche(s) cachée(s).
> L e choix des valeurs initiales des poids du réseau et le réglage du pas d'apprentissage, qui
jouent un rôle important dans la vitesse de convergence.
· Le problème du sur apprentissage (apprentissage au détriment de la généralisation).
> L a connaissance acquise par un réseau de neurone est codée par les valeurs des poids sont
inintelligibles pour l'utilisateur
Conclusion
Les réseaux de neurones artificiels, inspirés du comportement du cerveau humain,
permettent de créer de l'intelligence artificielle. Notamment appliqués en datamining
principalement à travers l'apprentissage non supervisé, ils servent à prédire, à identifier et
à classifier les données. L'apprentissage, moteur essentiel du système, leur permet
d'assimiler un traitement d'information à travers une fonction et de le reproduire pour les
données qui lui seront ensuite présentées. Les réseaux de neurones sont beaucoup utilisés
en finance et en gestion en tant qu'outil d'aide à la décision, mais ils peuvent être utiles à
bien d'autres applications dans des secteurs allant de l'archéologie à la médecine en
passant par les télécommunications. De plus, ils s'avèrent être prometteurs pour celui qui
les a inspirés : le cerveau humain. A travers la neuro-informatique, ils peuvent reproduire
celui-ci afin de tester différentes pistes qui les mèneront vers de considérables progrès
biotechnologiques