euratech'trends - l’informatique neuro-inspiré

4
L ’année 2016 a mar- qué un tournant dans l’histoire de l’informa- tique. La fameuse loi de Moore, qui voulait que la puissance des puces électro- niques, à prix constant, double tous les deux ans, semble avoir atteint ses limites. Au-delà des 14 nanomètres actuels, les transistors sont de plus en plus chers à produire, donc de moins en moins rentables, et surtout moins fiables car per- turbés par des incertitudes quantiques. De plus, l’architec- ture des ordinateurs bâtis se- lon le modèle dit «de von Neu- mann» depuis plus de soixante ans (une mémoire, un système central de calcul, une unité d’assemblage des données), a vu son hégémonie remise en cause par l’émergence d’une informatique neuro-inspirée pour faire face aux enjeux du futur, notamment au niveau de l’intelligence artificielle. L’histoire De nombreux travaux de re- cherche sont à la base de ce changement de paradigme, mais celui qui est considéré comme le père l’informatique neuro-inspirée reste Carver Mead* qui avait prédit à la fin des années 80 que les ordi- nateurs consommeraient dix millions de fois plus d’énergie par instruction que pour l’acti- vation d’une synapse de notre cerveau. C’est là l’une des trois caractéristiques du cerveau sur laquelle s’appuie l’infor- matique neuro-inspirée à ce jour : faiblement énergivore (du fait des circuits plus courts, mais aussi de moins de déper- dition d’électricité transformée en chaleur), sa tolérance au défaut (les microprocesseurs peuvent être affectés par la perte d’un transistor quand le cerveau fonctionne alors qu’il perd régulièrement des neurones) et la capacité à ap- prendre sans être programmé. Nouvelle génération Contrairement à nos transis- tors actuels qui ne retiennent aucune information, les puces de nouvelle génération offrent des circuits qui, simultané- ment, effectuent des opéra- tions et stockent les données. Mieux encore, dans un ordina- teur neuronal, chaque point de traitement de données sur une puce est lié à plusieurs autres, comme les neurones de notre cerveau. La puce peut ainsi tra- vailler plus vite et accomplir plus de tâches en même temps. Comme le cerveau, la puce ne dispose pas d’une grande unité centrale de traitement mais d’un nombre important de «neurones» dont les inter- connexions évoluent en fonc- tion des requêtes demandées. La porte est ainsi ouverte vers l’apprentissage automatique et les intelligences artificielles puissantes. E euratech trends Janvier 2017 Édition 1 Numéro 10 L’informatique neuro-inspirée * https://web.stanford.edu/group/brainsinsilicon/documents/MeadNeuroMorphElectro.pdf

Upload: euratechnologies

Post on 08-Feb-2017

31 views

Category:

Technology


3 download

TRANSCRIPT

Page 1: Euratech'trends - l’informatique neuro-inspiré

L’année 2016 a mar-qué un tournant dans l’histoire de l’informa-tique. La fameuse loi

de Moore, qui voulait que la puissance des puces électro-niques, à prix constant, double tous les deux ans, semble avoir atteint ses limites. Au-delà des 14 nanomètres actuels, les transistors sont de plus en plus chers à produire, donc de moins en moins rentables, et

surtout moins fiables car per-turbés par des incertitudes quantiques. De plus, l’architec-ture des ordinateurs bâtis se-lon le modèle dit «de von Neu-mann» depuis plus de soixante ans (une mémoire, un système central de calcul, une unité d’assemblage des données), a vu son hégémonie remise en cause par l’émergence d’une informatique neuro-inspirée pour faire face aux enjeux du

futur, notamment au niveau de l’intelligence artificielle.

L’histoire

De nombreux travaux de re-cherche sont à la base de ce changement de paradigme, mais celui qui est considéré comme le père l’informatique neuro-inspirée reste Carver Mead* qui avait prédit à la fin des années 80 que les ordi-nateurs consommeraient dix millions de fois plus d’énergie par instruction que pour l’acti-vation d’une synapse de notre cerveau. C’est là l’une des trois caractéristiques du cerveau sur laquelle s’appuie l’infor-matique neuro-inspirée à ce jour : faiblement énergivore (du fait des circuits plus courts, mais aussi de moins de déper-dition d’électricité transformée en chaleur), sa tolérance au défaut (les microprocesseurs peuvent être affectés par la perte d’un transistor quand le cerveau fonctionne alors qu’il perd régulièrement des

neurones) et la capacité à ap-prendre sans être programmé.

Nouvelle génération

Contrairement à nos transis-tors actuels qui ne retiennent aucune information, les puces de nouvelle génération offrent des circuits qui, simultané-ment, effectuent des opéra-tions et stockent les données. Mieux encore, dans un ordina-teur neuronal, chaque point de traitement de données sur une puce est lié à plusieurs autres, comme les neurones de notre cerveau. La puce peut ainsi tra-vailler plus vite et accomplir plus de tâches en même temps. Comme le cerveau, la puce ne dispose pas d’une grande unité centrale de traitement mais d’un nombre important de «neurones» dont les inter-connexions évoluent en fonc-tion des requêtes demandées. La porte est ainsi ouverte vers l’apprentissage automatique et les intelligences artificielles puissantes.

E

euratech trendsJanvier 2017 Édition 1 Numéro 10

L’informatique neuro-inspirée

* https://web.stanford.edu/group/brainsinsilicon/documents/MeadNeuroMorphElectro.pdf

Page 2: Euratech'trends - l’informatique neuro-inspiré

Même si les chiffres divergent selon les études, une chose est certaine:

le marché de l’informatique neuro-inspirée a de beaux jours devant lui. Pour Grand View Research*, il devrait ainsi atteindre les 6,48 milliards de dollars d’ici à 2024. Une croissance exponentielle due à la demande en intelligence artificielle dans de nombreux secteurs comme l’automobile, la médecine, la défense ou en-core l’aérospatiale. Le logiciel représente pour le moment le plus grand débouché à hauteur de 62 %, notamment pour la vidéo ou l’identification vocale. Selon l’étude, le marché nord-américain, qui occupait en 2016 34 % du marché global devrait aussi maintenir, voire densifier, sa position du fait de la forte présence sur son sol de concepteurs de puces neuro-inspirées.

Les grands acteurs

Parmi les acteurs majeurs de ce secteur émergent, se retrouve en bonne position la multi-nationale américaine IBM. Sa puce TrueNorth compte 1 million de neurones de traite-

ment, reliés par 256 millions de connexions, et près de 5,4 milliards de transistors indi-viduels. En une seconde, cette petite merveille peut exécuter 1 milliard d’instructions pour une consommation de moins d’un centième de watt. Elle équipe notamment une ma-chine neuronale développée dans le cadre du programme de recherche Synapse mené par l’agence de la défense américaine (Darpa). NVIDIA,

le fournisseur mondial de pro-cesseurs graphiques, de cartes graphiques et de puces gra-phiques, compte également jouer un rôle actif et a dépensé pas moins de 2 milliards de dol-lars dans la production d’une nouvelle puce de 15 milliards de transistors, qui, prétend-il, est 12 fois plus rapide que ces prédécesseurs…

Les start-ups

Qui dit nouvelle technologie, dit start-up et dans le secteur de l’informatique neuro-inspi-rée, elles sont nombreuses et prometteuses. Nervana, fondée

en 2014, a levé 24,4 millions de dollars pour développer une solution optimisée pour le deep learning qui doit voir le jour en 2017. Fondée par un ancien responsable de la NASA, KnuEdge a de son côté mis au point une puce neuronale jusqu’à 6 fois plus performante que les anciennes de la société. Elle a pour cela reçu un soutien de 100 millions de dollars et présente déjà des revenues de 20 millions de dollars. Pour son fondateur et CEO, Dan Goldin, « notre mission ne concerne pas la technologie incrémentale mais bien une transformation fondamentale ». On peut citer aussi Horizon Robotics, une start-up chinoise fondée en 2015, Eyeriss développée par des chercheurs du MIT qui serait 10 fois plus rapide et qui consommerait 10 fois moins d’énergie, ou encore Lightfleet et sa puce qui peut réaliser 115 milliards d’instruction par seconde avec l’alimentation d’une pile AA…

Aujourd’hui

euratech trends #1002

* “Neuromorphic Computing Industry Insights”, Grand View Research, Inc., août 2016 / www.grandviewresearch.com/press-release/global-neuromorphic-computing-market

Page 3: Euratech'trends - l’informatique neuro-inspiré

En 2016, AlphaGo déve-loppé par l’entreprise britannique Google DeepMind a vaincu

assez nettement le champion humain de la discipline au jeu de go. Son réseau de neurones artificiels a été couplé au deep learning ce qui lui a permis d’apprendre à jouer en mémo-risant des parties entre grands joueurs, puis de s’entraî�ner à jouer contre lui-même. L’infor-matique neuro-inspirée a ainsi réussi à montrer au grand jour tout le potentiel qu’elle repré-sente. Et si le développement croissant de l’intelligence artificielle dans des domaines aussi divers que la santé ou les transports incite à un opti-misme grandissant quand la puissance des machines, l’un des enjeux de cette technologie réside aussi dans sa très faible consommation énergétique qui permet de faire face aux be-soins croissants de ressources

notamment dans les data cen-ter.

Human Brain Un projet initié par la Com-mission européenne va encore plus loin. Le Human Brain Pro-ject rassemble des dizaines de milliers de scientifiques à travers le monde pour réus-sir à simuler d’ici à 2024 le fonctionnement du cerveau humain, appliquer ces connais-sances dans le domaine médi-cal et contribuer à la création de l’informatique de demain. Si le projet subit quelques cri-tiques, en particulier, le fait que la simulation du fonction-nement d’un cerveau humain nécessite une puissance calcu-latoire estimée d’un exaflops, performance difficilement atteignable avant 2020, une équipe a réussi la simulation d’un cerveau de rat, de ses 31

neurones et ses 40 millions de synapses. Une plateforme basée sur l’informatique neu-ro-inspirée, BrainScaleS relie aussi désormais 20 plaquettes de silicium sur lesquelles ont été réalisés 4 millions de neu-rones artificiels, interconnec-tés par un milliard de liaisons synaptiques dynamiques.

En amont Si l’informatique s’inspire dé-sormais du cerveau, les projets de développement de puces à implanter dans le cerveau humain se multiplient. L’ambi-

tion est pour le moment de permettre de lutter contre cer-taines pathologies, par exemple la maladie d’Alzheimer ou les troubles de la vision, comme le propose l’implant Argus II* développé par Second Sight. La puce pourrait aussi intervenir en amont sur la détection de problèmes, ou, comme certains le prédisent, augmenter les capacités de notre cerveau, par exemple en le dotant de la télé-pathie. Nous n’en sommes pas encore là, tant mieux dirons certains qui s’inquiètent de ce rapprochement et des consé-quences qu’il peut entraî�ner sur les libertés individuelles.

euratech trends #10 03

Les enjeux

*http://www.sciencesetavenir.fr/sante/france-un-oeil-bionique-inte-gralement-rembourse-par-la-securite-sociale_19453

Page 4: Euratech'trends - l’informatique neuro-inspiré

euratech trends #0904

Dans la région des Hauts-de-France, l’équipe É� meraude explore la concep-

tion de nouvelles architectures neuromorphiques.

Emeraude www.lifl.fr/emeraudeEmeraude entend contribuer à une utilisation plus efficace et plus facile des générations futures de processeurs pour les applications mobiles et embar-quées en se focalisant sur la prise en compte du temps dans toutes les couches des sys-tèmes de calcul (langage, com-pilateur, système d’exploita-tion, machine virtuelle). L’idée

clé des recherches est qu’en utilisant les informations tem-porelles, le système d’exploi-tation ou l’intergiciel pourra prendre de meilleures déci-sions concernant la consom-mation d’énergie. Par exemple, connaî�tre une échéance tem-porelle et avoir une estimation du temps de calcul nécessaire pour une tâche peut permettre de réduire la fréquence du pro-cesseur et ainsi de diminuer la consommation d’énergie. Ces recherches contribuent à l’ordonnancement temps-réel prenant en compte l’énergie sur plateformes hétérogènes, au placement de tâches et de communications sur des ré-

seaux sur puces hétérogènes, et à l’adaptation dynamique à la variabilité du matériel. En sus de cette direction de recherche principale, l’équipe É� meraude étudie la possibilité de chan-gement radical de la façon de calculer par l’utilisation d’accé-lérateurs neuromorphiques basés sur des nanocomposants memristifs. Emeraude réunit des équipes de l’IRCICA et de CRIStAL.

IRCICA www.ircica.univ-lille1.fr Un des projets de recherche de l’IRCICA vise l’exploration conjointe de nouvelles archi-tectures de traitement de l’in-formation bio-inspirées et des composants requis pour leur implémentation. En particulier, l’interface entre les traitements numériques classiques et ces

architectures bio-inspirées.

IEMN http://www.iemn.fr/ Une collaboration a été éta-blie entre Emeraude et deux équipes de nanoélectronique de l’IEMN pour construire un simulateur utilisant les carac-téristiques des composants qu’ils conçoivent et permettant l’exploration d’architecture de réseaux de neurones maté-riels utilisant ces composants. L’IEMN est une Unité Mixte de Recherche associant le CNRS et trois établissements d’Ensei-gnement Supérieur publics ou privé. Les recherches couvrent un vaste domaine allant de la physique des matériaux et des nanostructures aux systèmes de télécommunications et à l’instrumentation acoustique et micro-ondes.

Hauts-de-France

Directeur de publication : Massimo MagnificoRédacteur en chef :

Patrick BertoloJournaliste :

Thibault Caudron

165 avenue de Bretagne 59000 Lille03.20.19.18.55

[email protected]

12th HIPEAC CONFERENCEdu 23 au 25 janvier 2017, Stockholm (Suède)https://www.hipeac.net/2017/stockholm/

du 6 au 8 mars 2017, San Jose (états-Unis)https://www.src.org/calendar/e006125/

du 14 au 19 mai 2017, Anchorage (Alaska)http://www.ijcnn.org/

5th Neuro Inspired Computational Elements Workshop (NICE 2017)

du 3 au 7 avril 2017, Marrakech (Maroc)http://www.sigapp.org/sac/sac2017/

32nd ACM SIGAPP Symposium on Applied Computing (SAC 2017)

30th International Joint Conference on Neural Networks (IJCNN 2017)

du 15 au 17 mai 2017, Siena (Italie)http://www.computingfrontiers.org/2017/

ACM International Conference on Computing Frontiers 2017

www.euratechnologies.com

AGENDA

du 25 au 28 mai 2017, Shanghai (Chine)http://neuro.embs.org/2017/

du 15 au 16 juin 2017, Vieste (Italie)http://iwasi2017.poliba.it/

du 11 au 15 septembre 2017, Alghero (Italie)http://www.icann2017.org/

7th IEEE International Workshop on Advances in Sensors and Interfaces (IWASI 2017)

du 21 au 23 juin 2017, Sapporo (Japon)https://conference.cs.cityu.edu.hk/isnn/

14th International Symposium on Neural Networks (ISNN 2017)

26th International Conference on Artificial Neural Networks (ICANN 2017)

du 20 au 21 novembre 2017, Paris (France)http://waset.org/conference/11/2017/paris/ICSIM

19th International Conference on Sensors, Interfaces and Microsystems (ICSIM2017)

8th International IEEE EMBS Neural Engineering Conference (NER’17)