L’intelligence Artificielle : nouvel acteur du champ de bataille

Thierry BerthierChaire de Cyberdéfense & Cybersécurité Saint-Cyr – CREC

Thétis et Héphaïstos soutenu par ses automates –Auteur : Füssli, Johann Heinrich (1741-1825) – Date : 1803

PLAN

1 - Le temps du Kronos, A l’origine de l’Intelligence Artificielle

2 - Intelligence artificielle – De quoi parle-t-on ?

3 - Lorsque l’IA surpasse l’homme en 2016

4 - La course à l’IA est lancée

5 - L’intelligence artificielle sur le champ de bataille

6 - Le soldat augmenté

1 - Le temps du Kronos,A l’origine de l’IA

Dans la mythologie grecque, Héphaïstos, l’illustre artisan, est un dieu infirme, difforme et boiteux.

C’est aussi un extraordinaire concepteur d’automates et de créatures artificielles imitant la vie qu’il met au service des dieux.

Héphaïstos et le temps du KronosHéphaïstos sait forger et animer des mécanismes complexes. Il a construit des trépieds capables de se déplacer de manière autonome (automatoï) pour se rendre à l’assemblée des dieux ainsi que les fameuses portes de l’Olympe qui s’ouvrent d’elles-mêmes.Selon des sources antiques, il a fabriqué des servantes d’or qui l’assistent dans ses travaux, puis six charmeuses d’or accompagnées de chiens gardiens du palais d’Alkinoos, de chevaux forgés pour le char des Cabires, d’un aigle fabriqué pour Zeus et du géant de bronze Talos laissé à Minos pour garder l’île de Crète.Créés pour accomplir une tâche précise qu’ils exécutent à la perfection, les automates d’Héphaïstos construits sur le modèle d’objets usuels, d’animaux ou d’êtres humains deviennent les auxiliaires des dieux. Dans la société divine où les Olympiens ne connaissent ni peine ni contrainte, les créations animées d’Héphaïstos remplacent les esclaves des sociétés humaines pour accomplir les tâches les plus répétitives et rébarbatives. Les automates donnent à la communauté des dieux et à la première race humaine la possibilité de mener une existence idéale, dénuée d’effort, préservée des souffrances et des malheurs.Cette période idyllique, appelée « temps du Kronos », est celle d’une agriculture prospère qui ne demande aucun effort et d’une production de richesses et de ressources totalement automatisée. On notera que les automates du temps du Kronos rendent inutiles l’esclavage et le travail humain.

Avec la convergence NBIC débute le second temps du Kronos

L’espèce humaine aborde aujourd’hui son second temps du Kronos marqué par la convergence NBIC (Nanotechnologies, Biotechnologies, Informatique, sciences Cognitives). Les héritiers mortels d’Héphaïstos s’incarnent désormais dans chaque créateur de robots mis au service de ceux qui aspirent à une vie sans contrainte et à une certaine forme d’immortalité.

Entre l’Olympe d’Héphaïstos, la Silicon Valley transhumaniste et l’ensemble des nations technologiques, les similarités de faits et d’objectifs sont troublantes et doivent nous questionner : l’histoire et le devenir d’Homo Sapiens sont-ils tout entiers inscrits dans la mythologie grecque selon une circularité temporelle que nous ne cessons de redécouvrir ? Entrons-nous réellement dans un second temps du Kronos qui nous éloigne définitivement du travail répétitif, des contraintes, de la fatigue, des souffrances quotidiennes et de la mort ?

Si les aspirations originelles du temps du Kronos ont bien accompagné l’évolution humaine et jalonné son histoire, de l’antiquité aux Lumières et jusqu’aux grandes révolutions industrielles, elles quittent aujourd’hui la sphère mythologique pour façonner nos sociétés technologiques.

Pour comprendre le futur, relisons l’Iliade et l’Odyssée !

L’intelligence artificielle et la robotique, comme la forge et le marteaud’Héphaïstos, transforment notre environnement et nous libèrent de sescontraintes. L’augmentation de l’espérance de vie et l’émergence d’uneinformation ubiquitaire globale entourant et guidant l’individu caractérisentdésormais ce second temps du Kronos dans ses promesses émancipatrices.Les merveilleuses créations d’Héphaïstos réalisaient toutes les tâches humaines àla perfection en surpassant le travail des êtres mortels. Ainsi, nul intrus neparvenait à échapper à son chien d’or, molosse forgé, gardien du palais d’Alkinoos.Le géant Talos pouvait effectuer le tour de la Crète trois fois par jour pour prévenirtoute intrusion.Nous retrouvons aujourd’hui cette suprématie de l’automate sur l’humain dansdes domaines précis : AlphaGo, l’intelligence artificielle de Google DeepMind vientde battre le champion du monde coréen Lee Sedol au jeu de Go. La robotiquemilitaire produit des drones et des systèmes armés semi-autonomes desurveillance automatisée particulièrement efficaces (Robots sentinelles SGRA1déployés à la frontière des deux Corées) qui sont autant de géants Talos dépassantles capacités humaines… Enfin, la fabrique du vivant que seul Héphaïstos saitmettre en œuvre au service des dieux trouve un écho moderne dans les progrèsfulgurants des bio et des nanotechnologies.

2 -Intelligence Artificielle,

De quoi parle-t-on ?

Des tentatives pour définir l’IA …

L’expression IA apparaît en 1956 durant la conférence de Dartmouth dans une première définition (qui s’avère très insuffisante aujourd’hui) :

Définition de Marvin Minsky (1927 – 2016)« L’intelligence artificielle est la science qui consiste à faire faire à des machines ce que l’homme fait moyennant une certaine intelligence ».

Critique : Cette définition présente une forte récursivité… La « complexité » mentale est-elle comparable à la complexité informatique ?La définition de Minsky exclut des domaines majeurs de l’IA : la perception (vision et parole), la robotique, la compréhension du langage naturel, le sens commun.

10

Des tentatives pour définir l’IA …

L’IA est-t-elle le contraire de la « bêtise naturelle » ??

Une définition plus opérationnelle : « L’IA est le domaine de l’informatique qui étudie comment faire faire à l’ordinateur des tâches pour lesquelles l’homme est aujourd’hui encore le meilleur. » (Elaine Rich & Knight – Artificial Intelligence)

Les grandes dichotomies de l’IA subsistent :- IA forte vs IA faible,

- Niveau de compétence vs niveau de performance,

- Algorithmique vs non algorithmique,

- Vision analytique vs vision émergente de la résolution de

problèmes,

- Sciences du naturel vs sciences de l’Artificiel. 11

Des tentatives pour définir l’IA …

IA forte : une machine produisant un comportement intelligent , capable d’avoir conscience d’elle-même en éprouvant des « sentiments » et une compréhension de ses propres raisonnements.IA faible : Machine simulant ces comportements sans conscience d’elle-même. Impossibilité liée au support « biologique » de la conscience.

La question centrale : une « conscience » peut-elle émerger de manipulations purement syntaxiques ?

C’est l’expérience de la Chambre chinoise imaginée par John Searle en 1981. C’est aussi l’hypothèse (forte) de la pensée singulariste / transhumaniste.

12

Le Test de Turing (1950)

13

Compétence vs performance :On doit tenir compte de la distinction introduite par NoamChomsky (MIT) : faire « comme » ou faire « aussi bien que ». L’oiseau et l ’avion volent mais pas de la même façon…Jeux d ’échecs : les grands champions réfléchissent différemment de Deep Blue. Jeu de Go : AlphaGo n’a pas la même approche que celle du champion du monde .

Vision analytique vs vision émergente de la résolution de problèmes :D’un côté on procède par décomposition de problèmes en sous-problèmes plus simples à résoudre (analyse procédurale, système experts basés sur la logique des prédicats) et de l’autre, on réalise une distribution des tâches à un ensemble d ’agents qui interagissent (exemple : Ant Algorithm).

14

L’histoire de l’IA est très récente… (60 ans)

Acte de naissance : 1956, Darmouth College (New Hampshire,USA)John McCarthy (tenant de la logique) et Marvin Minsky (tenantd’une approche par schémas).Genèse autour de la notion de « machines à penser »Comparaison du cerveau avec les premiers ordinateurs

Les grands acteurs de l’IA

Mc Culloch et Pitts : réseaux neuronaux artificiels (approchephysiologique),Wiener : cybernétique,Shannon : théorie de l’information,Von Neumann : architecture d’un calculateur,Alan Turing : théorisation des fonctions calculables par machine,Kurt Gödel : théorème d’incomplétude (1931).

17

L’époque des systèmes experts (1970-1980)

Les systèmes experts apparaissent au début des années 1970 et sedéveloppent jusqu’à la fin des années 1980 :

DENDRAL en chimie, MYCIN en médecine, Hersay II encompréhension de la parole, Prospector en géologie.

Apparaissent également les premiers générateurs de systèmesExperts : NEXPERT System, CLIPS, …

Les langages de programmation pour l’IA

LISP (usa), PROLOG (France - Colmerauer), SmallTalk (langage objet), YAFOOL et KL-ONE (langages de Frame),langages de logique de description.

18

Dès 1970, apparaît le concept de Réseaux sémantiques

19

Les années 1980 : La période des espoirs déçus de l’IA

Recul de l’approche symbolique de l’IA : Après des espoirs déçus : en particulier avec l’échec de lagénéralisation de la théorie des micromondes et le constat dumanque de souplesse des systèmes experts (on parlerait aujourd’huide manque d’agilité). Ils ont pourtant enregistré des succès dans desdomaines bien spécifiques en particulier en informatique de gestion.

Renaissance de l’approche connexionniste :- Systèmes multi-agents, concept de « vie artificielle »,- Hopfield, mémoire autoassociative, 1982 - Rumelhart & McClelland, Parallel Distributed Processes, MIT Press,1985- Réseaux de neurones artficiel (RNA)

20

Les défis actuels de l’IA

- Attente d’une IA généraliste (?), autonome (?), auto-apprenante- Elle doit devenir performante et adaptative sur des situations dynamiques, changeantes, singulières. - Elle doit être capable d’assister l’apprentissage humain.- Elle doit être en mesure de gérer des dialogues entre « agents » très hétérogènes.

Pour cela, il faut traiter la cognition comme une émergence dans l’interaction avec l’environnement.

Ceci implique la conception d’une nouvelle génération de systèmes informatiques qui vont privilégier une cognition située, distribuée, émergente (prolifération d’agents intelligents et auto-apprentissage).

21

L’agent intelligent comme concept fondamental de l’IA

- Le terme « action » est à comprendre au sens large. Cela peutsignifier « fournir un diagnostic ». - La boucle systémique Agent/Environnement n’est pasnécessairement fermée.

?

senseurs

"actionneurs "

AGENT

perception

ENV

IRO

NN

EMEN

T

"action"Source – Mines ParisTech

22

Définition de l’apprentissage artificiel :« Capacité d’un système à améliorer ses performancesvia des interactions avec son environnement » .

Spécificité de l’apprentissage :Conception et adaptation de l’agent « intelligent » par analyse automatisée (statistique) de son environnement et de son action dans cet environnement.

Exemple typique d’apprentissage artificiel :L’agent « prédicteur »

23

Historique

Donnéesexternes

PrédictionAGENTPREDICTEUR

Modèle de l’agent prédicteur

Performance espérée : minimiser l’erreur de prédictionMéthode : utiliser des données expérimentales pour déterminer le modèle le plus correct du type :

Prédiction = F ( historique, données externes )

Source – Mines ParisTech

24

Un système d’apprentissage est en général composé :

- d’un modèle paramétrique,

- d’une façon d’interagir avec l’environnement,

- d’une « fonction de coût » à minimiser,

- d’un algorithme destiné à adapter le modèle, en utilisant les données issues de l’environnement, avec l’objectif d’optimiser la fonction de coût

25

Le modèle mathématique d'un neurone artificiel

Entrées duneurone

Poids duneurone

26

La phase d'apprentissage d'un réseau de neurones se décompose en cinq étapes :

Etape 1 - Présenter au réseau un couple entrée-cible.Etape 2 - Calculer les prévisions du réseau pour les cibles.Etape 3 - Utiliser la fonction d'erreur pour calculer la différence entre les prévisions (sorties) du réseau et les valeurs cible. Reprendre les étapes 1 et 2 jusqu'à ce que tous les couples entrée-cible aient été présentés au réseau. Etape 4 - Utiliser l'algorithme d'apprentissage afin d'ajuster les poids du réseau de telle sorte qu'il produise de meilleures prévisions à chaque couple entrée-cible. Remarque : les étapes 1 à 5 constituent un seul cycle d'apprentissage ou itération. Le nombre de cycles nécessaire pour entraîner un modèle de réseaux de neurones n'est pas connu a priori mais peut être défini dans le cadre du processus d'apprentissage.Etape 5 - Répéter à nouveau les étapes 1 à 5 pendant un certain nombre de cycles d'apprentissage ou d'itérations jusqu'à ce que le réseau commence à produire des résultats suffisamment fiables (c'est-à-dire des sorties qui se trouvent assez proches des cibles compte tenu des valeurs d'entrée). Un processus d'apprentissage type pour les réseaux de neurones est constitué de plusieurs centaines de cycles.

27

Les réseaux de neurones sont performants dans les tâches suivantes :

Traitement du signal, Maîtrise des processus,

Robotique,Classification,

Pré-traitement des données Reconnaissance de formes,

Analyse de l'image et synthèse vocale, Diagnostics et suivi médical,

Marché boursier et prévisions, Demande de crédits ou de prêts immobiliers.

28

Deep Learning et Réseaux de Neurones

On enregistre les premiers succès du Deep Learning (apprentissage profond) en 2006. Les réseaux de neurones accompagnent les avancées du Deep Learning .

Ces réseaux sont multicouches. Ils effectuent une série de traitements hiérarchisés dans le but de classer des objets en catégories, sans critères prédéfinis. Il s'agit d'un apprentissage non supervisé.

Google, Facebook, IBM les utilisent partout aujourd’hui…

29

3 -Lorsque l’IA surpasse

l’homme en 2016

En 2016, l’Intelligence Artificielle a surpassé l’homme dans plusieurs domaines.

Ces domaines étaient jusque là réservés à la seule expertise humaine.

Robot chirurgien autonome STAR (Smart Tissue Autonomous Robot)

Pour la première fois, un robot chirurgien a opéré de manière totalement autonome . Il est intervenu pour recoudre deux parties d’un intestin de cochon.

Les chercheurs responsables de ce programme ont publié leurs résultats en mai 2016 dans la revue Translational Medecine.

Le robot autonome a opéré avec plus de précision et d’habileté que les chirurgiens humains et que les robots pilotés manuellement par l’homme sur le même type d’intervention.

Des technologies d’imagerie intelligente et des marqueurs fluorescents ont permis au robot de s’adapter aux tissus mous et de réaliser des sutures et des connexions optimales.

La phase de test va se poursuivre durant deux ans avant une intervention humaine.

Le « nouveau Rembrandt » peint par une Intelligence Artificielle

Le 5 avril 2016, un nouveau Rembrandt a été dévoilé…Ce tableau « à la manière de Rembrandt » a été entièrement réalisé par une IA créée par Microsoft, la banque ING, l’Université de Delft et deux musées néerlandais .

L’IA a d’abord analysé des centaines de tableaux de Rembrandt puis a déterminé les caractéristiques dominantes du Maître. Elle a ensuite piloté une imprimante 3D pour réaliser cette œuvre inédite en respectant parfaitement le style de Rembrandt.

Le champion Sud Coréen Lee Sedol affrontant l’IA AlphaGo au jeu de GO en 2016

En 2016, AlphaGo, l’intelligence artificielle développée par Google DeepMind a battu à 4 reprises le champion du monde de jeu de Go, Lee Sedol (5 manches à 0 en janvier contre le champion européen et 4 manches à une en mars contre Lee Sedol).

Avec ses 10 puissance 600 combinaisons possibles, le jeu de Go reste beaucoup plus complexe que le jeu d’échecs.

AlphaGo a utilisé les techniques du Deep Learning pour réaliser cet exploit.

Robot antiterroriste équipant la ville de Dallas

En juillet 2016, à Dallas, un individu armé s’est retranché pendant des heures dans un bâtiment après abattu tué cinq policiers.

La police a finalement utilisé le robot d’intervention Northrop Grumman Andros, conçu initialement pour les équipes de déminage.Il a été équipé d’une bombe puis dirigé vers le tireur qui a été ainsi neutralisé par l’explosion.

4 -La course à l’IA est lancée

La Course à l’IA

La Course à l’IA

La Course à l’IA

La Course à l’IA Google, IBM, Twitter, Intel, Apple, Yahoo, Salesforce, Samsung, sont en concurrence depuis 2011 pour racheter les startups d’IA les plus innovantes.

Depuis 2011, 140 startups et entreprises travaillant dans le secteur de l’intelligence artificielle avancée ont été rachetées , dont 40 acquisitions en 2016 !

Les leaders de la recherche en Machine Learning

La Chine et les Etats-Unis sont leaders dans la recherche en Machine Learning / Deep Learning.

La Chine vient de prendre la tête du classement des pays en terme de publications de recherche en Machine Learning / Deep Learning et des citations de ces articles.

Barack Obama a fait plusieurs interventions rappelant l’importance stratégique de l’IA dans la future croissance américaine. Plusieurs études prospectives sur l’IA ont été lancées par son gouvernement.

https://www.whitehouse.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/national_ai_rd_strategic_plan.pdf

5 - L’Intelligence Artificiellesur le champ de bataille

Du côté américain

La robotisation du champ de bataille touche aujourd’hui toutes les armées, petites et grandes.

Les américains sont les leaders dans le domaine des drones d’observation et de combat. Ils ont d’ailleurs fondé leur doctrine de lutte contre le terrorisme sur l’utilisation de ces drones en Afghanistan, dans les zones tribales du Pakistan, en Irak, en Libye, au Mali et au Nord Cameroun.

Prédator tirant un missile Hellfire

Defense Advanced Research Projects Agency

La Darpa et l’US Navy viennent de lancer très officiellement le SeaHunter, un navire autonome dépourvu d’équipage humain, dédié à la lutte anti-sous-marine. Long d’une quarantaine de mètres, le Sea Hunter est capable d’évoluer en autonomie durant plusieurs mois sur des milliers de kilomètres.

Issu d’un programme Darpa, il débute aujourd’hui une phase de tests qui s’étalera sur deux ans. Sea Hunter n’est pas « télécommandé » par un opérateur agissant depuis un poste de commandement mais dispose d’une réelle autonomie, une fois sa mission initiale définie.

Il est capable en particulier de réaliser toutes les manœuvres usuelles d’un navire de cette taille sans intervention humaine et sait reconnaître et respecter les règles de navigations internationales.

La Darpa annonce un coût de développement à hauteur de 20 millions de dollars qui sera très largement compensé par les économies de fonctionnement qu’il va engendrer.

En effet, le coût de fonctionnement journalier de Sea Hunter se situe entre 15 000 et 20 000 dollars, ce qui est bien meilleur marché que celui d’un navire équivalent doté d’un équipage humain…

Sea Hunter est donc la Google Car des mers qui pourrait bien uberiser le marché des navires de surveillance et de lutte anti-sous-marine.

Comme le proclament la Darpa et l’US Navy, il s’agit d’une révolution technologique et stratégique qui « disrupte » totalement le marché.

L’intelligence artificielle qui fait baisser les coûts de fonctionnement

L’Intelligence Artificielle (IA) agit comme le levier principal pour faire baisser le coût de fonctionnement journalier des systèmes en les rendant autonomes (et en détruisant au passage les emplois de l’équipage). On retrouve ce couple (IA, baisse du coût de fonctionnement par autonomisation) dans tous les autres contextes de développement de systèmes armés autonomes :

Les robots sentinelles Samsung SGRA1 déployés le long de la frontière entre les deux Corée induisent des économies réalisées sur les effectifs des personnels positionnés sur la frontière.Un seul robot démineur russe dérivé des unités robotisées Platform-M est aujourd’hui capable de remplacer l’action de 15 à 20 démineurs humains, avec un taux de détection dépassant les 95 %.

Les robots sentinelles russes MRK-27-BT sont déployés autour des camions porteurs de missiles stratégiques Topol depuis le début de l’année, révolutionnant l’activité de sécurisation d’une zone militaire hautement sensible.

Dans chaque situation, l’IA remplace l’action d’un groupe d’opérateurs humains avec un gain de productivité important : pas de congé maladie, pas de jours fériés, pas de contestation salariale, pas de fatigue ou de baisse de vigilance durant le service, et dans les cas extrêmes, une économie de sang durant l’attaque.

Du côté de la Fédération de Russie…

Les systèmes d'armes semi-autonomes et autonomes seront largement employés par les troupes russes d'ici 2018. Ils devraient représenter plus de 30 % de l'ensemble du matériel mis en service d'ici 2025.

Le Général Valeri Guérassimov, chef d’État-major des forces armées de la Fédération de Russie et vice-ministre russe de la Défense vient de déclarer que son pays cherche à développer des unités de combat robotisées capables d'intervenir sur toutes les zones de crises.

L’Unité de combat robotisée Platform-M

Robot sentinelle russe Volk-2

Robot démineur russe Ouran-6

Robot russe ArgoPoids : environ 1000 kg ; dimensions : longeur 3,4m ; largeur 1m ; hauteur 1,65m

Vitesse de déplacement 20km ; durée opérationnelle : 20 heures ; Armement : mitrailleuse, grenade anti-char RPG26, grenades RSG2

Robot tireur russe Strelok

Char russe T14 ArmataA tourelle automatisée – vers une « dronification » du T14

En Corée du Sud

A la frontière des deux Corées : SGR A1 développé par Samsung

Du côté israélien

DOGO, le robot antiterroriste

La société israélienne General Robotics développe son robot portable Dogo, armé d'un pistolet GLOCK 26, calibre 9mm. Il s'agit de la première machine compacte du monde équipée de ses propres armes. L'engin ne pèse que 12 kg.

Selon la société General Robotics, le robot peut être utilisé en combat rapproché, ainsi que pour des opérations antiterroristes. Dogo peut également être équipé de spray au poivre et de gaz paralysants.

L’appareil est équipé d’un système de transmission d’informations audio et vidéo ancré à son panneau de commande, ainsi que d’un système de détection d’obstacles. Par exemple, à l’approche d’un escalier, il passe automatiquement en mode optimal en soulevant ses roues sans qu’il y ait besoin de commandes supplémentaires.

Selon la description qu’en fait General Robotics, Dogo est un «chien de garde », d’où son nom, inspiré par le dogue argentin, un chien connu pour être rusé, courageux et dominateur.

Dogo a une autonomie d’environ quatre heures et dispose d’un système de surveillance composé de 8 caméras à haute résolution qui offrent une visibilité à 360 degrés.

6 - Le soldat augmenté

Rapide et inéluctable, la robotisation du champ de bataille est en marche, sur terre, dans les airs comme en mer. Elle oblige désormais les stratèges à repenser les doctrines militaires et les règles d’engagement au combat pour les adapter à un art de la guerre où l’autonomie des systèmes devient prépondérante. Américains, Russes et Chinois ont choisi de robotiser et de rendre semi-autonome puis autonome une grande partie de leurs systèmes d’armes. On peut parier que les nations qui n’entreront pas dans la course à l’IA dans ce domaine sacrifieront du même coup leur potentiel de défense et leurs capacités opérationnelles. Le fossé technologique sera alors semblable à celui opposant une armée féodale à une armée du vingtième siècle. Les vrais enjeux de sécurité et de société se situent aujourd’hui dans cette course à l’IA de défense qui peut provoquer des déséquilibres géostratégiques irrattrapables…

La « dronification » et la robotisation font évoluer les systèmes d’armes vers la semi-autonomie puis vers l’autonomie.

Cette évolution pose des questions à la fois éthiques et stratégiques.

L’intelligence artificielle occupe désormais un rôle central dans la révolution de l’armement moderne. Elle participe à la projection du combat sur l’espace numérique.

Le problème du contrôle du système d’arme, transféré sur le cyberespace, nous interroge à nouveau sur les risques de hacking et de détournement.

Les défis technologiques et les enjeux stratégiques ne doivent pas être sous-estimés… Ils engagent notre sécurité.

http://cyberland.centerblog.net/http://echoradar.eu/

http://www.chaire-cyber.fr/87