intelligence artificielle - juridique - le point du liege science park - 31 mars 2017

Intelligence artificielle : opportunités et risques juridiques associés

Michaël Zadworny et Louis Lantonnois - Avocats

NAUTADUTILH

31-03-2017

L'Interface vous donne rendez-vous chaque mois au LIEGE science park, pour faire le point,

avec un conseiller en innovation, sur une mesure en lien avec vos préoccupations.

Une initiative de

International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam

IA: opportunités et risques juridiques

associés Michaël Zadworny & Louis Lantonnois


Les points présentés aujourd’hui

- Définition & Evolution

- Challenges légaux

- Questions éthiques

- Opportunités

3


Définition & Evolution

- Intelligence artificielle (“IA”): “La recherche de moyens

susceptibles de doter les systèmes informatiques de capacités

intellectuelles comparables à celle des humains” (Dictionnaire

du Centre National de Ressources Textuelles et Lexicales du

CNRS).

4



- Robot (1920, du tchécoslovaque Robota, signifiant travail,

esclave): “Une machine intelligente capable de prendre des

décisions de manière libre, interagissant avec son

environnement, dotée de mobilité, agissant en coopération

avec les hommes et dotée d’une capacité d’apprentissage.”

(Jérémy Bensoussan et Alain Bensoussan, Droit des robots,

Larcier, 2017)

Karel Čapek

5



- Test de Turing (Imitation Game): ce test est réussi lorsque,

dans plus de 30% des cas, l’opérateur humain chargé de poser

des questions à des interlocuteurs ne se trouvant pas dans son

champ de vision n’est pas en mesure de distinguer, au regard

des réponses qui lui sont données, l’humain de la machine.

(A.M. Turing 1950, “Computing machinery and intelligence”,

Mind, 49: pp. 433-460)

Alan Turing

6



- 1950: établissement du test de Turing.

- 1973: création de Wabot-1, premier robot humanoïde à marche

bipède (Université Waseda, Japon).

7



- 1997: Deep Blue (IBM) l’emporte face à Garry Kasparov aux

échecs (10120 parties différentes possibles).

8

https://www.google.be/url?sa=i&rct=j&q=&esrc=s&source=images&cd=&cad=rja&uact=8&ved=0ahUKEwj33oLPpfbSAhUGnBoKHXgXA9IQjRwIBw&url=https://cocktailcalendar.wordpress.com/category/vodka-cocktails/page/3/&bvm=bv.150729734,d.d2s&psig=AFQjCNHEU-HamJqiYvgwc3hitP8F6QELGg&ust=1490690649597807



- 2000: création de Advanced Step In MObility de Honda

Robotics.

9



- 2006: création de Nao par Aldebaran Robotics.

10



- 2011: le programme d’IA Watson (IBM) remporte un jeu

télévisé de questions-réponses en langage naturel.

- 2012: l’algorithme Deep Learning (Google) reconnaît des chats

parmi 10 millions d’images (se basant sur des vidéos postées

sur Youtube).

11

http://www.google.be/url?sa=i&rct=j&q=&esrc=s&source=images&cd=&cad=rja&uact=8&ved=0ahUKEwj9yuf6p_bSAhXMvRoKHaLwCs8QjRwIBw&url=http://1funny.com/cat-in-a-bowl/&bvm=bv.150729734,d.d2s&psig=AFQjCNGovkmhG5NWZE3Q19DCqlfQF17YEw&ust=1490691289253344



- 2014: le programme d’IA Eugène Gootsman réussit le test de

Turing en parvenant à convaincre 33% des juges qu’il est un

être humain sur une conversation de 5 minutes mais… ce bot

conversationnel a été présenté au jury comme un enfant de 13

ans dont l’anglais n’est pas la langue maternelle…

- 2016: l’algorithme Deep Mind (Google) l’emporte face à Lee

Sedol au jeu de Go (10600 parties différentes possibles).

12

http://www.google.be/url?sa=i&rct=j&q=&esrc=s&source=images&cd=&cad=rja&uact=8&ved=0ahUKEwjt6MXUqvbSAhUDChoKHRhvANgQjRwIBw&url=http://blogs.discovermagazine.com/crux/2016/01/27/artificial-intelligence-go-game/&psig=AFQjCNEUiHcyN60gLRBZRfVURjc4vFigig&ust=1490692017893916


Challenges légaux - Législation

- L’approche légaliste / téléologique: est-ce que les lois actuelles

couvrent l’IA et les robots? Peut-on étendre la personnalité

juridique aux robots?

“Vs.”

- L’approche technologique / anthropologique: est-ce que l’IA et

les robots génèrent des problèmes qui méritent d’être réglés

par des lois? Faisons un test de Turing afin de déterminer si la

personnalité juridique doit être octroyée à un robot.

13



- La résolution du Parlement européen du 16 février 2017

contenant des recommandations à la Commission concernant

des règles de droit civil sur la robotique (2015/2103(INL)) est

un mix entre les deux approches et se base sur les lois d’Isaac

Asimov.

- Cette résolution ne contient pas beaucoup d’informations

pertinentes et est peu claire quant à certains aspects. Ainsi, par

exemple, elle indique qu’il convient de ne pas imputer sur les

humains la responsabilité des actes des robots autonomes

mais elle prône une assurance obligatoire pour les utilisateurs

de ces robots.

14



Une très forte réglementation Une absence de réglementation

Ne stimule pas l’innovation (Red Flag

Act, OGM, bitcoin, drônes)

Incertitude juridique et manque

d’investissement

Protège davantage le consommateur Cantonnement des fabricants à des

risques limités et calculables

Peut également ne pas stimuler

l’innovation

Moins protecteur du consommateur

15



- L’influence des lobbies (fabricants de bougies, assureurs).

- Le paradoxe de Collingridge: le législateur doit attendre que la

technologie soit développée avant de légiférer mais il ne peut

pas non plus agir trop tard (ex. biotech).

Trouver le juste milieu entre trop ou pas suffisamment de

règles et agir ni trop tôt ni trop tard.

Agir ex post lorsque les IA / robots produisent des

externalités limitées et ex ante lorsqu’ils produisent des

externalités systémiques ou existentielles afin d’éviter le

paradigme de Collingridge.

16


Challenges légaux - Personnalité

juridique

- La personnalité juridique est l’aptitude à être titulaire de droits

et de devoirs: conclure des contrats, attaquer ou défendre en

justice, être propriétaire, payer des impôts, etc.

- La personnalité juridique est octroyée aux êtres humains et

aux personnes morales.

- Les animaux bénéficient d’une protection pénale et civile

(indirecte) mais pas de la personnalité juridique: c’est toujours

l’homme qui agit en son nom et pour l’animal.

17


Challenges légaux - Personnalité

juridique

- La personnalité juridique n’est pas (encore) octroyée aux

robots mais…

- Résolution du Parlement européen: demande à la Commission

d’envisager toutes les hypothèses juridiques, telles que la

création, à terme, d’une personnalité juridique spécifique aux

robots, pour qu’au moins les robots autonomes les plus

sophistiqués puissent être considérés comme des personnes

électroniques responsables, tenues de réparer tout dommage

causé à un tiers; il serait envisageable de conférer la

personnalité électronique à tout robot qui prend des décisions

autonomes ou qui interagit de manière indépendante avec des

tiers.

18


Challenges légaux - Responsabilité

- Qui est responsable des dommages?

* La personne les ayant causés (art. 1382 C. Civ.);

* Le tiers responsable de la personne/chose les ayant causés

(parents–enfants mineurs/maître–domestique/instituteurs–

élèves/artisans–apprentis, propriétaire–objet) (art. 1384 C.Civ.); ou

* Le fabricant du produit défectueux (génère un dommage imprévu

dans le cadre d’un usage normal, pas besoin de faute, loi du 25

février 1991).

- Comment peut-on appliquer cela à l’IA et aux robots?

19


Challenges légaux - Responsabilité

- Lorsque le robot sera vendu en open source, la personne

responsable devrait, en principe, être celle qui aura élaboré

l’application du robot lui ayant permis d’occasionner un

dommage.

- Lorsque le robot aura causé un dommage qui trouvera son

origine dans la conception ou la fabrication du robot, le

concepteur ou le fabricant devrait être considéré comme

responsable.

- Lorsque le robot aura causé un dommage qui trouvera son

origine dans l’usage ou la période d’apprentissage du robot, il

faudrait considérer que son utilisateur ou son propriétaire (pro

ou non / victime ou non) devrait être désigné comme

responsable.

- Location / robots autonomes – non autonomes / au pénal?

20


Challenges légaux - IP

- Le droit d’auteur: œuvres littéraires et artistiques si elles sont

mises en forme et peuvent être considérées comme originales

(une création intellectuelle de l’auteur reflétant la personnalité

de ce dernier et se manifestant par les choix libres et créatifs

de celui-ci).

- Le droit des dessins et modèles: l'apparence d'un produit,

lorsqu’elle est nouvelle.

- Le droit sur les bases de données: bases de données qui

sont le résultat d’un investissement qualitativement ou

quantitativement substantiel.

21



- Le droit des brevets: invention technique nouvelle qui apporte

une solution technique à un problème technique, susceptible

d’application industrielle et licite.

- Le droit des marques protège les signes susceptibles d'une

représentation graphique servant à distinguer les produits ou

services d'une entreprise.

22



- Un robot peut faire l’objet de plusieurs protections: droit

d’auteur, droit de modèle et brevet.

- Quid de l’œuvre du robot lui-même?

https://www.youtube.com/watch?v=LSHZ_b05W7o

* Droit d’auteur : le robot a t-il une personnalité juridique? Fait-il des

choix libres et créatifs? (U.S.A.: pas de protection accordée à un

selfie réalisé par un singe).

* Bases de données: le robot est-il le producteur, “la personne qui

prend l'initiative et le risque des investissements correspondants”?

* Brevet : quelque chose d’inventif pour un humain pourrait devenir

totalement basique pour un robot.

23





Questions éthiques - notions de base

- Lois d’Asimov (1950):

* “Un robot ne peut porter atteinte à un être humain ni, restant passif,

permettre qu’un être humain soit exposé au danger.”

* “Un robot doit obéir aux ordres que lui donne un être humain, sauf

si de tels ordres entrent en conflit avec la première loi.”

* “Un robot doit protéger son existence tant que cette protection

n’entre pas en conflit avec la première ou la deuxième loi.”

Loi 0: “Nulle machine ne peut porter atteinte à l’humanité ni, restant

passive, laisser l’humanité exposée au danger.”

24


Questions éthiques - notions de base

- Evolution de la “robot-éthique”:

* Lignes directrices du projet “Robolaw” (financé par l’UE)

* Les préconisations de la Commission de réflexion sur l’Ethique de

la Recherche en sciences et technologies du numérique d’Allistène

(CERNA – France)

* Initiatives internationales (Corée du Sud, USA, Japon, etc.)

* Référentiel général d’éthique (national – européen – international)

25


Questions éthiques - emplois

“Pour beaucoup de personnes avoir un emploi donne un sens à

leur vie car cela les rend utiles. Ils peuvent faire une différence.

Que se passe-t-il si ces personnes perdent leur job? Sont-elles

alors inutiles? Il s’agit là de quelque chose qui ne peut pas être

sous-estimé.” (Elon Musk, CEO Tesla Motors)

26

http://www.google.be/url?sa=i&rct=j&q=&esrc=s&source=images&cd=&cad=rja&uact=8&ved=0ahUKEwjAj5r92vbSAhVE2RoKHU3mC8wQjRwIBw&url=http://www.car-brand-names.com/tesla-logo/&bvm=bv.150729734,d.d2s&psig=AFQjCNEjQdlvH9abFKHMyz5OqwKNss5sIQ&ust=1490704981231121


Questions éthiques - fiscalité

- Les robots devraient-ils être imposés?

- Remplacent des contribuables

- Sont plus productifs

- Peuvent travailler 24h/24

MAIS

- Frein à l’innovation?

- Mise en œuvre?

Emergence d’un revenu universel (“Win for life” – Nele Lijnen (Open

VLD))?

27


Questions éthiques - risques de

discrimination

- Les algorithmes utilisent les données du passé pour établir des

modèles ou effectuer des prévisions.

- Les algorithmes ne sont pas créatifs.

- Exemple: “Applicant Tracking Systems”.

Correction des algorithmes possible, mais audit des “boîtes

noires” nécessaire.

28


Questions éthiques - le “Trolley

Dilemma”

- Véhicules autonomes

- Que faire lorsque l’accident est inévitable? Le “Trolley

Dilemma”

29


Questions éthiques - le “Trolley

Dilemma”

- Les chaînes de production et la fabrication du trombone parfait

30


Questions éthiques - le surhomme

- Utilisation des technologies réparatrices:

* Assistance au travail pénible

* Aide aux personnes souffrant de défaillances physiques

- MAIS restriction des technologies augmentatives:

* Courant transhumaniste

* Empêcher que certaines personnes puissent bénéficier de qualités

physiques / mentales supérieures aux capacités humaines

* Risque de concurrence entre les employés

31


Questions éthiques - armement

autonome

- Distinction entre armement autonome et semi-autonome:

* Semi-autonome: une partie des décisions subsiste chez l’humain,

* Autonome: une fois activée, l’arme sélectionne seule ses cibles et,

le cas échéant, attaque.

- Levée de boucliers importante de la société civile, du monde

scientifique et de nombreuses ONG.

Demande d’une interdiction préventive de robots-soldats

autonomes.

32


Quelques opportunités…

- “Infrastructures” d’intégration de l’IA

- Mise en place d’infrastructures d’intégration

- Optimisation des interactions robot-humain et robot-robot

- Amélioration de la sécurité

- Utilisation des données

- Protection des données:

- Inflation des données disponibles

- Données à caractère personnel moins sauvegardées

- Pierre angulaire de la confiance

33



- Assurances en matière d’IA / robotique

- Multitude de données (futures) disponibles

- Infrastructures adaptées

- Atténuation / disparition de l’erreur humaine (ex. roulage)

- Fintech

- Rapidité / efficacité

- Réduction des coûts

- Accès illimité à l’information

34



- Assistance aux personnes / médecine:

- Augmentation de l’autonomie

- Amélioration des soins

- Réduction des coûts

- Attention à la rupture du lien social

35


Merci pour votre attention !

36


Contacts

Louis Lantonnois Michaël Zadworny

NautaDutilh BVBA/SPRL NautaDutilh BVBA/SPRL

Associate Associate

T: +32 2 566 81 44 T: +32 2 566 81 66

M: +32 499 69 84 63 M: +32 499 69 84 03

E: [email protected] E: [email protected]

37

28 avril 2017, de 8h30 à 10h

General Data Protection Regulation : impact pour les entreprises innovantes Orateur : Centre Recherche Info Droit et Société (CRIDS - UNamur)

19 mai 2017, de 8h30 à 10h

Incitants fiscaux en R&D : état des lieux Orateur : DELOITTE

intelligence artificielle - juridique - le point du liege science park - 31 mars 2017

Technology