12 l’interactivitÉ sensorielle au service de la … chap12.pdf12.2.1 la technologie comme support...

24
12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA CRÉATION ARTISTIQUE CONTEMPORAINE Stéphane Donikian 12.1 INTRODUCTION La création artistique contemporaine se nourrit de plus en plus de l’utilisation des nou- velles technologies et nous assistons en même temps à un décloisonnement des arts classiques. Au sein d’un même spectacle le théâtre peut se mêler à la danse et au cirque, la musique live à des bandes son préenregistrées ou générées par ordinateur et le réel au virtuel. Cet article ne prétend pas présenter une vision exhaustive des interactions entre l’art et les nouvelles technologies, mais quelques exemples seront utilisés pour dresser un panorama d’un certain nombre de technologies et montrer la nécessité d’un rap- prochement des recherches menées par les artistes et les scientifiques. Un artiste peut avoir l’envie ou le besoin de théoriser son activité ou de l’enseigner. Aujourd’hui cette capacité lui est offerte au sein des écoles d’Arts ou au sein des départements artistiques des Universités. Par contre où peut-il aller s’il veut se confronter aux nouvelles techno- logies et interagir avec des chercheurs dans ce domaine ? Chercher, travailler ou expé- rimenter la création dans le domaine de l’art numérique 1 requiert des moyens matériels conséquents, qui ne sont pas souvent à la portée aujourd’hui des artistes et qui existent peu dans des lieux qui leurs soient ouverts. Dans le cas où il s’agit d’oeuvres purement numériques appelées aussi installations électroniques, il n’existe pas non plus beaucoup de structures de diffusion adaptées et ces oeuvres sont cantonnées à être présentées dans quelques festivals et musées. P. Bongiovanni disait en 1999 [Bongiovanni, 1999] que les arts hybrides électroniques étaient sourds, muets et aveugles car sans critique, sans producteur et sans public, cette situation n’a malheureusement pas évolué depuis. La différence entre les médias traditionnels et la réalité virtuelle est principalement le fait que l’utilisateur, dans le premier cas, est spectateur de l’univers qui lui est présenté, tandis que, dans le second cas, il se retrouve immergé à l’intérieur de cet univers (cf figure 12.1). Toutes les oeuvres dites installations électroniques rentrent dans ce champ. Par contre, dans le spectacle vivant contemporain, il faut rajouter une dimension sup- plémentaire, car le spectateur n’est pas interacteur mais spectateur d’une interaction entre deux univers réel et virtuel qui se juxtaposent et dialoguent sous ses yeux. Au- tant la capture des actions de l’utilisateur et la restitution multi-sensorielle peuvent être riches car bénéficiant de l’avancée des technologies dans les domaines de la réalité vir- tuelle ou du jeu vidéo, autant le dialogue entre les univers est aujourd’hui très limité par manque de langages supports à ce dialogue qui soient à la fois riches, pluri-artistiques et ouverts. Ce pluriel est employé pour le terme langage car il n’y a aucun sens à vouloir normaliser un langage universel. Il suffit de voir le domaine de la chorégraphie dans lequel chacun se crée son langage à partir de sa propre ontologie et où, par exemple, la notation de Laban [Laban, 1966] n’est que peu utilisée. D’autre part, l’art numérique se nourrit d’un dialogue d’un autre genre et pas toujours simple entre artistes et scien- tifiques sur la conception des outils, matériels et logiciels, d’aide à ce type de création artistique. C’est ce propos qui va être développé et illustré par des exemples, tout au 1 Ce terme englobe ici toutes les oeuvres artistiques se servant partiellement ou complètement pour leur création des nouvelles technologies.

Upload: others

Post on 21-Jul-2020

2 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LACRÉATION ARTISTIQUE CONTEMPORAINE

Stéphane Donikian

12.1 INTRODUCTION

La création artistique contemporaine se nourrit de plus en plus de l’utilisation des nou-velles technologies et nous assistons en même temps à un décloisonnement des artsclassiques. Au sein d’un même spectacle le théâtre peut se mêler à la danse et au cirque,la musiquelive à des bandes son préenregistrées ou générées par ordinateuret le réel auvirtuel. Cet article ne prétend pas présenter une vision exhaustive des interactions entrel’art et les nouvelles technologies, mais quelques exemples seront utilisés pour dresserun panorama d’un certain nombre de technologies et montrer la nécessité d’un rap-prochement des recherches menées par les artistes et les scientifiques. Un artiste peutavoir l’envie ou le besoin de théoriser son activité ou de l’enseigner. Aujourd’hui cettecapacité lui est offerte au sein des écoles d’Arts ou au sein des départements artistiquesdes Universités. Par contre où peut-il aller s’il veut se confronter aux nouvelles techno-logies et interagir avec des chercheurs dans ce domaine ? Chercher, travailler ou expé-rimenter la création dans le domaine de l’artnumérique1 requiert des moyens matérielsconséquents, qui ne sont pas souvent à la portée aujourd’huides artistes et qui existentpeu dans des lieux qui leurs soient ouverts. Dans le cas où il s’agit d’œuvres purementnumériques appelées aussi installations électroniques, il n’existe pas non plus beaucoupde structures de diffusion adaptées et ces œuvres sont cantonnées à être présentées dansquelques festivals et musées. P. Bongiovanni disait en 1999[Bongiovanni, 1999] queles arts hybrides électroniques étaient sourds, muets et aveugles car sans critique, sansproducteur et sans public, cette situation n’a malheureusement pas évolué depuis.

La différence entre les médias traditionnels et la réalité virtuelle est principalement lefait que l’utilisateur, dans le premier cas, est spectateurde l’univers qui lui est présenté,tandis que, dans le second cas, il se retrouve immergé à l’intérieur de cet univers (cffigure 12.1). Toutes les œuvres dites installations électroniques rentrent dans ce champ.Par contre, dans le spectacle vivant contemporain, il faut rajouter une dimension sup-plémentaire, car le spectateur n’est pas interacteur mais spectateur d’une interactionentre deux univers réel et virtuel qui se juxtaposent et dialoguent sous ses yeux. Au-tant la capture des actions de l’utilisateur et la restitution multi-sensorielle peuvent êtreriches car bénéficiant de l’avancée des technologies dans les domaines de la réalité vir-tuelle ou du jeu vidéo, autant le dialogue entre les univers est aujourd’hui très limité parmanque de langages supports à ce dialogue qui soient à la foisriches, pluri-artistiqueset ouverts. Ce pluriel est employé pour le terme langage car il n’y a aucun sens à vouloirnormaliser un langage universel. Il suffit de voir le domainede la chorégraphie danslequel chacun se crée son langage à partir de sa propre ontologie et où, par exemple, lanotation de Laban [Laban, 1966] n’est que peu utilisée. D’autre part, l’art numériquese nourrit d’un dialogue d’un autre genre et pas toujours simple entre artistes et scien-tifiques sur la conception des outils, matériels et logiciels, d’aide à ce type de créationartistique. C’est ce propos qui va être développé et illustré par des exemples, tout au

1Ce terme englobe ici toutes les œuvres artistiques se servant partiellement ou complètement pour leurcréation des nouvelles technologies.

Page 2: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

256 Le traité de la réalité virtuelle

long de ce chapitre.

Figure 12.1 : Position du spectateur dans un environnement virtuel immersif ou non.

12.2 DANSE, THÉÂTRE ET NOUVELLES TECHNOLOGIES OU LECORPS CAPTURÉ

12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION

Dans le domaine de la danse, la capture et la restitution des mouvements des danseurssont utilisées depuis un certain nombre d’années pour aiderle chorégraphe dans sonprocessus de création artistique. Initialement nomméCompose, le logicielLife Forms2

d’animation des mouvements humains a été conçu par le laboratoire de Tom Calvertà la Simon Fraser University au Canada [Landis e.a., 1979], sur des bases inspiréesde la notation de Laban [Laban, 1966] sur les mouvements humains. Il est devenu unlogiciel applicatif à la composition chorégraphique et à lanotation de mouvement endanse, suite à la rencontre avec Merce Cunningham en 1990. C’est Thecla Schiphorst[Schiphorst, 1992], ingénieur, membre de l’équipe, qui travailla avec le chorégrapheaméricain sur les premières pièces réalisées avec l’aide decet outil : les phrases choré-graphiques imaginées par Merce Cunningham étaient ensuiteproposées aux danseursqui interprétaient des figures parfois totalement inouïes.Des allers-retours constantss’effectuaient jusqu’à l’élaboration de l’œuvre. Actuellement cet outil est complète-ment intégré au processus artistique du chorégraphe qui a prolongé en 1999 son uti-lisation en la couplant avec la création de danseurs 3D projetés sur scène dans unescénographie de Paul Kaiser et Shelley Eshkar (Biped). Par ailleurs, ces deux artistes-chercheurs ont réalisé tout récemment une installation montrant une capture de mou-vement des mains de Merce Cunningham visualisées par des formes non figurativesjaillissantes sur lesquelles vient s’écouter un commentaire en voix off du chorégrapheparlant de son processus créatif. En 1994 les chorégraphes Nicole et Norbert Corsinoont réalisé avec le logiciel Life Forms et l’appui de Thecla Schiphorst le film Totempol,dont les séquences chorégraphiques mêlaient des danseurs réels et virtuels dans l’ar-chitecture urbaine de Vancouver, relativement à l’altérité gémellaire issue des mythesamérindiens.

2Life Forms est maintenant commercialisé par la société Credo Interactive Inc. : http ://www.credo-interactive.com

Page 3: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

L’interactivité sensorielle au service de la création artistique contemporaine 257

Le Laboratoire d’Applications et de Recherches en Technochorégraphie (LARTech)3

du Département de danse de l’Université du Québec A Montréal(UQAM) a participéau développement du logiciel de traitement de geste LIFEanimation, réalisé par la com-pagnie montréalaise Digits ’n Art4. Le prototype de ce logiciel, dérivé du système decapture et d’édition électronique du mouvement LIFEsource, qui a fait la réputationinternationale de cette compagnie, a été mis au point pour ladanse par les spécialistesde D ’n A en partenariat avec Martine Époque directrice du LARTech, Denis Poulin,chercheur conseil au LARTech, et le Centre de Traitement en Imagerie Virtuelle deMontréal. Ce logiciel propose une banque de mouvements appliqués à deux danseursvirtuels, Mona et Philip, et à un squelette baptisé Ostar, que l’utilisateur peut modifieret animer directement à l’écran par simple déplacement de leurs segments. En 2001,Martine Époque a créé Tabula Rasa (cf figure 12.2), une chorégraphie multimédia de38 minutes dans laquelle se côtoient danseurs réels et virtuels, à l’aide du logiciel detraitement de geste LIFEanimation.

Figure 12.2 : Tabula Rasa, spectacle chorégraphique multimédia de Martine Époque.Musique de Arvo Pärt. Photo de Denis Poulin.

Au cours des années, l’usage initial des danseurs virtuels comme assistance au pro-cessus de création a donné naissance à une hybridation entrele réel et le virtuel, leschorégraphes mêlant à leur spectacle vivant des danseurs virtuels.

12.2.2 LE CORPS COMME MATÉRIAU DE COMPOSITION TEMPS-RÉEL

Le corps a été utilisé comme un matériau permettant la création d’une réalité augmen-tée, c’est à dire qu’il sert dans certains projets artistiques de moteur de la création d’élé-ments numériques visuels et sonores venant compléter la performance des danseurs. Ily a aujourd’hui beaucoup de compagnies de danse qui s’intéressent à la danse interac-tive. Un site web a même été créé pour mettre en réseau ces artistes : http ://art.net/ dtz/.Le projetDanseSpace, développé par Flavia Sparacino au Medialab du MIT5 permetà des danseurs professionnels ou novices de créer un universgraphique et sonore àpartir de la capture non invasive des mouvements de leur propre corps. Le danseur apar exemple un violoncelle dans sa main droite, un vibraphone dans sa main gauche,des percussions à ses pieds. Sa tête est utilisée pour gérer le volume sonore : plus ellese rapproche du sol, plus le volume sera faible. La hauteur des notes des instrumentsdépendra de la hauteur des bras : un bras en l’air générera unenote aigüe pour cetinstrument. Le corps est ainsi complètement instrumentalisé et générateur direct du re-

3http ://www.lartech.uqam.ca4http ://www.dnasoft.com5http ://web.media.mit.edu/ flavia/DanceSpace/DanceSpace.html

Page 4: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

258 Le traité de la réalité virtuelle

tour sonore. La figure 12.3 montre deux mouvements de danse etles trajectoires despositions prises en compte.

Figure 12.3 : DanseSpace, par Flavia Sparacino, 1996, [email protected]

NARVAL est une œuvre réalisée par l’association Mobilis-Immobilis6 qui mèle unedanseuse réelle et un univers virtuel via la capture des mouvements de la danseuseà l’aide de sept capteurs. La danseuse a derrière elle un écran de 8m par 4m dont lecontenu, généré en temps-réel par le logiciel de rendu 3D temps réel AAAseed, mé-lange peintures et environnements de synthèse. Cet universvisuel est accompagné d’ununivers sonore via la création live d’une musique électroacoustique et d’un univers ol-factif via la diffusion d’odeurs associées aux trois environnements traversés. La figure12.4 présente les différents composants du spectacle à la fois d’un point de vue scéno-graphique (croquis de droite) et d’un point de vue technique(schéma de gauche).

Figure 12.4 : Schématique de Narval (copyright Mobilis-Immobilis).

6L’objectif de cette association est d’accueillir des artistes de différentes disciplines (image, cirque, de-sign, musique, arts plastiques, parfum, ...) pour ouvrir lechamp artistique à de nouvelles expérimentations.

Page 5: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

L’interactivité sensorielle au service de la création artistique contemporaine 259

Palindrome7 est une compagnie atypique car réellement transdisciplinaire et pluri-artistique. En effet, la compagnie installée à Nuremberg enAllemagne se compose dechorégraphes et danseurs, d’un compositeur, d’un Dj/infographiste, d’un compositeurde musique interactive et d’un ingénieur informaticien. Lebut affiché de la compagnieconsiste àdévelopper des systèmes assez sophistiqués de communication entre médiaset personnes pour permettre des formes d’interaction à hautniveau artistique. Ils uti-lisent deux types de technologies pour capturer des informations venant du corps desdanseurs : la première concerne la capture des positions (absolues et relatives) et desmouvements des danseurs à partir de plusieurs caméras vidéos et la seconde utilisedes électrodes pour capter les signaux électriques émis parle corps et provenant de lacontraction des muscles du corps. Les électrodes traduisent non pas ce que le danseurveut montrer par sa danse, mais elles révèlent l’expériencephysique qu’il est entrain devivre. Le système EyeCon est utilisé dans des performances interactives pour contrôlerla génération de différents médias (musique, son, photos, film, éclairage) à partir de lacapture du mouvement humain (cf figure 12.5). D’autres logiciels ont été développédans le même but à partir des autres types de capture (électrodes, battements du cœur,contact entre danseurs).

Figure 12.5 : Le logiciel Eyecon (copyright Palindrome IMPG, Frieder Weiss,[email protected]).

EyesWeb8 est un logiciel de capture de mouvement, développé par le laboratoire DISTde l’université de Gênes en Italie [Camurri e.a., 2000]. Ce logiciel diffusé en opensource et qui dispose d’un atelier de programmation graphique est très utilisé pourla création artistique. Du fait de sa capacité à dialoguer avec d’autres logiciels via leprotocole OSC (Open Sound Control), il est utilisé dans un certain nombre d’œuvresdans le domaine des arts de la scène ou pour des application présentées dans des mu-sées. Il est actuellement complètement reconçu et enrichi dans le projet européen ISTTAI-CHI, dans le but de fournir un outil d’écriture d’une structure narrative interactivemultimédia, intitulé Meta-EyesWeb [Camurri e.a., 2004] ayant la capacité de supervi-ser et d’ordonnancer des applications écrites en EyesWeb, permettant ainsi une écriturede la relation au cours du temps de la modalité gestuelle avecles autres modalités.

7http ://www.palindrome.de8http ://www.eyesweb.org

Page 6: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

260 Le traité de la réalité virtuelle

12.2.3 INTERACTION DANSEURS VIRTUELS/UTILISATEUR

D’autres chercheurs intéressés par l’utilisation des nouvelles technologies dans la créa-tion chorégraphique se sont focalisés sur l’interaction entre des danseurs virtuels et unspectateur. C’est le cas notamment des chercheurs du laboratoire ATI de l’universitéParis 8 (Edmond Couchot, Michel Bret, Marie-Hélène Tramus)qui ont été les précur-seurs en France du métissage entre l’art et la technologie dans les formations universi-taires.Corps et graphie, installation interactive numérique projetée sur écran géant, estune œuvre de Marie-Hélène Tramus réalisée avec le logiciel Anyflo de Michel Bret.Le dispositifCorps et Graphiepropose au spectateur de jouer un instant le rôle d’unchorégraphe animant une petite troupe de danseurs. Ce dernier se voit ainsi attribuerla possibilité de créer, en agissant sur plusieurs danseuses synthétiques, une sorte dechorégraphie vivante, évoluant sur une musique de Miles Davis. L’interaction se fait àl’aide d’un clic souris sur une partie du corps de l’un des danseurs. A l’endroit touché,une nouvelle danseuse apparaît,poussantcomme un bourgeon qui éclôt, et exécute,à son tour, une figure de danse tirée au sort parmi une bibliothèque de mouvementscréés au préalable (cf figure 12.6a).Danse avec moiest une œuvre de Michel Bret etMarie-Hélène Tramus. Dans cette œuvre, le spectateur peut interagir avec une danseusevirtuelle à travers un capteur sensoriel qu’il se passe autour de la taille. La danseusene reproduit pas les mouvements du spectateur, mais improvise des mouvements enfonction de ceux du spectateur (cf figure 12.6b).

(a) (b)

Figure 12.6 : (a) Corps et graphie / Marie-Hélène Tramus ; (b)Danse avec moi /Michel Bret et Marie-Hélène Tramus (copyright ATI, université Paris 8).

Nicole et Norbert Corsino ont créé une navigation chorégraphique 3D interactive :To-pologies de l’instant (nr7) contenant des clones danseurs dans une scénographie com-posée de cinq mondes urbains ou désertiques. Les mouvementsde danse ont été acquispar capture de mouvement et sont appliqués aux clones danseurs. Nous avons ici untransfert du corps réel vers le corps virtuel sans adaptation. Le navigateur se déplacegrâce à une manette gyroscopique qui lui permet d’accélérer, d’errer, d’aller à la ren-contre des clones en jouant sur la proximité et l’éloignement, avec la possibilité deralentir le mouvement des danseurs et de certaines structures mobiles. Lorsque l’utili-sateur s’aventure trop près des clones ceux-ci deviennent translucides et disparaissent.

12.2.4 DES ŒUVRES HYBRIDES

PHASE est un système multi-modal pour l’exploration de la musique. C’est le résultatdu projet RIAM éponyme réalisé conjointement par l’IRCAM, le CEA-LIST, et les

Page 7: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

L’interactivité sensorielle au service de la création artistique contemporaine 261

Figure 12.7 : Topologies de l’instant / n+n corsino.

sociétés ONDIM et HAPTION. L’objet du projet PHASE était de concevoir et d’expé-rimenter de nouvelles formes d’interaction multi-sensorielles pour l’exploration et lecontrôle du son et de la musique. Le système d’interaction développé dans ce projet secompose de :

• une interface gestuelle à retour d’effort (Virtuose de la société Haption) ;• un rendu visuel 3D projeté sur grand écran (logiciel Virtools) ;• des programmes de synthèse sonore interactifs développés par l’IRCAM ;• la spatialisation complète du son autour du joueur (logiciel SPAT de l’IRCAM).

Un jeu, avant tout musical, a été réalisé dans le cadre du projet et a été montré au publicdans le cadre d’une exposition temporaire sur le son au Centre Georges Pompidou en2004. Ce jeu s’inspire d’un jeu de poursuite sur la surface d’un disque vinyle, vu avecun énorme grossissement. La tête d’écriture inscrit la musique en gravant un sillon surle disque, tandis que le joueur la poursuit en manipulant la tête de lecture, à l’aidedu bras Virtuose, permettant au joueur detoucherle son, c’est à dire concrètementde ressentir des efforts via le bras manipulateur en fonction du son. Comme le disquetourne, le joueur entend et ressent les vibrations du son à l’endroit où il passe surle disque grâce au bras haptique. Il évite ou percute différents obstacles sonores enessayant de rattraper la tête d’écriture. La musique produitre est un mélange entre cellegénérée par la tête d’écriture et celle produite par le parcours du joueur à l’aide dela tête de lecture. Toutes les sources sonores sont spatialisées, grâce au spatialisateurIrcam, sur huit voix de diffusion. La projection stéréoscopique permet de s’immergerencore d’avantage dans le jeu et d’avoir un meilleur repérage des objets.

WAVES est une œuvre résultant du travail conjoint du compositeur de musique AndreaCera et du chorégraphe Hervé Robbe. L’installation présente des captations vidéo trai-tées dans EyesWeb et utilise des patches Max/MSP qui génèrent les matériaux sonoresà partir de ces captations. A partir de ces matériaux de départ, des fichiers audio pluscomplexes ont été composés et sont également diffusés. L’écriture musicale de l’ins-tallation repose sur le principe d’un dialogue entre danse et musique dans un duo dontla logique de montage exploite les règles de pré-écriture qui sont à la base du projetchorégraphique.

SCHLAG ! est une création de Roland Auzet, d’après Le Tambour de Günter Grass, quia été présentée sous un chapiteau au Jardin des Tuileries dans le cadre du festival Agora

Page 8: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

262 Le traité de la réalité virtuelle

2003. SCHLAG ! met en scène la tribu Otzerath formée de seize créatures (réelles et vir-tuelles) : artistes de cirque, musiciens, marionnette analogique (de taille humaine) ainsiqu’une créature virtuelle Oscar. Utilisant diverses technologies numériques (traitementdu son en temps réel, images de synthèse, captation de mouvement...), Roland Auzetnoue une confrontation en forme de dialogue interactif entre ces dites technologies etles arts les plus traditionnels : le cirque, la musique percussive et les marionnettes. Lespectacle SCHLAG ! est articulé autour de l’interaction entre quatre entités:• les artistes de cirque : les «actants» ;

• les musiciens : 6-7 percussionnistes ;• un personnage virtuel nommé Oscar prenant vie sur des écransvidéo ;

• des éléments sonores électroniques spatialisés.

Deux applications, développées à l’Ircam à partir d’EyesWeb, sont utilisées. La pre-mière permet à Oscar, le héros du spectacle, de suivre des yeux les déplacements decertains personnages. L’autre application est un système de reconnaissance des posi-tions de la main. Ce logiciel analyse la forme des mains des musiciens filmées pardeux caméras. Les informations sont ensuite transmises à unordinateur central, chargéde reconnaître des postures et des positions de mains prédéfinies. Cette reconnaissancedéclenche un nouveau signal, envoyé à un ordinateur chargé de la synthèse et du trai-tement des sons. Oscar, dont la tête apparaît sur six écrans vidéo, réagit et se déplaceen fonction de l’ensemble de ces données. «Les informations de détection fournies parEyesWeb sont utilisées soit à des fin musicales, soit pour fournir à Oscar des donnéessur le monde réel.» explique Emmanuel Flety, ingénieur à l’Ircam. «EyesWeb permetde doter Oscar du sens de la vue. Max lui fournit l’ouïe. Oscarréagit à certaines formes,à certains types de déplacements. Il peut aussi reconnaîtredes formes rythmiques oumélodiques simples.»

Figure 12.8 : Illustration deSCHLAG !

Ahad Yari Rad, étudiant en thèse en Arts Plastiques à l’Université de Rennes 2, a poursujet d’étude l’esthétique de la réalité virtuelle. Il a choisi de développer un musée vir-tuel de la photographie contemporaine et est, pour ce faire,accueilli au sein du projetSIAMES de l’IRISA afin de disposer du plateau technique lui permettant de mener àbien son projet. Le thème du musée porte sur les droits de la femme et de l’enfant. Lesphotographies sont associées par paires : une image en couleur représente une situationagréable de la société idéaliste proposée par la publicité ;l’autre en noir et blanc repré-sente une face cachée de la société réelle, une situation véridique mais dissimulée. Dansle musée, chaque image couleur masque son image noir et blancopposée. L’ambiancedu musée est enrichie par une création sonore adaptée aux photographies et réagissantaux actions de l’utilisateur. Ce musée offre à l’utilisateur la possibilité via une com-mande gestuelle de naviguer dans cet espace (zoom avant/arrière, panoramique latéral

Page 9: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

L’interactivité sensorielle au service de la création artistique contemporaine 263

gauche ou droit) et d’interagir avec des couples d’œuvres photographiques. Les mou-vements de la main permettent d’effacer au fur et à mesure la photographie de premierplan faisant apparaître petit à petit une seconde photographie permettant ainsi un dia-logue entre les deux œuvres, accompagné par l’évolution dynamique de la compositionmusicale.

Figure 12.9 : Le musée virtuel de la photographie contemporaine.

EyesWeb est utilisé pour la commande gestuelle, Max/MSP pour la génération musi-cale temps-réel et OpenMASK pour la gestion de l’interaction avec l’environnementvirtuel. Le protocole OSC (Open Sound Control) est utilisé pour permettre à ces troislogiciels de dialoguer entre eux, chacun d’eux s’exécutantsur une ou plusieurs ma-chines indépendantes (1 PC windows pour Eyesweb, 1 Mac OSX pour le son et troisPC linux pour le rendu visuel sur grand écran). La figure 12.10montre l’architecturelogicielle de l’application. L’analyse d’EyesWeb est envoyée à OpenMASK qui en dé-duit l’animation de la scène 3D et les points de vue adaptés. Selon le comportement del’utilisateur, OpenMASK envoie à Max/MSP des directives pour la sonorisation de lasalle immersive.

Figure 12.10 : Architecture logicielle du musée virtuel de la photographiecontemporaine.

Page 10: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

264 Le traité de la réalité virtuelle

12.2.5 CONCLUSION

Un point commun entre l’ensemble des œuvres hybrides présentées ci-dessus est leprotocole OSC (Open Sound Control). Ce protocole développépar Matt Wright àl’Université de Berkeley aux Etats-Unis permet de faire communiquer ensemble desordinateurs, des synthétiseurs et d’autres périphériquesmultimédia. OSC fonctionnesous la forme d’un mécanisme client/serveur avec de la transmission d’unités de don-nées appelées des paquets. Les données de base pouvant être intégrées (empaquetées)dans un message OSC sont très rudimentaires : entier, réel, chaîne de caractères, es-tampille temporelle. Ce protocole est aujourd’hui intégréau sein d’un certain nombrede logiciels dont EyesWeb, Max/MSP, Pure Data et OpenMASK.

12.3 LA FICTION INTERACTIVE OU LE PARADOXE DE LIER NARRATIONET INTERACTION

12.3.1 INTRODUCTION

Dès lors que l’univers virtuel est narratif, l’immersion dans cet univers n’est pas neutredu tout. Il ne suffit pas comme dans un jeu vidéo classique d’intégrer le spectateur dansl’univers en l’assimilant au personnage principal capablede se mouvoir dans l’universet d’y effectuer un certain nombre d’actions, mais il faut aussi prendre en compte leverbe : endosser le rôle du héros ou d’un des protagonistes d’une histoire permet uneidentification forte du spectateur à son personnage mais nécessite aussi de traiter duproblème complexe de la cohérence entre les envies du spectateur face à celles du scé-nariste et de la cohérence de l’histoire ou de la méta-histoire qu’il a écrite. Pour Glass-ner [Glassner, 2001], cette limite se situe entre le fait d’endosser un rôle et celui departiciper à la création de la fiction : il y a pour lui une frontière ici infranchissable. Demême il pense qu’il est impossible de demander à un utilisateur lambda d’improvisersur la durée d’une œuvre (du fait de la difficulté de ce type d’expérience) ni d’endosserl’un des rôles principaux d’une histoire, du fait de l’implication émotionnelle que celasuppose. Avant d’introduire la fiction interactive, il semble nécessaire de présenter defaçon succincte ce que sont les éléments constituants d’unefiction linéaireclassique9.

12.3.2 STRUCTURE D’UN RÉCIT LINÉAIRE

Le récit est un exposé de faits réels ou imaginaires. Chaque fait peut recouvrir deuxtypes de réalité, l’événement et l’action, qui font toutes deux références à une modifi-cation du cours naturel des choses, en d’autres termes à une transformation. Une actionse caractérise par la présence d’un agent (acteur humain ou anthropomorphe) qui vaprovoquer le changement, tandis qu’un événement va intervenir sous l’effet de causesne découlant pas de l’intervention intentionnelle d’un agent. Il est nécessaire de dis-tinguer les notions de cause et de motif. Dans le cas d’une relation de cause à effet,l’antécédent est logiquement disjoint du conséquent. Le motif, par contre, ne possèdeaucune existence propre et n’est pensable qu’à partir de l’action, puisqu’il s’agit dela ou des raisons qui déterminent ou permettent d’expliquerun acte ou une conduite.

9Le lecteur intéressé par plus de détails et de références bibliographiques peut se référer au chapitre 8 de[Donikian, 2004].

Page 11: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

L’interactivité sensorielle au service de la création artistique contemporaine 265

Le héros d’une histoire est ainsi mû par un motif d’agir afin d’atteindre son but ou saquête.

La description d’une action se présente en général sous la forme d’une séquence d’ac-tions temporellement ordonnées : une action globale est décomposée en une suite demicro-actions. Des lois régissent le déroulement des actions et elles ont trait aux carac-téristiques physiques du monde, mais aussi aux mœurs et usages de la société dans la-quelle se déroule le récit. Pour une société donnée, un certain nombre d’actions peuventêtre décomposées en une succession chronologique d’actions conventionnelles. Ceci apour conséquence, lorsque l’ordre canonique est respecté,de permettre de faire l’éco-nomie de la description exhaustive de l’ensemble des actions : des ellipses sont ainsipossibles au cours du récit. Dans un cadre plus général, l’enchaînement des actions doitsuivre un ordre chronologique, mais doit aussi respecter unenchainement causal : il ya un nécessaire lien de causalité logique entre les faits.

Afin de situer temporellement et géographiquement un récit,un certain nombre de des-criptions doivent être effectuées : description des personnages, des lieux, des objetsvivants ou inertes les peuplant, et enfin du temps de l’histoire. Tout récit se caractérisepar la présence de deux bornes : les situations initiale et finale, entre lesquelles existe unrapport de transformation. Si tout récit possède une structure transformationnelle, toutetransformation entre deux états n’est pas forcément assimilable à un récit. Il est néces-saire d’y adjoindre la notion d’intrigue. Dans [Aristote, 1990], Aristote insiste sur lastructuration en deux versants de l’intrigue tragique. Le nœud détermine tout le dérou-lement de la fable et l’intrigue se réduit aux variations desmotifs principaux introduitspar le nœud. Le schéma narratif canonique se décompose en cinq propositions :

Séquence narrative

Situationinitiale

Noeuddéclencheur

Action ouévaluation

Dénouement ourésolution

Situationfinale

Figure 12.11 : Schéma narratif canonique.

La tension dramatique rend compte des variations, c’est-à-dire des péripéties qui modi-fient l’équilibre ou le déséquilibre de la situation initiale. La tension s’accroît au fur età mesure que le renversement de la situation approche. Néanmoins, il est à noter que sila notion de tension est considérée comme un élément constitutif de l’intrigue, il peutexister des intrigues sans tension dramatique. Le nœud dramatique est un événementqui fait rebondir l’action, qui apporte une pierre à l’édifice quelle que soit sa taille :il conclut ce qui précède et appelle ce qui suit. D’une certaine manière, on peut direqu’une histoire va de nœud dramatique en nœud dramatique. Laplupart du temps, lenœud dramatique est un obstacle pour le protagoniste. Le climax (point culminant pourles anglo-saxons, gradation ascendante pour les dramaturges) est le nœud dramatiquele plus important de l’histoire donc logiquement l’obstacle le plus fort. C’est l’événe-ment final et en général paroxystique, qui apporte une réponse définitive à la questiondramatique. Il est donc naturellement à la fin du deuxième acte. Le climax ne clôturepas seulement le deuxième acte, il doit aussi apporter une réponse aux problématiquesmises en place pendant cet acte. L’incident déclencheur estle second nœud dramatiquedans l’ordre d’importance. C’est celui qui va permettre de déterminer pour le prota-goniste son futur objectif. Il ne se trouve pas nécessairement à la fin du premier acte,

Page 12: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

266 Le traité de la réalité virtuelle

car soit le protagoniste ne fait pas partie de cet événement,soit il peut se passer uncertain temps entre cet événement et la définition de cet objectif. Pour Y. Lavandier[Lavandier, 1997], la structure d’une scène est identique àla structure de l’œuvre engénéral et la majorité des scènes doivent contenir du conflit.

12.3.3 APPROCHE STRUCTURALISTE DU RÉCIT

Un certain nombre de chercheurs se sont intéressés à la structure du récit et ont, pourétayer leur discours, analysé des corpus particuliers. Vladimir Propp [Propp, 1970] aanalysé un corpus de cent contes russes et a proposé une transcription sous formed’une liste de 31 fonctions correspondant aux différentes phases du récit. Un postu-lat de Propp est que l’ensemble de ces fonctions s’enchaînent pour ne former qu’uneseule séquence (considérée comme le schéma idéal du conte russe), même si elles nesont pas toutes présentes dans chaque conte. V. Propp s’est aussi intéressé à la réparti-tion des fonctions entre personnages. Il définit ainsi des sphères d’actions regroupantlogiquement certaines fonctions. Ces sphères correspondent aux personnages qui ac-complissent les fonctions. Claude Brémond [Bremond, 1973]dans son ouvrage inti-tulé la logique du récit s’attaque au postulat de Propp, selon lequel la séquence desfonctions est toujours identique. Il met en cause notammentl’absence de point de vuemultiple : il n’y a qu’un héros et tout est défini selon son point de vue. Selon Bremond,les fonctions se groupent en séquences chronologiques selon un ordre qui échappe àla fantaisie du conteur, mais ces groupes de fonctions sont susceptibles d’agencementsvariés et c’est cette liberté de combinaison qui assure à l’artiste la possibilité d’unecréation originale. C. Brémond définit la structure comme une juxtaposition de sé-quences (dont la structure est figée) qui se superposent, se nouent, s’entrecroisent ouencore s’anastomosent. J. Campbell, dans son ouvrage intitulé Les héros sont éternels[Campbell, 1978], constate que les mêmes histoires ont été racontées sans cesse toutau long de l’histoire de l’humanité, quelle que soit la culture, bien sûr avec des détailset des noms de personnages différents. Il fournit une description, argumentée de nom-breux exemples, des différents éléments constituants des trois phases successives durécit. Ce modèle de l’arc dramatique en trois étapes est celui des films hollywoodiensdepuis des décennies. En regroupant les fonctions définies par Propp selon certainessphères d’action de ceux qui les accomplissent, A.J. Greimas [Greimas, 1966] proposeun schéma actantiel qui valide la place de chaque actant dansle cours du récit :

• Le destinateur est le mandateur qui pousse le héros à agir, celui qui l’envoie en mis-sion ;

• Le sujet (ou héros) est celui qui accomplit l’action, celui qui effectue la quête ;

• L’objet est ce que cherche le sujet ou ce qu’il doit accomplir;

• Le destinataire est le bénéficiaire de l’action du sujet ;

• L’opposant nuit au sujet et l’empêche d’agir ;

• L’adjuvant est la personne (ou l’objet) qui vient en aide au sujet, lui permettant desurmonter les épreuves auxquelles il se trouve confronté.

Un même personnage peut être à la fois sujet et destinataire et une même fonctionpeut être occupée par plusieurs forces agissantes : il y a souvent plusieurs adjuvantset plusieurs opposants. Enfin, une même force agissante peut, au cours du récit, chan-ger de fonction. L’action du récit progresse à travers les configurations des rapports

Page 13: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

L’interactivité sensorielle au service de la création artistique contemporaine 267

de force en présence. A.J. Greimas définit aussi un modèle fonctionnel construit entrois étapes successives : la situation initiale caractérisée par un manque, une trans-formation (épreuves qualifiante, principale et glorifiante) et une situation finale. Dans[Greimas, 1983], A.J. Greimas propose entre autre une théorie des modalités et discutedes statuts sémiotique et narratif des valeurs associées aux objets. A travers les centnouvelles du recueil de Boccace, Tzvetan Todorov [Todorov,1969] se propose de dé-crire les lois du récit, d’en coder les manifestations et de jeter les bases d’une science :la narratologie. Todorov propose de distinguer trois aspects : sémantique, syntaxiqueet verbal. Ceux-ci lui servent à définir trois niveaux d’étude :

• ce que le récit représente ou évoque, les contenus plus ou moins concrets qu’il ap-porte ;

• la combinaison des unités entre elles, les relations qu’elles entretiennent mutuelle-ment ;

• les phrases concrètes par lesquelles on reçoit le récit.

De ces trois aspects, Todorov ne retient comme pertinent pour son étude que le se-cond et traite aussi incidemment de l’aspect sémantique. L’aspect verbal est quant à luicomplètement ignoré. L’unité syntaxique de base est la proposition, qui correspond àun énoncé narratif minimum, du type sujet-prédicat. Cet énoncé narratif désigne uneaction concernant un être humain ou une créature anthropomorphe. Une suite de pro-positions narratives liées entre elles constitue une séquence. Parmi les liens qui peuventainsi unir deux propositions, Todorov distingue :

• la relation logique, ou d’implication qui lie la proposition cause à la proposition effet,et qui se code⇒ ;

• la relation temporelle, qui enregistre une succession dansle temps, et qui se code+ ;

• la relation spatiale de parallélisme, qu’il laisse de coté.

Contrairement à Propp ou Greimas, Todorov ne cherche pas à définir une typologie desagents car, pour lui, tout agent est toujours susceptible dese muer d’un de ces rôles enl’autre. C. Brémond dans son ouvrage, la logique du récit [Bremond, 1973], critiquele modèle de T. Todorov en montrant un certain nombre de limitations, dont l’absencede la prise en compte des moyens d’une action, ce qui fausse laperception du sens durôle des agents. C. Brémond, reprend le principe des séquences de V. Propp, mais lemodifie dans sa signification. Ainsi, chaque séquence devra être décrite par :

• une situation qui ouvre la possibilité d’un comportement oud’un événement ;

• le passage à l’acte (si la possibilité est actualisable) ;

• l’aboutissement de cette action, qui clôt le processus par un succès ou un échec.

Les séquences élémentaires se combinent en séquences complexes selon des configu-rations et des liaisons syntaxiques variées :

• le bout-à-bout ou la succession de deux séquences élémentaires, la clôture de la pre-mière coïncidant avec l’ouverture de la seconde ;

Page 14: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

268 Le traité de la réalité virtuelle

• l’enclave : une séquence élémentaire se développe à l’intérieur d’une autre ;

• l’accolement : deux séquences élémentaires se développentsimultanément, tradui-sant d’ordinaire le fait qu’un même processus matériel, envisagé de deux points devue différents, remplit des fonctions distinctes.

La logique de l’intrigue est pour C. Brémond la première étape obligée d’une ana-lyse structurale du récit. Pour ce faire, il a procédé à l’inventaire systématiquedes rôles narratifs principaux, que l’on retrouve détaillédans la logique du récit[Bremond, 1973]. Dans l’ouvrage intituléSémiotique narrative et textuelle, on trouveun chapitre [van Dijk, 1973] discutant des différents modèles logiques et de leur adé-quation à la modélisation de la structure narrative d’un texte, en portant notammentl’accent sur les grammaires textuelles.

12.3.4 LA FICTION INTERACTIVE

La fiction interactive est une extension de la fiction classique, en ce sens qu’elle sup-pose une participation active du spectateur avec pour objectif d’influencer le dérou-lement de l’histoire. La fiction est, par essence, linéaire.Elle est une progression or-donnée d’événements, dont le mouvement est toujours ordonné vers l’avant, même sides flash-back ou des ellipses sont autorisés. Dans la fictioninteractive, le spectateurest plus immédiatement impliqué que dans les œuvres littéraires, cinématographiques,théâtrales ou chorégraphiques classiques. Il est même actant car il peut influer sur l’évo-lution de l’histoire : il n’y a pas une mais une infinité d’histoires pouvant se déroulersur la base de la trame définie par l’auteur. Cela impose un niveau de complexité sup-plémentaire pour ce dernier, car il doit envisager l’ensemble des hypothèses requisespour qu’une action dramatique se produise et il doit aussi formuler l’impact de celle-ci sur le déroulement de la suite de l’histoire. La fiction interactive peut être regardéecomme un nouveau genre dérivant à la fois du versant interactif (réalité virtuelle, jeuvidéo) et du versant narratif (littérature, cinéma, théâtre). Le problème principal à ré-soudre concerne la fusion de la narration et de l’interactivité, sous-entendu l’immersiondans l’univers et l’identification aux personnages de l’histoire. Il est donc nécessairede faire coopérer la trame plus ou moins rigide de la structure narrative avec la libertéde l’interactivité, sachant que forcément le scénario a tendance à limiter la liberté del’utilisateur mais maximise en contrepartie le plaisir de la performance. A. Glassner[Glassner, 2001] montre combien le chemin est long, du fait de l’opposition des struc-tures des jeux vidéos et des fictions. De la même manière, il oppose l’action et la com-munication telles qu’effectuées dans ces deux médias. C. Crawford [Crawford, 2002]évoque quant à lui un problème culturel entre l’univers des ingénieurs développeurs dejeux et celui des artistes. Etant donné le niveau de technicité requis pour développer desfictions interactives, il est absolument nécessaire de faire coopérer artistes et ingénieursen créant une relation de travail qui n’est pas simple à mettre en place. Une alternativeest d’essayer de dispenser une double formation à chacun10.

Comme l’illustre la figure 12.12, il y a une relation bidirectionnelle entre le mondede l’histoire et celui de la scène. L’histoire doit réagir logiquement aux actions de l’au-dience tandis que l’audience doit réagir émotionnellementà la narration. Dans la fictioninteractive, il n’y a pas une seule mais une infinité d’histoires pouvant se dérouler sur

10La filière ATI de l’Université Paris 8 est un bon exemple de formation conjointe à l’art et aux nouvellestechnologies.

Page 15: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

L’interactivité sensorielle au service de la création artistique contemporaine 269

la base de la trame définie par l’auteur. Cela impose un niveaude complexité supplé-mentaire pour celui-ci, car il doit envisager l’ensemble des hypothèses requises pourqu’une action dramatique se produise et il doit aussi formuler l’impact de celle-ci surle déroulement de la suite de l’histoire.

Figure 12.12 : Architecture d’une Fiction Interactive.

12.3.5 ETAT DE L’ART

Une des premières approches est celle du projet Oz [Bates, 1992, Mateas, 1997] di-rigé par Joseph Bates à L’Université de Carnegie-Mellon dans la première moitiédes années quatre-vingt-dix. Dans ce cadre A.B. Loyall a développé le langage Hap[Loyall e.a., 1997] qui a ensuite été étendu par M. Mateas et A. Stern à travers le lan-gage ABL [Mateas. e.a., 2002]. L’architecture du système Ozétait composée d’un en-semble de personnages évoluant dans un monde virtuel, d’un interacteur permettant àun utilisateur d’agir sur les objets du monde et d’un gestionnaire de la fiction. L’histoireest structurée sous la forme d’un graphe acyclique orienté qui contient la trame princi-pale de l’histoire : les éléments de l’intrigue. Il existe plusieurs ossatures possibles pourbâtir une fiction interactive. Par exemple, les modèles proposés par les structuralistesont été utilisés afin de structurer des modèles de fiction interactive :

Propp : Teatrix est un outil dédié aux enfants afin qu’ils puissent créer des fictionsinteractives fondées sur le modèle de V. Propp [I. Machado e.a., 2001]. Dansun premier temps, l’enfant prépare l’histoire en spécifiantles lieux, les décors.Chaque enfant a la capacité de choisir un personnage dans l’histoire, il peut ex-plorer l’état émotionnel de ce personnage et voir la liste des réflexions passées eten cours. Dans le système GEIST, U. Spierling utilise aussi le modèle de Proppcomme élément structurant de l’histoire [Spierling e.a., 2002] ;

Greimas : M. Klesen [M. Klesen e.a., 2001] utilise le schéma actancielde Greimascomme élément permettant de maintenir une balance dynamique des forces enprésence dans l’histoire entre les adjuvants et les opposants. Il développe un scé-nario intitulé « Le mouton noir » composé de deux moutons (le mouton noirétant le héros et le second un adjuvant), d’un chien de berger, d’un fermier (l’op-posant), de vaches et de cochons ;

Page 16: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

270 Le traité de la réalité virtuelle

Bremond : Avec IDtension, N. Szilas [Szilas, 2003] effectue une interprétation de lalogique du récit de Brémond. Il propose un moteur de fiction interactive fondésur les règles de Bremond et de Todorov, ainsi que sur un modèle de l’utilisateur.L’ossature du modèle narratif est une structure de type but/tâches (nécessairespour l’atteindre).

Une autre approche consiste à réduire la narration à une séquence d’actions et à utili-ser des techniques de planification de tâches issues de l’Intelligence Artificielle pourdes histoires interactives [M. Cavazza e.a., 2001, Charlese.a., 2003a]. F. Charles et al.[Charles e.a., 2003b] discutent des avantages respectifs,pour la fiction interactive, dedeux techniques de planification : HTN (Hierarchical Task Network) et HSP (HeuristicSearch Planning). Pour eux, l’avantage principal d’HTN estd’assurer une cohérenceforte de l’histoire dans un contexte d’interactivité, du fait de sa forte structuration, tan-dis qu’HSP offre plus de flexibilité, du fait de son caractèreplus exploratoire et doncpotentiellement plus de variabilité dans les histoires produites.

Façade, développé par M. Mateas and A. Stern [Mateas e.a., 2002] intègre à la fois lagestion de la structure de l’histoire, le contrôle du comportement des personnages etle traitement de la langue naturelle pour l’interaction avec un utilisateur interprétant lerôle d’un des personnages de l’histoire. Grace et Trip, un couple marié d’une trentained’années, sont les deux protagonistes de l’histoire (cf figure 12.13). Ils ont invité lejoueur à boire un verre, et un dialogue ouvert commence entrel’invité et ses hôtes. Ladescription du comportement des protagonistes est effectuée à l’aide du langage ABL[Mateas. e.a., 2002]. Ce langage a pour objectif principal de pouvoir effectuer de laplanification réactive et intègre aussi la spécification de comportements coordonnés.ABL intègre aussi un mécanisme de réservation de ressources, permettant ainsi à uncomportement de demander au vol l’utilisation d’une ressource corporelle avec unecertaine priorité.

Figure 12.13 : Les acteurs virtuels Grace et Trip, en rendu non photo-réalistetemps-réel, dans Façade[Mateas e.a., 2002].

12.3.6 LES OUTILS D’AIDE À L’ÉCRITURE DE FICTIONS INTERACTIVES

Qu’il s’agisse d’une fiction linéaire ou non linéaire, prédéterminée ou interactive, leséléments d’une histoire sont :

Page 17: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

L’interactivité sensorielle au service de la création artistique contemporaine 271

• les acteurs avec leurs compétences, leurs valeurs morales et intellectuelles ;

• les rôles avec leurs objectifs dramatiques ;

• les relations entre acteurs et rôles ;

• la structure dramatique avec ses actions et ses unités dramatiques.

Ecrire une fiction interactive consiste pour l’auteur à manipuler une représentation in-formatique des acteurs, des rôles et des éléments dramatiques de manière à décrire lastructure granulaire d’une méta-histoire, ferment d’un ensemble d’histoires appréhen-dables par l’auteur et en accord avec ses désirs. Selon Andersen, le scénariste doit seretenir de vouloir contrôler complètement l’ensemble de lastructure narrative directe-ment, mais doit se concentrer sur la construction de l’ossature permettant au spectateurde créer lui-même sa propre fiction. La structure narrative est fondée non pas sur uneséquence d’actions mais sur une distribution des rôles. Il ya cependant une nécessité dedépendance causale des unités dramatiques pour que l’histoire racontée soit compré-hensible par le spectateur. L’écriture d’une fiction interactive s’appuie sur la structurenarrative d’un texte, le langage cinématographique ainsi que la psychologie et la notionde couple relationnel, c’est à dire l’état d’une relation entre deux personnages.

K.M. Brooks décrit dans sa thèse [Brooks, 1999] la notion de fiction cinématiquemétalinéaire. Il n’emploie pas le terme non linéaire car il objecte comme Aarseth[Aarseth, 1997] qu’une histoire ne peut être que linéaire dufait de la linéarité duprocessus de lecture. Il utilise le terme de métalinéarité pour décrire le fait que sonmodèle est en puissance générateur d’une multitude d’histoires linéaires. Pour K.M.Brooks, l’outil idéal d’aide à l’écriture de fictions métalinéaires est un outil qui doitêtre capable de maintenir la créativité humaine dans le processus d’écriture tout en per-mettant à l’ordinateur de construire la structure sous-jacente à une multitude de fictionslinéaires. Il propose pour cela l’outil appeléAGENT STORIEScomposé de cinq parties :

• La structure : description de la structure de la fiction par assemblage de blocs géné-riques.

• La représentation : contient les informations sur les relations entre les éléments del’histoire.

• Le retour à l’auteur : retour de l’outil à l’auteur sur la construction de la méta-fiction.Ceci est réalisé grâce à l’utilisation d’agents fictionnels.

• La présentation : choix des agents fictionnels à activer.

• La scénarisation des agents fictionnels : création de nouveaux agents fictionnels.

Le comportement d’un agent fictionnel est composé d’un ensemble de règles décrivantcomment l’agent doit se comporter dans chaque situation particulière. Le lecteur inté-ressé peut aussi consulter le site web de C. Crawford sur le projet Erasmatron11 danslequel l’auteur publie un certain nombre de points de vue intéressants sur la fiction in-teractive et son écriture. Un autre site intéressant est celui du projet Dramatica12, dédiéaux auteurs de fictions. On y trouve notamment un certain nombre de documents dontune théorie de l’histoire téléchargeable en PDF [Phillips e.a., 2001], un dictionnaire dela fiction, une table des éléments-clés d’une histoire.

11http ://www.erasmatazz.com12http ://www.dramatica.com

Page 18: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

272 Le traité de la réalité virtuelle

Les moyens informatiques dont le scénariste dispose aujourd’hui sont encore assez ru-dimentaires (essentiellement des outils de traitement de texte et de représentation gra-phique d’un scénario décomposé en une arborescence de scènes) au regard de l’évo-lution des techniques. L’outil d’aide à l’écriture de fictions interactives, intitulé Dra-Machina, développé en partenariat entre l’IRISA et la société Dæsign13 dans le cadredu projet RNTL éponyme, contribue à corriger cette situation [Donikian e.a., 2004].La méthode d’écriture mise au point permet à l’auteur, en plus de l’écriture textuelle,de manipuler des objets logiques (acteurs, rôles, unités dramatiques) ayant chacun unefonction bien précise dans le scénario. L’objectif n’est pas de produire un gestionnairedu drame ni de faire des choix au sein des différents modèles proposés dans les théo-ries narratives mais d’aider l’auteur à écrire une fiction interactive. L’entrée principalereste la langue naturelle mais qui est directement connectée grâce à des hyperliensaux éléments-clés du récit. Pour ce faire, aucune contrainte n’est imposée à l’auteurdans la structuration de son récit, le logiciel étant chargéde l’accompagner dans sonprocessus d’écriture. Il n’y a ainsi pas d’ordre préétabli dans la création des diffé-rents éléments constitutifs du récit : l’auteur peut aussi commencer par la conceptionde la structure narrative en manipulant directement les éléments-clés du récit (lieux,personnages, rôles, relations entre personnages, actionsdramatiques, etc.), puis écrirel’histoire et bien sûr faire des allers-retours, l’outil assurant la cohérence de l’ensemble,chaque mise à jour étant répercutée immédiatement dans toute la structure narrative.Dans sa théorie sur l’analyse transactionnelle, Eric Berne[Berne, 1964] observe quetout le monde a besoin de transactions avec autrui. En reproduisant le mécanisme desstrokes14 ou chocs émotionnels dans l’écriture des dialogues, un auteur peut indiquerl’impact d’une réplique sur le couple relationnel des deux protagonistes et sa durée.Dans DraMachina, chaque auteur utilise les fonctionnalités et les objets qui lui sontnécessaires dans l’ordre qu’il souhaite : l’outil ne doit pas brider la créativité maisl’assister. Ces objets sont bien évidemment étroitement liés les uns aux autres. Il estproposé à l’auteur de manipuler directement ces objets via l’interface, d’en visualiserles liens, de repérer visuellement les conséquences de l’ajout ou du retrait d’un ob-jet. Jusqu’à présent, ce travail était effectué sur papier,via une série de documents àproduire à l’aide d’outils différents (traitement de texte, tableur, éditeur de graphes)dont la forme avait été spécifiée (base de données, textes, carte des unités dramatiques,. . .). Cela implique une manipulation lourde et surtout ne permet pas une véritable vued’ensemble de l’environnement, encore moins une simulation de son fonctionnement.L’outil réalisé (cf figure 12.14) devient pour son utilisateur le moyen de créer plus fa-cilement et plus rapidement un environnement narratif, et d’en vérifier la cohérence aufur et à mesure de sa création.

Si l’outil est avant tout utile à l’auteur, il est également un maillon essentiel dans lachaîne de production. En effet, le travail à effectuer à l’aide des outils classiques pourpasser du scénario à une application narrative interactiveest exclusivement manuel :lecture du scénario, analyse des données, puis codage du contenu. DraMachina est aussiun outil de production automatique d’un modèle équivalent àce qui a été décrit dansle scénario. Le gain est double : productivité d’une part, respect de la cohérence entrescénario écrit et produit fini d’autre part. Un autre intérêtde cette approche concernela transmission d’informations. L’équipe de développement de la fiction bénéficie d’untravail d’analyse effectué automatiquement sur l’universnarratif écrit par le scénariste,dans des formats compréhensibles par chaque acteur de l’équipe facilitant le trans-fert d’information. Un seul format est utilisé pour la sauvegarde interne et l’export :il s’agit du format XML, permettant à chacun d’extraire automatiquement les infor-

13http ://www.daesign.com14Stroke veut dire en anglais à la fois coups et caresses

Page 19: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

L’interactivité sensorielle au service de la création artistique contemporaine 273

Figure 12.14 : Structure hiérarchique de l’ensemble des objets manipulés dansDraMachina.

mations qu’il juge pertinentes. Le module d’extraction de données à partir du langagenaturel permet de trouver automatiquement les actions, localisations et déplacementsdécrits dans un texte. Notamment, en ce qui concerne les actions, nous pouvons extrairedifférentes informations : qui fait l’action, de quelle manière, dans quel lieu et quelsobjets ou autres personnages sont concernés par cette action. Destiné aussi à l’équipede production de la fiction, l’outil permet, grâce à la base dedonnées que celui-cigénère, de réduire considérablement l’étape fastidieuse d’analyse et de synthèse desdocuments produits par le scénariste. Ainsi le traitement des actions dramatiques peutpermettre d’alimenter une base de données contenant l’ensemble des actions effectuéespar chaque acteur et les lieux dans lesquels elles sont effectuées.

12.4 DE LA NÉCESSITÉ D’UN MÉTA-LANGAGE ADAPTÉ À LA CRÉA-TION PLURI-ARTISTIQUE

L’art numérique comme les jeux vidéos est le résultat du travail d’artistes et de scien-tifiques. Etant donné le niveau de technicité requis pour développer des œuvres numé-riques interactives, il est absolument nécessaire de fairecoopérer artistes et ingénieursen créant une relation de travail qui malheureusement n’estpas simple à mettre enplace. Il ne suffit pas pour l’artiste de prendre un certain nombre d’outils et de les uti-liser, car cette utilisation conjointe d’outils n’est pas possible sans l’aide d’ingénieurs,sauf à passer par des standards réducteurs. Il est nécessaire d’établir des ponts entrepersonnes d’univers et de cultures complètement différents. La difficulté de ce travailrésulte aujourd’hui dans l’absence de langage commun et nous pensons que l’outil in-formatique peut être un bon vecteur de communication. Nous pensons que la réalisationd’outils d’aide à la création pensés en commun par des artistes/chercheurs et des cher-

Page 20: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

274 Le traité de la réalité virtuelle

cheurs scientifiques est un moyen de réduire cette fracture.Il nous semble intéressantde formaliser ces langages ensemble et de développer des outils correspondant dédiésà la création artistique d’œuvres numériques interactivespluridimensionnelles.

Au-delà des environnements narratifs interactifs, il est nécessaire d’étudier les relationsdes nouvelles technologies de l’image avec d’autres champsd’expression artistique.Par exemple, un chorégraphe développant une œuvre chorégraphique interactive se re-trouve confronté à la prise en compte du statut du specta(c)teur (Il s’agit d’un spectateuractant au travers des mécanismes d’interaction mis à sa disposition) dans son œuvre :quel espace de liberté lui laisse-t-il et quels sont les degrés de liberté admissibles de lachorégraphie? En quoi, comment et selon quels critères la phrase chorégraphique vir-tuelle, résultat du travail du chorégraphe avec des danseurs réels, peut-elle être modifiéepar les actes du specta(c)teur? Comment la scénographie influe-t-elle sur la composi-tion musicale ?

Aujourd’hui, à l’issue d’une phase de discussion et d’échange dans laquelle chacuns’exprime avec son propre bagage culturel et son vocabulaire métier, il est nécessaire defaire intervenir un ingénieur ou technicien. A partir de protocoles souvent archaïques etpauvres en expressivité, ce dernier va définir, selon sa propre interprétation, le contenude ce qui va transiter dans le tuyau de communication entre les logiciels ou biblio-thèques spécialisées. Pour illustrer ce propos, prenons l’exemple d’une œuvre cho-régraphique interactive Ulys développée par Nicole et Norbert Corsino (CompagnieDanse 34 productions) en partenariat avec l’IRCAM, l’IRISAet Ars Numerica.

Figure 12.15 : Complexité d’une œuvre chorégraphique interactive.

Les relations existant dans ce type d’œuvre sont diverses etcomplexes (cf figure12.15) : relation artiste/artiste au cours de la création, relation specta(c)teur/clone, re-lation entre les mondes visuel et sonore. On peut citer par exemple le cas du clone quicache en fait un agent autonome devant reproduire fidèlementle travail du danseur,mais en même temps démontrer des capacités d’autonomie lui permettant d’entrer enrelation individualisée avec chaque specta(c)teur. D’autre part, la relation sous forme delangage entre la composition musicale en temps réel et l’interprétation chorégraphiqueinteractive reste à formaliser et à développer.

Page 21: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

L’interactivité sensorielle au service de la création artistique contemporaine 275

12.5 CONCLUSION

Au cours de ce chapitre, nous avons essayé de faire un état de la relation entre les artsde la scène et les technologies matérielles et logicielles développées dans le domainede la réalité virtuelle. Fournir des plateaux technologiques est une chose primordialemais pas suffisante. Il est nécessaire, du fait de la différence de culture entre les artisteset les scientifiques, de disposer de médiateurs. L’exemple de l’IRCAM est intéressantà ce sujet : se trouvent dans le même lieu des artistes, des chercheurs et des assis-tants musicaux ayant la capacité de dialoguer avec les artistes et avec les chercheurs. Ilest nécessaire de bâtir de tels lieux sur le thème de l’art numérique intégrant des cher-cheurs dans différentes disciplines des sciences de l’ingénieur et des sciences humaineset sociales, des artistes et des créateurs. Il est aussi nécessaire de décloisonner les ensei-gnements afin d’avoir la capacité de former des personnes intéressées par acquérir unedouble compétence à la fois artistique et technologique. Ledépartement ATI de l’Uni-versité de Paris 8 a été pionnier dans ce domaine mais n’a pas vraiment été reproduitaujourd’hui au sein des Universités françaises.

Il est aussi nécessaire de travailler sur la formalisation de langages d’écriture de telsœuvres poly-artistiques interactives. Pour ce faire il estnécessaire de constituer deséquipes de recherches pluridisciplinaires composées de théoriciens, de praticiens desdifférents champs disciplinaires. La difficulté est celle de l’ouverture du modèle. Parexemple, la notation de Laban dans le domaine de la danse n’est pas utilisée par beau-coup de chorégraphes, chacun ayant son propre langage graphique de notation, et cer-tain n’utilisant même aucun langage codifié. Il faut donc plutôt se poser la question desméta-langages d’échanges transdisciplinaires, permettant à chaque artiste ensuite d’yimplémenter son propre langage.

12.6 RÉFÉRENCES BIBLIOGRAPHIQUES

[Aarseth, 1997] E. Aarseth.Cybertext : Perspectives on Ergodic Literature. Johns Hop-kins University Press, Baltimore (1997).

[Aristote, 1990] Aristote.La poétique (traduction Michel Magnien). Le livre de poche(1990).

[Bates, 1992] J. Bates (1992). The nature of character in interactive worlds and the ozproject. Technical report, Technical Report CMU-CS-92-200, Schoolof Computer Science, Carnegie Mellon University, Pittsburgh, PA.

[Bongiovanni, 1999] P. Bongiovanni. Transitions. InMa vache s’affole, mon mouton trembleet mon maïs mute - corps / machines / territoires(1999), pages 9–15. Agence Régionale pour la Coordination des Activités Musicaleset Chorégraphiques, Aix-en-Provence.

[Bremond, 1973] C. Bremond.Logique du récit. collection Poétique. Editions du Seuil(1973).

[Brooks, 1999] K. Brooks (1999).Metalinear Cinematic Narrative : Theory, Processand Tool. PhD thesis, MIT.

[Campbell, 1978] J. Campbell.Les héros sont éternels. Seghers (1978). (titre original :the hero with a thousand faces, Bollingen Foundation Inc., New York,1949).

[Camurri e.a., 2000] A. Camurri, S. Hashimoto, M. Ricchetti, R. Trocca, K. Suzuki, andG. Volpe. Eyesweb - toward gesture and affect recognition ininteractivedance and music systems.Computer Music Journal, 24(1) (2000).

Page 22: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

276 Le traité de la réalité virtuelle

[Camurri e.a., 2004] A. Camurri, N. Mazzarino, and G. Volpe.Expressive gestural control ofsound and visual output in multimodal interactive systems.In Interna-tional Conference Sound and Music Computing(2004), Paris, France.

[Charles e.a., 2003a] F. Charles, M. Lozano, S. Mead, A. Bisquerra, and M. Cavazza. Plan-ning formalisms and authoring in interactive storytelling. In TID-SE’03, Technologies for Interactive Digital Storytellingand Entertain-ment(2003a), pages 216–225, Darmstadt, Germany.

[Charles e.a., 2003b] F. Charles, M. Lozano, S. J. Mead, A. F.Bisquerra, and M. Cavazza.Planning formalisms and authoring in interactive storytelling. In FirstInternational Conference on Technologies for InteractiveDigital Sto-rytelling and Entertainment(2003b), Darmstadt, Germany.

[Crawford, 2002] C. Crawford. Artists and engineers as catsand dogs : implications forinteractive storytelling.Computers & Graphics, 26 :13–20 (2002).

[Donikian, 2004] S. Donikian. Modélisation, contrôle et animation d’agentsvirtuels autonomes évoluant dans des environnements in-formés et structurés. Habilitation à diriger les recherches.IRISA+IFSIC, Université de Rennes 1, Rennes (2004).http ://www.irisa.fr/bibli/publi/habilitations/donikian/hdr.html.

[Donikian e.a., 2004] S. Donikian and J. Portugal. Writing interactive fiction scenarii withdraMachina. InTIDSE’04 (2004), Darmstadt, Allemagne. Springer-Verlag LNCS.

[Glassner, 2001] A. Glassner. Interactive storytelling : People, stories, and games. InInternational Conference ICVS 2001(2001), pages 51–60. LNCS 2197,Springer-Verlag.

[Greimas, 1966] A. Greimas.Sémantique structurale : recherche de méthode. CollectionLangue et langage. Larousse, Paris (1966).

[Greimas, 1983] A. Greimas.Du sens II. Editions du Seuil (1983).[I. Machado e.a., 2001] A. P. I. Machado and R. Prada. Is the wolf angry or... just hungry ? In

International Conference on Autonomous Agents(2001), pages 370–376, Montreal, Canada.

[Laban, 1966] R. Laban.Language of Movement. Macdonald and Evans Ltd. (1966).[Landis e.a., 1979] J. Landis, J. Chapman, and T. Calvert (1979).New Directions in Dance,

chapter Notation of Dance with Computer Assistance, pages 169–178.Pergamon Press.

[Lavandier, 1997] Y. Lavandier.La dramaturgie. Eds Le clown et l’enfant (1997).[Loyall e.a., 1997] A. Loyall and J. Bates. Personality-rich believable agents that use lan-

guage. InAutonomous Agents’97(1997), Marina del Rey, USA. ACM.[M. Cavazza e.a., 2001] F. C. M. Cavazza and S. Mead. Agents’ interaction in virtual storytel-

ling. In R. A. A. de Antonio and D. Ballins, editors,IVA2001, LNAI2190 (2001), pages 156–170. Springer-Verlag.

[M. Klesen e.a., 2001] J. S. M. Klesen and N. Lehmann. A dramatised actant model for in-teractive improvisational plays. In R. A. A. de Antonio and D. Ballins,editors,IVA2001, LNAI 2190 (2001), pages 181–194. Springer-Verlag.

[Mateas, 1997] M. Mateas (1997). An oz-centric review of interactive drama and be-lievable agents. Technical Report CMU-CS-97-156, Carnegie MellonUniversity.

[Mateas e.a., 2002] M. Mateas and A. Stern (2002). Architecture, authorial idioms andearly observations of the interactive drama façade. Technical ReportCMU-CS-02-198, Carnegie Mellon University.

[Mateas. e.a., 2002] M. Mateas. and A. Stern. A behavior language for story-based belie-vable agents. In K. Forbus and M. E.-N. Seif, editors,Working notesof Artificial Intelligence and Interactive Entertainment(2002). AAAIPress.

Page 23: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements

L’interactivité sensorielle au service de la création artistique contemporaine 277

[Phillips e.a., 2001] M. Phillips and C. Huntley. DRAMATICA : a newtheory of story. Screenplay Systems Incorporated,http ://www.dramatica.com/downloads/dramatica_book.pdf (2001).

[Propp, 1970] V. Propp.Morphologie du conte. Number 12 in collection Points. Edi-tions du Seuil (1970). (titre original : Morfologija skazki, Leningrad,Nauka, 1969).

[Schiphorst, 1992] T. Schiphorst (1992).Dance and Technology I : Moving Toward theFuture, chapter LifeForms : Design Tools for Choreography.

[Spierling e.a., 2002] U. Spierling, D. Grasbon, N. Braun, and I. Iurgel. Setting the scene :playing digital director in interactive storytelling and creation.Compu-ter & Graphics, 26(1) :31–44 (2002).

[Szilas, 2003] N. Szilas. Idtension : a narrative engine forinteractive drama. InTID-SE’03, Technologies for Interactive Digital Storytellingand Entertain-ment(2003), pages 187–203, Darmstadt, Germany.

[Todorov, 1969] T. Todorov.Grammaire du décaméron. Mouton, La Haie (1969).

[van Dijk, 1973] T. van Dijk (1973).Sémiotique narrative et textuelle, chapter Gram-maires textuelles et structures narratives. Larrousse, Paris.

Page 24: 12 L’INTERACTIVITÉ SENSORIELLE AU SERVICE DE LA … chap12.pdf12.2.1 LA TECHNOLOGIE COMME SUPPORT À LA CRÉATION Dans le domaine de la danse, la capture et la restitution des mouvements