traitement du signal - irisapeople.irisa.fr/nancy.bertin/wp-content/uploads/2014/09/... ·...

33
Traitement du Signal Application : séparation de signaux 24 novembre 2014 Nancy Bertin - [email protected]

Upload: others

Post on 11-Mar-2020

1 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Traitement du SignalApplication : séparation de signaux

24 novembre 2014

Nancy Bertin - [email protected]

Page 2: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Application : séparation de signaux

1 Introduction à la séparation de signaux

2 Méthodes des moindres carrés

3 L’analyse en composantes indépendantes

4 Mise-en-œuvre : l’électrocardiogramme mère-enfant

2 M1 RI Traitement du Signal 24/11/2014

Page 3: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Introduction à la séparation de signaux

1 Introduction à la séparation de signauxCadre généralModélisation du problème de séparationL’exemple de l’électrocardiogramme mère-enfant

2 Méthodes des moindres carrés

3 L’analyse en composantes indépendantes

4 Mise-en-œuvre : l’électrocardiogramme mère-enfant

3 M1 RI Traitement du Signal 24/11/2014

Page 4: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

La séparation de signaux

Dans de nombreuses applications pratiques, les signauxobservés sont une superposition de plusieurs signaux, certainsportant de l’information, d’autres pas.

Exemple : modèle de débruitage y[n] = x[n] + b[n]

Un grand nombre d’applications impliquent de réaliser uneséparation de ces signaux.Classe très vaste de problèmes suivant :

Le nombre de signaux (canaux) observés (mono, stéréo,antenne...)Le modèle et les hypothèses choisies (lois, indépendance...)Les connaissances disponibles a priori (localisation, ...)

4 M1 RI Traitement du Signal 24/11/2014

Page 5: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Exemples d’applications

5 M1 RI Traitement du Signal 24/11/2014

Page 6: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Sources et mélange

Le modèle de mélange relie les observations (les signauxenregistrés) aux sources :

H

x1[n]

x2[n]

...xj [n]

y1[n]

y2[n]

...

yi[n]

Le modèle de mélange H a plusieurs entrées et plusieurs sorties(“canal MIMO” ou Multiple Input Multiple Output.)

6 M1 RI Traitement du Signal 24/11/2014

Page 7: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Signal vectoriel

Les signaux d’intérêt et les signaux observés sont maintenant desvecteurs à chaque instant :

x[n] =

x1[n]...

xI [n]

, y[n] =

y1[n]...

yJ [n]

7 M1 RI Traitement du Signal 24/11/2014

Page 8: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Types de mélanges

Le modèle de mélange H peut prendre des formes différentes :Instantané (y[n] = f(x[n])) ou convolutif (y[n] = f({x[m]}m6n))

Sans bruit ou bruitéSur-déterminé, déterminé ou sous-déterminé

8 M1 RI Traitement du Signal 24/11/2014

Page 9: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Mélanges instantanés et convolutifs

Un mélange est dit instantané si le système H peut se décrirepar une matrice :

On peut écrire matriciellement à tout instant : y = AxAttention, x et y sont des vecteurs “spatiaux” (à ne pasconfondre avec la représentation vectorielle d’un signalmonodimensionnel, où les coordonnées sont temporelles)Ou, mélange par mélange : yi[n] =

∑Jj=1 aijxj [n]

Et en concaténant toutes les observations : Y = AX

Un mélange est dit convolutif si chaque observation est unesomme de versions filtrées des sources :

Pour chaque observation yi[n] =∑Jj

∑τ aij [τ ]xj [t− τ ]

Cas plus difficile !

9 M1 RI Traitement du Signal 24/11/2014

Page 10: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Bruit et détermination

Bruit :Modèle non bruité : relation exacte Y = AXModèle bruité : Y = AX + N avec en général un modèle debruit blanc gaussien iid

Détermination :Mélange sur-déterminé : I > J (confortable)Mélange déterminé : I = J (cas d’école)Mélange sous-déterminé : I < J (difficile mais pas impossible)

On peut considérer un mélange “non bruité” en modélisant lebruit comme une source (J ← J + 1)

10 M1 RI Traitement du Signal 24/11/2014

Page 11: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Étude d’un cas particulier

Le problème de séparation de sources est un problème trèsvaste, objet d’intenses recherches, en particulier depuis 20 ans.Nous allons l’aborder ici par le biais d’un exemple : l’ECGmère-enfant (cas d’école, et par ailleurs utile !)Nous verrons deux modèles et deux méthodes de résolution :

Un modèle déterministe d’estimation de filtres par la méthodedes moindres carrésUn modèle aléatoire appelé Analyse en ComposantesIndépendantes et une résolution possible

11 M1 RI Traitement du Signal 24/11/2014

Page 12: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

L’ECG mère-enfant

L’électrocardiogramme (ECG) est l’enregistrement de l’activitéélectrique (différences de potentiel) du cœur au moyen decapteurs cutanés.La surveillance de l’activité cardiaque du foetus est un très bonindicateur du bon ou du mauvais déroulement de la grossesseet de l’accouchement.Problème : mesurer cette activité cardiaque de manière noninvasive (sans “accès” au foetus) et malgré la fortecontribution du signal cœur de la mère

⇒ problème de séparation de sources

12 M1 RI Traitement du Signal 24/11/2014

Page 13: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Méthodes des moindres carrés

1 Introduction à la séparation de signaux

2 Méthodes des moindres carrésPrincipe général de la méthode des moindres carrésApplication à l’ECG mère-enfant

3 L’analyse en composantes indépendantes

4 Mise-en-œuvre : l’électrocardiogramme mère-enfant

13 M1 RI Traitement du Signal 24/11/2014

Page 14: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Principe général de la méthode des moindres carrés

De manière générale, la “méthode des moindres carrésordinaires” (MCO, Least Squares, LS) consiste à minimiser, enfonction des paramètres inconnus, l’erreur quadratique entreles observations et leur explication par un modèle.(Cf. problèmes de régression).Formalisation générale :

Modèle des données y = f(θ0) où θ est le jeu de paramètresdu modèle et θ0 la vérité-terrainUne reconstruction étant donné un jeu θ : y = f(θ)Erreur : ε = ||y − y||2MCO : θ = argminθ ε(θ)

14 M1 RI Traitement du Signal 24/11/2014

Page 15: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Modèle linéaire et équations normales

On suppose un modèle d’observation linéaire bruité :Z = Aθ + ε,En dérivant le critère des MCO on obtient “l’équationnormale” :

ATAθ = ATZ

Si la matrice A est de rang plein, l’estimateur des moindrescarrés est :

θ = (ATA)−1ATX

(Inverse de Moore-Penrose, parfois noté A† = (ATA)−1A)(Peut être vu comme une projection orthogonale sur lesous-espace des signaux respectant le modèle)

15 M1 RI Traitement du Signal 24/11/2014

Page 16: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Application à l’ECG mère-enfant

On souhaite résoudre le problème de séparation dans l’ECGmère-enfant avec une approche de type moindres carrés.Problème : pas d’application directe possible puisqu’on neconnaît ni le mélange ni les signaux (problème de séparationdit “aveugle”)⇒ besoin d’un modèle ajoutant des hypothèses simplificatrices

16 M1 RI Traitement du Signal 24/11/2014

Page 17: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Modèle et hypothèses simplificatrices

On se place dans le cas où l’on capte des signaux sur deuxélectrodes, une thoracique et une abdominale.On suppose négligeables les activités électriques des autresorganes (muscles, poumons...)On suppose que le signal du cœur de la mère, xM met plus detemps à arriver à l’électrode abdominale qu’à l’électrodeventrale (retards nT < nA)On suppose que le signal thoracique ne capte pas le cœur dufœtus xF , mais seulement une version filtrée de l’activitéélectrique du cœur de la mère.On suppose que le signal abdominal capte une superpositionde l’activité du cœur du foetus (sans filtrage) et d’une versionfiltrée de l’activité du coeur de la mère.On suppose connus l’ordre des filtres.

17 M1 RI Traitement du Signal 24/11/2014

Page 18: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Modèle

On a donc (notations) :{yT (n) = g1xM (n− nT ) + . . .+ gKxM (n− nT −K + 1)

yA(n) = f1xM (n− nA) + . . .+ fPxM (n− nA − P + 1) + xF (n)

On approche l’inverse du filtre g−1 par un filtre RIF et onobtient la relation :

yA(n) = h0yT (n) + . . .+ hLyT (n− L+ 1) + xF (n)

18 M1 RI Traitement du Signal 24/11/2014

Page 19: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Exercice préparatoire

Montrer que sous ces hypothèses, le problème de séparations’écrit comme un modèle paramétrique linéaire, que l’on peutrésoudre par les moindres carrés.On cherchera à écrire une relation de type :

x1 = X2h + xF

où x1 et X2 sont un vecteur et une matrice dépendant desobservations.En déduire, par la méthode des moindres carrés, un estimateurdu filtre h puis un estimateur du signal cardiaque du foetus.

19 M1 RI Traitement du Signal 24/11/2014

Page 20: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

L’analyse en composantes indépendantes

1 Introduction à la séparation de signaux

2 Méthodes des moindres carrés

3 L’analyse en composantes indépendantesPrincipe de l’analyse en composantes indépendantesAlgorithmes

4 Mise-en-œuvre : l’électrocardiogramme mère-enfant

20 M1 RI Traitement du Signal 24/11/2014

Page 21: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Séparation aveugle de mélanges linéaires instantanés

On se place dans le modèle de mélange instantané non bruité :

Y = AX

On se place dans le cas déterminé : I = J

Aucune connaissance sur A ni sur X

21 M1 RI Traitement du Signal 24/11/2014

Page 22: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Approches

Il existe trois grandes familles d’approches pour ce problème, enfonction des hypothèses faites sur les signaux et/ou sur le mélange :

Sparse component analysis (SCA) : hypothèse de parcimonieNon-negative matrix factorization (NMF) : hypothèse denon-négativitéIndependant component analysis (ICA) : hypothèsed’indépendance statistique

22 M1 RI Traitement du Signal 24/11/2014

Page 23: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Objectif

Le principe de l’ICA est de chercher une matrice B telle que :

X = BY = BAX = DPX

telle que :

Les lignes de X sont mutuellement indépendantesD est une matrice diagonale (indétermination d’échelle)P est une matrice de permutation (indétermination d’ordre)

23 M1 RI Traitement du Signal 24/11/2014

Page 24: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Hypothèses et limitations

Les conditions sous lesquelles le problème d’ICA est solublesont appelées conditions d’identifiabilité.Dans le cas déterminé, le problème d’ICA peut être résolu àcondition que :

au plus une source soit un processus stationnaire blancgaussiendonc les autres sources sont soit non stationnaires, soit nongaussiennes

La résolution est forcément à une permutation et un gain près.

24 M1 RI Traitement du Signal 24/11/2014

Page 25: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Algorithmes

En général, ils se réalisent en deux étapes :

Blanchiment : recherche d’une matrice W telle que z = Wyest spatialement blanc (càd que la matrice de corrélationspatiale zzT est diagonale)Rotation : recherche d’une matrice U de rotation (doncunitaire) telle que UZ est composé de variables indépendantes.

In fine : {A = W−1U

X = UWX

25 M1 RI Traitement du Signal 24/11/2014

Page 26: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Blanchiment

Le blanchiment des données est réalisé par une Analyse enComposantes Principales (ACP) :

On estime la matrice de covariance des observations :Σ = R(y) = yyT

On réalise sa décomposition en valeurs propres : D = VΣVT

On choisit W = D−1/2V

En effet, on obtient R(Wx = I)

26 M1 RI Traitement du Signal 24/11/2014

Page 27: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Rotation

La recherche de la meilleure rotation U repose sur l’expression et laminimisation d’un critère quantifiant l’indépendance mutuelle dessources.

Critères de théorie de l’information : information mutuelle,divergence de Kullback-Leibler...Moments / cumulants d’ordre supérieur (kurtosis, ...)Sous certaines conditions on se contente de la décorrélation(méthodes du second ordre)

27 M1 RI Traitement du Signal 24/11/2014

Page 28: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Illustration (mélange)

28 M1 RI Traitement du Signal 24/11/2014

Page 29: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Illustration (blanchiment)

29 M1 RI Traitement du Signal 24/11/2014

Page 30: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Algorithmes au second ordre

Sous certaines hypothèses, il est possible de se limiter à utiliserles moments d’ordre 2.(Dans le cas général on sait que décorrélation ;indépendance)En particulier on exploite le fait que chaque source est nonblanche (existence d’une corrélation temporelle)

On va voir ici un exemple tiré de A Blind Source SeparationTechnique Using Second-Order Statistics, Belouchrani & al., IEEETransactions on Signal processing 1997 que l’on pourra consulterpendant le TP.

30 M1 RI Traitement du Signal 24/11/2014

Page 31: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Diagonalisation

La matrice de rotation U peut obtenue par diagonalisationjointe des matrices de covariances spatiales des observationsblanchies :

∀τ, R(τ) = z(t+ τ)z(τ)T = UD(τ)UT

En effet grâce à l’hypothèse d’indépendance on sait queRxx(τ) est diagonale.On conclut par l’estimation des sources :

x(n) = UTWy(n)

31 M1 RI Traitement du Signal 24/11/2014

Page 32: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Mise-en-œuvre : l’électrocardiogramme mère-enfant

1 Introduction à la séparation de signaux

2 Méthodes des moindres carrés

3 L’analyse en composantes indépendantes

4 Mise-en-œuvre : l’électrocardiogramme mère-enfantMise en œuvre

32 M1 RI Traitement du Signal 24/11/2014

Page 33: Traitement du Signal - IRISApeople.irisa.fr/Nancy.Bertin/wp-content/uploads/2014/09/... · 2014-11-24 · Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG) Laséparationdesignaux

Intro Moindres carrés Analyse en Composantes Indépendantes TP(ECG)

Mise en œuvre : l’électrocardiogramme mère-enfant

1 Charger les jeux de données binaires : ecg2.txt (deuxélectrodes) et ecg8.txt (8 électrodes) avec la fonction ScilabfscanfMat

2 Les visualiser, imaginer et tester une méthode naïve deséparation.

3 Implémenter la méthode des moindres carrés sur le premier jeude données. Visualiser les résultats.

4 Implémenter l’ICA au second ordre sur le premier, puis ledeuxième jeu de données. Visualiser les résultats.

5 (Bonus) estimer le rythme cardiaque du foetus.Pour aller plus loin : http://perso.telecom-paristech.fr/~cardoso/icacentral/

33 M1 RI Traitement du Signal 24/11/2014