module 6 : programmation dynamique. 26/7/2006programmation dynamique2 plan du module de lefficacité...

Post on 03-Apr-2015

111 Views

Category:

Documents

3 Downloads

Preview:

Click to see full reader

TRANSCRIPT

Module 6 : Programmation dynamique

26/7/2006 Programmation dynamique 2

Plan du module De l’efficacité d’algorithmes

Algorithme de somme minimum Programmation dynamique

Nombres de Fibonacci Problème du partitionnement Plus longue séquence croissante Multiplication de matrices Plus longue sous-suite commune

Problème 10131

26/7/2006 Programmation dynamique 3

Algorithme de somme minimum

Soit un tableau t[0..n-1] d’entiers de longueur n. Une section de t[0..n-1] est le sous-tableau t[i..j] avec 0 ≤ i≤j <n. Soit Si,j la somme des éléments de la section (i,j).

Le problème de la section de somme minimum est le suivant : Soit un tableau t[0..n-1] de longueur n, calculez la

valeur Si,j minimum pour le tableau t.

26/7/2006 Programmation dynamique 4

Algorithme de somme minimum

Première approche Concevoir un algorithme qui calcule Si,j

pour i et j fixés Utiliser le programme développé au point

précédent pour tous les couples (i,j) possibles et conserver la valeur minimum trouvée.

26/7/2006 Programmation dynamique 5

Algorithme de somme minimum1. smin := t[0];2. i := 0;3. WHILE i<n DO BEGIN4. smin := minimum(smin,t[i]);5. j :=i+1;6. WHILE j<n DO BEGIN7. s := t[i];8. k := i+1;9. WHILE k<=j DO BEGIN10. s := s+t[k];11. k := k+112. END;13. smin := minimum(smin,s);14. j := j+115. END;16. i := i+117. END;18. somme_minimale := smin

Complexité proportionnelle à n3

26/7/2006 Programmation dynamique 6

Algorithme de somme minimum

Pour une valeur m donnée, la boucle sur j calcule les sommes Sm,m, Sm,m+1,… Sm,n-1.

Chaque somme Sm,h est calculée par la boucle (sur k) la plus interne en ignorant qu’à l’étape précédente, on a calculé Sm,h-1

26/7/2006 Programmation dynamique 7

Algorithme de somme minimum1. smin := t[0];2. i := 0;3. WHILE i<n DO BEGIN4. s := t[i];5. smin := minimum(smin,s);6. k :=i+1;7. WHILE k<n DO BEGIN8. s := s+t[k];9. smin := minimum(smin,s);10. k := k+111. END;12. i := i+113. END;14. somme_minimale := smin

Complexité proportionnelle à n2

26/7/2006 Programmation dynamique 8

Algorithme de somme minimum

smin_k valeur minimum de Si,k avec 0≤i≤k smin somme minimum parmi toutes les

sommes Si,h dans le sous-tableaut[0..k-1]

0 n-1k-1 k

t

26/7/2006 Programmation dynamique 9

Algorithme de somme minimum

Le fait d’examiner l’élément k introduit un nouvel ensemble de sections : toutes les sections de bornes [i..k] avec 0≤i≤k.

smin_k := min(smin_k+t[k],t[k])

26/7/2006 Programmation dynamique 10

Algorithme de somme minimum

Il ne reste qu’à mettre à jour smin : smin := min(smin,smin_k)

26/7/2006 Programmation dynamique 11

Algorithme de somme minimum

1. smin := t[0];2. smin_k := t[0];3. k := 1;4. WHILE k<>n DO BEGIN5. smin_k := minimum(smin_k+t[k],t[k]);6. smin := minimum(smin,smin_k);7. k := k+18. END;9. somme_minimale := smin

Complexité proportionnelle à n

26/7/2006 Programmation dynamique 12

Conclusion Un algorithme peut « souvent/parfois »

être amélioré de manière tout à fait notable.

26/7/2006 Programmation dynamique 13

Nombres de Fibonacci F(n) = F(n – 1) + F(n – 2)

pour n > 1 F(0) = 0 F(1) = 1

26/7/2006 Programmation dynamique 14

Nombres de Fibonacci1. FUNCTION fibonacci(n : integer) : longint;

2. BEGIN

3. IF n = 0

4. THEN fibonacci := 0

5. ELSE IF n = 1

6. THEN fibonacci := 1

7. ELSE fibonacci := fibonacci(n-1)+fibonacci(n-2)

8. END;

26/7/2006 Programmation dynamique 15

Nombres de Fibonacci

26/7/2006 Programmation dynamique 16

Nombres de Fibonacci Cette façon de faire est très peu

intéressante car les mêmes valeurs sont recalculées sans cesse

On peut montrer que pour calculer F(n) le nombre d’appels de fonctions dépasse 1.6n

Complexité exponentielle !

26/7/2006 Programmation dynamique 17

Nombres de Fibonacci Amélioration : On peut calculer F(n) en un temps

linéaire en mémorisant des valeurs déjà calculées et nécessaires aux calculs suivants

On perd de l’espace mémoire, mais on gagne du temps

26/7/2006 Programmation dynamique 18

Nombres de Fibonacci

F0=0

F1=1

FOR i:=2 TO n DO Fi= Fi-1+Fi-2

Complexité proportionnelle à n

26/7/2006 Programmation dynamique 19

Nombres de Fibonacci

1. IF n = 02. THEN fibonacci := 03. ELSE IF n = 14. THEN fibonacci := 15. ELSE BEGIN6. twoback := 0;7. oneback := 1;8. FOR i := 2 TO n DO9. BEGIN10. current := oneback+twoback;11. twoback := oneback;12. oneback := current13. END;14. fibonacci := current15. END

26/7/2006 Programmation dynamique 20

Programmation dynamique La programmation dynamique est une

technique dans laquelle on mémorise des résultats déjà obtenus et qu’on réutilise pour trouver de nouveaux résultats, généralement sur des récurrences

26/7/2006 Programmation dynamique 21

Problème du partitionnement Exemple : On a neuf livres qui ont

respectivement 100, 200, 300…900 pages. Trois personnes doivent scanner ces livres. Comment effectuer la répartition de manière à ce que chacun des trois ait à peu près le même nombre de pages à traiter?

26/7/2006 Programmation dynamique 22

Problème du partitionnement Soit un arrangement S de nombres non-

négatifs s1…sn et un entier k. Le but est de partitionner S en k parties

de manière à minimiser la somme des valeurs de chacune des k parties.

26/7/2006 Programmation dynamique 23

Problème du partitionnement Il s’agit de placer k-1 séparateurs pour

obtenir les k parties. Où placer le dernier séparateur ?

Entre le ième et le (i+1)ème élément de S Quel est le coût de cette opération?

Le maximum entre le coût de la dernière partie le coût de la plus grande partie à gauche de i

1

n

jj i

s

26/7/2006 Programmation dynamique 24

Problème du partitionnement Quel est le coût de la plus grande partie

à gauche de i ? Il suffit de placer les k-2 séparateurs

restants optimalement sur la partie s1…si

On est en présence du problème de départ mais sur une instance plus petite

Solution récursive !

26/7/2006 Programmation dynamique 25

Problème du partitionnement Solution récursive exhaustive:

Soit M[n,k] le coût minimum du partitionnement de s1…sn en k parties

11

1

1

[ , ] min (max( [ , 1], ))

[1, ] 0

[ ,1]

nni j

j i

n

ii

M n k M i k s

M k s k

M n s

26/7/2006 Programmation dynamique 26

Problème du partitionnement Désavantage :

temps de calcul exponentiel puisqu’on recalcule tout le temps les mêmes valeurs

Solution: Stocker les valeurs déjà calculées Nécessite un tableau de k fois n éléments

26/7/2006 Programmation dynamique 27

Problème du partitionnement Optimisation:

Pour accélérer les calculs, on se donne un tableau d’aide p[1..n] avec

et :

ce qui permet de calculer plus rapidement la récurrence

1

[ ]k

ii

p k s

[ ] [ ]

j

kk i

s p j p k

26/7/2006 Programmation dynamique 28

Problème du partitionnement1. { compute prefix sums }2. p[0] := 0;3. FOR i := 1 TO n DO

p[i] := p[i-1] + s[i];

4. { initialize boundary conditions }5. FOR i := 1 TO n DO m[i,1] := p[i];6. FOR i := 1 TO k DO m[1,i] := s[1];7. FOR i := 1 TO n DO 8. FOR j := 1 TO k DO d[i,j] := -1;

9. FOR i := 2 TO n DO10. FOR j := 2 TO k DO11. BEGIN12. m[i,j] := maxint;13. FOR x := 1 TO i-1 DO14. BEGIN15. t := max(m[x,j-1],p[i]-p[x]);16. IF t < m[i,j]17. THEN BEGIN18. m[i,j] := t;19. d[i,j] := x20. END21. END22. END;

Complexité proportionnelle à kn2

26/7/2006 Programmation dynamique 29

Problème du partitionnement En fait l’algorithme nécessite une

deuxième matrice qui mémorise l’endroit où les séparateurs sont placés.

Le chemin se construit à l’envers à l’aide d’une procédure récursive.

26/7/2006 Programmation dynamique 30

Problème du partitionnement1. PROCEDURE reconstructPartition(n,k: integer);2. VAR i : integer;3. BEGIN4. IF k = 15. THEN FOR i := 1 TO n DO write(s[i]:4)6. ELSE BEGIN7. reconstructPartition(d[n,k],k-1);8. write('|');9. FOR i := d[n,k]+1 TO n DO write(s[i]:4)10. END11. END;

26/7/2006 Programmation dynamique 31

Problème du partitionnement Voici le résultat du problème de départ

100 200 300 400 500 600 700 800 900 100 100 100 ---- -1 -1 -1 300 200 200 ---- -1 1 1 600 300 300 ---- -1 2 2 1000 600 400 ---- -1 3 3 1500 900 600 ---- -1 3 4 2100 1100 900 ---- -1 4 5 2800 1500 1100 ---- -1 5 6 3600 2100 1500 ---- -1 5 6 4500 2400 1700 ---- -1 6 7 100 200 300 400 500| 600 700| 800 900

M D

26/7/2006 Programmation dynamique 32

Plus longue séquence croissante

But : trouver une plus longue séquence croissante dans une séquence de n nombres. Attention : les éléments sélectionnés ne doivent pas nécessairement être consécutifs!

Exemple : 9 5 2 8 7 3 1 6 4 PLSC : 3 2 3 4 ou 2 3 6

26/7/2006 Programmation dynamique 33

Plus longue séquence croissante

Que faut-il connaître sur les n-1 premiers élements de la séquence pour pouvoir donner la réponse pour l’entièreté de la séquence des n éléments?

26/7/2006 Programmation dynamique 34

Plus longue séquence croissante

1. La longueur de la plus grande séquence dans s1, s2… sn-1

2. La longueur de la plus grande séquence se terminant avec sn !

26/7/2006 Programmation dynamique 35

Plus longue séquence croissante

Soit li la longueur de la plus longue séquence se terminant avec le ième caractère

Séquence 9 5 2 8 7 3 1 6 4Longueur li 1 1 1 2 2 2 1 3 3Prédécesseur - - - 2 2 3 - 6 6

26/7/2006 Programmation dynamique 36

Plus longue séquence croissante

Comment calculer li ?

Longueur de la PLSC:

0

0

1 max

0

i i j ij i

l l pour s s

l

1

maxi nil

26/7/2006 Programmation dynamique 37

Plus longue séquence croissante

Temps de calcul ?

Proportionnel à n2

Peut être amélioré en nlg(n)

26/7/2006 Programmation dynamique 38

Multiplication de matrices On cherche à effectuer un produit de

matrices de réels M1 x M2 x … Mn

Mi comporte pi-1 lignes et pi colonnes Le nombre de multiplications réelles doit

être minimal (la multiplication de 2 matrices se fait de manière usuelle)

26/7/2006 Programmation dynamique 39

Multiplication de matrices Exemple :

M1(50x10) M2(10x20) M3(20x5)

Comme la multiplication matricielle est associative, il faut trouver la façon optimale d’effectuer les multiplications (M1M2)M3 50·0·20 + 50·20·5 = 15000

M1(M2M3) 10·20·5 + 50·10·5 = 3500

26/7/2006 Programmation dynamique 40

Multiplication de matrices Soit m(i, j) le nombre minimal de

multiplications réelles nécessaires au calcul de Mi x Mi+1 x … Mj

Soit (Mi … Mk) x (Mk+1 … Mj) un parenthésage optimal, alors :

1( , ) ( , ) ( 1, ) i k jm i j m i k m k j p p p

26/7/2006 Programmation dynamique 41

Multiplication de matrices Solution récursive :

1( , ) ( 1, )( , )

0i k jm i k m k j p p p i j

m i ji j

26/7/2006 Programmation dynamique 42

Multiplication de matrices La solution qui consiste à explorer

toutes les possibilités est à rejeter car cela donne un algorithme de complexité exponentielle.

Mieux : stocker les valeurs m[i,j] au fur et à mesure dans un tableau bi-dimensionnel, en fait une matrice triangulaire supérieure

26/7/2006 Programmation dynamique 43

Multiplication de matrices Pour notre exemple, M aura les valeurs

suivantes :

0 10000 3500

0 0 1000

0 0 01

2Ordre de calcul

26/7/2006 Programmation dynamique 44

Multiplication de matrices Pour les matrices

M1…M6 de dimensions respectives 6, 12, 20, 3, 10, 5, 18

Solution : ((1*(2*3))*((4*5)*6))

0 1440 936 1116 1176 1680

0 0 720 1080 1050 1788

0 0 0 600 450 1500

0 0 0 0 150 420

0 0 0 0 0 900

0 0 0 0 0 01

2

3

4

5

26/7/2006 Programmation dynamique 45

Multiplication de matrices1. FOR i := 1 TO n DO m[i,i] := 0;

2. FOR l := 2 TO n DO3. FOR i := 1 TO n-l+1 DO4. BEGIN5. j := i+l-1;6. m[i,j] := maxint;7. FOR k := i TO j-1 DO8. BEGIN9. q := m[i,k]+m[k+1,j] + p[i-1]*p[k]*p[j];10. IF q < m[i,j]11. THEN BEGIN12. m[i,j] := q;13. s[i,j] := k14. END15. END16. END;

Complexité proportionnelle à n3

26/7/2006 Programmation dynamique 46

Multiplication de matrices Pour afficher le parenthésage optimal, il

suffit d’effectuer un parcours récursif dans la matrice m.

26/7/2006 Programmation dynamique 47

Multiplication de matrices1. PROCEDURE print_matrix_chain_multiply(i,j : integer);2. BEGIN3. IF j > i4. THEN BEGIN5. write('(');6. print_matrix_chain_multiply(i,s[i,j]);7. write('*');8. print_matrix_chain_multiply(s[i,j]+1,j);9. write(')')10. END11. ELSE write(i)12. END;

Appel : print_matrix_chain_multiply(1,n)

26/7/2006 Programmation dynamique 48

Plus longue sous-suite commune Une sous-suite d’une suite est la suite en question

dont éventuellement certains éléments sont manquants.

Exemple : BCDB est une sous-suite de la suite ABCBDAB

Soit deux suites X et Y. On appelle sous-suite commune une suite qui est sous-suite de X et de Y

Exemple : X = ABCBDAB Y=BDCABA BCA est une sous-suite commune à X et Y alors que BCBA et BDAB sont deux sous-suites les plus

longues communes à X et à Y

26/7/2006 Programmation dynamique 49

Plus longue sous-suite commune

Calculer la PLSSC de deux suites par la force brute n’est pas praticable dû au nombre exponentiel de possibilités.

26/7/2006 Programmation dynamique 50

Plus longue sous-suite commune

Soit Xi = x1x2…xi le ième préfixe de X=x1x2..xm

Soit c[i,j] la longueur de la PLSSC de Xi et Y j.

Si xi ≠ yj alors la PLSSC ne peut inclure à la fois xi et yj. Donc elle doit être soit une PLSSC de x1x2…xi-1 et y1y2…yj

une PLSSC de x1x2…xi et y1y2…yj-1

26/7/2006 Programmation dynamique 51

Plus longue sous-suite commune

Si i ou j vaut 0, alors c[i,j] = 0. Si xi = yj et i,j >0, alors c[i,j] = c[i-1,j-1]+1

Si xi ≠ yj et i,j >0, alors

C[i,j] = max(c[i,j-1], c[i-1,j])

26/7/2006 Programmation dynamique 52

Plus longue sous-suite commune1. FOR i := 0 TO m DO c[i,0] := 0;2. FOR j := 0 TO n DO c[0,j] := 0;3. FOR i := 1 TO m DO4. FOR j := 1 TO n DO5. IF x[i] = y[j]6. THEN BEGIN7. c[i,j] := c[i-1,j-1]+1;8. b[i,j] := upleft9. END10. ELSE IF c[i-1,j] >= c[i,j-1]11. THEN BEGIN12. c[i,j] := c[i-1,j];13. b[i,j] := up14. END15. ELSE BEGIN16. c[i,j] := c[i,j-1];17. b[i,j] := left18. END;19. lcs := c[m,n]

Complexité proportionnelle à m·n

26/7/2006 Programmation dynamique 53

Plus longue sous-suite commune

L’affichage du résultat (la sous-suite commune) se fait à l’aide d’un parcours récursif dans le tableau d’aide B à deux entrées (pour X et pour Y) rempli des valeurs (left, up, upleft).

26/7/2006 Programmation dynamique 54

Plus longue sous-suite commune

B D C A B A 0 0 0 0 0 0A 0 0U 0U 0U 1\ 1L 1\B 0 1\ 1L 1L 1U 2\ 2LC 0 1U 1U 2\ 2L 2U 2UB 0 1\ 1U 2U 2U 3\ 3LD 0 1U 2\ 2U 2U 3U 3UA 0 1U 2U 2U 3\ 3U 4\B 0 1\ 2U 2U 3U 4\ 4U

début

26/7/2006 Programmation dynamique 55

Plus longue sous-suite commune1. PROCEDURE print_lcs(s : string200; i,j : integer);2. BEGIN3. IF (i<>0) AND (j<>0)4. THEN IF b[i,j] = upleft5. THEN BEGIN6. print_lcs(s,i-1,j-1);7. write(s[i])8. END9. ELSE IF b[i,j] = up THEN print_lcs(s,i-1,j)10. ELSE print_lcs(s,i,j-1)11. END;

26/7/2006 Programmation dynamique 56

Problème 10131 Some people think that the bigger an elephant is, the smarter it

is. To disprove this, you want to take the data on a collection of elephants and put as large a subset of this data as possible into a sequence so that the weights are increasing, but the IQ's are decreasing.

The input will consist of data for a bunch of elephants, one elephant per line, terminated by the end-of-file. The data for a particular elephant will consist of a pair of integers: the first representing its size in kilograms and the second representing its IQ in hundredths of IQ points. Both integers are between 1 and 10000. The data will contain information for at most 1000 elephants. Two elephants may have the same weight, the same IQ, or even the same weight and IQ.

26/7/2006 Programmation dynamique 57

Problème 10131 Say that the numbers on the i-th data line are W[i] and S[i]. Your

program should output a sequence of lines of data; the first line should contain a number n; the remaining n lines should each contain a single positive integer (each one representing an elephant). If these n integers are a[1], a[2],..., a[n] then it must be the case that

W[a[1]] < W[a[2]] < ... < W[a[n]]

and

S[a[1]] > S[a[2]] > ... > S[a[n]]

In order for the answer to be correct, n should be as large as possible. All inequalities are strict: weights must be strictly increasing, and IQs must be strictly decreasing. There may be many correct outputs for a given input, your program only needs to find one.

26/7/2006 Programmation dynamique 58

Problème 10131Sample Input

6008 13006000 2100500 20001000 40001100 30006000 20008000 14006000 12002000 1900

Sample Output

44597

top related