Transcript
Page 1: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques mystères de la complexité algébique

Pascal KoiranLIP, Ecole Normale Supérieure de Lyon

ENS Cachan, 10 septembre 2013

Page 2: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Qu’est-ce que la complexité algébrique ?

I But de la complexité algorithmique :déterminer le coût asymptotique du “meilleur algorithme”pour un problème donné.Le coût :temps de calcul, espace mémoire, communication, énergie. . .

I En complexité algébrique :coût = nombre d’opérations arithmétiques.

Page 3: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Qu’est-ce que la complexité algébrique ?

I But de la complexité algorithmique :déterminer le coût asymptotique du “meilleur algorithme”pour un problème donné.Le coût :temps de calcul, espace mémoire, communication, énergie. . .

I En complexité algébrique :coût = nombre d’opérations arithmétiques.

Page 4: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Qu’est-ce que la complexité algébrique ?

I But de la complexité algorithmique :déterminer le coût asymptotique du “meilleur algorithme”pour un problème donné.Le coût :temps de calcul, espace mémoire, communication, énergie. . .

I En complexité algébrique :coût = nombre d’opérations arithmétiques.

Page 5: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Premier mystère :la complexité de la multiplication de matrices

Soient A et B des matrices n × n et C = AB .

cij =n∑

k=1

aikbkj

n3 multiplications, n2(n − 1) additions.

Page 6: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Multiplication de matrices de taille 2 :algorithme de Strassen

(c11 c12c21 c22

)=

(a11 a12a21 a22

)(b11 b12b21 b22

).

On calcule les 7 produits :p1 = (a11 + a22)(b11 + b22)p2 = (a21 + a22)b11p3 = a11(b12 − b22)p4 = a22(−b11 + b21)p5 = (a11 + a12)b22p6 = (−a11 + a21)(b11 + b12)p7 = (a12 − a22)(b21 + b22).(

c11 c12c21 c22

)=

(p1 + p4 − p5 + p7 p3 + p5

p2 + p4 p1 + p3 − p2 + p6

)

Page 7: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Multiplication de matrices de taille 2, suite

Vérification :

c12 = p3 + p5 = a11(b12 − b22) + (a11 + a12)b22 = a11b12 + a12b22.

Bilan : 7 multiplications, 18 additions(8 et 4 pour la méthode usuelle).Intérêt ?Les entrées de A et B peuvent appartenir à un anneau,même non commutatif, par exemple un anneau de matrices !Dans ce cas, une multiplication coûte plus cher que 14 additions.

Remarques :I Comme l’algorithme usuel, cet algorithme est bilinéaire

(on ne multiplie les entrées d’une matricequ’avec les entrées de l’autre matrice).

I Contrairement à l’algorithme usuel, il y a des annulations.

Page 8: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Multiplication de matrices de taille 2, suite

Vérification :

c12 = p3 + p5 = a11(b12 − b22) + (a11 + a12)b22 = a11b12 + a12b22.

Bilan : 7 multiplications, 18 additions(8 et 4 pour la méthode usuelle).Intérêt ?Les entrées de A et B peuvent appartenir à un anneau,même non commutatif, par exemple un anneau de matrices !Dans ce cas, une multiplication coûte plus cher que 14 additions.

Remarques :I Comme l’algorithme usuel, cet algorithme est bilinéaire

(on ne multiplie les entrées d’une matricequ’avec les entrées de l’autre matrice).

I Contrairement à l’algorithme usuel, il y a des annulations.

Page 9: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Multiplication de matrices de taille 2, suite

Vérification :

c12 = p3 + p5 = a11(b12 − b22) + (a11 + a12)b22 = a11b12 + a12b22.

Bilan : 7 multiplications, 18 additions(8 et 4 pour la méthode usuelle).Intérêt ?Les entrées de A et B peuvent appartenir à un anneau,même non commutatif, par exemple un anneau de matrices !Dans ce cas, une multiplication coûte plus cher que 14 additions.

Remarques :I Comme l’algorithme usuel, cet algorithme est bilinéaire

(on ne multiplie les entrées d’une matricequ’avec les entrées de l’autre matrice).

I Contrairement à l’algorithme usuel, il y a des annulations.

Page 10: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Multiplication de matrices de taille n :algorithme de Strassen

(C11 C12C21 C22

)=

(A11 A12A21 A22

)(B11 B12B21 B22

).

Les matrices Aij , Bij , Cij sont de taille n/2, a coefficients dans R .Soit T (n) = nombre d’opérations arithmétiques dans R .

T (n) = 18(n/2)2 + 7T (n/2)

On trouve T (n) = O(nlog2 7) ∼ n2,807.

Page 11: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Après Strassen

Soit ω le meilleur exposant possible.ω ≤ 2, 807 (Strassen, 1968)2,781 (Pan, 1978)2,780 (Bini et al., 1979)2,548 (Schönhage, 1979)2,522 (Pan, 1979)2,498 (Coppersmith - Winograd, 1980)2,479 (Strassen, 1986)2,375 (Coppersmith-Winograd, 1986)

2,3736 (Stothers, 2010)2,3727 (Williams, 2011)

ω = 2 n’est pas impossible.

Page 12: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Après Strassen

Soit ω le meilleur exposant possible.ω ≤ 2, 807 (Strassen, 1968)2,781 (Pan, 1978)2,780 (Bini et al., 1979)2,548 (Schönhage, 1979)2,522 (Pan, 1979)2,498 (Coppersmith - Winograd, 1980)2,479 (Strassen, 1986)2,375 (Coppersmith-Winograd, 1986)

2,3736 (Stothers, 2010)2,3727 (Williams, 2011)

ω = 2 n’est pas impossible.

Page 13: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques bornes inférieuresOn ne sait pas montrer que ω > 2 mais...On sait que le nombre de multiplications nécessaire est au moins :

I 2n2 − 1 (Lafon-Winograd, 1978)I 2n2 + n − 3 (Bläser, 1999)

Avec un algorithme bilinéaire il en faut au moins :I 2n2 − 1 (Brockett-Dobkin, 1978)I 5

2n2 − 3n (Bläser, 1999)I 3n2 − 4n3/2 + n (Landsberg, 2012)

Sans soustractions, pas d’annulations :I Il faut n3 multiplications (Paterson, 1975).

Si on ne multiplie que par des constantes ≤ 1 en valeur absolue :I Il faut Ω(n2 log n) opérations arithmétiques (Raz, 2002)

Remarque : Pour montrer de telles bornes inférieures,il faut se donner un modèle de calcul bien défini.

Page 14: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques bornes inférieuresOn ne sait pas montrer que ω > 2 mais...On sait que le nombre de multiplications nécessaire est au moins :

I 2n2 − 1 (Lafon-Winograd, 1978)I 2n2 + n − 3 (Bläser, 1999)

Avec un algorithme bilinéaire il en faut au moins :I 2n2 − 1 (Brockett-Dobkin, 1978)I 5

2n2 − 3n (Bläser, 1999)I 3n2 − 4n3/2 + n (Landsberg, 2012)

Sans soustractions, pas d’annulations :I Il faut n3 multiplications (Paterson, 1975).

Si on ne multiplie que par des constantes ≤ 1 en valeur absolue :I Il faut Ω(n2 log n) opérations arithmétiques (Raz, 2002)

Remarque : Pour montrer de telles bornes inférieures,il faut se donner un modèle de calcul bien défini.

Page 15: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques bornes inférieuresOn ne sait pas montrer que ω > 2 mais...On sait que le nombre de multiplications nécessaire est au moins :

I 2n2 − 1 (Lafon-Winograd, 1978)I 2n2 + n − 3 (Bläser, 1999)

Avec un algorithme bilinéaire il en faut au moins :I 2n2 − 1 (Brockett-Dobkin, 1978)I 5

2n2 − 3n (Bläser, 1999)I 3n2 − 4n3/2 + n (Landsberg, 2012)

Sans soustractions, pas d’annulations :I Il faut n3 multiplications (Paterson, 1975).

Si on ne multiplie que par des constantes ≤ 1 en valeur absolue :I Il faut Ω(n2 log n) opérations arithmétiques (Raz, 2002)

Remarque : Pour montrer de telles bornes inférieures,il faut se donner un modèle de calcul bien défini.

Page 16: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques bornes inférieuresOn ne sait pas montrer que ω > 2 mais...On sait que le nombre de multiplications nécessaire est au moins :

I 2n2 − 1 (Lafon-Winograd, 1978)I 2n2 + n − 3 (Bläser, 1999)

Avec un algorithme bilinéaire il en faut au moins :I 2n2 − 1 (Brockett-Dobkin, 1978)I 5

2n2 − 3n (Bläser, 1999)I 3n2 − 4n3/2 + n (Landsberg, 2012)

Sans soustractions, pas d’annulations :I Il faut n3 multiplications (Paterson, 1975).

Si on ne multiplie que par des constantes ≤ 1 en valeur absolue :I Il faut Ω(n2 log n) opérations arithmétiques (Raz, 2002)

Remarque : Pour montrer de telles bornes inférieures,il faut se donner un modèle de calcul bien défini.

Page 17: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques bornes inférieuresOn ne sait pas montrer que ω > 2 mais...On sait que le nombre de multiplications nécessaire est au moins :

I 2n2 − 1 (Lafon-Winograd, 1978)I 2n2 + n − 3 (Bläser, 1999)

Avec un algorithme bilinéaire il en faut au moins :I 2n2 − 1 (Brockett-Dobkin, 1978)I 5

2n2 − 3n (Bläser, 1999)I 3n2 − 4n3/2 + n (Landsberg, 2012)

Sans soustractions, pas d’annulations :I Il faut n3 multiplications (Paterson, 1975).

Si on ne multiplie que par des constantes ≤ 1 en valeur absolue :I Il faut Ω(n2 log n) opérations arithmétiques (Raz, 2002)

Remarque : Pour montrer de telles bornes inférieures,il faut se donner un modèle de calcul bien défini.

Page 18: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques bornes inférieuresOn ne sait pas montrer que ω > 2 mais...On sait que le nombre de multiplications nécessaire est au moins :

I 2n2 − 1 (Lafon-Winograd, 1978)I 2n2 + n − 3 (Bläser, 1999)

Avec un algorithme bilinéaire il en faut au moins :I 2n2 − 1 (Brockett-Dobkin, 1978)I 5

2n2 − 3n (Bläser, 1999)I 3n2 − 4n3/2 + n (Landsberg, 2012)

Sans soustractions, pas d’annulations :I Il faut n3 multiplications (Paterson, 1975).

Si on ne multiplie que par des constantes ≤ 1 en valeur absolue :I Il faut Ω(n2 log n) opérations arithmétiques (Raz, 2002)

Remarque : Pour montrer de telles bornes inférieures,il faut se donner un modèle de calcul bien défini.

Page 19: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

De très nombreux modèles de calcul...

pour étudier les nombreuses facettes du calcul.Exemples :Machines de Turing, circuits booléens, modèles quantiques,circuits arithmétiques.

I Les entrées sont des variables X1, . . . ,Xn,ou des constantes d’un corps K .

I A l’étape i on calcule Ri = Pi + Qi ou Ri = Pi × Qiavec Pi ,Qi : entrées ou résultats déjà calculés.

Un circuit calcule un ou plusieurs polynômes de K [X1, . . . ,Xn].

Page 20: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

De très nombreux modèles de calcul...

pour étudier les nombreuses facettes du calcul.Exemples :Machines de Turing, circuits booléens, modèles quantiques,circuits arithmétiques.

I Les entrées sont des variables X1, . . . ,Xn,ou des constantes d’un corps K .

I A l’étape i on calcule Ri = Pi + Qi ou Ri = Pi × Qiavec Pi ,Qi : entrées ou résultats déjà calculés.

Un circuit calcule un ou plusieurs polynômes de K [X1, . . . ,Xn].

Page 21: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Représentation graphique d’un circuit arithmétique

Circuit

×+

+ ×

+

x1 x2 x4k

Taille : 9Profondeur : 3

Ce modèle permet d’exprimer de nombreux algorithmes naturels,et de prouver des bornes inférieures.

Page 22: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Importance de la multiplication de matrices

I Un problème de base de l’algèbre linéaire.I L’exposant optimal ω est le même pour de nombreux

problèmes (inversion, déterminant, décomposition LU. . . ).

Une question plus simple :calcul du déterminant par des circuits de taille polynomiale ?

Page 23: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Elimination de Gauss

O(n3) opération, y compris des divisions !On obtient :

detA =P(aij)

Q(aij)

avec P,Q des polynômes calculés par des circuits arithmétiquesde taille O(n3).Elimination des divisions (Strassen) :pour diviser par 1− R on remarque que

11− R

=+∞∑k=0

Rk .

Pour R sans terme constant on peut tronquer au degré du résultat(n pour detA).

Page 24: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Elimination de Gauss

O(n3) opération, y compris des divisions !On obtient :

detA =P(aij)

Q(aij)

avec P,Q des polynômes calculés par des circuits arithmétiquesde taille O(n3).Elimination des divisions (Strassen) :pour diviser par 1− R on remarque que

11− R

=+∞∑k=0

Rk .

Pour R sans terme constant on peut tronquer au degré du résultat(n pour detA).

Page 25: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Elimination de Gauss

O(n3) opération, y compris des divisions !On obtient :

detA =P(aij)

Q(aij)

avec P,Q des polynômes calculés par des circuits arithmétiquesde taille O(n3).Elimination des divisions (Strassen) :pour diviser par 1− R on remarque que

11− R

=+∞∑k=0

Rk .

Pour R sans terme constant on peut tronquer au degré du résultat(n pour detA).

Page 26: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Détection des triangles dans un graphe

Dans un graphe G = (V ,E ), 3 sommets distincts i , j , k ⊆ Vforment un triangle si ij , jk , ki ⊆ E .

Problème : G contient-il un triangle ?

Algorithme naif : tester les(|V |

3

)triplets de sommets.

Peut-on faire mieux ?

Page 27: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Le retour de la multiplication

Matrice d’adjacence de G :Pour chaque couple de sommets (i , j),Aij = 1 si ij ∈ E , Aij = 0 sinon.C’est une matrice symétrique.

(A2)ij =∑n

k=1 AikAkj ≥ 1 ssi il existe k tel que ik ∈ E et kj ∈ E .

Algorithme :1. Calculer A2 par multiplication rapide.2. Pour chaque arête ij ∈ E : vérifier si (A2)ij ≥ 1 ;

si oui, il y a un triangle.

Page 28: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Le retour de la multiplication

Matrice d’adjacence de G :Pour chaque couple de sommets (i , j),Aij = 1 si ij ∈ E , Aij = 0 sinon.C’est une matrice symétrique.

(A2)ij =∑n

k=1 AikAkj ≥ 1 ssi il existe k tel que ik ∈ E et kj ∈ E .

Algorithme :1. Calculer A2 par multiplication rapide.2. Pour chaque arête ij ∈ E : vérifier si (A2)ij ≥ 1 ;

si oui, il y a un triangle.

Page 29: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Borne inférieure pour la détection de triangle :le modèle approprié ?

Données booléennes (matrice d’adjacence).

1. Circuits arithmétiques sur Z/2Z.2. Circuits booléens :

les opérations sont ∨,∧,¬ au lieu de +,×.

Ces deux modèles sont équivalents :par exemple, x ∧ y = xy , x ∨ y = x + y + xy , ¬x = x + 1.

3. Circuits booléens monotones : pas de ¬.

Dans ce modèle : borne inférieure en n3/(log n)6 (Razborov, 1985).

Page 30: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Borne inférieure pour la détection de triangle :le modèle approprié ?

Données booléennes (matrice d’adjacence).

1. Circuits arithmétiques sur Z/2Z.2. Circuits booléens :

les opérations sont ∨,∧,¬ au lieu de +,×.

Ces deux modèles sont équivalents :par exemple, x ∧ y = xy , x ∨ y = x + y + xy , ¬x = x + 1.

3. Circuits booléens monotones : pas de ¬.

Dans ce modèle : borne inférieure en n3/(log n)6 (Razborov, 1985).

Page 31: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Borne inférieure pour la détection de triangle :le modèle approprié ?

Données booléennes (matrice d’adjacence).

1. Circuits arithmétiques sur Z/2Z.2. Circuits booléens :

les opérations sont ∨,∧,¬ au lieu de +,×.

Ces deux modèles sont équivalents :par exemple, x ∧ y = xy , x ∨ y = x + y + xy , ¬x = x + 1.

3. Circuits booléens monotones : pas de ¬.

Dans ce modèle : borne inférieure en n3/(log n)6 (Razborov, 1985).

Page 32: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Borne inférieure pour la détection de triangle :le modèle approprié ?

Données booléennes (matrice d’adjacence).

1. Circuits arithmétiques sur Z/2Z.2. Circuits booléens :

les opérations sont ∨,∧,¬ au lieu de +,×.

Ces deux modèles sont équivalents :par exemple, x ∧ y = xy , x ∨ y = x + y + xy , ¬x = x + 1.

3. Circuits booléens monotones : pas de ¬.

Dans ce modèle : borne inférieure en n3/(log n)6 (Razborov, 1985).

Page 33: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissances de matrices

I (A2)ij : nombre de chemins de longueur 2 de i à j .I (Ak)ij : nombre de chemins de longueur k de i à j .I Se généralise aux graphes orientés

(matrice d’adjacence non nécessairement symétrique).I Se généralise aux graphes avec poids sur les arêtes

(poids d’un chemin = produit du poids de ses arêtes).

Page 34: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissances de matrices

I (A2)ij : nombre de chemins de longueur 2 de i à j .I (Ak)ij : nombre de chemins de longueur k de i à j .I Se généralise aux graphes orientés

(matrice d’adjacence non nécessairement symétrique).I Se généralise aux graphes avec poids sur les arêtes

(poids d’un chemin = produit du poids de ses arêtes).

Page 35: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissances de matrices

I (A2)ij : nombre de chemins de longueur 2 de i à j .I (Ak)ij : nombre de chemins de longueur k de i à j .I Se généralise aux graphes orientés

(matrice d’adjacence non nécessairement symétrique).I Se généralise aux graphes avec poids sur les arêtes

(poids d’un chemin = produit du poids de ses arêtes).

Page 36: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissances de matrices

I (A2)ij : nombre de chemins de longueur 2 de i à j .I (Ak)ij : nombre de chemins de longueur k de i à j .I Se généralise aux graphes orientés

(matrice d’adjacence non nécessairement symétrique).I Se généralise aux graphes avec poids sur les arêtes

(poids d’un chemin = produit du poids de ses arêtes).

Page 37: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Second mystère :la complexité du calcul du permanent

Un petit cousin du déterminant :

per(X ) =∑σ∈Sn

n∏i=1

Xiσ(i)

Un autre problème de borne inférieure :

Conjecture de Valiant : Le permanent n’est pas calculablepar des circuits arithmétiques de taille polynomiale en n(sauf dans un corps de caractéristique 2).

C’est un analogue algébrique de la conjecture P 6= NP.

Page 38: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Second mystère :la complexité du calcul du permanent

Un petit cousin du déterminant :

per(X ) =∑σ∈Sn

n∏i=1

Xiσ(i)

Un autre problème de borne inférieure :

Conjecture de Valiant : Le permanent n’est pas calculablepar des circuits arithmétiques de taille polynomiale en n(sauf dans un corps de caractéristique 2).

C’est un analogue algébrique de la conjecture P 6= NP.

Page 39: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Mariages parfaits

Etant donnés n hommes et n femmes qui peuvent se connaître(ou non),peut-on marier les n femmes à n hommes qui les connaissent ?

I On peut répondre à cette question en temps polynomial.I Compter le nombre de solutions est conjecturé difficile

(Valiant).

Page 40: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Mariage et permanent

# mariage parfaits = 2 = per

1 1 00 1 11 0 1

← Ann← Beth← Carla

(C’est la matrice d’adjacence bipartie du graphe)

Entrées non booléennes ⇔ poids sur les arêtes.

Page 41: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Mariage et permanent

# mariage parfaits = 2 = per

1 1 00 1 11 0 1

← Ann← Beth← Carla

(C’est la matrice d’adjacence bipartie du graphe)

Entrées non booléennes ⇔ poids sur les arêtes.

Page 42: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Réduction de profondeur pour les circuits arithmétiquesI Un sujet d’actualité dans les années 1970/80.I Réduction à la profondeur 4 : circuits de la forme ΣΠΣΠ.

Le degré entrant des portes + et × est non borné.

x1 xn

× ×

+ +

× ×

+

×

×

Page 43: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Réduction de profondeur pour les circuits arithmétiquesI Un sujet d’actualité dans les années 1970/80.I Réduction à la profondeur 4 : circuits de la forme ΣΠΣΠ.

Le degré entrant des portes + et × est non borné.

x1 xn

× ×

+ +

× ×

+

×

×

Page 44: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Réduction à la profondeur 4

Théorème (Agrawal-Vinay 2008, cas particulier) :Un polynôme multilinéaire en m variablesavec un circuit de taille 2o(m)

est calculable par un circuit de profondeur 4 et de taille 2o(m).

I Application potentielle (directe ou indirecte)aux bornes inférieures.

I Réduction à la profondeur 3 (ΣΠΣ) :Gupta-Kamath-Kayal-Saptharishi 2013.

Page 45: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissance de matrice en profondeur 4

Pour calculer Ad = (A√

d )√

d :

1. Calculer B = Aδ avec δ =√

d . On a :

Bij =∑

1≤i2,i3,...,iδ≤n

Aii2Ai2i3 · · ·Aiδ−1iδAiδ j .

2. Calculer Bδ.

Coût de l’algorithme :1. Chaque Bij : nδ−1 multiplications d’arités δ,

une addition d’arité nδ−1.Profondeur 2.

2. Seconde étape : même chose.

Au total : O(n√

d+1) opérations arithmétiques, profondeur 4.

Page 46: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissance de matrice en profondeur 4

Pour calculer Ad = (A√

d )√

d :

1. Calculer B = Aδ avec δ =√

d . On a :

Bij =∑

1≤i2,i3,...,iδ≤n

Aii2Ai2i3 · · ·Aiδ−1iδAiδ j .

2. Calculer Bδ.

Coût de l’algorithme :1. Chaque Bij : nδ−1 multiplications d’arités δ,

une addition d’arité nδ−1.Profondeur 2.

2. Seconde étape : même chose.

Au total : O(n√

d+1) opérations arithmétiques, profondeur 4.

Page 47: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Un autre modèle de calcul : les programmes à branchement

Graphe orienté sans cycle avec 2 sommets distingués s, t.

I Arêtes étiquetées par des variables ou des constantes.I Poids d’un chemin = produit des poids de ses arêtes.I sortie = somme des poids de tous les chemins de s à t.

Une représentation du polynôme z(x + 3y) :

3

xy

1

z

s

t

Page 48: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissances de matrices et programmes à branchement

Soit G un programme à branchement, A sa matrice d’adjacence.Supposons que tous les chemins de s à t sont de longueur `.Le polynôme représenté est (A`)st .

Théorème :Soit G un programme à branchement de taille m et de profondeur `.Il existe un circuit de profondeur 4 équivalent à G ,avec m2 + 1 portes d’addition et mO(

√`) portes de multiplication.

Page 49: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissances de matrices et programmes à branchement

Soit G un programme à branchement, A sa matrice d’adjacence.Supposons que tous les chemins de s à t sont de longueur `.Le polynôme représenté est (A`)st .

Théorème :Soit G un programme à branchement de taille m et de profondeur `.Il existe un circuit de profondeur 4 équivalent à G ,avec m2 + 1 portes d’addition et mO(

√`) portes de multiplication.

Page 50: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Réduction à la profondeur 4 pour les circuits arithmétiques

Théorème :Soit C un circuit arithmétique de taille t et degré d .Il existe un circuit de profondeur 4 équivalent de taille tO(

√d log d).

Principe de la preuve :C → programme à branchement → circuit de profondeur 4.

Page 51: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Une amélioration, et une borne inférieure

Théorème (Tavenas 2013) :Soit C un circuit arithmétique de taille t et degré d .Il existe un circuit de profondeur 4 équivalent de taille tO(

√d).

Corollaire :Si le permanent admet des circuits de taille polynomiale en n,il admet des circuits de profondeur 4 de taille nO(

√n).

Théorème (Gupta-Kamath-Kayal-Saptharishi 2013) :Tout circuit(∗) de profondeur 4 pour le permanentest de taille au moins 2Ω(

√n).

(*) Il faut supposer que le circuit est homogène et que les multiplicationsentre entrées sont d’arité O(

√n).

Page 52: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Une amélioration, et une borne inférieure

Théorème (Tavenas 2013) :Soit C un circuit arithmétique de taille t et degré d .Il existe un circuit de profondeur 4 équivalent de taille tO(

√d).

Corollaire :Si le permanent admet des circuits de taille polynomiale en n,il admet des circuits de profondeur 4 de taille nO(

√n).

Théorème (Gupta-Kamath-Kayal-Saptharishi 2013) :Tout circuit(∗) de profondeur 4 pour le permanentest de taille au moins 2Ω(

√n).

(*) Il faut supposer que le circuit est homogène et que les multiplicationsentre entrées sont d’arité O(

√n).

Page 53: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Une amélioration, et une borne inférieure

Théorème (Tavenas 2013) :Soit C un circuit arithmétique de taille t et degré d .Il existe un circuit de profondeur 4 équivalent de taille tO(

√d).

Corollaire :Si le permanent admet des circuits de taille polynomiale en n,il admet des circuits de profondeur 4 de taille nO(

√n).

Théorème (Gupta-Kamath-Kayal-Saptharishi 2013) :Tout circuit(∗) de profondeur 4 pour le permanentest de taille au moins 2Ω(

√n).

(*) Il faut supposer que le circuit est homogène et que les multiplicationsentre entrées sont d’arité O(

√n).

Page 54: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Bornes inférieures et racines réelles : une approche indirecte

Principe : obtenir des bornes inférieures à partir de généralisations(conjecturées) de la règle des signes.

Règle des signes (Descartes, 1596-1650) :

I Soit P(X ) =∑d

i=0 aiX i ∈ R[X ].I Soit Z+(P) le nombre de racines strictement positives.I Soit V (P) le nombre de changements de signes dans la suite

[a0, a1, . . . , ad ].

Alors Z+(P) ≤ V (P).

Page 55: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

La règle de Descartes sans les signes

Un résultat sur les polynômes creux.Théorème :Si f ∈ R[X ] a t monômes non nuls, f a au plus t − 1 racinesstrictement positives.Preuve : Récurrence sur t. Pas de racine > 0 pour t = 1.Pour t > 1 : Soit aαXα le monôme de plus petit degré.On peut supposer que α = 0 (sinon, diviser par Xα). Du coup :

(i) f ′ a t − 1 monômes ⇒ ≤ t − 2 racines strictement positives.(ii) Entre 2 racines strictement positives et consécutives de f :

il existe une racine strictement positive de f ′

(théorème de Rolle).

Corollaire : f a au plus 2t − 1 racines réelles.Cette borne est atteinte.

Page 56: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

La règle de Descartes sans les signes

Un résultat sur les polynômes creux.Théorème :Si f ∈ R[X ] a t monômes non nuls, f a au plus t − 1 racinesstrictement positives.Preuve : Récurrence sur t. Pas de racine > 0 pour t = 1.Pour t > 1 : Soit aαXα le monôme de plus petit degré.On peut supposer que α = 0 (sinon, diviser par Xα). Du coup :

(i) f ′ a t − 1 monômes ⇒ ≤ t − 2 racines strictement positives.(ii) Entre 2 racines strictement positives et consécutives de f :

il existe une racine strictement positive de f ′

(théorème de Rolle).

Corollaire : f a au plus 2t − 1 racines réelles.Cette borne est atteinte.

Page 57: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

La règle de Descartes sans les signes

Un résultat sur les polynômes creux.Théorème :Si f ∈ R[X ] a t monômes non nuls, f a au plus t − 1 racinesstrictement positives.Preuve : Récurrence sur t. Pas de racine > 0 pour t = 1.Pour t > 1 : Soit aαXα le monôme de plus petit degré.On peut supposer que α = 0 (sinon, diviser par Xα). Du coup :

(i) f ′ a t − 1 monômes ⇒ ≤ t − 2 racines strictement positives.(ii) Entre 2 racines strictement positives et consécutives de f :

il existe une racine strictement positive de f ′

(théorème de Rolle).

Corollaire : f a au plus 2t − 1 racines réelles.Cette borne est atteinte.

Page 58: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Des généralisations souhaitables

1. Si f et g ont t monômes :nombres maximum de solutions réelles pour f (x)g(x) = 1 ?Remarque : fg − 1 a au plus t2 + 1 monômes.Le nombre maximum de solutions est il quadratique en t ?linéaire ? intermédiaire ?

2. Idem pour f1f2 · · · fm = 1.3. τ -conjecture réelle

(sur les sommes de produits de polynômes creux) :Soit f (x) =

∑ki=1∏m

j=1 fij(x).Le nombre de racines réelles de f est polynomial en kmt.

Page 59: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Des généralisations souhaitables

1. Si f et g ont t monômes :nombres maximum de solutions réelles pour f (x)g(x) = 1 ?Remarque : fg − 1 a au plus t2 + 1 monômes.Le nombre maximum de solutions est il quadratique en t ?linéaire ? intermédiaire ?

2. Idem pour f1f2 · · · fm = 1.3. τ -conjecture réelle

(sur les sommes de produits de polynômes creux) :Soit f (x) =

∑ki=1∏m

j=1 fij(x).Le nombre de racines réelles de f est polynomial en kmt.

Page 60: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Des généralisations souhaitables

1. Si f et g ont t monômes :nombres maximum de solutions réelles pour f (x)g(x) = 1 ?Remarque : fg − 1 a au plus t2 + 1 monômes.Le nombre maximum de solutions est il quadratique en t ?linéaire ? intermédiaire ?

2. Idem pour f1f2 · · · fm = 1.3. τ -conjecture réelle

(sur les sommes de produits de polynômes creux) :Soit f (x) =

∑ki=1∏m

j=1 fij(x).Le nombre de racines réelles de f est polynomial en kmt.

Page 61: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Permanent et racines réelles

Théorème : Si la τ -conjecture réelle est vraie,pas de circuits de taille polynomiale pour le permanent.

Un ingrédient : réduction à la profondeur 4.

Circuit de profondeur 4 (∑∏∑∏

),avec des entrées constantes ou de la forme X 2i

mSomme de produits de polynômes creux

Page 62: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Permanent et racines réelles

Théorème : Si la τ -conjecture réelle est vraie,pas de circuits de taille polynomiale pour le permanent.

Un ingrédient : réduction à la profondeur 4.

Circuit de profondeur 4 (∑∏∑∏

),avec des entrées constantes ou de la forme X 2i

mSomme de produits de polynômes creux

Page 63: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Petit circuit, beaucoup de racines réellesI Soit Tn le polynôme de Tchebychev d’ordre n :

cos(nθ) = Tn(cos θ).

Par exemple : T1(x) = x , T2(x) = 2x2 − 1,T4(x) = 2(2x2 − 1)2 − 1.

I Tn est un polynôme de degré n avec n racines dans [−1, 1].I T2n(x) = T2(T2(· · ·T2(T2(x)) · · · )) : T2 itéré n fois.

Conséquence : circuit de taille O(n) pour T2n .

Graphes de T2 et T4 :

−1 −0.8 −0.6 −0.4 −0.2 0 0.2 0.4 0.6 0.8 1−1

−0.5

0

0.5

1

−1 −0.8 −0.6 −0.4 −0.2 0 0.2 0.4 0.6 0.8 1−1

−0.5

0

0.5

1

Page 64: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Un devoir à la maison

Si f et g ont t monômes :nombres maximum de solutions réelles de l’équation f (x)g(x) = 1 ?


Top Related