des réseaux de contraintes valuées aux problèmes de décision séquentielle thomas schiex inra...

Des réseaux de contraintes valuées aux

problèmes de décision séquentielle

Thomas SchiexINRA – Toulouse

France

Cédric PraletONERA - ToulouseFrance

Javier LarrosaUPC - Barcelone

Juillet 2007 IA Fondamentale – GDR I3 2

Plan (partie 1)

1. Formalisme VCSP Générique, instances, usages

2. Algorithmes pour les VCSP Recherche complète et incomplète Inférence complète et incomplète

3. Complexité, classes polynomiales


Réseaux de contraintes, SAT : Problèmes de décision (booléens) définis par un ensemble de relations locales (contraintes, clauses).

Réseaux valués : Ajout de préférences, incertitudes définies par des fonctions locales => optimisation...

Pourquoi les VCSP ?


Exemple

Affectation de fréquences

Un réseau de télécommunication sans fil

Sous contraintes techniques …trouver pour chaque lien la

meilleure fréquence possible.

Meilleure peut être : Qui minimise la fréquence maximum (max) Qui minimise les interférences entre paires

de liens (somme)


Exemple

Traitement de réseaux d’informations probabiliste (produit), possibiliste (max)…

Une distribution jointe définie par un GOSC (DAG) de plausibilités conditionnelles

Des observations (contraintes) …trouver l’explication la plus

plausible des observations (max-produit, min-max)

Génétique, image, signal (champs markoviens, graphes de facteurs)

Réseaux de contraintes…

Valuées PondéréesSemi-anneau Flou

Probabiliste


Réseau de fonctions de coûts

(X,D,C) X={x1,..., xn} variables D={D1,..., Dn} domaines finis C={f,...} fonctions de coût locales

fS, fij, fi f∅ portée S,{xi,xj},{xi}, ∅ fS(t): E (ordonné par ≼, T≼ )

Fonction jointe: F(X)= fS (X[S]) Solution: F(t) T Requête: Minimiser la fonction jointe

neutre

• commutatif• associatif• monotone

absorbant


Exemple CSP classique (3-coloriage)

x3

x2

x5

x1 x4

Pour chaque arête(contrainte)

xi xj f(xi,xj

)

b b T

b g

b r

g b

g g T

g r

r b

r g

r r T


Réseau pondéré (WCSP, = +)

x3

x2

x5

x1 x4

F(X): nombre de sommets qui ne sont pas bleus

Pour chaque sommetxi f(xi

)

b 0

g 1

r 1


Structures de coûts et formalismes

booléen{,T}

Totalementordonné

Semi-anneau

Valuésidempotent

multicritère

treillis

mul

tiple


Idempotence

a a = a (pour tout a)

Si fS dominée par la fonction jointe de (X,D,C)

(X,D,C) ≡ (X,D,C{fS}) Contraintes: = et Possibilistes: = max …

Recherche systématique

Branch & bound(s)Séparation et évaluation


I - Affectation (conditioning)

xi xj f(xi,xj

)

b b T

b g 0

b r 3

g b 0

g g T

g r 0

r b 0

r g 0

r r T

f[xi=b]

xj

b T

g 0

r 3g(xj)

g[xj=r]

0

3h


Recherche systématique

(LB) Minorant

(UB) Majorant

Si alors couper

vari

ab

les

Sous estimation de la meilleure solution dans le

sous-arbre

= meilleure solution connue

Chaque nœud est un sous-problème VCSP

LBf

= f

= T

UBT

Recherche incomplète (locale)

Rien de vraiment spécifique

Inférence complète

Elimination de variable (bucket elimination)Programmation dynamique (non sérielle)


II - Combinaison (avec , + ici)

xi xj f(xi,xj

)

b b 6

b g 0

g b 0

g g 6

xj xk g(xj,x

k)

b b 6

b g 0

g b 0

g g 6

xi xj xk h(xi,xj,xk

)

b b b 12

b b g 6

b g b 0

b g g 6

g b b 6

g b g 0

g g b 6

g g g 12

= 0 6


III - Projection (élimination avec Min

ici)

xi xj f(xi,xj

)

b b 4

b g 6

b r 0

g b 2

g g 6

g r 3

r b 1

r g 0

r r 6

f[xi] xi g(xi)

b

g

r

0

0

2

g[]h

0

Min


Propriétés

Remplacer deux fonctions par leur combinaison ne change pas le problème

Si fS est la seule fonction impliquant x, remplacer f par f[S-{x}] préserve l’optimum


Elimination d’une variable

1. Choisir une variable2. Combiner les fonctions qui l’implique3. Eliminer la variable par projection

•Complexité Temps: (exp(deg+1))

Espace: (exp(deg))


Elimination de variables (bucket elimination)

Eliminer les variables une par une. Quand toutes sont éliminées, le

problème est résolu Les solutions optimales peuvent être

retrouvées

• Complexité: exponentielle en la largeur d’arbre•(treewidth, k-tree number, induced width, dimension…)

•Dépend de l’ordre d’élimination


SAT: résolution direct. (Davis & Putnam, 60) RO: Pr. dyn. non sérielle (Bertelé Brioschi,

72) SGBD: BD acyclique (Beeri et al 1983) Réseaux bayésiens: Belief propagation,

Join-tree (Pearl 88, Lauritzen et Spiegelhalter 88) CSP: cohérence adapt… (Dechter & Pearl 88) Algébrisée (Shenoy et Shafer 91, Bistarelli et al.

95, GDL 2000)

Histoire / terminologie

Inférence incomplète

Cohérence locale, filtrage, propagation


le coût optimal

Inférence incomplète

Compromis espace/temps - complétude

Limiter l’inférence à la production de certaines classes de fonctions de coûts

En espace/temps polynomial

Cohérences locales: noeud, arc… Produire un problème équivalent Produire un minorant sur

la cohérence


Cohérence d’arc classique

Un CSP est AC ssi xi, cij,

(cij ⋈ cj)[xi] n’apporte pas d’information sur xi

w

v v

w

i j

T

T

xi xj cij

v v v w w v T

w w T

xi c(xi)

v w T

cij ⋈ cj

(cij ⋈ cj)[xi]


Extension « naïve » au cas valué

w

v v

w

0

0

0

0

i j

2

1

xi xj fij

v v 0

v w 0

w v 2

w w 1

Xi f(xi)

v 0

w 1

fij fj

1

Toujours équivalent ssi est idempotent

Pour tout xi et fij

f=(fij fj)[xi] n’apporte pas d’information sur xi

(fij fj)[xi]

SINONEQUIVALENCE PERDUE


Combinaison+Projection+Soustraction: « Equivalence Preserving Transformation »

IV – Soustraction de fonctions de coûts

2

w

v v

w

0

0

0

i j1

01

1


Production de minorants non naïfs

w

0

1

yx

v

w

0

0

v1

f = 0 1

1

1

1


Confluence perdue

La recherche d’un point-fixe qui maximise f

est NP-difficile (2004).

Il est possible de faire mieux en temps polynomial (OSAC, 2007)

w

0

1

yx

v

w

0

0

v

f = 0 1

1

1

1


Hierarchie

NC* O(nd)

AC* O(n 2d 3) DAC* O(ed 2)

FDAC* O(end 3)AC

NC

DAC

Cas CSP classique (Top=1)

EDAC* O(ed2 max{nd,T})

OSAC* (Prog. Linéaire)


BT

MNC

MAC/MDAC

MFDAC

MEDAC


Accélérer la recherche systématique par cohérence locale

Affectation de fréquence CELAR6-sub4 (22 var, 44 val, 477 cost func):

MNC*1 an estimé MFDAC* 1 heure

CELAR6 (100 var, 44 val, 1322 cost func):

MEDAC+ structure 3 heures (toolbar-BTD)

Complexité, classes polynomiales

Arbres, largeur d’arbre bornéeIdempotent ou non…


Classes polynomialesRéseaux min-max (possibilistes/flous)

Les -coupes permettent de généraliser les classes pol. classiques Il suffit que la classe polynomiale soit

conservée par -coupe

CSP temporel simple (avec des 1-intervalles de temps) : xi-xj∊[aij,bij]

STCN flous: pol. si toute coupe des fonctions de coût est un 1-intervalle (semi-convexe)


Cas additif(weighted/boolean)

MaxSat est MAXSNP complet (pas de PTAS) Langages pol. totalement caractérisés

pour MaxSAT (Creignou 2001)

MaxCSP: (x = y) ? 0 : 1 est NP-dur Fonctions sous-modulaires: polynomial

(OSAC)(u ≤ x, v ≤ y f(u,v)+f(x,y) ≤ f(u,y)+f(x,v)) (Cohen

et al.)


Librairies Open sourceToolbar & Toulbar2

Accessible depuis le wiki Soft :

carlit.toulouse.inra.fr/cgi-bin/awki.cgi/SoftCSP Alg: BE-

VE,MNC,MAC,MDAC,MFDAC,MEDAC,MPIC,BTD Connexion ILOG solver, large

domaines/problèmes… Formats MaxCSP/SAT (pondérés) et ERGO (BN) Des milliers de benchmarks, format documenté Pointeurs vers d’autres outils (MaxSAT/CSP) Forge mulcyber.toulouse.inra.fr/projects/toolbar (toulbar2)

Pwd: bia31


Plus sur le sujet…

Handbook of Constraint Programming

Elsevier978 pages, Août 2006


Un point

Beaucoup reste à faire Techniques: symétries, apprentissage,

compilation… Algorithmes: meilleurs minorants, nouvelles

cohérences locales, dominance, fonctions de coûts globales, structure du problème.

Implémentation: intégration avec les outils classiques (Choco, Solver, Minion…)

Applications: modélisation, résolution, heuristiques (guider), résolution incomplète...

Extension: à d’autres problèmes que l’optimisation (compter, quantifier…)


Changement

Min

CombinaisonProjection/Elimination


Discussion

WCSP et CSP Un WCSP peut se modéliser comme un

CSP

Une fonction de coût fS

Une nouvelle variable xf

Une contrainte Rf xf= fS(…)

Pourquoi s’intéresser aux WCSP ?


Discussion

Les modèles « graphiques » omniprésents?

IAF (SAT, CSP, BN…) Planification / Décision séquentielle Analyse d’image (Champs Markov) Théorie du signal (Factor graphs) Statistique, machine learning Modélisation de systèmes complexes

Un modèle fédérateur ?


Discussion

Si les modèles graphiques le permettent

N’y a-t-il pas un intérêt scientifique à fédérer les formalismes, propriétés, algorithmes ?

Comment peut-on faire ? Sans s’éloigner des objectifs (applications) de chacun d’eux.

Cela est-il incompatible avec le « Publish or Perish » ?


Discussion

IA fondamentale et mise en oeuvre:

Ne faut-il pas dédier une partie plus importante des efforts de l’IAF à la résolution jusqu’au boutiste de problèmes « pratiques » ?

Incohérent avec le côté fondamental ?

Quels problèmes ? Visibilité ?


Des références S.M. Aji, R.J. McEliece. The Generalized Distributive Law. IEEE Trans. Inform.

Theory, 46(2). Mars 2000, pages 325-343. S. Bistarelli, U. Montanari and F. Rossi, Semiring-based Constraint

Satisfaction and Optimization, Journal of ACM, vol.44, n.2, pp. 201-236, March 1997.

S. Bistarelli, H. Fargier, U. Montanari, F. Rossi, T. Schiex, G. Verfaillie. Semiring-Based CSPs and Valued CSPs: Frameworks, Properties, and Comparison. CONSTRAINTS, Vol.4, N.3, September 1999.

S. Bistarelli, R. Gennari, F. Rossi. Constraint Propagation for Soft Constraint Satisfaction Problems: Generalization and Termination Conditions , in Proc. CP 2000

C. Blum and A. Roli. Metaheuristics in combinatorial optimization: Overview and conceptual comparison. ACM Computing Surveys, 35(3):268-308, 2003.

T. Schiex, Arc consistency for soft constraints, in Proc. CP’2000. M. Cooper, T. Schiex. Arc consistency for soft constraints, Artificial

Intelligence, Volume 154 (1-2), 199-227 2004. M. Cooper. Reduction Operations in fuzzy or valued constraint satisfaction

problems. Fuzzy Sets and Systems 134 (3) 2003. A. Darwiche. Recursive Conditioning. Artificial Intelligence. Vol 125, No 1-2,

pages 5-41. R. Dechter. Bucket Elimination: A unifying framework for Reasoning.

Artificial Intelligence, October, 1999. R. Dechter, Mini-Buckets: A General Scheme For Generating Approximations

In Automated Reasoning In Proc. Of IJCAI97


References

S. de Givry, F. Heras, J. Larrosa & M. Zytnicki. Existential arc consistency: getting closer to full arc consistency in weighted CSPs. In IJCAI 2005.

W.-J. van Hoeve, G. Pesant and L.-M. Rousseau. On Global Warming: Flow-Based Soft Global Constraints. Journal of Heuristics 12(4-5), pp. 347-373, 2006.

P. Jégou & C. Terrioux. Hybrid backtracking bounded by tree-decomposition of constraint networks. Artif. Intell. 146(1): 43-75 (2003)

F.R. Kschischang, B.J.Frey, H-A Loeliger. Factor Graphs and the Sum-Product Algorithm. IEEE Trans. Inf. Theory. 47(2), Février 2001. pages 498-519.

J. Larrosa & T. Schiex. Solving Weighted CSP by Maintaining Arc Consistency. Artificial Intelligence. 159 (1-2): 1-26, 2004.

J. Larrosa and T. Schiex. In the quest of the best form of local consistency for Weighted CSP, Proc. of IJCAI'03

J. Larrosa, P. Meseguer, T. Schiex Maintaining Reversible DAC for MAX-CSP. Artificial Intelligence.107(1), pp. 149-163.

R. Marinescu and R. Dechter. AND/OR Branch-and-Bound for Graphical Models. In proceedings of IJCAI'2005.

J.C. Regin, T. Petit, C. Bessiere and J.F. Puget. An original constraint based approach for solving over constrained problems. In Proc. CP'2000.

T. Schiex, H. Fargier et G. Verfaillie. Valued Constraint Satisfaction Problems: hard and easy problems In Proc. of IJCAI 95.

G. Shafer, P. Shenoy. Local computations in hyper-trees. Working paper 201. Juillet 1991.

G. Verfaillie, M. Lemaitre et T. Schiex. Russian Doll Search Proc. of AAAI'96.


References (SAT)

M. Bonet, J. Levy and F. Manya. A complete calculus for max-sat. In SAT 2006.

M. Davis & H. Putnam. A computation procedure for quantification theory. In JACM 3 (7) 1960.

I. Rish and R. Dechter. Resolution versus Search: Two Strategies for SAT. In Journal of Automated Reasoning, 24 (1-2), 2000.

F. Heras & J. Larrosa. New Inference Rules for Efficient Max-SAT Solving. In AAAI 2006.

J. Larrosa, F. Heras. Resolution in Max-SAT and its relation to local consistency in weighted CSPs. In IJCAI 2005.

C.M. Li, F. Manya and J. Planes. Improved branch and bound algorithms for max-sat. In AAAI 2006.

H. Shen and H. Zhang. Study of lower bounds for max-2-sat. In proc. of AAAI 2004.

Z. Xing and W. Zhang. MaxSolver: An efficient exact algorithm for (weighted) maximum satisfiability. Artificial Intelligence 164 (1-2) 2005.

des réseaux de contraintes valuées aux problèmes de décision séquentielle thomas schiex inra...

Documents