exercices corrig´es chaˆınes de ... - paris...

18
Processus al´ eatoires 1 Exercices corrig´ es Chaˆ ınes de Markov discr` etes 1. Dans un certain pays, il ne fait jamais beau deux jours de suite. Si un jour il fait beau, le lendemain il peut neiger ou pleuvoir avec autant de chances. Si un jour il pleut ou il neige, il y a une chance sur deux qu’il y ait changement de temps le lendemain, et s’il y a changement, il y a une chance sur deux que ce soit pour du beau temps. a) Former, ` a partir de cel` a, une chaˆ ıne de Markov et en d´ eterminer sa matrice de transition. b) Si un jour il fait beau, quel est le temps le plus probable pour le surlendemain? c) Si on suppose que l’on a que deux ´ etats (beau temps et mauvais temps), eterminer la matrice de transition de la nouvelle chaˆ ıne ainsi obtenue. a) On a l’ensemble des ´ etats suivants E = {BT,PL,N } et le temps pour un jour ne d´ epend que du temps du jour pr´ ec´ edent, ind´ ependamment de la p´ eriode de l’ann´ ee ´ egalement. On a donc bien une chaˆ ıne de Markov, de matrice de transition P = 0 1/2 1/2 1/4 1/2 1/4 1/4 1/4 1/2 . b) Pour le temps du surlendemain, il faut d´ eterminer P 2 . Mais seule la premi` ere ligne de P 2 nous int´ eresse car on veut d´ eterminer les probabilit´ es ` a partir d’un jour de beau temps. On a : p (2) BT,BT = p BT,BT × p BT,BT + p BT,PL × p P L,BT + p BT,N × p N,BT =0 × 0+ 1 2 × 1 4 + 1 2 × 1 4 = 2 8 = 1 4 p (2) BT,PL = p BT,BT × p BT,PL + p BT,PL × p P L,P L + p BT,N × p N,PL =0 × 1 4 + 1 2 × 1 2 + 1 2 × 1 4 = 3 8 p (2) BT,N = p BT,BT × p BT,N + p BT,PL × p P L,N + p BT,N × p N,N =0 × 1 4 + 1 2 × 1 4 + 1 2 × 1 2 = 3 8 . Ainsi, si un jour il fait beau, le temps le plus probable pour le surlendemain est la pluie ou la neige . c) On suppose maintenant que E = {BT,MT }, ce qui est possible puisque la pluie et la neige se comportent de la mˆ eme fa¸ con pour ce qui est des transitions. On a encore p BT,BT = 0 mais maintenant, p BT,MT = p BT,PL + p BT,N = 1. Pour la deuxi` eme ligne, on a p MT,BT = 1 4 car p P L,BT = p N,BT = 1 4 et p MT,MT = 3 4 car p P L,P L + p P L,N = p N,PL + p N,N = 3 4 . Ainsi, P = 0 1 1/4 3/4 .

Upload: others

Post on 17-Feb-2021

6 views

Category:

Documents


0 download

TRANSCRIPT

  • Processus aléatoires 1

    Exercices corrigés

    Châınes de Markov discrètes

    1. Dans un certain pays, il ne fait jamais beau deux jours de suite. Si un jour il faitbeau, le lendemain il peut neiger ou pleuvoir avec autant de chances. Si un jour il pleutou il neige, il y a une chance sur deux qu’il y ait changement de temps le lendemain, ets’il y a changement, il y a une chance sur deux que ce soit pour du beau temps.

    a) Former, à partir de celà, une châıne de Markov et en déterminer sa matrice detransition.

    b) Si un jour il fait beau, quel est le temps le plus probable pour le surlendemain?c) Si on suppose que l’on a que deux états (beau temps et mauvais temps),

    déterminer la matrice de transition de la nouvelle châıne ainsi obtenue.

    a) On a l’ensemble des états suivants E = {BT, PL, N} et le temps pour un jour ne dépend quedu temps du jour précédent, indépendamment de la période de l’année également. On a donc bien une

    châıne de Markov, de matrice de transition P =

    0 1/2 1/21/4 1/2 1/41/4 1/4 1/2

    .

    b) Pour le temps du surlendemain, il faut déterminer P 2. Mais seule la première ligne de P 2 nousintéresse car on veut déterminer les probabilités à partir d’un jour de beau temps. On a :

    p(2)BT,BT = pBT,BT × pBT,BT + pBT,PL × pPL,BT + pBT,N × pN,BT = 0 × 0 +

    12× 1

    4+

    12× 1

    4=

    28

    =14

    p(2)BT,PL = pBT,BT × pBT,PL + pBT,PL × pPL,PL + pBT,N × pN,PL = 0 ×

    14

    +12× 1

    2+

    12× 1

    4=

    38

    p(2)BT,N = pBT,BT × pBT,N + pBT,PL × pPL,N + pBT,N × pN,N = 0 ×

    14

    +12×

    14

    +12×

    12

    =38.

    Ainsi, si un jour il fait beau, le temps le plus probable pour le surlendemain est la pluie ou la neige .

    c) On suppose maintenant que E′ = {BT, MT}, ce qui est possible puisque la pluie et la neige secomportent de la même façon pour ce qui est des transitions. On a encore p′BT,BT = 0 mais maintenant,

    p′BT,MT = pBT,PL + pBT,N = 1. Pour la deuxième ligne, on a p′MT,BT =

    14

    car pPL,BT = pN,BT =14

    et

    p′MT,MT =34

    car pPL,PL + pPL,N = pN,PL + pN,N =34.

    Ainsi, P ′ =(

    0 11/4 3/4

    ).

  • 2 Exercices

    2. Trois chars livrent un combat. Le char A atteint sa cible avec la probabilité 2/3,le char B avec la probabilité 1/2 et le char C avec la probabilité 1/3. Ils tirent tousensembles et dès qu’un char est touché, il est détruit. On considère à chaque instant,l’ensemble des chars non détruits. Montrer qu’on obtient une châıne de Markov dont onexplicitera l’ensemble des états et la matrice de transition dans chacun des cas suivants :

    a) Chaque char tire sur son adversaire le plus dangereux ;

    b) A tire sur B ; B tire sur C et C tire sur A.

    L’ensemble des états est E = {ABC, AB, AC, BC, A, B, C, ∅}. Pour X ∈ {A, B, C}, on note encoreX l’événement “le char X atteint sa cible” (et donc X l’événement “le char X rate sa cible”). On a ainsiP (A) = 2/3, P (B) = 1/2 et P (C) = 1/3. Une fois qu’un char est descendu, il ne peut plus revenir etainsi, on peut commencer par mettre un certain nombre de 0 dans la matrice de transition. Si on estdans l’état A, B, C ou ∅, on est sûr d’y rester (plus d’adversaires!).

    a) S’il ne reste que 2 chars, par exemple A et B, on a pAB,AB = P (A)P (B) =13× 1

    2=

    16

    (les 2

    ratent!), pAB,B = P (A)P (B) =13× 1

    2=

    16

    (A rate, B réussit), pAB,A = P (A)P (B) =23× 1

    2=

    26

    (A

    réussit, B rate) et pAB,∅ = P (A)P (B) =23× 1

    2=

    26

    (les 2 réussissent). On procède de même pour ACet pour BC.

    Si on a les 3 chars, A tire sur B, B et C tirent sur A (et personne ne tire sur C, donc il reste au moins

    C). On a alors pABC,ABC = P (A)P (B)P (C) =13

    12

    23

    =218

    , pABC,AC = P (A)P (B)P (C) =23

    12

    23

    =418

    ,

    pABC,BC = P (A)P (B ∪C) = P (A)(1−P (B)P (C)) =13

    (1 −

    12

    23

    )=

    418

    et pABC,C = P (A)P (B ∪C) =

    P (A)(1 − P (B)P (C)) = 23

    (1− 1

    223

    )=

    818

    . On obtient ainsi la matrice et le graphe suivants :

    P =

    1/9 0 2/9 2/9 0 0 4/9 00 1/6 0 0 2/6 1/6 0 2/60 0 2/9 0 4/9 0 1/9 2/90 0 0 2/6 0 2/6 1/6 1/60 0 0 0 1 0 0 00 0 0 0 0 1 0 00 0 0 0 0 0 1 00 0 0 0 0 0 0 1

    b) S’il ne reste que A et B, A tire sur B et B continue à tirer sur C donc A n’est pas menacé etp′AB,A = P (A) = 2/3 alors que p

    ′AB,AB = P (A) = 1/3. De même avec A et C (A tire sur B, C sur A

    donc C n’est pas menacé), p′AC,C = P (C) = 1/3 et p′AC,AC = P (C) = 2/3. Avec B et C (B tire sur C

    et C sur A, donc B n’est pas menacé), p′BC,B = P (B) = 1/2 et p′BC,BC = P (B) = 1/2.

    Si on a les 3 chars, p′ABC,ABC = P (A)P (B)P (C) =13

    12

    23

    =218

    , p′ABC,AB = P (A)P (B)P (C) =13

    12

    23

    =218

    , p′ABC,AC = P (A)P (B)P (C) =23

    12

    23

    =418

    , p′ABC,BC = P (A)P (B)P (C) =13

    12

    13

    =118

    ,

    p′ABC,A = P (A)P (B)P (C) =23

    12

    23

    =418

    , p′ABC,B = P (A)P (B)P (C) =13

    12

    13

    =118

    , p′ABC,C =

    P (A)P (B)P (C) =23

    12

    13

    =218

    et p′ABC,∅ = P (A)P (B)P (C) =23

    12

    13

    =218

    . On obtient ainsi la ma-trice et le graphe suivants :

  • Processus aléatoires 3

    P =

    2/18 2/18 4/18 1/18 4/18 1/18 2/18 2/180 1/3 0 0 2/3 0 0 00 0 2/3 0 0 0 1/3 00 0 0 1/2 0 1/2 0 00 0 0 0 1 0 0 00 0 0 0 0 1 0 00 0 0 0 0 0 1 00 0 0 0 0 0 0 1

    3. On considère 5 points équirépartis sur un cercle. Un promeneur saute à chaque instan-t, d’un point à l’un de ses voisins avec la probabilité 1/2 pour chaque voisin. Déterminerle graphe et la matrice de transition de la châıne ainsi obtenue. Quelle est la période deses états?

    L’ensemble des états est E = {1, 2, 3, 4, 5}.On a pi,i+1 = pi,i−1 = 1/2 pour i ∈ {2, 3, 4}, p1,2 = p1,5 = 1/2 et p5,1 = p5,4 = 1/2, ce qui donne lamatrice :

    P =

    0 1/2 0 0 1/21/2 0 1/2 0 00 1/2 0 1/2 00 0 1/2 0 1/2

    1/2 0 0 1/2 0

    et le graphe :

    La châıne est irréductible (tous les états communiquent) et finie donc récurrente positive. Commetous les états sont dans la même classe, leur période est la même. On a d(1) = pgcd{n ≥ 1 ; p(n)1,1 > 0}.

    Or p(2)1,1 ≥ p1,2p2,1 =14

    > 0 et p(5)1,1 ≥ p1,2p2,3p3,4p4,5p5,1 =125

    > 0. Or le seul diviseur commun à 2 et à 5

    est 1. On a donc d = d(1) = 1 : cette châıne est donc apériodique .

    4. On dispose de 2 machines identiques fonctionnant indépendamment et pouvan-

    t tomber en panne au cours d’une journée avec la probabilité q =1

    4. On note Xn le

    nombre de machines en panne au début de la n-ième journée.

    a) On suppose que, si une machine est tombée en panne un jour, elle est réparéela nuit suivante et qu’on ne peut réparer qu’une machine dans la nuit. Montrer que l’onpeut définir ainsi une châıne de Markov dont on déterminera le graphe, la matrice detransition et éventuellement les distributions stationnaires.

    b) Même question en supposant qu’une machine en panne n’est réparée que lelendemain, le réparateur ne pouvant toujours réparer qu’une machine dans la journée.

    c) Le réparateur, de plus en plus paresseux, met maintenant 2 jours pour réparerune seule machine. Montrer que (Xn) n’est plus une châıne de Markov, mais que l’onpeut construire un espace de 5 états permettant de décrire le processus par une châıne deMarkov dont on donnera le graphe des transitions. Calculer la probabilité que les 2 ma-chines fonctionnent après n jours (n = 1, n = 2 et n = 3) si elles fonctionnent initialement.

    a) L’ensemble des états est E = {0, 1} car si le soir il y a une ou aucune machine en panne, lelendemain matin, il y en aura 0 ; et si le soir, il y en a 2, le lendemain matin, il y en aura une seule.Le nombre de machines en panne le matin ne dépend que de celui de la veille au matin et de ce qu’il

  • 4 Exercices

    s’est passé dans la journée, ceci indépendamment de la période de l’année. On a donc bien une châıne deMarkov dont il faut déterminer la matrice de transition.

    On a p0,1 = q2 (les 2 machines tombent en panne dans la journée et ces pannes sont indépendantesentre elles) et p0,0 = (1− q)2 + 2q(1− q) = 1− q2 ((1− q)2 correspond à aucune panne dans la journée et2q(1− q) à une seule panne qui peut provenir d’une machine ou de l’autre.). On a également p1,0 = 1− q(la machine en panne est réparée et l’autre fonctionne toujours), et p1,1 = q (la machine en panne estréparée et l’autre est tombée en panne). Ainsi, on a la matrice :

    P =(

    1 − q2 q21 − q q

    )et le graphe :

    Pour la distribution stationnaire, on résout (π0, π1) = (π0, π1)(

    1 − q2 q21 − q q

    ), soit π1 = q2π0 + qπ1,

    d’où π1 =q2

    1 − qπ0 et avec π0 + π1 = 1, on obtient π0

    (1 +

    q2

    1 − q

    )= 1, soit π0 =

    1 − q1 − q + q2

    et

    π1 =q2

    1 − q + q2. Avec q =

    14, on a alors π0 =

    1213

    et π1 =113

    .

    b) On a maintenant E′ = {0, 1, 2} car aucune machine n’est réparée la nuit ; p′0,0 = (1− q)2 (aucunepanne dans la journée), p′0,1 = 2q(1 − q) (une des 2 machines est tombée en panne) et p′0,2 = q2 (les 2machines sont tombées en panne) ; p′1,0 = 1 − q (la machine qui fonctionne ne tombe pas en panne),p′1,1 = q (la machine qui fonctionne tombe en panne, l’autre est réparée), p

    ′1,2 = 0 (la machine en panne

    est sure de remarcher le lendemain) ; de même, p′2,1 = 1 (une seule des 2 machines en panne est réparée).Ainsi, on a la matrice:

    P =

    (1 − q)2 2q(1 − q) q21 − q q 0

    0 1 0

    et le graphe :

    Pour la distribution stationnaire, on résout (π0, π1, π2) = (π0, π1, π2)

    (1 − q)2 2q(1 − q) q21 − q q 0

    0 1 0

    ,

    soit π0 = (1− q)2π0 +(1− q)π1, d’où π1 =2q − q2

    1 − qπ0 et π2 = q2π0, d’où avec π0 +π1 +π2 = 1, on obtient

    π0

    (1 + q2 +

    2q − q2

    1 − q

    )= 1, soit π0 =

    1 − q1 + q − q3

    , π1 =2q − q2

    1 + q − q3et π2 =

    q2 − q3

    1 + q − q3. Avec q =

    14, on a

    alors π0 =4879

    , π1 =2879

    et π2 =379

    .

    c) Si on garde l’ensemble des états E′, on n’a pas une châıne de markov car, lorque l’on a 2 machinesen panne par exemple, on ne peut pas savoir si le lendemain, on en aura 1 ou 2 en panne : tout dépend sic’est le premier jour de réparation ou le second. On est donc amené à introduire 2 états supplémentaires :1′ (1 machine en panne dont c’est le deuxième jour de réparation) et 2′ (2 machines en panne et deuxièmejour de réparation pour la première). On a alors p′′0,0 = (1− q)2, p′′0,1 = 2q(1− q), p′′0,2 = q2 ; p′′1,1′ = 1− q,p′′1,2′ = q, p

    ′′1′,0 = 1− q, p′′1′,1 = q, p′′2,2′ = 1, p′′2′,1 = 1, les autres probabilités étant nulles. On a le graphe :

  • Processus aléatoires 5

    On a alors p′′0,0 = (1 − p)2, p′′0,0(2) = p′′0,0p′′0,0 = (1 − q)4, p′′0,0(3) = p′′0,0p′′0,0p′′0,0 + p′′0,1p′′1,1′p′′1′,0 =(1 − q)6 + 2q(1 − q)3.

    5. Déterminer la matrice de transition des châınes suivantes :a) N boules noires et N boules blanches sont placées dans 2 urnes de telle façon

    que chaque urne contienne N boules. À chaque instant on choisit au hasard une bouledans chaque urne et on échange les deux boules. À l’instant n, l’état du système est lenombre de boules blanches de la première urne.

    b) N boules numérotées de 1 à N sont réparties dans une urne. À chaque instant,on tire un numéro i au hasard entre 1 et N et la boule de numéro i est changé d’urne. Àl’instant n, l’état du système est le nombre de boules dans la première urne.

    c) Déterminer la distribution stationnaire de la châıne au b). (On montrera qu’ils’agit de la loi binomiale de paramètres N et 1/2). Déterminer l’espérance du nombrede tirages nécessaires pour revenir à l’état initial dans les cas N = 2M , X0 = M etN = 2M , X0 = 2M . Donner un équivalent lorsque M est grand et une valeur approchéepour N = 10.

    a) Le système est dans l’état k lorsque l’on a k boules blanches dans A et N − k dans B (et doncaussi N − k boules noires dans A et k dans B).

    • Si Xn = 0, toutes les boules blanches sont dans B à l’instant n, donc les boules choisies serontnécessairement une noire dans A et une blanche dans B et Xn+1 = 1.

    • De même, si Xn = N , alors nécessairement Xn+1 = N − 1 (car la boule choisie dans A estblanche et celle choisie dans B est noire).

    • Si Xn = k, avec k ∈ {1, · · · , N − 1}, on aura Xn+1 = k − 1 si la boule choisie dans A est

    blanche (probabiliték

    N) et la boule choisie dans B est noire (probabilité

    k

    N), Xn+1 = k + 1 si la boule

    choisie dans A est noire (probabilitéN − k

    N) et celle choisie dans B est blanche (probabilité

    N − kN

    ).

    Enfin, Xn+1 = k si la boule choisie dans A est noire (probabilitéN − k

    N) et celle choisie dans B est noire

    (probabiliték

    N) ou bien si la boule choisie dans A est blanche (probabilité

    k

    N) et celle choisie dans B

    est blanche (probabilitéN − k

    N). Ainsi, la probabilité d’occupation d’un état ne dépend que de l’état

    précédent et on a bien une châıne de Markov de matrice de transition et de graphe :

    P =

    r0 p0q1 r1 p1 (0)

    q2 r2 p2. . . . . . . . .

    qk rk pk. . . . . . . . .

    (0) qN−1 rN−1 pN−1qN rN

    avec qk =k2

    N2, rk =

    2k(N − k)N2

    , pk =(N − k)2

    N2pour 1 ≤ k ≤ N − 1, r0 = rN = 0, p0 = qN = 1.

    b) Le système est dans l’état k lorsque l’on a k boules dans A et N − k dans B.• Si Xn = 0, toutes les boules sont dans B à l’instant n, donc la boule choisie sera nécessairement

    dans B et Xn+1 = 1.• De même, si Xn = N , alors nécessairement Xn+1 = N − 1 (car la boule est choisie dans A).

  • 6 Exercices

    • Si Xn = k, avec k ∈ {1, · · · , N − 1}, on aura Xn+1 = k − 1 si la boule est choisie dans A

    (probabiliték

    N), et Xn+1 = k + 1 si elle est choisie dans B (probabilité

    N − kN

    ).

    Ainsi, la probabilité d’occupation d’un état ne dépend que de l’état précédent et on a bien une châınede Markov de matrice de transition et de graphe :

    P =

    0 11N

    0N − 1

    N(0)

    2N

    0N − 2

    N. . . . . . . . .

    k

    N0

    N − kN

    . . . . . . . . .

    (0)N − 1

    N0

    1N

    1 0

    c) La châıne est irréductible finie donc récurrente positive. Elle admet donc une unique distributionstationnaire, probabilité π solution du système π = πP .

    π = πP donne

    π0 = r0π0 + q1π1π1 = p0π0 + r1π1 + q2π2...πk = pk−1πk−1 + rkπk + qk+1πk+1...πN−1 = pN−2πN−2 + rN−1πN−1 + qNπNπN = pN−1πN−1 + rNπN

    où pk + qk + rk = 1, q0 = pN = 0.

    La ligne “0” donne (1 − r0)π0 = q1π1, soit p0π0 = q1π1. En remplaçant p0π0 par q1π1 dans la ligne1, on obtient (1 − q1 − r1)π1 = q2π2, soit p1π1 = q2π2. Ainsi, par récurrence, si pk−1πk−1 = qkπk, enreportant dans la ligne k on obtient (1 − qk − rk)πk = qk+1πk+1, soit pkπk = qk+1πk+1, et la ligne Nredonne (1 − qN )πN = rNπN .

    On a donc

    p0π0 = q1π1p1π1 = q2π2...pk−1πk−1 = qkπk...pN−1πN−1 = qNπN

    , d’où

    π1 =p0q1

    π0

    π2 =p0p1q1q2

    π0

    ...πk =

    p0 · · · pk−1q1 · · · qk

    π0

    ...πN =

    p0 · · · pN−1q1 · · · qN

    π0

    etN∑

    k=0

    πk = 1 donne π0.

    Pour a) on obtient alors πk =(

    N(N − 1) · · · (N − k + 1)1 × 2 · · · × k

    )2π0 =

    (N !

    k!(N − k)!

    )2π0 = (CkN )

    2π0.

    On a alors π0

    (N∑

    k=0

    (CkN )2

    )= π0CN2N = 1 donc πk =

    CkNCN−kN

    CN2Npour 0 ≤ k ≤ N . (C’est la loi hyper-

    géométrique, distribution qui correspond à une répartition initiale des boules au hasard, à raison de Npar urne).

    Pour b), on obtient πk =NN ×

    N−1N × · · · ×

    N−k+1N

    1N ×

    2N × · · · ×

    kN

    π0 =N(N − 1) · · · (N − k + 1)

    k!π0 = CkNπ0.

    On a alors π0

    (N∑

    k=0

    CkN

    )= 2Nπ0 = 1 donc πk = CkN

    12N

    = CkN

    (12

    )k (12

    )N−kpour 0 ≤ k ≤ N .

  • Processus aléatoires 7

    Ainsi, π = B(

    N,12

    ). (C’est la distribution qui correspond à une répartition initiale des boules au

    hasard dans les 2 urnes).

    6. Dans Zk, on a k directions, et dans chaque direction, on a 2 sens. Un point de Zk

    a donc 2k voisins. Un promeneur oisif saute à chaque instant d’un point de Zk à l’un deses voisins avec la même probabilité. Étudier la récurrence des châınes de Markov ainsiobtenues. (On distinguera les cas k = 1, k = 2 et k ≥ 3).

    a) E = Z. Pour être de nouveau au point de départ après n étapes, il faut avoir fait autant de pasvers la droite que vers la gauche : ainsi, n doit être pair (n = 2m). Il y a autant de trajets possi-

    bles que de 2m u-plets avec m “d” et m “g”, soit Cm2m, et ils sont tous de probabilité(

    12

    )2m. Ainsi,

    p(2m)x,x = Cm2m

    (12

    )2m(et p(2m+1)x,x = 0).

    Pour la nature de la série, on utilise un équivalent grâce à Stirling :

    p(2m)xx =(2m)!(m!)2

    (12

    )2m∼ (2m)

    2m

    e2m√

    2π × 2m(

    em

    mm√

    2πm

    )2× 1

    22m=

    1√πm

    .

    Ainsi, p(2m)xx ∼1√πm

    terme général d’une série divergente donc la châıne est récurrente.

    b) E = Z2. Pour être de nouveau au point de départ après n étapes, il faut avoir fait dans chacunedes 2 directions autant de pas dans un sens que dans l’autre : ainsi, n doit être pair (n = 2m). Si il y a2k pas verticaux (et donc 2m− 2k pas horizontaux), alors il doit y avoir k pas vers le haut, k pas vers lebas, m−k pas vers la gauche et m−k pas vers la droite. Ainsi, dans ces cas-là, il y a C2k2m×Ck2k×Cm−k2m−2ktrajets possibles (on a C2k2m façons de choisir les pas verticaux, puis, parmi ceux-ci, on en choisit C

    k2k vers

    le haut et, parmi les 2m − 2k horizontaux on choisit les Cm−k2m−2k vers la droite par exemple), et ils sont

    tous de probabilité(

    14

    )2m. Mais, comme k peut prendre toutes les valeurs de 0 à m, il vient

    p(2m)xx =m∑

    k=0

    (2m)!(2k)!(2m − 2k)!

    (2k)!(k!)2

    (2m − 2k)!((m − k)!)2

    (14

    )2m

    = Cm2m

    (14

    )2m( m∑

    k=0

    (Ckm)2

    )=

    [Cm2m

    (12

    )2m]2∼ 1

    πm

    carm∑

    k=0

    (Ckm)2 =

    m∑

    k=0

    CkmCm−km = C

    m2m (on peut par exemple développer (1 + x)

    2m = (1 + x)m(1 + x)m des

    2 façons et identifier le coefficient de xm dans chacune des expressions).

    Ainsi, p(2m)xx ∼1

    πmterme général d’une série divergente donc la châıne est récurrente.

    c) E = Z3. Pour être de nouveau au point de départ après n étapes, il faut avoir fait dans chacune des3 directions autant de pas dans un sens que dans l’autre : ainsi, n doit être pair (n = 2m). Si il y a 2k1pas dans la direction 1, 2k2 pas dans la direction 2 (et donc 2m−2k1−2k2 pas dans la direction 3), alorsil doit y avoir k1 pas dans chaque sens de la direction 1, k2 dans ceux de la direction 2 et m−k1−k2 dansceux de la direction 3. Ainsi, dans ces cas-là, il y a C2k12m ×C

    2k22m−2k1 ×C

    k12k1

    ×Ck22k2 ×Cm−k1−k22(m−k1−k2) trajets

  • 8 Exercices

    possibles et ils sont tous de probabilité(

    16

    )2m(3 directions et 2 sens dans chacune, donc 6 possibilités

    à chaque pas). Il vient alors

    p(2m)xx =∑

    k1,k2

    (2m)!(2k1)!(2m − 2k1)!

    (2m − 2k1)!(2k2)!(2m − 2k1 − 2k2)!

    (2k1)!(k1!)2

    (2k2)!(k2!)2

    (2m − 2k1 − 2k2)!((m − k1 − k2)!)2

    (16

    )2m

    =∑

    k1,k2

    (2m)!(k1!)2(k2!)2((m − k1 − k2)!)2

    (16

    )2m

    On pourrait montrer que l’on peut majorer cette expression par un terme équivalent àK3

    m3/2. Ainsi

    p(2m)xx est le terme général d’une série convergente donc la châıne est transitoire.

    7. Soit (Xn)n∈N une châıne de Markov de matrice de transition

    P =

    0 0 0 0 01

    20

    1

    20 0

    0 0 0 0 1 0 0 0 0 0

    0 01

    20

    1

    40

    1

    40 0 0

    0 0 0 0 0 0 1 0 0 0

    0 01

    40 0 0

    1

    4

    1

    20 0

    1

    20 0 0 0 0 0

    1

    20 0

    0 0 01

    20 0 0 0 0

    1

    21

    20 0 0 0

    1

    20 0 0 0

    03

    40 0 0 0 0 0

    1

    40

    0 0 0 0 0 0 1 0 0 0

    .

    a) Représenter le graphe de cette châıne. Déterminer les classes de communication,leur nature, leur périodicité et éventuellement les sous-classes cycliques.

    b) Calculer les probabilités d’absorption des états transitoires par les classes récur-rentes.

    c) Déterminer les distributions stationnaires de la châıne et le temps moyen deretour pour les états récurrents. Existe-t-il une distribution limite ?

    a) On représente le graphe de la châıne.

  • Processus aléatoires 9

    On a une châıne finie donc essentiel équivaut à récurrent positif et non essentiel équivaut à transitoire.On a 2 classes récurrentes R1 = {1, 6, 8} apériodique, R2 = {4, 7, 10} de période 2, de sous-classes cy-cliques {4, 10} et {7} et 3 classes transitoires T1 = {9} apériodique, T2 = {2} de période 0 et T3 = {3, 5}apériodique.

    b) On note ak (resp. a′k) la probabilité d’absorption de l’état k par la classe R1 (resp. R2) pourk ∈ T = {2, 3, 5, 9}. Si a désigne le vecteur colonne des ak, on sait que a = a(1) + PT a avec a9(1) =a2(1) = a3(1) = 0, a5(1) = p58 =

    12, soit

    a2a3a5a9

    =

    00120

    +

    0 0 1 0

    012

    14

    0

    014

    0 034

    0 014

    a2a3a5a9

    =

    a512a3 +

    14a5

    12

    +14a3

    34a2 +

    14a9

    Ainsi a2 = a5 = a9 = 2a3 et(

    2 − 14

    )a3 =

    12, soit a3 =

    27

    et a2 = a5 = a9 =47

    .

    De même,

    a′2a′3a′5a′9

    =

    014140

    +

    0 0 1 0

    012

    14

    0

    014

    0 034

    0 014

    a′2a′3a′5a′9

    =

    a′514

    +12a′3 +

    14a′5

    14

    +14a′3

    34a′2 +

    14a′9

    donne a′2 = a′5 =

    a′9, a′3 =

    12

    +12a′5 et a

    ′5 =

    14

    +18

    +18a′5, soit a

    ′2 = a

    ′5 = a

    ′9 =

    37

    et a′3 =12

    +314

    =57

    (et on a bien

    ak + a′k = 1).

    c) On a déjà π2 = π3 = π5 = π9 = 0 (états transitoires) et π = λ1π(1) + λ2π(2) où π(i) est l’uniquedistribution stationnaire de la châıne restreinte à Ri, λi ≥ 0 et λ1 + λ2 = 1. On a

    (π(1)1 , π(1)6 , π

    (1)8 ) = (π

    (1)1 , π

    (1)6 , π

    (1)8 )

    0 1/2 1/21/2 0 1/21/2 1/2 0

    =

    (1)6 + π

    (1)8

    2,π

    (1)1 + π

    (1)8

    2,π

    (1)1 + π

    (1)6

    2

    )avec

    π(1)1 + π

    (1)6 + π

    (1)8 = 1. On a donc π

    (1)1 = π

    (1)6 = π

    (1)8 =

    13

    et µ1 = µ6 = µ8 = 3 . De même,

    (π(2)4 , π(2)7 , π

    (2)10 ) = (π

    (2)4 , π

    (2)7 , π

    (2)10 )

    0 1 01/2 0 1/20 1 0

    =

    (12π

    (2)7 , π

    (2)4 + π

    (2)10 ,

    12π

    (2)7

    )avec π(2)4 + π

    (2)7 +

    π(2)10 = 1. On a donc π

    (2)4 = π

    (2)10 =

    12π

    (2)7 d’où π

    (2)7 =

    12, π(2)4 = π

    (2)10 =

    14

    ; µ4 = µ10 = 4, µ7 = 2 .

    Finalement π =(

    λ13

    , 0, 0,λ24

    , 0,λ13

    ,λ22

    ,λ13

    , 0,λ24

    ), λi ≥ 0 et λ1 + λ2 = 1 .

    Processus de Poisson

    8. Calculer la loi du n-ième temps d’arrivée d’un processus de Poisson de deux façons :a) En utilisant [Sn ≤ t] = [Nt ≥ n] ;b) En utilisant Sn = T1 + T2 + · · ·+ Tn.

  • 10 Exercices

    a) FSn(t) = P ([Sn ≤ t]) = P ([Nt ≥ n]) = 1 − P ([Nt ≤ n − 1]) pour n ≥ 1 (S0 = 0), soit

    FSn(t) = 1 − e−λtn−1∑

    k=0

    (λt)k

    k!pour n ≥ 1 et t > 0. On a alors,

    fSn(t) = F′Sn(t) = λe

    −λtn−1∑

    k=0

    (λt)k

    k!− e−λt

    n−1∑

    k=1

    λk ktk−1

    k!

    = e−λt[

    n−1∑

    k=0

    λk+1tk

    k!−

    n−1∑

    k=1

    λktk−1

    (k − 1)!

    ]

    = e−λt[

    n−1∑

    k=0

    λk+1tk

    k!−

    n−2∑

    k=0

    λk+1tk

    k!

    ]

    et finalement fSn(t) =λn

    (n − 1)!e−λt tn−1 I]0,+∞[(t) : on reconnait la densité de la loi gamma Ga(n, λ).

    b) Par récurrence,• S1 = T1 donc S1 suit la loi E(λ) = Ga(1, λ).• Si Sn suit la loi Ga(n, λ), comme Sn+1 = Sn +Tn+1 et que Sn = T1 +T2+ · · ·+Tn est indépendante

    de Tn+1, on a :

    fSn+1(t) =∫

    fSn(u)fTn+1(t − u) du

    =∫

    λn

    (n − 1)!e−λu un−1 I]0,+∞[(u) λ e−λ(t−u) I]0,+∞[(t − u) du

    =λn+1

    (n − 1)!e−λt

    ∫un−1 I]0,+∞[(u)I]0,+∞[(t − u) du

    avec I]0,+∞[(u)I]0,+∞[(t − u) = 1 si u > 0 et t− u > 0, c’est-à-dire 0 < u < t, soit t > 0 et u ∈]0, t[. On adonc

    fSn+1(t) =λn+1

    (n − 1)!e−λtI]0,+∞[(t)

    ∫ t

    0

    un−1 du =λn+1

    (n − 1)!e−λtI]0,+∞[(t)

    tn

    n

    soit fSn+1(t) =λn+1

    n!e−λt tnI]0,+∞[(t) et Sn+1 suit donc bien la loi gamma Ga(n + 1, λ).

    9. Un radar est placé sur une route où il passe en moyenne 5 véhicules en excès devitesse par heure. On admet que ces véhicules forment un Processus de Poisson. Quelleest la probabilité qu’au bout d’une demi-heure, une voiture exactement se soit arrêtéesachant que :

    a) dans le premier quart d’heure, aucune voiture n’a été prise et dans la premièreheure, deux voitures ont été prises ;

    b) la première heure, deux voitures ont été prises et dans les deux premières heures,trois voitures ont été prises ;

    c) dans les dix premières minutes, aucune voiture n’a été prise et dans le premierquart d’heure, une voiture a été prise.

  • Processus aléatoires 11

    P ([Nu = k]/[Ns = i] ∩ [Nt = j]) =P ([Nu = k] ∩ [Ns = i] ∩ [Nt = j])

    P ([Ns = i] ∩ [Nt = j])avec

    P ([Ns = i] ∩ [Nt = j]) = P ([Ns = i] ∩ [Nt − Ns = j − i])= P ([Ns = i])P ([Nt − Ns = j − i])= P ([Ns = i])P ([Nt−s = j − i])

    = e−λs(λs)i

    i!e−λ(t−s)

    (λ(t − s))j−i

    (j − i)!

    = e−λtλjsi(t − s)j−i

    i!(j − i)!

    a) Cas s ≤ u ≤ t. Pour i ≤ k ≤ j, on a :

    P ([Nu = k] ∩ [Ns = i] ∩ [Nt = j]) = P ([Ns = i] ∩ [Nu − Ns = k − i] ∩ [Nt − Nu = j − k])= P ([Ns = i])P ([Nu − Ns = k − i])P ([Nt − Nu = j − k])= P ([Ns = i])P ([Nu−s = k − i])P ([Nt−u = j − k])

    On a donc

    P ([Nu = k]/[Ns = i] ∩ [Nt = j]) =P ([Nu−s = k − i])P ([Nt−u = j − k])

    P ([Nt−s = j − i])

    =e−λ(u−s) (λ(u−s))

    k−i

    (k−i)! e−λ(t−u) (λ(t−u))j−k

    (j−k)!

    e−λ(t−s) (λ(t−s))j−i

    (j−i)!

    .

    soit P ([Nu = k]/[Ns = i] ∩ [Nt = j]) = Ck−ij−i(u − s)k−i(t − u)j−k

    (t − s)j−i.

    Pour u = 1/2, k = 1, λ = 1h−1, s = 1/4, t = 1, i = 0 et j = 2, on a u − s =14, t − u =

    12, t − s =

    34,

    k − i = 1, j − k = 1, j − i = 2 et pa = 2 ×14

    12(

    34

    )2 , soit p1 =49≈ 0, 44 .

    b) Cas u ≤ s ≤ t. Pour k ≤ i ≤ j, on a :

    P ([Nu = k] ∩ [Ns = i] ∩ [Nt = j]) = P ([Nu = k] ∩ [Ns − Nu = i − k] ∩ [Nt − Ns = j − i])= P ([Nu = k])P ([Ns − Nu = i − k])P ([Nt − Ns = j − i])= P ([Nu = k])P ([Ns−u = i − k])P ([Nt−s = j − i])

    On a donc

    P ([Nu = k]/[Ns = i] ∩ [Nt = j]) =P ([Nu = k])P ([Ns−u = i − k])

    P ([Ns = i])

    =e−λu (λu)

    k

    k! e−λ(s−u) (λ(s−u))i−k

    (i−k)!

    e−λs (λs)i

    i!

    .

    On a donc P ([Nu = k]/[Ns = i] ∩ [Nt = j]) = Ckiuk(s − u)i−k

    si.

    soit P ([Nu = k]/[Ns = i] ∩ [Nt = j]) = Ckiuk(s − u)i−k

    si.

    Pour u = 1/2, k = 1, λ = 1h−1, s = 1, t = 2, i = 2 et j = 3, on a s−u =34, i−k = 1 et pb = 2×

    12

    12,

    soit pb =12

    = 0, 5 .

  • 12 Exercices

    c) Cas s ≤ t ≤ u. Pour i ≤ j ≤ k, on a :

    P ([Nu = k] ∩ [Ns = i] ∩ [Nt = j]) = P ([Ns = i] ∩ [Nt − Ns = j − i] ∩ [Nu − Nt = k − j])= P ([Ns = i])P ([Nt − Ns = j − i])P ([Nu − Nt = k − j])= P ([Ns = i])P ([Nt−s = j − i])P ([Nu−t = k − j])

    On a donc P ([Nu = k]/[Ns = i] ∩ [Nt = j]) = P ([Nu−t = k − j]) = e−λ(u−t)(λ(u − t))k−j

    (k − j)!.

    Pour u = 1/2, k = 1, λ = 1h−1, s = 1/6, t = 1/4, i = 0 et j = 1, on a u − t = 1/4, k − j = 0 etpc = e−1/4 ≈ 0, 56 .

    10. Les arrivées d’autobus à une station forment un processus de Poisson d’intensité λ.Chaque autobus s’arrête un temps fixe τ à la station. Un passager qui arrive à un instantt0 monte dans le bus si celui-ci est là, attend pendant un temps τ

    ′, puis, si l’autobus n’estpas arrivé pendant le temps τ ′, quitte la station et s’en va à pied.

    Déterminer la probabilité que le passager prenne l’autobus.

    Le passager repart à pied si lorsqu’il arrive à l’instant t0, il n’y a plus de bus, donc le dernier est arrivéavant t0−τ (sinon, il serait encore là), et si à l’instant t0+τ ′, le suivant n’est toujours pas arrivé. Il ne doity avoir aucune arrivée de bus entre t0−τ et t0+τ ′, soit, pendant une durée t0+τ ′−(t0−τ) = τ +τ ′. Ainsi,la probabilité que le passager reparte à pied est P ([Nt0+τ ′ − Nt0−τ = 0]) = P ([Nτ+τ ′ = 0]) = e−λ(τ+τ

    ′)

    et la probabilité que le passager prenne l’autobus est 1 − e−λ(τ+τ′) .

    11. Sur une route à sens unique, l’écoulement des voitures peut être décrit par un

    processus de Poisson d’intensité λ =1

    6s−1. Un piéton qui veut traverser la route a besoin

    d’un intervalle d’au moins 4s entre 2 voitures successives. Calculer :

    a) la probabilité pour qu’il doive attendre ;

    b) la durée moyenne des intervalles qui lui permettent de traverser la route ;

    c) le nombre moyen de voitures qu’il voit passer avant de pouvoir traverser la route.

    a) Le piéton ayant besoin d’au moins 4s pour traverser, il devra attendre si U ≤ 4.

    Or P ([U ≤ 4]) =∫ 4

    0

    λe−λu du =[−e−λu

    ]40

    = 1 − e−4λ car on a vu à l’exercice 3 que U suit la loi

    exponentielle E(λ). Comme λ = 1/6, P ([U ≤ 4]) = 1 − e−4/6.La probabilité pour qu’il doive attendre est donc 1 − e−2/3 ≈ 0, 487 .

    b) On cherche E[U>4](U) c’est-à-dire∫

    uf[U>4]U (u) du. On a

    F[U>4]U (u) = P

    [U>4]([U ≤ u]) = P ([U ≤ u] ∩ [U > 4])P ([U > 4])

    =

    0 si u ≤ 4P ([4 < U ≤ u])

    P ([U > 4])=

    FU (u) − FU (4)P ([U > 4])

    si u > 4

  • Processus aléatoires 13

    et donc f [U>4]U (u) =fU (u)

    P ([U > 4])I]4,+∞[(u) = λ e−λ(u−4) I]4,+∞[(u) puis

    E[U>4](U) =∫ +∞

    4

    λu e−λ(u−4) du =v=u−4

    ∫ +∞

    0

    λ(v + 4) e−λv dv

    =∫ +∞

    0

    vλ e−λv dv + 4∫ +∞

    0

    λ e−λv dv =1λ

    + 4

    car∫ +∞

    0

    vλ e−λv dv est l’espérance d’une v.a.r. de loi exponentielle E(λ) et∫ +∞

    0

    λ e−λv dv l’intégrale de

    sa densité.Ainsi, il faut en moyenne 6 + 4 = 10s pour que le piéton puisse traverser .

    c) Soit N le nombre moyen de voitures que voit passer le piéton avant de pouvoir traverser la route.On a

    • [N = 0] = [U > 4], où U est le temps entre l’arrivée du piéton et la prochaine voiture ;• [N = 1] = [U ≤ 4] ∩ [U1 > 4] où U1 est le temps entre la première et la deuxième voiture qui se

    présentent après l’arrivée du piéton.• Plus généralement, [N = k] = [U ≤ 4] ∩ [U1 ≤ 4] · · · ∩ [Uk−1 ≤ 4] ∩ [Uk > 4] où Uk est le temps

    entre la k-ième et la (k + 1)-ième voiture qui se présentent après l’arrivée du piéton.Les v.a.r. U , U1, · · · , Uk étant toutes indépendantes et de même loi exponentielle E(λ) on a P ([N = 0]) =P ([U > 4]) = e−4λ et

    P ([N = k]) = P ([U ≤ 4])P ([U1 ≤ 4]) · · ·P ([Uk−1 ≤ 4])P ([Uk > 4])= e−4λ(1 − e−4λ)k = e−2/3(1 − e−2/3)k

    (valable aussi pour k = 0). On reconnait la loi géométrique G(e−2/3) sur N.

    GN (s) =+∞∑

    k=0

    sk P ([N = k]) = e−2/3+∞∑

    k=0

    (s(1 − e−2/3))k

    soit GN (s) =e−2/3

    1 − s(1 − e−2/3)et G′N (s) =

    e−2/3(1 − e−2/3)(1 − s(1 − e−2/3))2

    .

    On a alors E(N) = G′N (1) =1 − e−2/3

    e−2/3= e2/3 − 1 ≈ 0, 948.

    Le piéton voit donc passer en moyenne 1 voiture avant de traverser .

    12. On considère un appareil de comptage, qui dénombre les voitures sur une route, deflux poissonien d’intensité λ. L’appareil peut tomber en panne à l’instant T , où T est unevariable aléatoire de loi Gamma γ(1, a).

    Soit X le nombre de véhicules enregistrés par l’appareil jusqu’à ce qu’il tombe enpanne. Déterminer la loi et l’espérance de X.

    P ([X = n]) =∫

    P ([X = n]/[T = t])fT (t)dt

    avec P ([X = n]/[T = t]) = P ([Xt = n]) (i.e. P[T=t]X = PXt) car, à l’instant t où l’appareil tombe en

    panne, il a enregistré n passages. On sait que P ([Xt = n]) = e−λt(λt)n

    n!et fT (t) =

    1Γ(a)

    e−tta−1I]0,+∞[(t).

    Donc :

    P ([X = n]) =∫ +∞

    0

    e−λt(λt)n

    n!1

    Γ(a)e−tta−1dt =

    λn

    n!Γ(a)

    ∫ +∞

    0

    e−(λ+1)tta+n−1dt

    =λn

    n!Γ(a)

    ∫ +∞

    0

    e−vva+n−1

    (λ + 1)a+ndt =

    λn

    (λ + 1)n+aΓ(a + n)Γ(a)n!

  • 14 Exercices

    La loi de X étant peu sympathique, pour calculer E(X), il est préférable de passer par E(T=t)(X) =E(Xt) = λt. On a alors ET (X) = λT et E(X) = E

    (ET (X)

    )= λE(T ) = λa.

    Processus de naissance et de mort

    13. La durée de bon fonctionnement d’une machine est une variable aléatoire de loiexponentielle de paramètre λ. En cas de panne, le temps de réparation obéit à une loiexponentielle de paramètre µ.

    Quelle est la probabilité que la machine fonctionne à l’instant t si elle fonctionnait àl’instant 0 ?

    On a un processus de Markov à 2 états : état 0 : la machine fonctionne ; état 1 la machine est enpanne.

    Si T est la durée de bon fonctionnement, on a

    p0,1(h) = P ([T < t + h]/[T > t]) =P ([t < T < t + h])

    P ([T > t])

    avec P ([T > t]) =∫ +∞

    t

    λe−λxdx = e−λt et P ([t < T < t + h]) =∫ t+h

    t

    λe−λxdx = e−λt − e−λ(t+h) donc

    p0,1(h) = 1 − e−λh = 1− (1 − λh + o(h)) = λh + o(h)

    donc λ0 = λ.De même, avec la durée de réparation, p1,0(h) = µh + o(h) donc µ1 = µ.

    On a un processus de naissance et de mort extrêmement simple, puisqu’il n’y a que 2 états (et unseul “boudin”!). Ainsi, il suffit de résoudre :

    p′0(t) = −λp0(t) + µp1(t)p0(t) + p1(t) = 1p0(0) = 0

    qui équivaut à

    p′0(t) = −λp0(t) + µ(1 − p0(t))p0(t) + p1(t) = 1p0(0) = 0

    c’est-à-dire à

    p′0(t) = −(λ + µ)p0(t) + µp0(t) + p1(t) = 1p0(0) = 0

    .

    On est conduit a une équation différentielle linéaire du premier ordre, dont une solution particulièreest

    µ

    λ + µest dont l’équation sans second membre a pour solution Ce−(λ+µ)t.

    Ainsi p0(t) =µ

    λ + µ+ Ce−(λ+µ)t avec p0(0) = 1 =

    µ

    λ + µ+ C, donc C = 1 − µ

    λ + µ=

    λ

    λ + µet

    finalement,

    la probabilité que la machine fonctionne à l’instant t est p0(t) =µ

    λ + µ+

    λ

    λ + µe−(λ+µ)t .

  • Processus aléatoires 15

    14. Un joueur décide de faire des paris jusqu’à qu’il soit ruiné ou bien qu’il ait atteintN euro. S’il dispose de j euro quand il effectue un pari, alors, à ce pari, il gagne 1 euroavec la probabilité pj ou bien il perd 1 euro avec la probabilité qj = 1− pj. On note ak laprobabilité de finir ruiné avec une fortune initiale de k euro et a

    (n)k la probabilité de finir

    ruiné en n paris.

    a) Modéliser le problème par une châıne de Markov et faire le graphe correspondant.

    b) Déterminer aN et a0.

    c) Montrer que :

    • a(1)1 = q1 et a(n)1 = p1a

    (n−1)2 si n ≥ 2 ;

    • pour j ≥ 2, a(1)j = 0 et a(n)j = pja

    (n−1)j+1 + qja

    (n−1)j−1 si n ≥ 2.

    d) En déduire que :

    • a1 = q1 + p1a2 et aj = pjaj+1 + qjaj−1 si j ≥ 2, puis• pj(aj − aj+1) = qj(aj−1 − aj) pour 1 ≤ j ≤ N − 1 ;• aj − aj+1 = dj(a0 − a1) pour 1 ≤ j ≤ N − 1, si on pose dj =

    q1 · · · qjp1 · · · pj

    .

    e) Vérifier que ak =

    N−1∑

    j=k

    (aj − aj+1) pour 1 ≤ k ≤ N − 1 et que 1 =N−1∑

    j=0

    (aj − aj+1),

    et en déduire que ak =

    N−1∑j=k

    dj

    1 +N−1∑j=1

    dj

    .

    f) En déduire, en faisant N → +∞, la probabilité de ruine du joueur.

    a) Le processus est bien invariant dans le temps et la connaissance du processus à un instantsuffit pour déterminer la probabilité d’occupation d’un état à l’instant suivant. On a bien une châıne deMarkov, de matrice de transition P = (pi,j) où pi,i+1 = pi, pi,i−1 = qi et pi,j = 0 si |i − j| 6= 1 .

    b) aN = 0 et a0 = 1 .

    c) • a(1)1 = q1 (passage de 1 à 0 en 1 étape) et a(n)1 = p1a

    (n−1)2 si n ≥ 2 car alors, on est obligé

    de commencer par un passage de 1 à 2 pour ne pas être absorbé directement ; il faudra ensuite n − 1étapes pour passer de 2 à 0.

    • pour j ≥ 2, a(1)j = 0 car on ne peut pas passer directement de j à 0.

    Pour déterminer a(n)j , on décompose en 2 cas suivant le premier déplacement : soit on commence parpasser de j à j+1 (avec la probabilité pj), soit on commence par passer de j à j−1 (avec la probabilité qj)

    ; il restera alors n−1 déplacements à effectuer pour se rendre en 0 et a(n)j = pja(n−1)j+1 + qja

    (n−1)j−1 si n ≥ 2 .

    d) • Il faut maintenant utiliser aj =+∞∑

    n=1

    a(n)j :

  • 16 Exercices

    a1 = a(1)1 +

    n≥2

    a(n)1 = q1 + p1

    n≥2

    a(n−1)2 , soit a1 = q1 + p1a2 .

    De même, si j ≥ 2, aj = a(1)j +∑

    n≥2a(n)j = pj

    n≥2a(n−1)j+1 +qj

    n≥2a(n−1)j−1 , d’où aj = pjaj+1 + qjaj−1 si j ≥ 2 .

    • On a alors, comme aj = (pj + qj)aj , pj(aj − aj+1) = qj(aj−1 − aj) pour 1 ≤ j ≤ N − 1 (caraj = pjaj+1 + qjaj−1 est encore vrai pour j = 1 puisque a0 = 1).

    • aj − aj+1 =qjpj

    (aj−1 − aj) donne a1 − a2 =q1p1

    (a1 − a0), puis a2 − a3 =q2p2

    q1p1

    (a1 − a0) et de proche

    en proche, aj − aj+1 = dj(a0 − a1) pour 1 ≤ j ≤ N − 1, si on pose dj =q1 · · · qjp1 · · · pj

    .

    e)N−1∑

    j=k

    (aj − aj+1) est une “somme télescopique” : tout se simplifie sauf le premier et le dernier

    terme qui vaut aN = 0 et doncN−1∑

    j=k

    (aj − aj+1) = ak pour 1 ≤ k ≤ N − 1 .

    Le principe reste le même si l’on part de j = 0. On a alorsN−1∑

    j=0

    (aj − aj+1) = a0 − aN = 1 .

    Ainsi ak =

    N−1∑j=k

    (aj − aj+1)

    N−1∑j=0

    (aj − aj+1)et, comme (aj −aj+1) = dj(a0 −a1) pour j ≥ 1, on a bien, en simplifiant

    numérateur et dénominateur par (a0 − a1), on a bien ak =

    N−1∑j=k

    dj

    1 +N−1∑j=1

    dj

    .

    f) Si le joueur n’arrête que lorsqu’il est ruiné, cela revient à considérer que N → +∞ et on a alors

    ak =

    +∞∑j=k

    dj

    1 ++∞∑j=1

    dj

    si+∞∑

    j=1

    dj converge.

    15. On considère une station de taxis comportant K places pour les taxis et une capacitéd’accueil illimitée pour les clients qui se présentent, de façon Poissonnienne, au rythmede λ par heure. Les taxis arrivent également de façon Poissonnienne, au rythme de µ par

    heure, mais ne s’arrêtent qu’avec la probabilité1

    m + 1s’il y a déjà m taxis (0 ≤ m < K).

    a) Vérifier qu’on est en présence d’un processus de naissance et de mort et endonner le graphe (états (n, m)n≥0,m∈{0,···K}).

    b) A.N. : K = 3, λ = 10, µ = 15. Donner la proportion de temps pendant laquelleil n’y a pas de taxi et le temps moyen d’attente d’un client.

    a) On ne peut jamais avoir en même temps des taxis et des clients, donc les états sont

    (0, K) · · · (0, 1), (0, 0), (1, 0), · · · , (n, 0), · · · ,

  • Processus aléatoires 17

    les différentes transitions possibles correspondant à une arrivée d’un client ou d’un taxi, on a le grapheet les équations de balance suivants :

    λp0,K =µ

    Kp0,K−1

    ...λp0,1 =

    µ

    1p0,0

    λp0,0 = µp1,0...λpn−1,0 = µpn,0...

    et donc, en posant ρ =λ

    µ, p0,K−1 = Kρp0,K ,..., p0,0 = ρp0,1 = · · · = K!ρKp0,K , puis p1,0 = ρp0,0,

    p2,0 = ρ2p0,0,..., pn,0 = ρnp0,0,... et p0,1 =1ρp0,0,..., p0,K =

    1K!ρK

    p0,0 et on obtient p0,0 en écrivant que

    la somme des probabilités de chaque état vaut 1, ce qui donne p0,0

    [+∞∑

    n=0

    ρn +K∑

    m=1

    1m!ρm

    ]= 1, qui n’est

    possible que si ρ < 1. On a alors :

    p0,0 =

    [1

    1 − ρ +K∑

    m=1

    1m!ρm

    ]−1, pn,0 = ρnp0,0 et p0,m =

    1m! ρm

    p0,0 .

    b) A.N. : K = 3, λ = 10, µ = 15. Alors ρ =23

    et p0,0 =[

    11 − 23

    +123

    +1

    2 × 49+

    16 × 827

    ]−1, soit

    p0,0 =[3 +

    32

    +98

    +916

    ]−1=[48 + 24 + 18 + 9

    16

    ]−1, i.e. p0,0 =

    1699

    et on a alors p0,1 =833

    , p0,2 =211

    et p0,3 =111

    . La probabilité qu’il y ait au moins un taxi est p0,1 + p0,2 + p0,3 =1733

    donc

    il n’y a pas de taxi pendant la fraction de temps1633

    soit environ 48, 5% du temps .

    Une personne qui arrive attend en moyenne1µ

    si elle est seule etn + 1

    µsi il y a déjà n personne (l’attente

    de chaque taxi est en moyenne1µ

    ).

    On a donc Wa =+∞∑

    n=0

    n + 1µ

    pn =p0,0µ

    +∞∑

    n=0

    (n + 1)ρn =p0,0

    µ(1 − ρ)2, soit Wa =

    1699

    ×915

    =32330

    h ≈ 5, 82mn :

    le temps moyen d’attente d’un client est donc environ 5mn49s .

    16. On considère N étudiants qui, chacun, lorsqu’ils sont à Toulouse, y restent un tempsexponentiel de paramètre µ avant d’en sortir et inversement, restent un temps exponen-tiel de paramètre λ à l’extérieur avant de rentrer. Soit Xt le nombre de ces étudiantsqui sont sur Toulouse à l’instant t. Vérifier que (Xt) est un processus de naissance et demort ; représenter son graphe ; établir que la distribution stationnaire est la loi binomiale

    B(

    N,λ

    λ + µ

    )et trouver le nombre moyen d’étudiants sur Toulouse lorsque N = 23,

    1

    µ= 5jours et

    1

    λ= 2jours.

  • 18 Exercices

    Chaque étudiant passe de Toulouse à l’extérieur avec un taux µ (car Ti a pour loi E(µ) et la preuveest la même qu’à l’exercice 1), et passe de l’extérieur à Toulouse avec un taux λ (car Te a pour loi E(λ)).

    • À partir de 0, la seule transition possible (non négligeable, du moins!) est de 0 vers 1, qui correspondà une entrée, pouvant venir de l’un des N étudiants : taux Nλ.

    • À partir de N , la seule transition possible est de N vers N − 1, qui correspond à un départ de l’undes N étudiants : taux Nµ.

    • À partir de k ∈ {1, · · · , N − 1}, on peut passer à k − 1 si l’un des k étudiants quitte Toulouse(taux kµ et on peut passer à k + 1 si l’un des N − k étudiants revient à Toulouse (taux (N − k)µ.

    On a bien un processus de naissance et de mort dont le graphe des taux est le suivant :

    Pour déterminer le régime stationnaire, on écrit les équations de “balance”, “boudin par boudin”.On a donc :

    Nλp0 = µp1(N − 1)λp1 = 2µp2

    ...(N − k + 1)λpk−1 = kµpk

    ...λpN−1 = NµpN

    ce qui donne, en exprimant toutes les probabilités en fonction de p0 :

    p1 =Nλ

    µp0

    p2 =(N − 1)λ

    2µp1 =

    N(N − 1)2

    µ

    )2p0

    ...

    pk =(N − k + 1)λ

    kµpk−1 =

    N(N − 1) · · · (N − k + 1)k!

    µ

    )kp0

    ...

    pN =λ

    NµpN−1 =

    N(N − 1) · · · 1N !

    µ

    )Np0

    ,

    soit pk = CkN

    µ

    )kp0 et

    N∑

    k=0

    pk = 1 donne p0

    [N∑

    k=0

    µ

    )k]= 1. Or

    N∑

    k=0

    µ

    )k=(

    λ

    µ+ 1)N

    =(λ + µ)N

    µN

    et donc pk = CkNλkµN−k

    (λ + µ)N. La distribution stationnaire est donc la loi binomiale B

    (N,

    λ

    λ + µ

    ).

    En particulier, E(X) = Nλ

    λ + µ= N

    11 + µλ

    .

    A. N. N = 23, E(Ti) = 5 =1µ

    et E(Te) = 2 =1λ

    , doncµ

    λ=

    25

    et E(X) =23

    1 + 25= 23 × 5

    2.

    Le nombre moyen d’étudiants sur Toulouse est donc ≈ 16 .