SETIT 2009

th
5 International Conference: Sciences of Electronic,
Technologies of Information and Telecommunications
March 22-26, 2009 – TUNISIA

Application des Réseaux Bayésiens à la Modélisation

et la Planification des Réseaux
Lobna BOUCHAALA et Slaheddine JARBOUI
lobna_bouchaala@yahoo.fr
slahjar@yahoo.fr

Résumé: Le présent travail présente un outil de planification des réseaux de communications longues distances basé sur
les performances des réseaux bayésiens. La première partie consiste à modéliser ce réseau à l’aide des algorithmes
d’apprentissage de structures et de paramètres des réseaux bayésiens. Dans un premier temps, nous avons construit les
graphes des réseaux bayésiens en utilisant les algorithmes d’apprentissage de structure K2, GS, et MWST. Ensuite, nous
avons déterminé les tables de probabilités conditionnelles (CPT) de chaque nœud du graphe du réseau bayésien en
utilisant l’algorithme de maximum de vraisemblance. Dans la deuxième partie de notre travail, nous avons optimisé la
structure du réseau.
Mot clé: Réseaux Bayésiens, Modélisation, Apprentissage, Inférence, Planification.

1. Les Réseaux Bayésiens

INTRODUCTION
La planification des réseaux est une application
délicate qui s’affronte à des problèmes de localisation,
de topologie d’allocation de ressources et de routage.
Ca complexité est engendrée par la croissance
exponentielle des services de communications
mobiles, d'Internet et de trafics de données.
Différentes solutions ont été proposées telles que les
réseaux de neurones et les algorithmes génétiques.
En effet, au carrefour de plusieurs disciplines
comme les probabilités et statistiques, l’informatique,
les sciences cognitives, l’analyse décisionnelle, en
particulier pour le diagnostic médical, les
télécommunications, les réseaux bayésiens
constituent aujourd’hui une possibilité efficace dans
la résolution de problèmes. Ils constituent l’un des
formalismes les plus complets et les plus cohérents
pour l’acquisition, la représentation et l’utilisation de
connaissances par des machines intelligentes. Ils sont
le résultat d’une convergence entre les méthodes
statistiques qui assurent le passage de l’observation à
une description et celles de l’intelligence artificielle.
L’objectif de notre travail est le développement
d’un outil de planification des réseaux de
communications longues distances à partir d’une
description des contraintes de ce problème par des
réseaux bayésiens.
Dans la section 1 nous présentons le concept des
réseaux bayésiens, nous présontons notre application
dans la section 2. La section 3 présente la conclusion
et quelques perspectives.
1.1. Définition
Un réseau bayésien B = (G, θ ) est défini par :
- G = (X,E), graphe dirigé acyclique dont les
noeuds E sont associés à un ensemble de variables
aléatoires X = { X1, ··· , Xn },
- θ = {P (Xi |Pa(Xi))}, ensemble des probabilités
de chaque nœud Xi conditionnellement à l’état de ses
parents Pa(Xi) dans G.
- Un ensemble de variables aléatoires
X = {X1,···,Xn} associées aux nœuds du graphe telles
que
P(X1, X2, · · · , Xn) = ∏ P (Xi |Pa(Xi)) (1)
x∈X
S’il existe un arc du nœud A vers le nœud B, A est
nommé le parent du B. L’ensemble des nœuds parents
du nœud Xi est noté par Pa(Xi).
1.2. Inférence
L’inférence dans un réseau bayésien se résume à
un calcul de probabilités a posteriori. Connaissant les
états de certaines variables (appelées variables
d’observation e), on détermine les probabilités des
états de certaines autres variables (appelées variables
cible X) conditionnellement aux observations p(X/e).
Il existe plusieurs algorithmes d’inférence dans les
réseaux bayésiens classés en deux groupes. Le premier
groupe renferme les méthodes d’inférence exactes :
Bucket Elimination [BEC 99], Message Passing

-1-
SETIT2009
[PEA 88] et Junction Tree [JEN 90] qui exploitent les
indépendances conditionnelles contenues dans les
réseaux et donnent à chaque inférence les probabilités
a posteriori exactes. Le deuxième comprend les
méthodes approchées (Markov Chain Monte Carlo et
les méthodes variationnelles).
L’algorithme de Pearl [PEA 88] est limité aux
arbres. Il s’agit d’une architecture à passage de
message. Dans cette technique, à chaque nœud est
associé un processeur qui peut envoyer des messages
de façon asynchrone à ses voisins jusqu’à ce qu’un
équilibre soit atteint.
L'algorithme de l’arbre de jonction est dit JLO, du
nom de ses auteurs: [JEN 90]. Il s'applique à des
réseaux ne comprenant que des variables à valeurs
discrètes. L'algorithme comporte deux phases: une
phase de construction et une phase de propagation.
1.3. Apprentissage des paramètres
L'apprentissage des paramètres correspond à
l'estimation des probabilités à partir d'un certain
nombre de mesures (base d’exemples) après avoir
trouvé la structure du réseau bayésien. Comme pour
tout problème d’apprentissage, différentes techniques
sont possibles selon la disponibilité de données pour le
problème à traiter, ou d’experts du domaine.
L’estimation de distributions de probabilités à
partir de données est un sujet très vaste et complexe.
Nous décrivons ici la méthode la plus utilisée dans le
cadre des réseaux bayésiens. Dans le cas où toutes les
variables sont observées, la méthode la plus simple et
la plus utilisée est l’estimation statistique. Il s’agit
d’estimer la probabilité d’un événement par la
fréquence d’apparition de l’événement dans la base de
données. Cette approche, appelée Maximum de
Vraisemblance (MV) [BEC 99], nous donne alors :
N i , j ,k
p ( X i = x k \ Parent ( X i ) = x j ) = θ iMV
, j ,k =
N i, j
1.4. Apprentissage de la structure
La structure du réseau bayésien dans certaines
situations, est fournie a priori par un expert. Par
contre, la détermination de cette structure à partir
d’une base d’exemples n’est pas simple,
principalement à cause du fait que l’espace de
recherche est de taille super-exponentielle en fonction
du nombre de variable. [ROB 1977] a montré que le
nombre de structures différentes pour un réseau
bayésien possédant n nœuds, est donné par la formule
de récurrence suivante :
n n!
r(n) = ∑ (-1)i+1 2i(n -1)
r(n
i =1 i! (n − i )!
(3)
L’algorithme PC a été introduit par [SPR 00]. Cette
méthode utilise un test statique pour estimer s’il y a
indépendance conditionnelle entre deux variables. En
pratique, on démarre avec un graphe complètement
connecté, et lorsqu’une indépendance conditionnelle
est détectée, l’arc correspondant est retiré.
Le principe de l’algorithme de recherche gloutonne
(Greedy Search GS) [FRA 03] est de prendre un
graphe de départ, définir un voisinage de ce graphe,
puis associer un score à chaque graphe du voisinage.
Le meilleur graphe est alors choisi comme point de
départ de l’itération suivante. L’algorithme s’arrête
lorsque le graphe obtenu réalise un maximum local de
la fonction de score.
[COO 1992] ont ont proposé l’algorithme K2. Le
principe de cet algorithme est de simplifié l’espace de
recherche en ordonnant les noeuds. Un nœud ne peut
alors être parent d’un autre que s’il précède ce dernier
dans l’ordre fixé. L’espace de recherche devient alors
l’ensemble des réseaux bayésiens respectant cet ordre
d’énumération. L’algorithme K2 permet aussi de
maximiser la probabilité de la structure sachant les
données .
SBD (B, D) = p(B, D) = p(B).p(B\D)
n qi (ri − 1)! ri
= p (B ) ∏ ∏ ∏ N ijk ! (4)
i =1 j =1 ( N ij + ri − 1)!k =1
Puisque l’algorithme K2 maximise la probabilité
de la structure sachant les données p(B\D) donc
l’expression à maximiser extraite est noté :
n qi (ri − 1)! ri
g (C i ) = ∏ ∏ ∏ N ijk ! (5)
i =1 j =1 ( N ij + ri − 1)!k =1
Où Ci les nœuds constituant l’ensemble des
parents de la variable Xi
Il est possible d’utiliser le score BIC [AKA 73] et
[AKA 79] ou le score bayésien (BD Bayesian
Dirichlet [COO 1992]).
l’algorithme K3 [BOU 93] est une variante de
(2) l’algorithme K2 en remplaçons le score BD par le
score MDL.
[CHO 68] ont proposé une méthode dérivée de la
recherche de l’arbre de recouvrement de poids
maximal (MWST, Maximum Weight Spanning Tree).
Cette méthode associe un poids à chaque arête
potentiel Xi-Xj de l’arbre. Ce poids peut être
l’information mutuelle entre les variables Xi et Xj
comme proposé par [Chow 1968], ou encore la
variation du score local lorsqu’on choisit Xj comme
parent de Xi. Une fois cette matrice de poids définie, il
suffit d’utiliser un des algorithmes standards de
résolution du problème de l’arbre couvrant de poids
maximum comme l’algorithme de Kruskal ou celui de
Prim, et d’orienter l’arbre non dirigé obtenu en
- i)
choisissant une racine puis en parcourant l’arbre par
une recherche en profondeur.
2. Modélisation et planification des
réseaux
La première étape de notre travail consiste à
choisir la topologie du réseau. Dans cette topologie la
-2-
SETIT2009
localisation des 20 nœuds est effectuée de façon
aléatoire .
Désignons par dij la distance euclidienne entre le
nœud i et le nœud j.
d ij = ( X i − X j ) + (Yi − Y j )
2 2
(6)
Où (Xi, Yi) et (Xj, Yj) désignent respectivement
les coordonnées du noeud i et j.
Deux nœuds séparés par une distance inférieure à 8
(dij <8) sont liés par un arc. La figure 1 illustre un
exemple de topologie de réseau.
: Nœud
: Arc
Figure 1, Exemple d’un réseau
La deuxième étape consiste à déterminer la base
d’exemples D. Dans notre cas, la base d’exemples
décrit l’état du réseau au cours du transfert des
données d’un nœud à un autre. Cette base d’exemples
se présente sous la forme d’une matrice, appelée
« data », formée de n lignes (nombre de nœud) et m
colonnes (nombre de mesures effectuées).
Pour déterminer cette base d’exemples, nous avons
réalisé l’algorithme ci-dessous :
Algorithme
- Remplir une matrice des coûts par le poids de
chaque arc
- 10% du nombre total des arcs du réseau présenté
dans la figure 1 seront considérés comme défectueux.
-D=Ø
- Choisir (m) la taille de la base d’exemple
- Pour i de 1 à m faire
Choisir deux nœuds em = nœud émetteur et rec =
nœud récepteur,
Appliquer l’algorithme de Dijkstra, algorithme de
recherche de plus court chemin, sur la matrice des
-3-
coûts
nbrn = (nombre de nœuds de passage entre em et
rec) +1,
nbra = nombre d’arcs visités lors de l’émission
entre em et rec,
Si l’émission entre em et rec est directe
alors dir = 2
sinon dir = 1
Si l’émission entre em et rec parcourt le plus court
chemin
alors court = 2 et pbarc = 1
sinon court = 1 et pbarc = 2
Fin pour
La troisième étape consiste à construire le graphe
du réseau bayésien. La construction de ce graphe
nécessite l’utilisation d’un algorithme d’apprentissage
de structures. Nous procédons dans cette partie à la
construction de réseaux bayésiens à partir de bases
d’exemples de différentes dimensions. Ceci nous
permettra de tester l’influence du nombre d’exemples
sur la convergence des algorithmes d’apprentissage de
structure utilisés K2, GS et MWST.
Nous avons constaté que l’algorithme K2 est très
rapide en temps d’exécution, et se stabilise à partir
d’une base d’exemples égale à 10000 exemples
(Figure 2). L’algorithme MWST est moins rapide que
K2 en temps d’exécution. Cependant, il est très
sensible aux modifications de la base d’exemples.
Ceci se voit dans la figure 3. L’algorithme GS est très
lent en temps d’exécution et il est aussi très sensible à
la variation de la base d’exemples, comme c’est
montré sur la figure 4. GS est sensible à l’initialisation
puisqu’il nécessite un graphe de départ. Dans notre cas
nous avons pris le graphe obtenu par l’algorithme K2
(Figure 2d) comme graphe de départ.
La quatrième étape de notre travail est
l’estimation des paramètres du réseau bayésien. Ces
paramètres sont représentés par une distribution de
probabilité de chaque noeud connaissant ses parents.
Le graphe (figure 2d) du réseau bayésien utilisé est
celui obtenu par application de l’algorithme K2 avec
l’ordre d’énumération [em rec court nbn pba nba
dir]
P(em=i, rec=j\court=1) ou P(em=i, rec=j\pba=2)
ne sont pas calculables à partir des tables de
probabilité (CPT) trouvées dans la quatrième étape. Il
existe de nombreux algorithmes d'inférence. Nous
rappelons que l’inférence dans un réseau bayésien
consiste à propager une ou plusieurs informations
certaines au sein de ce réseau, pour en déduire
comment les croyances concernant les autres nœuds
sont modifiées. Selon la structure du réseau bayésien,
nous choisissons l’algorithme d’inférence adéquat. Si
la structure du réseau bayésien est un arbre, nous
utilisons l’algorithme de Pearl « message passing ».
SETIT2009

em rec court nbn em rec court

pba nba pba nbn

dir nba dir

(a) (b)

em rec
em rec

court
court nbn

nbn
pba

nba pba

nba

dir

dir

(c) (d)

Figure 2 , Réseau Bayésien obtenu par application de l’algorithme K2 pour l’ordre

d’énumération [em rec court nbn pba nba dir] à partir d’une base d’exemple
de taille
(a) : 100, (b) : 500 , (c) : 1000, (d) : 10000 Æ30000

-4-
SETIT2009

em em

rec nbn rec

pba nba dir nbn court

court nba dir pba

(a) (b)

em
em

nbn
nbn

rec court dir nba

rec nba dir pba

pba
court

(c) (d)

Figure 3 , Réseau Bayésien obtenu par application de l’algorithme MWST à partir

d’une base d’exemple de taille

(a) : 100, (b) : 500, (c) : 10000, (d) : 15000 Æ30000

-5-
SETIT2009

em rec em rec

court nbn

pba nba

nbn dir

nba court

dir pba

Figure 4, Réseau Bayésien obtenu par application de l’algorithme GS à partir

d’une base d’exemple de taille

(a): 100Æ10000, (b) : 15000Æ30000

Si la structure du réseau bayésien est avec Si P(em=i, rec=j\court=1) = 0 ou P(em=i,

boucles, nous utilisons l’algorithme JLO « junction
tree ». D’après notre exemple, la structure du réseau
bayésien obtenue par application de l’algorithme K2
(Figure 2d) présente des boucles. Par conséquent
l’application de l’algorithme de l’arbre de jonction
s’impose.
rec=j\pba=2) = 0, nous supprimons le lien entre i et j
et nous mettrons à jour la matrice des coûts. La figure
5 présente la topologie du réseau avant et après
suppression d’arcs.
3. Conclusion et Perspectives
Nous avons présenté dans ce travail une méthode
de planification des réseaux de communications
longues distances en utilisant les réseaux bayésiens.
Grâce aux algorithmes d’apprentissage et d’inférence
de ces derniers nous avons modélisé qualitativement et
quantitativement les réseaux de communications.
Comme Perspectives, nous proposons d’appliquer les
réseaux bayésiens à la mise à jour des tables de
routage et au contrôle de la QoS dans les réseaux de
communications.

REFERENCES
[AKA 93] H. AKAIKE, “Information theory and extension
of the maximum likelihood principle”. Proceedings of
the 2nd International Symposium of Information Theory,
: Nœud Akademiai Kiado, Budapest, pp. 267–281, 1973.
: Arc [AKA 79] H. AKAIKE, “A bayesian extention of the
minimum AIC procedure of autoregressive odel”.
Figure 5, Réseaux avant et après mise à jour Biometrika, vol 66(1), pp. 237–242, 1979.

-6-
SETIT2009

[ BEC 99] A. BECKER, NAÏM P., Les réseaux bayésiens

modèle graphique de connaissance, Editions Eyrolles,
1999.
[BOU 93] R.R. BOUCKAERT, Probabilistic network
construction using the minimum description length
principle. Lecture Notes in Computer Science, 747, p.
41-48, 1993.
[CHO 68] C. CHOW, C. LIU, Approximating Discrete
Probability Distributions with Dependence Trees, IEEE
Trans. Information Theory, vol.14, p. 462-467, 1968.
[COO 92] G.F. COOPER, HEROSKOVITS E., A Bayesian
method for the induction of probabilistic network from
data, Machine Learning, vol.9, p.309-347, 1992.
[FRA 03] O. FRANÇOIS, P. LERAY, « Etude comparative
d’algorithmes d’apprentissage de structure dans les
réseaux bayésiens », Proceeding of RJCIA 2003,
plateforme AFIA, Laval, France, 2003.
[JEN 90] F.V. JENSEN, S.L. LOURITZEN, K.G. OLESEN,
Bayesian updating in recursive graphical models by
local computations. Computational Statistical Quaterly,
4, p.269-282, 1990,
[PEA 88] J. PEARL, Probabilistic reasoning in Intelligent
Systems: Networks of plausible inference Morgan
Kaufman, 1988.
[ROB 77] R. ROBINSON, Counting unlabeled acyclic
digraphs. In C. H. Little, Ed Combinatorial Mathematics
V. Lecture Notes in Mathematics, Berlin: Springer,
vol.622, p. 28-43, 1977.
[SPI 00] P. SPIRTES, C. GLUMOUR, R. SHEINES,
Causation. Prediction and Search, The MIT Press, 2ème
Edition, 2000.

-7-