PREDIÇÃO DE TRÁFEGO ETHERNET UTILIZANDO REDES NEURAIS

ARTIFICIAIS

José Eduardo C. Sales, Augusto Cesar P. Loreiro da Costa

Universidade Federal da Bahia

PPGEE-Programa de Pós graduação em Engenharia Elétrica
Escola Politécnica – Federação
40.210-630 - Salvador – BA
E-mails: eduardo@oi.net.br, augusto.loureiro@ufba.br

Resumo – Este artigo investiga a utilização de redes neurais artificiais perceptron de múltiplas camadas
(MLP) alimentadas adiante com algoritmo de treinamento de retroprogagação (backpropagation) na
simulação e predição do tráfego de dados multimídia em redes ethernet. A característica autossimilar, ou
fractal, deste tipo de tráfego permite a utilização de modelos matemáticos que simulam esta característica.
As redes neurais artificiais podem aprender esta característica mediante treinamento, e se apresentam como
uma alternativa viável para simulação e predição.

Abstract – This paper investigates the use of multi-layer perceptron (MLP) artificial neural networks with
backpropagation learning algorithm for simulation and prediction of multimedia ethernet traffic. The self-
similar, or fractal, characteristic of this traffic allows the utilization of mathematical models that simulate
this feature. The artificial neural networks can learn this characteristic under training, and are a viable
alternative for simulation and prediction.

Key words – Neural networks, Ethernet traffic, self-similarity, backpropagation

1. Introdução - efeito Noé: determina a dependência de

Os sistemas de telecomunicações têm
evoluído na última década para uma
plataforma baseada em comutação de
pacotes obedecendo a protocolos da rede
internet. O tráfego de pacotes numa interface
Ethernet foi estudado por Leland et al. [3]
por um período de trinta meses e foi
constatado um comportamento autossimilar,
ou fractal, significando que apresenta
sempre a mesma característica, independente
da escala de tempo em que é medido.
Devido a este comportamento
autossimilar, podemos prever
comportamento futuro deste tráfego. Dentre
as técnicas atualmente estudadas as redes
neurais artificiais têm obtido resultados
bastante satisfatórios.
Nossa proposta consiste em utilizar
uma rede neural MLP (multi-layer
perceptron) com algoritmo de treinamento
“backpropagation” para prever o tráfego
futuro.
Autossimilaridade
O comportamento autossimilar de um
sistema foi definido por Mandelbrot [4]
como aquele que apresenta dois efeitos:
curta duração, caracterizado por picos numa
série temporal;
- efeito José: determina a dependência de
longa duração, caracterizado por repetições
de padrões numa série temporal.
Matematicamente a autossimilaridade
de uma série temporal pode ser expressa por:
- a variância da média amostral cai mais
lentamente que a variância do tamanho da
amostra;
- as funções de autocorrelação caem
hiperbolicamente;
- a densidade espectral tem um componente
o de potência próximo à origem.
O grau de autossimilaridade ou de
persistência, de uma série temporal é dado
pelo parâmetro Hurst, que pode ser estimado
medindo-se as variâncias da amostra para
várias escalas de tempo. Caso o valor do
parâmetro Hurst, H ≥ 0,5, a série é
considerada autossimilar. Kettani e Gubner
[2] desenvolveram um método que relaciona
a média, a covariância, a variância e a
autocorrelação da amostra com o parâmetro
Hurst (H) da seguinte forma:

  n (1)
H   0.5
1  ˆ n (1)
 1 V 0
  (V )  
onde  n (k ) é a autocorrelação da amostra . 0 V 0

Redes Neurais Artificiais - função linear por partes;

Uma rede neural artificial é um 1 V  1 / 2

modelo matemático da rede de neurônios
biológicos constituintes do cérebro humano,
e tem como características principais a
capacidade de aprender e armazenar
conhecimento e a capacidade de processar
informação de forma paralela.
A unidade básica da rede é o modelo
de neurônio desenvolvido por McCulloch e
Pitts [5], que atribui pesos a cada entrada,
efetua a soma destas, e apresenta a saída
através de uma função de ativação. A figura
1 mostra o esquema de um neurônio
artificial.
Figura 1. Modelo de neurônio
Podemos identificar neste modelo os
seguintes elementos:
- um conjunto de sinapses, cada uma com
um peso próprio;
- um somador, para somar os sinais de
entrada ponderados pelos pesos das
sinapses;
- uma função de ativação para restringir a
amplitude da saída do neurônio;
- um sinal de polarização (bias) para
aumentar, ou diminuir, a entrada líquida da
função de ativação.
Matematicamente, podemos
representar o neurônio k por:

 (V )  V  1 / 2  V  1 / 2
0
 V  1 / 2
- função sigmóide;
1
 (V ) 
1  e V
Em alguns casos é desejável que a
função de ativação se estenda até o valor -1,
tornando-se uma função ímpar do campo
local induzido V . Nestes casos utiliza-se a
função sinal no lugar da função limiar, e a
função tangente hiperbólica no lugar da
função sigmóide.
O Percepton de Rosemblat [6] é
baseado no modelo de neurônio descrito
acima. O objetivo do perceptron é classificar
corretamente o conjunto de estímulos de
entrada {x1, x2, ..., xn} em uma de duas
classes {C1, C2}. Caso a saída yk seja +1 a
entrada é classificada na classe C1 , caso a
saída seja -1 a entrada é classificada na
classe C2.
A rede perceptron de múltiplas
camadas (MLP) consiste de uma camada de
entrada de nós de fonte, uma ou mais
camadas ocultas de nós computacionais, e
uma camada de saída de nós
computacionais. A figura 2 mostra uma rede
neural MLP .

n
y k   ( wkj   k ) .
j 1

Três tipos de função de ativação φ(.)

são comumente utilizados:
- função de limiar (tudo ou nada); Figura 2. Multi Layer Perceptron
Backpropagation
O treinamento das redes MLP é
efetuado utilizando-se o algoritmo de
retropropagação de erro (error
backpropagation), que é um treinamento
supervisionado, baseado na regra de
aprendizagem por correção de erro.
A aprendizagem por retropropagação
de erro consiste de um passo para frente, e
um passo para trás. No passo para frente um
vetor de entrada é aplicado aos nós
sensoriais da rede e se propaga, camada por
camada, produzindo um conjunto de saídas,
como a resposta real da rede. A resposta real
da rede é subtraída de uma resposta desejada
para produzir um sinal de erro. Este sinal de
erro é então propagado para trás, contra a
direção das conexões sinápticas. Os pesos
sinápticos são ajustados de tal forma que a
resposta da rede se move para mais perto da
resposta desejada, num sentido estatístico
[1].
O algoritmo backpropagation é
resumido por Haykin [1] como segue:
1.Inicialização- retire os pesos sinápticos e
limiares de uma distribuição uniforme cuja
média é zero e a variaância é escolhida para
que o desvio padrão dos campos locais
induzidos se encontre na faixa operativa da
função de ativação sigmóide.
2.Apresentação dos Exemplos de
Treinamento- apresente uma época de
exemplos de treinamento à rede.
3.Computação para Frente- suponha que um
exemplo de treinamento de época seja
representado por (x(n), d(n)). Calcule os
campos locais induzidos e os sinais
funcionais da rede, camada por camada.O
(l )
campo local induzido v j (n) para o
neurônio j da camada l é
m0
v (jl ) (n)   w (jil ) (n) yi( l 1) (n)
i 0
onde yi
( l 1)
( n) é o sinal de saída do
neurônio i na camada anterior l-1, na
( l 1)
iteração n. Para i=0, temos y 0 (n)  1
e w j 0 ( n)   j ( n) . Assumindo-se o uso
(l ) (l )
da função sigmóide, a saída do neurônio j da
camada l é
y (jl ) (n)   (v j ( n))
Se o neurônio j está na primeira camada
oculta (l=1), faça
y (jl ) ( n)  x j ( n)
Se o neurônio j está na camada de saída
(l=L), faça
y (jl ) ( n)  o j ( n)
Calcule o sinal de erro
e j ( n)  d j ( n)  o j ( n)
4.Computação para trás- calcule os
gradientes locais da rede, definidos por
 e (j L ) ( n) (v (j L ) (n))
 (l )
(n)    (v ( l ) (n))  ( l 1) (n) w( l 1) (n)
j
 j j

k
k kj
saída
oculta
Ajuste os pesos sinápticos de acordo com a
regra delta generalizada
 
w (jil ) (n  1)  w (jil ) (n)   w (jil ) (n  1)   (j l ) (n) y i( l 1) (n)
onde η é a taxa de aprendizagem e α é a
constante de momento.
5.Iteração- itere as computações dos itens 3
e 4, até que seja satisfeito o critério de
parada.
Redes Neurais atrasadas no Tempo
O tráfego ethernet é uma série
temporal, e o tipo de rede neural que pode
ser treinada para aprender seu
comportamento é a rede alimentada adiante
focada atrasada no tempo. Nesta rede a
entrada é dada pelo vetor formado pelo valor
no tempo atual n e por p valores anteriores,
X ( n)  [ x ( n), x ( n  1),..., x ( n  p )]
onde n é o tempo padrão e p é a ordem de
memória.
A rede pode ser treinada com
algoritmo backpropagation , com uma época
correspondendo a uma seqüência de estados,
cujo número é determinado pela ordem de
memória p e o tamanho N da amostra de A rede foi treinada com os primeiros
treinamento [1]. A figura 3 mostra o 180 dados da amostra usando algoritmo
esquema de uma rede neural alimentada backpropagation com os segintes
adiante focada atrasada no tempo. parâmetros:
- Função de treinamento: Levenberg-
Marquardt;
-Função de aprendizagem: gradiente
descendente com bias e momento;
- Função de desempenho: erro quadrático
médio.
Estabelecemos a meta de erro em
MSE=10-5.

3. Resultados Obtidos
Figura 3. Rede Neural Atrasada no Tempo
As figuras 5, 6, 7 e 8 apresentam os
2. Metodologia de Implementação resultados da simulação da rede para os
primeiros 180 eventos da amostra, que
A coleta de dados de tráfego foi efetuada em foram utilizados para treinamento, para os
um circuito ethernet dedicado na rede de atrasos de tempo de 3, 6, 12 e 25,
multisserviços da operadora Oi durante o respectivamente.
período de 1 de julho a 15 de julho de 2009,
de hora em hora, formando uma amostra de
tamanho N=360. A amostra de tráfego é
mostrada na figura 4. 1
y
y384d3
0.8

0.6

0.4

0.2

0
0 20 40 60 80 100 120 140 160 180

Figura 5 – Treinamento RNA p=3

Figura 4. Amostra de tráfego

O parâmetro Hurst, calculado pelo

método de Kettani e Gubner, desta amostra é 1
y
H=0,993, que mostra um grau de y384d6
0.8
autossimilaridade bastante alto, e nos
permite continuar a investigação. 0.6
A rede neural utilizada para
investigação foi criada utilizando a rede fftd 0.4
do Matlab, com os seguintes parâmetros:
- Número de camadas: 3; 0.2
- Ordem de memória: p=3, 6, 12 e 25;
- Neurônios na camada oculta: 20; 0
0 20 40 60 80 100 120 140 160 180
- Função de ativação da camada oculta:
tanh; Figura 6 – Treinamento RNA p=6
- Neurônios na camada de saída: 1;
- Função de ativação da camada de saída:
tanh.
 1 1
y
y384d12 0.8
0.8

0.6
0.6

0.4
0.4
0.2
0.2
0
0 20 40 60 80 100 120 140 160 180
0
0 20 40 60 80 100 120 140 160 180
Figura10 – Predição um passo adiante p=6
Figura 7 – Treinamento RNA p=12
1

0.8
1
y
0.6
y384d25
0.8
0.4
0.6
0.2
0.4
0
0 20 40 60 80 100 120 140 160 180
0.2
Figura 11 – Predição um passo adiante p=12
0
0 20 40 60 80 100 120 140 160 180
1.4
Figura 8 – Treinamento RNA p=25 1.2
Z
Z384d25

0.8

As figuras 9, 10, 11 e 12 apresentam as 0.6

predições de tráfego para os últimos 180
0.4
eventos da amostra, para os atrasos de tempo
de 3, 6, 12 e 25, respectivamente. 0.2

0
0 20 40 60 80 100 120 140 160 180

Figura 12 – Predição um passo adiante p=25

1
Z Os resultados obtidos nos mostram que
0.8
Z384d3 a rede neural aprende a característica
periódica do tráfego, mas é sensível a ordem
0.6 de memória aplicada à sua entrada.
No caso de nossa amostra de tráfego a
0.4 ordem 3 foi a que apresentou o melhor
resultado, ainda que os valores de pico de
0.2
tráfego sejam bem maiores que os do tráfego
real.
0
0 20 40 60 80 100 120 140 160 180 A ordem 6, além de apresentar picos
Figura 9 – Predição um passo adiante p=3 de tráfego elevados não acompanhou a
persistência do tráfego real, apresentando
picos onde aquele apresentou vales.
A ordem 12 foi um pouco melhor que
a ordem 6, mas também não acompanhou
adequadamente a persistência do tráfego.
 Finalmente a ordem 25, apesar de não [8] McCulloch,Warren S. & Pitts, Walter H.
apresentar picos elevados, tem uma média – A logical calculus of the ideas immanentin
muito mais alta que a média do tráfego real. nervous activity, 1943. Bulletin of
Mathematical Biophysics, vol.5, pp.115-133.
4. Conclusão [9] Oravec, Milos et. al. – Video Traffic
Prediction Using Neural Networks, 2008.
As redes neurais artificiais funcionam Acta Polytechnica Hungarica, vol.5, pp. 59-
adequadamente como simuladores e 78.
preditores de tráfego de dados multimídia [10] Robbins, H.& Monro, S. – A Stochastic
desde que se escolham adequadamente seus Approximation Method, 1951. Annals of
parâmetros. Mathematical Statistics, vol.22, pp. 400-407.
Especificamente o parâmetro de [11] Rosenblatt, R. – The Perceptron: A
atraso, ou ordem de memória, é muito probabilistic model for information storage
sensível quanto ao resultado final. and organization in the brain, 1958.
Outros parâmetros, como número de Psychological Review, vol. 65, pp. 386-408.
neurônios, quantidade de camadas e funções [12] Rumelhart, D.E. et. al. – Learning
de ativação afetam a velocidade de resposta representations by back-propagating errors,
da rede, tanto no treinamento, quanto na 1986. Nature, vol.323, pp. 533-536, London.
simulação, e também a qualidade da [13] Rutka, G. – Neural Network Models for
resposta. Internet Trsffic Predition, 2006. Riga
Um trabalho futuro seria desenvolver Technical University, Riga.
um método para especificar estes parâmetros [14] Von Neuman, John – The General and
com precisão para cada perfil de tráfego Logical Theory of Automata, 1986.
escolhido. Collected Works, Pergamon Press, Illinois.
[15] Wan, Eric – Time Series Prediction by
Referências Using a Connectionist Network with Internal
Delay Lines, 1994. SFI Studies in the
[1] Aguirre, Luis Antônio – Introdução à Sciences of Complexity, Proc. Vol. XVII.
Identificação de Sistemas, 3ª edição, 2007. Addison-Wesley.
editora UFMG, Belo Horizonte. [16] Widrow, B. & Hoff, M. E. – Adaptive
[2] Demuth, Howard et. al. – Neural Switching Circuits, 1960. IRE WESCON
Network Toolbox User’s Guide, 6 ª edição, Convention Record, pp. 96-104.
2009. Mathworks, Natik, MA.
[3] Hassibi, Babak & Kailath, Thomas - H ∞
optimal training algorithms and their relation
to backpropagation, 1995.n dvances in
Neural Information Processing Systems, vol.
7, pp.191-198.
[4] Haykin, Simon – Redes neurais:
princípios e prática, 2 ª edição, 2001.
Bookman, PortoAlegre.
[5] Kettani, Houssain & Gubner, John A.-
Estimation of the long-range dependence
parameter of fractional arima processes,
2003. Proceedings of the 28th Annual IEEE
International Conference on Local Computer
Networks. IEEE.
[6] Leland, Will E. et. al. – On the Self-
Similar Nature of Ethernet Traffic, 1994.
IEEE/ACM Transactions on Networking.
IEEE
[7] Mandelbrot, B. B. – The Fractal
Geometry of Nature, 1983. Freeman, New
York.