Redes Neurais de Kohonen

Juliano Piccoli
Sumário

● Introdução
● Características
● Estrutura da rede
● Processo de treinamento
● Aplicações
Introdução

● Modelo de mapa auto-organizável proposto por

Teuvo Kohonen na década de 80;
● Baseado no funcionamento do córtex cerebral.
Características

● Aprendizado não-supervisionado;
– A rede neural necessita de treinamento e de exemplos
para tal, mas não é necessário conhecer com
antecedência o resultado esperado da rede para cada
amostra de treinamento
● Possui apenas duas camadas de neurônios;
● A camada de saída pode possuir mais de uma
dimensão;
● Apenas um neurônio de saída é ativado a cada
amostra apresentada (competição).
Estrutura da rede

● Cada neurônio de
entrada está conectado
a todos os neurônios de
saída (fan-out);
● Pode-se dizer que cada
neurônio de saída
possui um vetor de
pesos.
Escala multidimensional
Treinamento

● Competição

● Adaptação

● Cooperação
Competição

● Cálculo de uma função discriminante envolvendo

os pesos de cada neurônio e os valores das
dimensões da amostra do espaço de dados;
● O neurônio que obtiver o melhor resultado para
esta função é declarado vencedor (ativado);
● Distância Euclidiana:

v=arg min∥ x−w i∥ , i=1, 2,... , n

i

∥ x−w∥ = ∑  x i −w i 2
Adaptação

● O neurônio vencedor da competição tem seus

pesos ajustados de forma a tornar-se ainda mais
adaptado à amostra que o ativou.
Cooperação

● Os neurônios vizinhos
também sofrem
adaptações de menor
intensidade
w novo=1−a×h rs ×w anterior a×hrs ×x

 
2
−∥ r−s∥
h rs=exp 2
s
Algoritmo
Retorna ao
Início primeiro elemento
do grupo de
treinamento

Não
Restam amostras no Incrementa o
grupo de treinamento? contador de
iterações

Sim

Apresentar a próxima
amostra à rede
e determinar o Iterações < limiar
neurônio
vencedor Não

Sim
Aplicar os ajustes
nos pesos Fim
dos neurônios
Aplicações

● Reconhecimento de padrões;
– Reconhecimento de fala,
– Reconhecimento de caracteres,
– Etc.
● Compactação
– O processo de treinamento e classificação da rede neural
de Kohonen pode ser descrito como um processo de
quantização
● Otimização, predição de séries temporais,
filtragem de ruídos, aprendizado de robôs, etc.
Variações no algoritmo

● Algumas propostas de implementação utilizam

uma função de ativação nos neurônios de saída;
● Mapas com elementos retangulares ou hexagonais;
● A normalização dos dados de entrada pode
melhorar os resultados obtidos;
● Pode-se utilizar uma função de distância
euclidiana ponderada.