REDES NEURAIS

Introduo
Bibliografia
Simon Haykin Redes Neurais Princpios e Prtica, Traduo, Ed. Artmed:
Bookman, Porto Alegre, 2001.
Laurene Fausett Fundamentals of Neural Networks Architectures, Algorithms, and
Applications, Prentice-Hall, USA, 1994.
Ral Rojas Neural Networks A Systematic Introduction, Springer-Verlag, Berlin,
1996.
James A. Freeman, David M. Skapura Neural Networks Algorithms, Applications,
and Programming Techniques, Prentice-Hall, USA, 1991.
Braga,A.; Carvalho, A.; Ludermir, T. "Redes Neurais Artificiais: Teoria e Aplicaes",
Livro Tcnico e Cientfico, Rio de Janeiro, 2000.
Zsolt L. Kovcs, - Redes Neuras Artificiais Fundamentos e Aplicaes, 3a. edio.
Editora Livraria da Fsica, So Paulo-SP, 2002.
Christopher M. Bishop Neural Networks for Pattern Recognition.Oxford University
Press, 2005.
Robert Lent Cem Bilhes de Neurnios Conceitos Fundamentais de
Neurocincia. Ed. Atheneu, So Paulo, 2001.
Contedo da Disciplina

Introduo
Base Biolgica
Redes Neurais Artificiais
Perceptron Simples
Perceptron Multicamadas
Redes de Base Radial
Redes de Hopfield
SOM (Kohonen)
Neocognitron (Fukushima)
 Avaliao

Duas provas

Trabalhos, Exerccios
Motivaes
Muitas vezes os algoritmos so difceis de
serem elaborados, como para:
fazer com que um computador reconhea figuras.
encontrar regras explcitas para cobrir uma infinidade
de possibilidades de figuras distorcidas, efeitos de
iluminao e sombreamento, efeitos de perspectiva, e
outros.
para reconhecimento de vozes, existe uma
quantidade de variaes de tonalidades, acentos, etc.
Caractersticas interessantes do
crebro humano
O crebro humano manipula problemas onde regras
explcitas no so facilmente formuladas, assim como os
computadores modernos tem facilidade em aritmtica.

O crebro humano aprende tais habilidades no tanto por

regras explcitas, mas atravs de exemplos.

Os cientistas investigam: a habilidade de trabalhar sem

regras explcitas, e o aprendizado atravs de exemplos,
relacionado com o crebro.
 Funcionamento do Crebro Humano
O funcionamento do crebro humano no totalmente
entendido, e objeto de contnuas pesquisas. Contudo, pelo
que se conhece hoje, parece operar como segue:
o processamento de informao no crebro realizado por
uma rede de milhes de unidades de processamento
simples chamados neurnios;
essencialmente, cada neurnio recebe sinais de um grande
nmero de outros neurnios, combina essas entradas, e
ento envia sinais a um grande nmero de outros neurnios.
o padro de conexes entre os neurnios que parece
incorporar o conhecimento requerido para realizar o
processamento de informaes. Por isso, um nome
alternativo para o processamento que imita o crebro seria
computao conexionista.
Ramn e Cajl, em 1911, sugerem que os constituintes bsicos do
crebro so os neurnios. O crebro humano apresenta
aproximadamente 1011 neurnios, com aproximadamente 1013
sinapses ou conexes.
Os neurnios so de 5 a 6 ordens de magnitude mais lentos do que
portas lgicas de silcio (10-3 seg. x10-9 seg)
Porm, a sua eficincia energtica muito alta.
crebro 10-16 Joules/operao/seg
computador 10-6 Joules/operao/seg
Como conseqncia o crebro realiza reconhecimento de padres,
percepo e controle motor muitssimo mais rpido e melhor do que
qualquer computador j produzido.

Funcionalidade do crebro

_ adaptabilidade por intermdio de aprendizado

_ comportamento sensvel ao contexto

_ tolerncia a erro

_ capacidade de operar com conhecimento parcial

_ grande capacidade de memria

_ capacidade de processamento em tempo real

O que so Redes Neurais Artificiais
As redes neurais artificiais so diferentes dos
computadores convencionais nos seguintes itens:

do ponto de vista de projeto, redes neurais artificiais so

dispositivos computacionais que usam os princpios similares
aos do crebro humano. O esforo motivado pela esperana
de que tais computadores sejam mais eficientes que os
computadores convencionais em tarefas onde esses ltimos
apresentam dificuldades; e

do ponto de vista funcional, um objetivo importante o

desenvolvimento de computadores que possam aprender
atravs de exemplos. A necessidade de aprendizado atravs
de exemplos intimamente vinculada dificuldade de
formulao explcita de regras para certas aplicaes.
Enfoques Diferentes
Os cientistas tem enfatizado diferentes aspectos:

certos esforos tem focalizado mais em aspectos de engenharia.

A meta principal verificar se os computadores baseados nesses
novos princpios so eficientes em aplicaes onde os
computadores convencionais tem certas dificuldades.

outros esforos tem focalizado mais nos aspectos psicolgicos. A

meta principal nesse caso estudar as redes neurais artificiais
como modelos experimentais que funcionam como crebro ou
mente humana, permitir o aperfeioamento desses modelos, e
levar ao melhor entendimento da memria humana, aprendizado,
etc.

A maioria dos estudos em redes neurais artificiais tem sido atravs

de simulaes de operaes de tais computadores usando
computadores convencionais
 Tendncias
O estmulo inicial que conduziu ao desenvolvimento de modelos
matemticos de redes neurais artificiais, foi um esforo para entender
mais detalhadamente o funcionamento do crebro humano.

O objetivo era construir mecanismos que operassem de modo similar

(tomar decises, processar informaes, aprender, lembrar e
otimizar) e se possvel, at de forma mais eficiente que o crebro
humano.

Tomando por base os prottipos at aqui desenvolvidos, de

consenso geral que este objetivo ainda est longe de ser atingido.

No entanto, continua elevado e em forte expanso o interesse na

formalizao e aplicao de modelos de redes neurais artificiais.
 multidisciplinaridade
A razo para o interesse em redes neurais artificiais o seu enorme potencial na
anlise e sntese de sistemas de processamento de informao e na generalizao de
resultados expressivos j obtidos em outras reas de atuao cientfica, o que tambm
contribui para evidenciar o carter multidisciplinar da pesquisa.
As principais reas envolvidas so: estatstica, teoria de informao, teoria de sistemas
lineares e no-lineares, teoria da computao, lgebra linear, aproximao de funes,
processamento de sinais, controle de processos e otimizao de sistemas.
A maturidade atingida como rea de atuao cientfica tem levado ao desenvolvimento
de ferramentas de engenharia eficazes e utilizao eficiente dos recursos
computacionais, ampliando a capacidade de manipulao de informaes.


APLICAES
 Classificao de padres
Classificao de padres
A tarefa de classificao de padres atribuir a um padro
de entrada (como forma de onda vocal, ou smbolo
manuscrito) representado por um vetor de fatores, a uma
das classes pr-especificadas.

Aplicaes conhecidas incluem reconhecimento de

caracteres, reconhecimento vocal ou da fala, classificao
de formas de onda de eletroencefalograma (EEG),
classificao de clulas sanguneas, e inspeo de cartes
de circuito impresso.
Clustering/categorizao
Em clustering ou agrupamento, tambm conhecido
como classificao de padres no-supervisionada, no
existem dados para treinamento com classes
conhecidas.

Um algoritmo de clustering explora a similaridade entre

os padres e coloca os padres similares num grupo.

Aplicaes conhecidas de clustering incluem minerao

de dados, compresso de dados, e anlise exploratria
de dados.
Aproximao de funes

Supondo que um conjunto de n padres de treinamento

(pares entrada-sada), (x1, y1), (x2,y2), ..., (xn,yn), tenham
sido gerados de uma funo desconhecida f(x) (sujeito a
rudo).

A tarefa da aproximao de funo achar uma

estimativa, digamos f(x) da funo desconhecida.

Vrios problemas de modelamento em engenharia e

cincia requerem aproximaes de funes.
Previso(forecasting)

Dado um conjunto de n amostras (y(t1), y(t2), ..., y(tn)) em

uma sequncia de tempo t1, t2, ...,tn, a tarefa de prever
a amostra y(tn+1) num futuro tn+1.

A previso (forecasting) tem um impacto significativo na

tomada de decises em negcios, cincia, e
engenharia.

Previso de estoques e de tempo so aplicaes tpicas.

Otimizao

Uma grande variedade de problemas em matemtica,

estatstica, engenharia, cincia, medicina e economia
podem ser classificadas como problemas de otimizao.

A meta de um algoritmo de otimizao achar uma

soluo que consiste numa funo objetiva gerada por
um conjunto de restries que seja maximizada ou
minimizada.

O problema do vendedor ambulante (traveling salesman

problem), e o problema NP-complete, so exemplos
clssicos.
Memria enderevel por contedo
No modelo de von Neumann de computao, uma entrada na
memria acessada somente atravs do endereo, e no em
funo do contedo na memria.

Assim, se um pequeno erro ocorre quando feito o clculo de

endereo, obtido um item completamente diferente.

A memria associativa ou memria enderevel por contedo,

acessada pelo contedo.

O contedo na memria pode ser recuperado mesmo usando uma

entrada parcial ou distorcida do contedo.

A memria associativa extremamente desejvel na construo de

base de dados de informaes multimdia.
 Controle
Considerando um sistema dinmico definido por
um (u(t), y(t)), onde u(t) a entrada do sistema
de controle e y(t) a sada, no tempo t.

No controle adaptativo referenciado por padro,

a meta gerar uma entrada u(t) tal que o
sistema siga uma trajetria desejada
determinada por um padro de referncia.
At que ponto as redes neurais artificiais
devem imitar o crebro humano?
Comparando aves (naturais) e avies (artificiais), ambos tem
asas, porm, enquanto as aves voam agitando as suas asas, os
avies voam sem agitar as suas asas.
At que ponto os crebros artificiais devem ser projetados
baseados na estrutura dos crebros reais?
Atualmente os cientistas ainda no tem certeza dos princpios
essenciais que devem ser incorporados num crebro artificial.
Em relao ao avio, sabe-se que a agitao das asas no
um princpio essencial, porm, ter asas essencial.
Similarmente, ter interconexes entre os processadores um
princpio essencial, mas usar processos qumicos e eltricos
para as interaes entre os processadores, no um princpio
essencial.
Um dos aspectos implcitos nesse novo
projeto seria:
os neurnios no crebro humano so muito mais lentos
que os chips usados em computadores convencionais.
mas o crebro humano parecem trabalhar velozmente
em muitas tarefas de processamento de informao.
isso acontece porque no crebro as unidades trabalham
essencialmente em paralelo, e cada unidade capaz de
realizar vrias funes simultaneamente a outras
unidades.
os projetos baseados numa CPU essencialmente
requerem aes realizadas uma a uma,
sequencialmente e serialmente.
 Finalmente, no processo de aprendizado atravs de
exemplos, as redes neurais artificiais exibem uma outra
caracterstica:

a de generalizao. Isso significa que se a rede aprende a lidar

com um certo problema, e lhe apresentado um similar, mas no
exatamente o mesmo, ela tende a reconhecer esse novo
problema, oferecendo a mesma soluo.

naturalmente, essa a forma em que os seres humanos tendem

a generalizar e aplicar os conhecimentos anteriores para lidar
com novos problemas.

importante mencionar que as redes neurais artificiais no esto

sendo propostas para substituir ou sobrepujar os projetos de
computadores convencionais, mas sim para complement-los.