14/08/2019

• Unidade de Ensino: 04

Inteligência • Competência da Unidade: Compreender as redes

neurais ar0ficiais;

Ar.ficial • Resumo: Compreender os fundamentos e os elementos

que compõem uma rede neural ar0ficial;

• Palavras-chave: redes neurais, aprendizado, erro,

Redes neurais ar.ficiais
ADALINE, retropropagação do erro;

• Título da Teleaula: Redes neurais ar0ficiais

• Teleaula nº: 04
Ma. Vanessa Ma0as Leite

• O que é uma Rede Neural ar0ficial? Rede Neural Ar.ficial

• Adquirir, Armazenar e U0lizar conhecimento;
Cérebro RNA
• Reconhecimento de Padrões; • Neurônio Biológico • Neurônio Ar0ficial
• Redes de Neurônios • Camadas
• Aprendizagem • Aprendizagem
• Generalização • Generalização
• Associação • Associação
Fonte: shuXerstock, ID 728178127

Conceitos

Introdução às
redes neurais

Fonte: kahoot.com

1
 14/08/2019

Histórico das Redes Neurais Ar.ficiais Histórico das Redes Neurais Ar.ficiais
• Século XIX: Proposto um sistema computacional • 1958: perceptron que é um agente inteligente
baseado no funcionamento cerebral; capaz de determinar se um conjunto de
• Século XX: com o entendimento do elementos reduzidos às suas expressões
funcionamento do neurônio, que os avanços numéricas pertence a uma determinada classe
foram possíveis na prá0ca; ou não;
• 1943: foi desenvolvido o modelo do LTU, • 1986: o primeiro modelo de redes neurais de
abrindo caminho para a implantação de redes múl0plas camadas foi postulado e
neurais; implementado em somware;

Caracterís.cas do Neurônio Biológico Caracterís.cas do Neurônio Biológico

Os sinais elétricos são
recebidos pelos dendritos e
Neurônio: são células transmi0dos pelo axônio
especializadas que até os terminais sináp0cos,
compõem a porção a0va de onde são passados para
de nossos cérebros e de outros neurônios ou para
nossos sistemas nervosos;
as terminações nervosas
responsáveis pelas ações
Fonte: Livro texto
musculares, por exemplo. Fonte: Livro texto

Neurônio Booleano de McCulloch-PiEs Neurônio Booleano de McCulloch-PiEs

Elemento computacional capaz de receber várias • Comparação com o limiar:
entradas booleanas, atribuir pesos, processá-las,
compara-las com o valor pré-estabelecido e gerar
um valor booleano na saída.

• Saída:

Fonte: Livro texto

2

Conceitos
Conceitos e
Elementos de
Redes Neurais
Conceitos e Elementos de Redes Neurais
Fonte: Livro texto
Conceitos e Elementos de Redes Neurais
• Função de Processamento (ou a.vação):
processa o sinal gerado da combinação dos
vários binômios [sinal de entrada, peso], para
gerar o sinal de saída do neurônio;
• Limiar: Valor arbitrário estabelecido para cada
nó com o qual o resultado da função de
processamento será comparado
14/08/2019
Conceitos e Elementos de Redes Neurais
• Rede Neural Ar0ficial: sistemas de computação
inspirados pelas redes neurais biológicas que
são capazes de realizar aprendizado de
máquina;
• É formada por nós conectados em uma única
direção, formando uma rede, na qual os sinais
de entrada são processados e propagados (ou
não), gerando combinações de sinais de saída.
Conceitos e Elementos de Redes Neurais
• Conexões Saída/Entrada: Conexões entre os
nós de uma camada com os nós da camada
subsequente.
• Pesos: Fatores de mul0plicação para cada um
dos sinais de entrada em um nó.
Conceitos e Elementos de Redes Neurais
• Fase de Aprendizado: u0liza-se algum dos
vários mecanismos de reconfiguração de pesos
e limiares para reforçar os estados que geram
respostas corretas e inibir estados que geram
respostas erradas;
• Fase de U.lização: Resolve o problema a qual
foi proposta, sendo que seus pesos e valores
permanecem inalterados.
3
 14/08/2019

Conceitos e Elementos de Redes Neurais Conceitos e Elementos de Redes Neurais

Fonte: Livro texto Fonte: Livro texto

Resolução da SP Convite para auxiliar na melhoria de um sistema de

reconhecimento de pessoas suspeitas em

Apresentação aeroportos, você deve apresentar uma alterna0va

ao uso de analistas e a introdução da possibilidade

sobre Redes de u0lizarem um sistema de reconhecimento de

face baseado em redes neurais

Neurais

• O que é uma rede neural ar0ficial. • O que é uma rede neural ar0ficial.
• Como esses mecanismos vieram a fazer parte Um modelo computacional baseado em elementos
dos campos de pesquisa da computação. simples que, atuando conectados uns aos outros,
• Quais são seus elementos e como uma rede transmitem ou deixam de transmi0r sinais digitais
neural se aproxima do aparelho cerebral
(“0” ou “1”) com base em funções que combinam
humano.
o sinal de entrada e as comparam com limiares
• Quais são suas vantagens quando comparada
estabelecidos
com um sistema não ciberné0co (baseado em
seres humanos).

4
 14/08/2019

Como esses mecanismos vieram a fazer parte dos Quais são seus elementos e como uma rede neural
campos de pesquisa da computação. se aproxima do aparelho cerebral humano
• No século XIX, foi apenas a par0r do início do século XX,
com o entendimento do funcionamento do neurônio,
que os avanços foram possíveis na prá0ca.
• 1943, McCulloch e PiXs desenvolveram o modelo do
LTU, abrindo caminho para a implantação de redes
neurais.

Fonte: Livro texto

Quais são suas vantagens quando comparada a um Resolução da SP

sistema não ciberné0cos:
• Uma rede neural pode ser treinada, isto é, pode
receber milhares ou mesmo milhões de Redes Neurais e
esxmulos/respostas, que automa0camente vão
calibrando a cada teste os pesos e limiares;
Eletrônica Básica
• Não trabalha com as subje0vidades, mas sim
com os dados concretos ;
• Não comete erros por fadiga e não precisa de
descanso;

Um laboratório de eletrônica, em que um amigo seu • Tabela Verdado do OR:

trabalha, está procurando uma alterna0va para os an0gos
circuitos integrados de silício, e procurou você para ajudá-
los com uma alterna0va. Eles ouviram falar que as LTUs, tão
comuns às redes neurais podem ser usadas para realizar
Fonte: Livro texto
tarefas que as portas lógicas realizam. Você sabe que este é
o caso, mas eles querem uma demonstração. Para essa Para criar uma porta “OR” usando LTUs, você deve pegar
demonstração, você deverá mostrar-lhes como duas entradas que sejam uma combinação de “0” e “1” e
implementar uma porta “OR” usando LTUs. Como seria o produzir as saídas correspondentes da porta “OR”
esquema e o funcionamento desse elemento?

5
 14/08/2019

Interação
• LTU representando uma porta OR

Cite três aplicações

das RNA’s que
estão presentes no
nosso co.diano?
Fonte: Livro texto

Conceitos Aprendizado em Redes Neurais

A aprendizagem é um processo pelo qual os
Redes neurais e parâmetros livres de uma rede neural são
adaptados por meio de um processo de
aprendizado es0mulação pelo ambiente no qual a rede está
inserida;

Aprendizado em Redes Neurais Aprendizado em Redes Neurais

• Parâmetros Livres: pesos de entrada de cada
sinal e o valor do limiar;
• Adaptação dos Parâmetros Livres: processo de
ajuste dos valores tanto de pesos quanto de
limiares com base nos resultados ob0dos;
• Es.mulação pelo Ambiente: esxmulos
providos por dados de entrada, cuja saída
desejada é conhecida;
• Supervisionado: indica explicitamente um
comportamento bom ou ruim;
• Não-supervisionado: não existe um supervisor
em relação ao conjunto de treinamento, ou
seja, os dados são não rotulados;

6
 14/08/2019

Ciclo de Aprendizagem das Redes Neurais Tipos de Aprendizado

• Aprendizado por Correção de Erro
Função de Erro: é o resultado da diferença entre o
resultado ob0do e o resultado esperado;

Fonte: Livro texto Fonte: Livro texto

Tipos de Aprendizado Tipos de Aprendizado

• Aprendizado por Memória: A correção dos • Aprendizado compe..vo: os neurônios de
pesos se dá pela construção de um vetor de saída de uma rede neural competem entre si
duplas, que contém duplas de valores de para se tornarem a0vos. Somente um neurônio
entrada e valores desejados de saída. de saída fica a0vo em um determinado instante
• Aprendizado Hebbiano:O peso de uma sinapse
é aumentado se ambos os neurônios são
excitados simultaneamente;

Fonte: Livro texto

Tipos de Aprendizado Perceptron

• Aprendizado de Boltzmann: esse mecanismo • Elemento capaz de aprendizado
não enxerga os neurônios individualmente, mas
supervisionado;
sim a rede como um todo;
• Atua em classificadores binários;
• U0liza uma função linear de previsão;

Fonte: Livro texto

7
 14/08/2019

Resolução da SP • Jus0fique a afirmação que ouviram de que as redes

neurais “aprendem” e, assim, conseguem melhorar seu
desempenho.
Aprendizado • Explicar que há várias formas de aprendizado, e como
cada uma delas funciona

• Como você pode realizar essa tarefa? Quais são os

pontos importantes a frisar acerca do aprendizado das
redes neurais? Quais são as regras de aprendizado?

• Aprendizado por correção de erro – Na saída do

neurônio, calculamos uma função de erro. Esse valor é
u0lizado para corrigir os pesos de entrada no neurônio.

• Aprendizado por memória – A correção dos pesos se

dá pela construção de um vetor de duplas, que contém
duplas de valores de entrada e valores desejados de
saída. Esse vetor tem suas duplas visitadas na
vizinhança dos valores ideais de entrada e saída
desejados a cada iteração, com os valores mutados para
corrigir os pesos de entrada dos neurônios
Fonte: Livro texto

• Aprendizado Hebbiano: O peso de uma sinapse é • Aprendizado de Boltzmann: esse mecanismo não
aumentado se ambos os neurônios são excitados enxerga os neurônios individualmente, mas sim a rede
simultaneamente (no mesmo momento temporal) como um todo. Um estado de “energia” é atribuído ao
sistema, dada uma configuração, e esse estado é
• Aprendizado compe..vo: apenas um neurônio de
corrigido com base em uma pseudo-temperatura
saída é disparado. Os neurônios recebem sinais
(determinado momento no tempo que reflete uma
es0mulantes das camadas anteriores, mas eles mesmos
configuração qualquer). Com o uso de uma função
geram sinais inibidores para os neurônios de saída de
estocás0ca (aleatória) de variação em alguns pesos a
sua mesma camada. O neurônio com o maior valor,
cada ciclo, o sistema tende a um equilíbrio após vários
resultante do somatório desses sinais es0mulantes e
ciclos, gerando a resposta esperada.
inibidores, será o que vai disparar, e os resultados
passam a ser corrigidos;

8
 14/08/2019

Conceitos ADALINE
• Neurônio ar0ficial;
Elementos de • Desenvolvido em 1960 com o obje0vo de
chaveamento de circuitos telefônicos;
Redes Neurais • Foi a primeira RNA aplicada na indústria;
• Desenvolvimento da “Regra Delta”;

ADALINE ADALINE x neurônio padrão de McCulloch-PiEs

• Na fase de aprendizado o ADALINE os pesos são
ajustados de acordo com uma combinação
linear das entradas ponderadas, já no neurônio
de McCulloch-PiXs as entradas ponderadas
passam pela função de a0vação (ou função de
transferência) não linear, e a saída dessa função
é usada para ajustar os pesos.

Fonte: Livro texto

Regra Delta
• Algoritmo de Aprendizado;
• Busca calcular o quadrado
da taxa do erro (𝜀 " ), pois
assim trata de erros
posi0vos e nega0vos;
• O obje0vo é trazer o erro
mais próximo de zero; Fonte: Livro texto

Fonte: Livro texto

9
 14/08/2019

Regra Delta Generalizada Retropropagação do Erro

Algoritmo u0lizado para o treinamento de redes
neurais mul0camadas e possui dois passos:
• Processamento direto;
• Processamento reverso;

Fonte: Livro texto

Retropropagação do Erro Retropropagação do Erro

• Feedforward (alimentação por avanço)

Fonte: Livro texto Fonte: Livro texto

Resolução da SP • Nesta fase, você deverá completar sua par0cipação,

explicando aos decisores como se dá o processo de
retropropagação.
Algoritmo de • Mostrar o caminho percorrido para se chegar à

Retropropagação
retropropagação, a par0r da criação o ADALINE e da
regra delta, até chegar no algoritmo usado atualmente
para a minimização de erros em redes neurais
ar0ficiais.

10
 14/08/2019

• Como se deu esse desenvolvimento? Por que a • ADALINE: Neurônio ar0ficial e responsável pela criação
retropropagação garante que uma rede neural pode ser dos algoritmo de aprendizado Regra Delta;
treinada e, assim, produzir resultados cada vez
• Regra Delta: Algoritmo de Aprendizado que tem como
melhores e mais precisos? É possível realizar o
obje0vo trazer o erro mais próximo de zero;
algoritmo de retropropagação em uma rede neural com
apenas uma camada de entrada e uma camada de • Feedforward:
saída? Por quê? Como isso afetaria o desenvolvimento
de uma rede neural para reconhecimento de faces que
fosse ú0l ao governo, como prevê o projeto?

Fonte: Livro texto

• O mecanismo de retropropagação necessita de pelo

menos uma camada escondida, e que não há como ser
aplicado em redes em que as camadas escondidas não
estão presentes, devido à própria natureza e estrutura
do algoritmo;

• O governo possui inúmeros pares de foto/iden0ficação,

que podem ser alimentados em uma rede neural.

• Essa alimentação pode disparar os ciclos de geração de

resultado/retropropagação que, por sua vez, vão
treinando a rede neural a reconhecer as faces das
Fonte: Livro texto pessoas de interesse;

Interação

Kahoot

Fonte: kahoot.com

11
 14/08/2019

Conceitos Introdução às redes neurais

Neurônio Booleano de McCulloch-PiXs:
Recapitulando

Fonte: Livro texto

Conceitos e Elementos de Redes Neurais Redes neurais e aprendizado

• Supervisionado e Não-Supervisionado;
• Aprendizado por correção de erro;
• Aprendizado por memória;
• Aprendizado Hebbiano;
• Aprendizado compe00vo;
• Aprendizado de Boltzmann;

Fonte: Livro texto

Elementos de Redes Neurais Elementos de Redes Neurais

• ADALINE;
• Regra Delta;
• Alimentação por avanço:

Fonte: Livro texto Fonte: Livro texto

12
14/08/2019

13