Documente Academic
Documente Profesional
Documente Cultură
Toolbox de MATLAB”
Instructor:
Agenda
3. Redes Perceptrón
4. Redes Backpropagation
6. Laboratorios
1
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Introducción
2
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Modelo computacional
4
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
X1 Wk1
X2 TF
Wk2
Uk
∑ yk
Wkp Threshold
Xp
5
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Función de Transferencia
Es quizás la característica principal de las neuronas, la que mejor
define el comportamiento de la misma. Se encarga de calcular el
nivel o estado de activación de la neurona en función de la entrada
total
6
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Capa de entrada
Capa oculta
Capa de salida
7
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
8
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Agenda
3. Redes Perceptrón
4. Redes Backpropagation
6. Laboratorios
9
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
10
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
11
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Funciones de Transferencia
MATLAB cuenta con una gran variedad de funciones de
transferencia dependiendo el fin para el que va a ser utilizada
la red, aquí presentamos 6 funciones:
12
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
13
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
14
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
15
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Notación
IW – pesos de entradas
LW – pesos de capas
LWc1,c2 n1,n2
16
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Agenda
3. Redes Perceptrón
4. Redes Backpropagation
6. Laboratorios
17
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
El perceptrón
18
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
PR – matriz de Rx2
a1 b1
a2 b2
aR bR
Proceso de Aprendizaje
21
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Learning Process
22
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
23
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Tipos de Entrenamiento
P= Número de T= Número de
entradas salidas
24
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
25
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Sesión práctica
26
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
mediano mega
chico grande
sensores
27
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
0 1 0 1 0 1 0 0 Chico
1 0 0 1 0 1 0 0 Chico
0 1 0 1 1 1 0 1 Mediano
1 0 0 1 1 1 0 1 Mediano
1 1 0 1 1 1 1 0 Grande
1 1 1 1 1 1 1 1 Mega
W1
H1 W0 M1
H1
H0
H0
W1
L1 M0
W0
L0
L1 L0
28
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Agenda
3. Redes Perceptrón
4. Redes Backpropagation
6. Laboratorios
29
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Redes Backpropagation
30
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Arquitectura Backpropagation
Algoritmos Backpropagation
g k – gradiente
Algoritmo Estándar
α k – learning rate
Técnicas -momentum
Heurísticas -lr variable
Algoritmo
Estándar Técnicas -gradiente conjugado
Optimización -Newton (Hessian matrix)
Numérica -Levenberg-M (Jacobian matrix)
32
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
33
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Pre-procesamiento y Post-procesamiento
34
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Análisis post-entrenamiento
35
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
36
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Sesión práctica
Redes Backpropagation
en MATLAB
37
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
p t
Output layer
(purelin function)
p
Hidden layer
(tansig function)
38
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
39
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Agenda
3. Redes Perceptrón
4. Redes Backpropagation
6. Laboratorios
40
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
41
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
42
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Arquitectura Hopfield
Este tipo de red puede grabar (como una memoria) uno o varios
patrones de entrada, los cuales son presentados como condiciones
iniciales
43
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
X1 ´ X´n-1
Xo´
µ n-2
µ n-1
µο
µ1
Xo X1 X n-2 X n-1
44
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
45
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
5 patrones a grabar,
T= con 10 entradas
10x5
nethop = newhop(T);
Sesión práctica
47
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
Patrones a grabar: A, I, E, 1, 2
Red Hopfield
48
Neural Network Toolbox Juan Carlos Moctezuma Eugenio
49
Neural Network Toolbox Juan Carlos Moctezuma Eugenio