Documente Academic
Documente Profesional
Documente Cultură
Periodo Vacaciones - M
odulo 2
Maestra en Inteligencia Analtica para Toma de Decisiones
PeriodoClaseVacaciones
2 - Agosto 8, 2016 - M
1/
o19du
Table of Contents
PeriodoClaseVacaciones
2 - Agosto 8, 2016 - M
2/
o19du
PeriodoClaseVacaciones
2 - Agosto 8, 2016 - M
3/
o19du
Reducci
on de dimensiones (compresi
on de datos): Se crea un conjunto de
nuevas variables que conservan la mayor parte de la informacion necesaria:
Componntes Principales (PCA), Analisis de Factores (AF), Independent
Component Analysis (ICA), etc.
Escasez Relativa (Sparsity) : El tratamiento que vamos a ver ahora!!!
PeriodoClaseVacaciones
2 - Agosto 8, 2016 - M
3/
o19du
PeriodoClaseVacaciones
2 - Agosto 8, 2016 - M
4/
o19du
PeriodoClaseVacaciones
2 - Agosto 8, 2016 - M
4/
o19du
Modelos de regressi
on con muchas variables (LASSO)
PeriodoClaseVacaciones
2 - Agosto 8, 2016 - M
5/
o19du
PeriodoClaseVacaciones
2 - Agosto 8, 2016 - M
6/
o19du
PeriodoClaseVacaciones
2 - Agosto 8, 2016 - M
6/
o19du
n
X
(Yi xiT )2 + kk22 + (1 )kk1
i=1
Donde por facilidad se asumen datos centrados (no hay intercepto), [0, 1], y
kk22
p
X
j2
j=1
kk1
p
X
|j |
j=1
PeriodoClaseVacaciones
2 - Agosto 8, 2016 - M
7/
o19du
PeriodoClaseVacaciones
2 - Agosto 8, 2016 - M
8/
o19du
PeriodoClaseVacaciones
2 - Agosto 8, 2016 - M
9/
o19du
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
10 /
o19du
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
10 /
o19du
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
11 /
o19du
n
X
Yi
i=1
donde
kj k2 =
J
X
2
zijT j +
j=1
J
X
kj k2
j=1
q
2 + + 2
j,1
j,pj
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
11 /
o19du
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
12 /
o19du
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
12 /
o19du
n
X
i=1
Yi
J
X
j=1
J
X
zijT j + (1 )kj k2 + kj k1
j=1
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
13 /
o19du
et al. ClaseVacaciones
Periodo
2 - Agosto 8, 2016 - M
14 /
o19du
Tomado
de
Statistical
Learning
with
Sparsity,
Hastie,
Profesor: Carlos Valencia (Departamento
de Ingenier
aModelos
IndustrialUniversidad
Avanzados
para
deAn
Los
alisis
Andes,
de Datos
Bogot
IIa,- Colombia)
MIIA4203
M
etodos para Completar Matrices y Sistemas de Recomendaci
on
Completar una matriz Z que tiene elementos faltantes. Ejemplo: The Netflix
Challenge.
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
15 /
o19du
M
etodos para Completar Matrices y Sistemas de Recomendaci
on
Completar una matriz Z que tiene elementos faltantes. Ejemplo: The Netflix
Challenge.
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
15 /
o19du
M
etodos para Completar Matrices y Sistemas de Recomendaci
on
en la estrucutra de Z.
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
16 /
o19du
M
etodos para Completar Matrices y Sistemas de Recomendaci
on
en la estrucutra de Z.
Formulacion General:
= arg min kZ Mk2F ; sujeto a : (M) c
Z
MRnp
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
16 /
o19du
M
etodos para Completar Matrices y Sistemas de Recomendaci
on
en la estrucutra de Z.
Formulacion General:
= arg min kZ Mk2F ; sujeto a : (M) c
Z
MRnp
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
16 /
o19du
M
etodos para Completar Matrices y Sistemas de Recomendaci
on
(Z) =
p
n X
X
i
rank(Z)
|zij |
(Z) = rank(Z) r
La primera penalizaci
on induce que muchos elementos de la matriz van a ser cero.
Funciona bien en algunas aplicaciones, pero en general no es el mejor
procedimiento para completar una matriz (sobre todo en un sistema de
recomendaci
on).
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
17 /
o19du
M
etodos para Completar Matrices y Sistemas de Recomendaci
on
(Z) =
p
n X
X
i
rank(Z)
|zij |
(Z) = rank(Z) r
La primera penalizaci
on induce que muchos elementos de la matriz van a ser cero.
Funciona bien en algunas aplicaciones, pero en general no es el mejor
procedimiento para completar una matriz (sobre todo en un sistema de
recomendaci
on).
Generalmente se prefier usar la restricci
on sobre el rango, lo cual implica hacer la
descomposici
on espectral de la matriz Z:
Z = UDVT Rnp
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
17 /
o19du
M
etodos para Completar Matrices y Sistemas de Recomendaci
on
V Rpp
D Rpp
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
18 /
o19du
M
etodos para Completar Matrices y Sistemas de Recomendaci
on
V Rpp
D Rpp
i,j
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
18 /
o19du
M
etodos para Completar Matrices y Sistemas de Recomendaci
on
2
= arg min
Z
(zij mij ) + kMk
M
i,j
Periodo
ClaseVacaciones
2 - Agosto 8, 2016 - M
19 /
o19du