Regresin Lineal Simple Antecedentes Generales

Los mtodos de regresin corresponden a la aplicacin de modelos

matemticos que explican la dependencia de una variable dependiente
Y respecto de una o varias variables independientes. Un modelo de
regresin entonces permite evaluar la relacin que existe entre estas
variables. Cuando se tiene solamente una variable independiente se
habla de regresin simple y cuando son varias de regresin mltiple. En
general los mtodos de regresin permiten:
Caracterizar el tipo de relacin en el sentido de determinar la direccin,
intensidad y fuerza de la relacin entr las variables.
Presentar un modelo matemtico que permita describir el
comportamiento de la variable dependiente en funcin de las variables
independientes.
Determinar cules de las variables independientes son ms
importantes al momento de explicar el comportamiento de la variable
dependiente.
En general, el procedimiento para elaborar un modelo de regresin
implica varias etapas, tales como:
Etapa 1. Anlisis exploratorio:
Todo proceso de anlisis de datos requiere, en forma previa de la
verificacin de la calidad de la informacin y de la validez de los
supuestos necesarios para enfrentar el proceso de ajuste de un modelo.
Etapa 2. Formulacin de una clase o familia de modelos:
En esta etapa se debe identificar el tipo de problema al cual se enfrenta,
para encontrar, entre las distintas alternativas de modelos posibles, la
que proporcione la mejor representacin de la situacin o fenmeno a
estudiar.
Etapa 3. Estimacin de parmetros:
Utilizando algoritmos adecuados, y disponiendo de una muestra de
tamao y caractersticas especficas, se generan, para el modelo
seleccionado en la etapa 2, los estimadores necesarios.
Etapa 4. Verificacin y diagnstico:
Una vez obtenidos los estimadores de los parmetros del modelo, se
debe verificar si el modelo propuesto representa eficientemente las
relaciones entre las variables de inters. Esta etapas de interpretacin
de resultados grficos, aplicacin de pruebas de hiptesis especficas
sobre los parmetros del modelo. En caso que el modelo ajustado no
represente las relaciones propuestas, se debe volver a la etapa 2 y
seleccionar una nueva familia de modelos.
Etapa 5. Prediccin:
En la mayora de las aplicaciones prcticas de modelos de regresin, el
objetivo bsico es encontrar una relacin de dependencia entre una

variable dependiente y un conjunto de variables predictores. La finalidad

de tal bsqueda, en tales casos, es poder predecir el comportamiento de
la variable respuesta ante cambios de las variables predictores, en
particular, ante valores futuros de estas variables. Para poder construir
estas predicciones se debe estar convencido que el modelo en cuestin
es correcto.
Etapa 6. Simulacin:
La etapa final del proceso de construccin de un modelo, pasa
necesariamente por la verificacin de la capacidad del modelo para
reproducir el comportamiento de la relacin descrita, usando datos
simulados. Este tipo de estudios tiene especial importancia en la
planificacin y toma de decisiones. Debido a las restricciones propias de
este curso, solamente se dar una pequea mirada a la aplicacin de
mtodos de regresin, restringindolo solamente a la etapa de
identificacin, formulacin de modelos y estimacin de parmetros, para
el caso del modelo de regresin lineal simple. El alumno, sin embargo,
debe tener claro que en un caso real, los 6 pasos sealados
anteriormente no deben ser evitados y que el modelo puede considerar
varias variables.
Regresin Lineal Simple
Cualquier estudio estadstico debe comenzar por una revisin de la
informacin disponible, debiendo comenzaron un estudio grfico inicial,
los supuestos referentes a la distribucin de las variables a considerar
(respuesta predictores), la presencia de observaciones errneas, atpicas
o faltantes. Una vez que se ha realizado el anlisis exploratorio se debe
formular una familia de modelos a ajustar, en este caso se considerar
el modelo ms simple que corresponde a modelar el comportamiento de
una variable dependiente en funcin de otra independiente, donde la
relacin funcional es lineal, es decir:
Donde
0: es el intercepto de la recta de regresin
1: es la pendiente de la recta de regresin
i:es la componente de error del modelo. El componente aleatorio
i: corresponde a la parte de la variable respuesta que no logra ser
explicada por el model, es decir:
Para que las inferencias que se realicen a partir de este modelo sean
vlidas, el error aleatorio (i) debe cumplir con varios supuestos, a
saber: Esperanza cero, varianza 2, errores independientes entre s
e idnticamente distribuidos segn una normal
La estimacin de los parmetros se puede realizar por varios mtodos,
siendo uno de ellos

El mtodo de los mnimos cuadrados

Que consiste en minimizar las diferencias cuadrticas que se producen
entre los valores observados y los estimados, para ello se generan las
ecuaciones normales, es decir:

Modelo de regresin mltiple:

Es un modelo de regresin que contiene ms de una variable regresora o
independiente, y ste utiliza el trmino lineal ya que forman una funcin
lineal de variables desconocidas.
En general, la variable de respuesta o dependiente y puede relacionarse
con k variables regresoras independientes.
MODELO DE REGRESION LINEAL MUTIPLE
Y = 0 + 1 x 1 + 2 x 2+ ... k x k +

Un ejemplo de regresin lineal mltiple es:

* Suponga que la vida efectiva de una herramienta de corte depende de
la velocidad de corte y del ngulo de la herramienta, el modelo que
describe esta relacin es:
Y = 0 + 1 x 1 + 2 x 2+
Donde:
Y = vida de la herramienta.
0

= velocidad de corte.

= ngulo de la herramienta.

= error aleatorio.

Enfoque matricial de la regresin lineal mltiple

Al ajustar un modelo de regresin mltiple, es mucho ms conveniente
expresar las operaciones matemticas utilizando la notacin matricial.
Suponga que hay K variables regresoras y n observaciones ( x i1, xi2, x ik,
yi), i= 1,2,,n, y que el modelo que relaciona las variables regresoras
con la variable de respuesta es

Yi = +1 xi1 + 2 xi2 + + k xik + i

i=1,2,, n