TEMA 2: EL ESTIMADOR MCO

S. Álvarez, A. Beyaert, M. Camacho, M. González, A. Quesada

Departamento de Métodos Cuantitativos para la Economía y la Empresa
Lo que estudiaremos en este tema:

1.  El modelo de regresión múltiple

2.  Funcionamiento e interpretación del estimador MCO

2.1 Introducción
2.2 Estimación MCO. Modelo de regresión simple
2.3 Estimación MCO. Modelo de regresión múltiple
2.4 Estimación MCO. Interpretación
2.5 Propiedades algebraicas del estimador MCO
2.6 Bondad del ajuste: R-cuadrado
2.7 Bondad del ajuste: R-cuadrado ajustado

3.  Unidades de medida y forma funcional

3.1 Unidades de medida
3.2 Formas funcionales
Bibliografía básica: Wooldridge, 2008, cap. 2, 3 y 6
Modelos  Econométricos   Tema  2   2  
1.  El modelo de regresión múltiple

y = β0 + β1x1 + ... + βk x k + ε

•  y: variable dependiente, variable explicada o regresando

•  x1,…,xk: variables independientes, variables explicativas o regresores

•  β0, β1,…, βk : son los K=(k+1) coeficientes del modelo

•  ε: término de error, perturbación o shock

Modelos  Econométricos   Tema  2   3  

1.  El modelo de regresión múltiple

y = β0 + β1x1 + ... + βk x k + ε

•  Los coeficientes son efectos ceteris paribus, si se cumple el

supuesto de media condicionada nula:
E ( ε x1 ,x 2 ,…,x k ) = E ( ε ) = 0
Dos implicaciones:

–  E ( ε x1 ,x 2 ,…,x k ) = E ( ε )
Es un supuesto clave. Implica que el valor esperado de ε sea
independiente de los valores de x1,…,xk
–  E ( ε ) = 0
No es restrictivo, cumpliéndose lo anterior, siempre que el modelo
incluya término constante
Modelos  Econométricos   Tema  2   4  
1.  El modelo de regresión múltiple

y = β0 + β1x1 + ... + βk x k + ε

•  Es un modelo lineal en parámetros

•  La interpretación de β1 es:

ΔE [ y / x1 ,..., x k ]
β1 = si Δx 2 = Δx 3 = ... = Δx k = 0
Δx1

Modelos  Econométricos   Tema  2   5  

1.  El modelo de regresión múltiple

•  Un caso particular: el modelo de regresión simple

y = β0 + β1x + ε

•  El modelo de regresión múltiple es más útil que el simple porque:

–  permite controlar explícitamente los diversos factores que afectan a la

variable dependiente

–  permite generalizar relaciones funcionales entre variables: por

ejemplo, una función cuadrática

y = β0 + β1x + β2 x 2 + ε

Modelos  Econométricos   Tema  2   6  

2.  Funcionamiento e interpretación del estimador MCO
2.1 Introducción

y = β0 + β1x1 + ... + βk x k + ε
•  Objetivo: estimar β0,β1,…,βk de la función de regresión poblacional
E ( y x1 ,…,x k ) = β0 + β1x1 +…+ β k x k

•  Necesitamos una muestra de la población

yi = β0 + β1x1i +…+ β k x ki + ε i ; i = 1,…,N

•  β̂0 , β̂1 ,…, β̂ k definen la función de regresión muestral

ŷi = β̂0 + β̂1x1i +…+ β̂ k x ki

•  La diferencia entre el valor verdadero y el ajustado es el residuo

e i = yi − ŷi = yi − β̂0 − β̂1x1i −…− β̂ k x ki
Modelos  Econométricos   Tema  2   7  
2.  Funcionamiento e interpretación del estimador MCO
2.2 Estimación MCO. Modelo de regresión simple

y = β0 + β1x + ε
Función de regresión
y poblacional
E(y x)
E ( y x ) = β0 + β1x
E ( y x = x3 )
E ( y x = x2 )
E ( y x = x1 )

x1 x2 x3 x

Modelos  Econométricos   Tema  2   8  

2.  Funcionamiento e interpretación del estimador MCO
2.2 Estimación MCO. Modelo de regresión simple

y = β0 + β1x + ε
Función de regresión
y poblacional
E(y x)
E ( y x ) = β0 + β1x
E ( y x = x3 )
E ( y x = x2 )
E ( y x = x1 )

x1 x2 x3 x

Modelos  Econométricos   Tema  2   9  

2.  Funcionamiento e interpretación del estimador MCO
2.2 Estimación MCO. Modelo de regresión simple

y = β0 + β1x + ε
Función de regresión
y poblacional
E(y x)
E ( y x ) = β0 + β1x
E ( y x = x3 )
ε3
y3

x3 x

Modelos  Econométricos   Tema  2   10  

2.  Funcionamiento e interpretación del estimador MCO
2.2 Estimación MCO. Modelo de regresión simple

y = β0 + β1x + ε

Modelos  Econométricos   Tema  2   11  

2.  Funcionamiento e interpretación del estimador MCO
2.2 Estimación MCO. Modelo de regresión simple

y = β0 + β1x + ε

y
ŷi = βˆ 0 + βˆ 1x i

Función de regresión
muestral

Modelos  Econométricos   Tema  2   12  

2.  Funcionamiento e interpretación del estimador MCO
2.2 Estimación MCO. Modelo de regresión simple

y = β0 + β1x + ε

y
ŷi = βˆ 0 + βˆ 1x i

yi Función de regresión
ei muestral
ŷ i

ei = yi − yˆ i = yi − βˆ 0 − βˆ 1x i

xi x

Modelos  Econométricos   Tema  2   13  

2.  Funcionamiento e interpretación del estimador MCO
2.2 Estimación MCO. Modelo de regresión simple

y = β0 + β1x + ε

y
ŷi = βˆ 0 + βˆ 1x i

E ( y x ) = β0 + β1x

Modelos  Econométricos   Tema  2   14  

2.  Funcionamiento e interpretación del estimador MCO
2.2 Estimación MCO. Modelo de regresión simple

ŷ = βˆ 0 + βˆ 1x

•  MCO escoge βˆ 0 y βˆ 1 para minimizar la suma de los cuadrados de los

residuos:
N
Min ∑ ( yi − b0 − b1x i ) ≡ Min Q ( b0 ,b1 )
2

b0 ,b1 b0 ,b1
i =1

•  Las condiciones de primer orden son:

∂Q ( b 0 , b1 )
=0
∂b 0 b0 =βˆ 0 ,b1 =βˆ 1

∂Q ( b 0 , b1 )
=0
∂b1 b0 =βˆ 0 ,b1 =βˆ 1

Modelos  Econométricos   Tema  2   15  

2.  Funcionamiento e interpretación del estimador MCO
2.2 Estimación MCO. Modelo de regresión simple

•  De las condiciones de primer orden obtenemos el sistema de

ecuaciones normales:

∑( y )
N

i − βˆ 0 − βˆ 1x i = 0
i =1

∑x (y )
N

i i − βˆ 0 − βˆ 1x i = 0
i =1

•  Resolviendo:
βˆ 0 = y − βˆ 1x
N N

∑x (y i i − y) ∑(x i − x )( yi − y )
Sxy
βˆ 1 = i =1
N
= i =1
N
=
S2x
∑ x (x − x) ∑(x − x)
2
i i i
i =1 i =1
N
•  El supuesto necesario para estimar es: ∑ ( x i − x ) > 0
2

i =1
Modelos  Econométricos   Tema  2   16  
2.  Funcionamiento e interpretación del estimador MCO
2.3 Estimación MCO. Modelo de regresión múltiple

ŷ = βˆ 0 + βˆ 1x1 + ... + βˆ k x k
•  El problema de optimización es:
N

∑ ( yi − b0 − b1x1i − ...− bk x ki ) ≡ Min Q ( b0 ,b1 ,...bk )

2
Min
b0 ,b1 ,…,bk b0 ,b1 ,…,bk
i=1

•  Condiciones de primer orden:

∂Q ( b0 ,b1 ,...,bk )
=0
∂b0
b0 =β̂0 ,b1 =β̂1 ,...,bk =β̂ k


∂Q ( b0 ,b1 ,...,bk )
=0
∂bk
b0 =β̂0 ,b1 =β̂1 ,...,bk =β̂ k
Modelos  Econométricos   Tema  2   17  
2.  Funcionamiento e interpretación del estimador MCO
2.3 Estimación MCO. Modelo de regresión múltiple

•  El sistema de ecuaciones normales es:

∑ ( y − β̂ )
N

i 0
− β̂1x1i − ...− β̂ k x ki = 0
i=1

( y − β̂ − β̂ x )
N

∑x 1i i 0 1 1i
− ...− β̂ k x ki = 0
i=1

( y − β̂ − β̂ x )
N

∑x ki i 0 1 1i
− ...− β̂ k x ki = 0
i=1

•  Resolviendo obtenemos β̂0 , β̂1 ,…, β̂ k

Modelos  Econométricos   Tema  2   18  

2.  Funcionamiento e interpretación del estimador MCO
2.3 Estimación MCO. Modelo de regresión múltiple

En modelos sin termino constante: ŷ = βˆ 1x1 + ... + βˆ k x k

•  El sistema de ecuaciones normales es:

( y − β̂ x )
N

∑x 1i i 1 1i
− ...− β̂ k x ki = 0
i=1

( y − β̂ x )
N

∑x ki i 1 1i
− ...− β̂ k x ki = 0
i=1

•  Resolviendo obtenemos β̂1 ,…, β̂ k

Modelos  Econométricos   Tema  2   19  
2.  Funcionamiento e interpretación del estimador MCO
2.3 Estimación MCO. Modelo de regresión múltiple

•  Expresión algebraica del estimador MCO:

ŷ = β̂0 + β̂1x1 +…+ β̂ k x k

r1 es el residuo de la regresión
de x1 sobre x2,…,xk, y una
constante. Es la parte de x1
que no está explicada con x2,
…,xk

β̂1 mide la relación muestral entre y y x1 una vez tomado en cuenta el

efecto de x2,…, xk
⇒ estimación del efecto céteris paribus

Modelos  Econométricos   Tema  2   20  

2.  Funcionamiento e interpretación del estimador MCO
2.4 Estimación MCO. Interpretación

ŷi = β̂0 + β̂1x1i + ...+ β̂ k x ki ∀i=1,…,N

•  β̂0 : Es el valor estimado de y cuando todas las variables explicativas

valen cero
•  β̂1 ,…, β̂ k : Efectos parciales o efectos céteris paribus

ˆ
ˆβ = Δy Variación estimada en y ante cambios unitarios en x1,
1
Δx 1 cuando el resto de variables explicativas no cambian

•  La regresión ofrece información céteris paribus aunque los datos no

hayan sido recogidos de forma céteris paribus, si se cumple:

( )
E ε i x1i ,x 2i ,…,x ki = E ( ε i ) = 0 ∀i
Modelos  Econométricos   Tema  2   21  
2.  Funcionamiento e interpretación del estimador MCO
2.5 Propiedades algebraicas del estimador MCO

Derivan del sistema de ecuaciones normales

1. En modelos con término constante:

N
•  La suma de los residuos MCO es nula: ∑e
i =1
i =0

•  La media de los residuos MCO es nula: e = 0

•  Las medias muestrales de y y de ŷ son iguales: y = yˆ

•  El punto (y,x1 ,x 2 ,,x k ) siempre está sobre la función de regresión

MCO:
y = β̂0 + β̂1x1 + β̂ 2 x 2 ++ β̂ k x k

Modelos  Econométricos   Tema  2   22  

2.  Funcionamiento e interpretación del estimador MCO
2.5 Propiedades algebraicas del estimador MCO

Gráficamente

y
ŷ = βˆ 0 + βˆ 1x

x x

Modelos  Econométricos   Tema  2   23  

2.  Funcionamiento e interpretación del estimador MCO
2.5 Propiedades algebraicas del estimador MCO

2. Con o sin término constante:

•  La covarianza muestral entre cada regresor y los residuos MCO es

nula:
N

∑x e = 0; j = 1,…,k
ji i
i=1

•  La covarianza muestral entre ŷ y e es nula:

N

∑ ŷ e i i
=0
i=1

Los valores ajustados y los residuos están incorrelacionados en la

muestra

Modelos  Econométricos   Tema  2   24  

2.  Funcionamiento e interpretación del estimador MCO
2.6 Bondad del ajuste: R-cuadrado

•  El coeficiente de determinación es:

SCE R2 ≤ 1
R = 1−
2

STC
N
donde: STC = ∑ ( yi − y )
2

i =1
N
SCE = ∑ ei2 en modelos con
constante
i =1
2

( )
N N
además : SCR = ∑ = ∑ ( yˆ i − y )
2
yˆ i − yˆ
i =1 i =1

STC: Suma total de cuadrados

SCE: Suma de cuadrados de los residuos
SCR: Suma de cuadrados de la regresión
Modelos  Econométricos   Tema  2   25  
2.  Funcionamiento e interpretación del estimador MCO
2.6 Bondad del ajuste: R-cuadrado

•  En modelos con término constante STC= SCR+SCE

SCE SCR 0 ≤ R2 ≤ 1
R = 1−2
=
STC STC

Interpretación: Es la fracción de la variación muestral de y explicada

por la función de regresión muestral
•  También se puede demostrar que
2
⎛ Syyˆ ⎞
R =⎜
2
⎟⎟
⎜ S Sˆ
⎝ y y ⎠
•  Si no existe término constante STC≠SCR+SCE
•  El R 2 puede ser negativo sólo en modelos sin término constante
Modelos  Econométricos   Tema  2   26  
2.  Funcionamiento e interpretación del estimador MCO
2.6 Bondad del ajuste: R-cuadrado

•  Un R 2 bajo no implica que la regresión MCO no sea útil

•  El R 2 nunca disminuye cuando se añade otro regresor

⇒ no permite comparar modelos con distinto número de regresores

Si K = N ⇒ R 2 = 1

Modelos  Econométricos   Tema  2   27  

2.  Funcionamiento e interpretación del estimador MCO
2.6 Bondad del ajuste: R-cuadrado

Gráficamente
Modelo de regresión simple, K=2

y
β0 + β1x

Modelos  Econométricos   Tema  2   28  

2.  Funcionamiento e interpretación del estimador MCO
2.6 Bondad del ajuste: R-cuadrado

Si N = 2

y
β0 + β1x

Modelos  Econométricos   Tema  2   29  

2.  Funcionamiento e interpretación del estimador MCO
2.6 Bondad del ajuste: R-cuadrado

Entonces, K = N y R = 1
2

y
β0 + β1x

R2 = 1

ˆ +β
β ˆ x
0 1

Modelos  Econométricos   Tema  2   30  

2.  Funcionamiento e interpretación del estimador MCO
2.7 Bondad del ajuste: R-cuadrado ajustado

•  El coeficiente de determinación ajustado es:

(N − 1) SCE N −1
R = 1−
2
a = 1 − (1 − R )
2
R a2 ≤ 1
(N − K) STC N−K

•  Penaliza la inclusión de variables independientes

•  Permite comparar algo mejor que el R 2 modelos con distinto número

de regresores

2
•  El R a puede ser negativo incluso en modelos con término constante

Modelos  Econométricos   Tema  2   31  

3.  Unidades de medida y forma funcional
3.1 Unidades de medida

Modelo poblacional: y = β0 + β1x1 + ... + βk x k + ε

Modelo estimado: y = βˆ + βˆ x + ... + βˆ x + e
0 1 1 k k

•  Los cambios de origen en las variables sólo afectan a β 0 y a β̂0

•  Si y se multiplica por una constante c, entonces todos los coeficientes
(β0 ,β1 ,…,β k ) y sus estimaciones MCO (β̂0 , β̂1 ,…, β̂ k ) se multiplican por c

•  Si una xj se multiplica (divide) por una constante c, entonces bj y β̂ j se

dividen (multiplican) por c
•  Si las variables están en logaritmos los cambios de escala en las
unidades de medida sólo afectan a β 0 y a β̂0
•  El R-cuadrado es invariable a los cambios de unidades en las variables

Modelos  Econométricos   Tema  2   32  

3.  Unidades de medida y forma funcional
3.1 Unidades de medida

Ejemplo: Cambio de origen en y

y∗ = c + y

A. Efectos en el modelo poblacional: y = β0 + β1x + ε

•  El nuevo modelo es: y∗ = β∗0 + β1∗ x + ε∗

•  Deshaciendo el cambio de origen:

y + c = β∗0 + β1∗ x + ε∗ ⇒ y = (β∗0 − c) + β1∗ x + ε

β1∗ = β1 β∗0 = c + β0
Modelos  Econométricos   Tema  2   33  
3.  Unidades de medida y forma funcional
3.1 Unidades de medida

y∗ = c + y

B. Efectos en el modelo estimado: y = βˆ 0 + βˆ 1x + e

•  El nuevo modelo estimado es: y = βˆ 0 + βˆ 1x + e

∗ ∗ ∗ ∗

Sxy∗
βˆ ∗0 = y∗ − βˆ 1∗x βˆ 1∗ =
S2x
•  Deshaciendo el cambio de origen:
ˆβ∗ = Sxy =βˆ βˆ ∗ = c + y − βˆ x = c + βˆ
1 1 0 1 0
S2x
¿Qué pasa con el R-cuadrado?
¿Qué pasaría si el cambio de origen afectara a x?
Modelos  Econométricos   Tema  2   34  
3.  Unidades de medida y forma funcional
3.1 Unidades de medida

Ejemplo: Cambio de escala en y

y∗ = c ⋅ y

A. Efectos en el modelo poblacional: y = β0 + β1x + ε

∗ ∗ ∗ ∗
•  El nuevo modelo es: y = β0 + β1 x + ε

•  Deshaciendo el cambio de escala:

∗ ∗ ∗ β∗0 β1∗
c⋅ y = β +β x + ε ⇒ y = + x + ε
0 1
c c
β1∗ =c ⋅β1 β∗0 = c ⋅β0
Modelos  Econométricos   Tema  2   35  
3.  Unidades de medida y forma funcional
3.1 Unidades de medida

y∗ = c ⋅ y
B. Efectos en el modelo estimado: y = βˆ 0 + βˆ 1x + e

•  El nuevo modelo estimado es: y = βˆ 0 + βˆ 1x + e

∗ ∗ ∗ ∗

Sxy∗
βˆ ∗0 = y∗ − βˆ 1∗x βˆ 1∗ =
S2x
•  Deshaciendo el cambio de escala:
ˆβ∗ = cSxy =cβˆ βˆ ∗ = cy − cβˆ x = cβˆ
1 1 0 1 0
S2x
¿Qué pasa con el R-cuadrado?
¿Qué pasaría si el cambio de escala afectara a x?
Modelos  Econométricos   Tema  2   36  
3.  Unidades de medida y forma funcional
3.2 Formas funcionales

•  Modelo lineal en parámetros y variables: y = β0 + β1x + ε

Δŷ
β̂1 = es el efecto marginal de x sobre ŷ
Δx

•  Modelos lineales en parámetros, pero no en variables:

-  modelos que incluyen variables en logaritmos
-  funciones cuadráticas
-  otros

Modelos  Econométricos   Tema  2   37  

3.  Unidades de medida y forma funcional
3.2 Formas funcionales

Modelos que incluyen variables en logaritmos:

•  Modelo log-log: ln ŷ = β̂0 + β̂1 ln x

Δ ln ŷ %Δŷ
β̂1 = ⇒ β̂1 ≈ = elasticidad
Δ ln x %Δx

•  Modelo log-nivel: ln ŷ = β̂0 + β̂1x

Δ ln ŷ %Δŷ
β̂1 = ⇒ 100 ⋅β1 ≈ = semi-elasticidad
Δx Δx

•  Modelo nivel-log: ŷ = β̂0 + β̂1 ln x

Δŷ β̂ Δŷ
β̂1 = ⇒ 1 ≈ = semi-elasticidad
Δ ln x 100 %Δx
Modelos  Econométricos   Tema  2   38  
3.  Unidades de medida y forma funcional
3.2 Formas funcionales

Ejemplo numérico:

•  lnyˆ = 2 + 0,05x

Si Δx = 1 ⇒ Δy%
ˆ ≈ (0.05 ⋅100)% = 5%

•  ŷ = 2 + 70ln x
Si Δx% = 1% ⇒ Δyˆ ≈ (70 /100) = 0.7 unidades

•  lnyˆ = 2 − 2ln x

Si Δx% = 1% ⇒ Δy%
ˆ ≈ −2%

Modelos  Econométricos   Tema  2   39  

3.  Unidades de medida y forma funcional
3.2 Formas funcionales

Funciones cuadráticas:

y = β0 + β1x + β2 x 2 + ε

•  Permiten captar efectos marginales crecientes o decrecientes

•  El efecto marginal de x sobre y es:

Δŷ
≈ β̂1 + 2β̂ 2 x
Δx

Es creciente cuando β2>0 y decreciente cuando β2 <0

Modelos  Econométricos   Tema  2   40  

Lo que hemos aprendido:

Ø  Definir e interpretar el modelo de regresión múltiple

Ø  El método de los Mínimos Cuadrados Ordinarios para estimar los
coeficientes del modelo
Ø  Interpretar las estimaciones
Ø  Propiedades algebraicas de los estimadores MCO
Ø  Utilizar el R-cuadrado y el R-cuadrado ajustado para medir la bondad del
ajuste
Ø  Cambio en las estimaciones MCO cuando cambian las unidades de
medida de la variable dependiente o de las variables independientes
Ø  Utilizar el modelo de regresión lineal para modelizar relaciones no lineales
entre las variables:
o  el logaritmo neperiano permite trabajar con modelos de elasticidad
constante y de semielasticidad constante
o  las funcionales cuadráticas permiten captar efectos marginales crecientes
o decrecientes

Modelos  Econométricos   Tema  2   41