Master M.A.E.F.

, 2016-2017 1

Econométrie 1 : TD 1
REGRESSION LINEAIRE SIMPLE

Exercice 1. (*) QCM

1. Lors d'une régression simple, si le R2 vaut 1, les points sont-ils alignés ?

(a) Non.
(b) Oui.
(c) Pas obligatoirement.
2. La droite des MCO d'une régression simple passe par le point (z, y).
(a) Toujours.
(b) Jamais.
(c) Parfois.
3. Le vecteur Yb est orthogonal au vecteur des résidus estimés εb.
(a) Toujours.
(b) Jamais.
(c) Parfois.
Exercice 2. (*)

Soit y1 , · · · , yn des réels.

n
X
1. Déterminer le réel m
b qui minimise SCR(m) = |yi − m|2 .
i=1
2. Que représente m
b par rapport à y1 , · · · , yn ?
Exercice 3. (**)

Soit y1 , · · · , yn des réels.

n
X
Montrer que le réel m̃ qui minimise la somme des valeurs absolues SV A(m) = |yi − m| est la médiane
i=1
de la série. Indication : on pourra traiter d'abord le cas où n = 2p + 1 et classer les réels (yi ) sous la forme

y(1) ≤ y(1) ≤ . . . ≤ y(n−1) ≤ y(n) , puis passer au cas où n = 2p.

Exercice 4. (*)

Soit (z1 , y1 ), · · · , (zn , yn ) des couples de réels.

n
X
1. Déterminer le réel b
a qui minimise la somme des carrés résiduelle SCR(a) = |yi − a · zi |2 .
i=1
2. Que représente b a par rapport à y1 , · · · , yn ? Comparer avec la valeur βb obtenue dans le cadre de la
régression linéaire simple classique.
Exercice 5.

Soit y1 , · · · , yn des réels. On eectue un régression linéaire simple. Montrer que IE [β] µ] = µ, la
b = β, IE [b
relation : Pn
(zi − z)εi
βb = β + Pi=1
n 2
.
i=1 (zi − z)

En supposant que le bruit est gaussien, sous H0 : β = 0, montrer que la statistique Tb = β/b
b σ b ∼ T (n − 2).
β
Master M.A.E.F., 2016-2017 2
Exercice 6. (*) Hauteur d'un arbre.

Nous souhaitons exprimer la hauteur y (en pieds) d'un arbre d'une espèce donnée en fonction de son
diamètre z (en pouces) à 1m30 du sol. Nous disposons de 20 couples de mesures (diamètre, hauteur)= (zi , yi )
et nous savons que : z = 4.53, y = 8.65 et
20 20 20
1 X 1 X 1 X
(zi − z)2 = 10.97, (yi − y)2 = 2.24, (zi − z)(yi − y) = 3.77.
20 20 20
i=1 i=1 i=1

1. On note y = µ b la droite de régression. Calculer µ

b + βz b, βb.
2. Donner et commenter une mesure de la qualité de l'ajustement des données au modèle. Exprimer cette
mesure en fonction des statistiques élémentaires. Commenter.
3. On donne les estimations de l'écart-type de µb : σbµ = 1.62 et de βb : σ
bβ = 0.05. On suppose que les
perturbations εi sont gaussiennes, centrées, de même variance et indépendantes. Tester H0 : β = 0
contre H1 : β 6= 0, puis H0 : µ = 0 contre H1 : µ 6= 0. Que pensez-vous du résultat ?

Exercice 7. (**) Comparaison entre EMCO et EMV.

On rappelle que, dans le cadre d'un modèle statistique paramétrique (c'est-à-dire que la loi du modèle ne
dépend que d'un nombre ni de paramètres), la densité des observations Y1 , . . . , Yn vue comme une fonction
des paramètres est appelé la vraisemblance. L'estimateur du maximum de vraisemblance de ces paramètres
est la valeur des paramètres qui maximise la vraisemblance. Considérons le modèle gaussien

Yi = µ + β Zi + εi , i = 1, . . . , n (0.1)

et ses paramètres (µ, β, σ 2 ), avec les εi des v.a.i.i.d. gaussiennes de loi N (0, σ 2 ).
1. Montrer que −2× log-vraisemblance vaut
n
1 X
L(µ, β, σ 2 ) = n · log(2π) + n · log(z) + · (Yi − µ − βZi )2 ,
z
i=1

en notant z = σ 2 pour dériver plus facilement.

2. Comparer les estimateurs du maximum de vraisemblance avec ceux des moindres carrés de µ et β .
3. Comparer (au sens de la vitesse de convergence) l'estimateur du maximum de vraisemblance de σ 2 avec
b2 déni dans le corps du chapitre.
σ

Exercice 8. (*) Octopus's Garden (et lien régression simple et multiple)

On cherche à mettre en oeuvre une stratégie de prédiction du poids utile du poulpe, c'est-à-dire son poids
éviscéré, à partir de son poids non éviscéré. C'est en eet le poulpe éviscéré qui est commercialisé. Pour cela,
un échantillon de poulpes a été collecté en 2003 lors des opérations de pêche dans les eaux mauritaniennes.
Vu l'importante diérence de poids entre les poulpes mâles et les poulpes femelles, on étudie ici uniquement
les données concernant 240 poulpes femelles.
Master M.A.E.F., 2016-2017 3

Figure 1  Poids de poulpe éviscéré en fonction du poids non éviscéré (en grammes).

1. Les données sont représentées Figure 1.

(a) Proposer un modèle reliant le poids éviscéré et le poids non éviscéré dun poulpe.
(b) Rappeler les formules des estimateurs des paramètres du modèle.
(c) A partir de la table A.2 donner des estimations umériques des paramètres du modèle.
(d) Que représente la valeur 0.698 ? Au vu de cette valeur proposer un autre modéle reliant les poids
éviscéré et non éviscéré.
2. Plus généralement, considérons un échantillon de n couples de réels (zi , yi ) suivant le modèle : yi =
βzi + εi où les erreurs εi sont supposées gaussiennes indépendantes centrées et de même variance σ 2 .
(a) Déterminer l'estimateur βe de β minimisant la somme des carrés des écarts au modèle.
(b) Retrouver le résultat précédent à partir de la formule générale de l'estimateur de régression linéaire
multiple.
(c) En déduire la variance de βe. Proposer un estimateur sans biais σ e2 de σ 2 .
(d) Les résultats de l'analyse de ce nouveau modèle sont donnés table A.3. Donner βe et σ
e2 .
Références :
Cours Master 2 Rennes Regression linéaire. A. Guyader.
Livre La régression linaire par l'exemple J-M. Azaïs & J-M. Bardet