Modelul de regresie

clasic
 CE ESTE REGRESIA?
Modelul de regresie modeleaz dependena variabilelor
complexe de un ansamblu de factori principali i secundari,
sistematici sau aleatori, care acioneaz n acelai sens sau n
sensuri diferite

Funcia Efect
Cauze

Variabile f Variabila
independente dependent
f(x1,x2,...,xn)=Y
 REGRESIA Cnd i cum o utilizm?

Regresia se folosete pentru:

a determina o relaie cauzal

a testa o relaie cauzal

a previziona o variabil dependent n funcie de una sau mai multe

variabile independente
a explica efectul n funcie de cauze
 Regresia simpla liniar

Corelaie pozitiv Corelaie negativ Nu exist

corelaie
 Specificarea unui model de regresie

Modelul liniar general de regresie unifactorial:

Y=+x +
Componenta Variabila/ero
predictibil area
aleatoare
 Specificarea unui model de regresie

0,5
Y

Y
1.0

1

X
X
Modelul liniar unifactorial y=1+0,5x
 Specificarea unui model de regresie

Se efectueaz o selecie de volum n : (xi,yi)i=1...n

Modelul de regresie liniar observat este:

yi = a + bxi + ei
cu componenta predictibila:
i a bx i
y

ei = yi (a + bxi)
 Estimarea parametrilor modelului de
regresie clasic

Metoda celor mai mici ptrate:

Pentru estimarea parametrilor i pe baza datelor

observate =>minimizarea erorilor observate:

2 2
min ei min ( yi a bxi )
i i
 Estimarea parametrilor modelului de
regresie clasic

Condiiile de ordin 1: determinarea soluiei

( ei2 ) yi na ( xi )b

i
a
0 i i
2
( ei2 ) x y
i i i
( x ) a ( i )b
x

i 0 i i i
b
Condiia de ordin 2: soluia gsit este un punct de
minim. Matricea derivatelor pariale de ordin doi trebuie
s fie pozitiv definit.
 Estimarea parametrilor modelului de
regresie clasic

Condiiile de ordin 1:

i yi i xi a y bx

xi yi xi2 yi xi2 xi xi yi
a
i i
i i i i
n yi
n x n xi2

2

x i
i

xi xi yi
i i

x i x 2
i
i i xi yi n x y
i i
i i i
b

n y i
n xi 2 2

x x y
i
n xi yi xi yi i
xi n x

i i i
b i i
2 i
i i
i i i
n x
2
x x
n xi2 xi
i

i
i i
xi i
x i
2
i
i i
 Estimarea parametrilor modelului de
regresie clasic

Condiia de ordin 2
2 ( e 2 ) 2 ( ei2 )
i


i i
2n 2 xi
a 2 2 ab i

2 ( ei2 ) 2 2
( ei ) 2 xi 2 xi2
i i
i i
ba
2b 2


2n 0

2 xi 0
2

i Deci matricea este pozitiv

definit
4n xi 4( xi ) 4n ( xi x) 0
2 2 2
i i i
 Estimarea parametrilor
modelului de regresie clasic
xi yi x yi x yi n x y ( xi x) yi
i i i i
b 2

2
i xi x xi x n x
x xi ( xi x)
i i i i

( xi x) yi ( xi x) y ( xi x)( yi y )
i i i

xi ( xi x) ( xi x) x ( xi x) 2
i i i

Deci: s xy
b

s x2
 Estimarea parametrilor
modelului de regresie clasic
sxy este covariana ntre x i y.

Linii de regresie cu a) pant pozitiv b) pant negativ c) pant egal cu zero

 Exemplu
Directorul unui liceu dorete s vad dac media cu care un elev de
clasa a noua ncheie anul depinde de media de la examenul de
admitere n liceul respectiv. n acest scop el selecteaz aleatoriu 20
de studeni pentru care nregistreaz media la admitere i media
obinut la sfritul primului am de studii n liceu. Rezultatele
obinute sunt:
Medie
primul
an 9 8.3 8.2 7.4 8 9.7 9.5 8.7 8.2 7.8 8.4 8.9 8.5 9.8 8.1 7.8 8.5 9.4 7.6 8.2
Nota la
admitere 9.1 8.3 9 7.9 8.5 9.7 9.4 8.6 8.8 7.6 8 8.9 8.3 9.2 7.8 7.4 8 9.8 8.2 7.5

Determinai dreapta de regresie ce descrie cel mai bine legtura ntre

media de la examenul de admitere n liceu i media de la sfritul
primului an de studii.
Exemplu
 Exemplu
y estimat erori
8,96745 0,03255
8,34465 -0,04465
8,8896 -0,6896
Medie primul Nota la
an admitere 8,03325 -0,63325
8,50035 -0,50035
Mean 8,5 Mean 8,5 9,43455 0,26545
Standard Error 0,154919 Standard Error 0,160918 9,201 0,299
Median 8,35 Median 8,4 8,5782 0,1218
Mode 8,2 Mode 8,3 8,7339 -0,5339
Standard Standard 7,7997 0,0003
Deviation 0,69282 Deviation 0,719649 8,1111 0,2889
Sample Variance 0,48 Sample Variance 0,517895
8,81175 0,08825
Kurtosis -0,59508 Kurtosis -0,9326
8,34465 0,15535
Skewness 0,496952 Skewness 0,238184
Range 2,4 Range 2,4 9,0453 0,7547
Minimum 7,4 Minimum 7,4 7,9554 0,1446
Maximum 9,8 Maximum 9,8 7,644 0,156
Sum 170 Sum 170 8,1111 0,3889
Count 20 Count 20 9,5124 -0,1124
8,2668 -0,6668
7,72185 0,47815