REGRESIA LINIAR MULTIPL

TEMATICA C5
3. Testarea parametrilor modelului liniar multiplu
4. Testarea modelului
5. Testarea influenei marginale a unei variabile
Exemplu (I)
Testarea parametrilor MLM (I)
Testarea parametrilor modelului multiplu liniar se face la
fel ca n cazul modelului simplu liniar:
1. Formularea ipotezelor:
H
0
:
i
=0,
H
1
:
i
0,
2. Alegerea pragului de semnificaie
De regul, se asum un risc = 0,05.
3. Alegerea statisticii test:
4. Valoarea teoretic a statisticii test
Pentru pragul de semnificaie ales i v=n-k grade de
libertate, se citete valoarea teoretic din tabela Student:
t
/2;n-k

i

t
|
o
|
=
p i , 0 =
p i , 0 =
Testarea parametrilor MLM (II)
5. Valoarea calculat a statisticii test
La nivelul eantionului se determin valoarea calculat a
testului:


6. Regula de decizie
Dac se respinge H
0
, cu risc asumat de 5%.
Dac se accept H
0
, cu un nivel de ncredere de
95%.
n SPSS, decizia se ia pe baza semnificaiei testului (Sig.):
Dac , se respinge H
0
cu risc asumat de 5%
Dac , se accept H
0
, cu un nivel de ncredere de
95%.
i

i
calc
s
b
t
|
=
2 / calc
t t
o
>
2 / calc
t t
o
s
o < sig
o > sig
Testarea modelului MLM
1. Formularea ipotezelor
H
0
:
0
= =
i
==
p
=0
H
1
: Exist un
i
pentru care
i
0,
2. Fixarea pragului de semnificaie =0,05
3. Alegerea statisticii test
4. Calcularea statisticii test


5. Criterii de decizie:
Dac F
calc
F
, k-1, n-k
=> se accept H
0
cu o probabilitate de 1-.
Dac F
calc
> F
, k-1, n-k
=> se respinge H
0
cu un risc asumat .
1

=
k
k n
V
V
F
R
E
1 ) ... (
) ... (
1
2
1 1 0
2
1 1 0

+ + +
=

k
k n
x b x b b y
y x b x b b
k
k n
RSS
ESS
F
i
pi p i i
i
pi p i
calc
p i , 0 =
Testarea influenei marginale a unei variabile independente
asupra variabilei dependente pentru metoda intrarilor
1. Formularea ipotezelor
H
0
: variabila independent nou introdus n model nu are o
influen semnificativ asupra variaiei variabilei dependente
H
1
: variabila independent nou introdus n model are o
influen semnificativ asupra variaiei variabilei dependente
2. Fixarea pragului de semnificaie =0,05
3. Alegerea statisticii test


4. Calcularea statisticii test
old new
new
new
2
old
2
new
2
old new
new
new R
old
E new E
k k
k n

k k
k n
V

= F
old new
new
new
2
old
2
new
2
old new
new
new
k k
k n
R 1
R R
k k
k n
RSS

=
old new
ESS ESS
F
5. Criterii de decizie:
Dac F
calc
F
, k new-k old, n-k new
=> se accept H
0
cu o
probabilitate de 1-.
Dac F
calc
> F
, k new-k old, n-k new
=> se respinge H
0
cu un risc
asumat .

Estimarea indicatorilor de corelaie -
raportul de determinaie ajustat
k n
n
R R

=
1
) 1 ( 1
k n
1 n
TSS
RSS
1
1 n
TSS
k n
RSS
1
2
2
2 2
R R <
Se observ c pentru k>1.
Utilitatea modelului de regresie cu variabile standardizate
Modelul cu variabile standardizate permite compararea
coeficienilor de regresie din model; fiecare coeficient artnd
impactul partial al variaiei cu o unitate a variabilei
independente standardizate asupra variabilei dependente
standardizate.

Aceasta este o modalitate de ierarhizare a variabilelor
dependente n funcie de importana lor n model.
EXEMPLU I (1)



Model Summary
,910
a
,829 ,807 285,65322 ,829 38,718 2 16 ,000
Model
1
R R Square
Adjusted
R Square
Std. Error of
the Esti mate
R Square
Change F Change df1 df2 Si g. F Change
Change Statisti cs
Predi ctors: (Constant), Nr. ani pregati re, Vechi me i n munca (ani )
a.
ANOVA
b
6318646 2 3159323,188 38,718 ,000
a
1305564 16 81597,759
7624211 18
Regressi on
Resi dual
Total
Model
1
Sum of
Squares df Mean Square F Si g.
Predi ctors: (Constant), Nr. ani pregati re, Vechi me i n munca (ani)
a.
Dependent Vari abl e: Sal ari ul (RON)
b. Coefficients
a
-545,101 224,894 -2,424 ,028
84,315 25,550 ,443 3,300 ,005
85,298 20,394 ,562 4,182 ,001
(Constant)
Vechi me in munca (ani )
Nr. ani pregati re
Model
1
B Std. Error
Unstandardi zed
Coeffi ci ents
Beta
Standardi zed
Coeffi ci ents
t Si g.
Dependent Vari abl e: Sal ari ul (RON)
a.
EXEMPLU I (2)
6. Raportul de determinaie ajustat
7. Estimarea indicatorilor de corelaie
8. Testarea indicatorilor de corelaie
9. Exemplu (II)

Pentru un model de regresie liniar multipl, pot fi
determinati urmtorii coeficieni de corelaie:
- coeficieni de corelaie simpl ntre variabila dependent
i fiecare variabil independent (coeficieni bivariai);
- coeficieni de corelaie parial;
- coeficientul de corelaie multipl i coeficientul de
determinaie multipl.
TEMATICA C6
7. Estimarea indicatorilor de corelaie (I)
Coeficieni de corelaie bivariat i parial
Pentru un model liniar de forma:

exist trei coeficieni de corelaie bivariat:
i i 2 2 i 1 1 0 i
x x y c | | | + + + =
] ) ( ][ ) ( [
2 2 2
1
2
1
1 1
1

=
i i
i i
i i
i i
i
i
i
i
i
i i
y
y y n x x n
y x y x n
r
] ) ( ][ ) ( [
2 2 2
2
2
2
2 2
2

=
i i
i i
i i
i i
i
i
i
i
i
i i
y
y y n x x n
y x y x n
r
] ) ( ][ ) ( [
2
2
2
2
2
1
2
1
2 1 2 1
12

=
i i
i i
i i
i i
i
i
i
i
i
i i
x x n x x n
x x x x n
r
7. Estimarea indicatorilor de corelaie (II)
i trei coeficieni de corelaie parial calculai cu ajutorul
coeficienilor de corelaie bivariat:




Corelaia parial msoar dependena dintre variabile prin
excluderea succesiv a influenei celorlali factori,
considernd influena lor constant si meninnd numai
influena factorului msurat.
n funcie de numrul variabilelor a cror influen se elimin
din calcul, coeficienii de corelaie parial pot fi de ordinul
nti (pentru o variabil eliminat), de ordinul doi (pentru dou
variabile) etc.
) 1 )( 1 (
2
12
2
2
12 2 1
2 . 1
r r
r r r
r
y
y y
y


=
) 1 )( 1 (
2
12
2
1
12 1 2
1 . 2
r r
r r r
r
y
y y
y


=
) 1 )( 1 (
2
2
2
1
2 1 12
. 12
y y
y y
y
r r
r r r
r


=
7. Estimarea indicatorilor de corelaie (III)
Raportul de determinaie multipl i raportul de corelaie
multipl
Parametri

=>

Estimatori

=>

Estimaiile
=>
T
R
T
E
i
i
i
x
V
V
V
V
y y
y y
i
= =

1
) (
) (
2
2
2
q
2
q q =

= = =
i
i
i
i
T
R
T
E
y y V
V
V
V
2
2
2
) (
1

c
q
2

q q =

= = =
i
i
i
i
y y
e
TSS
RSS
TSS
ESS
R
2
2
2
) (
1 1
2
R R =
7. Estimarea indicatorilor de corelaie (IV)
Coeficientul de corelaie multipl
Coeficientul de corelaie multipl se calculeaz numai
pentru modelele multiple liniare i se exprim cu ajutorul
coeficienilor de corelaie simpl dintre variabilele perechi.
Astfel, n cazul corelaiei dintre o variabil rezultativ Y i
dou variabile independente , ,la nivelul unui
eantion, coeficientul de corelaie multipl, notat cu r, se
calculeaz dup relaia:
1
X
2
X
2 . 1
2
2
2
2 1 . 2
2
1
2
1
2
12
12 2 1
2
2
2
1
) 1 ( ) 1 (
1
2
y y y y y y
y y y y
r r r r r r r r
r
r r r r r
r + = + =

+
=
8. Testarea indicatorilor de corelaie
Raportul de determinaie si raportul de corelatie se
testeaz cu testul F dup algoritmul prezentat la modelul liniar
simplu, innd cont de faptul c k=p+1 reprezint numrul
parametrilor din noul model model.




Coeficienii de corelaie se testeaz cu ajutorul testului t .
dup algoritmul prezentat la modelul liniar simplu, innd cont
de faptul c k=p+1 reprezint numrul parametrilor din noul
model.

Exemplu 1 - continuare C4
Coefficients
a
-545,101 224,894 -2,424 ,028
84,315 25,550 ,443 3,300 ,005 ,801 ,636 ,341
85,298 20,394 ,562 4,182 ,001 ,844 ,723 ,433
(Constant)
Vechi me in munca (ani )
Nr. ani pregati re
Model
1
B Std. Error
Unstandardi zed
Coeffi ci ents
Beta
Standardi zed
Coeffi ci ents
t Si g. Zero-order Parti al Part
Correl ati ons
Dependent Vari abl e: Sal ari ul (RON)
a.
ANOVA
b
6318646 2 3159323,188 38,718 ,000
a
1305564 16 81597,759
7624211 18
Regressi on
Resi dual
Total
Model
1
Sum of
Squares df Mean Square F Si g.
Predi ctors: (Constant), Nr. ani pregati re, Vechi me i n munca (ani)
a.
Dependent Vari abl e: Sal ari ul (RON)
b.
Model Summary
,910
a
,829 ,807 285,65322
Model
1
R R Square
Adj usted
R Square
Std. Error of
the Esti mate
Predi ctors: (Constant), Nr. ani pregatire, Vechi me i n
munca (ani )
a.
Corelatii bivariate i partiale
Exemplu II (1)
n studiul legturii dintre valoarea vnzrilor unei firme (Y) i
cheltuielile de publicitate (X
1
), cheltuielile ocazionate de diferite
promoii (X
2
) i vnzrile anuale realizate de principalul
concurent (X
3
), s-au obinut urmtoarele rezultate:

Model Summary
b
,913
a
,833 ,787 17,60029 1,879
Model
1
R R Square
Adjusted
R Square
Std. Error of
the Estimate
Durbin-
Watson
Predictors: (Constant), X3, X1, X2
a.
Dependent Variable: Y
b.
EXEMPLU II (2)
Coefficients
a
65,705 27,731 2,369 ,037
48,979 10,658 ,581 4,596 ,001
59,654 23,625 ,359 2,525 ,028
-1,838 ,814 -,324 -2,258 ,045
(Constant)
X1
X2
X3
Model
1
B Std. Error
Unstandardized
Coef f icients
Beta
Standardized
Coef f icients
t Sig.
Dependent Variable: Y
a.
ANOVA
b
16997,537 3 5665,846 18,290 ,000
a
3407,473 11 309,770
20405,009 14
Regression
Residual
Total
Model
1
Sum of
Squares df Mean Square F Sig.
Predictors: (Constant), X3, X1, X2
a.
Dependent Variable: Y
b.