Model probleme analiza disciminanta

1. în urma realizării unei analize de tip discriminant, s-au obținut următoarele rezultate:
Funcțiile discriminant Matricea corectitudinii
Variabila D1(x) D2(x) D3(x) clasificării
Const. -1,50 -3,05 -2,10 Clasa predictată
x1 -1,38 -1,20 2,34 Clasa reală ̃1
ω ̃2 ω
ω ̃3
x2 -1,88 0,19 2,08 ω1 21 0 0
x3 -1,16 3,86 -1,01 ω2 0 11 0
x4 -0,46 -0,44 0,80 ω3 1 0 17

Se cere:
a) Interpretați aceste rezultate și scrieți forma estimată a modelului de clasificare.
b) Pornind de la o metodă cunoscută, calculați abilitatea predictivă a clasificatorului determinat de
cele 3 funcții discriminant.
c) Determinați clasa de apartenență a formei m=(2;1.5;0.7;1.3).

a. Funcțiile discriminant sunt de tip Fisher, determinarea coeficienților realizându-se în condițiile

minimizării variabilității intraclasă și a maximizării celei interclasă.
Variabilele discriminant construite cu ajutorul funcțiilor discriminant din tabel sunt:
d1(x)=-1.5-1.38x1-1.88x2-1.16x3-0.46x4
d2(x)=-3.05-1.2X1+0.19x2+3.86X3-0.44X4
d3(x)=-2.1+2.34X1+2.08X2-1.01X3+0.8x4
b. Abilitatea predictivă se calculează pornind de la procentul obiectelor corect clasificate:
∑ 𝑇𝑖𝑖
Pc= 𝑇
=(21+11+17)/(21+11+17+1)=49/50=0.98

Procentul obiectelor incorect clasificate:

∑ 𝑇𝑖𝑗
Pc= 𝑇 = 1/50=0.02
c. In clasificarea pe baza scorurilor discriminat, o formă este clasificată în clasa pentru care se
obține cel mai mare scor discriminant pentru acea formă (daca dj(x)≥di(x), x va aparține formei
ωj)

d1(m)= -1.5-1.38*2-1.88*1.5-1.16*0.7-0.46*1.3=-8,49
d2(m)=-3.05-1.2*2+0.19*1.5+3.86*0.7-0.44*1.3=-3.035
d3(m)=-2.1+2.34*2+2.08*1.5-1.01*0.7+0.8*1.3=6.033

d3(m) > d2(m)> d1(m) → forma va apartine clasei 3

2. Pentru o problemă de recunoaștere supervizată a formelor se cunosc următoarele date: numărul de

clase (notate cu ω1 și ω2) este K=2; distribuțiile de probabilitate ale claselor sunt normale cu vectorii
mediilor
 3 7 2.5 −1.5
𝜇 (1) = ( ) și 𝜇 (2) = ( ), respectiv matricele de covarianță S1 = S2 = ( ); ecuația care
4 5 −1.5 3.0
𝑥1
definește suprafața de separare D12(x)=0 (unde D12(x)=D1(x)-D2(x) și 𝑥 = (𝑥 )) este de forma
2
1
2.57143X1+1.61905x2-19.855=0; Se cere să se predicteze apartenența formelor 𝑥 (𝑇+1) = ( ),
2
(𝑇+2) 6 (𝑇+3) 3.10
𝑥 = ( ) și 𝑥 =( ).
6 7.34

În vederea predictării apartenenței formelor pornind de la suprafața de separație, se va calcula

valoarea acesteia pentru fiecare dintre forme. Dacă D12(𝑥 (𝑇+1))≤ 0, acestea va aparține clasei 1, dacă
D12(𝑥 (𝑇+1))>0, atunci va fi alocat clasei 2.

D12(𝑥 (𝑇+1))= 2.57143*1+1.61905*2-19.855=-14.05 <0, deci aparține clasei 1.

D12(𝑥 (𝑇+2))= 2.57143*6+1.61905*6-19.855=5.29 >0, deci aparține clasei 2.

D12(𝑥 (𝑇+3))= 2.57143*3.10+1.61905*7.34-19.855=0, este situat pe dreapta de separare dintre cele

doua clase, darconsiderand capatul inchis al intervalului la grupa 1, va fi alocat grupei 1.

3. Aceeasi problema ca mai sus dar cu clasificatorul Mahalanobis

Pentru o problemă de recunoaștere supervizată a formelor se cunosc următoarele date: numărul de

clase (notate cu ω1 și ω2) este K=2; distribuțiile de probabilitate ale claselor sunt normale cu vectorii
3 7 2.5 −1.5
mediilor 𝜇 (1) = ( ) și 𝜇 (2) = ( ), respectiv matricele de covarianță S1 = S2 = ( ) .Se
4 5 −1.5 3.0
1 6 3.10
cere să se predicteze apartenența formelor 𝑥 (𝑇+1) = ( ), 𝑥 (𝑇+2) = ( ) și 𝑥 (𝑇+3) = ( ).
2 6 7.34
 1
Σ−1 = det⁡(Σ) Σ ∗ |Σ| = 2.5 ∗ 3 − ((−1.5) ∗ (−1.5)) = 5.25

2.5 −1.5 3.0 1.5

Σt = ( ) Σ∗ = ( )
−1.5 3.0 1.5 2.5

1 3.0 1.5 0.5714 0.2857

Σ−1 = ( )=( )
5.25 1.5 2.5 0.2857 0.4762

𝑡
(1) (1) 𝑡 −1 (1) 𝑥1 3 0.5714 0.2857 𝑥1 3
d1(x,⁡𝜇 ) = ⁡(𝑥⁡ − ⁡𝜇 )Σ (𝑥⁡ − ⁡𝜇 ) = ((𝑥 ) − ⁡ ( )) ( )⁡((𝑥 ) − ⁡ ( )) =
2 4 0.2857 0.4762 2 4

= 0.5714x12 + 0.4762 x22 + 0.5714x1 x2 – 5.714 x1 – 5.5238 x2 + 19.6186

𝑡
𝑡 𝑥1 7 0.5714 0.2857 𝑥1 7
d2(x,⁡𝜇 (2) ) = ⁡(𝑥⁡ − ⁡𝜇 (2) ) Σ−1 (𝑥⁡ − ⁡𝜇 (2) ) = ((𝑥 ) − ⁡ ( )) ( )⁡((𝑥 ) − ⁡ ( )) =
2 5 0.2857 0.4762 2 5

= 0.5714x12 + 0.4762 x22 + 0.5714x1 x2 – 10.8566 x1 – 8.7618 x2 + 59.9026

d1(xT+1,⁡𝜇 (1) )= 0.5714*12 + 0.4762 *22 + 0.5714*1*2 – 5.714 *1– 5.5238 *2 + 19.6186=6.476
d2(xT+1,⁡𝜇 (1) )= 0.5714*12 + 0.4762 *22 + 0.5714*1*2 – 10.8566 *1– 8.7618 *2 + 59.9026=35.14

d1(xT+1,⁡𝜇 (1) )< d2(xT+1,⁡𝜇 (1) ) , deci xT+1 apartine clasei 1

d1(xT+2,⁡𝜇 (1) )= 0.5714*62 + 0.4762 *62 + 0.5714*6*6 – 5.714 *6– 5.5238 *6+ 19.6186=10.4758
d2(xT+2,⁡𝜇 (1) )= 0.5714*62 + 0.4762 *62 + 0.5714*6*6 – 10.8566 *6– 8.7618 *6 + 59.9026=0.4762

d2(xT+2,⁡𝜇 (1) )< d1(xT+2,⁡𝜇 (1) ) , deci xT+2 apartine clasei 2

d1(xT+3,⁡𝜇 (1) )= 0.5714*3.12 + 0.4762 *7.342 + 0.5714*3.1*7.34 – 5.714 *3.1– 5.5238 *7.34+
19.6186=5.508
d2(xT+3,⁡𝜇 (1) )= 0.5714*3.12 + 0.4762 *7.342 + 0.5714*3.1*67.34– 10.8566 *3.1– 8.7618 *7.34 +
59.9026=6,08

d1(xT+3,⁡𝜇 (1) )< d2(xT+3,⁡𝜇 (1) ) , deci xT+3 apartine clasei 1

4. Pentru o problemă de recunoștere supervizată a formelor se cunosc următoarele date: numărul de

observații T, numărul de clase (notate cu ω1 și ω2) este K=2; probabilitățile apriorice ale celor două
clase sunt P(ω1)=0,4 și P(ω2)=0,6, iar distribuțiile de probabilitate ale claselor sunr normale cu
4 6
densitățile notate f ω1(x1,x2) și f ω2(x1,x2) cu vectorii mediilor 𝜇 (1) = ( ) și 𝜇 (2) = ( ) și matricele de
6 3
3.5 1.75
covarianță Σ1 = Σ2 = Σ = ( ); Se cer următoarele:
1.75 2.5
 a. Să se scrie formulele (explicite) pentru densitățile celor 2 clase și pentru probabilitățile
aposteriorice ale celor 2 clase;
b. Știind că funcția care definește ecuația suprafeței de separare între cele duă clase are forma
D12(x1,x2)=-2.4714-1.8022x1+2.46154X2, să se reprezinte grafic suprafața (dreapta) de separare
dintre cele două clase în spațiul bidimensional al formelor;
3
c. Să se predicteze apartenența la clase a formei 𝑥 (𝑇+1) = ( ), pentru care valorile densităților
4
sunt fω1(3, 4)=0,02895 și fω2(3, 4)=0.00270, utilizând probabilitățile aposteriorice (clasificatorul
Bayes-ian)
Indicație: în condițiile menționate, funcțiile de clasificare sunt de forma
𝑡 1 𝑡
𝑔𝑘 (𝑥) = (𝜇 (𝑘) ) Σ−1 x − (𝜇 (𝑘) ) Σ−1 𝜇 (𝑘)
2

𝑡 1 𝑡
a. Densitatetea f ω1(x1,x2)=⁡(𝜇 (𝑘) ) Σ−1 x − 2 (𝜇 (𝑘) ) Σ−1 𝜇 (𝑘)
𝑡 1 𝑡
Probabilitatea aposteriorica P(ω1/x)=⁡(𝜇 (𝑘) ) Σ−1 x − (𝜇 (𝑘) ) Σ−1 𝜇 (𝑘) +ln(P(ω1))
2

1
Σ−1 = Σ∗
det⁡(Σ)

det(Σ) = 3.5 ∗ 2.5 − 1.75 ∗ 1.75 = 5.6875

3.5 1.75
Σt = ( )
1.75 2.5
2.5 −1.75
Σ∗ = ( )
−1.75 3.5

1 2.5 −1.75 0.4395 −0.3076

Σ−1 = ( )=( )
5.6875 −1.75 3.5 −0.3076 0.6153

0.4395 −0.3076 x1 1 0.4395 −0.3076 4

f ω1(x1,x2)=(4 6)⁡( ) ( ) − 2 (4 6) ( ) ( )=
−0.3076 0.6153 x2 −0.3076 0.6153 6
x1 1 4
= (−0.0876 2.4614) ( ) − 2 (−0.0876 2.4614) ( )=
x2 6
= -7.215-0.0876x1+2.461x2

0.4395 −0.3076 x1 1 0.4395 −0.3076 4

P(ω1/x)=(4 6)⁡( ) ( ) − 2 ( 4 6) ( ) ( ) + ln(0.4) =
−0.3076 0.6153 x2 −0.3076 0.6153 6
x1 1 4
=(−0.0876 2.4614) ( ) − 2 (−0.0876 2.4614) ( ) − 0.916=
x2 6
=-8.125-0.0876x1+2.461x2

0.4395 −0.3076 x1 1 0.4395 −0.3076 6

f ω2(x1,x2)=( 6 3)⁡( ) ( ) − 2 (6 3) ( ) ( )=
−0.3076 0.6153 x2 −0.3076 0.6153 3
 x1 1 6
=(1.7142 0.0003) ( ) − 2 (1.7142 0.0003) ( )
x2 3
=-5.14217+1.7142x1+0.0003x2

0.4395 −0.3076 x1 1 0.4395 −0.3076 6

P(ω2/x)=(6 3)⁡( ) ( ) − 2 (6 3) ( ) ( ) + ln(0.6) =
−0.3076 0.6153 x2 −0.3076 0.6153 3
x1 1 6
=(1.7142 0.0003) ( ) − 2 (1.7142 0.0003) ( ) − 0.51083=
x2 3
=-5.653+1.7142x1+0.0003x2

b.

c.
P(X/ω1)P(ω1) ⁡fω1(3, 4)P(ω1)⁡ 0,02895 ∗ 0.4
P(ω1/x) = = =
P(x) fω1(3, 4)P(ω1) + fω2(3, 4)P(ω2) 0,02895 ∗ 0.4 + 0.00270 ∗ 0.6
= 0.877
P(X/ω2)P(ω2) ⁡fω2(3, 4)P(ω2)⁡ 0.00270 ∗ 0.6
P(ω2/x) = = =
P(x) fω1(3, 4)P(ω1) + fω2(3, 4)P(ω2) 0,02895 ∗ 0.4 + 0.00270 ∗ 0.6
= 0.123

P(ω1/x) > 𝑃(ω2/x) , deci forma apartine clasei 1