Cap.

6 Recunoașterea formelor

6.1 Reprezentarea cunoștințelor

6.2 Forme și clase de forme
6.3 Recunoașterea bazată pe metode teoretice de
decizie
6.3.1 Potrivire (matching)
6.3.2 Clasificarea statistică optimă

1
 Cap6. Recunoasterea formelor

Recunoașterea formelor

metode de clasificare a obiectelor in cadrul unei multimi

scopul metodei ⇒ determinarea clasei din care face parte un obiect
Cazuri:
• Nr. de clase + caracterizare → cunoscute a priori (obiecte etalon pt.
fiecare clasa)
• Gruparea obiectelor in clase → in acelasi timp cu construirea claselor
◊ Metode simple: compararea trasaturilor obiectelor extrase cu modele
ce caracterizeaza fiecare clasa
Recunoasterea formelor: clasificarea obiectelor si regiunilor ⇒
cunostinte ⇒ decizie
 Cap. 6. Recunoasterea formelor

6.1. Reprezentarea cunostintelor

Vederea artificiala ⇒ cunostinte si reprezentarea acestora din IA

Intelegerea unei probleme ⇔ reprezentarea cunostintelor
Reprezentarea cunostintelor (IA):
- limbaje si gramatici formale;
- predicate logice, reguli de productie
- retele semantice, cadre
Reprezentari de nivel scazut: trasaturi si descrieri
Structuri de date pentru reprezentarea cunostintelor: liste, arbori, grafuri, tabele,
multimi, retele, matrice, structuri ierarhizate etc.
Reprezentarea = conventii sintactice si semantice ⇒ descrierea obiectelor
Sintaxa unei reprezentari: simboluri si moduri de aranjare
 Cap. 6. Recunoasterea formelor

• Trăsături, descrieri
Nu sunt reprezentari in sensul strict al cunostintelor
Descrierea => set de proprietati scalare ale obiecelor → trasaturi
Vector al trasaturilor => marime de intrare pentru recunoasterea statistica
Exemplu: Aria → marime; compactitatea → circularitatea
x = [arie, compactitate]

Clase: - mic, mare

A1, C1 A2, C1 A2, C3 - circular, necircular
• Limbaje și gramatici
Descrierea prin trasaturi => neadecvata pentru structura obiectului
Descrierea structurala => primitive si relatii intre acestea
Forme simple pentru reprezentarea structurilor : lanturi (Freeman), arbori, grafuri
Descrierea clasei => gramatici si limbaje: reguli pentru construirea lanturilor,
arborilor si grafurilor din primitive
 Cap. 6. Recunoasterea formelor

6.2 Forme și clase de forme

Obiect = unitate fizica ⇒ intr-o imagine segmentata = regiune

Multimea obiectelor ⇒ submultimi disjuncte = clase (trasaturi comune)
Recunoasterea obiectelor ⇒ stabilirea claselor carora apartin obiectele =
clasificare
Clasificatorul ⇒ clasa pe baza formei = proprietatile masurate ale obiectului
Clasificatorul recunoaste forma si nu obiectul propriu-zis
Recunoasterea formelor ⇔ recunoasterea obiectelor
Obiect ⇒ Descriere ⇒Forma ⇒Clasificator ⇒Clasificare
cantitativ  trasaturi (vectori) => recunoasterea statistica
Descrierea obiectului
calitativ  siruri, arbori => recunoasterea sintactica
 Cap. 6 Recunoasterea formelor

Forma (pattern)  aranjament de trasaturi (descriptori) ⇒ x1, x2, … , xn

Clasa unei forme => familie de forme cu proprietati comune
=> clasele formelor  ω1, ω2, …, ωR (R = nr. de clase)
Vectorul formei (vectorul trasaturilor): x = [x1, x2, … , xn ]T
Multimea tuturor formelor X = spatiul formelor (trasaturilor)
Clase = grupuri (clusters) in X ⇒ separare prin curbe (hipersuprafete) de
discriminare
x1
Recunoastere liniar separabila ⇒ ω3

hipersuprafete → hiperplane *
*
*
* x2
* *
Clase separabile: fiecare forma va ω1 * * ω2
*
reprezenta numai obiecte dintr-o clasă
 Cap. 6 Recunoasterea formelor

6.3 Recunoașterea bazată pe metode teoretice de decizie

x1 °
Clasificator Clasificator statistic ⇒ ωr
x2 ° ωr
statistic ωr: identificatorii claselor, r = 1, 2, …, R
xn °
δ (x) = ω r ⇒ regula de decizie

Regula de decizie ⇒ X → R multimi disjuncte ωr,

ωr: multimea formelor x pentru care: δ ( x) = ωr , r = 1, R
Frontierele multimilor ωr : hipersuprafete
Clasificator ⇒ determinarea regulilor de decizie
(determinarea hipersuprafetelor de discriminare)
 Cap. 6 Recunoasterea formelor

• Recunoasterea bazata pe metode teoretice de decizie:

=> utilizarea funcțiilor discriminant (de decizie)

g1( x),..., g R (x) ⇒ functii discriminant pentru cele R clase cu

proprietatea:
∀ x ∈ ωr , ∀ s ∈ [1, R], s ≠ r ⇒ g r (x) > g s (x)

• Hipersuprafete de discriminare intre ωr si ωs: g r (x) − g s (x) = 0

• Regula de decizie: δ (x) = ω r ⇔ g r (x) = max g s (x)

s =1, R

•Exemplu: functie discriminant liniara ⇒ g r (x) = qr0 + qr1 x1 + ... + qrn xn

 Cap. 6 Recunoasterea formelor

6.3.1 Potrivire (matching)

Fiecare clasa este reprezentată printr-un vector prototip vi

X: R puncte v1, …, vR = vectori prototip (modele) pentru clasele ω 1, …, ωR

O forma necunoscuta apartine clasei celei mai apropiate (cu o metrica

predefinita)
Tehnici de clasificare:
• metoda distantei minime (se calculează distanța (euclidiană) dintre un
vector necunoscut și vectorii prototip)
• metoda bazata pe corelatie (metodă intuitivă formulată cu imagini)
 Cap. 6 Recunoasterea formelor

• Matching - Metoda distantei minime

1
Vectorul prototip = media vectorilor unei clase => v s = m s = ∑ x s , s = 1, 2,.., R
N s x∈ωs
Ns = nr. de forme din clasa ωs

Regula de decizie: δ ( x) = ωr ⇔ v r − x = min v s − x (∗)

s =1, R
1/ 2
unde a = a a ( ) T
este norma euclidiana
(∗) ⇒ d ( v r , x) < d ( v s , x), s = 1,..., R, s ≠ r (d => distanta Euclidiana)
n 2 n 2
(∗) ⇒ ∑ vrk − xk
2

k =1
( ) ( )
< ∑ vsk − xk , s = 1, R, s ≠ r ,
k =1
n n n n n n
∑ vr2k − 2∑ xk vrk + ∑ xk2 <∑ vs2k − 2∑ xk vsk + ∑ xk2
k =1 k =1 k =1 k =1 k =1 k =1

d 2 ( v r x) = vTr v r − 2 vTr x + xT x ⇔ produsul xT x se omite (identic pt. toate clasele)

n
1 n 2
( vTr v r − 2 vTr x) × (−0.5) ⇒ g r (x) = ∑ xk vrk − ∑ vrk : functia discriminant
k =1 2 k =1
 Cap. 6 Recunoasterea formelor

Suprafata de discriminare intre clasele ωr si ωs:

g r (x) − g s (x) = 0 ⇔ xT ( v r − v s ) − 0.5( v r − v s )T ( v r + v s ) = 0

Suprafata de discriminare => perpendiculara pe mijlocul segmentului vrvs

n = 2 => linie (vezi figura)
n = 3 => plan
x2
n > 3 => hiperplan vr

ωr ωs
x1

vs
 Cap. 6 Recunoasterea formelor

Exemplul 6.1

Se consideră următoarele clase descrise prin două trăsături:

1   2   2  3 5  5   7   7  1   2   2  3
ω1         ; ω2         ; ω3        
 2  1   2  3  2  3  1   2   6   6   7  5 

Se cere:
a)să se reprezinte cele trei clase în planul trăsăturilor;
b)să se determine funcţiile discriminant de distanţă minimă pentru
cele trei clase;
c)să se găsească curbele de discriminare şi să se reprezinte.
 Cap. 6 Recunoasterea formelor

•Matching - metoda bazata pe corelaţie

Fie două funcţii f şi w de dimensiuni M×N
1 M −1 N −1
– convoluţia discretă: f ( x, y ) ∗ w( x, y ) = ∑
MN m =0
∑ f ( m, n) w( x − m, y − n)
n =0

1 M −1 N −1 *
– corelaţia: f ( x , y )
w( x , y ) = ∑ ∑ f ( m, n) w( x + m, y + n)
MN m = 0 n = 0
f * ⇒ complexul conjugat al lui f

Corelaţia ⇒ matching
– f (x, y): imagine cu obiecte sau regiuni cu dimensiunea (M×N)
– w (x, y): obiectul sau regiunea de recunoscut (J×K) => şablon
– găsirea regiunii w(x, y) în imaginea f (x, y) ⇒ determinarea
maximului funcţiei de corelaţie
 Cap. 6 Recunoasterea formelor

M
x
x0 Functia de corelatie:
origine
J
c( x, y ) = ∑ ∑ f ( m, n) w( x + m, y + n)
y0 m n
N K
(x0, y 0) x = 0,1, 2,…, M − 1
w(x 0 + m, y0 + n) y = 0,1, 2,…, N − 1

Functia de corelatie: sensibila la variatiile de amplitudine ale lui f si w

Coeficientul de corelatie normalizat:

∑ ∑ [ f (m, n) − f (m, n)][w( x + m, y + n) − w ]

γ ( x, y ) = m n γ ∈ [−1,1]
1/ 2
 2
∑ ∑ [ f ( m, n ) − f ( m, n ) ]2
∑∑ [w( x + m, y + n ) − w ] 
m n m n 
w : valoarea medie a lui w
f : valoarea medie a lui f in regiunea unde este localizat w
 Cap. 6 Recunoasterea formelor

γ ∈ [−1,1] => Valoarea maximă a a coeficientului de corelație

normalizat se obține atunci când șablonul normalizat coincide cu

regiunea corespunzătoare a imaginii normalizate

b) c) Coeficientul γ
a) imaginea f
șablonul w γ max= punctul cel mai luminos
 Cap. 6 Recunoasterea formelor

6.3.2 Clasificarea statistica optima

Clasificator bazat pe functii discriminant

• deterministic daca forma x este clasificata ca apartinand intotdeauna
aceleiasi clase
• forma x poate reprezenta obiecte din clase diferite ⇒ decizii incorecte

Micsorarea pierderilor datorate deciziilor incorecte

• metode probabilistice de recunoastere
• clasificarea optima => cea mai mica probabilitate de a rezulta erori de
clasificare
 Cap. 6 Recunoasterea formelor

• Clasificatorul Bayes
Fie probabilitatea p(ωs | x) ca o forma particulara x sa apartina clasei ωs
• Lrs ⇒ costul sau pierderea cauzata de atribuirea formei x clasei ωs
cand de fapt apartine clasei ωr
• Deoarece x poate aparține oricărei din cele R clase, pierderea medie
prin asignarea la clasa ωr va fi:
R
rr (x) = ∑ Lsr p (ωs | x) ⇒ riscul mediu conditionat
s =1

• Considerând formula lui Bayes ( p( A | B ) = [ p( A) p ( B | A)] p( B) ) din teoria

1 R
probabilitatilor: ⇒ rr (x) = ∑
p (x) s =1
Lsr p(x | ωs ) P (ωs )

p (x | ωs ) : densitatea de probabilitate a formelor din clasa ωs

P(ωs ) : probabilitatea de aparitie a clasei ωs

 Cap. 6 Recunoasterea formelor
R
1
> 0 si acelasi pentru toti rr (x) ⇒ se neglijeaza ⇒ rr (x) = ∑ Lsr p( x | ωs ) P(ωs )
p ( x) s =1

Clasificatorul Bayes atribuie o forma x clasei ωr daca riscul este minim:

rr (x) < rs (x), s = 1, R , s ≠ r

R R
sau: ∑ Lkr p (x | ωk ) P(ωk ) < ∑ Lqs p(x | ωq ) P(ωq ), s = 1, R, s ≠ r
k =1 q =1

Dacă se consideră că pierderea pentru o decizie corectă este 0, iar pentru o

decizie incorectă este 1, se obține:
1 pentru r = s

functia de pierdere : Lrs = 1 − δ rs ⇒ δ rs = 
0 pentru r ≠ s
R

riscul mediu : rr ( x) = ∑ (1 − δ rs ) p ( x | ωs ) P (ωs ) = p (x) − p ( x | ωr ) P (ωr )
s =1

R
unde p(x) = ∑ p (x | ωs ) P(ωs ) ⇒ densitatea de probabilitate mixta a celor R clase
s =1
 Cap. 6 Recunoasterea formelor

Clasificatorul Bayes: o forma apartine clasei ωr daca pentru s ≠r ⇒

rr ( x) < rs ( x) ⇒ p ( x) − p (x | ωr ) P(ωr ) < p (x) − p ( x | ωs ) P(ωs )
⇒ p(x | ωr ) P(ωr ) > p(x | ωs ) P(ωs ), s = 1, R, s ≠ r

⇒ g r (x) = p( x | ωr ) P (ωr ), r = 1, R : functii discriminant

Functia discriminant
- optimala ⇒ minimizeaza pierderile medii ale clasificarilor eronate
- trebuie cunoscute: P(ωr ); p(x | ωr )
1
Daca toate clasele au aceeasi probabilitate de aparitie ⇒ P(ωr ) =
R
Functia de densitate de probabilitate p(x | ωr )
- functia de n variabile, dificil de estimat
- se considera forma analitica cunoscuta si se estimeaza
parametrii folosind forme din fiecare clasa
 Cap. 6 Recunoasterea formelor

• Clasificatorul Bayes pentru clase de forme gaussiene

Se considera densitati gaussiene de probabilitate
a) n = 1 (forme scalare), R = 2
( x − mr ) 2
−
1 2σ r2
g r ( x ) = p( x | ωr ) P (ωr ) = e P (ωr ), r = 1, 2
2π σ r
p ( x | ωr )

p ( x | ω2 ) Frontiera dintre clase: punctul x0

(====
p ( x | ω1) x0 ⇒ g1 ( x0 ) = g 2 ( x0 )
(==== Pentru P (ω1 ) = P (ω2 ) = 1/ 2
⇓
p ( x0 | ω1 ) = p ( x0 | ω2 )
m2 x0 m1 x
Pentru P (ω1 ) ≠ P (ω2 )
⇓
x0 se deplaseaza
 Cap. 6 Recunoasterea formelor

b) Cazul n – dimensional
1
1 − ( x − mr )T Cr−1 ( x − mr )
p ( x | ωr ) = n/ 2 1/ 2
e 2
(2π ) | Cr |
unde: m r = Er {x} ⇒ vectorul mediu
Cr = Er {(x − m r )(x − m r )T } ⇒ matricea de covarianta
Er {·} = operatorul de mediere
Cr = determinantul matricei Cr
⇒ estimari pentru mr si Cr pe baza unui numar finit Nr de forme din
1 1
clasa ωr: m r = ∑
N r x∈ωr
x; C r = ∑
N r x∈ωr
xxT
− m r m T
r

Nota: Cr ⇒ matrice simetrica si pozitiv semidefinita

ckk:: varianta elementului k al vectorilor formei
cjk: covarianta lui xj si xk
cjk = 0: elementele xj si xk nu sunt corelate
 Cap. 6 Recunoasterea formelor

Densitatea gaussiana ⇒ functia discriminant Bayes echivalentă obținută prin

logaritmare (ln)

g r ( x) = ln [ p (x | ωr ) P (ωr ) ] = ln p (x | ωr ) + ln P (ωr )
n 1 1
g r ( x) = ln P (ωr ) − ln 2π − ln Cr −  (x − m r )T C−r 1 (x − m r ) 
2
 2 2
acelasi pentru
toate clasele

1 1
g r ( x) = ln P (ωr ) − ln Cr −  ( x − m r )T C−r 1 ( x − m r ) 
2 2

Cazuri particulare:

1
(i) Cr = C pentru r = 1, R ⇒ g r (x) = ln P (ωr ) + xT C−1m r − mTr C−1m r
2
1 1
(ii) C = I, P (ωr ) = pentru r = 1, R ⇒ g r (x) = xT m r − mTr m r
R 2
 Cap. 6 Recunoasterea formelor

T 1 T
(ii) g r (x) = x m r − m r m r
2

- functia discriminant pentru un clasificator de distanta minima

Clasificatorul de distanta minima optim in sens Bayse daca:

- clasele de forme sunt gaussiene
- matricele de covarianta sunt egale cu matricea unitate
- toate clasele au aceeasi verosimilitate de aparitie
 Cap. 6 Recunoasterea formelor

Exemplul 6.2

Se dau clasele ω1 și ω2 ce conțin câte 4 forme descrise prin două trăsături:

1  2   2  3   4   4  3   5 
ω1         ; ω2        
1  2  3   2   4  3   4  5

Se cere:
a) să se reprezinte cele două clase în planul trăsăturilor;
b) să se determine funcţiile discriminant Bayes pentru cele două clase,
considerând P(ω1) = P(ω2) = 1/2;
c) să se găsească curba de discriminare Bayes şi să se reprezinte;
d) folosind funcțiile discriminant bazate pe distanța euclidiană , să se
determine curba de discriminare ce separă cele două clase și să se
reprezinte.
 Cap. 6 Recunoasterea formelor

Exemplul 6.3

Se consideră clasele ω1 și ω2 din

figură ale căror forme sunt descrise
prin 3 trăsături. Se cere:
a) să se precizeze vectorii formelor
pentru fiecare clasă în parte;
b) să se determine funcțiile
discriminant Bayes ale celor două
clase știind că P(ω1) = P(ω2) = 1/2
c) să se găsească și să se reprezinte
suprafața de separare
 Cap. 6 Recunoasterea formelor

Exemplul 6.3 - rezolvare

a) vectorii formelor celor doua clase
 0  1  1  1  0 0 0  1
ω1 0  0  0  1  ; ω2 0  1  1  1
               
 0  1  0  0  1  1  0  1
b) ∗ vectorii medii:
3  0.75 1 0.25
m1 = 1 =  0.25 ; m 2 = 3 = 0.75
1 1
4    4   
1  0.25 3 0.75
1
∗ matricea de covarianta: Cr = ∑
N r x∈ωr
xx T
− m r m T
r ; r = 1, 2

3 1 1   8 −4 −4 
1 
C1 = C2 = C = 1 3 −1 ⇒ C −1 =  −4 8 4 
16    
1 −1 3   −4 4 8 
 Cap. 6 Recunoasterea formelor

Exemplul 6.3 - rezolvare

∗ functiile discriminant Bayes:

1
g r (x) = ln P (ωr ) + xT C−1m r − mTr C−1m r , r = 1,2
2
g1 (x) = 4 x1 − 1.5
g 2 ( x) = −4 x1 + 8 x2 + 8 x3 − 5.5

c) suprafata de separare Bayes:

g 2 ( x) − g1 (x) = 0 ⇒ 8 x1 − 8 x2 − 8 x3 + 4 = 0