Învățarea automată

Facultatea de Inginerie
Specializarea: Automatică și Informatică Aplicată

Coordonator:
Prof, Dr. Ing. Bălaș E. Valentina
Student:
Betea Marius Mădălin
Curs nr. 1
Conținut prezentare
■ Introducere
■ Învățare inductivă
■ Învățare în spațiul versiunilor
■ Învățare prin recompensă
■ Rețele neurale
■ Algoritmi genetici
■ LCS
■ Teoria învățării computaționale
■ Învățarea în rețele Bayesiene

2
1. Definitii
■ Învățarea este procesul prin care un sistem
își îmbunătățește performanțele (Herbert
Simon).
■ Învățarea este achiziția cunoștințelor

explicite;
■ Învățarea este achiziția deprinderilor de

rezolvare a problemelor
■ Învățarea este formarea teoriilor, formarea

ipotezelor și inferența inductivă

3
Învățare automată
Machine learning
■ Schimbă structura, programul sau BC( Baza

de Cunoștințe)
■ Schimbările: pot să fie îmbunătățiri sau

creare de la Perceptie
zero

Model (BC) Rationament

Actiune

4
Învățare automată
Discipline
■ Statistică (eșantioane - distribuție de

probabilitate)
■ Modele neuronale

■ Teoria controlului (controlul procesului cu

parametrii necunoscuți)
■ Modele psihologice

■ Modele biologice

5
Învățarea – Exemple de
Aplicații
■ clasificarea proteinelor corespunzător funcției lor
■ prezice dacă pacientul răspunde bine unui
tratament/medicament
■ categorizarea textelor (e.g., filtrare spam)
■ detecția fraudelor
■ OCR
■ detecția fețelor umane în imagini
■ înțelegerea limbajului vorbit
■ segmentarea pieței (ex: dacă un client răspunde unei
promoții)
■ predicția consumului de electricitate

6
 Model simplu – Clasificare 1
T = {X1, X2, …, Xm} – multime de învățare
x1 f(X) = ?
X = x2 h h(X)
.
. h∈
xn H
■ Invățare supervizată – se cunosc f(X ), …, f(X )
1 m

Găsim h a.î. h(Xi) = f(Xi), i=1,m → h(Xi) = f(Xi), ∀i

■ Invățare ne-supervizată – NU se cunosc f(X ), …, f(X )
1 m
Împarte T in submultimi – clase
Se poate vedea tot ca învățarea unei funcții – val f = numele
submulțimii căreia îi apraține Xi
■ Învățare prin recompensă – Se cunosc recompensele

pentru valorile h(X1), …, h(Xm), Nu se cunosc valorle lui f 7

Denumiri
■ T – vector de intrare, vector șablon, vector de
caracteristici, eșantioane, exemple, instanțe
■ xi- caracteristici, atribute, variabile de intrare,
componente
■ xi - valori reale, valori numerice întregi, valori
simbolice, valori booleene
■ f(Xi)
■ valori reale: h – funcție de eșantionare

■ valori simbolice: h – clasificator

■ boolene: 1 – instanța pozitivă, 0 – instanța

negativă

8
Model conceptual – Clasificare 2
■ Mediul oferă stimuli sau informație
elementului de învățare, care folosește
această informație pentru a îmbunătăți
cunoștințele (explicite) din baza de
cunoștințe
■ Aceste cunoștințe sunt utilizate de

componenta de prelucrare în rezolvarea

problemei

9
 Sistem de învățare
Element de Feed-back
Învățare

Rezultate învățare
Date
Rezolvare
BC
Motor de inferență
Mediu
Strategie

Rezultate
Profesor
Feed-back Evaluare
Performanțe

10
Model conceptual – Clasificare 2
■ În funcție de diferența între nivelul
informației oferite de mediu și cel al
informației din baza de cunoștințe, se pot
identifica patru tipuri de învățare
■ învățarea prin memorare
■ învățarea prin instruire

■ învățarea prin inducție (din exemple)

■ învățarea prin analogie

11
Reguli de inferență utilizate în învățare

■ La baza procesului de învățare stau o serie

de forme inferențiale nevalide: inducția,
abducția și analogia
■ O metodă de învățare poate folosi una sau

mai multe astfel de forme de inferență

nevalide, cât și forme de inferență valide,
cum este deductia

12
Inferența inductivă
■ O proprietate adevarată pentru o
submulțime de obiecte dintr-o clasă este
adevarată pentru toate obiectele din acea
clasă

13
Inferența inductivă
■ Se poate generaliza la sintetizarea unei
întregi reguli de deducție pe baza
exemplelor

14
Inferenta abductiva
■ Se utilizează cunoștințe cauzale pentru a
explica sau a justifica o concluzie, posibil
invalidă

15
Inferența abductivă
■ Exemplu
■ Uda(iarba)
■ (∀x) (PlouaPeste(x) → Uda(x))

■ Se poate infera abductiv că a plouat

■ Cu toate acestea, abducția nu poate fi aplicată

consistent în oricare caz

16
Inferența analogică
■ Situații sau entități care tind să fie
asemănătoare sub anumite aspecte, sunt
asemănătoare în general
■ Este o combinație a celorlalte forme de

inferență: abductive, deductive si inductive

17
Condiții pentru o învățare "corectă"
Problema: identifică personaje de film
"bune" sau "rele" după modul în care arată

18
Condiții pentru o învățare "corectă"
Atribute / Sex Mască Pelerină Cravată Urechi Luptă Clasa
Instante
Set de invatare

Batman Masc Da Da Nu Da Nu Bun

Robin Masc Da Da Nu Nu Nu Bun
Alfred Masc Nu Nu Da Nu Nu Bun
Pinguin Masc Nu Nu Da Nu Da Rau
Catwoman Fem Da Nu Nu Da Nu Rau

Joker Masc Nu Nu Nu Nu Nu Rau

Date de test

Batgirl Fem Da Da Nu Da Nu ??
Fred Masc Da Nu Nu Nu Nu ??
19
Condiții pentru o învățare "corectă"

Clasifica datele
Cravata

Nu Da

Pelerina Lupta

Nu Da Nu Da

Rau Bun Bun Rau

20
 Condiții pentru o învățare "corectă"

Masca
Nu Da

Lupta Pelerina Da
Nu Da Nu
Urechi Rau Sex Urechi
Nu Da
Da Fem Masc Nu
Cravata Pelerina Bun Rau Lupta Bun
Nu Da
Da Nu Nu Da
Rau Bun Rau Bun Bun Rau

Clasifica datele dar complexitate prea mare

(intuitiv)
21
Condiții pentru o învățare "corectă"

Prea simplu, nu clasifică corect

Sex

Masc Fem

Bun Rau

Aleg prima variantă (cf. lamei lui Occam)

22
Condiții pentru o învățare "corectă"
■ Clasificatoarele trebuie să fie suficient de
"expresive" pentru a fi în concordanță cu
setul de învățare
■ Dar clasificatoarele care au o complexitate

prea mare pot duce la fenomenul de

"overfit" (overfitting) = include zgomot sau
șhhabloane de date nerelevante

23
Bibliografie

1. Curs IA - Prof. Valentina E. Bălaș

2. Argumente transcendentale și inferența

abductivă, Revista Română de Semio-
Logică( pe Internet), nr. 3-4/2003

3. Sistemul metodelelor și al tehnicilor de

inteligență artificială - Constanța Bodea
Vă mulțumesc pentru atenția
acordată!