Documente Academic
Documente Profesional
Documente Cultură
UTILIZATE N EVALUARE
Raluca GRBOAN
Raluca GRBOAN
Doctor, Departamentul de Administraie Public
Facultatea de tiine Politice, Administrative i ale
Comunicrii, Universitatea Babe-Bolyai, Cluj-Napoca
Tel: 0040-264-431361
Email: ralucagarboan@apubb.ro
Abstract
For every evaluation type, a set of specific
research methods and instruments has been
developed. The research methods and instruments
are chosen according to the objectives of the
evaluation, the type and the scale of the project
that is being evaluated acording to the questions
the evaluation is trying to answer, with the
socio-economic and organizational context and
according to the avalable budget and the research
capacity. The approach most oftenly used is the
multi-method approach, a functional combination
of calitative and cantitative research methods and
instruments. The present article investigates the
research methods used in program evaluation,
with a specific focus on the cantitative methods. It
tries to identify whether there is a specific pattern
for the choise of the research methods in the
evaluation of different types of programs.
Transylvanian Review
of Administrative Sciences,
20/2007, pp. 33-51
33
3
4
Adaptare dup Brayman, A., Quantity and Quality in Social Research, Londra, New York,
Routlege, 1992 n Traian Rotariu i Petru Ilu, Ancheta sociologic i sondajul de opinie:
teorie i practic, Polirom, 2001, p. 25.
Traian Rotariu i Petru Ilu, Ancheta sociologic i sondajul de opinie: teorie i practic,
Polirom, 2001, p. 24.
Dup Petru Ilu, Abordarea calitativ a socioumanului, Polirom, Iai, 1997, p.40.
Petru Ilu, Abordarea calitativ a socioumanului, Polirom, Iai, 1997, p.63.
34
Traian Rotariu i Petru Ilu, Ancheta sociologic i sondajul de opinie: teorie i practic,
Polirom, 2001, p. 25.
Ibidem.
35
Traian Rotariu i Petru Ilu, Ancheta sociologic i sondajul de opinie: teorie i practic,
Polirom, 1997.
Abbas Tashakkori, Charles Teddlie, Mixed Methodology: Combining Qualitative and
Quantitative Approaches, SAGE Publications, Inc., 1998, p. ix.
36
37
38
39
suplimentare depre situaia concret. Pentru fiecare program evaluat vor fi necesare
date legate de variabile precum: participarea anterioar sau implicarea prezent n
programe similare, stilul de via, angajarea, atitudinile, valorile sociale i credinele
care caracterizeaz comunitile, organizarea social a acestora, dinamica populaiei,
coordonatele demografice ale comunitii i regiunii.
Analiza cantitativ a documentelor are avantajul de a fi mai puin costisitoare n
termeni de timp i alte resurse dect sondajele de opinie, dar potenialul de eroare este
mai ridicat. Prin utilizarea bazelor de date existente, analistul poate formula modele
despre performana unui program, impactul social potenial la nivelul grupurilor i al
comunitilor, etc. Informaia care contrazice modelul construit, determin revizuirea
acestuia, mai ales dac datele care nu se potrivesc modelului sunt considerate relevante.
Analiza documentelor este preferat ca metod primar de culegere a datelor pentru
evaluare. Aceasta datorit virtuilor sale privind economia de resurse. Totui ea este
de obicei utilizat mpreun cu alte metode, att cu scopul completrii informaiei,
ct i cu scopul examinrii validitii datelor.
Pentru a observa utilizarea metodelor de cercetare n evaluarea de proiecte, am
nceput prin a analiza o parte din studiile de evaluare a impactului derulate de
experii Bncii Mondiale n intervalul 2003-2005. Am realizat un eantion aleatoriu,
stratificat, de evaluri, dup urmtoarele variabile: domeniul proiectelor evaluate
(dezvoltare economic, educaie, infrastructur) i numrul beneficiarilor acestora
(sub 50.000 indivizi, ntre 50.001 i 100.000 i peste sau egal cu 100.001 indivizi)
(Tabelul 18). Am selectat aceste variabile pentru c: domeniul - d specificitatea
analizelor la care se preteaz un proiect n cursul evalurii i numrul indivizilor din
grupul int al proiectului ilustreaz de regul dimensiunea proiectului. Iar metodele
de cercetare utilizate n evaluarea proiectelor sau programelor pot varia n funcie
de aceste dou variabile. Aceasta este ipoteza de la care am pornit. Scopul a fost
obinerea unei selecii omogene de studii de evaluare. Ulterior am notat care este
metoda de cercetare utilizat cu predilecie (i am numit-o metoda principal), precum
i metodele utilizate n completarea acesteia (metoda secundar i metoda teriar).
Ulterior am notat apariia fiecrei metode de cercetare n studiile de evaluare, precum
i poziia (primar, secundar sau teriar) pe care o ocup n studiul de evaluare.
Am sesizat utilizarea n principal a trei metode de cercetare-analiza documentelor,
sondajul de opinie i interviul individual-metode pe care le-am luat n calcul pe tot
parcursul analizei realizate.
Dup cum reiese din Tabelul 1 i 2, n eantionul de 40 de studii de evaluare
a impactului social realizate de ctre Banca Mondial, 45% (18) utilizeaz analiza
cantitativ a documentelor ca metod principal, iar alte 20% (8) ca metod
secundar.
40
Frecvena
18
9
7
6
40
Procentul
45,0
22,5
17,5
15,0
100,0
Este interesant de notat faptul c, dei ca metod primar este preferat analiza
documentelor, urmat de ancheta sociologic, n topul metodelor secundare (de
suport) ancheta este devansat de interviu. Este o dovad a utilitii paradigmei
multimetod.
Tabel 2. Metoda secundar de cercetare utilizat n evalurile
realizate de Banca Mondial
analiza doc
sondaj
interviu ind
focus group
Delphi
Total
Frecvena Procentul
8
20,0
10
25,0
12
30,0
2
5,0
8
20,0
40
100,0
41
Opinii
Atitudini i credine
pe termen scurt sau
lung privind
instituiile publice i
politicile acestora
Participare
Interaciuni cu
administraia
Votul
Participarea n
aciuni de lobby
42
3. Sondajul de opinie este o subspecie a anchetei sociologice, care se remarc printrun puternic caracter descriptiv. De cele mai multe ori, sondajele de opinie nu
stau la baza unor cercetri explicative.
4. Spre deosebire de anchet, sondajul de opinie necesit, de regul, un timp
mai scurt de desfurare. ntrebrile din chestionarele folosite sunt de cele
mai multe ori clar structurate i relativ simple. Eantioanele selectate asigur
o reprezentativitate rezonabil pentru evalurile cu caracter general urmrite.
Ancheta sociologic, dimpotriv, necesit un timp mai ndelungat de organizare
i desfurare, ntrebrile din cadrul chestionarului specific anchetei pot fi
structurate, semistructurate i chiar nestructurate, iar eantionarea se face dup
proceduri mai complexe.
5. Rezultatele sondajului sunt prezentate ntr-o form uor accesibil.
Ancheta sociologic are urmtoarele caracteristici25: presupune un numr mare de
cazuri, selectarea acestora trebuie fcut dup criterii riguroase de eantionare; datele
trebuie colectate n situaii normale, ct mai apropiate de viaa de zi cu zi; colectarea se
face n conformitate cu proceduri standardizate iar datele sunt ntr-o form msurabil
cantitativ, cea mai simpl fiind prezena sau absena unui atribut.
n evaluarea de proiecte i programe pentru administraia public cel mai adesea
este utilizat ancheta sociologic sau sondajul de opinie. Aceasta poate avea ca
populaie statistic cetenii-clieni ai unei anumite instituii (administraia financiar,
poliia, cu sistemul educaional, etc.), beneficiarii unui program sau proiect. Populaia
statistic poate consta i n membrii unei uniti administrativ-teritoriale sau ai
unui grup dintr-o anumit comunitate, int a unor intervenii susinute din bani
publici.
Sondajul de opinie este utilizat ca surs principal de culegere a datelor n 22.5%(9)
din cazuri (Tabelul 1), ca metod secundar n 25%(10) din cazuri (Tabelul 2), iar ca
metod teriar, tot n 25%(10) dintre cazuri dup cum reiese din Tabelul 3.
Tabelul 3. Metoda teriar
analiza doc
sondaj
interviu ind
focus group
Delphi
observaia
Total
Frecvena
10
10
4
6
8
2
40
Procentul
25,0
25,0
10,0
15,0
20,0
5,0
100,0
Dac prin analiza documentelor este ncurajat utilizarea datelor deja existente,
din motive de economie i eficien, analiza va evidenia de cele mai multe ori carene
n datele avute la dispoziie ca o consecin a unor studii anterioare. Datele obinute
25
H.H. Hyman, Surveys in the Study of Political Psichology, n J.N. Knutson ed., Handbook of
Political Psichology, Jossey Bass 1973.
43
prin sondajul de opinie aplicat n cadrul studiului de impact trebuie interpretate prin
prisma i n contextul datelor regsite n arhive, datelor provenite din recensminte
i al celorlalte date statistice existente.
Scopul unui astfel de sondaj ar fi:
1. s verifice valabilitatea datelor obinute iniial, pe un eantion mai larg i mai
reprezentativ.
2. adresarea unor ntrebri n legtur cu probleme care nu au fost abordate
anterior.
Astfel se obin date predominant cantitative (legate de nivelul de angajare a forei
de munc, sursele de venit).
Dac se utilizeaz sondajul de opinie, trebuie avute n vedere urmtoarele
elemente:
utilizarea ntrebrilor potrivite
construcia eantionului
alegerea celor mai relevante tehnici de analiz a datelor.
ntrebrile ar trebui s se concentreze pe problemele sociale cu care are legtur
proiectul. Trebuie s existe o legtur direct ntre variabilele cu ajutorul crora se
msoar impactul i ntrebrile chestionarului. Numrul i coninutul ntrebrilor
trebuie s se plieze pe importana relativ a variabilelor. Accentul trebuie pus pe
claritatea formulrii ntrebrilor. nc din aceast etap, o importan semnificativ o
are influena variabilelor externe. Validitatea concluziilor depinde de msura n care
poate fi anticipat i controlat influen acestora. Claritatea i relevana ntrebrilor,
precum i ordinea n care ntrebrile sunt prezentate poate avea un impact semnificativ
asupra validitii analizei. Problema variabilelor externe i a oportunitii ntrebrilor
poate fi rezolvat prin pre-testarea instrumentului. n acest context, unii cercettori
vorbesc despre procesul de clarificare sau de curare a instrumentului. nainte de a
ncepe construcia unui chestionar n vederea utilizrii lui pentru evaluarea impactului
social al unui proiect sau program, specialistul n tiinte sociale trebuie s in cont
de dou realiti: realizarea unor cercetri noi presupun, de regul mult timp, i n al
doilea rnd, este recomandabil utilizarea cercetrilor anterioare. Studiile cantitative
trebuie corelate cu tehnicile inductive de analiz a informaiei existente, cu analiza
informaiei calitative i cu observaia.
Metode calitative complementare
Interviul semi-structurat
Utilizat n EIS de doar 17.5% dintre cercettori ca metod principal (vezi Tabelul
1), el are supremaia ca metod secundar utilizat n evaluarea impactului social (vezi
Tabelul 2), fiind apreciat ca metod predilect n procesul de aprofundare i clarificare
a informaiei. n utilizarea interviurilor semistructurate, tehnicile de interpretare i
vizualizare a datelor pot oferi informaii semnificative privind impactul unui anumit
program. n anumite cazuri se utilizeaz povetile de via sau documentele care atest
cheltuirea veniturilor, cu scopul de a stabili amplitudinea i combinaia strategiilor
de existena urmate (i cine le urmeaz).
44
depinde de numrul indivizilor care fac parte din grupul int (T4 i T5), dar i de
domeniul specific n care se ncadreaz proiectul/programul analizat.
Tabelul 4. Asocierea ntre numrul metodelor utilizate i numrul indivizilor din
grupul int al proiectului
numr
metode
utilizate
Total
2
3
4
5
nr indivizi gr.int
>100.000 ntre 100.001 > sau egal
i 1.000.000 cu 1.000.001
8
2
6
8
6
6
4
14
14
12
Total
10
20
6
4
40
Valoare
Pearson Hi-Ptrat
Nr. de cazuri valide
30,381
40
Semnificaia
,000
46
metoda principal
sondaj interviu ind
3
9
Total
alta
6
4
9
14
14
12
40
Tabelul 7. Testul hi-ptrat. Asocierea ntre numrul indivizilor din grupul tint al
proiectului i metoda principal utilizat n evalurile Bncii Mondiale
Valoare
Pearson Hi-Ptrat
Nr. de cazuri valide
33,938
40
Grade de
libertate
6
Semnificaia
,000
domeniu
proiect
Total
economic
educaional
infrastructura
altul
metoda principal
analiza
interviu
sondaj
doc
ind
7
3
6
3
4
4
4
1
2
18
9
7
Total
alta
3
2
1
6
13
11
12
4
40
13,615
40
Grade de
Semnificaia
libertate
9
,137
47
economic
educaional
domeniul
proiectului infrastructura
altul
Total
analiza
doc
3
2
2
1
8
metoda secundar
Total
sondaj interviu focus Delphi
ind
group
8
2
13
7
2
11
2
2
6
12
1
2
4
10
12
2
8
40
Valoare
Pearson Hi-Ptrat
Nr. de cazuri valide
32,509
40
Grade de
Semnificaia
libertate
12
,001
Total
48
24,862
40
Grade de
Semnificaia
libertate
15
,052
13
11
12
4
40
Total
Delphi
4
4
8
18
9
7
6
40
Tabelul 15. Testul hi-ptrat. Asocierea ntre metoda principal utilizat i metoda
secundar utilizat n evalurile Bncii Mondiale
Valoare
Pearson Hi-Ptrat
Nr. de cazuri valide
51,349
40
Grade de
Semnificaia
libertate
12
,000
Total
alta
7
3
10
18
9
7
6
40
Tabelul 17. Testul hi-ptrat. Asocierea ntre metoda principal utilizat i metoda
teriar utilizat n evalurile Bncii Mondiale
Valoare
Pearson Hi-Ptrat
78,452
Nr. de cazuri valide
40
Concluzii
Rezumnd, n funcie de natura proiectului al crui impact se dorete a fi calculat,
n funcie de numrul indivizilor care constituie grupul int (ca un indicator al
amplorii proiectului) putem avea o serie de combinaii. Din meta-analiza celor 40 de
studii EIS , se configureaz modelele din tabelul 18.
Tabelul 18. Analiza metodelor de cercetare utilizate n 40 de studii de evaluare
selectate de pe site-ul Grupului pentru Evaluare Independent a Bncii Mondiale
Domeniul
proiectului
Met. sec.
Analiza doc./
Delphi
Interviu individ/
Analiza doc.
Economic
Interviu individ/
Delphi
</=100.000
Analiza doc/ Sondaj/ Analiza
interviu ind/ doc.
alta
ntre 100.001 si Analiza doc Interviu individ/
Educaional
1.000.000
Analiza doc.
>/=1.000.001 Analiza doc/ Sondaj/ Interviu
interviu ind individ
Infrastructura </=100.000
Analiza doc/ Delphi/Sondaj/
interviu ind Analiza doc
ntre 100.001 si Analiza doc. Analiza doc.
1.000.000
/ Sondaj
>/=1.000.001 Analiza doc/ Delphi/Sondaj
interviu ind
Met. ter.
Focus Group
Sondaj
Sondaj
Focus Group
Sondaj
Sondaj/ Interviu
individ
Alta
Sondaj/Delphi
Sondaj/
Interviu
individ
50
Bibliografie
1. Ilu, P., Abordarea calitativ a socioumanului, Polirom, Iai, 1997.
2. Knutson, J. N., (ed), Handbook of Political Psychology, San Francisco: Jossey-Bass, 1973.
3. Patton, M. Q., Qualitative research and evaluation methods (3rd ed). Thousand Oaks, CA:
Sage, 2002.
4. Patton, Michael Quinn, Utilization-Focused Evaluation, The New Century Text, Sage
Publication, 1997.
5. Rossi, Peter H., Mark W. Lipsey i Howard E. Freeman, Evaluation: A Systematic Approach.
Thousand Oaks, CA: SAGE, 2004.
6. Rotariu, Traian, Petru Ilu, Ancheta sociologic i sondajul de opinie: teorie i practic,
Polirom, 2001.
7. andor, Sorin Dan, Analiz i cercetare, Cluj-Napoca: Accent, 2004.
8. Schwandt, T. A., Dictionary of qualitative inquiry, Thousand Oaks, CA: Sage, 2001.
9. Scott,W. R., Organizations: Rational, Natural and Open Systems. Englewood Cliffs, NJ:
Prentice-Hall, 2003.
10. Scriven, Michael, Evaluation Theory and Metatheory, in Thomas Kellaghan,Daniel L.
Stufflebeam si Lori A. Wingate (editori) International Handbook ofEducational Evaluation.
Dordrecht: Kluwer Academic Publishers, 2003.
11. Tashakkori, Abbas, Charles Teddlie, Mixed Methodology: Combining Qualitative and
Quantitative Approaches, SAGE Publications, 1998.
12. http://lnweb18.worldbank.org/servlet/OEDSearchServletV656?SearchType=byField&Per
Page=20&DbURL=oed/oeddoclib.nsf&Form=OEDSearch&Series=IEG%20Project%20Ev
aluation.
51