Documente Academic
Documente Profesional
Documente Cultură
Pretestarea Unui Chestionar
Pretestarea Unui Chestionar
Autori:
Nicolina Racoceanu, CS I
Aniela Matei, CS III
Andra Bertha Snduleasa CS III
Mihaela Ghena, CS
CUPRINS:
Cuprins1
Introducere..2
Concluzii21
Bibliografie23
Introducere
Un moment care nu poate s lipseasc din elaborarea instrumentului unei anchete este
pretestarea chestionarului. Cele mai multe lucrri de specialitate care trateaz problematica
metodologiei de cercetare fac referire i la etapa n care, odat conceput, un instrument de
cercetare (n cazul de fa, un chestionar) necesit a fi pretestat (Bailey, 1982; de Vaus, 1991;
Hussey, 1997; Thietart, 1999).
Pretestarea reprezint una dintre componentele unui proces de cercetare care nu ar trebui
omis. n lipsa pretestrii instrumentului de cercetare, chiar i cei mai experimentai
cercettori pot ajunge s administreze anchete incerte, care ridic ulterior multe semne de
ntrebare n legtur cu rezultatele obinute. Din acest motiv, muli dintre cercettori consider
c n cazul n care nu avem suficiente resurse pentru a efectua operaiunea de pretestare a
chestionarului, este mai bine s amnm ancheta pn n momentul n care facem rost de
resursele necesare. n ce const pretestarea chestionarului? n linii mari, pretestarea unui
chestionar se refer la faptul c, dup elaborarea chestionarului ntr-o prim form, acesta este
aplicat unui lot de subieci selectat din populaia care reprezint universul cercetrii.
Rezultatele culese n urma pretestrii chestionarului sunt ulterior analizate. Analiza
rezultatelor acestei aplicri poate aduce mai multe contribuii valoroase la producerea, n final,
a unui chestionar ct mai bun:
-
pentru aceast activitate, astfel nct s nu ne grbim n momentul n care facem mbuntiri
asupra ntrebrilor din chestionar. Din pcate, foarte muli oameni consider c pretestarea
unui chestionar este o activitate de rutin.
pretestare,
sunt
utilizate tehnici
cognitive
i tehnici
comportamentale. Tehnicile cognitive presupun realizarea unui studiu pilot n cadrul cruia
respondenii tiu c particip la testarea unui chestionar i li se solicit acestora s fac orice
comentariu doresc fa de oricare dintre ntrebrile din chestionar. Tehnicile comportamentale
presupun realizarea de interviuri structurate, ocazie cu care este studiat atent comportamentul
de rspuns al participanilor la interviu. Reacia la anumite ntrebri poate arta faptul c
respondenii ntmpin dificulti n nelegerea ntrebrilor sau poate arta faptul c
respondenii nu dein informaiile pe care cercettorul le solicit prin intermediul ntrebrilor.
Din descrierea succint a acestor tehnici de pretestare a unui chestionar reiese faptul c fiecare
dintre aceste tehnici ajut la corectarea unor erori care apar n procesul de construire a
chestionarului. Astfel, tehnicile convenionale i cele comportamentale ajut att la detectarea
unor probleme legate strict de formularea ntrebrilor din chestionar ct i la rezolvarea unor
probleme ntmpinate de ctre operatorii care adreseaz ntrebrile din chestionar. Tehnicile
cognitive ajut la evaluarea acurateei tehnice a rspunsurilor date de participanii la testarea
chestionarului, analiznd calitatea ntrebrilor din punctul de vedere al efortului necesar
pentru a rspunde la ntrebri. Tehnicile convenionale i cele cognitive servesc de asemenea
la identificarea unor erori semantice.
Iarossi (2006) spune c dup utilizarea tuturor celor 3 tehnici sau doar a o parte dintre aceste
tehnici prezentate mai sus, urmeaz o a patra etap, etapa n care cercettorul las la o parte
munca de teren i revine n birou pentru a analiza toate rezultatele colectate din teren i pentru
a da retuul final. Presser i Blair (1994) spun c aceast etap este benefic n special pentru
valoarea analitic a ntrebrilor din chestionar. Iarossi (2006) spune c procesul de pretestare a
chestionarului, n ansamblul su, conduce la atingerea a 3 obiective majore:
-
Biemer i Lyberg (2003) prezint chiar o list extrem de folositoare coninnd categorii de
codificare pe care experii le pot utiliza n procesul de revizuire a chestionarului (vezi Tabelul
1).
Tabelul 1
1. PROBLEME LEGATE DE CITIRE: determin msura n care operatorii citesc
ntrebrile corect i n aceeai manier tuturor respondenilor
a) CE SE CITETE: operatorii pot ntmpina dificulti n distingerea prilor din
chestionar care se citesc operatorilor de prile care nu se citesc cu voce tare
operatorilor
b) INFORMAII LIPS: lipsa unor informaii de care operatorul are nevoie pentru
administrarea chestionarului
c) CUM SE CITETE: chestionarul nu este tehnoredactat n ntregime i prin
urmare apar dificulti de citire
2. PROBLEME LEGATE DE INSTRUCIUNI: probleme cu instruciunile,
ndrumrile sau explicaiile, din perspectiva respondenilor
a) INSTRUCIUNI CONTRADICTORII SAU NEADECVATE:
b) INSTRUCIUNI COMPLICATE
3. PROBLEME
LEGATE
DE
CLARITATEA
ITEMILOR:
identificarea
c) NTREBRI MULTIPLE: ntrebri care conin la rndul lor mai multe ntrebri
5. PROBLEME LEGATE DE CUNOTERE/MEMORIE: msura n care
respondenii cunosc sau i amintesc informaia solicitat
a) CUNOATEREA: respondentul nu cunoate informaia solicitat
b) ATITUDINEA: respondentul poate nu are o atitudine formulat
c) EECUL: respondenii nu doresc s-i aminteasc de situaii neplcute
6. ASPECTE LEGATE DE SENSIBILITATE/BIAS
a) SENSIBILITATE: ntrebri cu subiect sensibil care pot primi un rspuns n
funcie de poziionarea n chestionar
b) RSPUNS DEZIRABIL: respondenii ofer rspunsuri dezirabile din punct de
vedere social
7. PROBLEME LEGATE DE CATEGORIILE DE RSPUNS: evaluarea
acurateei categoriilor de rspuns
a) NTREBRI CU RSPUNS LIBER: pot fi dificile sau neadecvate, nepotrivite
b) NEPOTRIVIRE ntre ntrebare i categoriile de rspuns
c) TERMENI TEHNICI nedefinii, neclari sau compleci
d) Categorii de rspuns VAGI
e) Categorii de rspuns care se SUPRAPUN
f) categorii de rspuns care LIPSESC
g) ORDINE ILOGIC a categoriilor de rspuns
Salant i Dillman (1994) afirm faptul c orice pretestare a unui chestionar trebuie s
rspund la urmtoarele ntrebri:
-
Dillman (2000) atrage atenia, aa cum i ali metodologi au fcut-o, asupra faptului c, de
multe ori, etapa de pretestare a chestionarului este realizat ntr-un mod haotic. Acelai autor
consider c pretestarea unui chestionar ndeplinete mai multe roluri care sunt atinse n 4
etape:
-
etapa 1: chestionarul este revizuit de ctre colegi de breasl i ali metodologi; aceast
etap este folosit pentru a mbunti chestionarul bazndu-ne pe experiena i
cunoaterea altor cercettori;
etapa 3: un mic studiu pilot n cadrul cruia sunt clarificate ntrebri din chestionar la
care nu s-a putut rspunde n cadrul primelor 2 etape;
MODELUL TRADIIONAL
1.2.1.Fiabilitate i validitate
Pe lng gradul de acceptabilitate a chestionarului din partea subiecilor inclui n anchet, n
procesul de pretestare, cercettorii urmresc s identifice fiabilitatea i validitatea ntrebrilor
din chestionar. Pentru a fi fiabil, o ntrebare din componena chestionarului trebuie s
primeasc rspuns n aceeai manier de fiecare dat cnd este adresat unui subiect.
Weisberg (1996) spune c cercettorii pot testa fiabilitatea unei ntrebri comparnd
rspunsurile pe care respondenii le dau pentru aceast ntrebare n cadrul a dou pretestri
realizate la momente diferite n timp.
n ceea ce privete validitatea ntrebrii, aceasta se refer la ct de bine msoar ntrebarea
formulat ceea ce cercettorul intenioneaz s msoare. Literatura de specialitate vorbete
9
10
operatorul conduce interviul cu fiecare respondent astfel nct s adune ct mai multe
informaii de la subiecii intervievai.
n adevratul sens al cuvntului, indiferent c este vorba despre o anchet desfurat prin
pot, telefon sau interviuri directe. Spre exemplu, dac avem de dus la capt o anchet care
este proiectat s culeag informaii de la respondeni prin intermediul potei, atunci este bine
ca i pretestarea chestionarului s se desfoare n aceeai manier, iar sugestiile
respondenilor cu privire la formularea ntrebrilor s fie cerute ulterior.
experimentai, ntruct rolul unui operator este unul complex. El trebuie nu numai s citeasc
fiecare ntrebare conform instruciunilor primite, dar i s nregistreze corect rspunsul primit.
Nu este uor pentru un operator s fie att intervievator ct i observator al eventualelor
probleme. Mai mult, exceptnd situaiile evidente sau flagrante, determinarea msurii n care
un respondent are dificulti n a rspunde la ntrebrile adresate este o sarcin care poate
cdea cu uurin prad subiectivitii operatorului. Dac cercettorul identific probleme n
procesul de culegere a datelor i ncearc s verifice msura n care operatorul a respectat sau
nu instruciunile primite, operatorul poate ncerca s acopere problemele legate de
responsabilitile lui invocnd alte probleme precum: erori de tipografie, instruciuni eronate,
ntrebri slab concepute, spaiu insuficient pentru nregistrarea rspunsurilor, etc.
Din aceste cauze i nu numai, unele sugestii oferite de ctre operatorii de teren pot fi complet
nepractice sau contrare cu metodologia de baz a cercetrii, motiv pentru care cercettorului i
revine rolul de a menine echilibrul. Pe de alt parte, lipsa sugestiilor i comentariilor asupra
ntrebrilor cuprinse n chestionar constituie un motiv de ngrijorare, ntruct lipsa
slbiciunilor unui chestionar semnaleaz mai degrab o problem intervenit n procesul de
pretestare dect un chestionar perfect.
Pe lng aceste aspecte, cercettorul trebuie s acorde o atenie sporit unei liste de aspecte
legate strict de sarcina operatorilor n procesul de culegere a datelor. Aceast list face referire
la urmtoarele aspecte:
a) Operatorii ntmpin dificulti n pronunarea cuvintelor sau n citirea anumitor
propoziii?
b) Operatorii omit cuvinte sau modific topica din interiorul ntrebrilor?
c) Operatorii citesc ntrebarea ntr-o manier neutr?
d) Operatorii respect saltul ntrebrilor din chestionar i instruciunile prezentate att n
coninutul chestionarului ct i n cadrul sesiunilor de instruire?
e) Operatorii noteaz complet rspunsurile primite?
f) Exist alte sarcini n realizarea crora operatorii ntmpin dificulti?
14
a gradului n care populaia din grupul int al cercetrii este sau nu uor de identificat. Dac,
spre exemplu, un cercettor i-ar dori s investigheze o populaie constituit din mame cu
vrsta cuprins ntre 20 i 30 de ani care apeleaz la serviciile bonelor pentru ngrijirea
copiilor lor, cercettorul respectiv trebuie s in cont de faptul c n Romnia nu se
colecteaz date referitoare la acest aspect la nivelul administraiei publice i, prin urmare,
potenialii subieci ai anchetei vor fi ceva mai greu de identificat, fiind necesar a se apela la
tehnici speciale de eantionare, precum tehnica bulgrelui de zpad.
Prin urmare, principalele ntrebri la care un cercettor trebuie s gseasc rspunsuri
favorabile n procesul de pretestare cu privire la eantionare, sunt urmtoarele:
Care este rata de rspuns? Rata de rspuns indic poteniale probleme?
Ratele de eligibilitate sunt cele previzionate? Valoarea ratelor indic probleme
neanticipate?
Exist liste de eantionare?
Sunt trecute toate unitile n listele de eantionare?
Exist semnale c ar putea aprea probleme legate de acurateea i integralitatea bazei
de eantionare?
Potenialii respondeni sunt dispui s participe la anchet?
16
17
18
au fost informai c particip la realizarea unei anchete de teren al crei scop este s evalueze
eficacitatea politicilor familiale din Romnia.
Rspunsurile nregistrate n cadrul celor 15 chestionare au fost introduse n format electronic
(.sav), ocazie cu care a fost construit capul bazei de date care va fi utilizat i la momentul
realizrii anchetei. Totodat, introducerea chestionarelor n baza de date ne-a ajutat s
identificm eventualele dificulti legate de codificarea ntrebrilor din chestionar i s
urmrim nivelul de variaie a rspunsurilor pentru fiecare ntrebare n parte.
Introducerea datelor culese din teren a fost efectuat prin intermediul pachetului specializat
S.P.S.S. (Statistical Package for the Social Science) versiunea 15.0, aplicnd un sistem de
codificare a ntrebrilor i rspunsurilor din anchet. Baza de date obinut n urma efecturii
sondajului se prezint pe suport electronic, sub forma unui fiier de date SPSS 15.0.
Discutarea chestionarului cu colegii de breasl i, ulterior, cu o parte dintre cei 15 subieci
care au participat la completarea chestionarului au constituit tehnici calitative (componenta
informal, participativ) de pretestare a chestionarului. n cadrul acestor etape echipa de
cercettori s-a implicat n mod direct, purtnd discuii cu colegii de breasl pe marginea
chestionarului i discutnd ntrebrile i rspunsurile din chestionar mpreun cu 10 din cei 15
subieci participani la completarea chestionarelor. Discuiile cu cei 10 subieci participani n
etapa formal de pretestare a chestionarului au fost purtate individual, telefonic, la
aproximativ 2 sptmni dup completarea chestionarelor de ctre operatorii de teren. Ne-am
dorit astfel ca subiecii s poat rspunde cu aproximaie n condiii conjuncturale similare
celor n care au rspuns operatorilor de teren (condiii economice, politice, etc.). Cu aceast
ocazie, cei 10 subieci au fost informai asupra faptului c au fost implicai n procesul de
pretestare a unui instrument de cercetare (prin completarea chestionarului prin intermediul
operatorilor de teren) i li s-a solicitat acordul de a discuta ntrebrile din chestionarul la care
au rspuns deja. Astfel, am reluat ntrebrile din chestionar i am urmrit msura n care
respondenii i menin sau nu rspunsurile date anterior (n momentul n care li s-a
administrat chestionarul de ctre operatorul de teren, fr a cunoate faptul c particip la un
proces de pretestare a chestionarului). Scopul acestei etape de pretestare a chestionarului a
fost acela de a testa validitatea i sigurana ntrebrilor. n cazul n care se ntmpl ca
respondenii s ofere la ntrebrile din chestionar rspunsuri diferite fa de rspunsurile pe
care le-au dat n momentul administrrii chestionarului de ctre operatorii de teren, atunci
nseamn c exist probleme legate de nelegerea ntrebrilor. De asemenea, pe parcursul
19
interviului, cercettorul poate observa faptul c opiniile reale ale respondentului difer
considerabil fa de opiniile exprimate prin rspunsurile date la ntrebrile din chestionar.
Acest fapt poate fi observat reformulnd ntrebrile din chestionar ntr-o manier diferit de
cea utilizat n chestionarul aplicat de ctre operatorul de teren. Concret, acest fenomen ne
semnaleaz faptul c ntrebrile nu sunt formulate suficient de clar astfel nct, o persoan
creia i se adreseaz n mod repetat ntrebrile respective, s decodeze acelai mesaj de fiecare
dat. Mai mult, acest fenomen ne semnaleaz faptul c ntrebrile nu msoar ceea ce ne-am
propus s msoare i prin urmare nu ne vom putea atinge obiectivele formulate n momentul
elaborrii metodologiei de cercetare. Aceast component a procesului de pretestare asigur
astfel fiabilitatea i validitatea chestionarului, dar i sigurana faptului c indiferent de cte
ori este repetat o ntrebare din chestionar, aceasta este decodat n aceeai manier de oricare
dintre participanii la ancheta de teren. Totodat, prin interviurile desfurate cu cei 10
participani am testat i acceptabilitatea chestionarului. Cu alte cuvinte am observat msura n
care respondenilor le-a fcut plcere s participe la completarea chestionarului i interesul
manifestat fa de tematica abordat n cadrul cercetrii.
Prin urmare, discuiile individuale cu cei 10 subieci au condus la identificarea unor probleme
de nelegere a sensului ntrebrilor formulate n chestionar. De asemenea, colegii de breasl
au sugerat schimbarea topicii unora dintre ntrebri, astfel nct s ne asigurm c rspunsurile
primite din partea participanilor la anchet nu vor fi influenate de coninutul unor ntrebri
anterioare.
Concluzii
Pretestarea reprezint una dintre componentele unui proces de cercetare care nu ar trebui
omis. n lipsa pretestrii instrumentului de cercetare, chiar i cei mai experimentai
cercettori pot ajunge s administreze anchete incerte, care ridic ulterior multe semne de
ntrebare n legtur cu rezultatele obinute. Pe lng gradul de acceptabilitate a chestionarului
din partea subiecilor inclui n anchet, n procesul de pretestare, cercettorii urmresc s
identifice fiabilitatea i validitatea ntrebrilor din chestionar.
21
de pretestare,
sunt
comportamentale. Tehnicile cognitive presupun realizarea unui studiu pilot n cadrul cruia
respondenii tiu c particip la testarea unui chestionar i li se solicit acestora s fac orice
comentariu doresc fa de oricare dintre ntrebrile din chestionar. Tehnicile comportamentale
presupun realizarea de interviuri structurate, ocazie cu care este studiat atent comportamentul
de rspuns al participanilor la interviu.
n linii mari, pretestarea unui chestionar se refer la faptul c, dup elaborarea chestionarului
ntr-o prim form, acesta este aplicat unui lot de subieci selectat din populaia care
reprezint universul cercetrii. Rezultatele culese n urma pretestrii chestionarului sunt
ulterior analizate. Analiza rezultatelor acestei aplicri poate aduce mai multe contribuii
valoroase la producerea, n final, a unui chestionar ct mai bun.
Aceasta nseamn c este necesar examinarea fiecrei ntrebri n parte, ca i chestionarul n
ntregul su, cu foarte mare atenie. Din acest motiv, este bine s ne rezervm suficient timp
pentru aceast activitate, astfel nct s nu ne grbim n momentul n care facem mbuntiri
asupra ntrebrilor din chestionar.
Faza IV de execuie a avut ca rezultate concrete elaborarea metodologiei de pretestare a
chestionarului construit n cadrul etapei III, chestionar care reprezint instrumentul de
cercetare n cadrul metodologiei de evaluare cantitativ a eficacitii politicii familiale din
Romnia. Aceast etap a fost n integralitate responsabilitatea echipei de cercettori
aparinnd Coordonatorului (INCSMPS) i poart titlul Pretestarea metodologiei de evaluare
cantitativa a eficacitii politicii familiale din Romnia.
S-a decis realizarea pretestrii instrumentului de cercetare cu 15 chestionare (din care 10 au
fost dublate de discutarea ntrebrilor i rspunsurilor cu intervievaii) pentru mbuntirea
chestionarului. Pentru a asigura un anumit grad de neutralitate n procesul de pretestare,
echipa de cercettori a decis subcontractarea completrii chestionarelor la subieci. n pasul
urmtor, echipa de cercettori s-a implicat personal n procesul de pretestare informal a
chestionarului. Pretestarea informal a fost realizat prin intermediu unor discuii informale i
detaliate a ntrebrilor din chestionar cu o parte dintre subiecii care au rspuns n mod
tradiional la ntrebrilor din chestionar, prin tehnica fa n fa, n prima etap a procesului
22
de pretestare. Subiecii care au fost inclui n procesul de pretestare au fost alei din grupul
int al metodologiei de evaluare cantitativ a eficacitii politicii familiale din Romnia,
stabilit n cadrul etapei III. Grupul int al anchetei este reprezentat de membrii familiilor cu
copii cu vrste ntre 0 i 18 ani (mama/tat/susintor legal). Persoanele intervievate n cadrul
activitii de pretestare au rezidena n Bucureti, Craiova i Oradea. n urma procesului de
pretestare au fost semnalate unele probleme de coninut, unele aspecte privind structura logica
a chestionarului (salturi n chestionar) dar i unele probleme legate de codificare. Toate aceste
probleme au fost corectate n acord cu obiectivele de cercetare.
Rezultatele pretestrii instrumentului de cercetare chestionarului (chestionarul n form
finit, capul de baz de date n format sav.) au fost valorificate n forma produsului finit al
acestei faze, respectiv n forma raportului de faz ce fundamenteaz pretestarea metodologiei
de evaluare cantitativ a eficacitii politicii familiale din Romnia.
Rezultatele celei de-a patra faze de execuie urmeaz a fi publicate n detaliu pe pagina web a
proiectului (www.meipf.ro).
Bibliografie:
Bassili J.N. (1996). The how and why of response latency measurement in telephone
surveys. n Schwarz, N. i Sudman, S. Answering Questions: Methodology for
Determining Cognitive and Communicative Processes in Survey Research. San
Francisco: Editura Jossey-Bass Publishers
Bolton R.N. (1991). An exploratory investigation of questionnaire pretesting with
verbal protocol analysis. Advances in Consumer Research.
Converse J.M. i Presser S. (1986). Survey Questions: Handcrafting the Standardized
Questionnaire. California: Editura Sage.
Czaja R. i Blair J. (1996). Designing Surveys: A guide to Decisions and Procedures.
California: Editura Pine Forge
DeMaio T.J. & Rothgeb J.M. (1996). Cognitive interviewing techniques: in the lab and
in the field. In Schwarz, N. i Sudman, S. Answering Questions: Methodology for
23
Taylor C. (2000). Clinical problem solving in nursing: insights from the literature,
Journal of Advanced Nursing, Vol. 31, pag. 842-849
Tourangeau R. (1984). Cognitive science and survey methods n T. Jabine, M. Straf, J.
Tanur i R. Tourangeau, Cognitive Aspects of Survey Methodology: Building a
Bridge Between Disciplines, Washington, Editura National Academic Press, pag. 73100
Thietart, R. (1999). Doing Management Research: A Comprehensive Guide, London:
Editura Sage
Willis G. B., Royston P. i Bercini D. (1991). The use of report methods in the
development and testing of survey questionnaires, Applied Cognitive Psychology,
Vol. 5, pag. 251-267
Fowler, F.J. i Mangione, T.W. (1990). Standard survey interviewing: Minimizing
interviewer-related error. Applied Social Research Methods Series: Vol. 18. Newbury
Park, Editura: Sage
Oksenberg L., Cannell C. i Kalton G. (1991). New strategies for pretesting survey
questions. J Off Stat 1991; 7(3): 349365
Czaja R., Blair J. (2005). Designing surveys: a guide to decisions and procedures.
Ediia a doua. Editura: Sage
Weisberg H., Krosnick J. i Bowen D. (1996).An introduction to survey research,
polling, and data analysis. Ediia a treia. Editura: Sage
26