Mirela Cerkez, 2012 Editura Institutul European, Ia!i
I.3.1. Primele forme de evaluare
Perioada de dinainte de anii 60 este caracterizat" n special de reducerea practicii evalu"rii la doar cteva domenii, cel pu#in n sectorul public. Dintre acestea, la fel cum se poate observa !i azi n Romnia, cel mai avansat a fost domeniul educa#ional. Din acest motiv, atunci cnd Stufflebeam !i Shinkfield (2007) sau Guba !i Lincoln (1989) vorbesc despre dezvoltarea evalu"rii n acea perioad", vorbesc n principal despre evaluarea n educa#ie. Prima perioad" identificat" de Stufflebeam !i Shinkfield (2007, pp. 32-33) este cea de pn" n 1930, perioada pre-Tyler, n care avem de a face n principal cu ncerc"ri de a standardiza anumite practici. Guba !i Lincoln (1989, pp. 22-26) identific" !i ei aceea!i prim" etap", numit" genera!ia m"sur"rii pentru c" evaluarea era confundat" cu m"surarea !i se presupunea c" evaluatorii cunosc diverse instrumente pentru a m"sura diverse lucruri sau au capacitatea de a crea astfel de instrumente pentru situa#iile pentru care nu exist" deja. A doua perioad" identificat" de Stufflebeam !i Shinkfield (2007, pp. 35-36, 160-161) este cuprins" ntre 1930 !i 1945 !i poart" numele de perioada tylerian", dup" Ralph Tyler care a definit evaluarea ca fiind procesul de determinare a m"surii n care au fost atinse obiectivele. Acest tip de evaluare implic" compara$ii interne ntre rezultate %i obiective %i se centreaz" pe m"surarea direct" a rezultatelor. ntre anii 1946 %i 1957 este identificat" cea de a treia perioad" n evolu$ia teoriei %i practicii evalu"rii numit" de Stufflebeam %i Shinkfield vrsta inocen#ei. Aceasta este caracterizat" de expansiune, lips" de responsabilitate social"; o etap" n care se inova foarte mult n procesul educa$ional f"r" a se face analize cu privire la efectele, costul %i rolul respectivelor inova$ii. Perioada a doua !i cea de a treia de la Stufflebeam !i Shinkfield coincid cu cea de a doua la Guba !i Lincoln (1989, pp. 27-28) care au numit aceast" etap" genera!ia descrierii. De!i men#iona#i mai pu#in dect Tyler, perioada aceasta a beneficiat foarte mult de pe urma contribu#iilor lui Lewin !i Lazarsfeld n domeniul psihologiei sociale, respectiv al sociologiei (Shadish et al., 1991, p. 21). Dup" ce am stabilit principalele repere temporale ale acestei perioade, voi prezenta succint n ce consta concret evaluarea n aceast" perioad". Conform lui Guba !i Lincoln (1991, p. 39), practica din aceast" perioad" se reducea la m"surarea gradului de atingere a obiectivelor. Acest lucru se f"cea prin identificarea anumitor variabile (care s" reflecte obiectivele) !i colectarea de informa#ie cu privire la scorurile pe care le nregistreaz" instrumentele care m"soar" respectivele variabile. Concentrarea pe obiective este o abordare a evalu"rilor bazate pe metode care, conform lui Stufflebeam %i Shinkfield (2007, p. 8), pun egal ntre evaluare %i metodologie. De aici !i dezbaterile ulterioare pentru includerea sau nu a acestei perioade n istoria evalu"rii. Dup" cum men#ionam anterior, !i voi detalia la finalul acestui paragraf, sunt autori care consider" c" practicile din aceast" perioad" nu au suficiente elemente distincte pentru a le separa de demersurile specifice altor domenii din !tiin#ele sociale. Dat" fiind centrarea pe obiective, aceast" metod" de evaluare este n special aplicabil" proiectelor mici, care au obiective clare %i realizabile, iar rezultatele acestor evalu"ri prezint" interes n special pentru finan$atori, dezvoltatori de programe %i manageri. Obiectivele n func$ie de care se face evaluarea pot fi stabilite de client, de evaluatori sau pot fi extrase din con$inutul programului (Stufflebeam %i Shinkfield, 2007, pp. 160-161). Acest tip de evaluare a fost abandonat treptat 1 din cauza numeroaselor critici care decurg din sinonimia ntre evaluare %i m"surarea atingerii obiectivelor specific" acestei perioade. Una dintre criticile acestui tip de demers este c" o astfel de evaluare ignor" efectele neinten$ionate, fie ele pozitive sau negative. Acest lucru se ntmpl" din cauza faptului c" singurele variabile c"rora li se acord" aten$ie n cercetare sunt obiectivele. Astfel, cercetarea pune doar ntreb"ri care reflect" atingerea obiectivelor %i ignor" orice alte efecte ale interven$iei respective. Exist" mai multe motive pentru care ntr-o evaluare ar trebui s" fim preocupa$i %i de efectele neinten$ionate ale evaluandului. De exemplu, dac" efectele neinten$ionate sunt negative %i reprezint" costuri mai mari dect beneficiile aduse de efectele inten$ionate, atunci programul nu merit" s" fie continuat sau reprodus. n cazul n care efectele neinten$ionate reprezint"
1 Ca paradigm" dominant", dar dup" cum sugereaz" fragmentul de mai sus, acest tip de evaluare !i are n continuare utilitatea lui, cu condi#ia s" recunoa!tem situa#iile care reclam" o astfel de practic". beneficii foarte mari, atunci este foarte util s" cunoa%tem acest lucru pentru a dezvolta aplica$ii viitoare ale solu$iei respective. De asemenea, acestea pot face ca programul s" merite costurile, chiar dac" nu au fost atinse obiectivele stabilite ini#ial (Stufflebeam !i Shinkfield, 2007, p. 8; Vedung, 2005, pp. 43, 45-46). O a doua critic" const" n faptul c", n cazul n care obiectivele n func$ie de care se face evaluarea sunt stabilite de client sau extrase din con$inutul programului, atunci evaluarea risc" s" crediteze obiective nemerituoase. Cu alte cuvinte, evaluatorii preiau necritic obiectivele respective, nu fac o analiz" cu privire la gradul de dezirabilitate al acestora. Chestionarea obiectivelor este important" pentru c" ndeplinirea unor obiective indezirabile nu poate fi benefic" pentru societate %i, implicit, trebuie s" renun$"m la programul respectiv. Astfel, evaluatorii din aceast" perioad" puneau semnul egal ntre un program care %i-a atins obiectivele %i un program bun, fapt care nu este adev"rat atta timp ct obiectivele nu sunt dezirabile. n cazul n care obiectivele nu se preluau nici de la client, nici din program, se apela la varianta n care evaluatorii erau cei care stabileau obiectivele n func$ie de care era evaluat programul. Aceast" practic" este ns" cel pu$in nedemocratic" ntruct reprezint" impunerea unilateral" a viziunii unei singure persoane (sau a unei mici echipe) asupra unui evaluand de importan$" public". De asemenea, preluarea necritic" de c"tre evaluatori a obiectivelor programului nu #ine cont de rolul agendelor ascunse cum ar fi c!tigarea alegerilor, nt"rirea coeziunii de partid sau men#inerea coali#iilor de guvernare (Stufflebeam !i Shinkfield, 2007, p. 8; Vedung, 2005, p. 47). A treia obiec$ie cu privire la acest tip de evaluare este legat" de utilitate. Astfel, informa$ia produs" de aceste evalu"ri nu poate fi folosit" la mbun"t"$irea programului pentru c" este disponibil" dup" ncheierea acestuia (Stufflebeam !i Shinkfield, 2007, p. 8). n al patrulea rnd, constatarea ndeplinirii sau nu a obiectivelor nu este suficient" pentru a ne pronun$a cu privire la eficien$a programului respectiv. Astfel, n cazul n care se contat" ndeplinirea obiectivelor, trebuie s" fim n continuare interesa$i de analiza tuturor componentelor programului din cel pu$in dou" motive. Unul ar fi acela c" este posibil s" descoperim c" am fi putut ob$ine rezultate %i mai bune, sau mai pu$in costisitoare, dac" am fi adus mici mbun"t"$iri programului. Un al doilea motiv este c", pentru a putea folosi pe viitor experien$a unui program de succes, trebuie s" investig"m %i alte componente dect obiectivele ntruct acestea nu ne ajut" s" n$elegem cum %i de ce a func$ionat programul. n cazul n care se constat" c" obiectivele nu au fost atinse, trebuie de asemenea s" cunoa%tem programul n detaliu pentru c" este posibil ca acesta s" fi fost gndit corect, dar efectele lui s" fie influen$ate fie de factori externi 2 , fie de nefunc$ionarea anumitor componente. 3 Cu alte cuvinte, n urma unei astfel de evalu"ri, programul r"mne o necunoscut" (Stufflebeam !i Shinkfield, 2007, p. 8; Vedung, 2005, p. 47). n al cincilea rnd, problema cu acest tip de evalu"ri este c" nu permiteau compararea programelor 4 , acestea nefiind m"surate dup" criterii similare (Madaus !i Stufflebeam, 2002). Un alt set de critici vine de la Chen (2005, p. 9) care consider" c" evaluarea bazat" pe metode este limitat" din mai multe puncte de vedere printre care din cauza faptului c" nu poate opera cu mai multe tipuri de validitate n acela%i timp. Abord"rile evalu"rii care nu folosesc teoria tind s" devin" evalu"ri ale rela$iei dintre input %i rezultate, iar politica evaluat" r"mne ca o cutie neagr" despre care nu %tim nimic (Lipsey; Bickman; Chen %i Rossi apud Chen, 1990, p. 18). Necunoscnd procesul de transformare a input-urilor n rezultate, nu putem identifica mecanismele cauzale care mpiedic" sau favorizeaz" ob$inerea rezultatelor dorite %i, prin urmare, nu putem mbun"t"$i programul respectiv. Mecanismele cauzale nu sunt singurele elemente care r"mn nedeslu%ite n cazul unor astfel de evalu"ri, ci sunt ignorate elemente care $in de contextul organiza$ional %i politic, de rela$ia dintre interven$ia planificat" %i forma pe care a luat-o aceasta prin implementare, dintre obiectivele oficiale %i cele operative %i, de asemenea, nu reu%e%te s" identifice efectele neinten$ionate. Prima genera#ie de evaluare, pe care o voi prezenta n continuare, a n#eles criticile concentr"rii procesului de evaluare exclusiv pe obiective !i a extins aria evalu"rilor raportat la componentele unui program, dar a p"strat accentul pus pe metode. 5
I.3.2. Prima genera#ie de evaluare
2 Contextul, dup" cum voi ar"ta n capitolul III, poate inhiba sau, din contr", stimula producerea de efecte de c"tre evaluand. 3 De exemplu, un program foarte bine pus la punct (din punctul de vedere al logicii interven$iei) poate s" nu-%i ating" obiectivele din cauz" c" a fost implementat defectuos, pentru c" grupul $int", din varii motive externe programului, nu a mai fost receptiv la interven$ia respectiv", etc. 4 Reamintesc c" n aceast" perioad" programele evaluate erau n special cele educa#ionale, acestea din urm" necunoscnd nc" practica standardelor na#ionale. 5 Vezi discu#ia cu privire la schimbarea de paradigm" n teoria evalu"rii de la finalul scurtei introduceri n paragraful I.3. Ca urmare a criticilor men#ionate anterior, s-a dezvoltat treptat o alt" abordare, ai c"rei reprezentan$i sunt Scriven 6 %i Campbell, care era preocupat" de rezolvarea problemelor sociale %i de rigoarea %tiin$ific", n special de cunoa%terea valid" cu privire la rela$iile de cauzalitate specifice programelor sociale ale guvernului SUA de la acea dat" (Shadish et al., 1991, p. 69; Radaelli !i Dente, 1996, p. 52). Revenind la explica#iile mele anterioare legate de modul n care se schimb" paradigma teoriei evalu"rii !i simplificnd foarte mult, n cazul acestei treceri de la o etap" de evaluare la alta, se p"streaz" aceea!i paradigm" n privin#a componentei de cunoa!tere a teoriei evalu"rii !i se modific" paradigma n privin#a componentei practice !i valorice. 7 Cu alte cuvinte, sunt n continuare reali!ti, dar au extins cercetarea !i asupra altor componente ale programului, iar prin preten#ia lor de a identifica programul cu cele mai bune efecte pentru societate, nu doar de a investiga n ce m"sur" au fost ndeplinite scopurile propuse, este redefinit" !i componenta de valorizare. Evaluarea programelor sociale a nflorit n anii 60 n SUA ca urmare a demar"rii unor programe sociale extinse ini$iate sub pre%edin$ia lui Kennedy %i continuate de c"tre Johnson %i Nixon. Erau programe n educa$ie, asigurarea venitului minim, s"n"tate, locuin$e, criminalitate. Pe m"sur" ce sumele alocate unor astfel de programe cre%teau, cre%tea %i preocuparea (n principal a Congresului) pentru controlul asupra acestor sume %i asupra rezultatelor produse de cheltuirea acestor sume. Presiunea pentru evaluare a crescut %i ca urmare a unor acuza$ii de corup$ie %i fraud", dar %i ca urmare a unor factori politici (Vedung, 2005, p. 26; Bovens et al., 2006, p. 324). Aspectul politic viza n principal corelarea dintre politicile statelor %i inten$iile guvernului federal (Shadish et al., 1991, p. 22). Au existat %i preocup"ri intelectuale care au dus la cre%terea cererii de evaluare ntruct mul$i %i-au dat repede seama c" unele dintre aceste programe au probleme. Ei doreau s" %tie care este procesul de rezolvare a problemelor sociale din spatele acestor programe pentru a critica vechile presupozi$ii %i formula altele noi. Dar sectorul public nu avea mecanisme s" r"spund" unor astfel de solicit"ri. n sectorul privat, colectarea %i
6 Avnd n vedere c" Scriven mai scrie !i azi !i c" !i-a rafinat teoria destul de mult, el cu greu mai poate fi inclus n aceast" genera#ie de evaluare. Dup" p"rerea mea, este un autor mult prea sofisticat pentru a fi prezentat ca f"cnd parte din cea mai nesofisticat" genera#ie de evaluare. Mai corect ar fi s" afirm"m c" Scriven, cel din anii 60 concepea evaluarea n trendul de atunci, dar c" abordarea sa s-a modificat cu timpul !i chiar a indus modific"ri n modul n care speciali!tii concepeau evaluarea. 7 Vom vedea apoi cum genera#ia urm"toare se define!te n principal (c"ci mai sunt !i alte diferen#e) prin schimbarea de paradigm" n privin#a componentei de utilizare, iar genera#ia a patra n privin#a componentei de cunoa!tere. analizarea unor astfel de date erau opera$iuni frecvente, motiv pentru care personalul din sectorul privat a fost cel care a intrat n sectorul public pentru a desf"%ura astfel de sarcini. Preg"tirea acestora nu era ns" adecvat" programelor sociale (Shadish et al., 1991, pp. 23-24). Wittrock %i Lindstrm (apud Vedung, 2005, p. 27) afirm" de asemenea c" n SUA ra$ionalismul radical a pornit, ntre altele, !i din sfera privat" !i cea intelectual". Autorii men#ioneaz" influen#a Rand Corporation 8 care s-a r"spndit prin ministerul ap"r"rii, condus la vremea aceea de Robert McNamara, c"tre unit"$ile de analiz" %i planificare din administra$ia federal" de la Washington. &i n Suedia ministerul ap"r"rii a avut un rol importat n r"spndirea acestui tip de management, dar cu timpul el s-a extins %i la alte domenii: trafic, mediu, energie, nv"$"mnt superior. Era, conform celor doi autori, era marilor programe care erau analizate exhaustiv nainte de implementare n termenii unor scopuri foarte clare %i se f"cea colectare sistematizat" de date cu privire la probleme. Dup" ce am v"zut care au fost condi#iile care au generat aceast" genera#ie de evaluare, n continuare voi face o caracterizare general" a acesteia pentru ca, mai apoi, s" prezint n detaliu cteva abord"ri specifice acestei genera#ii, cu criticile de rigoare la final. Cunoscut" sub diverse denumiri (vrsta inocen!ei Radaelli !i Dente, 1996, p. 52; vrsta realismului Stufflebeam !i Shinkfield, 2007, p. 37; evaluare pozitivist", ra!ional-analitic" !i tehnocrat" Vedung, 2005, p. 26), evaluarea specific" acestei perioade avea un design prestabilit, iar comunicarea dintre evaluatori !i client era una formal" !i rar", eventual la nceputul !i la finalul procesului de evaluare (Stufflebeam !i Shinkfield, 2007, p. 416). Conform lui Wittrock %i Lindstrm (apud Vedung, 2005, p. 26), n aceast" perioad" domina opinia conform c"reia cei care elaboreaz" %i administreaz" politici publice trebuie s" aplice ntregul spectru de metode %tiin$ifice pentru ca politicile publice bine gndite, cu viziune pe termen lung %i adecvate care vor rezulta din utilizarea acestor metode s" influen$eze, sau chiar s" nlocuiasc", jocurile nguste dintre partide %i grupurile de interese. Cu alte cuvinte, plecnd de la premisa c" scopul unei evalu"ri este acela de a identifica adev"rul, pozitivi%tii ra#ionali!ti considerau c" evaluarea are func$ia instrumental" de a identifica cea mai bun" solu$ie de rezolvare a unei probleme, nlocuind astfel decizia politic". Ra$ionali%tii radicali sus$ineau c"
8 Think tank. deciziile ar trebui luate doar dup" ce s-a r"spuns unei serii de ntreb"ri: ce scopuri ncearc" deciden$ii s" ating" %i ce problem" necesit" solu$ionare; ce alternative ar putea s" duc" la ndeplinirea respectivelor scopuri; care sunt consecin$ele diferitelor op$iuni %i probabilitatea ca acele consecin$e s" apar"; care ar fi costurile %i necesarul de resurse pentru fiecare op$iune; cum pot fi aranjate op$iunile n func$ie de costuri %i consecin$e %i ce criteriu de merit ar trebui folosit pentru alegerea unei op$iuni (Vedung, 2005, p. 26; Van Der Knaap, 2004, p. 27). Aceast" genera$ie de evaluare utiliza n principal designul experimental. Principalele contribu$ii la dezvoltarea experimentului social apar$in, n afara celor deja men$iona$i, lui Lindquist, Suchman, Stanley, Cronbach, Snow, Boruch, %i Nave (Stufflebeam %i Shinkfield, 2007, p. 174; Radaelli !i Dente, 1996, p. 53). Prin preocuparea lor de a selecta cele mai bune solu$ii pentru societate, care implic" ntr-o oarecare m"sur" analiza, %i prin aten$ia acordat" rela$iilor de cauzalitate, care implic" o investigare n interiorul programului, %i nu doar a finalului acestuia ca n etapa anterioar", aceast" genera$ie de evaluare reprezint" un pas nainte c"tre stabilirea evalu"rii ca disciplin" distinct". Dup" cum men$ionam anterior, Scriven (2002) %i Campbell (apud Shadish et al., 1991, pp. 472-473) sunt figurile cele mai proeminente ale acestei genera$ii, cei doi avnd multe puncte n comun. Pentru ambii primeaz" interesul public, motiv pentru care nu acord" aten$ie intereselor celor direct implica$i n finan#area, formularea !i implementarea politicilor publice, ci beneficiarilor politicilor. De asemenea, ei nu sunt interesa$i s" afle cum %i de ce func$ioneaz" anumite solu$ii, ci doar care func$ioneaz". Astfel, ei prefer" s" investigheze mai multe solu$ii ale aceleia%i probleme pentru a cre%te %ansele de a o identifica pe cea mai bun"; dup" care, sistemul politic %i cel economic determin" modul n care este folosit" solu$ia respectiv". Att pentru Scriven ct !i pentru Campbell, evaluatorii sunt oameni de %tiin$" impar$iali care vin din afara evaluandului. Campbell (apud Radaelli %i Dente, 1996, p. 54) a recomandat evaluatorilor s" nu fie prea activi n promovarea utiliz"rii rezultatelor evalu"rii pentru c" risc" s" pun" n pericol credibilitatea acestora %i poate astfel descuraja folosirea acestora sau ncuraja folosirea p"rtinitoare a acestora. Insistnd foarte mult pe ideea utiliz"rii, !i mai ales pe utilizarea ntr-un anumit mod !i ntr-un anumit moment a unui anumit rezultat, evaluatorii pot fi b"nui#i c" au un anumit interes. De asemenea, Scriven %i Campbell au o strategie comun" de cercetare, respectiv consider" c" determinarea rezultatelor necesit" o ipotez" ini$ial" cu privire la impactul variabilei independente (politica public") asupra celei dependente (schimb"rile intervenite n privin$a acelor elemente asupra c"rora s-a aplicat politica) (apud Radaelli %i Dente, 1996, pp. 53-54). 9
De%i Scriven %i Campbell au multe elemente n comun, cei doi autori nu trebuie ns" confunda$i ntruct ei au abord"ri specifice. Campbell nu simte nevoia s" fac" o diferen$iere ntre evaluare %i aplicarea metodologiei din %tiin$ele sociale. Prin urmare, principala preocupare a scrierilor lui Campbell este perfec$ionarea instrumentelor de investigare social" (n special a experimentului social) astfel nct rezultatele acestora s" nu mai fie denaturate de faptul c", n sfera socialului, exist" numero%i factori care nu pot fi controla$i (apud Shadish et al., 1991, pp. 120-150).
Campbell se opune evalu"rii n urm"toarele situa$ii: a) ceva este nesemnificativ sau oficialii l-au aprobat doar pentru a spune c" se adreseaz" unei probleme; b) are componente care nu pot fi transferabile; c) este n curs de implementare %i produce erori evidente; d) implic" evaluarea explicit" a unor oficiali (apud Shadish et al., 1991, p. 147) 10 . Preocuparea principal" a lui Scriven este una diferit" de cea a lui Campbell; dac" cel din urm" era preocupat de perfec$ionarea metodelor, primul a fost preocupat cu prec"dere de interesele consumatorilor, de idealurile societale, de bun"starea umanit"$ii %i a planetei (apud Stufflebeam %i Shinkfield, 2007, pp. 367-370), motiv pentru care define!te evaluarea ca fiind procesul prin care se determin" meritul, dezirabilitatea !i valoarea lucrurilor (Scriven, 2002). Critic al evalu"rii bazate pe obiective, Scriven n$elegea s" promoveze interesele %i idealurile men$ionate anterior printr-un model de evaluare care permite emiterea unor judec"$i de valoare bine fundamentate, pornind de la nevoile consumatorilor, cu privire la rezultatele unui program. Abordarea lui Scriven necesit" identificarea %i ierarhizarea op$iunilor cu privire la programele %i produsele care sunt disponibile pentru consumatori (Stufflebeam !i Shinkfield, 2007, pp. 369-370). Astfel, Scriven !i orienteaz" studiile c"tre consumator numindu-!i abordarea ideologia consumerist" (2002) !i afirm" c" cel mai comun tip de evaluare implic" determinarea criteriilor de merit (de obicei pe baza unei estim"ri a nevoilor), a
9 n capitolul II voi argumenta de ce o astfel de precizare este important" unele abord"ri contraindic" pornirea evalu"rii de la astfel de ipoteze. 10 Wholey (2004, pp. 33-62), care face parte din a doua genera#ie de evaluare, se opune evalu"rii atunci cnd costurile sunt prea mari, cnd nu pot fi ob$inute rezultate la timp sau cnd nu exist" metode adecvate pentru a investiga anumite lucruri. standardelor de merit (de obicei ca rezultat al c"ut"rii unor termene de compara$ie adecvate) %i apoi determinarea performan$ei evaluandului pentru a le putea compara cu standardele identificate (apud Shadish et al., 1991, p. 83). Conform lui Scriven, de%i uneori termenul de compara$ie este evident, alteori este dificil s"-$i dai seama cu ce ar trebui comparat evaluandul respectiv. n acest caz, evaluatorii trebuie s" fie foarte creativi. n plus, importan$a compara$iei depinde de tipul de evaluare pe care l faci. De exemplu, dac" evaluarea este formativ", compara$ia nu mai este a%a de important". Pentru Scriven ns", compara$ia este important" ntruct el pune accent pe evaluarea sumativ" 11 (1994a, 1994b, 1996b, 1996a, 1998, 2002). Importan#a compara#iei n contextul evalu"rii sumative decurge din faptul c" dac", de exemplu, rezultatul unui program nregistreaz" o anumit" valoare numeric", aceasta nu este mare sau mic" la modul absolut, ci doar prin compara#ie cu valorile nregistrate de rezultatele altor programe sau cu propriile rezultate n alte momente n timp, dac" acestea exist". Dac" cineva ne-ar spune c" rata !omajului a ajuns la 3,5% ca urmare a unui program de reconversie profesional", acest procent nu ne-ar spune nimic dac" nu am !ti ce procent nregistra rata !omajului nainte sau ce rate de !omaj nregistreaz" alte #"ri. Stufflebeam !i Shinkfield (2007, p. 204) afirm" c" Scriven este cel care a folosit pentru prima dat" ace!ti termeni n articolul The Methodology of Evaluation (1967), ca de altfel !i mul#i al#i termeni care azi sunt deja uzuali precum: metaevaluare, evaluand, evaluare f"r" valori sau evaluare f"r" costuri (Shadish et al., 1991, p. 74). Nu to#i ace!ti termeni i apar#in ns" !i conceptual 12 , dar el le-a atribuit denumiri sugestive. Astfel, conform lui Shadish et al. (1991, p. 74), evaluarea care nu #ine cont de costuri i este atribuit" de fapt lui Stufflebeam. De asemenea, diferen#a dintre evaluarea formativ" !i cea sumativ" este de fapt teoretizat" de Cronbach, dar care nu a reu!it s" le atribuie o etichet" a!a de percutant" celor dou" categorii de scopuri pentru care se desf"!oar" un proces de evaluare. 13 De altfel, Scriven era foarte critic la adresa modului n care se opereaz" cu aceast" distinc$ie %i afirma c" s-a f"cut o confuzie ntre scopul evalu"rii %i rolul evalu"rii sus$innd c", indiferent de forma pe
11 Nu voi insista aici asupra distinc#iei formativ-sumativ ntruct este una de scop !i va fi abordat" n paragraful III.1., dar fac deocamdat" precizarea c" evaluarea formativ" poate fi n#eleas" ca o evaluare care urm"re!te s" mbun"t"#easc" programul, iar cea sumativ" ca o evaluare care ncearc" s" stabileasc" meritul programului n ansamblu, de!i discu#iile din jurul acestei distinc#ii sunt destul de complexe. 12 Sunt distinc#ii sesizate de al#i autori pe care el are meritul de a le fi atribuit o denumire sugestiv" reu!ind astfel s" u!ureze referirea la aceste distinc#ii !i s" creeze un limbaj de specialitate. 13 Voi reveni la acestea n capitolul III. care o mbrac", indiferent de rolul pe care l are (formativ sau sumativ), evaluarea %i p"streaz" acela%i scop stabilirea valorii evaluandului (Stufflebeam !i Shinkfield, 2007, p. 371). Scriven (2002) afirm" c" evaluarea poate fi la fel, indiferent ce evaluezi %i recomand" evaluarea produselor ca fiind cel mai satisf"c"tor model de evaluare. Shadish et al. (1991, pp. 106-107) nu sunt de acord cu aceast" opinie ntruct, afirm" ei, n evaluarea programelor nu este clar cine formeaz" audien$a, care le sunt interesele de evaluare, care sunt motivele pentru care ar fi sau nu de acord cu un program %i cum vor fi folosite rezultatele evalu"rii. Din contr", continu" ace%tia, n evaluarea produselor toate aceste lucruri sunt clare. n contexte diferite, unul %i acela%i program poate avea totu%i anumite diferen$e, n special n ceea ce prive%te rezultatele. Un produs, de exemplu un computer, este peste tot acela%i, indiferent de $ar". Mai mult, un produs poate fi pus cu mai mare u%urin$" n categorii de tipul bun/prost, dar un program este foarte posibil s" devin" foarte bun cu ajust"ri marginale. n realitate, modelul de evaluare propus de Scriven nu seam"n" foarte mult cu abordarea experimental" a anilor 60. El este plasat totu!i aici pentru pozi#ia pe care o are fa#" de Adev"r. Scriven considera c" evaluarea poate descoperi care este cel mai bun program. Pe lng" numeroasele nuan$e pe care scrierile autorilor din aceast" genera$ie le-au mbr"cat, dup" cum este %i cazul lui Scriven, evaluarea a nceput treptat s" treac" la o nou" interpretare ca urmare a numeroaselor critici aduse sensului pe care genera$ia anilor 60 l atribuia conceptului de evaluare. Dup" cum afirmam la finalul paragrafului I.3.1, aceast" genera#ie a n#eles neajunsurile evalu"rii centrat" pe obiective, specific" perioadei anterioare ei, !i a nceput s" evalueze !i alte componente ale programului dect rezultatele. ns" nu a renun#at la acea abordare centrat" pe metode 14 , abordare ndelung criticat" de reprezentan#ii celei de a treia genera#ii de evaluare, dar !i de cei din a doua !i total respins" de a patra genera#ie de evaluare.
14 Abordarea centrat" pe metode presupune suprapunerea termenului de model de evaluare cu cel de metodologie de evaluare. Concret, aceste abord"ri pleac" de la o idee predefinit" cu privire la ce !i cum trebuie investigat !i o aplic" indiferent de situa#ia de evaluare. Implica#iile unei astfel de abord"ri sunt foarte complexe. De exemplu, modelul de evaluare nu are prev"zute etape de colectare de date despre interesul pe care clientul evalu"rii l are raportat la evaluand, de stabilire a modului n care sunt livrate rapoartele de evaluare !i cnd, pentru c" toate acestea sunt predefinite. O alt" implica#ie a acestei abord"ri este definirea foarte strict" a termenului de evaluare !i a scopurilor pe care le poate ndeplini. Dup" cum se va vedea n paragrafele urm"toare, pe m"sur" ce metodologia nu se mai confund" cu modelul de evaluare, apar abord"ri care pot ndeplini scopuri diferite (pot stabili gradul de O critic" formulat" la adresa metodologiei folosite de evaluatorii acestei perioade #ine de utilizarea unui design prestabilit n procesul de evaluare. Cu alte cuvinte, evaluatorii sunt orbi la nevoile de evaluare ap"rute dup" nceperea procesului de evaluare !i implementeaz" cu precizie un model stabilit n laborator, nc" dinainte de a lua contact cu evaluandul 15 (Stake, 2002). De asemenea, aceast" genera$ie de evaluare a fost ndelung atacat" pentru preten$ia de a fi obiectiv", pentru credin$a n existen$a unui adev"r unic %i n posibilitatea de a-l identifica precum %i pentru metodele %i tehnicile aplicate n investigarea realit"$ii. Una dintre preten$iile care au p"rut printre cele mai nefondate, n lumina cunoa%terii acumulate ulterior cu privire la evaluare, a fost aceea de a nlocui decizia politic". Conform lui Lundquist (apud Vedung, 2005, p. 263), evaluarea nu poate nlocui decizia politic" %i nici nu este de dorit s" se ntmple a%a pentru c", atta timp ct nu putem identifica solu$ia perfect", trebuie s" alegem n func$ie de alte criterii - cum ar fi preferin$ele sau valorile alegere care ntr-o societate democratic" se poate face doar prin discu$ii, compromis %i consens. Un alt element care a dus la renun$area treptat" la aceast" abordare const" n presupozi$ia pozitivi%tilor conform c"reia tehnicile de evaluare vor furniza r"spunsuri clare cu privire la ce solu$ii func$ioneaz" mai bine, dar experimentele %i variantele acestora nu au reu%it s" furnizeze astfel de r"spunsuri. Experimentele erau ns" criticate !i pentru: imoralitatea desf"%ur"rii unui experiment n care subiec$ii sunt fiin$e umane; imoralitatea lipsirii unei categorii de cet"$eni de beneficiile programului evaluat doar pentru c" trebuie s" creezi un termen de compara$ie 16 ; informa$iile produse prin intermediul experimentului au o arie mult prea ngust" pentru a justifica cheltuielile sau pentru a putea trage concluzii cu privire la program ca ntreg (Stufflebeam %i Shinkfield, 2007, pp. 175). O alt" presupozi$ie era aceea conform c"reia, odat" identificate, noile solu$ii vor fi larg r"spndite, dar diseminarea %i adoptarea nu sunt procese simple, care s" urmeze automat dup" identificarea solu$iei (Shadish et al., 1991, p. 473). 17 Campbell
dezirabilitate al obiectivelor unui program, pot evalua un program pe parcursul implement"rii, dar !i la final, etc.) 15 Evaluarea prestabilit" este recomandat" atunci cnd se %tie exact ce se vrea a fi evaluat, nu atunci cnd solicitarea de evaluare se refer" la program n general f"r" trimitere la anumite obiective, ipoteze sau chestiuni (Stake, 2002, p. 357). 16 Exist", ns", !i cvasi-experimentele n care termenul de compara#ie nu mai este un grup care nu a beneficiat de interven#ie, ci este construit prin diverse tehnici. 17 Voi dezvolta n capitolul IV. %i Suchman 18 foloseau scopurile programului pentru a formula ipotezele cauzale care apoi erau testate prin experimente, strategie care utiliza o alt" presupozi$ie care ulterior a fost contestat" %i anume aceea c" programele sunt omogene %i au scopuri explicite care pot fi m"surate valid %i investigate prin intermendiul experimentelor care elimin" toate interpret"rile nefondate. Toate aceste presupozi$ii au fost contestate, n special pe baza tezelor lui Kuhn (1976) care considera c" toate observa#iile sunt ghidate de teorie, ceea ce nsemna c" nu exist" m"sur"tori obiective. O alt" tez" important" a lui Kuhn care a dus la modificarea presupozi#iilor de la care plecau modelele de evaluare este aceea conform c"reia !tiin#a se bazeaz" pe intui#ia uman" !i pe cunoa!terea anterioar", teoriile fiind preferate uneori din considerente sociale, mai degrab" dect din ra#iuni !tiin#ifice. Aceste critici care $in de domeniul filosofiei cunoa%terii au avut implica$ii foarte mari cu privire la evaluare. Astfel, evaluatorii au nceput s" n$eleag" nevoia de a extinde plaja de metode pe care o folosesc n munca lor. De exemplu, au nceput s" $in" cont de utilitatea determin"rii la fa$a locului a elementelor de investigat n ciuda practicii stabilite anterior de a le stabili modelul nainte de a lua contact cu evaluandul. O astfel de deschidere ne ajut" s" identific"m rezultatele neanticipate, fapt care i-a determinat pe unii s" aleag" metodele calitative n defavoarea celor cantitative. Oamenii de %tiin$" au demonstrat cum este impregnat" de teorie observa$ia %tiin$ific" prin alegerea constructelor, prin definirea acestora, prin eliminarea anumitor elemente din analiz" din cauz" c" nu au relevan$" teoretic", prin faptul c" m"sur"torile nu reu%esc s" includ" toate componentele, prin faptul c" anumitor elemente li se acord" o greutate mai mare dect altora %i astfel s-au construit noi sensuri ale conceptului de evaluare (Shadish et al., 1991, pp. 463-465). Acestea sunt ns" discu$ii care vor ajunge la o dezvoltare deplin" un pic mai tziu n evolu$ia conceptului de evaluare.
I.3.3. A doua genera#ie de evaluare
Aceast" perioad", ca de altfel toate de acum ncolo, este identificat" de Stufflebeam !i Shinkfield (2007, p. 41) ca fiind vrsta profesionalismului.
18 Suchman (1967, pp. 31-32) definea evaluarea ca fiind determinarea rezultatelor... ob#inute n urma unei activit"#i... create pentru a ndeplini un scop sau obiectiv valorizat. Conform lui Shadish et al. (1991, pp. 171-270), teoriile din genera#ia a doua (anii 70) pun accent pe pragmatism !i m"rirea gradului de utilizare a rezultatelor evalu"rii. Astfel, dac" n cazul genera$iilor anterioare accentul era pus pe evalu"rile sumative, aceast" genera#ie consider" c" evaluarea de tip formativ m"re!te !ansele utiliz"rii rezultatelor evalu"rii de c"tre cei care au solicitat evaluarea. Conform lui Shadish et al. (1991, pp. 172, 473-474), strategia de evaluare adoptat" de mul#i dintre autorii din aceast" genera$ie se bazeaz" pe identificarea unei explica$ii %i generalizarea acesteia asupra unor situa$ii asem"n"toare. Cei care adopt" aceast" strategie de evaluare consider" c" lumea este complex" din punct de vedere ontologic %i poate fi cel mai bine descris" prin instrumente statistice care pot ar"ta c" un anumit efect poate fi prezent n anumite condi$ii sau absent ori inversat n altele. n al doilea rnd, ace%tia nu cred n posibilitatea utiliz"rii imediate a rezultatelor evalu"rii, a%a cum credeau cei din genera$ia anterioar". De aici decurge %i o a treia deosebire ntre cele dou" genera$ii care const" n diferen$ierea obiectului de studiu, n definirea diferit" a ceea ce trebuie evaluat. Astfel, cu riscul de a produce mai pu$in" cunoa%tere cu privire la leg"turile de cauzalitate, autorii din a doua genera$ie l"rgesc aria de ntreb"ri %i studiaz" %i alte elemente ale programului cum ar fi implementarea, scopurile, costurile, teoria %i presupozi$iile care stau la baza acestuia, favoriznd astfel producerea de cunoa%tere care s" ne ajute s" stabilim validitatea extern" a politicii sau programului respectiv pentru c" singurul sens n care putem cerceta un program, conform unora dintre reprezentan#ii acestei genera$ii, nu este acela de a-l mbun"t"$i pe el, ci pe cele viitoare. Aceast" abordare a evalu"rii %i a rolului acesteia decurge dintr-o alt" pozi$ie teoretic" mai general" cu privire la politicile publice %i, mai ales, la modul n care se iau deciziile cu privire la acestea. De exemplu, Weiss (1999, pp. 478-479) consider" c" deciziile nu apar ntr-un anumit un moment astfel nct evaluarea s" poat" furniza informa$ii $intite, care s" informeze procesul decizional. Cu alte cuvinte, situa$ia de decizie este n continu" schimbare, nu o poz" fix" %i, prin urmare, evaluarea nu are cum s" se coreleze cu ceva n continu" mi%care. 19 Astfel, Weiss (1999, pp. 471-472) ajunge la concluzia c" rezultatele evalu"rii sunt de dorit n sine, nu pentru a servi la altceva %i au func$ia de a ne lumina. Modalitatea prin care ne lumineaz" evaluarea este promovarea de noi concepte %i idei, definiri alternative ale problemelor sociale %i de
19 Aceast" interpretare este nc" de actualitate. Vezi Hanberger, 2001, p. 46. noi generaliz"ri mp"rt"%ite de deciden$i. Cu alte cuvinte, evaluarea genereaz" o dezbatere public" mai informat". Astfel, Weiss schimb" sensul utiliz"rii cunoa%terii de la abordarea utiliz"rii imediate, instrumentale la infiltrarea difuz" a ideilor n modul n care n$eleg lumea cei care elaboreaz" politici. Rolul atribuit de Weiss evaluatorilor este de reformi!ti care, implicit, intr" n conflict cu abordarea mai prudent" a deciden$ilor. n condi$iile n care deciden$ii sunt reticen$i la inov"rile aduse de evaluare, acestea din urm" reu%esc s" p"trund" n procesul decizional doar dac" sunt mbr"$i%ate %i de al$i actori dect cei implica$i direct n formularea politicilor publice. n acel moment se creaz" o mas" critic" de sus$inere a respectivelor idei care duce la sc"derea reticen$ei deciden$ilor %i adoptarea noilor idei produse de evaluare. Astfel, rolul evaluatorilor se bazeaz" mai mult pe influen$" %i persuasiune, nu mai sunt un fel autoritate epistemic", a%a cum erau n etapa anterioar" (Weiss, 1999, pp. 468- 476). Evaluarea orientat" spre utilizare dezvoltat" de Patton (1997, 2002) vizeaz" construirea design-ului de evaluare astfel nct rezultatele evalu"rii s" aib" impact, adic" s" influen$eze deciziile %i ac$iunile %i s" mbun"t"$easc" programele. Bazele pentru interpretarea rezultatelor evalu"rii o constituie valorile celor care utilizeaz" evaluarea %i care sunt implica$i activ n interpretarea rezultatelor, iar evaluatorii trebuie s" contribuie la clarificarea acestor valori pentru a se asigura c" informa$ia %i interpret"rile furnizate de evaluare sunt folositoare raportat la scopurile celor care au solicitat-o. Teoreticienii evalu"rii care pun accent pe utilizare sunt ntr-o oarecare m"sur" confunda$i cu cei care pun accent pe decizie pentru c" rezultatele acestor evalu"ri sunt relevante pentru problemele decizionale, dar n realitate acestea reprezint" mai mult. Patton, de exemplu, consider" c" evaluarea trebuie s" fie folositoare celor care au un interes direct n programul respectiv (grupul utilizatorilor primari ai evalu"rii 20 ), ori aceast" precizare extinde categoria beneficiarilor evalu"rii dincolo de grupul deciden$ilor. Din punctul de vedere al metodologiei, abordarea lui Patton este ncadrat" de Stufflebeam %i Shinkfield (2007, pp. 229-238) n categoria evalu"rilor eclectice. Aceste evalu"ri sunt caracterizate de faptul c" nu exist" o op$iune ferm" pentru o anumit" filosofie, abordare metodologic" sau misiune social", ci combin" diverse tipuri de evalu"ri n func$ie de context. Aceast" contextualizare a modelului de evaluare nu este ns" identic" demersului de fa#". Dup" cum detaliam n
20 n englez", primary users. paragraful I.2., eu consider c" op#iunile teoretice se stabilesc ntr-un anumit context, ceea ce nu echivaleaz" cu a combina diverse tipuri de evalu"ri. Dup" cum afirmam anterior, Stake 21 este de asemenea unul dintre autorii emblematici ai acestei perioade. Acesta a fundamentat evaluarea adaptat" la nevoile clientului 22 pe defini$ia evalu"rii pe care el a atribuit-o lui Scriven: evaluarea este o valoare observat" comparat" cu un standard (Stake, 2002, p. 346). Aceast" abordare este o formalizare a evalu"rii informale, intuitive %i acord" o aten$ie special" efectelor secundare, fapt care face ca acest tip de evaluare s" aib" un design flexibil, adaptat permanent la situa$iile nou create (2002, 2006, 2010). De exemplu, dac" $i-ai propus s" investighezi un num"r de variabile %i identifici altele noi pentru c" te ui$i %i la alte efecte dect cele urm"rite oficial prin program, po$i descoperi c" trebuie s" faci ajust"ri ale design-ului evalu"rii care s"-$i permit" s" investighezi %i noile variabile. Stake (2002; apud Shadish et al., 1991, pp. 276-279) afirm" c", spre deosebire de evaluarea prestabilit", avantajele designului flexibil sunt urm"toarele: 1. Permite luarea n calcul de noi variabile, pe m"sur" ce acestea apar. n cazul evalu"rii prestabilite, evaluatorii elaboreaz" design-ul evalu"rii %i decid ce ia n calcul %i ce nu nc" dinainte s" ia contactul cu programul. n acest fel, risc" s" exclud" variabile foarte importante. 2. ncurajeaz" eforturile de schimbare ale celor implica$i. 3. Cre%terea controlului local. Evaluarea prestabilit" i ncurajeaz" pe cei implica$i n program s" renun$e la control n favoarea exper$ilor (a evaluatorilor) care le vor rezolva problemele. Parte integrant" a preocup"rii lui Stake pentru clien#ii evalu"rii este !i preocuparea lui pentru cei care sunt afecta#i de efectele evaluandului. Astfel, conform lui Stake (apud Stufflebeam %i Shinkfield, 2007, p. 213), evaluatorii trebuie s" promoveze echitatea %i dreptatea, s"-i ajute pe cei lipsi$i de putere, s" semnaleze folosirea abuziv" a puterii, s"-i expun" pe cei care fac nedrept"$i, s" chestioneze ceea
21 Abordarea lui Stake este una constructivist", dar nu l-am inclus n cea de a patra genera#ie de evaluare ntruct principala lui preocupare au fost considerentele legate de utilizarea rezultatelor evalu"rii. n schimb, n capitolul II, unde voi aborda ideile care #in de ontologie !i epistemologie care fundamenteaz" teoriile evalu"rii, l voi include pe Stake n paragraful dedicat constructivismului ntruct, atunci cnd abord"m exclusiv partea de cunoa!tere din teoria evalu"rii nu poate fi ncadrat n alt" parte. n plus, al"turarea lui Stake abord"rii lui Guba !i Lincoln n paragraful II.1.3. este util" din punct de vedere comparativ pentru c" pune fa#" n fa#" dou" constructivisme diferite, unul realist (critic) !i altul relativist. 22 Clien$ii sunt cei care solicit" evaluarea. ce este sigur, s" transforme incertitudinea n siguran$" %i s"-i ajute ntotdeauna pe oameni s" vad" lucrurile din puncte de vedere diferite. Pentru c" teoriile evalu"rii specifice autorilor din aceast" perioad" sunt destul de variate, ace!tia nu sunt critica#i neap"rat ca grup, ci individual. Cu excep#ia componentei de utilizare, unii dintre ei nici m"car nu sunt adep#ii fideli ai unui anumit stil de evaluare vezi Patton astfel nct s" poat" fi ataca#i. Mai mult, uneori !i n#elegerea pe care o au despre utilizare este diferit", dar nu voi insista aici asupra acestui aspect ntruct va fi analizat n capitolul IV. Cu toate acestea, unele dintre op#iunile lor nu au fost ferite de critici. Weiss, de exemplu, a fost criticat" pentru ruptura pe care a creat-o ntre evaluare !i opera#iunile de zi cu zi specifice politicilor publice. 23 Patton a fost criticat de Stufflebeam !i Shinkfield (2007, p. 246) pentru c", dnd prea mult" autoritate clien#ilor, poate e!ua n atingerea standardelor de rigoare tehnic" !i etic" care se solicit" de la o evaluare. Prin faptul c" nu urm"re%te formularea unei concluzii finale rigide, a unui verdict definitiv, ci interpreteaz" informa$ia colectat" prin prisma diferitelor valori ale celor implica$i, Stake a fost criticat pentru relativismul pe care l implic" rezultatele evalu"rilor lui. Acest fapt este cu att mai problematic cu ct respectivele valori sunt adesea n conflict, fapt care face imposibil" formularea unei concluzii cu privire la program pentru c" nu exist" o solu#ie general acceptat" la o ntrebare de tipul conform valorilor c"rui grup trebuie interpretate informa#iile furnizate de evaluare? n ciuda relativismului de care a fost acuzat, Stake (1970, 2002, 2010) are meritul de a fi demonstrat utilitatea surprinderii mai multor puncte de vedere n evaluare, punnd astfel cap"t unei lungi perioade n care se considera c" rezultatele evalu"rilor reprezint" produsul exclusiv al exper$ilor n evaluare. Ca o parantez", evaluatorii de dinainte de anii 60 nu ar fi avut aceast" problem" pentru c", din punctul lor de vedere, evaluarea se oprea la m"sur"tori, la furnizarea unor informa#ii brute, f"r" o judecat" ata!at" de ele cu privire la valoarea lor. n fine, designul flexibil al lui Stake, despre care vorbeam mai sus, pune probleme din cauza imposibilit"#ii de a stabili cu exactitate bugetul evalu"rii. Dac" este vorba de o evaluare intern", acest lucru nu este neap"rat problematic, dar dac" este vorba de o evaluare extern", care presupune ncheierea unui contract nainte de
23 Vezi capitolul IV. desf"!urarea procesului evalu"rii, acest lucru devine destul de problematic att din punctul de vedere al clientului ct !i al evaluatorilor. 24
I.3.4. A treia genera#ie de evaluare
Individualitatea abord"rilor, despre care vorbeam !i mai sus n cazul celei de a doua genera#ii de evaluare, se accentueaz" !i mai puternic odat" cu a treia genera#ie. Astfel, mai mult dect oricnd, n cazul acestei genera#ii este valabil" defini#ia lui Glass !i Ellet (1980, p. 211) cu privire la evaluare: evaluarea este ceea ce spun oamenii c" este. Aceast" perioad", care continu" pn" n prezent, nglobeaz" o arie larg" de abord"ri %i ar trebui n$eleas" ca un grup de alternative mai degrab" dect ca o abordare unitar", clar" %i coerent" (Hanberger, 2001, p. 47). Din acest motiv, n capitolul de fa$" se vor reg"si doar unele dintre abord"rile celei de a treia genera$ii %i nu vor fi neap"rat prezentate n toat" complexitatea lor. Aceast" diversitate de abord"ri i-a determinat pe Hogwood %i Gunn (2000) s" afirme c" evaluarea este caracterizat" de lipsa unor criterii comune de judecare a consecin$elor politicilor. De%i se distan$eaz" din anumite puncte de vedere de abord"rile anterioare, unii autori din a treia genera$ie de evaluare p"streaz" unele caracteristici ale acestora, dar prin scopurile pe care consider" c" trebuie s" le aib" evaluarea nu pot fi inclu%i n aceea%i categorie. De exemplu, Rossi %i Freeman (1989) p"streaz" ncrederea n metodele %i tehnicile de investigare social", dar le implementeaz" pentru alte scopuri dect identificarea celei mai bune solu$ii posibile pentru rezolvarea unei probleme. P"strnd aceea!i strategie de prezentare a genera#iilor de evaluare ca !i pn" acum, !i anume aceea de a pune accentul pe elementul de noutate introdus de fiecare genera#ie n parte, voi detalia n continuare evaluarea bazat" pe teoria programului: Design-ul %i implementarea unei interven$ii sunt bazate de obicei pe un set de presupozi$ii explicite sau implicite ale celor implica$i cu privire att la ac$iunea adecvat" pentru rezolvarea unei probleme sociale ct %i la motivele pentru care problema n cauz" va fi influen$at" de respectiva ac$iune. Analiza presupozi$iilor explicite %i implicite care stau la baza unui program se nume%te teoria programului (Chen, 2005, p. 16). 25
24 Dup" cum voi prezenta n paragraful I.4.6., standardele profesiei de evaluator impun ca procesul s" se desf"!oare ntr-o transparen#" total". 25 Reg"sim n aceast" defini#ie componenta de planificare social" men#ionat" n paragraful I.1.1. Evaluarea bazat" pe teorie poate fi descris" ca analiza %i valorizarea contribu$iei strategiilor de interven$ie la rezolvarea sau controlarea problemelor sociale (Van Der Knaap, 2004, p. 17). Aceast" analiz" porne!te de la presupozi#iile programului !i are avantajul de a m"ri puterea de predic#ie a evalu"rii cu privire la evolu#ia evaluandului !i a efectelor acestuia (Fitz-Gibbon !i Morris, 1996, format html). Primii pa%i n dezvoltarea evalu"rii bazate pe teorie au fost f"cu$i n anii 1970, dar n anii 1990 dezvolt"rile n domeniu au stagnat pentru ca, n 2002, aceast" tem" s" acapareze discu$iile conferin$ei Societ"$ii Europene de Evaluare (Van Der Knaap, 2004, p. 16). Unul dintre pionierii acestui tip de evaluare a fost Cronbach 26 , care a luat n calcul contextul generat de procesele politice %i organiza$ionale pentru a facilita procesul decizional pluralist (Chen, 1990, p. 21).
Aceast" linie deschis" de Cronbach a fost apoi dezvoltat" n principal de Glaser, Strauss, Weiss %i Chen. Dup" ce am dat o defini#ie general" a teoriei programului !i a evalu"rii care porne!te de la aceasta, voi discuta n continuare sensurile pe care diver!i autori le atribuie teoriei programului, dincolo de genul proxim care face posibil" reunirea lor sub umbrela unei defini#ii. Cu alte cuvinte, dincolo de aceste defini#ii generale, autorii n#eleg lucruri diferite prin teoria programului, motiv pentru care, atunci cnd ne referim la evaluarea bazat" pe teoria programului ca model de evaluare, exprimarea corect" ar fi mai degrab" evaluarea bazat" pe teorie. Aceasta pentru c", de!i marea majoritate a autorilor se refer" la acela!i lucru cnd discut" despre teoria de care este nevoie pentru a ne fundamenta evaluarea (vezi defini#ia de mai sus a teoriei programului a lui Chen), ei dau denumiri diferite ale acestui lucru 27 . Weiss (apud Blamey !i Mackenzie, 2007, pp. 444-446) scrie despre teoria schimb"rii, care este
26 Cronbach a fost unul dintre primii autori care au n#eles c" nu doar rezultatele unui program au relevan#", ci !i procesele care au loc pn" la ob#inerea rezultatelor finale. Conform modelului lui Cronbach, evaluatorul !i structureaz" evaluarea astfel nct s" identifice unit"#ile care trebuie s" beneficieze de serviciile programului, tratamentul pe care l va livra programul, observa#iile care vor fi colectate !i situa#iile care vor fi luate n considerare. Dat" fiind aceast" strategie de evaluare, care seam"n" foarte mult cu cea de reconstituire a teoriei programului, modelul a fost numit UTOS (unit"#i, tratament, observa#ii, situa#ii) (Cronbach apud Shadish et al., 1991, p. 343; Stufflebeam !i Shinkfield, 2007, p. 201). 27 Conform lui Shaw %i Crompton (2003, p. 192), pentru ca o teorie a programului s" fie de folos n evaluare, trebuie s" aib" urm"toarele caracteristici: trebuie s" prezinte un model care explic", integreaz" !i interpreteaz" fapte; este necesar s" fie att prescriptiv ct !i descriptiv, ducnd la concluzii cu privire la cursul adecvat sau eficient al politicilor publice; va fi normativ" n m"sura n care va ridica probleme morale !i filosofice !i trebuie s" adopte pozi#ii clare cu privire la acestea. Astfel, o teorie util" !i cu sens trebuie s" con#in", de exemplu, no#iuni cu privire la natura unei bune societ"#i, natura !i cauzele ac#iunii umane !i diferen#ierea dintre public !i privat; n fine, orice teorie trebuie s" fie raportat" la istorie institu#iile !i activit"#ile pot fi n#elese corect doar ntr-un context istoric. format" din teoria implement"rii !i teoria programului. Teoria implement"rii face referire la leg"turile ipotetice dintre activit"#ile programului !i produsele 28 acestuia. Teoria programului face referire la leg"turile ipotetice de cauzalitate dintre mecanismele generate de interven#ie/produse !i rezultatele 29 anticipate. Dup" cum se observ", n opinia lui Weiss, teoria programului este doar o parte din teoria care ne intereseaz" pentru a putea ncepe procesul de evaluare. Ceea ce Weiss nume!te teoria schimb"rii, la Chen (1990, 2005) poart" numele de teoria programului !i este compus" din teoria descriptiv" (Chen o mai nume!te !i cauzal" sau modelul de schimbare) ceea ce la Weiss este teoria programului - !i teoria prescriptiv" (Chen o mai nume!te !i modelul de ac!iune) ceea ce la Weiss este teoria implement"rii. Bickman, Lipsey !i Wholey (apud Chen, 1990, p. 40) fac !i iei parte dintre autorii care fac referire doar la unul dintre cele dou" sensuri dintre cele men#ionate anterior atunci cnd vorbesc despre teoria programului. Astfel, pentru Bickman teoria programului reprezint" construirea unui model plauzibil cu privire la modul n care se presupune c" func$ioneaz" un program, pentru Lipsey reprezint" descrierea proceselor care transform" intr"rile n rezultate, iar Wholey pune %i el accent pe aspectul descriptiv al teoriei programului %i afirm" c" aceasta are rolul de a identifica resursele, activit"$ile %i rezultatele programului %i de a specifica un lan$ de presupozi$ii cauzale care le leag"... 30
n cele ce urmeaz", voi prezenta evaluarea bazat" pe teorie din perspectiva lui Chen, acesta fiind cel mai preocupat de dezvoltarea acestui model de evaluare. Nu voi putea ns" s" prezint n detaliu modul n care Chen explic" cum se face evaluarea bazat" pe teoria programului ntruct procesele sunt diferite n func#ie de motivul pentru care se face evaluarea. Cum motivele pot fi dintre cele mai diverse, textul ar pierde din coeren#" dac" le-a! prezenta pe fiecare n parte. Voi ncerca astfel s" prezint principalele linii teoretice care disting abordarea lui Chen de celelalte: care sunt scopurile pe care le poate ndeplini acest model de evaluare, cum !i define!te
28 n englez", output. 29 n englez", outcome. 30 Exist" mai multe nuan#e cu privire la ceea ce nseamn" teorie n contextul evalu"rii bazate pe teorie. Articolul lui Blamey !i Mackenzie din 2007 prezint" pe larg aceast" chestiune ns" am considerat c", pentru scopul analizei de fa#", sunt suficiente cele dou" exemple. Fac ns" o scurt" parantez" pentru a mai men#iona o interpretare pe care am ntlnit-o la Rossi (n introducerea pe care a f"cut-o la cartea lui Chen din 1990). Acesta afirm" c" un evaluator nu poate s" evalueze o politic" dintr-un domeniu pe care nu l cunoa!te !i se refer" la aceasta ca fiind cunoa!tere fundamental", dar Chen nume!te acest lucru teorie, fapt cu care Rossi nu este de acord. teoria programului, care este logica general" a procesului de evaluare bazat pe teoria programului. n cartea sa din 2005 (pp. 53-58), Chen prezint" patru categorii generale de strategii de evaluare, cum le nume!te el: monitorizarea (procesului sau a rezultatelor) $i m"surarea performan!ei (se face fie prin urm"rirea gradului n care au fost atinse scopurile, fie prin stabilirea fidelit"#ii cu care programul implementat a urmat design-ul ini#ial); mbun"t"!irea programului (con#ine trei categorii generale: fie se cerceteaz" contextul programului respectiv n termeni de caracteristicile !i nevoi ale comunit"#ii, caracteristici ale grupului #int" !i op#iuni de interven#ie, fie se identific" disfunc#ionalit"#ile programului, fie evaluatorii ajut" pe cei implica#i s" defineasc" logica programului); analiza presupozi!iilor $i mecanismelor care stau la baza programului !i parteneriatul (caz n care evaluatorilor li se solicit" s"-i ajute pe beneficiari s" formuleze teoria programului). Dup" cum afirmam mai sus, la Chen, teoria programului are o component" prescriptiv" !i una descriptiv". Componenta prescriptiv" const" n precizarea structurii optime a programului care include: stabilirea protocoalelor de interven#ie !i furnizare a serviciului. Protocolul de interven#ie stabile!te natura, con#inutul !i activit"#ile unei interven#ii, iar cel de furnizare a serviciului vizeaz" cine beneficiaz" de interven#ia respectiv", care sunt responsabilit"#ile personalului de implementare, n ce mediu va fi furnizat serviciul respectiv !i canalele de comunicare dintre implementatori !i grupul #int"; stabilirea organiza#iilor responsabile cu implementarea. Trebuie aleas" cea mai bun" organiza#ie, dar n sectorul public este de obicei una singur". Dac" aceasta nu are capacitatea s" implementeze programul respectiv, atunci aceast" capacitate trebuie construit" prin training-uri, transfer de tehnologie !i angajarea de exper#i !i consultan#i; recrutarea !i preg"tirea persoanelor responsabile cu implementarea programului; stabilirea organiza#iilor asociate sau a partenerilor din comunitate; ob#inerea consensului la nivelul mediului n care se desf"!oar" programul cu privire la acesta; identificarea, recrutarea !i servirea grupului #int" (Chen, 1990, p. 43; Chen, 2005, pp. 23-27). Numit" !i teorie normativ", sau model de ac#iune, componenta prescriptiv" ne indic" ce scopuri sau rezultate ar trebui urmate sau examinate !i cum ar trebui construit !i implementat tratamentul. Aceasta poate proveni din presupozi#ii, proceduri ncet"#enite sau din cunoa!tere empiric" !i teorii care nu au fost examinate sau testate de c"tre cei care le-au inclus n programul respectiv (Chen, 1990, p. 43; Chen, 2005, pp. 17-19). Componenta descriptiv" are o baz" empiric" !i se refer" la mecanismele cauzale care leag", mediaz" sau condi#ioneaz" tratamentul de rezultate. Aceasta specific" cum func#ioneaz" programul prin identificarea condi#iilor n care au loc anumite procese !i care sunt posibilele lor consecin#e (Chen, 1990, pp. 43-44; Chen, 2005, p. 16). Numit" !i model de schimbare, componenta descriptiv" are urm"toarele elemente: scopuri !i rezultate; factori determinan#i. Ace!tia sunt foarte rar deja identifica#i de cunoa!terea !i teoriile preexistente; cel mai adesea, trebuie identifica#i de c"tre cei care elaboreaz" politica; interven#ie/tratament. Acest element are rolul de a induce modific"ri asupra factorilor determinan#i astfel nct ace!tia s" produc" alte rezultate (Chen, 2005, pp. 20-22). n continuare voi ncerca s" prezint logica evalu"rii bazate pe teoria programului ns", dup" cum men#ionam mai sus, trebuie s" men#in prezentarea la un nivel destul de general pentru c" scopul lucr"rii nu este acela de a ar"ta concret cum se desf"!oar" procesul de evaluare, ci s" explic influen#ele care l determin" s" se desf"!oare ntr-un anumit mod. Chen (2005, pp. 73-75) afirm" c" n procesul de evaluare trebuie ca mai nti s" stabilim teoria descriptiv", modelul de schimbare !i abia apoi pe cea prescriptiv", modelul de ac#iune. Aceasta nu nseamn" ns" c", afirm" autorul (2005, p. 95), nu putem reveni la modelul de schimbare ca urmare a unor informa#ii acumulate n elaborarea/reconstituirea 31 modelului de ac#iune.
31 n Cerkez (2009) am folosit termenul de reconstruire. n aceast" lucrare am ales s" folosesc termenul de reconstituire pentru c" mi-am dat seama c" a reconstrui poate sugera a reformula, or Chen (1990, 2005) sugereaz" c" teoria programului este recompus" ca piesele unui puzzle atunci cnd cei implica#i n implementarea programului opereaz" cu asump#ii implicite !i nu explicite cu privire la ceea ce consider" adecvat n situa#ia respectiv". Este drept, Chen afirm" c" exist" !i situa#ii n care evaluatorului i se solicit" s" se implice n etapa de formulare, dar nici atunci evaluatorul nu construie$te teoria programului, ci ncearc" s" extrag" teoria de la cei implica#i sau, cu ajutorul lor, (Re)constituirea teoriei programului este necesar" !i n cazul n care evaluatorii sunt ruga#i s" participe n faza de elaborare a programului 32 , dar !i n faza n care programul este n curs de implementare sau ncheiat. Acest lucru se ntmpl" pentru c" abordarea lui Chen este una comprehensiv" n sensul c" acesta sus#ine c" nu putem afirma nimic cu privire la p"r#ile unui program dac" nu avem nicio idee despre program ca ntreg. Astfel, o ac#iune are sau nu sens, este sau nu eficient", doar prin prisma a ceea ce consider"m noi c" produce schimbare. De exemplu, dac" plec"m de la ideea c" m"rirea num"rului de paturi din spitale mbun"t"#e!te starea de s"n"tate a popula#iei, atunci achizi#ionarea paturilor are sens; n afara unui context de acest tip, nu putem spune nimic despre ac#iunea n sine. Deci, atunci cnd evalueaz" componente ale programului, logica modelului lui Chen (1990, 2005) este aceea de a construi o teorie normativ" a componentei (de tipul dat" fiind teoria schimb"rii, cum ar trebui s" fie componenta X?) !i apoi de a compara aceast" teorie normativ" a componentei cu componenta a!a cum a fost ea implementat" sau, dup" caz, a!a cum se inten#iona a fi implementat". Prin urmare, chiar dac" !i modelul lui Chen ne permite s" evalu"m doar anumite componente !i nu programul ca ntreg, este ns" necesar s" stabilim mai nti care este logica programului. Problema este ns" faptul c" a te raporta la teoria unui program nu este un demers tocmai facil din cauza faptului c" aceasta nu este explicit" ntotdeauna. Aceast" teorie poate proveni din mai multe surse (Chen, 2005): este o teorie !tiin#ific" sau extras" din cunoa!terea acumulat" n domeniul respectiv, dar aceste cazuri sunt rare; cei care implementeaz" au o teorie !i o spun evaluatorilor, caz n care ace!tia trebuie s" o evalueze; cei care implementeaz" nu au o astfel de teorie explicit", dar au implicit 33 !i evaluatorii trebuie s"-i ajute s" o fac" explicit". Dac" teoria programului nu exist" deja %i trebuie dezvoltat" de evaluatori, atunci apar mai multe probleme. Acest proces ini#ial de stabilire a teoriei programului
s" importe o teorie din domeniul respectiv. n acest caz, evaluatorul i ghideaz" n efortul de a formula teoria programului ajuntndu-i s" fac" explicite ideile implicite !i s" le coreleze ntr-o teorie. Voi reveni la aceste aspecte pe parcursul lucr"rii. 32 Caz n care evaluatorii trebuie s" evite s"-!i impun" propriile valori sau idei de interven#ie, rolul acestora fiind acela de a sugera celor responsabili cu formularea programului care sunt chestiunile care trebuie discutate n astfel de situa#ii, care sunt op#iunile acestora. De asemenea, evaluatorii trebuie s" sintetizeze rezultatele discu#iilor !i s" contribuie la stabilirea consensului n interiorul echipei cu privire la componentele programului (Chen, 2005, pp. 63-67). 33 Este vorba despre situa#ia n care cei implica#i n formularea !i implementarea programului ac#ioneaz" n virtutea experien#elor acumulate n domeniu de-a lungul timpului, dintr-un instinct specific meseriei, f"r" s" mai expliciteze neap"rat ra#iunea comportamentului. este !i punctul slab n care Stufflebeam (Chen, 2005, p. 234; Stufflebeam !i Shinkfield, 2007, pp. 185-187) l critic" pe Chen: exist" riscul ca evaluatorii s" intre n conflict cu personalul de implementare dnd o nou" interpretare programului; nu exist" resurse de timp %i bani pentru a emite %i verifica cu adev"rat o teorie; se genereaz" un conflict de interese pentru c" evaluatorii ajung n situa$ia de a-%i evalua propria teorie; evaluatorii risc" s" se concentreze asupra teoriei dezvoltate ini$ial %i s" nu observe c" programul a suferit modific"ri a%a de ample nct teoria nu mai este valid"; atunci cnd ncearc" s" dezvolte teoria programului, evaluatorii pot distrage aten$ia echipei de la activit"$ile pe care aceasta le desf"%ura n raport cu programul. Cu toate acestea, Stufflebeam %i Shinkfield consider" util exerci$iul formul"rii teoriei programului pentru a identifica ce variabile trebuie m"surate. Tot n cea de a treia genera#ie de evaluare a! ncadra !i modelul CIPP al lui Stufflebeam !i Shinkfield (2007), de!i este un model a c"rui plasare ntr-o genera#ie sau alta necesit" o argumentare solid". Eu l-am ncadrat aici pentru c" nu este un tip de evaluare constructivist, bazat exclusiv pe interpretare !i metode calitative, a!a cum au definit Guba !i Lincoln 34 cea de a patra genera#ie de evaluare (dezvoltat" n paragraful urm"tor). De asemenea, nu poate fi plasat nici n cea de a cincea genera#ie de evaluare 35 pentru c" aceasta reconsider" doar identitatea evaluatorilor. Concret, din punctul de vedere al autorilor din cadrul acestei genera#ii, evaluatorii trebuie s" fie interni, adic" s" fi f"cut parte din evaluand dinainte de procesul de evaluare, acesta devenind astfel un proces de autoreflec#ie. De asemenea, modelul CIPP nu poate fi ncadrat n genera#ia a doua ntruct nu este preocupat n mod special de utilizarea rezultatelor evalu"rii !i, de!i are o orientare obiectivist" specific" primei genera#ii de evaluare, nu l pot include nici acolo ntruct are o cuprindere mult mai mare dect modelele din prima genera#ie, att ca metode folosite ct !i ca tipul de ntreb"ri de evaluare la care poate r"spunde. Stufflebeam !i Shinkfield (2007, pp. 242-245) !i ncadreaz" modelul n categoria evalu"rilor orientate spre mbun"t"#ire !i responsabilizare, al"turi de UTOS !i de cel al lui Scriven. Acest tip de evalu"ri sunt centrate pe evaluarea valorii programului, iar criteriile fundamentale pentru stabilirea valorii programului pornesc de la nevoile celor care au un interes n program. Avantajul prezentat de aceste
34 De altfel, dup" cum men#ionam la nceputul paragrafului I.3., Guba !i Lincoln includ CIPP n cea de a treia genera#ie de evaluare. 35 Caulley (2001); Fetterman !i Wandersman (2005) abord"ri este acela c" iau n calcul toate rezultatele relevante ale programului, nu doar pe cele care au leg"tur" cu obiectivele. Scopul declarat al acestor evalu"ri este acela de a stabili valoarea ultim" a unui program (Stufflebeam %i Shinkfield, 2007, p. 245). n cadrul modelului CIPP, Stufflebeam (apud Stufflebeam %i Shinkfield, 2007, p. 326) define!te evaluarea ca fiind o investigare sistematic" a valorii unui obiect. Din punct de vedere opera$ional, evaluarea este procesul de delimitare, ob$inere, raportare %i aplicare a informa$iei descriptive %i a celei care con$ine judec"$i cu privire la meritul, valoarea, importan$a %i integritatea unui obiect cu scopul de a ghida decizia, stabili responsabilit"$i, disemina practicile eficiente %i a cre%te n$elegerea fenomenului n cauz". La fel ca n cazul evalu"rii bazate pe teoria programului a lui Chen !i a modelului UTOS al lui Cronbach, modelul CIPP acord" aten#ie, n varianta ideal" n care nu sunt constrngeri de timp !i resurse, tuturor componentelor unui program. Astfel, CIPP este prescurtarea de la context, intr"ri, proces, produs. Modelul CIPP este gndit astfel nct s" promoveze dezvoltarea %i reprezint" o abordare a evalu"rii din perspectiva sistemelor sociale, motiv pentru care este adaptat examin"rii programelor sociale %i a altor programe care ac$ioneaz" n domenii inovative, complexe %i aflate n permanent" schimbare (Stufflebeam %i Shinkfield, 2007, pp. 331-332, 347, 351). Dac" am ncerca s" formul"m o caracterizare general valabil" pentru abord"rile celei de a treia genera#ii de evaluare, probabil c" observa#ia lui Wollmann (2007, p. 398) este cea mai adecvat". Anume, el afirm" c" nu mai exist" linii dure, tabere opuse n evaluare ntruct argumentele epistemologice, conceptuale !i metodologice generate de constructivi!ti (pe care le voi prezenta n paragraful urm"tor) sunt luate serios n considerare, dar nici nu s-a renun#at la ncercarea de a conferi un oarecare grad de obiectivitate rezultatelor evalu"rii.
I.3.5. A patra genera#ie de evaluare
A patra genera#ie de evaluare se caracterizeaz" printr-o schimbare radical" a sensului %i rolului atribuit evalu"rii: semnifica$ia evalu"rii se schimb" de la a da un sens lumii a%a cum este ea, la a da un sens modului n care diver%i indivizi %i grupuri dau un sens lumii (Kushner, 1996, p. 195). Cea mai dramatic" schimbare pe care o face aceast" genera#ie (de exemplu, Guba %i Lincoln; Torgerson; Fischer %i Forester; DeLeon) #ine de aspectele legate de cunoa!tere din teoria evalu"rii. Este vorba de o disociere fa#" de presupozi#iile pozitiviste de ra#ionalitate !i neutralitate fa#" de valori. Cu alte cuvinte, constructivi!tii nu cred c" fenomenele socio-politice pot fi analizate prin separarea faptelor de valori sau c" se poate ajunge la un adev"r incontestabil prin folosirea logicii !i metodelor !tiin#ifice (Hanberger, 2001, p. 47; Stufflebeam !i Shinkfield, 2007, p. 216). Aceast" atitudine a nceput s" se formeze nc" din a doua genera#ie de evaluare, dar a patra genera#ie de evaluare i-a dat o interpretare radicalizat" adoptnd o pozi#ie constructivist" dublat" de o cercetare naturalist" !i o ontologie relativist". Cu alte cuvinte, nu numai c" se accept" amestecul valorilor n procesul de evaluare, ele sunt definiens-ul procesului de evaluare. Prin urmare, tot ceea ce se poate ob$ine prin intermediul evalu"rii este un acord cu privire la imagini ale realit"$ii 36 pentru c", din cauza intereselor divergente, exist" cte un Adev"r pentru fiecare grup sau individ implicat (Connolly et al. apud Boyne et. al, 2003, p. 14) n evaluand. Aceste abord"ri nu dau solu$ii-ultimatum, ci i ajut" pe cei implica$i s" n$eleag" procesele evaluandului %i le furnizeaz" alternative astfel nct ace%tia s" fac" o alegere n cuno%tin$" de cauz". Pentru a justifica folosirea mai multor metode, post- pozitivi%tii trebuie s" apeleze la o epistemologie pluralist" sau relativist" (Hanberger, 2001, p. 47; Van Der Knaap, 2004, pp. 27-29), ns" aici voi prezenta doar abordarea lui Guba !i Lincoln care este relativist", urmnd s" prezint !i o alt" variant" de constructivism n paragraful II.1.3.b. n cartea lor din 1989, numit" Fourth Generation Evaluation, Guba %i Lincoln %i numesc abordarea receptiv constructivist" 37 . Cei doi afirm" c" abordarea lor este receptiv" pentru c" preten$iile, preocup"rile %i problematicile celor implica$i servesc drept organizatori 38 , iar termenul de constructivist denot" metodologia folosit" n evaluare %i, n principal, fundamentarea pe paradigma interpretativ" 39 , opus" celei %tiin$ifice (Guba %i Lincoln, 1989, pp. 38-50). De-a lungul timpului, abordarea celor doi a cunoscut mai multe nume, printre care %i pe cel de abordare naturalist" 40 , dar cei
36 Pentru definirea acestora, vezi II.1.3 . 37 n englez", responsive constructivist evaluation. 38 Organizatorii sunt bazele/criteriile de determinare a informa$iilor necesare %i a modului n care vor fi folosite. 39 Abordarea interpretativ" indic" mai multe metode, dar au n comun presupozi#ia c" formularea !i implementarea politicilor sau activit"#ile !i interac#iunile agen#iilor guvernamentale, politicienilor !i societ"#ii civile nu pot fi n#elese dac" nu le c"ut"m semnifica#ia. Abord"rile interpretative difer" ntre ele prin modul n care se raporteaz" la obiectul de interpretare: inten#ii, motive/ra#iuni, tradi#ii, pove!ti, discursuri, sisteme de semne (Wagenaar, 2007, p. 429). 40 n mare parte datorit" c"r#ii lor din 1985, Naturalistic inquiry. doi au afirmat mai trziu c" acest nume nu este adecvat abord"rii lor ntruct s-ar produce confuzie avnd acela!i nume precum curentul filosofic naturalist. 41 Din punct de vedere filosofic, reali!tii, empiri!tii !i pozitivi!tii sunt naturali!ti !i consider" c" structura explica#iilor din !tiin#ele naturale !i cele sociale coincide. Ca atare, n filosofia !tiin#elor sociale, pornind de la ideea c" oamenii sunt parte a naturii, fapt care face ca temele de cercetare din !tiin#ele sociale s" le continue pe cele din !tiin#ele naturale, naturali!tii deduc c", cu adapt"rile necesare, metodologia din !tiin#ele naturale este adecvat" celor sociale (Williams !i May, 1996, p. 82, 200). Abordarea lui Guba !i Lincoln nu se plaseaz" ns" n acest context, ci este o abordare naturalist" n sensul c" nu manipuleaz", nu controleaz" obiectul de studiu a!a cum fac cei care pornesc de la curentul filosofic naturalist, ci ncearc" s"-l surprind" exact a!a cum este el n context. Astfel, abordarea lui Guba !i Lincoln se asociaz" mai degrab" cu sociologia interpretativ". n concluzie, Guba !i Lincoln au dezvoltat o abordare naturalist" (n sensul de nemanipulativ" din punct de vedere metodologic) ncercnd astfel s" se plaseze la polul opus abord"rilor care rezult" din filosofia naturalist" !i care sunt manipulative, conform lui King et al. (2000, p. 29). Conform lui Stufflebeam !i Shinkfield (2007, p. 216, 221), a patra genera#ie de evaluare aduce dou" elemente noi, pe lng" cele men#ionate deja: participarea intensiv" a celor implica$i n designul %i desf"%urarea evalu"rii 42 , dar %i n raportarea %i aplicarea rezultatelor precum !i judec"$ile diferite cu privire la program ale diferi$ilor actori afecta$i de acesta. Printre criticile pe care cei doi autori le aduc abord"rii constructiviste se num"r": durata, costurile, imposibilitatea de a-i consulta pe to$i cei afecta$i ntr-un fel sau altul de politica respectiv" %i rapoartele n coad" de pe%te produse de o astfel de evaluare. 43 Dup" cum am men#ionat ns" de mai multe ori pe parcursul acestei lucr"ri, fiecare situa#ie reclam" un alt tip de evaluare !i, prin urmare, n ciuda diverselor imperfec#iuni, fiecare model de evaluare are un tip de situa#ie n care este cel mai adecvat. Prin urmare, !i abordarea constructivist", n ciuda criticilor ntemeiate, este adecvat" urm"toarelor situa$ii: atunci cnd cerin$ele cu privire la evaluarea respectiv" nu pot fi clarificate nainte ca aceasta s" nceap"; atunci cnd evaluarea trebuie s" satisfac" nevoile informa$ionale ale unui grup destul de larg;
41 Pentru o compara#ie ntre paradigma constructivist" a lui Guba !i Lincoln cu privire la evaluare !i paradigma naturalist" de investigare sociologic", vezi Guba !i Lincoln, 1989, pp. 79-116. 42 Lucru valabil !i pentru Stake. 43 Pentru o analiz" a implica#iilor acestui model de evaluare n practic", vezi Lay !i Papadopoulos, 2007, An exploration of fourth generation evaluation in practice. atunci cnd cei care vor beneficia de rezultatele evalu"rii vor s" cunoasc" detalii despre procesele care au avut loc (sau au loc) n interiorul programului (Williams, 1986).
I.3.6. A cincea genera!ie de evaluare
Literatura n domeniu nu este deocamdat" suficient de exact" n delimitarea abord"rilor care fac parte din cea de a cincea genera#ie de evaluare. De exemplu, Abma !i Widdershoven (2011, p. 672) enumer" mai multe abord"ri n evaluare printre care: evaluarea care capaciteaz" 44 , !i aici l men#ioneaz" pe Fetterman, !i genera#ia a patra !i a cincea, unde i men#ioneaz" pe Guba !i Lincoln. Altfel spus, din enumerarea celor doi autori, ar rezulta c" modelul lui Fetterman nu face parte din cea de a cincea genera#ie de evaluare. Pe de alt" parte, Caulley, citat pentru sintagma de a cincea genera#ie de evaluare, este autorul unor articole despre evaluarea care capaciteaz", asemeni lui Fetterman. Acesta din urm" este recunoscut ca fiind cel care a folosit primul sintagma de evaluare care capaciteaz", n 1994, n cadrul unei conferin#e a American Evaluation Association (Fetterman, 2005, p. 4). De asemenea, n ncercarea de a o defini, evaluarea care capaciteaz" este ades comparat" n literatur" cu cea participativ", cu cea colaborativ" precum !i cu evaluarea emancipatorie. ns" lucrurile nu sunt foarte bine demarcate nici din acest punct de vedere. De exemplu, Millet (2005, p. v) afirm" c" evaluarea care capaciteaz" este diferit" de cele trei modele enumerate anterior, dar Fetterman (1997, html) afirm" c" Patton !i Vanderplatt au plasat n mod corect evaluarea care capaciteaz" ca fiind un tip de evaluare emancipatorie. Explica#ia pentru astfel de neclarit"#i const" n faptul c" cea de a cincea genera#ie de evaluare este n plin proces de definire, de teoretizare. Fetterman (1997, html) afirm" c" Patton a contribuit foarte mult la construirea distinc#iilor dintre evaluarea care capaciteaz", cea colaborativ" !i cea participativ", dar acestea sunt departe de a fi stabilite. De exemplu, OSullivan (apud Fetterman, 2005, p. 8) afirm" c" evaluarea colaborativ" i capaciteaz" pe cei care particip", dar acesta este doar un efect secundar, !i nu scopul, ca n cazul evalu"rii care capaciteaz". Pe de alt" parte, Fetterman (1997, html) consider" c" evaluarea care capaciteaz" presupune activit"#i
44 n englez", empowerment evaluation. desf"!urate prin colaborare !i participarea actorilor implica#i n programul evaluat. El consider" colaborarea !i participarea drept caracteristici ale evalu"rii care capaciteaz", mpreun" cu autodeterminarea !i construirea de capabilit"#i. King (1996) este mai critic" !i afirm" c" evaluarea care capaciteaz" este slab definit" !i nu se distinge de alte forme participative ale evalu"rii. Atrag aten#ia c", dup" cum men#ionam mai sus, Patton, Vanderplatt !i Fetterman consider" c" evaluarea care capaciteaz" este un tip de evaluare emancipatorie, !i nu participativ", cum afirm" King. Probabil c" dezvolt"rile teoretice viitoare vor l"muri aceste aspecte. Cu toate acestea, putem afirma c" cea de a cincea genera#ie de evaluare dezvolt" cu prec"dere dimensiunea practic" a teoriei evalu"rii, mai precis aspectele legate de rolul !i identitatea evaluatorului. n cele ce urmeaz", voi pune accent pe prezentarea evalu"rii care capaciteaz" ntruct celelalte abord"ri sunt fie dezvolt"ri ale unora mai vechi !i pe care le-am prezentat deja, cum este cazul lui Guba !i Lincoln (dac" suntem de acord cu Abma !i Widdershoven, 2011), fie au o diferen#iere teoretic" foarte fin", a!a cum ar"tam mai sus. Prin asumarea rolului de trainer sau partener critic, care nu stabile!te scopuri !i strategii pentru procesul de evaluare, evaluatorii care aplic" modelul capacit"rii i sprijin" pe cei implica#i n program s" desf"!oare ei n!i!i evaluarea (Millett, 2005, pp. v-vi) 45 . Din acest motiv, unii autori sugereaz" ca, n cazul acestui model, s" se vorbeasc" despre co-evaluatori (Palfrey !i Thomas, 1999, p. 60). Ra#iunea pentru care rolul celor implica#i n program este att de mare nct practic controleaz" procesul de evaluare #ine de ideea de justi#ie social" pe care o promoveaz" acest model: evaluatorii i ajut" pe cei implica#i n program s" ia decizii asupra lucrurilor care le afecteaz" via#a; cultiv" auto-determinarea (Palfrey !i Thomas, 1999, p. 60; Fetterman, 2005, pp. 7-10). ns" problema form"rii unei echipe de evaluatori dintre cei implica#i n program nu este deloc simpl" ntruct n jurul unui program graviteaz" foarte multe tipuri de actori. Care sunt grupurile din care vor fi recruta#i evaluatorii? Dac" avem n vedere ideea de promovare a justi#iei sociale, de auto-determinare a celor oprima#i, atunci este destul de greu s" ne imagin"m cum s-ar putea desf"!ura procesul de evaluare. Dificultatea vine din faptul c", de cele mai multe ori, grupurile cele mai
45 Nu de aici vine ns" ideea de capacitare, ci din faptul c" prin deciziile pe care le iau asupra evalu"rii, ei decid de fapt asupra problemelor comunit"#ii din care fac parte. dezavantajate se reg"sesc n rndurile beneficiarilor direc#i sau indirec#i ai programului !i este foarte pu#in probabil ca ace!tia s" se organizeze !i s" solicite o evaluare !i, cu att mai pu#in, s" o finan#eze. De regul", cei care solicit" o evaluare sunt fie finan#atori, fie agen#ii de control, fie implementatori. O posibil" solu#ie la aceast" problem" o reg"sim n recomandarea lui Fetterman (2005, p. 12) de a implica n evaluare pe cei care au un interes mare ca programul s" fie o reu!it". Ce se ntmpl" ns" n cazul n care cei care au interesul ca programul s" aib" succes au o cu totul alt" idee despre efectele dezirabile ale acelui program dect beneficiarii programului? Este posibil ca Fetterman s" fi intuit toate aceste dificult"#i ntruct n articolul din 1997, de!i recunoa!te c" a folosit termenii de categorii defavorizate, oprimate sau s"race n sensul clasic, afirm" c" Totu!i, indivizi dezavantaja#i !i oprima#i exist" !i n organiza#iile academice, guvernamentale !i de afaceri tradi#ionale, precum !i n ghetouri sau zone nedezvoltate. O alt" dificultate pe care o implic" utilizarea acestui model n evaluare #ine de mp"r#irea activit"#ilor specifice procesului de evaluare ntre evaluatorii care vin din afara programului, !i care sunt specializa#i, !i cei care fac parte din program. Pot nv"#a cei implica#i n program tot ce presupune desf"!urarea unui proces de evaluare sau este nevoie care unele activit"#i s" fie desf"!urate de evaluatorii externi? Keener et al. (2005, p. 73) afirm" c" aceste decizii trebuie luate n situa#ia de evaluare n func#ie de factori precum: timpul avut la dispozi#ie, specializarea celor implica#i n program, resurse, etc. De exemplu, dac" timpul este foarte scurt, evaluatorii nu i pot nv"#a metodele statistice de prelucrare a datelor !i, n acest caz, trebuie s" analizeze chiar ei datele. Pe de alt" parte, este posibil ca ace!tia s" le cunoasc" !i atunci evaluatorii le pot delega lor aceast" activitate. Nu n ultimul rnd, trebuie precizat c" evaluarea care capaciteaz", dar !i cea colaborativ" sau emancipatorie, nu au dezvoltat metode proprii de a desf"!ura procesul de evaluare n afara celor care #in de rolul !i identitatea evaluatorilor. Astfel, n func#ie de situa#ie, acestea fac apel la procedurile specifice altor modele de evaluare. Din acest motiv, din punctul meu de vedere, acestea nu sunt modele de evaluare, ci solu!ii 46 ale diverselor problematici care s-au dezvoltat n rela#ie cu procesul de evaluare. 47
46 Vezi capitolul I, paragraful n care explic n ce const" un model de evaluare. 47 De altfel, ntr-o prim" variant" a acestui text, nu am inclus a cincea genera#ie de evaluare, tocmai din aceste considerente. Aspectele teoretice abordate n acest volum, cu excep#ia celor care privesc direct De altfel, Scriven (1996c) afirm" c" evaluarea care capaciteaz" este mai degrab" un mod de a preda evaluare, !i nu de a face evaluare. Citind aceast" afirma#ie a lui Scriven, mi-am dat seama c" exist" asem"n"ri ntre rolul pe care l am eu n cadrul seminarului meu de evaluare de la masteratul de profil din cadrul SNSPA !i rolul pe care l au evaluatorii care aplic" evaluarea care capaciteaz". Cu toate acestea, eu nu am grij" ca studen#ii mei s" fie dintre cei mai dezavantaja#i, nu urm"resc justi#ia social" !i nici nu m" opresc la a-i familiariza cu un singur model de evaluare. Altfel spus, consider c" Scriven este destul de reduc#ionist atunci cnd pune aceast" etichet" evalu"rii care capaciteaz".
dimensiunea practic" a teoriei evalu"rii, sunt slab dezvoltate. n cele din urm", am ales ns" s" includ acest paragraf pentru a ntregi evolu#ia domeniului evalu"rii cu dezvolt"rile cele mai recente.