n acest capitol este prezentat problematica evalurii politicilor publice. Parcurgndu-l, vei putea: s difereniai ntre conceptele de analiz a politicilor, evaluare a politicilor i monitorizare a politicilor; s indicai criteriile folosite n evaluarea politicilor; s recunoatei principalele tipuri de evaluare a politicilor publice; s distingei ntre metodele cantitative i cele calitative; ntre metodele experimentale i cele neexperimentale de evaluare a politicilor publice; s identificai stadiile evalurii unei politici publice.
Termeni cheie: evaluare; monitorizare; eficacitate; evaluarea performanei; evaluarea impactului; evaluarea eficienei; evaluarea procesului; metode cantitative; metode calitative de evaluare.
Coninutul capitolului:
a) Ce este evaluarea? b) Tipuri de evaluare c) Metode de evaluare
Atunci cnd facem o aciune, pe care am gndit-o cu grij, e natural s ne ntrebm ct de bine am realizat-o. Pentru a rspunde, avem la dispoziie dou opiuni: a) s vedem dac ceea ce am fcut e conform cu ceea ce ne-am propus s facem; altfel zis, apreciem acea aciune n raport cu obiectivele sau cu scopurile pe care le aveam n minte atunci cnd am fcut-o; b) s vedem care sunt rezultatele ei efective: ce am realizat efectiv. Cele dou opiuni sunt diferite: ntr-adevr, nu e greu de vzut c uneori aciunea noastr atinge obiectivele propuse; numai c impactul ei efectiv este mic. Sau, dimpotriv, ea nu reuete s ating obiectivele propuse, dar impactul poate fi mai mare sau mai mic. Ca urmare, aprecierea pe care o facem aciunii difer n raport cu ceea ce dorim. O politic public poate fi, n mod analog, judecat pe dou dimensiuni. ntr- adevr, ne putem ntreba: a) Cum i-a atins ea scopurile propuse? b) Care este impactul ei efectiv? n acest capitol vom analiza diferitele rspunsuri la aceste ntrebri.
a) Ce este evaluarea? 1
Aa cum am vzut n Capitolul 1, evaluarea este un stadiu al procesului de nfptuire a politicilor. Caracteristica definitorie a evalurii este aceea c ea produce judeci cu caracter apreciativ privind o politic public. Problema nu vizeaz faptele: Cum stau lucrurile? i nici aciunea: Ce ar trebui s facem?, ci valorile: Care este valoarea acestui program sau a acestei politici?
Evaluarea politicilor reprezint examinarea empiric obiectiv i sistematic, cu ajutorul metodelor de cercetare social, a politicilor publice, n termenii obiectivelor propuse de acestea. n evaluarea unei politici, analistul face apel la tipuri diferite de criterii. Aceste criterii exprim valorile n raport cu care se realizeaz aprecierea acelei politici: de pild, eficiena i eficacitatea sunt valori care decurg din ideea de raionalitate instrumental, pe care am discutat-o n capitolul 5 mai sus. Dar valori precum echitatea sau corectitudinea au o semnificaie social ridicat, iar ponderea care li se acord este tot mai mare n societile contemporane. (S observm c aceste criterii sunt asemntoare cu cele la care se apeleaz n cazul formulrii politicilor. Numai c acum ele sunt aplicate retrospectiv (ex post), n timp ce criteriile folosite pentru a face recomandri privind politicile care s se adopte sunt aplicate prospectiv (ex ante).)
Tipul de criterii ntrebarea Exemple Eficacitatea S-a obinut un rezultat valoros? Uniti din bunurile sau din serviciul oferit prin aplicarea politicii respective
Eficiena Ct de mare a fost efortul necesar pentru a obine acel rezultat? Costul unitar Beneficii nete Raportul cost/beneficiu
Adecvarea n ce msur obinerea acelui rezultat rezolv problema care a dus la formularea acelei politici publice?
Costuri Eficien Echitatea Sunt costurile i beneficiile distribuite echitabil ntre diferitele grupuri din societate?
Consistena cu opiniile cetenilor Corectitudinea Sunt rezultatele dorite i valoroase? Politicile publice trebuie s fie att eficiente ct i echitabile (Dup Dunn, 1981: p. 405) Monitorizarea i evaluarea politicilor publice. Obiectivul central al evalurii nu este strngerea de informaii cu privire la rezultatele aplicrii unei politici publice, ci aprecierea unor aspecte ale formulrii i implementrii acesteia n raport cu valorile pe care le exprim criteriile utilizate (Dunn, 1981, pp. 404 405). n acest sens, evaluarea difer de monitorizarea politicilor publice.
Monitorizarea unei politici publice const n producerea informaiilor privind felul n care funcioneaz aceasta i consecinele ei. 2 Prin monitorizare sunt obinute date importante privind acea politic public i care pot fi utilizate pentru a o evalua. ns obiectivul monitorizrii nu este acela de a face aprecieri, evaluri, ci mai curnd de a stabili premisele factuale pe care se bazeaz activitatea propriu-zis de evaluare a acelei politici. n procesul de analiz a politicilor, monitorizarea ndeplinete patru funcii (Dunn, 1981: pp. 335 336): 1) Concordan: pe baza monitorizrii se poate determina dac aciunile celor care aplic acea politic public sunt conforme cu standardele i procedurile cuprinse n reglementrile existente (cele emise de Parlament, de agenii cu rol de reglementare, de corpurile profesionale implicate de pild, n cazul politicilor de sntate, cele ale Colegiului Medicilor i Farmacitilor). 2) Auditare: monitorizarea permite s se determine dac resursele i serviciile care vizau un anumit grup int au ajuns efectiv la acesta. De pild, ea permite s se determine dac primriile au alocat fondurile necesare pentru ntreinerea colilor. 3) Contabilizare: monitorizarea produce informaii folositoare n contabilizarea schimbrilor economice i sociale care rezult n urma implementrii unei politici publice. De pild, schimbrile n calitatea vieii pot fi monitorizate cu ajutorul unor indicatori sociali precum nivelul mediu de educaie, starea de sntate a populaiei, durata medie de via, procentul populaiei deasupra nivelului de srcie, modul de folosire a timpului liber etc. 4) Explicaie: monitorizarea furnizeaz de asemenea informaii care ajut la explicarea diferenelor n efectele unor politici publice. De pild, ea permite s detectm diferenele ntre politicile educative, cele care in de asistena social sau cele de asigurare a ordinii publice. Monitorizarea vizeaz n general unul sau mai multe domenii ale funcionrii unei politicii: a) utilizarea bunurilor sau serviciilor furnizate; b) funciile organizaionale; c) rezultatele politicii (Rossi, Freeman, Lipsey, 1999). Utilizarea bunurilor sau serviciilor furnizate privete, pe de o parte, felul n care populaia int particip n acela politic i, pe de alt parte, diferenele ntre membrii unor grupuri diferite n felul n care beneficiaz de acel bun sau serviciu, rezistena la aplicarea acelei politici etc. Monitorizarea funciilor organizaionale ale unei politici se concentreaz asupra felului n care implementarea acelei politici este organizat astfel nct s i ndeplineasc sarcinile eseniale. O atenie special e acordat problemelor aprute n procesul de implementare i care mpiedic oferirea bunului sau serviciului respectiv ctre populaia int. (A se vedea Capitolul 6 n privina acestor dificulti.) Monitorizarea rezultatelor aplicrii politicii publice const n msurarea i raportarea indicatorilor sociali relevani. Pentru aceasta e necesar s se identifice acei indicatori care pot fi msurai ntr-un mod rutinier i care s conin informaie relevant, semnificativ privind efectele implementrii acelei politici.
Dimensiunile evalurii. Dup X. Ballart (1998), pentru a nelege evaluarea este necesar s ne referim la mai multe dimensiuni ale acesteia: cine decide c trebuie fcut evaluarea; ce este de evaluat; cum se face evaluarea; cnd s se fac; care sunt ateptrile. Exist numeroase rspunsuri la ntrebarea cine ar trebui s decid ce este de evaluat. n mod obinuit hotrsc liderii politici sau managerii executivi. e isunt primii interesai s cunoasc rezultatele aplicrii unei anumite politici, dup cum aa cum am vzut ei pot urmri i obiective politicie prin solicitarea unei evaluri. Totui, uneori nu acetia, ci legislatorii, clienii sau staff-ul din ageniile guvernamentale au un rol important n decizie. Unele politici publice sunt supuse evalurii de ctre opoziie sau de organisme 3 independente (de exemplu, de organizaii neguvernamentale sau de think-tank-uri) care ncearc astfel s atrag atenia asupra unor aspecte ale acelor politici publice. Alteori evaluarea unei politici publice se realizeaz de organisme internaionale. De exemplu, n ara noastr Banca Mondial sau Uniunea European realizeaz periodic evaluri ale politicilor realizate cu sprijinul lor financiar (prin mprumuturi sau prin programe de asisten precum PHARE). La ntrebarea cum se evalueaz, rspunsurile reflect diversitatea metodologic. Vom discuta n paragraful urmtor cteva dintre metodele cele mai folosite. Strns legat de alegerea metodei este rspunsul la ntrebarea cnd se evalueaz. Adesea acest interval este determinat de consideraii tehnice; totui, n alegerea momentului cntresc i argumente politice (interese, ideologii, scopuri ascunse) sau de natur administrative (urgent, percepia evalurii de ctre personal sau raiuni bugetare). n privina ntrebrii ce este de evaluat, o condiie esenial este aceea de a relaiona obiectul evaluarii la natura programului, la stadiul derularii acestuia, la datele i resursele disponibile, precum i la contextul organizaional i politic n care politica respectiv este nfptuit. Ea cuprinde o descriere corect a performanelor politicii, a caracteristicilor analizate i o apreciere a acestora n raport cu anumite criterii sau standarde relevante. Tipic, evaluarea privete unul sau mai multe din urmtoarele dimensiuni ale unei politici (Rossi, Freeman, Lipsey, 1999): 1. nevoia de aplicare a acelei politici; 2. formularea politicii; 3. implementarea politicii i msura n care ea ofer bunurile sau serviciile propuse; 4. impactul sau rezultatele politicii; 5. eficiena politicii. O ultim ntrebare ine de ce ar trebui s ateptm de la evaluare. Rspunsurile la aceasta depind de obiectivele pe care le avem n vedere: pentru unii o evaluare merit ntreprins doar dac are utilitate direct; pentru alii o evaluare are sens n cazul n care contribuie la ntelegerea unei probleme sociale, la schimbarea percepiilor despre modalitile de soluionare a ei sau la sugerarea unor ci de reform n intervenia public. n general ns, funciile evalurii sunt urmtoarele: 1. evaluarea produce informaii de ncredere privind performana unei politici: msura n care valorile, oportunitile, nevoile grupurilor sociale au fost ntmpinate prin nfptuirea acelei politici; 2. evaluarea contribuie la clarificarea i la mai buna nelegere a valorilor care au condus la alegerea scopurilor i obiectivelor. Aceast funcie se realizeaz prin operaionalizarea acestora sau prin compararea valorilor acceptate cu valori alternative; 3. evaluarea contribuie la nelegerea mai bun a problemei, la definirea altor politici alternative (dac ea conduce la concluzia c politica respectiv trebuie abandonat i nlocuit cu o alta).
Potrivit lui Guba i Lincoln (1987), concepia asupra rolului evalurii politicilor publice a parcurs patru epoci distincte: Tehnic: dup primul rzboi mondial, evaluarea era vzut ca un exerciiu tehnic de msurare. Rolul evaluatorului era considerat ca foarte asemntor celui al unui tehnician. Descriptiv: n anii '40, evalurile aveau ca sarcin detectarea punctelor slabe i a celor tari, evidenierea patternurilor obiectivelor asumate. Evaluatorul aprea nu numai ca un tehnician, ci i ca un furnizor de informaie. 4 Judecare: n anii '60 i '70, punctul de vedere dominant era acela c evalurile constau n msurarea eficienei i eficacitii politicilor publice, prin aplicarea unor standarde obiective i printr-o cercetare tiinific obiectiv. Se considera c, n timp ce analiza prospectiv a politicilor publice depinde de valori i de procesul politic n care interacioneaz actori diferii, fiecare cu propriile sale interese, evaluarea retrospectiv are un caracter obiectiv: evaluatorul apare ca un cercettor neutru al adevrului, iar rolul su este acela de a nelege lumea i de a prezenta decidenilor informaii formulate ntr-o manier obiectiv, care nu depindea de propriile lor opiuni sau interese. Altfel zis, rolul evaluatorului aprea ca fiind acela de judector obiectiv al politicii. Senzitivitate: n prezent avem o a patra generaie de modele ale evalurii politicilor publice. Acum punctul central de interes nu const n deciziile, obiectivele, efectele politicilor, ci n susinerile, n preocuprile, problemele diferiilor actori implicai n procesul de nfptuire a acelei politici publice. Evaluarea apare astfel i ca un proces cu semnificaie politic, nu ca o cercetare pur obiectiv a unei politici.
Eficacitatea privete msura n care sunt atinse scopurile sau obiectivele propuse. Uneori ea este cuantificabil (de exemplu, ci elevi care au abandonat coala au fost reintegrai n procesul educativ); atunci cnd acest lucru nu este posibil, ea este exprimat n termeni calitativi. De exemplu, eficacitatea unui program de creare a unor faciliti de petrecere a timpului liber se poate msura apelnd la criterii precum atitudinea cetenilor privind valoarea acelui program sau modul de a beneficia de ele. Eficiena este raportul dintre eficacitate i costurile sau eforturile depuse pentru a o obine.
Evaluarea etap a analizei politicilor. Potrivit modelului stadial al politicilor publice la care am fcut apel n aceast lucrare, evaluarea este o etap sau un stadiu distinct n procesul de nfptuire a unei politici publice, care n mod tipic apare dup nceperea procesului de implementare a acelei politici. Dar ea difer de analizele politicilor pe care le-am discutat pn acum n cteva aspecte importante: n primul rnd, n timp ce acestea aveau un caracter prospectiv, evaluarea are un caracter retrospectiv. n timp ce ntrebrile pe care le puneam pn acum erau de forma: Care vor fi efectele aplicrii politicii? (de pild: Care vor fi efectele scderii numrului de elevi ntr-o clas n nvmntul primar?), n evaluare ntrebm: Care sunt efectele efective ale aplicrii politicii? (de pild: care sunt efectele aprute dup scderea numrului de elevi ntr-o clas n nvmntul primar?) n al doilea rnd, n timp ce n procesul de formulare a politicilor, aa cum am vzut, nsi problema este reformulat, definit prin interaciunea actorilor implicai, n cazul evalurii se ader la definiia existent. Rolul ei principal nu este acela de cutare de noi alternative, ci de feedback. n al treilea rnd, evaluarea este mai mult orientat spre client: spre acea agenie guvernamental sau spre instituia care a solicitat elaborarea ei; evaluarea ncearc s rspund cerinelor puse de aceasta. n acest sens, evaluarea este mult mai centrat spre o anumit instituie sau actor dect se ntmpl n analiza prospectiv a politicilor. n sfrit, am vzut c analiza prospectiv a politicilor este ntr-o msur important o activitate pe care o putem caracteriza prin conceptele de art i de meteug (A. Wildavsky). Evaluarea este mai mult legat de metode mai riguroase de cercetare, de unelte demne de ncredere ceea ce nu nseamn, aa cum vom sublinia imediat mai 5 jos, c ea are un caracter deplin neutru, obiectiv (a se vedea i Geva-May, I., Pal, L.A. (1999). Raiunile pentru evaluarea unei politici publice. O politic public poate fi selectat pentru a fi evaluat din mai multe motive. ntre acestea, urmtoarele sunt adesea menionate (McKinney, Howard, 1998: p. 390): rezultatele nesatisfctoare ale aplicrii politicii, n comparaie cu ateptrile avute; necesitatea obinerii de noi informaii pentru a mbunti acea politic; interesul de a transfera acea politici n alte pri; apariia unei noi tehnologii, cu impact asupra implementrii politicii; evaluarea politicilor publice este o rutin a acelei agenii guvernamentale; evaluarea este solicitat de instituia care finaneaz aplicarea acelei politiic; necesitatea de a determina dac problema care a determinat formularea i implementarea acelei politici a dobndit ntr-adevr o soluie; necesitatea de a obine un sprijin suplimentar pentru acea politic; necesitatea de a justifica cheltuielile deja fcute i a celor prevzute n viitor; responsabilizarea ageniei fa de clieni i fa de comunitate. Acestor motive trebuie s le adugm ns i altele. Motivul este acela c, aa cum am vzut, evaluarea ca stadiu al procesului de nfptuire a politicilor dei presupune metode de cercetare mai riguroase, dei e mai orientat spre client, n acelai timp este o activitate politic, o activitate care implic mai muli actori n spaiul public, fiecare cu interesele sale; ca urmare, uneori ea poate fi folosit n interesul unora dintre acetia (Howlett, Ramesh, 1995: p. 169): pentru a ascunde unele fapte care ar putea pune guvernarea ntr-o lumin proast; termenii de referin ai evalurii (care accentueaz numai asupra unor aspecte ale politicii respective) se pot construi astfel nct evaluarea s duc la concluzii favorabile guvernrii; dac guvernarea vrea s schimbe acea politic, termenii de referin pot fi construii, dimpotriv, astfel nct s duc la alte concluzii; evalurile realizate la solicitarea unor instituii independente de guvernare pot s aib ca scop nu mbuntirea, ci critica acelei politici, pentru a realiza ctiguri pentru anumite grupuri sau pentru a ntri o anumit perspectiv ideologic etc. Evaluare i evaluatori. Aa cum am vzut, evaluarea const ntr-o examinare empiric obiectiv i sistematic, cu ajutorul metodelor de cercetare social, a politicilor publice. ntr-un paragraf mai jos vom discuta unele dintre aceste metode. De pe acum trebuie s observm ns c evaluarea nu este o cercetare fundamental, ci una aplicat. Evaluatorii trebuie s cunoasc metode din diverse discipline sociale, pentru a le putea aplica multor tipuri de probleme. Atunci cnd evaluarea se aplic asupra unor politici extrem de specializate, tehnice, este necesar ca n echipele de evaluare s fie cooptat i personal specializat n domeniul respectiv. Dar i aceste persoane este necesar s aib cunotine cel puin generale cu privire la procesul de nfptuire a politicilor publice i, n particular, la procesul de evaluare. Evaluarea se realizeaz, aa cum am vzut, ntr-un context social. Aceast mprejurare face ca modul n care evaluatorii i desfoar activitatea s nu depind numai de obiectul efectiv al cercetrii; ei trebuie s in seam de interaciunea dintre actorii interesai de acea politic, de modul n care evaluarea realizat va fi utilizat etc. (Rossi, Freeman, Lipsey, 1999): Evaluatorii trebuie s i expliciteze perspectiva n care se situeaz, recunoscnd faptul c sunt posibile i alte perspective din care evaluarea ar putea s fie realizat; de asemenea, ei trebuie s se pregteasc pentru critici din partea actorilor cu alte 6 perspective asupra problemei dect a lor i s fie capabili s i ajusteze abordarea n funcie de cerinele ageniei sau instituiei care a solicitat evaluarea. Evaluatorii pot fi independeni de personalul care e implicat n formularea sau n implementarea unei politici publice sau, dimpotriv, pot fi selectai din interiorul ageniei respective. n ambele cazuri, evaluatorii trebuie s posede o nelegere clar a rolului lor n situaia respectiv, s ofere cea mai bun informaie disponibil n circumstanele date. Evaluatorii trebuie s aib n vedere ei nii diseminarea rezultatelor lor pentru toi actorii interesai de acea politic. De dorit, evalurile sunt folosite de ctre decideni. Acest lucru se poate realiza n mod: a) direct: aplicnd concluziile i recomandrile formulate; b) instrumental: ca mijloc folosit de decideni pentru a modifica, pstra sau ncheia o politic; c) conceptual: ca un cadru de abordare i a altor politici publice; d) persuasiv: pentru a induce comportamente sau atitudini din partea unor actori relevani. Deoarece valoarea muncii lor depinde i de modul n care ea este folosit de actorii implicai, evaluatorii trebuie s aib n vedere raporturile ntre acetia, interesele, nevoile, perspectivele lor uneori foarte diferite. Evaluarea trebuie s in cont de cerinele politice ale momentului; de asemenea, ea trebuie s in cont de faptul c trebuie s aib relevan pentru decideni. De aceea, evaluatorii trebuie s aib n minte nu numai criterii stricte tehnice sau care in de tiina pur: ei trebuie s se raporteze la valorile pe care activitatea lor le afecteaz, la scopurile pe care, odat realizat, le va servi evaluarea. Evaluatorii nu alctuiesc n prezent o profesiune, dei n ultimii ani piaa evalurii a crescut foarte mult i un numr mai mare de oameni au fost implicai n astfel de activiti. ntr-adevr, domeniul se caracterizeaz printr-o mare diversitate de pregtire profesional; de metode i de perspective, prin absena unei comunicri profesionale puternice. Acest fapt face s nu existe un consens asupra caracterului justificat al criticii unor evaluri (critici care dat fiind natura domeniului pot apare n acest caz ca avnd o semnificaie mai curnd politic sau ideologic dect tiinific, obiectiv).
7
Meta-evaluarea: Cum evalum o evaluare? Cum putem susine c o evaluare a unei politici publice este bun? Atunci cnd ncercm s rspundem, urmtoarele criterii sunt relevante (Uusikyl, Virtanen, 2000): Ghidarea: 1. Cum a fost definit procesul de evaluare 2. Care sunt ateptrile ageniei care o solicit Selectarea evaluatorilor 3. Familiaritatea evaluatorilor cu activitatea respectiv i cu contextul n care aceasta se desfoar 4. Familiaritatea evaluatorilor cu abordrile, configurarea i procedurile specifice unei evaluri 5. Pregtirea i experiena lor anterioar relevant pentru aceast activitate 6. Imparialitatea evaluatorilor 7. Capacitatea de a realiza evaluarea potrivit graficului Planificarea i implementarea procesului de evaluare 8. Planificarea i implementarea procesului de evaluare conform standardelor formulate de agenia sau instituia care o solicit 9. nelegerea prioritilor i a msurilor cercetate 10. Definirea domeniului evalurii 11. Acces la informaia disponibil i calitatea acesteia 12. Definirea problemelor importante, a criteriilor de evaluare i a procedurilor pentru colectarea i analiza datelor 13. Stabilirea schemei de evaluare (grafic, structur organizaional, buget) 14. Stabilirea planului privind structura raportului Calitatea rapoartelor de evaluare 15. Recunoaterea i modul n care se rspunde nevoilor de evaluare 16. Viabilitatea configuraiei evalurii i a materialului folosit 17. Consistena i gradul de ncredere n analiza realizat 18. Imparialitatea i credibilitatea concluziilor i recomandrilor fcute 19. Claritatea textului raportului 20. Modul n care concluziile i recomandrile sunt prezentate i dezvoltarea ulterioar a evalurii Contactele i colaborarea dintre diferiii parteneri n procesul de evaluare 21. Funcionarea i regularitatea contactelor dintre evaluatori i agenia sau instituia care a solicitat evaluarea 22. Funcionarea i regularitatea contactelor dintre evaluatori 23. Funcionarea i regularitatea contactelor dintre evaluatori i politicile care sunt evaluate Experiena global a ageniei i evaluatorilor cu privire la procesul de evaluare Aprecierea global asupra succesului procesului de evaluare 8 b) Tipuri de evaluare
Evaluarea unei politici publice poate fi de mai multe tipuri. Exist mai multe clasificri ale evalurilor, realizate cu ajutorul unor criterii diferite. O prim clasificare pleac de la distincia dintre 1) eforturile fcute pentru a implementa acea politic, pentru a produce bunurile sau serviciile respective, i 2) rezultatele acelor eforturi, ceea ce s-a realizat efectiv. Apelnd la terminologia lui D. Palumbo (1987), avem: a) o evaluare formativ: n care accentul cade pe: 1) msura n care programul i atinge grupul int; 2) msura n care bunurile i serviciile produse sunt n concordan cu inteniile, obiectivele acelei politici; 3) utilizarea resurselor n aplicarea acelei politici; b) o evaluare sumativ: n care accentul cade pe felul n care a afectat efectiv acea politic problemele crora a ncercat s le ofere o soluie.
O a doua clasificare ia n considerare mecanismele prin care este realizat evaluarea. Dup Howlett i Ramesh (1995), avem trei mari tipuri de evaluri: 1) administrative; 2) juridice; 3) politice. Evalurile administrative se concentreaz asupra: a) performanei manageriale n nfptuirea unei politici; i b) asupra aspectelor bugetare presupuse de implementarea acesteia. Evalurile de acest tip sunt cele mai cunoscute i cele mai discutate. Un motiv important este acela c pentru realizarea lor s-au pus la punct tehnicile de cercetare cele mai sofisticate. n literatura dedicat lor, sunt menionate patru principale feluri de evaluare administrativ: a performanei; a impactului; a eficienei; a procesului (a se vedea, de exemplu, McKinney, Howard, 1998: pp. 397 399). 1. Evaluarea performanei (produsele eforturilor fcute sau rezultatele aplicrii acelei politici) vizeaz cantitatea sau nivelul de activitate pe care l-au generat eforturile depuse. De pild, ct de multe bilete au fost vndute ntr-o facilitate de petrecere a timpului liber; ct de muli elevi care abandonaser coala au fost rencadrai n activitate; ct de muli kilometri de osea au fost construii acetia sunt indicatori prin care se pot msura rezultatele unor politici n diferite domenii.
Produse sau rezultate: numrul de bilete vndute; numrul de elevi care reiau coala; numrul de kilometri de osea Bani cheltuii
Abiliti Materiale Echipament
Efort
2. Evaluarea impactului este gradul n care performana realizat ntmpin nevoia de acel bun sau serviciu, altfel spus gradul n care politica are efectele intenionate. Prin utilizarea ei se ncearc s se determine msura n care, ca urmare a aplicrii acelei politici, s-au realizat schimbri n grupurile int. De pild, o astfel de evaluare vizeaz numrul total de bolnavi tratai cu succes; numrul de cazuri efectiv rezolvate de poliie; impactul pe care l au asupra societii absolvenii de nvmnt superior, ca rezultat al educaie lor etc. 9
Aprecierea impactului unei politici publice se poate realiza la orice stadiu al procesului de nfptuire a ei: att n cel al formulrii politicii, ct i n cel al implementrii. Cea mai important problem care apare n evaluarea impactului unei politici este aceea de a determina care sunt efectele datorate aplicrii respectivei politici, n raport cu toate fenomenele care se manifest n societate. De aceea, evaluarea de impact presupune utilizarea de ctre cercettori a unor metode bine puse la punct, capabile s disting ntre influenele datorate acelei politici i cele aprute datorit manifestrii altor factori. 3. Evaluarea eficienei vizeaz metodele alternative de a atinge un anumit rezultat. Poate fi el obinut cu un cost mai sczut? Ca urmare, aceast evaluare se concentreaz asupra raportului dintre eforturile depuse i impactul atins (eficacitatea acelei politici publice). Cu ct este mai mic acest raport dintre resursele folosite (eforturile) i rezultatele obinute (eficacitatea), cu att e mai mare eficiena acelei politici. Indicatori ai eficienei unei politici publice sunt, de pild, costul unui kilometru de osea construit sau refcut; numrul de studeni la un post didactic ntr-o universitate; numrul de persoane la un medic de familie etc. Evaluarea eficienei este folositoare n fiecare stadiu al procesului de nfptuire a unei politici, de la cel al formulrii politicii la cel al implementrii ei. Dar, evident, evalurile ex post sunt mai obinuite dect cele ex ante. Principalul motiv pentru care se procedeaz astfel este acela c de cele mai multe ori lipsesc estimri rezonabile ale costurilor i efectelor produse de aplicarea unei politici publice. E important de subliniat c evaluarea eficienei depinde esenial de supoziiile fcute n cercetare; aceste supoziii depind de scopurile diferiilor ageni implicai i fac ca evaluarea s nu aib un caracter ntru totul neutru. Dimpotriv, aa cum am vzut, evaluarea are caracteristici care o fac s fie i o activitate politic, care deci servete interesele unora dintre actorii implicai n acea politic (Rossi, Freeman, Lipsey, 1999).
Indicatorii de calitate sunt dintre cei mai relevani astzi. n cazul politicilor educaionale, urmtorii sunt cei mai semnificativi (European Commission, 2000): Indicatori de performan 1. Matematic 2. Citit 3. tiine 4. Tehnologii de informare i comunicare 5. Limbi strine 6. A nva s nvei 7. Cultur civic Succes i tranziie 8. Abandonul colar Impactul realizat: Nr. bolnavi tratai cu succes; Nr. cazuri rezolvate de poliie; Abiliti ale absolvenilor. Produse sau rezultate Bani cheltuii
Abiliti Materiale Echipament Efort 10 9. Parcurgerea educaiei secundare (liceu) 10. Participarea la educaia teriar (nivel universitar) Monitorizarea educaiei colare 11. Evaluarea i conducerea educaiei colare 12. Participarea prinilor Resurse i structuri 13. Pregtirea i perfecionarea cadrelor didactice 14. Participarea la educaia pre-primar 15. Numrul de elevi la un calculator 16. Cheltuieli cu educaia pe un elev De exemplu, indicatorii de performan privesc msura n care elevii stpnesc cunotine i i-au format abiliti n domeniul matematicilor, al tiinelor, limbilor strine, culturii civice, tehnologiilor de informare i comunicare, au capacitatea de a citi i a nelege instruciunile i textele. Foarte important este deprinderea de ctre elevi a capacitii de a nva s nvee: a abilitii de a continua s achiziioneze cunotine i deprinderi, n variate situaii de via, chiar dup ce educaia formal s-a ncheiat.
4. Evaluarea procesului permite analiza raiunilor pentru care o politic public a avut succes sau, dimpotriv, a euat i face posibil modificarea politicii astfel nct aceasta s fie continuat, mai degrab dect s fie abandonat. n acest cadru sunt examinate metodele organizaionale, inclusiv regulile i procedurile folosite, de a implementa o politic i de a furniza bunurile sau serviciile respective. Cum am vzut, unul dintre principalele argumente n sprijinul utilizrii evalurilor administrative este acela c, prin apelul la tehnici sofisticate de analiz, sunt obinute informaii relevante, neutre, obiecte, iar recomandrile i aprecierile fcute au un caracter, dac nu pe deplin tiinific, cel puin rezonabil: ele sunt demne de ncredere i pot constitui baza unor decizii ulterioare privind continuarea, modificarea sau abandonarea acelei politici, precum i n legtur cu capacitatea acelei agenii guvernamentale sau chiar a guvernrii ca ntreg de a implementa anumite msuri. Alturi de evalurile administrative, i evalurile de alte tipuri ale unei politici publice influeneaz deciziile persoanelor cu rol important n procesul de nfptuire a politicilor. Evaluarea juridic a unei politici publice se concentreaz nu asupra eficacitii, efectelor sau bugetului acesteia, ci asupra problemelor juridice care sunt implicate n implementarea de ctre guvernare a acelei politici. n particular, problemele care se ridic privesc posibilele conflicte ntre aciunile guvernamentale i prevederile constituionale, ntre diferitele reglementri existente, ori ntre aciunile guvernamentale i drepturile individuale sau standardele acceptate de comportament al ageniilor guvernamentale. Aceste evaluri sunt realizate de organele juridice; dar dezbaterile publice n care sunt implicai actorii interesai reprezint momente extrem de semnificative n aceste evaluri. ntr-adevr, n acest fel se creeaz opinia public prevalent i apar presiuni foarte puternice pentru o anumit direcie de aciune politic. S ne gndim, de exemplu, la dezbaterile publice din ara noastr cu privire la modul n care trebuie respectat prevederea din Legea nvmntului nr. 84/1995 privind acordarea pentru educaie a unei buget n limitele a cel puin 4% din produsul intern brut; sau, la nceputul anului 2001, la discuiile privind raportul dintre drepturile cetenilor de a avea acces la informaie i prevederile legale asupra secretului de stat. Evalurile politice: ele reprezint aprecieri, mai mult sau mai puin sistematice asupra unei politici publice, fcute de nu numai de reprezentanii ageniilor guvernamentale implicate, ci de oricare agent interesat n acea politic. Spre deosebire de 11 evalurile administrative i juridice, cele politice nu au de obicei un caracter sistematic i nici nu apeleaz la instrumente tehnice sofisticate. Dar acest fapt nu le micoreaz semnificaia: cci rolul rol principal nu este acela de a mbunti modul n care este implementat o politic, ci mai degrab acela de a sprijini aplicarea ei sau, dimpotriv, de a ridica obiecii mpotriva ei. Evalurile politice devin importante n anumite ocazii: a) n timpul alegerilor: acestea se concentreaz de cele mai multe ori asupra unor teme specifice, asupra unor politici publice nalt relevante n momentul respectiv. Opiunile alegtorilor pentru un anumit partid politic sau pentru o anumit coaliie pot fi nelese ca expresie a evalurilor lor informale ale politicilor practicate sau ale celor propuse. Cu toate acestea, ntruct alegtorii au un singur vot, nu e posibil ca din felul n care ei au votat s se trag concluzii sigure cu privire la aprecierile lor privind fiecare dintre politicile publice discutate n perioada campaniei electorale. b) n cazul unui referendum cu privire la anumite politici, aprecierile alegtorilor sunt mai clare. Dar aceste forme de consultare a alegtorilor asupra diverselor politici sunt foarte rare. c) Cel mai adesea, evalurile politice presupun consultri cu reprezentanii actorilor interesai. Exemple cunoscute sunt, de pild, consultrile cu reprezentanii partidelor politice, ai mass media, ai organizaiilor neguvernamentale, ai sindicatelor privind strategia general a Romniei de aderare la Uniunea European sau la NATO, ori cele privind adoptarea bugetelor anuale. De bun seam, evalurile politice nu implic n mod direct schimbarea aciunii guvernamentale; adesea ele sunt folosite de ctre guvernare n sens politic: pentru a continua anumite politici sau pentru a ctiga imagine intern sau extern. De asemenea, i ceilali actori implicai au de multe ori prin participarea la astfel de consultri i alte scopuri dect acelea de a formula propuneri concrete privind acea politic public (critica ei sau un spor de imagine etc.).
c) Metode de evaluare
Pentru a realiza o evaluare, este necesar utilizarea unor metode de cercetare care s produc datele pe baza crora s se realizeze aprecierile i s se formuleze recomandrile. Putem clasifica aceste metode dup mai multe criterii: a) dup felul n care intervin n realitate, avem: metode experimentale, neexperimentale, cvasiexperimentale i mixte; b) dup tipul de date pe care le ofer, avem: metode cantitative i calitative. O imagine sintetic a acestor metode e oferit n tabelul urmtor:
Metode de cercetare Configurarea cercetrii Obiectiv primar Tipuri de probleme pentru care configurarea este cea mai potrivit Metode de culegere a datelor Tip predominant de culegere a datelor I. Neexperimentale A. Exploratorii Identificarea principalelor variabile (influene), pentru a realiza evaluri mai riguroase n viitor Studiul unor aspecte ale implementrii politicilor care nu au fost studiate sistematic anterior.
Interviuri cu personalul ageniei, clieni etc. Studiul arhivei relevante. Studii de caz. Colectarea datelor Calitative
12 Studiul rezultatelor semnificative care au fost neglijate n evalurile anterioare administrative
Colectare de date brute privind rezultatele apelnd la cele ale ageniei sau prin cercetri noi
Cantitative B. Descriptive O evaluare mai riguroas, prin identificarea definirea i msurarea unor variabile cheie ale politicii, dar fr a folosi un grup de control Implementarea politicii
Rezultate brute pe termen scurt sau lung ale politicii. Opiunea cea mai riguroas este cea a unei abordri comparative La fel ca n cazul msurilor exploratorii
La fel ca n cazul metodelor exploratorii Calitative
Cantitative II. Cvasiexperimentale O evaluare mai riguroas, pentru a determina dac rezultatele studiate pot fi atribuite influenei politicii mai curnd dect altor factori sau ntmplrii. Se face apel la grup de control Rezultate nete pe termen scurt sau lung
Folosirea datelor administrative, cercetri Cantitative Calitative III. Experimentale La fel ca mai sus, dar apelnd mai riguros la grupul de control precum i la cel cercetat La fel ca mai sus. La fel ca mai sus. Cantitative IV. Metode mixte Studiul influenei implementrii politicii i al interveniilor asupra rezultatelor. Implementarea politicii i rezultate brute Un amestec de metode Amestec de metode cantitative i calitative Metodologii de evaluare (dup A.B. Blalock, 1999: pp: 123 125.)
Metodele experimentale sunt, n general, considerate cele mai puternice n realizarea unei evaluri. S lum un exemplu. Presupunem c vrem s evalum impactul folosirii manualelor alternative. Pentru aceasta, strategia urmat e urmtoarea: se selecteaz aleator un numr de coli (sau zone) n care nvtorii i profesorii vor putea alege manualele dup care doresc s lucreze. De asemenea, se selecteaz un alt numr de coli, care vor funciona ca grup de comparaie. Ideea este ca cele dou grupuri de coli s fie ct se poate de similare: indicatorii cercetai (reprezentativi pentru nivelul de educaie al elevilor) vor fi astfel foarte asemntori. Aa ceva este posibil dac cele dou grupuri de coli sunt ambele selectate aleator. Dup aceea se aplic tratamentul sunt furnizate manualele alternative, ntre care nvtorii i profesorii aleg. Dup aceea, se realizeaz o cercetare, avnd ca scop msurarea indicatorii respectivi i compararea rezultatelor obinute n colile n care s-a aplicat i n cele n care nu s-a aplicat tratamentul. n acest fel se poate determina impactul folosirii manualelor alternative i se pot face recomandri asupra implementrii unei astfel de politici. Utilizarea acestor metode are importante beneficii. Cel mai important este facilitarea interpretrii datelor: de pild, impactul unei politici se msoar simplu, prin compararea diferenelor n mrimea indicatorilor, ntre grupul cercetat i cel de comparaie. (Desigur, pentru ca metoda s fie utilizabil, este necesar ca cele dou grupuri cel cruia i se aplic tratamentul i cel de comparaie s fie statistic echivalente.) 13 Metodele cvasiexperimentale se folosesc atunci cnd nu este posibil s se construiasc grupuri de tratament i de comparaie n mod aleator, care deci s fie foarte asemntoare statistic nainte de aplicarea unei politici. Aceste metode apeleaz ns i ele la grupuri de comparaie, ale cror caracteristici sunt folosite pentru a evalua impactul aplicrii politicii: analiza statistic privete felul n care variaz diferenele dintre caracteristicile celor dou grupuri. S lum, de pild, aa-numita metod a dublei diferene:
Evalurile de impact: metoda dublei diferene
Metoda dublei diferene const n cercetarea valorilor unui indicator, i nainte i dup aplicarea unei politici, att n cazul grupului cruia i se aplic acea politic, ct i al celui de comparaie. Principalii pai sunt urmtorii:
Pasul 1: nainte de aplicarea politicii se realizeaz o cercetare care se aplic ambelor grupuri. Uneori e necesar o cercetare preliminar, pentru a determina care sunt grupurile afectate. Pasul 2: Dup ce politica a fost aplicat, sunt necesare mai multe cercetri, toate compatibile cu cea iniial; ideal ar trebui s se aplice aceluai eantion. Pasul 3: Se determin modul n care au variat nainte i dup aplicarea politicii valorile indicatorilor de rezultat pentru ambele grupuri. Pasul 4: Se determin diferenele ntre variaiile acelui indicator n cazul celor dou grupuri. Aceasta este o baz de estimare a impactului politicii.
Metodelor experimentale (i cvasiexperimentale) de evaluare le-au fost aduse mai multe critici; dintre acestea, alturi de Parsons (1995: p. 551) le enumerm pe urmtoarele: Societatea este att de complex nct nici un experiment nu poate fi derulat fr a omite o seam de factori. Ce judecai primeaz n stabilirea parametrilor fiecrui fenomen ce va fi examinat? Cum se poate desfura cercetarea aa nct s se obin rezultate bune, dat fiind c experimentele au limite financiare i constrangeri temporale? Nu doar costul i timpul condiioneaz experimentul; el depinde de asemenea de management i modul n care este implementat. Pot fi relevante experimentele sociale cnd se dorete compararea unor grupuri adesea foarte diferite? n experimentele sociale, indivizii pot contientiza faptul ca sunt subieci, iar aceasta le modific cel mai adesea comportamentul (efectul Hawthorne). Apar i probleme morale: Este drept ca un grup s fie privat de resurse? n plus, este posibil ca unele persoane s nu agreeze ideea de a se experimenta asupra lor. Experimentele cer timp, iar politicienii care ar trebui s decid nu l au; se mai poate ntampla ca, atunci cnd n cele din urm un experiment este ncheiat, situaia initial s se fi schimbat ntr-att nct rezultatele experimentului s nu mai poat fi folosite. Este mult prea costisitor pentru societate s aplice programe sau politici la scar larg fr a ti cum vor funciona acestea n mod real. Aa cum susine K.R. Popper, schimbarea ar trebui realizat n pai mici pentru a-i testa efectele. n plus, este necesar ca acolo unde este posibil schimbrile s nu fie realizate la scara cea mai larg disponibil: e recomandabil ca ele s fie pilotate, s fie aplicate n anumite zone sau anumite segmente ale societii, pentru a testa efectele i a putea apoi s le corecteze. De exemplu, n privina reformelor n nvmntul romnesc, un studiu 14 (Miroiu, A. (ed.), 1998: p. 162) a sugerat ca intervenia n realitate s fie bine cumpnit, pentru a nu declana fore necunoscute i incontrolabile. Recomandm ca ea s se fac urmnd civa pai obligatorii: evaluarea situaiei: evaluare legislativ, evaluri instituionale pilot; elaborarea strategiei de aciune; realizarea unor aplicri pilot (la nivel instituional, local etc.); evaluarea impactului; aplicarea la nivel naional, eventual treptat, pe componente, a strategiei; monitorizarea i evaluarea efectelor. Metodele neexperimentale pot fi exloratorii sau descriptive. Cele exploratorii se concentreaz pe identificarea principalelor variabile (influene) n aplicarea unei politici, pentru a realiza evaluri mai riguroase n viitor; cele descriptive vizeaz prioritar identificarea, definirea i msurarea unor variabile cheie ale politicii, dar fr a folosi un grup de control. ntre ele, un rol important l are evaluarea teoriei subiacente politicii respective. Premisa acestui tip de evaluri este aceea c politicile se bazeaz explicit sau implicit pe anumite supoziii privind relaiile cauzale, interdependenele dintre fenomenele pe care le afecteaz acea politic. De exemplu, politicile de privatizare se bazeaz pe ipoteza c un control privat asupra bunurilor este mai eficient dect unul de stat. Teoria aflat la baza unei politici publice este un aspect al acesteia care poate fi evaluat de sine stttor. O apreciere a ei este important deoarece o politic ntemeiat pe supoziii incorecte sau slabe are puine anse s ating rezultatele dorite. Evaluarea teoriei pe care se bazeaz o politic public se poate realiza n principal n dou moduri (Rossi, Freeman, Lipsey, 1999): a) se compar intervenia pe care o presupune teoria acelei politici cu nevoile sociale de bunuri i de servicii ateptate n acel domeniu; b) se solicit decidenilor sau altor actori interesai s i exprime poziia fa de plauzibilitatea, fezabilitatea i corectitudinea susinerilor care sunt cuprinse n teoria acelei politici. Importana acestui fel de evaluare a unei politici publice este aceea c permite o nelegere mai bun a configurrii acesteia; de asemenea, ea produce o baz pentru evaluarea implementrii politicii respective i a rezultatelor produse de ea. Metodele experimentale pe care le-am menionat mai devreme sunt cantitative. Alturi de ele, un rol deosebit de important n realizarea unei evaluri l au metodele calitative. n cazul lor, interesul principal este acela de a nelege procesele, comportamentele, situaiile de fapt, aa cum sunt percepute acestea de ctre persoanele individuale sau de ctre grupurile de oameni care sunt studiai. De pild, metodele calitative permit s nelegem felul n care membrii unei comuniti percep o politic i felul n care ei sunt afectai de ea. Cele mai cunoscute metode de acest fel sunt observaia, interviul, focus grupul (a se vedea mai jos scurte descrieri ale lor). Metodele calitative au cteva avantaje importante: ele sunt flexibile, pot fi configurate pentru nevoile fiecrei evaluri n parte; pot fi realizate mult mai uor; i pot sprijini evaluarea prin aceea c furnizeaz o nelegere mai bun a prioritilor i percepiilor decidenilor, precum i a proceselor care pot afecta eficacitatea i impactul acelei politici publice. Pe de alt parte ns, metodelor calitative li s-au adus obiecii importante: mai mult dect n cazul celor cantitative, culegerea datelor are un caracter subiectiv, depinznd mult de preferinele cercettorilor. n plus, faptul c n cazul lor lipsete grupul de comparaie face ca semnificaia lor statistic s fie mai mic i s fie dificil generalizarea rezultatelor obinute la nivelul unei populaii reprezentative. Apoi, validitatea rezultatelor lor depinde mult de abilitile, experiena evaluatorilor, spre 15 deosebire de metodele cantitative, n care aspectele obiective, posibilitatea de a compara interindividual rezultatele sunt mai importante. n sfrit, metodele calitative spun mai puin despre relaiile cauzale ntre fenomenele cercetate.
Etapele realizrii unei evaluri. Odat ce s-a hotrt s se realizeze o evaluare a unei anumite politici publice, primul pas const n stabilirea cu claritate a obiectivelor acesteia i a problemelor asupra creia ea se va axa. Acest lucru e necesar, deoarece astfel evaluatorii vor avea o imagine determinat a ceea ce ateapt de la evaluarea respectiv agenia sau instituia care a comandat-o. n particular, este nevoie s se determine tipul de evaluare care va fi realizat (de pild, dac e vorba de o evaluare de eficien, de eficacitate, de program sau de impact). Un mijloc folositor de a realiza aceast lucru e acela de a ne concentra pe rspunsurile la urmtoarele ntrebri: 1. Care sunt obiectivele acelei politici? Pentru a rspunde, e necesar s se determine a) scopul strategic urmrit; b) schimbrile ateptate n comportamentul grupului int. 2. Care sunt indicatorii studiai? E necesar s fie indicai: a) indicatori generali (care descriu domeniul de aplicare a acelei politici publice); i b) indicatori specifici (de pild, indicatori de rezultat au de eficien etc.). 3. Care sunt metodele de monitorizare a politicii i de evaluare a acesteia? Pentru aceasta, se determin a) unde trebuie cutate informaiile necesare; b) cum se determin corectitudinea informaiilor existente; c) cum se monitorizeaz implementarea politicii; d) care sunt metodele de cercetare folosite etc. 4. Care sunt presupoziiile care sunt fcute n configurarea evalurii? Cel mai adesea, evalurile fac apel la valori implicite sau explicite, la misiunea pe care o asum guvernarea etc. De exemplu, evaluarea unei politici de asisten social pentru un grup defavorizat face apel la idealul general al eliminrii srciei; evaluarea unor politici educaionale de cretere a accesului tinerilor din mediul rural la educaie universitar are la temelia sa valoarea echitii sociale etc.
Etapele principale ale formulrii i realizrii unei evaluri: n timpul pregtirii evalurii: 1. Decizia dac evaluarea se va face sau nu 2. Clarificarea obiectivelor evalurii 3. Detectarea i cercetarea datelor disponibile 4. Formularea evalurii 5. Formarea echipei de evaluare 6. Dac urmeaz s fie strnse noi date: i. Eantionare ii. Construirea instrumentelor de culegere a datelor iii. Alegerea i pregtirea personalului care va culege datele iv. Testri pilot v. Culegerea datelor vi. Managmentul datelor n timpul realizrii evalurii: 7. Continuarea culegerii de date 8. Analiza datelor 9. Scrierea raportului i discutarea lui cu decidenii i alte persoane implicate 10. ncorporarea rezultatelor n formularea evalurii.
16 Detectarea i cercetarea datelor disponibile este al doilea pas sau a doua etap n realizarea unei evaluri. Pentru a realiza studii de evaluare, pot fi utilizate date de tipuri foarte diferite, att cele statistice ct i date care sunt extrase din interviuri, focus grupuri sau alte metode calitative. E important de reinut c, orict de demne de ncredere ar fi acestea, uneori ele pot ascunde aspecte importante ale realizii. Dou exemple: datele privind veniturile unei familii nu dau seam de diferenierile care se manifest n interiorul acestora: n particular, ele ascund n mare msur: faptul c femeile au venituri mai mici dect brbaii, sau faptul c n Romnia de pild aproximativ 40% din femeile n vrst de pn la 35 de ani nu au surse proprii de venit. Al doilea exemplu: cercetrile efectuate (Vlsceanu, Dima, 2000) au ajuns la concluzia surprinztoare pentru muli c studenii romni nu sunt o categorie defavorizat, care s aib nevoie de o protecie social ridicat; dimpotriv, ei provin din categoriile cele mai avantajate social n Romnia contemporan.
Tehnica Caracteristici Studii de caz Culegere de informaii n forma unor cazuri care pot avea o form descriptiv sau explicativ i servete ca rspunsuri la ntrebri de forma cum i de ce.
Focus-grupuri Discuii centrate asupra unor probleme cu membrii grupului int. Scopul este acela de a compara perspectiva beneficiarilor unei politici cu conceptele abstracte pe care le folosete evaluatorul n cercetarea sa.
Interviuri Intervievailor li se pun ntrebri, iar rspunsurile sunt notate. Interviurile pot fi formale sau informale, fa n fa sau prin telefon etc.
Observaia Observare a ce se ntmpl, cnd, cum, unde. Poate fi direct (cnd observatorul se uit i noteaz) sau participativ (cnd observatorul devine pentru un timp parte a structurii cercetate).
Chestionare Conin o colecie de ntrebri ale cror rspunsuri pot fi prelucrate.
Analiza documentelor Analiza unor documente precum baze de date administrative, materiale folosite pentru pregtirea personalului, coresponden, procese verbale etc.
Dup clarificarea obiectivelor evalurii i a informaiilor disponibile, se poate trece la etapa configurrii propriu-zise a evalurii. Contrngeri precum: inta evalurii; timpul disponibil; capacitatea de realizare efectiv de ctre evaluatori a unei cercetri complexe; bugetul evalurii au un rol important n aceast etap. n principal ele determin alegerea metodelor de cercetare. ntr-adevr, s ne gndim numai la faptul c aplicarea unor chestionare la nivel naional i preluacrarea datelor de acest gen solicit un buget ridicat. Totui, deciziile luate n acest moment nu trebuie s fie foarte rigide: desfurarea cercetrii poate impune modificri, colectarea unor noi date au aplicarea altor metode de studiu. Evalurile presupun cooperarea mai multor specialiti, fiecare cu un rol specific n cadrul echipei. De obicei aceasta este compus din un director al proiectului de evaluare, din specialiti domeniul analizei politicilor, din statisticieni, specialiti n cercetarea empiric, informaticieni. E important ca echipa s se formeze ct mai repede, fiecare mebru al ei s i cunoasc bine responsabilitile i s comunice cu ceilali. De asemenea, trebuie realizate mecanismele de cooperare dintre evaluatori i oficialii din agenia sau instituia care a solicitat evaluarea. Culegerea datelor este o etap esenial n evaluare, cci de ea depinde n mare msur validitatea analizelor. n acest moment intervin cteva decizii i activiti crudciale pentru evaluare: a) deciziile privind indicatorii care vor fi msurai (unii dintre ei necesit 17 urmrirea comportamentului grupurilor cercetate pe o perioad mai ndelungat de timp aa cum este necesar adesea n cazul evalurilor de impact); b) decizia n privina metodelor folosite i formularea instrumentelor; c) eantionarea; d) elaborarea chestionarelor (o atenie deosebit trebuie acordat tipurilor de informaii care se dorete s fie obinut prin aceast metod); e) aplicarea chestionarelor i alte forme de cercetare empiric (alegerea perosnalului cu care se lucreaz este deosebit de important); f) verificarea acurateii datelor obinute i prelucrarea lor. Analiza, elaborarea raportului i diseminarea reprezint etapele centrale ale unei evaluri. Ele presupun colaborarea strns ntre membrii echipei, n special ntre analitii politicilor i specialitii implicai n culegerea i prelucrarea datelor, precum i ntre analiti i oficialii din agenia sau instituia care a solicitat elaborarea respectivei evaluri. Accentul cade de obicei pe alegerea datelor relevante i pe interpretarea acestora. Interpretarea nu este niciodat un proces strict neutru, pur obiectiv. n cadrul ei intervin (cu mai mult sau mai puin for, direct sau nu) valorile implicite, susinute de evaluatori, convingerile lor ideologice sau chiar politice. De aceea, n aceste etape comunicarea dintre ei i ali actori implicai n acea politic este esenial pentru a clarifica punctele de vedere sensibile. Cteva caracteristici ale acestor etape ale elaborrii unei evaluri merit s fie menionate: a) n funcie de experiena evaluatorilor, de felul n care este structurat echipa, de colaborarea cu decidenii, evaluarea poate s dureze mai mult dect a fost anticipat; b) rezultatele evalurii trebuie s fie difereniate n funcie de destinatar: ceea ce apare ca foarte important pentru un cititor din lumea universitar poate s nu fie la fel pentru altul din pres sau pentru decidenii politici: de aceea este nevoie s se produc mai multe materiale care cuprind rezultatele activitii; c) legat de acest fapt, evaluatorii trebuie s i formeze o strategie de diseminare a rezultatelor, prin conferine, comunicate i conferine de pres, publicarea lor (inclusiv pe web); d) raportul trebuie s includ un sumar foarte clar, n care s fie prezentate: 1) principalele recomandri; 2) prioritile; 3) implicaiile bugetare; 4) consecinele neaplicrii acelor recomandri.
ntrebri i aplicaii
1) Care sunt valorile care influeneaz evaluarea unei politici publice? Pot intra ele n conflict? Dai exemple de astfel de situaii. 2) Cum difer monitorizarea de evaluarea propriu-zis a unei politici publice? 3) Care sunt funciile monitorizrii? 4) Care sunt aspectele unei politici publice care pot fi monitorizate? 5) Care sunt funciile evalurii unei politici publice? 6) Distingei ntre conceptele de eficacitate i de eficien. 7) Prin ce difer nelegerea actual a rolului evalurii de perioada anterioar? 8) Care sunt raiunile care fac ca o politic public s fie supus procesului de evaluare? 9) Cum poate fi utilizat evaluarea n sens politic? 10) Care sunt modalitile de utilizare a rezultatelor unei evaluri? 11) Ce este metaevaluarea? Ce face ca o evaluare s fie bun ? 12) Care sunt formele evalurii administrative? 18 13) Distingei ntre evalurile de impact i cele de eficacitate; ntre evalurile de impact i cele de proces. 14) Cum se caracterizeaz evaluarea juridic? 15) n ce fel difer evaluarea politic de cea administrativ i juridic? 16) Care sunt caracteristicile metodelor experimentale folosite n evaluarea unei politici publice? 17) Care sunt caracteristicile metodelor neexperimentale folosite n evaluarea unei politici publice? 18) Ce critici se pot formula la adresa metodelor experimentale folosite n evaluarea politicilor publice? 19) Care sunt principalele etape ale realizrii unei evaluri? 20) Care este rolul analistului politicilor n realizarea unei evaluri?