Documente Academic
Documente Profesional
Documente Cultură
POLTICAS PBLICAS
FORMULACIN, IMPLEMENTACIN Y
EVALUACIN
Ediciones
Aurora
ANDR-NO.L. ROM
134
POLITICAS PBLICAS
CAPTULO V
LA EVALUACIN DE LAS POLTICAS PBLICAS
I. EL SENTIDO DE LA EVALUACIN
POLIT7C.A1 PC11311C.AS
ANDR4\TOPL ROTH
reemplazar la primaca de los medios por la primaca de los objetivos, con el fin de lograr una mayor eficacia y eficiencia de la
accin pblica (Muller,1990:116; Chevallier, Loschak,1982:57). Este
nuevo enfoqiie -Va a abrir un campo amplio al concepto y a las
prcticas de evaluacin.
Sin embargo, el desarroll de la evaluacin de polticas -pblicas no encuentra su legitimacin nicamente en las deficienciaidel Estado, sino tambin en el hecho de que los problerhas" que . .ste- -busca resolver, controlar o mitigar por medio de sus acciones
pblicas, son siempre ms complejos e inciertos en cuanto a medios, resultados y efectos. Basta pensar en la complejidad de los
problemas ambientales o de las manipulaciones genticas. Con frecuencia, aunque no se admita fcilmente, el Estado tiene que andar
casi a tientas. La actividad evaluadora permite entonces al Estado
y a los gobernantes, y tambin a los ciudadanos, disponer de una
mayor informacin acerca de las consecuencias de sus d ecisionesy
acciones. Un Estado responsable no puede tomar decisiones sin
tener un mnimo de inters por las consecuencias que stas conllevan ms all del corto plazo. .En este captulo, luego de definir
mejor el concepto de evaluacin de polticas pbligas, se van a
indicar los principales tipos de evaluacin, para lueg terminar
con la presentacin de un modelo de evaluacin pluralista.
2. DEFINIR LA EVALUACIN
Avrxt-NoaROTH
(legtimo) de actividades, sino con la de intrusin y hasta de instrumento e represin. Ponlo general es cierto que la prctica de la
evaluacin tiene un aspecto ms que todo vertical, cuantitativo,
administrativo y directivo, tendiente a justificar una sancin. De all
se deriva, parcialmente por lo menos la actitud comn de resistencia a la idea de evaluacin, por un lado, y, del otro, el comportamiento del ritualismo frecuente en la funcin pblica, es decir,
de apego burocrtico al reglamento por temor a una 'eventual sancin. Y, por cierto, la evaluacin es una actividad fundamentalmente normativa. Los evaluadores dificilmente pueden actuar por
fuera de sus valores, normas y percepciones propios de los
solicitantes' de la evaluacin. As que los criterios de evaluacin
seleccionados nunca sern reconocidos como pertinentes por todos los actores sociales. Tanto los criterios seleccionados para evaluar la accin pblica como la accin pblica en s son objeto de
controversia. Por eso es fundamental entender que la evaluacin es
posible slo en la medida en que su sentido, as como la escala de
valores utilizada, se encuentren enunciados con la mayor claridad
posible. En caso contrario, la evaluacin no es ms que una expresin de arbitrariedad dificilmente aceptada por los actores de la
accin pblica evaluada.
Pero la evaluacin es tambin un instrumento valioso e indispensable para conocer y mejorar las acciones pblicas. Inicialmente la evaluacin se desarroll como un instrumento de medicin
de la eficacia de las polticas pblicas en el marco del movimiento
de racionalizacin de las elecciones presupuestales (el famoso
PPBS en ingls o RCB en francs, ver ms adelante y en el captulo
(Chevallier, 1991:43). Posteriormente, en el mbito de las polticas pblicas, este enfoque inicial se ampli. Se puede observar
138
PC51.171CAS PBLICAS
PoLtricAs PBLICAS
ANDR-NOL RoTH
nas fueron sustituidas por enfoques que hacen nfasis en la necesidad de integrar los puntos de vista, no solamente de los diversos
expertos, sino tambin de los actores involucrados. En este contexto, al pluralismo de los expertos, ya reconocido por el Informe
Viveret, se suma tambin el pluralismo de los actores. Significa que
es necesario tener en cuenta la evaluacin hecha por los actores
sobre sus propias actuaciones y a partir de sus percepciones. Implica que la relacin entre investigadores y actores investigados
debe inscribirse en un proceso que permita mediante el debate y
la participacin activa un aprendizaje colectivo (autoevaluacin,
evaluacin endoformativa 3) o ajustes en el curso de la implementacin mediante la negociacin y la discusin con los actores
(evaluacin dinmica o continua).
Por lo tanto, y segn la definicin propuesta por Vuille al
referirse particularmente al caso de la evaluacin de programas
sociales, "la evaluacin es un proceso (temporalidad) y una mezcla que retorna elementos tanto del pensamiento cientfico como
de la accin, tanto de los saberes tericos como de los saberes
empricos. Por eso .su metodologa tiene que responder a criterios de validez y de fiabilidad tanto frente a la ciencia corno a la
accin. La auto y la heteroevaluacin, de manera ideal, deben ser
conducidas conjuntamente para nutrir la reflexin de los actores
involucrados en los estados pasados, presentes y futuros de su
organizacin. Apuntan a cualificar la experiencia. No se trata de
evaluar las capacidades individuales de la gente, sino los recursos
y las capacidades sociales aprendidas, organizadas y coordinadas adquiridas por el conjunto de los actores para la realizacin
de un proyecto colectivo".
(1999:169-170) describe la actividad de evaluacin como "la apreciacin razonada de las acciones definidas e implementadas por las autoridades
pblicas para su contribucin al tratamiento de los problemas pblicos que
ellas han identificado y que requieren de su intervencin. Esta apreciacin
interviene con base en un conocimiento profundo, tanto/de las consecuencias
que estas acciones inducen corno de los procesos que las producen".
4 Duran
141
Cfri
aLNV xa NODVITIVAH VI
-DE
VS0(f
.51-91-111d SVDLLrlOcr
Zfrl
Nr9Dva1Vit3 3Q soawc
uuzrivai anb sapuplArne sui anos pipo
un xzwaa ap puprirqrsuodsax Er opyr ap xutap uapand ou souxarcio8
soi compity xod !sauoppu sns E opredsm p xin2asuo3 al) ug p .uoa
so3ricind sns UO3 .1T2omp `Ip4119Illran U9I3MU.10311! t'un ira 9SEC1
UOD iunridxa und avnuntaai ap u9pdriqo yr urqunn uauap soppyin
-oulap soDpTiod sauaulax
!sexturg sattopau stri aiqrsod W131193B
syui ot ExauEUZ ap sexatuupurg tiEd BDIRS1d 1191.3DV Ei Jod soppnp
- sarupos sosaDozd soi UOD usud anb oi Japtia.Jiawap xunn uacpp
souzarq2 soi 'xuloztuop senrunutop `zapuaJduion :soatipodrual
-uon soppynotnap souzarq92 sol ap solm sarudpupd saz' soi re=
-ua usad uluarurunati vun arupsuop supriqrtd suzgriod ap u9punruAa
Ira
Ei tLI -OLI :6661) Mina IMI9S I OUIOD
JEZprIE apua4aJd anb
uoriqtyd u9pnt Ei ap oppriod 01X9JUOD pp Judepsa apand ou u9p
-unruAz Er anb Jpap s'a .(sopuniu2sa sazopunivAa) sopunnioAur
Fuou-raolv--?li
ANDR-Non, Roer
En el conjunto de herramientas para evaluar el impacto legislativo ex ante, se encuentra tambin el mtodo experimental. Ante la
incertidumbre de los efectos que podra generar una poltica determinada, sta se implementa de manera experimental sobre un
grupo restringido de la poblacin, una ciudad o un departamento.
El impacto es entonces analizado y segn los resultados se toma la
determinacin de generalizar la poltica para todo el pas, abandonarla o realizar ajustess .
Otro ejemplo de uso de la evaluacin ex ante lo encontramos
en el rea siempre ms amplia de los proyectos de desarrollo. Los
organismos financieros (BID, FMI, ministerios, etc.) solicitan la
realizacin de una evaluacin de factibilidad, como requisito para
tomar la decisin de financiar o no un proyecto especfico presentado por una institucin ejecutora. En estos casos los organismos
analizan en especial la pertinencia y la consistencia interna de la
propuesta, la consistencia entre el contexto y los beneficiarios, la
coherencia entre las metas y objetivos esperados y los medios y
recursos previstos, la adecuacin del presupuesto, la filosofia que
se quiere favorecer, entre otros aspectos.
En un campo vecino al anterior se encuentra la evaluacin de
impacto, la cual es utilizada ya usualmente para las obras de infraestructura y proyectos de alguna importancia como vas, aeropuertos, represas, etc., siempre con el objetivo similar de facilitar la
ANDR-Noa, RoTH
cado un desarrollo im ortante de la evaluacin ex ante en este campo. Hoy, numerosos pases han establecido la obligatoriedad de e ectuar una Evaluacin de Impacto Ambiental (ETA) para obtener una
autorizacin de ejecucin para los proyectos que pueden afectar el
medio ambiente. La ETA consiste en un examen de los posibles
impactos ambientales de una accin o proyecto, destinado a facilitar
una decisin por parte de los responsables polticos. Gmez Orea
(en Figueroa Casas y al., 1998:58) define la EIA como "un procedimiento de anlisis, ms o menos largo y complejo, encaminado a
formar un juicio previo, lo ms objetivo posible sobre la importancia de los impactos ambientales de una accin humana prevista y la
posibilidad de evitarlos o reducirlos a niveles aceptables". Existe una
gran variedad de metodologas (ver Figueroa Casas y al., 1998) para
tratar de predecir los impactos ambientales de los proyectos y de
sus posibles alternativas y as prever medidas de mitigacin o renunciar al proyecto.
Estas metodologas tienden a presentarse como una herramienta
cientfica, basada en las ciencias naturales, con un alto grado de
sofisticacin tcnica y de simplificacin de la realidad a travs de
matrices. La gran cantidad de variables y de interacciones posibles
que entran en consideracin, y la tendencia a usar ms que .todo
indicadores cuantificables, no es, sin embargo, una garanta real de
objetividad. En efecto, tanto antes como durante los procesos de
evaluacin, los mltiples momentos en los cuales los evaluadores
deben jerarquizar preferencias, realizar arbitrajes entre criterios,
resolver problemas de mensurabilidad, seleccionar indicadores y
mtodos, asignar ponderaciones a los indicadores, etc., reintroduce,
sin duda, elementos de subjetividad en los resultados de la evaluacin'. Esto quiere decir que a pesar de los esfuerzos para lograr el
Adems, el sector ambiental, por su complejidad, no escapa a las dificultades prcticas sealadas por Herbert Simon en cuanto a la informacin incompleta y a las limitaciones de tiempo y de recursos que conducen a escoger
la primera solucin satisfactoria desde el punto de vista del decisor (ver
captulo III).
146
Pozncispnau
147
POLTICAS PBLIC4S
el margen) por otros valores, se trata de una meta, en caso contrario es una
restriccin --autoimpuesta. (Majone, 1997:127).
11 Idea que tanto los socialistas utpicos (capaces de anticipar) del siglo
XIX como los contemporneos, lograron condensar en una reivindicacin
paradjica: "Sean realistas: exijan lo imposible!".
148
ANDR-NOPI-Rcfrx
POL1TICAS PBLICAS
150
ANDR-Noar., ROTH
Segn el inters que motiva a los evaluadores (o a sus solicitantes) se pueden distinguir varios tipos de evaluacin. Una de las
distinciones ms conocidas y tiles consiste en diferenciar las evaluaciones segn dos finalidades principales. Si el objetivo de la evaluacin es informar a los propios actores de un programa para
que stos puedan modificar sus acciones para mejorar y transformar dicho programa, entonces se habla de una evaluacin
endoformativa. Si la finalidad de la evaluacin es informar al pblico
en general o a actores externos sobre un programa en particular
para que se formen una opinin sobre su valor intrnseco, entonces se habla, en-este caso, de una evaluacin recapitulativa (summative
evaluation).
La evaluacin endoformativa busca ayudar a los responsables
de un programa. En cambio, la evaluacin recapitulativa es til
para los proveedores de recursos que deben tomar la decisin de
seguir o parar el apoyo a tal o cual programa y, tambin, para
otros actores que proyectan eventualmente implementar un programa..Similar en otro lugar (Monnier, 1999:112). Histricamente
son las limitaciones intrnsecas de las evaluaciones recapitulativas
centradas ms que todo en el programa mismo las que han
conducido al desarrollo de concepciones endoformativas para la
evaluacin. Estas ltimas toman en cuenta no slo el valor del
programa como tal, sino que evalan adems el contexto o entorno del programa. Este aspecto de la evaluacin es particularmente
importante cuando el objetivo es de implementar programas
novedosos en contextos locales diferentes. Un programa nuevo o
experimental puede dar excelentes resultados en la ciudad X, pero
puede fracasar en otra ciudad debido a que el contexto es diferente. Es el problema clsico de las transferencias de soluciones tcnicas, administrativas o polticas que se aplican sin tener en cuenta las
diferencias de contextos existentes culturales, sociales, econmicos, ideolgicos, etc. entre el lugar de creacin de un programa y
su implementacin en otro.
El cuadro 1-y indica las principales caractersticas de las evaluaciones cuando se trata de la creacin de un nuevo tipo de pro152
grama y en el caso de la implementacin de un programa ya existente en un contexto diferente. Realizar una evaluacin, antes de
tomar la decisin de implementar
un nuevo programa, perynitira
seguramente ahorrar recursos y evitar posteriores problemas
(Monnier, 1998:114).
1-V.- CARACTERSTICAS DE UNA EVALUACIN
SEGN SUS FINALIDADES
EPT9 0A,~",4,
ettvost
,
51114,<P,Tt4.470"
Certifical
delimitacin del
" campo: de:''
aplicacin de la
innovacin
De stintarios:
RespottabIes
naCionaes,I .
Responsables
locales inteesadospor la irinotacin.
er, (1998:114). Adaptacin A. Roth
Fuente: Monnier,
3.2.2. MODOS DE EVALUACIN
POLTICAS PBLICAS
Otros autores distinguen de otra manera las diferentes modalidades de concebir la evaluacin. Por ejemplo, Nioche (1982a) propone
cinco niveles de evaluacin: evaluacin a nivel de medios, de resultados, de impactos, de eficiencia y de satisfaccin (ver cuadro 3-V).
P01477c As PCILICAS
ANDR-NO.L ROTH
3- .- Los
ACTORES
NIVELES DE EVALUACIN
OUTPUT
'- EV4LTJACIN
Pblico
Satisfaccin
Necesidades
Problemas
Medios
Decisores
polticos
Objetivos
Programa de -accin
Medios 4
. I
Sistema
administrativo
Resultados
Realizaciones
Grupos
objetivos
Otros
grupos
Im p acto s
Eficiencia
Efectos previstos y
efectos no
previstos
J.
ANDR-NaaL KWH
POLtI7CAS PBLICAS
finalidad es determinar el grado de eficiencia del dispositivo creado para el programa. Con este tipo de evaluacin se obtiene una
descripcin muy valiosa de los hechos ocurridos durante la
implementacin, pero, sin embargo, no explica por qu se produjeron estos hechos. Se utilizan a menudo los modelos costos-eficacia y costos-beneficios, esta vez en un contexto ex post.
158
do a partir de observaciones concretas basadas en normas y valores (Meny, Thoenig, 1992:212). En su trabajo, el experto utiliza las
herramientas cualitativas y cuantitativas que ofrecen las ciencias sociales. Desde hace algunos aos existe un cierto desarrollo de institutos pblicos y privados especializados en la realizacin de todo
tipo de evaluaciones. Es de anotar que el desarrollo satisfactorio
de la evaluacin como actividad profesional depende de que se
cumplan algunas condiciones preliminares como:
- "una relativa independencia de los organismos de evaluacin frente a los solicitantes para permitir el ejercicio crtico y responsable (...);
- Una capacidad pluridisciplinar de los evaluadores;
- Una transparencia suficiente de la informacin administrativa que
permita el acceso a las fuentes;
- Una pluralidad .de rganos de evaluacin que permita la emulacin entre expertos y su utilizacin por los decisores (...)" (Monnier
en Meny, Thoenig, 1992:213),
- Una garanta de publicidad y de acceso a los resultados e informes (Monnier, 1997).
Existen tres modalidades de evaluacin segn la posicin de
los evaluadores: la evaluacin externa (heteroevaluacin), la evaluacin mixta (pluralista, mltiple) y la evaluacin interna
( autoevaluacin). La primera, la evaluacin externa, corresponde
al modelo clsico de la contratacin de expertos externos a la entidad y al programa que se pretende evaluar. Otra posibilidad,
cercana a la anterior pero con objetivos generalmente diferentes,
consiste en la realizacin de la evaluacin por especialistas de la
misma administracin cuya funcin es el seguimiento y control de
la actividad de la administracin por ejemplo, oficina de planeacin,
control interno, contralora.
Para responder a la limitacin inherente a este tipo de evaluacin realizada por personas externas al proceso a evaluar (ver arriba), se desarroll la modalidad de evaluacin mixta que consiste
en conformar uno o varios equipos de evaluadores en los cuales
participan tanto expertos externos como ejecutores del programa
y beneficiarios. Para finalizar, la evaluacin interna o la autoevaluacin consiste en la realizacin de la evaluacin por los ejecutores
y beneficiarios mismos del programa (ver cuadro 4-V).
159
POLtlICAS PBLICAS
ANDR-Nom.. Rom
A. Roth
13
ANDR-NOL ROTH
y beneficiarios involucrados ms que por la realizacin de objetivos explcitos fijados a priori. El objetivo de la evaluacin ya no
consiste en encontrar la mejor solucin o la ptima desde el punto
de vista tcnico, sino la ms satisfaciente segn el contexto (en
el sentido de Simon, ver captulo III). La evolucin del contexto
en el cual estn inmersos tanto el programa como los actores y las
experiencias individuales y colectivas de los actores y beneficiarios
implican que stos tienden a cambiar sus aspiraciones frente a las
realizaciones del programa. Por eso, la evaluacin como ayuda
Para los decisores es an ms necesaria en un contexto incierta e
imprevisible porque la estabilidad y el carcter concreto de los
objetivos son menores. De hecho una evaluacin pluralista tiende
a ser endoformativa.
4.2. UN DISPOSITIVO PARA LA EVALUACIN PLURALISTA
POLiTICAS PBLICAS
cualitativos de los expertos externos sobre la realidad de los procesos internos de la organizacin sometida a evaluacin.
Si, como lo considera Monnier (1998:111), la "utilidad social
de una evaluacin depende de las condiciones de apropiacin de
las conclusiones por parte de los actores sociales a los cuales est
destinada", entonces toma especial importancia la relacin de
confianza y de colaboracin que se establece entre evaluadores y
evaluados.
Esta relacin es necesaria para facilitar un proceso de transformacin de las ideas, como paso inicial a la aceptacin de un cambio y a su implementacin. Entonces, es preferible excluir la
participacin de expertos externos? Monnier (1998:110, 116) estima, sin embargo, que no es la mejor solucin, porque al eliminar
una participacin externa al programa evaluado es muy probable
que para los actores externos se disminuya la credibilidad de la
evaluacin. En efecto, siempre va a existir el riesgo de que la evaluacin se transforme en, o se perciba como, una evaluacin que
busca nicamente justificar o ensalzar una actividad, una gestin o
una organizacin (evaluacin pro domo).
Es precisamente para salir de esta doble dificultad que Monnier
defiende la realizacin de evaluaciones pluralistas. A ttulo de ejemplo, a continuacin se presenta el dispositivo que propone este
autor para la realizacin de este tipo de evaluaciones. Es posible, a
partir de este modelo general, imaginar dispositivos apropiados a
cada situacin particular.
Monnier (1998:116ss) recomienda la constitucin de un dispositivo idneo (cuadro 5-V) para llevar a cabo una evaluacin
endoformativa que se constituye como un verdadero lugar de
negociacin entre los diversos actores involucrados.
El elemento central de esta propuesta metodolgica descansa en la creacin de una estructura ad hoc temporal llamada instancia de evaluacin y conformada por los diversos protagonistas del
programa. La conformacin de esta instancia es delicada en la
medida en que los participantes deben ser personas que dispongan
de tiempo y acten de buena fe. Adems, deben estar dispuestas a
dialogar y tener la voluntad y el inters de reflexionar colectivamente y no imponer puntos de vista de manera intransigente).
163
POLITIC4S PBLICAS
ANDR-NOEL ROTH
rente compartido;
Solicitantes
Financiacin
--->
Instancia de
evaluacin que incluye
destinatarios y actores
de la accin
Metodologa
Informe
pblico
Interpretacin
Recoleccin
de
informacin
Contrato
Equipo
encargado de la
evaluacin
164
165
QuVrc.As PBLICAS
.ANDR-Noa.Rom
- El estmulo al cambio social, a partir de la confrontacin constructiva de los valores y de los anhelos que existen en los diversos
sectores de la sociedad, y a partir del descubrimiento y encuentro
de capacidades creativas.
Para terminar este recorrido en el terna de la evaluacin de las
politicas pblicas es preciso recordar que la evaluacin sigue siendo ante todo un proceso poltico, lo cual quiere decir que la prctica de la evaluacin no est exenta de situaciones de arbitraje entre
concepciones divergentes. Participa de este proceso poltico la eleccin entre sistemas de clasificacin, de referentes, de conceptos, de
teoras, de modelos o de puntos de vista seleccionados o descartados. En este sentido la evaluacin es parte de la contienda poltica,
rehusar a reconocerlo sera engaoso e intentar escapar a esta dimensin significara renunciar a esperar de la evaluacin una cierta
utilidad social. Por eso a la hora de lograr un efecto positivo, la
legitimidad de la actividad evaluadora y de sus conclusiones entre
los protagonistas cobra ms importancia que la rigurosidad o la
objetividad de resultados a la cual pretenden llegar los expertos.
Para terminar, nada expresa mejor esta reflexin que la pregunta
formulada por jobert y Warin (citados en Monnier, 1998:122):
"Si las polticas pblicas no se hicieron para los expertos ni para
los polticos, no sera ms preciso evaluarlas a partir de los criterios
de juicio de los destinatarios de stas?"
CAPTULO VI
ESTADO Y CAMBIO DE POLTICA PBLICA:
UNA APLICACIN DEL MODELO
ADVOCACY COALITIONS
1. PRESENTACIN
El anlisis de las polticas pblicas es una disciplina que permite adquirir conocimiento sobre el Estado mismo a partir del
anlisis de sus actuaciones concretas. El objetivo del estudio de
caso que presentamos a continuacin ha consistido en proponer
un anlisis del Estado que parte de la puesta en evidencia de las
condiciones y de las colcciones que pesan sobre la formulacin y
los cambios en las polticas pblicas. El estudio se realiza para el
caso de la poltica ambiental en Colombial.
Por su complejidad en trminos de dominio de saberes, de
conflictos de intereses, de diseo de instituciones y de polticas
pblicas, se considera que la poltica ambiental es una excelente
reveladora de la naturaleza del Estado. La temtica ambiental permite mostrar cmo una nueva problemtica ha sido abordada e
integrada por el sistema poltico de un Estado en desarrollo. La
evolucin de las relaciones entre el Estado y su ambiente natral
durante el siglo XX es indicadora de los cambios ocurridos en los
167