Sunteți pe pagina 1din 22

Programación y evaluación pública:

un triángulo complejo

76
El desarrollo teórico de la evaluación de políticas públicas se ha centrado en la elaboración de he-
rramientas y metodologías de análisis de programas y proyectos aislados. Los programas públicos
actuales están caracterizados por lo que podría denominarse «un triángulo complejo de relacio-
nes» donde se encuentran la múltiple dimensión sectorial que pretende cubrir las intervenciones
públicas de esta naturaleza, la heterogeneidad y multiplicidad de los implicados en un programa y
las diferentes escalas administrativas encargadas de la gestión y ejecución de las actuaciones y su
estructura política. Además, la interrelación entre estos tres elementos añade más complejidad al
objeto de la evaluación. Con la intención de mostrar la naturaleza compleja del enfoque de evalua-
ción, en este artículo se han seleccionado dos casos de estudio: la evaluación de la Iniciativa Co-
munitaria Equal en Andalucía y la evaluación de la política municipal de vivienda en Sevilla.

Politika publikoen ebaluazioaren garapen teorikoak programa eta proiektu isolatuak aztertzeko bi-
tarteko eta metodologietan jarri du arreta. Egungo programa publikoek «harremanen triangelu kon-
plexua» delakoa dute ezaugarri; bertan daude honelako esku-hartze publikoak babestu nahi dituen
askotariko dimentsio sektoriala, programa batean inplikatutako alderdien heterogeneotasun eta
anizkoiztasuna eta jardunak kudeatu eta betearazteaz eta egitura politikoaz arduratzen diren admi-
nistrazioko eskalak. Gainera, hiru osagai horien arteko erlazioak are konplexuago bihurtzen du eba-
luazio-gaia. Artikulu honetan bi aztergai aukeratu dira, honelako ebaluazio-ikuspegiaren konplexuta-
suna azaltzeko asmoz: Europako Erkidegoaren Equal ekimenaren ebaluazioa Andaluzian eta
udalaren etxebizitza-politikaren ebaluazioa Sevillan.

The theoretical development of the public politics evaluation has been centred on the elaboration
of tools and methodologies of analysis of isolated programmes and projects. The present public
programmes are characterised by what could be called «a complex triangle of relations» where
are encountered the multiple dimension relating to a sector that pretend to cover the public
supervision of this nature, the heterogeneous nature and the multiplicity of the concerned in a
programme and the different administrative scales in charge of the management and the fulfilment
of the actions and its politic structure. Moreover, the interrelation between these three elements
adds more complexity to the object of the evaluation. With the aim to demonstrate the complex
nature of the evaluation, it has been selected in this article two cases of study: the evaluation of
the Equal Initiative Community in Andalusia and the evaluation of the municipal politics of housing
in Seville.

Ekonomiaz N.o 60, Vol. I 3er Cuatrimestre, 2005.


José Luis Osuna Llaneza
Carmen Vélez Méndez
Ana Cirera León
Juan Murciano Rosado
Universidad de Sevilla
Instituto de Desarrollo Regional
77

ÍNDICE

1. Distancia entre los retos teóricos y prácticos de la evaluación de políticas públicas


2. Una relación triangular compleja
3. La interacción sectorial de las políticas públicas
4. La multiplicidad y heterogeneidad de los agentes clave de una política
5. Los niveles administrativos de las políticas públicas
6. Los sistemas de evaluación: una realidad a mejorar
7. De la destilación en cascada a la generación de un sistema de evaluación
Referencias bibliográficas

Palabras clave: evaluación, seguimiento, participación, política, vivienda, iniciativa comunitaria Equal

N.º de clasificación JEL: O2

1. DISTANCIA ENTRE LOS RETOS co-social y por la diversidad y heteroge-


TEÓRICOS Y PRÁCTICOS DE LA neidad de actores involucrados.
EVALUACIÓN DE POLÍTICAS
Sin embargo, la realidad del proceso
PÚBLICAS
político y de toma de decisiones presenta
una configuración bien distinta a la de
Los desarrollos teóricos y empíricos en
planes aislados e individuales; los pro-
materia de evaluación de políticas públi-
gramas que se diseñan y ejecutan enca-
cas se han centrado fundamentalmente
jan en la agenda política como una pieza
en aportar herramientas y soluciones me-
de un puzzle que persigue, o al menos
todológicas a la evaluación de proyectos
así debe serlo a priori, objetivos comunes
concretos, considerados de forma indivi-
y más amplios que están intrínsecamente
dual y aislada. Así, la literatura existente
relacionados entre sí.
tiene pocas referencias sobre la evalua-
ción de políticas y programas más com- Si bien este problema de correlaciones
plejos caracterizados por ser de naturale- entre programas se ha venido cubriendo,
za intergubernamental, provocar impactos al menos en los países donde se han reali-
en distintas esferas del ámbito económi- zado evaluaciones como respuesta a las

Ekonomiaz N.o 60, Vol. I 3er Cuatrimestre, 2005.


José Luis Osuna Llaneza - Carmen Vélez Méndez - Ana Cirera León - Juan Murciano Rosado

obligaciones reglamentarias de los proyec- co programático en el que se circunscri-


tos financiados por la Comisión Europea1, be la actuación.
cuando se transfiere el análisis del ámbito
Así lo han puesto de manifiesto los be-
de los fondos estructurales a otros campos
neficiarios en diversas encuestas que he-
la cuestión se hace más compleja.
mos realizado en el Instituto de Desarrollo
Y esto es así puesto que el análisis de Regional (IDR) para valorar el impacto de
sinergias que se ha venido exigiendo en las actuaciones públicas, en materia de
las evaluaciones de los programas finan- comercio, vivienda, autoempleo y aero-
ciados con fondos europeos no responde náutica, entre otras. En estas encuestas
a las necesidades evaluativas de otros se corrobora el desconocimiento de la
programas complejos actuales. Estos es- imbricación de las ayudas en su marco
tudios de sinergias se han basado, casi de planificación superior (Plan Integral de
exclusivamente, en valorar la coherencia Comercio Interior de Andalucía; Plan An-
entre los objetivos propuestos por dife- daluz de Suelo y Vivienda, etc.) y sobre el
rentes programas bajo un esquema meto- órgano que denegaba u otorgaba la ayu-
dológico un tanto encorsetado y de esca- da. Para ellos, frente al entramado buro-
sa utilidad para la toma de decisiones, crático disperso, el responsable último es
puesto que en ocasiones esos análisis único, y normalmente está centralizado
han consistido en la elaboración de un en el gobierno regional.
checklist de complementariedad más que
Todo ello viene lógicamente explicado
en la búsqueda de las causas del funcio-
porque en una estrategia de desarrollo
namiento de los procesos implícitos en
regional la planificación debe apoyarse
los programas.
en diferentes medidas bajo el paraguas
Cuando lo que se evalúa es una políti- de un programa de gobierno integral que
ca nacional o regional en sentido amplio, además, en el caso andaluz, forma parte
donde intervienen distintas unidades ad- de un programa tripartito de negociación
ministrativas con distintas competencias y consenso entre los dos sindicatos más
y con capacidad de decisión diferentes, representativos, la patronal y el gobierno.
la evaluación de las interrelaciones entre Por otra parte, tampoco se hacen es-
los diferentes programas elaborados por fuerzos tendentes a clarificar y difundir a
el gobierno se convierte en una tarea in- la población beneficiaria el contenido y
soslayable. Aún más cuando el beneficia- contexto de los programas en los que se
rio de la política concibe al programa insertan las ayudas que se conceden y
como un elemento más de lo que su go- de los fines perseguidos. Cuando se
bierno debe ejecutar, y no como una uni- anuncian los programas se hace en el
dad de programación independiente. De marco de un discurso político en el que
hecho, en ocasiones, el beneficiario últi- no se especifica claramente ni la estrate-
mo de las actuaciones no conoce el mar- gia de actuación ni las sinergias con
otros planes.
1 Lo que los sitúa en la primera fase de construc-
Además, los intentos por reunir en un
ción de la capacidad evaluativa según la clasifica-
ción que resultó de la investigación realizada por el
solo programa todos los frentes que en
MEANS. una misma materia se llevan a cabo en
Programación y evaluación pública: un triángulo complejo

un territorio han añadido complejidad no mercados. Como consecuencia de ello,


sólo al diseño y gestión de las interven- los procesos de descentralización en la
ciones sino a sus evaluaciones. Por ejem- toma de decisiones se generalizan dentro
plo, este es el caso de la Iniciativa Comu- de los estados más modernos.
nitaria Equal, que ha pretendido aglutinar
Lo que descriptivamente tiene una cla-
en un partenariado estratégico a todos
ra lógica interna para el sistema, desde el
los agentes con competencias e intere-
punto de vista de la aplicación de las po-
ses en la promoción de empleo a escala
líticas y programas y/o actuaciones públi- 79
local.
cas, provoca un conflicto en términos de
Por todo ello, encontramos que el mar- descentralización frente a coherencia que
co metodológico actual no es lo suficien- coloca a la evaluación como elemento
temente flexible y amplio como para dar para justificar la primera, en aras a una
respuestas satisfactorias a cuestiones re- mayor eficiencia, sin que se desvirtúe el
lacionadas con la evaluación de progra- sentido de la segunda.
mas donde las redes de interacción y es-
tructuras deben ser necesariamente El caso de la Unión Europea y sus rela-
analizadas, valorando su contribución a ciones con los Estados miembros, y el de
los procesos de gobernanza y a la poten- éstos con sus respectivas regiones y/o
ciación de las organizaciones y territorios entidades locales, son paradigmáticos.
y de las políticas que se llevan a cabo. En efecto, sin la política monetaria, como
consecuencia de la creación de una
Con la intención de mostrar la naturale- unión económica y monetaria y el mayor
za compleja del enfoque de evaluación a grado de integración supranacional al-
este tipo de realidad, en este artículo se canzado en toda la historia de la humani-
han seleccionado dos casos de estudio: dad, y con la política fiscal condicionada,
la evaluación de la Iniciativa Comunitaria todo el andamiaje institucional del viejo
Equal en Andalucía (2001-2002) y la eva- Estado se resiente.
luación de la política municipal de vivien-
da en Sevilla. Así, los gobiernos nacionales, regiona-
les y locales tienden a hacer suyas las
políticas, programas y actuaciones públi-
2. UNA RELACIÓN TRIANGULAR cas sectoriales que, además, la percep-
COMPLEJA ción ciudadana así lo manifiesta. En defi-
nitiva, quieren diseñar de manera
El cambio en el modo de producción autónoma las actuaciones con fondos de
que dentro del sistema capitalista se está terceros y esa contradicción se vuelve in-
dando desde la última década del siglo salvable cuando desde lo sectorial (sec-
XX no sólo tiene como manifestación su tores productivos, cooperación exterior,
carácter planetario, el ser económica- sanidad, educación, etc.) se pretende
mente muy dinámico y producir un amplio dar satisfacción a las necesidades colec-
grado de exclusión social, sino que tam- tivas, la mejora en la distribución de la
bién exige un nuevo marco institucional renta y el pleno empleo que, obviamente,
dirigido por la necesidad de una mayor tienen un carácter finalista del que care-
dimensión cualitativa y cuantitativa de los cen las anteriores.
José Luis Osuna Llaneza - Carmen Vélez Méndez - Ana Cirera León - Juan Murciano Rosado

La única salida está, pues, en la de- 3. LA INTERACCIÓN SECTORIAL DE


mostración de la eficiencia y eficacia en la LAS POLÍTICAS PÚBLICAS
gestión, análisis que debe hacer la eva-
luación, pero que inevitablemente tendrá Cuando la Administración desarrolla po-
que hacerlo asumiendo tal complejidad. líticas públicas o presta servicios públicos
Nuevos tiempos exigen nuevas respues- debe hacerlo por mandato constitucional
tas desde la planificación económica y (en virtud del principio de legalidad), de
también de sus herramientas. acuerdo con normas reglamentarias o con
Los programas públicos actuales están rango de ley.
caracterizados por lo que podría denomi-
Estas políticas no se desarrollan de for-
narse «un triángulo complejo de relacio-
ma aislada, sino que son interdependien-
nes» donde se encuentran:
tes y el logro de sus objetivos está condi-
a) La múltiple dimensión sectorial que cionado por los efectos sinérgicos y
pretende cubrir las intervenciones complementarios que se logren con la
públicas de esta naturaleza. ejecución de cada una.
b) La heterogeneidad y multiplicidad El caso de la política de vivienda
de los implicados en un programa. muestra un claro ejemplo de la diversidad
c) Las diferentes escalas administrati- de ámbitos sectoriales que pueden estar
vas encargadas de la gestión y eje- afectados. En el caso de España, el ac-
cución de las actuaciones y su es- ceso a una vivienda digna es además un
tructura política. derecho reconocido en la Constitución
Además, la interrelación entre estos Española (art. 47 de la Constitución Espa-
tres elementos añade complejidad al ob- ñola2).
jeto de la evaluación. Así, la naturaleza de Además de los objetivos específicos
los impactos provocados por un plan se que los diferentes planes de vivienda han
inserta en una compleja realidad socioe- perseguido, las actuaciones de las admi-
conómica, susceptible de no ser correcta-
nistraciones se han guiado por cuatro ob-
mente captada si no se dispone de un
jetivos generales:
marco conceptual preciso que ayude a si-
tuar el instrumento frente a la problemáti- — Objetivo económico: mantener el ni-
ca socioeconómica a la que responde. vel de actividad económica y em-
La evaluación en estos supuestos re- pleo en el sector de la construcción,
quiere la aplicación de un cuerpo meto- que es un sector clave para la eco-
dológico que incorpore técnicas capaces
de medir, cuantitativa y cualitativamente 2 «Todos los españoles tienen derecho a disfrutar
el alcance de la política diseñada. El di- de una vivienda digna y adecuada. Los poderes pú-
blicos promoverán las condiciones necesarias y es-
seño de la evaluación debe, necesaria-
tablecerán las normas pertinentes para hacer efecti-
mente, incorporar la valoración de aspec- vo este derecho, regulando la utilización del suelo
tos relacionados con la incidencia, de acuerdo con el interés general para impedir la
especulación. La comunidad participará en las plus-
complementariedad y sinergias de los valías que genere la acción urbanística de los entes
planes con otras políticas y programas. públicos.»
Programación y evaluación pública: un triángulo complejo

nomía nacional (10% del VAB nacio- ción y gestión hasta su seguimiento
nal y 11% del empleo total). y evaluación.
— Objetivo social: apoyar preferente- — Medio ambiente: los proyectos dis-
mente a los colectivos con salarios ponen de un abanico de orientacio-
medios y bajos, inferiores a 3.5 ve- nes desde Equal que les encaminan
ces el Salario Mínimo Interprofesio- hacia la consideración del impacto
nal3. ambiental de sus intervenciones,
sensibilizar a favor de su protección
— Objetivo territorial: lograr la adecua- 81
y reforzar el potencial de generación
ción territorial y social entre la oferta
de empleos de futuro relacionados
y demanda de vivienda actuando en
con este sector.
las áreas prioritarias con fuertes in-
tervenciones en el sector público y — Nuevas tecnologías de la informa-
protegido. ción y la comunicación (NTIC): para
abordar una estrategia de desarrollo
— Objetivo instrumental: buscar el con-
de la sociedad de la información
senso y coordinación entre las admi-
desde Equal se recomienda concen-
nistraciones involucradas, especial-
trar los esfuerzos en la inclusión de
mente con los ayuntamientos.
las NTIC en la gestión interna de los
En el caso de la Iniciativa Equal en An- proyectos así como en potenciarlas
dalucía, dirigida a unos colectivos que se como un nuevo yacimiento de em-
encuentran fuera de los círculos sociales pleo.
tradicionales y que tienen escaso o nulo
Asimismo, el eje de actuación que se
acceso a los programas y servicios públi-
concentra en la adaptabilidad de trabaja-
cos de apoyo a la inserción y reinserción
dores y empresas ha provocado en Anda-
laboral, las medidas de política de em-
lucía el desarrollo de proyectos enmarca-
pleo e inserción abarcan realidades com-
dos en las políticas sectoriales de ámbito
plejas que precisan de la consideración
regional como son la promoción del co-
de otras políticas. Entre ellas la social y
mercio minorista y la adaptación hacia
las transversales de igualdad de oportu-
nuevas formas de producción agrícola.
nidades, de medio ambiente y de nuevas
Por otro lado, el proyecto andaluz encua-
tecnologías de la información y la comu-
drado en el campo de lucha contra el ra-
nicación, en línea con las prioridades ho-
cismo y la xenofobia ha provocado la in-
rizontales del Fondo Social Europeo:
clusión de medidas de política migratoria.
— Igualdad de oportunidades: constitu-
Por tanto, las políticas deben entender-
ye un principio que debe inspirar los se en el marco de unos objetivos más
proyectos Equal, contemplándola de amplios de la administración. No deben
forma transversal desde la planifica- tratarse las políticas de manera aislada,
porque están presentes y afectadas por
3 Actualmente es el Indicador Público de Renta varios ámbitos de actuación pública y en
de Efectos Múltiples (IPREM) el que sirve de refe- ese sentido deben contribuir a otros fines
rencia del nivel de renta para acceder a determina-
das prestaciones, beneficios o servicios públicos o
como el crecimiento económico y del em-
para determinar la cuantía de las ayudas. pleo (política de pleno empleo), a la políti-
José Luis Osuna Llaneza - Carmen Vélez Méndez - Ana Cirera León - Juan Murciano Rosado

ca de cohesión social y protección de los vidir a los agentes implicados en la políti-


colectivos más desfavorecidos (como jó- ca de vivienda en tres grandes grupos:
venes, inmigrantes, familias de ingresos beneficiarios, ejecutores y gestores e ins-
medios o bajos, la tercera edad y disca- tituciones.
pacitados), apoyar la política de protec-
En el gráfico n° 1 se representan estos
ción a la familia, etc. Todos ellos deben
agentes que actúan en el diseño, ejecu-
ser considerados en la evaluación.
ción, gestión y evaluación de la política
de vivienda. Esta multiplicidad de orga-
nismos exige una planificación eficaz y
4. LA MULTIPLICIDAD Y
eficiente que logre conciliar intereses y
HETEROGENEIDAD DE LOS
coordinar sus actuaciones. En la misma
AGENTES CLAVE DE UNA POLÍTICA
línea, la evaluación debe concebirse des-
de un esquema participativo, aunando las
En relación con la heterogeneidad de
voces de los distintos grupos, colocándo-
los agentes implicados, la puesta en mar-
se como interlocutor y suministrador de
cha de un plan implica la participación de
información, no sólo a los poderes públi-
un conjunto diverso de instituciones, ges-
cos y a los gestores de la política, sino
tores y beneficiarios. Así, la eficacia de
también a la sociedad en general.
las actuaciones diseñadas depende, en
buena medida, de la adecuación de los En la IC Equal, mientras que el dibujo
mecanismos de gestión y coordinación a del abanico de beneficiarios no presenta
la demanda social existente, es decir, a mayores problemas (discapacitados, mu-
los intereses de estos agentes e institu- jeres, inmigrantes, ex-reclusos, ex-toxicó-
ciones y a las necesidades reales de la manos, parados de larga duración, etc.),
población objetivo a la que va destinada a diferencia de lo que ocurre en el caso
la intervención. del Plan de Vivienda, en el intento de gra-
ficar los otros dos, instituciones y ejecuto-
La evaluación, en este sentido, debe
res/gestores, las interrelaciones que los
propiciar una visión de conjunto sobre la
principios rectores y orientaciones esta-
coherencia de dichos intereses con los
blecidos por la Comisión para la Iniciativa
objetivos perseguidos por el plan. El pa-
Comunitaria establece, añade otra varia-
pel del evaluador en este marco debe es-
ble a considerar.
tar orientado a valorar la coherencia del
proceso de transformación del discurso En los proyectos Equal la Comisión im-
de intenciones en herramientas eficaces pone un modelo basado en la coopera-
y eficientes para la ejecución exitosa de ción institucional y en la creación de redes
la actuación pública. El evaluador actúa locales y transnacionales, de carácter
aquí como un facilitador en el diseño de sectorial o geográfico en función del análi-
las políticas. sis del origen de las discriminaciones en
el mercado de trabajo y del ámbito de ac-
La aplicación de una metodología de
tuación al que dirigen sus intervenciones.
evaluación participativa, basada en la
configuración de una estructura externa Así, se han formado Agrupaciones de
de apoyo al proceso evaluador a través Desarrollo en las que participan institucio-
de grupos de trabajo, nos ha llevado a di- nes públicas y entidades privadas, inter-
Programación y evaluación pública: un triángulo complejo

Grafico n.º 1
Multiagentes. El caso del Plan de Vivienda en Sevilla

83

Plan de Vivienda

Fuente: Elaboración propia

locutores sociales, organizaciones no gu- Es esta particularidad lo que dificulta


bernamentales, empresas y entidades deslindar a gestores y ejecutores del res-
que aportan sus recursos y experiencia to de instituciones con intereses en los
de trabajo con los colectivos más vulne- proyectos.
rables, cooperando para experimentar
nuevas soluciones a los problemas de En total son 256 entidades las que par-
discriminación y desigualdad en el mer- ticipan en las Agrupaciones de Desarrollo
cado laboral. que gestionan los 21 proyectos Equal
que representa el Gobierno Regional An-
Además de participar en la defensa de
sus intereses institucionales, todos estos daluz. Algunas de ellas participan en más
agentes tienen funciones relacionadas de un proyecto. En esta red participan
con el diagnóstico, diseño, gestión, eje- además 42 agrupaciones europeas, fun-
cución y, en su caso, evaluación, de los damentalmente de Italia, Francia y otros
proyectos en los que se plasma Equal. países no mediterráneos.
José Luis Osuna Llaneza - Carmen Vélez Méndez - Ana Cirera León - Juan Murciano Rosado

Cuadro n.o 1
Entidades participantes en las Agrupaciones de Desarrollo

Tipo de entidad Nº de veces


que
participa

Asociaciones De empresarios 51

De trabajadores 21

De mujeres 28

Representantes de discapacitados 19

Otras (fundaciones, asociaciones de barrio,


ONGs, y representantes de colectivos marginados) 57

Administraciones Gobierno regional 32

Públicas Gobierno provincial 11

Agrupaciones de municipios 9

Gobierno local 84

Universidades 8

Institutos de investigación 5

Total 325

• Las asociaciones representan el 55% de los socios de la IC Equal en Andalucía, y de ellas las
que tienen mayor representación han sido las de mujeres (en 13 proyectos), discapacitados (en
9 proyectos) e inmigrantes (en 8 proyectos), siendo los sindicatos los que han participado en
más proyectos.
• La implicación de los ayuntamientos en las agrupaciones pone de manifiesto la vinculación de
los proyectos a los entornos locales.

Fuente: Sistema Equal GSE. Servicio Andaluz de Empleo. Junta de Andalucía

La conformación del número de miem- socios frente a sólo 4 en otros proyectos,


bros de las agrupaciones no ha seguido situándose el tamaño medio en 14.
un criterio preestablecido, lo que ha pro- Todo este proceso de implicación pre-
vocado en ocasiones grandes divergen- tende, en definitiva, como Hemmati apun-
cias en el tamaño de la red, más de 40 ta (Hemmati, E. 2002):
Programación y evaluación pública: un triángulo complejo

— Incorporar los intereses y opiniones de ágil para que se inserte en la rutina diaria
una representación equitativa de to- de quien recopila y procesa la informa-
dos los implicados en un programa o ción que la puesta en marcha de las ac-
política, tanto para el proceso de toma tuaciones conlleva.
de decisiones como para reforzar la
No debemos olvidar que de la evalua-
transparencia en la comunicación y
ción se debe extraer un efecto experien-
rendición de cuentas entre ellos.
cia sobre buenas prácticas, sobre todo si
— Fortalecer los principios de transpa- los planes son un continuo dentro de una 85
rencia y participación en el proceso línea estratégica de actuación. Por ejem-
democrático. plo, en el caso de la política de vivienda,
— Desarrollar partenariados y fortale- iniciada en 1991, actualmente se encuen-
cer las redes entre los implicados. tra en ejecución el cuarto período progra-
mático. El análisis se utiliza en este marco
Huelga decir que la complejidad y la para generar conocimiento que favorezca
relevancia de estas intervenciones re- el proceso de retroalimentación para su-
quieren un sistema que proporcione infor- cesivas actuaciones públicas en este ám-
mación sobre todas las fases y actores bito y mejorar las actuaciones que están
del plan que se ajuste lo máximo posible en vigor, constituyéndose como un input
a la realidad que se pretende transfor- elemental para el aprendizaje organiza-
mar. La evaluación debe permitir satisfa- cional en materia de gestión y ejecución
cer las exigencias de información de la de políticas públicas.
sociedad, de los órganos representativos
del poder ejecutivo y, especialmente, del
centro gestor del gasto, dotándolo de un 5. LOS NIVELES ADMINISTRATIVOS
instrumento eficaz para la administración DE LAS POLÍTICAS PÚBLICAS
del plan. Información y transparencia son,
por tanto, los principios que deben guiar Además de la multiplicidad de efectos
los trabajos de análisis que en el marco sectoriales sobre los que incide un plan y
de la evaluación de programas se reali- que le afectan de manera directa e indi-
cen por parte de los evaluadores. Pero no recta, y de los distintos agentes que es-
sólo debe ser transparente, para que sea tán implicados en alguna de las fases del
eficaz, el sistema debe proporcionar in- ciclo de vida de un programa, la evalua-
formación en tiempo y forma oportunos,
ción debe considerar la articulación de
ofreciendo cuadros de pilotaje que permi-
las distintas instituciones públicas que
tan tomar decisiones casi en tiempo real.
confluyen. Esto es, la estructura multinivel
Es en el diseño de este sistema en el de la organización competencial de la
que los evaluadores deben jugar un pa- administración pública.
pel importante en lo que podríamos deno-
En el caso de la política de vivienda, la
minar «determinación de un sistema de
articulación es la siguiente:
seguimiento interno asistido». Además,
es fundamental que se haga previo al ini- — Al Estado, en el ámbito de las com-
cio del plan para que pueda ser llevado a petencias relativas a las bases de
la práctica y que sea lo suficientemente planificación económica, le corres-
José Luis Osuna Llaneza - Carmen Vélez Méndez - Ana Cirera León - Juan Murciano Rosado

ponde la formulación de planes plu- nancien dentro de él han de ser comple-


rianuales de vivienda. En estos pla- mentarios al conjunto de los recursos y
nes, la Administración central deter- políticas nacionales, regionales o locales
mina las normas básicas de acceso en materia de políticas de empleo e inser-
y financiación de la vivienda pública ción socio-laboral de personas que su-
y coordina la colaboración de los fran discriminación o desigualdad en el
restantes agentes del sector. mercado de trabajo. La articulación res-
ponde al siguiente esquema:
— A las comunidades autónomas, en
ejercicio de sus competencias, les — La Comisión de la Unión Europea
corresponde regular en materia de mediante el Fondo Social Europeo
urbanismo y política de suelo, así instrumenta la IC Equal para el desa-
como aprobar los planes de vivienda rrollo de la estrategia comunitaria de
de sus respectivos territorios4. inclusión e igualdad recogida en el
Tratado de Ámsterdam y en la Estra-
— Las corporaciones locales son com-
tegia Europea para el Empleo (EEE),
petentes en la formulación y ejecu-
que se apoya en cuatro pilares: ca-
ción del planeamiento urbanístico y
pacidad de inserción profesional,
residencial como titulares del patri-
espíritu de empresa, adaptabilidad e
monio municipal de suelo.
igualdad de oportunidades.
Algunos ayuntamientos, como el de
— El Estado, sobre la base de las
Sevilla, se han implicado directa-
orientaciones establecidas por la
mente en los procesos urbanísticos
Comisión y ratificadas por el Parla-
con la creación y oferta de suelo, la
mento Europeo, negocia un Progra-
cesión de éste para actuaciones pú-
ma de Iniciativa Comunitaria cohe-
blicas de vivienda, la promoción y
rente con el Plan Nacional de Acción
rehabilitación de viviendas, y la ges-
por el Empleo que cada gobierno
tión del parque público.
debe diseñar5.
En Equal el esquema general lo dise-
— El Gobierno Regional mediante el
ña, en principio, la Comisión Europea y,
Servicio Andaluz de Empleo (SAE),
tras la discusión y negociación con el
adscrito a la Consejería de Empleo y
conjunto de los Estados miembros y el
Desarrollo Tecnológico, participa en
Parlamento Europeo, adopta la forma de
el Programa de Iniciativa Comunita-
comunicación por la que se aprueban las
ria6. Este organismo es competente
orientaciones que deben tenerse en
cuenta para la elaboración de los corres-
pondientes programas nacionales. 5 En España la gestión de las ayudas del FSE
Tanto el Programa de Iniciativa Comu- está encomendada a la Unidad Administradora del
Fondo Social Europeo (UAFSE), adscrita al Ministe-
nitaria (PIC) como los proyectos que se fi- rio de Trabajo y Asuntos Sociales.
6 El Servicio Andaluz de Empleo tiene como fun-

ciones las de seleccionar los proyectos en los que


quiere participar, presentando su candidatura ante
4 La Comunidad Autónoma de Andalucía tiene re- la UAFSE, realizar el control financiero y su justifica-
cogida expresamente esta competencia en el ar- ción y asegurar las tareas de seguimiento y evalua-
tículo 13.8 del Estatuto de Autonomía. ción.
Programación y evaluación pública: un triángulo complejo

en materia de empleo en el territorio sabilidad de las distintas administracio-


de la Comunidad Autónoma andalu- nes competentes es clave a la hora de
za por lo que puede utilizar la cofi- determinar el funcionamiento de las ac-
nanciación comunitaria para com- tuaciones acometidas por cada nivel de
plementar los esfuerzos económicos gobierno, de acuerdo con sus competen-
en esta materia. Así, participa en 21 cias. Por una parte, la ausencia de cana-
de los 29 proyectos Equal andaluces les fluidos de coordinación dificulta la co-
aprobados como organismo repre- rrecta gestión de las medidas. Por otra
sentante y cofinanciador. parte, la evaluación resulta incompleta y 87
poco útil a la toma de decisiones si todos
Simultáneamente a la participación de
los implicados no encuentran un reflejo
la autoridad regional a través del Servi-
en el proceso y sus resultados.
cio Andaluz de Empleo y como res-
puesta a la multiplicidad de políticas La ejecución y evaluación de estas po-
que se ven inmersas en Equal, partici- líticas complejas requiere que los proce-
pan otros centros directivos (Consejerí- sos tradicionales de coordinación se sus-
as) u organismos de la Junta de Anda- tituyan por mecanismos y acuerdos que
lucía como son las Consejerías de faciliten una gestión más activa y flexible
Medio Ambiente, Igualdad y Bienestar que considere las necesidades de las or-
Social (Instituto Andaluz de Servicios ganizaciones gubernamentales y otras no
Sociales, Instituto Andaluz de la Mujer, gubernamentales.
Dirección General de Bienestar Social),
La eficacia y la legitimidad política se
Gobernación (Dirección General de
basa, de esta manera, y como afirma Prats
Coordinación de Políticas Migratorias),
(Prats, J. 2004) en «la calidad de la inte-
Innovación, Ciencia y Empresas (Di-
racción entre los distintos niveles de go-
rección General de Economía Social).
bierno y entre éstos y las organizaciones
— Los partenariados locales, institucio- empresariales y de la sociedad civil». Por
nes públicas y privadas con intereses ello el diseño de la evaluación debe incor-
sectoriales o territoriales relacionados porar esta multiplicidad y heterogeneidad
con los distintos colectivos beneficia- de actores, en un intento de facilitar el es-
ros, participan aportando su experien- tablecimiento de criterios y objetivos co-
cia y/o cofinanciación en las Agrupa- munes haciendo partícipes a los implica-
ciones de Desarrollo que hay que dos en el gobierno de su propio desarrollo.
constituir para acceder a la financia-
ción comunitaria de esta Iniciativa.
6. LOS SISTEMAS DE EVALUACIÓN:
Esta descentralización, que a priori pa-
UNA REALIDAD A MEJORAR
rece beneficiosa puesto que se busca la
adaptación de la política a cada territorio,
Tal y como aparece en The Guide (Co-
requiere coordinación y coherencia en las
misión Europea, 2004), nos enfrentamos
actuaciones públicas para evitar duplici-
ahora a un nuevo reto en la determina-
dad y efectos indeseados.
ción del enfoque metodológico que trata
El estudio de los mecanismos de coor- de reforzar las capacidades en evalua-
dinación y comunicación y la correspon- ción, mediante la incorporación de un di-
José Luis Osuna Llaneza - Carmen Vélez Méndez - Ana Cirera León - Juan Murciano Rosado

Grafico n.º 2
Relación triangular compleja de la política pública

Fuente: Elaboración propia

verso grupo de instituciones y actores, Por otro lado, nos encontramos con
tanto a escala vertical como horizontal, la programas para los que no se prevé nin-
consolidación de un sistema de gober- gún sistema de evaluación, por incomple-
nanza multi-nivel, la aplicación del princi- to que sea, bien porque aun no se crea
pio de subsidiaridad, el establecimiento en la bondad del medio o porque aun
de prioridades políticas trasversales tales existe un desconocimiento de las diferen-
como el desarrollo sostenible o la igual- cias entre evaluación y control.
dad de oportunidades y el reconocimien-
En el caso del Plan de Vivienda, las au-
to del rol jugado por el capital social en el
toridades responsables no habían previsto
desarrollo económico.
inicialmente su evaluación, ni es una exi-
A pesar de que se están realizando es- gencia reglamentaria. Sin embargo, han
fuerzos tendentes a la construcción de apostado por poner en marcha un proceso
sistemas de evaluación que permitan re- integral de evaluación como experiencia
coger la complejidad de factores que in- piloto en este campo que, además, es úni-
tervienen en la implementación de una co en España para este tipo de políticas.
política, las herramientas que se están Hasta el momento lo que se ha venido rea-
probando manifiestan algunas deficien- lizando, y sólo por uno de los gestores, es
cias y lagunas. el seguimiento de las promociones de vi-
Programación y evaluación pública: un triángulo complejo

vienda. Ello requiere el diseño de un siste- los resultados se presentan de «arriba-


ma de seguimiento y evaluación, tarea en abajo», consiguiéndose un enfoque inte-
la que nos encontramos inmersos. grador y exhaustivo del avance del plan.

Este sistema se va a estructurar en una Para poder analizar la marcha del plan,
batería de indicadores para medir y evaluar se han identificado las principales fases
los diferentes ámbitos del Plan Municipal de por las que pasa una promoción de vivien-
Vivienda. Estos son: la ejecución y resulta- da y se ha diseñado un sistema de semá-
dos de las acciones de suelo y vivienda, foros, que en función del cumplimiento
89
cobertura de la población objetivo, gestión temporal de los objetivos marcados en la
del plan, cumplimiento de la normativa legal programación y una proyección sobre la
y evolución del contexto socioeconómico. probabilidad de realización, informará so-
bre la ejecución y sus posibles retardos.
Los indicadores se cuantifican y valoran
a la escala mínima de planificación (pro- Según las fases, se analiza la ejecu-
ción del plan atendiendo a las dos cues-
mociones) y posteriormente se agregan
tiones siguientes:
por niveles superiores (medidas, progra-
mas y plan). Así, la información se recoge — Datos referentes a las variables cla-
siguiendo el esquema de «abajo-arriba» y ve para evaluar el grado de avance

Gráfico n.º 3
Fases de producción de la vivienda protegida

1ª Inicio: Ordenación PGOU


fase Planteamiento y gestión
Final: Suelo urbano

2ª Cesión y oferta pública Inicio: Decisión de cesión u oferta


fase Final: Formalización de escritura pública

3ª Inicio: Titularidad del pueblo


Ejecución de obras Final: Calificación definitiva
fase

4ª Inicio: Oferta pública del proceso de selección


fase Entrega de viviendas Final: Entrega de llaves

5ª Inicio: Ocupación de la vivienda


Control post-entrega Final: Conclusión del periodo de clasificación
fase

Fuente: Elaboración propia


José Luis Osuna Llaneza - Carmen Vélez Méndez - Ana Cirera León - Juan Murciano Rosado

de las promociones: estado de los De este modo, exigiendo una evalua-


suelos y programación temporal ción continua a las Agrupaciones de De-
para las acciones de suelo, y análi- sarrollo8, que se puede gestionar de for-
sis por promotores, localización y ma interna y/o externa, se persigue un
características de los inmuebles, proceso de mejora así como asegurar la
para las de vivienda. evaluación global de la Iniciativa. Las au-
toridades nacionales de gestión, agre-
— Estudio de los parámetros de cali- gando y complementando estas evalua-
dad urbanística y perfil de la pobla- ciones generan los inputs necesarios
ción solicitante y beneficiaria de las para la evaluación a escala europea, así
actuaciones (ámbitos de ejecución y como las posibles reorientaciones del
de población objetivo). Esto es, aná- Programa de Iniciativa Comunitaria (PIC)
lisis de los resultados de la ejecu- en cuanto a su gestión, áreas temáticas
ción del plan a partir de los niveles priorizadas, colectivos beneficiarios, etc.
de medida y programa que mues- En Andalucía, a diferencia de otras re-
tran los efectos más directos. giones europeas, hay que considerar otro
Por su parte, la Iniciativa Comunitaria nivel, el regional, a través del Servicio An-
daluz de Empleo, que ha asumido entre
Equal, en respuesta a las exigencias de
otras funciones, las de asegurar el segui-
los Fondos Estructurales, debe incorporar
miento y evaluación de sus proyectos.
reglamentariamente7 un proceso de eva-
Para el desarrollo de estas tareas ha faci-
luación ex–ante, intermedia y ex-post (pro-
litado a las Agrupaciones de Desarrollo
ceso desde arriba hacia abajo). El siste- un sistema homogéneo e informatizado
ma de evaluación establecido traslada en de seguimiento y evaluación continuos
cascada la responsabilidad del ámbito (Sistema Equal-GSE) y ha contado con
europeo al nacional (autoridades de ges- una asistencia técnica externa para apo-
tión) y local (Agrupaciones de Desarrollo), yar estos procesos a escala regional (el
con la intención de poder construir la eva- Instituto de Desarrollo Regional).
luación en los diferentes momentos, sien-
Este sistema de evaluación (a escala
do sobre el ámbito local sobre el que final-
europea, nacional, regional y local; del
mente recae gran parte de las tareas a programa de trabajo nacional y del
realizar (desde abajo hacia arriba). Acuerdo de Cooperación Transnacional-
ACT) es, en última instancia, realizado
7 El Reglamento (CE) Nº 1260/1999 del Consejo
por las Agrupaciones de Desarrollo que
de 21 de Junio de 1999 por el que se establecen las las sitúa ante la obligación de abordar
disposiciones generales sobre los Fondos Estructu- procesos de evaluación para los que no
rales (FFEE) establece en su título IV «Eficacia de
las intervenciones de los fondos» dos capítulos de-
dicados al seguimiento (cap. 1, artículos 34 a 37) y
evaluación (cap. 3, artículos 40 a 43), así como con- 8 En la Guía de Gestión y Control de Proyectos

tinuas referencias a lo largo del mismo. En el título 2 Equal (UAFSE) se establece que «(…) todos los
del citado reglamento se establecen las disposicio- proyectos contarán con un sistema de evaluación
nes relativas a las Iniciativas Comunitarias y a su interna que, en su caso, podrá ser completado con
evaluación, precisando el contenido y momento en la realización de una evaluación externa para garan-
que deben hacerse. tizar su objetividad.»
Programación y evaluación pública: un triángulo complejo

poseen la experiencia y capacidad re- representa la estructura de seguimiento y


queridas, ya sea para realizarlos interna- evaluación que se ha diseñado para la
mente o para elaborar los términos de re- Iniciativa Comunitaria Equal.
ferencia para su externalización. La
La heterogeneidad de entidades que
incipiente comunidad evaluadora tampo-
forman parte de cada red puede ser un
co ofrece una respuesta única.
elemento positivo para el diseño y formu-
Por tanto, de la capacidad que estos lación de sistemas de seguimiento y eva-
partenariados desarrollen para la gestión luación, porque permite la especialización
91
compartida y trabajo en red, dependerá en diferentes etapas y en diferentes ac-
el éxito de estos programas y consecuen- tuaciones y ámbitos. Además, pueden ge-
temente de sus evaluaciones. En Andalu- nerarse sinergias a través de la difusión
cía ha tenido una aplicación práctica pe- del conocimiento del funcionamiento de
culiar y en el siguiente esquema se planes anteriores y de otras experiencias.

Gráfico n.º 4
Estructura de seguimiento y evaluación de la Iniciativa
Comunitaria Equal en Andalucía

Estructura de seguimiento y evaluación


Interno Externo
Base de datos común Comisión Europea Evaluación externa:
EQUAL (ECDB) Síntesis de evaluaciones finales

Nacional: UAFSE Evaluación externa:


Módulo de seguimiento
ex-ante, intermedia
EQUAL (MSE)

Evaluación externa:
Sistema EQUAL - GSE Regional: CEDT acciones y programas
transnacionales

CEDT NO CEDT NO CEDT


Autoevaluación PROYECTOS REDES PROYECTOS Evaluación externa
(reglamentaria) 21 12 8 (opcional)

Evaluación del Evaluación del


Programa de Trabajo Programa de Trabajo
Nacional Transnacional

Fuente: Elaboración propia


José Luis Osuna Llaneza - Carmen Vélez Méndez - Ana Cirera León - Juan Murciano Rosado

La existencia de aplicaciones informáti- — La ausencia de indicadores especial-


cas de seguimiento y evaluación continua mente significativos y explicativos so-
(como la utilizada en Equal en Andalucía) bre los aspectos horizontales de los
facilita y asegura la recogida de informa- proyectos, fundamentalmente los re-
ción sobre los proyectos ejecutados. No lacionados con el cumplimiento de
obstante, en los casos analizados, estas los principios rectores de la Iniciativa.
herramientas no han tenido la flexibilidad
suficiente para recoger toda la información — La inclusión de «campos abiertos»
necesaria lo que ha requerido el diseño de para la recogida de información que
otras complementarias adaptadas a las ha impedido la recopilación sistema-
peculiaridades de cada proyecto y enti- tizada y relevante de datos.
dad.
— La escasa capacitación para el uso
En el caso de Equal, las principales de las herramientas y para el análisis
debilidades del sistema de seguimiento e interpretación de la información a
en general han sido: recopilar.

Cuadro n.o 2
Catalizadores de la evaluación de la Iniciativa
Comunitaria Equal en Andalucía

Catalizadores Facilitan Frenan

Alto número de socios que Especialización Coordinación


forman parte de la red Multidisciplinariedad Dilución de responsabilidades
Transferencia de conocimiento

Experiencia previa en segui- Retroalimentación Resistencia al cambio


miento y evaluación

Diseño de herramientas de Facilita el seguimiento Deficiencias de adaptación


apoyo al proceso de evalua- (excesiva estandarización)
ción Oportunidad (tiempo, coste,
calidad)

Utilización de las NTIC Facilita la recopilación de in- Excesivo encorsetamiento


formación Diseño no orientado a la eva-
luación

Fuente: Elaboración propia.


Programación y evaluación pública: un triángulo complejo

La falta de orientación de los sistemas a la práctica no ha sido de gran utilidad


de seguimiento hacia la evaluación, al para la toma de decisiones, puesto que las
menos tal y como se concebía inicialmen- recomendaciones, cuando las ha habido,
te en el esquema que se ha mostrado, es no han podido incorporarse a tiempo.
uno de los motivos que ha restado éxito
al proceso evaluador de Equal.
7. DE LA DESTILACIÓN EN CASCADA
Esto es, la necesidad de dar cumpli-
A LA GENERACIÓN DE UN
miento a diferentes exigencias de evalua-
SISTEMA DE EVALUACIÓN 93
ción (para la Comisión, para la autoridad
nacional, para el gobierno regional y para
En definitiva, tal y como hemos ido
las Agrupaciones de Desarrollo) ha cau-
analizando, hay una serie de aspectos
sado desconcierto en los centros directi-
que condicionan los procesos evaluativos
vos encargados de recoger la informa-
ción, que han debido aportar los mismos que se pueden poner en marcha y el pro-
inputs en diferentes ocasiones y a dife- pio diseño del sistema de evaluación
rentes equipos de evaluadores. Esto ha para que sea útil y eficaz. Entre ellos des-
llevado a un agotamiento de las fuentes tacan los siguientes:
de información y a que las Agrupaciones — El amplio partenariado de socios (in-
de Desarrollo centraran el proceso en el cluso transnacionales) que partici-
seguimiento y no en la evaluación, que pan en la gestión de los proyectos
además de continua, debería haberse entre los que se identifican adminis-
realizado con participación interna de los traciones públicas multinivel con
técnicos de los proyectos. agentes sociales y entidades del ter-
Y como muestra, sólo un 29% de las cer sector muy heterogéneas con in-
evaluaciones realizadas en Equal Andalu- tereses diferentes a considerar.
cía han sido internas, y en cada una sólo — La concurrencia de múltiples políti-
ha participado directamente uno de los cas horizontales y sectoriales: em-
socios de las agrupaciones manteniendo pleo, social, igualdad de oportunida-
los demás un papel consultivo. Ello ha li- des, medio ambiente, sociedad de
mitado la capacidad de integración con la información, etc.
el proyecto y la institucionalización de la
evaluación continua que se perseguía. — La preocupación por la utilidad y uti-
lización de la evaluación para incor-
Teniendo en cuenta la escasa cultura
porar a las políticas generales las
evaluativa de las instituciones y la débil
lecciones innovadoras.
capacidad para realizarlas, la propuesta
de basar el proceso en una autoevalua- — El carácter experimental de programas
ción continua a nivel de Agrupaciones de que persiguen desarrollar la capaci-
Desarrollo no parece ayudar a su desa- dad de innovación en la elaboración,
rrollo e institucionalización. gestión y evaluación de las políticas.

Si a esto se le une el retraso en el inicio Esta estructura requiere una nueva


de las evaluaciones, se puede concluir que aproximación metodológica que contribu-
el sistema de evaluación que se ha llevado ya a crear un sistema de evaluación arti-
José Luis Osuna Llaneza - Carmen Vélez Méndez - Ana Cirera León - Juan Murciano Rosado

culado y coherente que permita valorar — La adaptación del enfoque del análi-
las siguientes cuestiones: sis de redes sociales para determi-
nar la relación entre los actores so-
— El alineamiento y coherencia de los
ciales, la estructura de la red que
diferentes objetivos perseguidos por
configuran y su funcionamiento. Para
las distintas políticas sectoriales y ho-
su aplicación se debe estudiar la
rizontales y el impacto de estas actua-
centralidad de las posiciones de los
ciones en la población beneficiaria.
actores, los círculos sociales, las su-
Porque los programas no se diseñan bredes, en definitiva, las relaciones
ni ejecutan aislados. Forman parte que mantienen los actores más que
de un mosaico donde cada pieza a cada uno de ellos considerados in-
juega un papel en los resultados fi- dividualmente.
nales de un proceso socio político
más amplio y complejo. La pertinencia de este enfoque reti-
cular para conocer el proceso de
— El diseño y desarrollo de un sistema participación y capacitación, se fun-
de seguimiento capaz de satisfacer damenta en el presupuesto de que
las necesidades de información de las estructuras creadas son un con-
todas las instituciones y agentes im- dicionante para la formación de inte-
plicados, y que considere la dimen- rés colectivo, la definición de objeti-
sión dinámica de las políticas y de vos comunes, la constitución de
las redes. Se concibe así a los pro- organizaciones y alianzas y su sos-
gramas como procesos, más que tenibilidad.
productos, es decir, como un conjun-
to abierto y dinámico, donde debe Este enfoque, al centrarse en las re-
contemplarse la evolución de objeti- laciones establecidas entre los dis-
vos e intereses de los actores que in- tintos nodos de la red, y no en los
tervienen en su gestión y ejecución, sujetos que las mantienen, nos apro-
produciendo información útil para la xima a la medición o delimitación del
negociación de nuevas actuaciones. capital social, como recurso emplea-
do/generado en el proceso de com-
Además, la evaluación debe propor- partir información y conocimiento al
cionar información para generar co-
proceso de elaboración de políticas.
nocimiento. Ello fomenta la utiliza-
ción de la evaluación por las Ello puede implicar la puesta en mar-
instituciones, que no ven la evalua- cha de un modelo descentralizado donde
ción como un simple control final de la responsabilidad de la evaluación recae
resultados sino como un análisis de en los gestores de los programas.
una realidad más compleja que pre-
El objetivo es fortalecer las capacidades
tende ayudarles a ser mejores.
de las organizaciones, aplicando técnicas
— El establecimiento de criterios de de evaluación en el proceso de elabora-
evaluación que considere las expec- ción de políticas públicas, contribuyendo
tativas y necesidades de los implica- así a la potenciación de las instituciones y
dos en los programas. al proceso de aprendizaje institucional.
Programación y evaluación pública: un triángulo complejo

REFERENCIAS BIBLIOGRÁFICAS

AGUILAR, M.J. Y ANDER-EGG, E. (1992): Evaluación EPSTEIN, I., TRIPODI, T. (1977): Reaserch techni-
de Servicios y Programas Sociales. Siglo XXI ques for programme planning, monitoring and
Madrid. evaluation. Columbia University Press. Nueva
York. EEUU.
AWASTHI, D.N. Y SEBASTIAN, J. (1996): Evaluation of
entrepreneurship development programmes. EVERITT, A. Y HARDIKER, P. (1996): Evaluating for
Sage Publications. Delhi, India. good practice. Macmillan Press. Malasia.
95
B AÑÓN I M ARTÍNEZ , R. (Compilador) (2003): La FERNÁNDEZ BALLESTEROS, R. (Ed.) (1995): Evalua-
evaluación de la acción y las políticas públi- ción de programas. Una guía práctica en ám-
cas. Díaz de Santos. Madrid. bitos sociales, edicativos y de salud. Síntesis
Psicología. Madrid.
BERK, R.A. Y ROSSI, P.H. (1999): Thinking about
Program Evaluation 2. Sage Publications. GALTUNG, J. (1966): Teoría y métodos de la inves-
EEUU. tigación social. Endeba. Buenos Aires. Argenti-
na.
BLACK, T.R. (1998): Evaluating Social Sicence Re-
search. An introduction. Sage Publications. GUBA, E.G. Y LINCOLN, Y. S. (1989): Fourth Gene-
Trowbrigde, Wiltshire. RU. ration Evaluation. Sage Publications. EEUU.

BOYLE, R. Y LEMAIRE, D. (1999): Building Effective HAKIM, C. (1988): Research design. Allen and
Evaluation Capacity: Lessons from practice. Unwin. Londres. RU.
Transaction Publishers. New Brunswick, New HEMMATI, M. (2002): Multi-stakeholder Process for
Jersey. EEUU. Governance and Sustainability. Erathscan Pu-
BUSTELO RUESTA, M. (2003): Evaluation of gender blications Ltd. London.
mainstreaming: ideas from a meta-evaluation. HOUSE, E.R. (1993): Professional Evaluation. So-
Evaluation 4. Sage. Londres. UK. cial impact and political consequences. Sage
Publications. EEUU.
CLARKE, A. (1999): Evaluation Research. An intro-
duction to principles, methods and practice. HOUSE, H. (1973): The politics and process. Mc-
Sage Publications. Trowbridge, Wiltshire.RU. Cutchan. Nueva York. EEUU.
COHEN, E. Y FRANCO, R. (1993): Evaluación de pro- INSCAL (2001): Guía de autoevaluación para la
yectos sociales. Siglo Veintiuno de España. Administración Pública: modelo EFQM de ex-
Madrid. celencia. Ministerio de Administraciones Públi-
cas. Ministerio de la Presidencia.
COMISIÓN EUROPEA (1999): MEANS (6 volúmenes).
Oficina para las publicaciones oficiales para la INSTITUTO ANDALUZ DE LA MUJER (2001): Mainstrea-
UE. Luxemburgo. ming o Enfoque Integrado de Género: Manual
de aplicación en proyectos de empleo. Likadi.
COMISIÓN EUROPEA (2004): The Guide. Publication Madrid.
webside: http://www.evalsed.info/
INSTITUTO DESARROLLO REGIONAL Y SERVICIO AN-
DE
COOK, T.D. Y REICHARDT, CH.S. (1986): Métodos DALUZ DE EMPLEO (2005): La Iniciativa Comunita-
cualitativos y cuantitativos en investigación ria Equal. Actuaciones en Andalucía: Informe
evaluativa. Ediciones Morata. Madrid. final 2001-2004. Dirección General de Fomento
CRONBACH, L.J. (1982): Designing evaluation of del Empleo. Servicio Andaluz de Empleo. Con-
educational and social programs. Jossey- sejería de Empleo. Junta de Andalucía. Sevilla.
Bass. San Francisco. EEUU. INSTITUTO DEDESARROLLO REGIONAL Y SERVICIO AN-
DALE, R. (1998): Evaluation Frameworks for De- DALUZ DE EMPLEO (2005): La Iniciativa Comunita-
velpment and Projects. Sage Publications. ria Equal. Actuaciones transnacionales: Infor-
Nueva Delhi. India. me final 2001-2004 . Dirección General de
Fomento del Empleo. Servicio Andaluz de Em-
DROR, Y. (1974): Public policy making reexamine. pleo. Consejería de Empleo. Junta de Andalu-
Leonard Hill Books. Nueva York. EEUU. cía. Sevilla.
José Luis Osuna Llaneza - Carmen Vélez Méndez - Ana Cirera León - Juan Murciano Rosado

INSTITUTO NACIONAL DE ADMINISTRACIONES PÚBLICAS PEARCE, S.W. Y NASH C.A. (1981): The social ap-
(2000): Evaluación y Calidad en las Organiza- praisal of projects. MacMillan. Londres. RU.
ciones Públicas. Ministerio de Administracio-
nes Públicas. Madrid. PLANTE, J. (1991): En plan-ENA: outlis, practiques
et institutions pour èvaluer les politiques publi-
JONES, C. (1977): An introduction to the study of ques. La Documentation Française. Paris.
public policy. Duxbury. Boston. EEUU. Francia.
KEVIN WILLIAMS, K.; DE LAAT, B. Y STERN E. (2002): POSAVAC, E.J. (1980): Program evaluation. Prenti-
The Use of Evaluation in the Commission Servi- ce-Hall. Englewood Cliffs, NJ. EEUU.
ces.
PRATS, J. (2004): «Las transformaciones de las
LINDBLOM, C Y WOOD-HOUSE, E.J. (1991): The po- administraciones publicas de nuestro tiempo»
licy making process. Prentice Hall. Englewood
en Instituciones y Desarrollo
Cliffs, NJ. EEUU.
[http://www.iigov.org; 16/07/2004].
LÓPEZ CASASNOVAS, G. (2003): Los nuevos instru-
PRIOR, D.; VERGES, J. Y VIUDALRDELL, I. (1993): La
mentos de la gestión pública. La Caixa. Barce-
evaluación de la eficiencia de los sectores pú-
lona.
blicos y privados. Instituto de Estudios Fisca-
MENY, I. Y THOENING, J.C. (1992): Las políticas pú- les. Madrid.
blicas. Ariel Ciencia Política. Barcelona.
R E B O L L O C A T A L Á N , M.A., C O L Á S B R A V O , M.P.
MOHR, L.B. (1995): Impact analysis for program (2002): Evaluación de programas: una guía
evaluation. Sage Publications. EEUU. práctica. Kronos. Sevilla.
MONNIER, E. (1995): Evaluación de la acción de ROSSI, P.H., FREEMAN, H.E. Y LIPSEY, M. (2003):
los poderes públicos. Instituto de Estudios Fis- Evaluation: a systematic approach. 7ª edición.
cales. Ministerio de Economía y Hacienda. Ma- Sage Publications. EEUU.
drid.
SABATIER, P.A. Y JENKINS-SMITH, H.C. (EDIT.) (1993):
OCDE (1992): La evaluación de programas de
Policy Change and Learning. An advocacy co-
empleo y de medidas sociales. Estado actual
lation approach. Westview Press. Colorado.
de una cuestión compleja. Ministerio de Traba-
EEUU.
jo y Seguridad Social. Madrid.
SANTOYO, H., RAMÍREZ, P. Y SUVEDI, M. (2002): Ma-
OCDE PROCEEDINGS (1997): Policy Evaluation in
Innovation and Technology: towards best prac- nual para la evaluación de programas de de-
tices. sarrollo rural. Mundi-Prensa. México.

O GANDO C ANABAL Y M IRANDA E SCOLAR (C OORD .) SHAW, I.F. (1999): Qualitative Evaluation. Sage
(2003): Evaluación de programas e iniciativas Publications. Trowbridge, Wiltshire. RU.
comunitarias: experiencias, nuevas orientacio- SHAW, I.F. Y LISHMAN J. (Ed.). (1999): Evaluation
nes y buenas prácticas. Instituto de Estudios and Social Work Practice. Sage Publications.
Europeos. Valladolid.
Trowbridge, Wiltshire. RU.
O SUNA L LANEZA , J. L. Y M ÁRQUEZ , C. (C OORD .)
STUFFLEBEAM, D.L.; SHIRKFIELD, A.J. (1987): Evalua-
(2000): Guía para la evaluación de las políticas
ción sistemática: guía teórica y práctica. Pai-
públicas. IDR. Sevilla.
dós. Barcelona.
OSUNA LLANEZA, J. L. Y VÉLEZ MÉNDEZ, C. (2004):
Guía de Planificación y Evaluación para Agen- SUBIRATS, J. (1994): Análisis de políticas públicas
tes de Desarrollo Local. Sevilla Siglo XXI, S.A. y eficacia de la Administración. Ministerio de
Sevilla. Administraciones Públicas. Madrid.

OWEN, J.M. (1999): Program Evaluation. Forms SUCHMAN, E. (1967): Evaluation reaserch. Russel
and approaches. Sage Publications. Singapur. Sage. Nueva York. EEUU.

PATTON, M.Q. (1997): Utilization Focused Evalua- TAYLOR, S.J.; BOGDAN, R. (1986): Introducción a
tion. The New Century Text. Sage Publications. los métodos cualitativos de investigación. Pai-
EEUU. dós. Buenos Aires. Argentina.
PAWSON, R. Y TILLEY N. (1997): Realistic Evalua- VÁZQUEZ BARQUERO, A. (1999): Desarrollo, redes e
tion. Wiltshire. RU. innovación. Pirámide. Madrid.
Programación y evaluación pública: un triángulo complejo

VEDUNG, E. (2000): Public policy and program WEISS, H. C. (1998): Evaluation. Prentice-Hall. Up-
evaluation. Transaction Publishers. New Bruns- per Saddle River, NJ. EEUU.
wick. NJ. EEUU.
WHOLEY, J.S. (1979): Evaluation: promise and per-
VÉLEZ MÉNDEZ, C. (2000): «La evaluación de políti- formance. Urban Institute. Washington DC.
cas públicas en Andalucía: una realidad en EEUU.
proceso de gestación», en Cuadernos Econó-
WHOLEY, J.S. (1983): Evaluation and effective pu-
micos de Granada n° 11: Estrategia y tácticas
de desarrollo regional y convergencia econó- blic management. Little Brown. Boston. EEUU.
mica: urbanismo, coyuntura inmobiliaria y sis-
tema financiero.
WEISS, H. C. (1990): Investigación evaluativa: mé-
97
todos para determinar la eficiencia de los pro-
gramas de acción. Trillas. México.

S-ar putea să vă placă și