Documente Academic
Documente Profesional
Documente Cultură
Joan Subirats
Catedrtico de Ciencia Poltica e investigador del Institut de Govern i Poltiques Pbliques de la UAB
Sumario
1. Cul es la especificidad de evaluar polticas pblicas?
2. Evaluar polticas, evaluar procesos de gestin? 3. Qu evaluar? 4. Por qu evaluar?
5. Para qu evaluar? 6. Y las polticas sociales? 7. Sirve para algo evaluar?
8. Evaluacin y cambio de poca? 9. Evaluacin y trabajo en red?
RESUMEN
(1) Este texto es una versin altamente modificada de textos anteriores que sirvieron de base en ponencias de congresos y jornadas,
y que fueron parcialmente objeto de publicacin.
39
Monografa
Palabras clave:
The text poses general questions regarding the evaluation of public policies. More specifically, it discusses the distinctions between evaluating in the public sphere and in the
private sphere; the differences between considering the evaluation of governments tasks
and more specific management tasks in a scenario of public policies; it goes on to review
the various kinds of evaluation classified by objectives; and this lengthy first part concludes with a few comments regarding the reasons for evaluation and its possible uses. The
second part of the paper focuses more specifically on social policies, in an attempt to
analyse the specificities of these sector-based policies, especially in connection with setting
objectives and building indicators. To conclude, the paper examines some aspects of the potential of evaluation and its current role in areas such as the change of era we are
experiencing or the novelties presented by so-called networking in the field of public
policies.
Key words:
Analysis of public policies; evaluation of public policies; social policies; types of evaluation;
uses of evaluation.
40
Consideraciones generales sobre la evaluacin de polticas pblicas. Las especificidades de las polticas sociales
3
Monografa
41
Monografa
no de actores, algunos de ellos muy potentes, que manejan intereses contrapuestos. En ese contexto, las administraciones pblicas no pueden jugar con la
relativa facilidad que da el hecho de tener una orientacin inequvoca y central a una nica cuenta de resultados basada en la obtencin de beneficios.
Podramos decir que si en la empresa mercantil, eficacia y eficiencia tienden a
confundirse, en el mundo de las administraciones pblicas, no siempre ocurre
as. Equivocarse en ello significa muchas veces contribuir a los bien conocidos
fenmenos de la llamada seleccin adversa(3) de la cual tenemos buenos
ejemplos en sanidad y educacin.
A pesar de todo, no tiene porqu admitirse que exista una insuperable colusin entre los principios de eficacia y legalidad. Y, por tanto, debe trabajarse
de manera innovadora para ir construyendo categoras que permitan atender
los valores que expresan ambos requerimientos, asegurando siempre la capacidad de rendir cuentas, la capacidad de mantener abiertos los controles y los
mecanimos de evaluacin que eviten los abusos de poder y la ineficacia de la
accin pblica. Ya que ello, como bien sabemos, acaba provocando problemas
muy significativos de legitimidad. Una organizacin (aqu s, pblica o no pblica) que mantenga su capacidad de rendir cuentas, de ser transparente en su
gestin, de evaluar su quehacer, ser una organizacin capaz de aprender tanto de sus aciertos como de sus errores.
42
Consideraciones generales sobre la evaluacin de polticas pblicas. Las especificidades de las polticas sociales
3
Monografa
Estratgico
Gestin
Gobierno
Fuente: elaboracin a partir de Metcalfe, L. Accountability and effectiveness, Venice, 1998, mimeo
El cruce entre tareas de gestin, de carcter ms interno, y mbito operacional (casilla 1), podramos decir que genera el espacio tpico de los anlisis
preocupados por los valores de economa y eficiencia. Es ese el espacio en el
que opera la clsica labor de la intervencin en muchas administraciones de
nuestro entorno, y es tambin el mbito en el que con mayor intensidad se han
movido las reformas que se han nucleado en torno al concepto de new public
management. El espacio de gestin de contenido ms estratgico (casilla 2),
sera aquel en el que las variables que cuentan son las de la eficacia y la gestin del cambio. Usando los conceptos puestos en circulacin por Osborne y
Gaebler, no se tratara slo de remar (casilla 1) sino de timonear (casilla 2).
Las labores emblemticas seran las de adaptar las operaciones a los problemas, anticipando desajustes de la gestin. Sera este un campo que en nuestro
pas han venido ocupando o bien gestores con capacidad directiva probada, o
bien polticos que han jugado y juegan ms en el campo de la gestin que en
el propio de la poltica y del gobierno.
El entorno de tareas de gobierno es un terreno en el que se lidia sobre todo
con el exterior de la organizacin, donde se juegan las grandes cuestiones de
la legitimacin poltica y social. Si esa labor se cruza con el mbito ms estrictamente operacional (casilla 3), nos encontraremos con lo que podramos
denominar labores de contramaestre, gobierno de operaciones, y con funciones como contraste, supervisin, control del gasto y de los recursos,
cautelas para evitar fraudes o corruptelas, etc. Es este el terreno en el que acostumbramos a encontrar los rganos de control de legalidad presupuestaria y
contable. El terreno menos explorado es el que entrecruza gobierno y mbito
estratgico (casilla 4). Siguiendo la parbola martima que hemos venido utilizando, sera el campo propio de la navegacin, de las labores de capitana.
Es aqu donde debera determinarse lo importante y significativo para cada organizacin. Es ah donde se juega la legitimidad de los objetivos de las
administraciones pblicas. Sin llenar ese espacio faltan criterios de consistencia para poder emprender una labor evaluadora seria. Sin carta de navegacin,
ni remar ni timonear tiene demasiado sentido, y el control de los controladores pierde significacin. Desde la perspectiva de la evaluacin, es evidente que
Documentacin Social 154
43
Monografa
en cada una de las casillas la preocupacin ser distinta, como distintas sern
las aproximaciones y las herramientas a utilizar.
QU EVALUAR?
Consideraciones generales sobre la evaluacin de polticas pblicas. Las especificidades de las polticas sociales
3
Monografa
45
Monografa
POR QU EVALUAR?
46
Consideraciones generales sobre la evaluacin de polticas pblicas. Las especificidades de las polticas sociales
3
Monografa
47
Monografa
PARA QU EVALUAR?
Consideraciones generales sobre la evaluacin de polticas pblicas. Las especificidades de las polticas sociales
3
Monografa
49
Monografa
Sirve todo lo que hemos dicho hasta aqu para cualquier poltica pblica?
Sirve para las polticas sociales? Cada poltica pblica tiene caractersticas especficas, y un buen proceso de evaluacin debera tener en cuenta esas
especificidades. Pero, en el caso de las polticas sociales, ello es especialmente
significativo. No creo que sea necesario dedicar un gran espacio para argumentar y justificar la necesidad de estas evaluaciones y al mismo tiempo las
especiales dificultades que genera la evaluacin de muchas polticas sociales.
De entrada, porque tienen perfiles, normalmente, poco concretos. Es decir, la
definicin de objetivos acostumbra a ser relativamente abstracta, acostumbra a
ser relativamente ambigua (por ejemplo, cuando se habla de inclusin social), ya que, por otro lado, este tipo de ambigedad y de generalidad en la
definicin de objetivos favorece la obtencin de consenso en relacin con estas
polticas. Por lo tanto, no se trata de vituperar o menospreciar la forma en que
estas polticas definen sus objetivos, sino tratar de comprender el marco cognitivo, el entramado institucional y social que rodea la formulacin de estas
polticas, para entender as su complejidad y las dificultades que puede gene50
Consideraciones generales sobre la evaluacin de polticas pblicas. Las especificidades de las polticas sociales
3
Monografa
rar su evaluacin desde las distintas perspectivas de las instituciones implicadas, los beneficiarios reales y potenciales y el resto de actores implicados en la
poltica o actuacin en concreto.
Sin embargo, y a pesar de lo ya mencionado, cuando hablamos de servicios
sociales y de servicios personales en general, la definicin de objetivos y outcomes es a veces ms sencilla que en otros sectores de las polticas pblicas.
Ello es as, ya que el impacto buscado por la intervencin es un cambio concreto en la situacin del individuo (en su nivel de renta, en su formacin, en su
situacin laboral, etc.) lo que suele ser observable y puede medirse.
Sin embargo, la evaluacin de impactos se complica por cuanto las intervenciones suelen ser multidimensionales, en el sentido de que buscan cambios
en diversas facetas de la situacin del individuo. Un programa de rentas mnimas de insercin tiene por objetivo incrementar la renta de los hogares con
recursos mnimos e insertar laboralmente a los beneficiarios, y lo primero implica tanto que la persona encuentre trabajo como que lo mantenga a lo largo
del tiempo. Cul de las mltiples dimensiones de la situacin social de las
personas en las que una poltica social pretende impactar es la ms relevante a
la hora de plantearse la evaluacin? Cmo valorar una poltica social que se
demuestra exitosa en algunos aspectos y fracasa en otros?
Otra singularidad de las polticas sociales es la heterogeneidad de impactos. Dado que la poblacin diana de las polticas sociales es generalmente
diversa, ocurre a menudo que los impactos de las polticas sociales sobre ella
son igualmente diversos. Suele suceder que un programa de atencin social a
las personas sin hogar, por poner un ejemplo, funciona para aquellas que llevan poco tiempo en la calle, pero no para las que han estado aos sin hogar. O
que sea efectiva para los que tengan problemas de salud mental, pero no para
las personas que tengan problemas de alcoholismo. Detectar los impactos diferenciales para los distintos tipos de poblacin diana es un reto de la
evaluacin de polticas sociales.
Pongamos un ejemplo derivado de las polticas de desarrollo econmico
local que se llevaron a cabo hace unos aos en la Unin Europea, basadas en
la nueva idea de los yacimientos de empleo. Con ello se pona el nfasis
en la necesidad de encontrar nuevos filones o vetas de ocupacin que hasta
entonces hubieran sido poco explotadas. Ese nuevo concepto precisaba ser
comprendido por parte de los distintos actores institucionales, los agentes sociales, los consultores y los gestores pblicos. Y, lgicamente se necesitaba ms
tiempo an para construir indicadores que lograran distinguir entre lo que se
consideraba un yacimiento real, de lo que era simplemente una nueva
forma de subvencionar a los sin empleo. Por tanto, no existe una total autoDocumentacin Social 154
51
Monografa
52
Consideraciones generales sobre la evaluacin de polticas pblicas. Las especificidades de las polticas sociales
3
Monografa
Por otro lado, hemos de ser conscientes de que la visin desde el territorio
afectado por la intervencin pblica, tanto sobre la formulacin de la poltica como sobre su proceso de evaluacin, acostumbra a ser relativamente
escptico. Sobre todo cuando la formulacin general de la poltica y sus bases
conceptuales se hacen muy lejos del lugar en que deber operativizarse esa
poltica. No es extrao percibir la sensacin en los territorios, que ms que una
poltica pensada para resolver problemas, se disponen de soluciones en busca de problemas. Y como ello viene acompaado de recursos, lo normal no es
rechazar esa poltica por extempornea y retrica, sino adaptarse creativamente a la misma, tratando de acercar lo que se ha decidido desde lejos y lo
que es la realidad concreta del territorio, para obtener as los recursos que se
requieren para aquello que se considera prioritario.
Se ha de tener en cuenta asimismo que muchas veces en los procesos de
evaluacin coinciden distintos objetivos o metas. Por un lado encontramos la
necesidad por parte de los actores en el territorio de responder a lo que las exigencias de la Comisin Europea u otra instancia financiadora plantea. Es decir,
se han de rendir cuentas, y se ha de hacer de una cierta forma. Y por otro lado,
la necesidad de avanzar en procesos de aprendizaje del propio territorio y de
los actores implicados en relacin a esas polticas que son en muchos casos innovadoras. Ya que plantean procesos de colaboracin entre actores de distintos
niveles de gobierno y de diverso estatuto formal, donde no hay costumbre ni
tradicin de hacerlo. Por ello no deberamos confundir la relativa pobreza
de ciertos resultados de los procesos de evaluacin que llegan, por ejemplo, a
Bruselas, despus de un proceso de evaluacin hecho de abajo a arriba, pero
realizado para cumplir los parmetros necesarios de accountability que estn
reglamentariamente previstos, con la posible riqueza de desarrollo de una evaluacin ms real y ms til que muchas veces puede llegar a producirse en
el territorio. Dnde ponemos el nfasis, en el anlisis del cumplimiento formal, o en el proceso de aprendizaje? La mejor respuesta es obviamente tratar
de cumplir con ambos parmetros, ya que responden a valores y lgicas distintas, pero igualmente pertinentes. Lo peor, no obstante, es confundir y
mezclar ambas lgicas y ambos requerimientos. Ya que nuestra experiencia
nos indica, que muchas veces lo que es valioso desde una lgica, no lo es tanto en la otra. Y al revs. Pero, es evidente que si el proyecto incorpora un
requerimiento formal de evaluacin, no debe menospreciarse o tomarlo como
una obligacin sin valor aadido alguno. Ese proceso formal puede ser y debe
ser aprovechado para conseguir mecanismos de respuesta y seales concretas
sobre el proceso de implementacin, sobre desviacin de objetivos, sobre relaciones gestin-resultados, aspectos todos ellos que pueden ser perfectamente
aprovechables en secuencias posteriores.
Documentacin Social 154
53
Monografa
El tema de la utilidad, al que hemos ido aludiendo, es un tema importante. Las preguntas relevantes, desde mi punto de vista, seran hasta qu punto
se aprende en los procesos de evaluacin, y hasta qu punto este aprendizaje
est luego realmente presente en las nuevas decisiones o polticas a impulsar.
Y en este tema el handicap no es achacable a las polticas sociales de manera especfica, sino que es un problema general en el modo de operar habitual de las
administraciones pblicas. Simplemente porque los procesos de evaluacin no
estn bien situados en la dinmica decisional de tales administraciones. Lo tradicional es que cuando el proceso de evaluacin ha concluido, casi siempre los
nuevos programas ya estn en marcha. Y han tenido que ponerse en marcha
debido a que las dinmicas polticas, presupuestarias y administrativas as lo
exigan. Con lo cual la sensacin general es que las evaluaciones acaban teniendo poca repercusin en los procesos decisionales. Lo cual no quiere decir
que esas evaluaciones no tengan efecto alguno, o que sean intiles o simplemente retricas. De ah la importancia de los informes a medio proyecto, las
reuniones de intercambio, etc. Pero, esa realidad menos formalizada debera
54
Consideraciones generales sobre la evaluacin de polticas pblicas. Las especificidades de las polticas sociales
3
Monografa
exteriorizarse ms, para evitar esa sensacin general de desencaje entre dinmicas de evaluacin y dinmicas de decisin. Dando valor y explicitando en
los propios protocolos de decisin las lecciones aprendidas en anteriores fases. Al mismo tiempo, se debera ir con mucho cuidado para no acentuar los
aspectos ms burocrticos de la evaluacin, para no dar la impresin de que
no se da valor ni se tienen en cuenta aspectos sealados en las evaluaciones de
polticas sociales que son ms difcilmente cuantificables, menos tangibles,
menos indicadorizables (si se acepta tal neologismo). Ya que si no, se acenta exclusivamente la necesidad de que las plantillas se rellenen, que los
nmeros cuadren y que ello nos permita afrontar con mejor situacin la nueva
remesa de recursos con la que esperamos seguir avanzando, mejorando aquellos aspectos aprendidos, que curiosamente son aquellos que quizs nos han
servido menos para completar los formularios de evaluacin.
55
Monografa
gap entre lo que son las dinmicas y necesidades de cada territorio y lo que
son las dinmicas comunitarias, poltico-administrativas, que generan las
polticas, los proyectos y en definitiva, la disposicin de fondos, para dar respuesta a los nuevos y renovados problemas de inclusin social.
La complejidad de la exclusin social no puede abordarse como si abordramos estrictamente los temas de pobreza o de desempleo. Ello implica
una evidente simplificacin. Como sabemos, si hablamos de exclusin social
hablamos de multifactorialidad, de multidimensionalidad, de necesidad de
implicar a la comunidad en los procesos de respuesta, de participacin de los
actores, y en muchos casos nos referimos a trayectorias vitales muy especficas, y no de dinmicas indiferenciadas. Cuando, por ejemplo, la Unin
Europea detecta con acierto la significacin de un potencial de empleo entre
los que nunca anteriormente han trabajado (los llamados inactivos), la
puesta en prctica del proyecto implica buscar a esas personas, detectar esos
colectivos. Y cada vez ms, esa necesidad de dar respuesta a dinmicas que
son menos estandarizables, ser una exigencia que nos vendr de la propia
realidad. Ser a partir de ese punto cuando deberemos buscar y articular respuestas desde el espacio pblico (no confundir estrictamente con los poderes
o instituciones pblicas). Respuestas colectivas a problemas colectivos en ese
espacio pblico concreto. Y para ello, la lgica de actuacin de las administraciones pblicas debera ser, como en parte se ha ido intuyendo a lo largo
de este texto, mucho ms la de habilitar que la de decidir, ya que ese proceso de habilitacin es el que lograra dar respuestas a esa situacin de
heterogeneidad, de personalizacin, de cercana y de flexibilidad a la que antes se haca referencia.
La impresin que predomina es que ser probablemente mucho ms complicado hacer evaluacin de polticas sociales en el futuro, al tratarse de
polticas ms complejas; con ms actores; donde el proceso es generalmente
mucho ms importante que los resultados concretos; donde hay muchos ms
casos personales y especficos que casos estandarizables; donde se pone mucho de relieve el nfasis en la transversalidad y en la integralidad de
respuestas y no en la sectorialidad (cuando en cambio estamos muy acostumbrados a trabajar sectorialmente, ministerialmente). Pero, de seguirse una
lgica ms descentralizadora en la implementacin y la implicacin social de
esas polticas, puede surgir una cierta facilidad en los procesos de evaluacin,
al dar ms valor y voz a la proximidad, a la comunidad en que se implementan esas polticas. Acercando as los procesos de evaluacin al sitio en el
que se est realmente trabajando en ese campo. No aceptando lgicamente
que cualquier cosa vale. Pero estableciendo mucho ms dilogo con lo que es
el territorio. Y de ah puede derivar, pienso, ms capacidad de aprendizaje.
56
Consideraciones generales sobre la evaluacin de polticas pblicas. Las especificidades de las polticas sociales
Monografa
Finalizaramos con algunos comentarios sobre cmo avanzar en la evaluacin de los mecanismos de red, de gestin de redes, de governance, cuando
precisamente en las polticas de inclusin social se pone crecientemente de
relieve la significacin de la implicacin colectiva y de las lgicas de colaboracin pblico-no pblico en sus procesos de formulacin e implementacion.
ste es sin duda un dficit significativo en estos momentos. Pueden evaluarse este tipo de cuestiones? Puede evaluarse, por ejemplo, la confianza
interorganizativa? Asumamos que una red viene marcada por elementos de
interdependencia, de continuidad en esa interdependencia y por la no-existencia de un centro jerrquico en esa red. Si esos son tres elementos claves, cmo
podemos evaluar la capacidad de governance de esa red?, su capacidad de respuesta colectiva a unas demandas a las cuales la red intenta dar respuesta de
una manera interdependiente, de una manera continuada y sin lgicas jerrquicas?
Podemos tratar, en principio, de analizar los procesos de formacin de la
red. Es decir, trabajar con lo que podramos denominar el clculo de costes y
beneficios que hacen los actores que componen esa red. Los diversos actores
tienen sus propias expectativas sobre los procesos de colaboracin a emprender. Tienen sus propios puntos de vista sobre los problemas a resolver. Y
tienen o no experiencias previas de colaboracin con el resto de actores de la
red. Por otro lado, convendra examinar el grado de consolidacin de los procesos de confianza mutua entre los actores de la red. Hasta qu punto
conocen, comprenden y comparten los objetivos del resto de participantes?
De esa comprensin depender la construccin de vnculos de confianza. La
manera de construir indicadores al respecto depender de la exploracin de
criterios cualitativos, de procesos comparativos entre las distintas fases del
proyecto, para encontrar as parmetros que nos permitan hablar de avances
y retrocesos.
Por otro lado, la confianza no slo se desarrolla y se consolida cuando se
comprenden los objetivos de los dems, sino cuando puedo compartir total o
parcialmente esos objetivos, entendiendo las formas de hacer del resto de actores y, de alguna manera, compartiendo esas formas de hacer. Es decir, aqu
deberamos poder hablar de compatibilidad cultural y de compatibilidad estratgica. Lo cual, evidentemente, es el punto clave para la consolidacin
de esa red porque estamos intentando construir mecanismos de respuesta colectiva a problemas colectivos, como son los que centran los esfuerzos de
las polticas de inclusin. Se trata por tanto de conseguir evaluar la gestin
Documentacin Social 154
57
3
Monografa
58