Documente Academic
Documente Profesional
Documente Cultură
CIE
ii
iii
EVALUACIÓN.
CIENCIA ALFA
Un motor de la
transformación
política
EVALUACIÓN.
CIENCIA ALFA
Un motor de la
transformación
política
ISBN 978-987-778-243-1
Agradecimientos
Tabla de contenido
PARTE A PROLEGÓMENOS ................................... 5
I. ANTES QUE NADA ........................................... 7
II. SOBRE LA ORGANIZACIÓN DEL LIBRO ........... 21
III. REFERENCIAS ................................................ 24
PARTE B COMENTARIOS CONTEXTUALES ........... 27
I. PRIMERA APROXIMACIÓN ............................ 28
II. LA MEDICIÓN DEL IMPACTO. ........................ 32
III. CAMBIO, INCERTIDUMBRE Y RIESGO ............ 53
IV. REFERENCIAS ................................................ 65
PARTE C LA TRIPLE FRONTERA ........................... 67
I. POLÍTICA ....................................................... 69
II. CIENCIA......................................................... 88
III. INFORMACIÓN............................................ 101
IV. REFERENCIAS .............................................. 115
PARTE D EVALUACIÓN ..................................... 119
I. CÍRCULO DE LA EVALUACIÓN...................... 120
II. CRITERIOS DE VALORACIÓN ........................ 122
III. ESTÁNDARES RESUMEN.............................. 128
IV. PASOS ......................................................... 134
V. ESTÁNDARES PASO POR PASO .................... 161
VI. INTEGRIDAD DEL PROCESO ......................... 164
VII. REFERENCIAS .............................................. 167
EVALUACIÓN. CIENCIA ALFA iii
Prolegómenos
EVALUACIÓN. CIENCIA ALFA 5
Prolegómenos
6 Antes que nada
Prolegómenos
EVALUACIÓN. CIENCIA ALFA 7
Prolegómenos
EVALUACIÓN. CIENCIA ALFA 9
Prolegómenos
EVALUACIÓN. CIENCIA ALFA 11
Prolegómenos
EVALUACIÓN. CIENCIA ALFA 13
Prolegómenos
EVALUACIÓN. CIENCIA ALFA 15
Prolegómenos
EVALUACIÓN. CIENCIA ALFA 17
Prolegómenos
EVALUACIÓN. CIENCIA ALFA 19
Prolegómenos
EVALUACIÓN. CIENCIA ALFA 21
Prolegómenos
Se refiere a las razones que, a mi entender, justifican
este libro y describe la estructura del mismo
Comentarios contextuales
Una primera idea de evaluación y de impacto, en
una realidad caótica.
La triple frontera
Una expresión “cartográfica” de las relaciones
complejas entre política, ciencia e información.
Evaluación
Los ejes que estructuran la evaluación, en un
sistema de valores y en el tiempo
La piedra angular
Prolegómenos
EVALUACIÓN. CIENCIA ALFA 23
Instrumental
Se describen la lógica, metodología y tipos de listas
de control, que deben guiar el proceso de evaluación.
A modo de balance
Un resumen de ideas y perspectivas.
24 Referencias
III. Referencias
Prolegómenos
EVALUACIÓN. CIENCIA ALFA 25
Comentarios contextuales
28 Primera aproximación
I. Primera aproximación
a) ¿Qué es evaluación?
Las ideas de causa y consecuencia son lo primero
que se presenta en nuestra mente al pensar en evaluación.
La evaluación se muestra no solo como un producto
de nuestra razón, sino de nuestra conciencia misma. Resulta
claro que pertenece al campo de la experiencia, y emerge
especialmente de nuestros intercambios con las
circunstancias de la vida o del pensamiento.
Pero aún se puede ir más atrás y considerar si las
reacciones reflejas no merecen también ser reconocidas
como ancestros de la evaluación.
De modo tal que ya podemos resumir diciendo que
evaluar es sopesar, estimar los resultados de alguna acción.
Y ahí descubrimos algo curioso, y muy importante, que
caracteriza a la evaluación, que se refiere al momento de
hacerla. Uno estaría tentado a pensar que naturalmente las
consecuencias vienen después de las causas. O sea que
primero se debe actuar y luego evaluar.
Sin embargo, eso tendría efectos catastróficos.
Pensemos por un momento, en alguien debe dar un paso que
supone saltar desde cierta altura. ¿Acaso sería prudente que
lo hiciera sin “evaluar” los riesgos, para su integridad física,
de hacerlo? Es evidente que, si puede elegir, hará sus
cálculos, recurrirá a su experiencia como saltador y seguirá
o pegará la vuelta.
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 29
b) Evaluación política
El desarrollo de las ideas anteriores y su aplicación
al campo de las políticas sociales se conoce con el nombre
de “evaluación de impacto”.
Es interesante destacar que la palabra impacto,
además de expresar el eco de la aplicación de la evaluación
a los problemas ambientales, revela el interés que esta
modalidad de evaluación tiene en los efectos finales de los
programas y acciones políticas.
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 31
a) Concepto
Como se mencionó antes, el impacto es la
consecuencia, la verificación práctica, de la efectividad de
las políticas desarrolladas.
Todo ese proceso gira en torno a la medición. La
comparación entre el estado inicial y el estado final de la
población objetivo, requiere establecer en cuánto ha
cambiado la situación entre un momento y el otro.
Es oportuno recordar que se puede medir con
distintas escalas, que van desde la que solo reconoce
diferencias cualitativas (nominal), hasta la escala que
permite realizar todas las operaciones aritméticas con sus
valores, pasando por las que registran el orden, ya sea
indicando solo precedencia o incluyendo la distancia que
separa dos elementos ordenados, según la regla de
mayor/menor.
El hecho mismo de medir no es una cuestión simple
porque siempre se mide algo con respecto a un referente, y
se necesita un sistema, debidamente justificado, por una
estructura teórica que relacione los elementos en juego: el
instrumento, la escala, el observador y la precisión.
b) Oportunidad
Cuando se decide alguna acción, sea sobre las
actividades corrientes o se trate de algún proyecto nuevo, se
desencadena un proceso que tiene por finalidad producir
algún cambio, o sea impulsar el paso de una situación a otra,
que se supone preferible.
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 33
c) Necesidad
Es necesario prolongar la mirada y ponderar el
“impacto final”, los efectos o consecuencias logrados.
¿Qué se entiende por “impacto social”? Todas las
consecuencias sociales y culturales para poblaciones
humanas de cualquier acción, pública o privada, que altera
la forma en que la gente vive, trabaja, se relaciona, se
organiza para llenar sus necesidades y generalmente
arreglárselas como miembro de la sociedad. Las
consecuencias culturales involucran cambios a las normas,
valores y creencias de individuos que guían y racionalizan
su conocimiento de sí mismos y de su sociedad.
Dicho de otra manera: Estudiar los efectos de largo
plazo positivos y negativos, primarios y secundarios,
producidos directa o indirectamente por una intervención
para el desarrollo, intencionalmente o no.
Se trata, ni más ni menos que de registrar los
cambios en “la forma en que la gente vive, trabaja, se
relaciona, se organiza para llenar sus necesidades y
generalmente arreglárselas como miembro de la sociedad”.
Un propósito tan ambicioso plantea exigencias
metodológicas fuertes, para que sus resultados sean
convincentes y, además, útiles.
En primer lugar, se presenta el problema de
ponderar la contribución de las acciones desarrolladas a los
resultados observados. En ese aspecto hay que tener en
cuenta que no bastan las sospechas o los razonamientos
para responder a la pregunta sobre la eficacia de los medios
empleados, por sobre los cambios “independientes”,
resultantes de la evolución espontánea del sistema social.
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 35
d) Restricciones
En el terreno de las políticas sociales, se presentan
límites a la experimentación, especialmente éticos, que
impiden librar al azar la asignación de beneficios,
medicinas o becas.
Tampoco la participación voluntaria permite
superar la dificultad, porque no es equiparable a la selección
aleatoria, que es una condición exigida por la objetividad e
independencia experimental.
La dificultad mencionada en el proceso de medición
de los efectos, ha encontrado algunas soluciones, basadas
en la idea de modelos, que siguen un formato “cuasi
experimental”.
Además de la cuestión experimental, se debe tener
en cuenta que los cambios sociales de interés apuntan al
bienestar, a la satisfacción, que constituyen conceptos
complejos, no observables, y de los cuales sólo se pueden
obtener indicadores indirectos. (ver pág. 92, Modelos)
Antes de abandonar la cuestión cuantitativa, parece
oportuno mencionar la necesidad de contar con información
inicial, que permita establecer una “línea de base”. En ese
punto es notoria la conveniencia de que las estadísticas
publicas ajusten su programación a las necesidades de los
proyectos y programas, poniendo a disposición de los
mismos información confiable, relevante y oportuna,
obtenida mediante una conveniente organización de censos,
registros y encuestas muestrales, que complementen el
aprovechamiento intensivo de bases de datos, en un
ambiente de Big Data.
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 37
e) Significado
Es el momento de detenerse en los sujetos de la
evaluación, los que interpretan los resultados. Tanto a nivel
cuantitativo como cualitativo, el impacto repercute en
distintos niveles: el de los beneficiarios directos, el de los
profesionales (médicos, maestros, etc.), el de los
funcionarios emisores (por ej. nacionales), el de los
funcionarios receptores (por ejemplo, municipales), otros
sectores afectados (positiva o negativamente), y el público
en general.
La búsqueda del sentido de la información reunida
debe tener en cuenta esa diversidad de miradas. En
consecuencia, es necesario elaborar un diseño, que
incorpore las dimensiones mencionadas y que al mismo
tiempo tenga flexibilidad para articularlas.
La alta complejidad de ese diseño, se pone de
manifiesto cuando se consideran los antecedentes
38 La medición del impacto.
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 39
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 41
La Teoría es:
TABLA DE TIPOS DE
ERRORES
Verdadera Falsa
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 43
Gráfico 1
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 45
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 47
h) Conclusiones
Resulta bastante claro, a priori, que no es simple la
determinación que se pretende llevar a cabo, teniendo en
cuenta la alta complejidad del sistema social
Las interacciones, perspectivas y la inevitable
limitación en tiempo y capacidad de la observación
condicionan la articulación entre planes políticos, estrategia
de los procesos, y el nivel operativo de las acciones, en el
camino de alcanzar las consecuencias deseadas.
1. Complejidad
El alcance del impacto producido por una
intervención es incierto y para determinarlo
aproximadamente deben tenerse en cuenta, las
"dimensiones de la complejidad", que determinan la
necesidad de establecer límites, que permitan una
definición operacional, apta para obtener resultados útiles y
oportunos.
Los factores sobre los cuales hay operar son,
básicamente, las interrelaciones, las perspectivas y los
límites, que expresan la complejidad de los procesos
sociales.
El concepto de límites y su clara explicitación son
el marco dentro del cual tendrán sentido las interpretaciones
de los resultados de la evaluación, por su directa influencia
sobre los métodos de observación y análisis del proyecto.
2. Capacidades y agencia
La pregunta que organiza el análisis descripto antes,
referido a la efectividad de las acciones sobre diversos
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 49
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 51
Gráfico 3
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 53
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 55
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 57
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 59
e) Cambio
Debemos volver sobre un concepto que se
mencionó, sin profundizar en él. El cambio, que constituye
la razón de las acciones que se llevan a cabo, para modificar
un estado de cosas.
Los componentes del proceso de cambio, siguiendo
a Entwistle, son:
• Los recursos y tecnologías, incluyen actores
humanos y no humanos, tales como recursos económicos,
infraestructurales y técnicos disponibles para la
intervención.
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 61
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 63
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 65
IV. Referencias
Delli Carpini, Michael X. 2005. “An Overview of the State of Citizens’
Knowledge about Politics.” Communicating Politics:
Engaging the Public in Democratic Life, 27–40.
Cupani, Alberto. 2012. “Ciencia Socialmente Robusta: Algunas
Reflexiones Epistemológicas.” Principia 16 (2): 319–40.
George, Clive, and Colin Kirkpatricck. 2007. “Impact Assessment and
Sustainable Development-European Practice and Experience.”
University Business, 1–321.
Henao, Daniel E. n.d. “Política basada en la evidencia: contexto,
posibilidades y límites. Daniel E. Henao Grupo Reproducción,
Universidad de Antioquia, Colombia.”
Morin, Edgar. n.d. “El Método I.- La Naturaleza de La Naturaleza.”
———. 1994. Introducción al Pensamiento Complejo.
———.1996. El Paradigma Perdido. Ensayo.
Nussbaum, Martha, and Amartya Sen. 1993. The Quality of Life
Rogers, Patricia, Sanjeev Khagram, David Bonbright, Sarah Earl, Fred
Carden, Zenda Ofir, and Nancy MacPherson. 2011. “Impact
Evaluation for Development.” Principle for Action, no.
January: 1–10.
———. 2014. “Theory of Change. “Methodological Briefs: Impact
Evaluation, no. 2: 16.
Sztompka, Piotr. 1995. Sociología del cambio social. Madrid: Alianza.
66 Referencias
Comentarios contextuales
EVALUACIÓN. CIENCIA ALFA 67
La triple frontera
68
EVALUACIÓN. CIENCIA ALFA 69
I. Política
b) Pregunta esencial
En “La condición humana”, Anna Arendt había
argumentado que el ingeniero, o cualquier fabricante de
cosas materiales, no era dueño de su propia casa; la
política, por encima del trabajo físico, tiene que
proporcionar la orientación.
Una pregunta esencial interroga sobre la razón de
ser de los partidos políticos en este tiempo y en estas
74
II. Ciencia
¿Cuál es el papel de la ciencia en la gobernanza?
¿Cuál debería ser la relación entre ciencia y política?
En primer lugar, debemos aclarar que hay dos tipos
enteramente diferentes de relaciones entre ciencia y
política.
Por un lado, está la visión de que la ciencia es
formadora de políticas.
Sin embargo, la ciencia es también objeto de
políticas, aunque algunos lo sientan como amenaza a la
objetividad e independencia de la ciencia. En los hechos
decisiones políticas regulan la práctica científica, algunas
veces de forma muy visible sobre todo en las ciencias de la
vida y las biotecnologías.
Por otro lado, mientras la ciencia que informa la
política puede tratar, con o sin éxito, de eliminar o reducir
la incertidumbre, al mismo tiempo las prácticas científicas
y tecnológicas están entre las mayores productoras
mundiales de incertidumbre, al introducir tecnologías,
organismos y formas de vida novedosas y emergentes.
Es exactamente en este potencial para la innovación
en lo que actualmente centran su atención las políticas de
investigación de varios países. Sin más tierra física que
colonizar en el planeta, la ciencia (junto con el espacio
EVALUACIÓN. CIENCIA ALFA 89
b) Ciencia activa
En lo que sigue, nos concentraremos en la ciencia
que informa a la política siguiendo a Funtowicz (Funtowicz
1993). No obstante, ambos tipos de relación entre ciencia y
política no pueden separarse completamente.
Sociológicamente hablando, podría haber conexiones o
incluso solapamientos entre los expertos que informan y los
científicos cuyos intereses se ven afectados por las
decisiones políticas (De Marchi, 2003).
Epistemológicamente hablando, definitivamente
hay conexiones, en el sentido de que las prácticas que hay
que regular están basadas en un cuerpo de conocimientos
que también juega un importante papel en el asesoramiento
político.
El modelo con la ciencia activa supone que la
ciencia determina la política produciendo conocimiento
objetivo, válido y fiable. Desarrollar una política es, de
acuerdo a esto, una cuestión de volverse informado
mediante la ciencia y, entonces, en un segundo paso,
ordenar los valores y preferencias para formular la política
correcta y racional.
La idea de legitimación es central para este
modelo. No es una receta para la articulación de políticas;
está demasiado idealizado para eso. La idea clave es la de
una legitimación doble.
La gobernanza y, más aún, la fundación del estado
moderno está legitimadas por la superioridad de la
EVALUACIÓN. CIENCIA ALFA 91
III. Información
c) El alcance de la razón
Por debajo de la periferia de los conflictos
políticos, la revolución científica sigue su curso, al margen
de pasiones, discursos y contorsiones retóricas
y ella es la que lleva a la riqueza o condena a la
mediocridad.
José María Sanguinetti, LA NACION, 26/09/2008
IV. Referencias
1. Básicas
Feynman, R. P. (1998). The meaning of it all: thoughts of a citizen
scientist. Reading, Mass., Perseus Books.
Ortega y Gasset, E. (1934). España invertebrada: bosquejo de algunos
pensamientos históricos. Madrid, Revista de Occidente.
Otero, H. n. (2006). Estadística y Nación: una historia conceptual del
pensamiento censal de la Argentina moderna, 1869-1914.
Ciudad de Buenos Aires, Prometeo Libros.
Serra, J. P. (1998). A informaçâo como utopia. Covilhâ, Universidade
da Beira Interior.
Tversky, A. and E. Shafir (2004). Preference, belief, and similarity:
selected writings. Cambridge, Mass., MIT Press.
Latour, Bruno. 1992. Ciencia en acción: cómo seguir a los científicos e
ingenieros a través de la sociedad. Barcelona: Labor.
———. 2007. Nunca Fuimos Modernos. Siglo Veintiuno Editores
Argentina.
Gibbons, Michael, Camille Limoges, Helga Nowotny, Simon
Schwartzman, Peter Scott, and Martin Trow. 1994. The New
Production of Knowledge: The Dynamics of Science and
Research in Contemporary Societies. Edited by SAGE. Sage
Publications.
Gibbons, Michael, Camille Limoges, Martin Trow, “La nueva
producción del conocimiento. La dinámica de la ciencia y la
investigación en las sociedades contemporáneas.” Ediciones
Pomares Corredor S A. 1997.
116
2. Argumentación
Evaluación
120
I. Círculo de la evaluación
Gráfico 1
a) Normas de Utilidad
Los siguientes estándares de utilidad aseguran que
una evaluación satisfaga las necesidades de información de
la intención usuarios:
A. Identificación de los interesados. Las personas
involucradas o afectadas por la evaluación deben
identificarse de manera que sus necesidades pueden
abordarse.
B. Credibilidad del evaluador Las personas que
realizan la evaluación deben ser confiables y competentes
al realizar la evaluación de los hallazgos para lograr la
máxima credibilidad y aceptación.
C. Alcance y selección de la información. La
información recopilada debe abordar las preguntas
pertinentes con respecto al programa y ser receptivo a las
necesidades e intereses de los clientes y otros partes
interesadas
D. Identificación de valores. Las perspectivas, los
procedimientos y el razonamiento utilizados para
interpretar los hallazgos debe describirse cuidadosamente
para que las bases de los juicios de valor sean claras.
EVALUACIÓN. CIENCIA ALFA 129
c) Normas de Corrección
Las siguientes normas de Corrección garantizan que
la evaluación se lleve a cabo de forma legal, ética y con
consideración por el bienestar de los involucrados en la
evaluación, así como aquellos afectados por sus resultados:
A. Orientación al servicio. La evaluación debe
diseñarse para ayudar a las organizaciones a abordar y
sirviendo efectivamente las necesidades de los participantes
seleccionados.
B. Acuerdos formales. Todas las partes principales
involucradas en una evaluación deben acordar por escrito
con sus obligaciones (es decir, qué se debe hacer, cómo, por
quién y cuándo) para que cada uno se adhiera a las
condiciones del acuerdo o renegociarlo.
C. Derechos de sujetos humanos. La evaluación
debería [K: ¿debe? B: El texto aprobado por ANSI dice
"Debería"] diseñarse y realizarse de una manera que respete
y proteja los derechos y el bienestar de sujetos humanos.
D. Interacciones humanas. Los evaluadores deben
interactuar respetuosamente con otras personas asociadas
con una evaluación, para que los participantes no sean
amenazados o perjudicados.
E. Evaluación completa y justa. La evaluación
debe ser completa y justa en su examen y
EVALUACIÓN. CIENCIA ALFA 131
d) Normas de Precisión
Los siguientes estándares de precisión garantizan
que una evaluación transmita información técnicamente
adecuada con respecto a las características determinantes
del mérito del programa:
A. Documentación del programa. El programa
que se evalúa debe documentarse claramente y
precisamente.
B. Análisis de contexto. El contexto en el que
existe el programa debe examinarse con suficiente detalle
para identificar influencias probables en el programa.
132
IV. Pasos
Resulta conveniente organizar las tareas
estableciendo la forma y el momento en que las distintas
partes intervienen en el desarrollo de la evaluación. Sin
embargo, que se debe tener en cuenta la interdependencia,
tanto entre los actores como entre las actividades, lo que se
pone de manifiesto en la necesidad de llevar a cabo
retroalimentaciones regularmente.
A continuación, se presenta la secuencia básica de
siete pasos que se recomienda seguir en el desarrollo del
proceso
a) Hacer participar a las partes interesadas
1. Elementos esenciales
Identificar y hacer participar a los tres grupos
principales de partes interesadas, por diversas razones en la
evaluación y en la forma en que se utilizará la información:
• Las personas involucradas en las operaciones del
programa (p. ej., donantes o fuentes de fondos;
administradores, gerentes o personal del
programa involucrados en la planificación o
implementación)
• Las personas a las que el programa brinda
servicios o afectadas por el programa directa o
indirectamente (p. ej., participantes y los
miembros de sus familias; organizaciones
comunitarias; funcionarios electos; asociaciones
u organizaciones profesionales relevantes al
EVALUACIÓN. CIENCIA ALFA 135
Definición
Fomentar el aporte, la participación y compartir el
poder entre aquellas personas que tienen intereses, de
distinta naturaleza, en la realización de la evaluación y sus
136
Para qué
Ayuda a aumentar las posibilidades de que la
evaluación sea útil; puede mejorar la credibilidad de la
evaluación, aclarar roles y responsabilidades, mejorar la
competencia cultural, ayudar a proteger a los sujetos
humanos y evitar conflictos de interés reales o percibidos.
Actividades
• Consultar a "internos" (por ejemplo, líderes,
personal, clientes y fuentes de financiación de programas)
y "externos" (por ejemplo, escépticos);
• Hacer un esfuerzo especial para promover la
inclusión de los grupos o individuos menos poderosos;
• Coordinar el aporte de las partes interesadas a lo
largo del proceso de diseño, operación y uso de la
evaluación; y
• Evitar la identificación discriminatoria de las
partes interesadas, lo que podría impedir el progreso de la
evaluación.1
1
Adaptado del Comité Conjunto de Estándares para
la Evaluación Educativa. Estándares de evaluación del
programa: cómo evaluar las evaluaciones de los programas
educativos. 2nd ed. Thousand Oaks, CA: Sage
Publications,1994.
EVALUACIÓN. CIENCIA ALFA 137
b) Describir el programa.
1. Elementos esenciales
• Describir los aspectos de programa con detalles
suficientes para asegurar una comprensión
compartida de lo evaluado (es decir, el programa
o los componentes del programa a evaluar):
• Necesidad: la naturaleza y magnitud del problema
u oportunidad que el programa apunta a abordar
• Efectos esperados: lo que el programa debe llevar
a cabo o lograr para ser considerado exitoso
• Actividades: lo que hace el programa para crear o
contribuir con el cambio presentado en una
progresión o secuencia lógica
• Recursos: activos disponibles para planificar y
llevar a cabo actividades (p. ej., recursos humanos
y fiscales, información o evidencia relevante al
programa)
Etapa de desarrollo: la madurez del programa
• Contexto: entorno e influencias ambientales
relevantes al programa o la evaluación (p. ej.,
condiciones sociales o económicas, esfuerzos de
otras organizaciones para abordar necesidades
iguales o similares)
• Modelo lógico: imagen o resumen del
mecanismo de cambio de programa (es decir, la
progresión de los procesos del programa a los
138
Definición
Examinar las características del programa que se
evalúa, incluido su propósito y lugar en un contexto de
salud pública más amplio. La descripción incluye
información sobre la forma en que se pretendía que el
programa funcionara y la forma en que realmente se
implementó. También incluye características del contexto
del programa que probablemente influyan en las
conclusiones con respecto al programa.
Para qué
Mejorar la equidad y la precisión de la evaluación;
permite una evaluación equilibrada de las fortalezas y
debilidades y ayuda a las partes interesadas a comprender
cómo las características del programa encajan y se
relacionan con un contexto más amplio.
EVALUACIÓN. CIENCIA ALFA 139
Actividades
• Caracterizar la necesidad (o conjunto de
necesidades) abordadas por el programa;
• Enumerar las expectativas específicas como
metas, objetivos y criterios para el éxito;
• Aclarar por qué se cree que las actividades del
programa conducen a los cambios esperados;
• Dibujar un modelo lógico explícito para ilustrar las
relaciones entre los elementos del programa y los cambios
esperados;
• Evaluar la madurez o etapa de desarrollo del
programa;
• Analizar el contexto dentro del cual opera el
programa;
• Considerando cómo el programa está vinculado a
otros esfuerzos en curso; y
• Evitar la creación de una descripción demasiado
precisa para un programa que está en desarrollo.
Definición
Planificar con anticipación hacia dónde se dirige la
evaluación y qué pasos se seguirán; el proceso es iterativo
(es decir, continúa hasta que se encuentre una propuesta
"enfocada" para responder preguntas de evaluación con
métodos que los interesados acuerden serán útiles, factibles,
ético y preciso); las preguntas y los métodos de evaluación
pueden ajustarse para lograr una combinación óptima que
facilite el uso por parte de los usuarios principales.
Para qué
Proporciona inversión en calidad; aumenta las
posibilidades de éxito de la evaluación al identificar
procedimientos prácticos, políticamente viables y
rentables; no planear bien puede ser contraproducente, lo
que lleva a una evaluación que podría volverse
impracticable o inútil; cuando las partes interesadas
acuerdan un enfoque de diseño, se utiliza a lo largo del
proceso de evaluación para mantener el proyecto en el buen
camino.
Actividades
142
Definición
Compilar información que los interesados perciben
como confiable y relevante para responder sus preguntas.
Tal evidencia puede ser experimental u observacional,
cualitativa o cuantitativa, o puede incluir una mezcla de
métodos. Los datos adecuados pueden estar disponibles y
ser de fácil acceso, o puede ser necesario definirlos y
recopilar nuevos datos. Si un cuerpo de evidencia es creíble
para las partes interesadas puede depender de factores como
la forma en que se formularon las preguntas, las fuentes de
información, las condiciones de recopilación de datos, la
confiabilidad de la medición, la validez de las
interpretaciones y los procedimientos de control de calidad.
Para qué
Mejora la utilidad y precisión de la evaluación; guía
el alcance y la selección de información y da prioridad a las
fuentes de información más defendibles; promueve la
EVALUACIÓN. CIENCIA ALFA 145
Actividades
Elegir indicadores que aborden de manera
significativa las preguntas de evaluación;
Describiendo completamente los atributos de las
fuentes de información y la razón de su selección;
Establecer procedimientos claros y capacitar al
personal para recopilar información de alta calidad;
Monitorear periódicamente la calidad de la
información obtenida y tomar medidas prácticas para
mejorar la calidad;
Estimar de antemano la cantidad de información
requerida o establecer criterios para decidir cuándo dejar de
recopilar datos en situaciones en las que se usa un proceso
iterativo o evolutivo; y
Salvaguardar la confidencialidad de la información
y las fuentes de información.
2. Aclaraciones y consideraciones
Las técnicas para análisis y síntesis de datos deben
debatirse y determinarse antes de iniciar la recopilación de
datos.
El desacuerdo relacionado con la calidad o el valor
del programa puede indicar que las partes interesadas están
utilizando criterios diferentes como base para emitir juicios
y ofrece una oportunidad para la aclaración o negociación
entre las partes interesadas.
Emitir recomendaciones para la acción que carezcan
de evidencia suficiente puede socavar la credibilidad de la
evaluación.
3. Justificando conclusiones
Definición
Los reclamos y observaciones con respecto al
programa se harán sobre la base de datos que han sido
cotejados con ideas pertinentes y defendibles de mérito,
valor o importancia (es decir, contra estándares de valores);
las conclusiones alcanzadas se justificarán cuando se
apoyen en la evidencia reunida y sean consistentes con los
valores acordados o las opiniones de los interesados.
Para qué
Refuerza las conclusiones fundamentales para la
utilidad y precisión de la evaluación; implica la
clarificación de los valores, el análisis y la síntesis de los
datos cualitativos y cuantitativos, la interpretación
sistemática y la comparación adecuada con las normas
pertinentes para el juicio.
148
Actividades
• Usar métodos apropiados de análisis y síntesis
para resumir los hallazgos;
• Interpretar la importancia de los resultados para
decidir qué significan los hallazgos;
• Hacer juicios de acuerdo con valores claramente
establecidos que clasifican un resultado (por
ejemplo, como positivo o negativo y alto o bajo);
• Considerar formas alternativas de comparar los
resultados (por ejemplo, en comparación con los
objetivos del programa, un grupo de
comparación, normas nacionales, desempeño
pasado o necesidades);
• Generar explicaciones alternativas para los
hallazgos e indicar por qué se deben descartar
estas explicaciones;
• Recomendar acciones o decisiones que sean
consistentes con las conclusiones; y
• Limitar las conclusiones a situaciones, períodos
de tiempo, personas, contextos y propósitos para
los cuales los hallazgos son aplicables.
VII. Referencias
1. Básicas
Macdonald, Goldie. 1999a. “Framework for Program Evaluation in
Public Health: A Checklist of Steps and Standards,” 1–8.
———. 1999b. “Una Lista de Verificación de Pasos y Estándares,” 1–
8.
Scriven, Michael. n.d. “Formative, Preformative, and Proformative
Evaluation.” Journal of Multidisciplinary Evaluation 8 (18):
58–61.
———. 2002. “Evaluating Evaluations.” HRMagazine 47 (6): 85.
———. 2007a. “Key Evaluation Checklist,” no. February: 22.
www.wmich.edu/evalctr/checklists.
———. 2007b. “Laundry List,” Methodology, no. October 2005.
———. 2011. “Evaluating Evaluations: A Meta-Evaluation Checklist.”
Claremont Graduate University, 1–7.
———. 2015. “Evaluation Revolutions.” Journal of Multidisplinary
Evaluations 11 (25): 15–21.
———. 2016. “Synthesis,” 367–82.
Stufflebeam, Daniel L. n.d. “Evaluation contracts checklist,” 2.
———. n.d. “Evaluation plans and operations checklist,”
———. 2000a. “Foundational Models for 21st Century Program
Evaluation.” Evaluation Models, 33–83.
168 Referencias
El Método es
el camino
170 Marco
I. Marco
a) Marco Conceptual
El marco se construye utilizando un enfoque
sistémico. Los componentes de cualquier sistema (incluido
el sistema de formulación de políticas) se pueden entender
mejor en el contexto de las relaciones entre sí y con otros
sistemas, en lugar de hacerlo de forma aislada. Por eso, se
consideran las instituciones gubernamentales como parte de
un sistema de formulación de políticas más amplio.
Las instituciones gubernamentales interactúan entre
sí y también afectan, y se ven afectadas, por múltiples
instituciones e individuos.
Simultáneamente, el sistema de formulación de
políticas interactúa con el “macro-contexto” más amplio
(entendido como el sistema político, económico, social y
cultural).
Los límites entre todos estos componentes son
borrosos y difíciles de establecer. Por lo tanto, es imposible
establecer relaciones simples y lineales entre instituciones
y partes interesadas.
Bajo este principio, el marco propuesto identifica
seis dimensiones interrelacionadas principales que son
cruciales para comprender dónde se encuentran los puntos
EVALUACIÓN. CIENCIA ALFA 171
1. Fuentes de datos
El contexto actual es de abundancia de datos. No es
fácil decir que hay mucha información, porque esta requiere
sistematización: orden, compatibilidad regularidad, validez
y fiabilidad, con las que no siempre se cuenta.
Sin embargo, ese contexto es competitivo y riesgoso
para el muestreo estadístico. Por dos motivos
contradictorios. En un caso porque existe información que
puede competir con los resultados, y habida cuenta de la
incertidumbre controlada del muestreo, y la aparente
solidez de las bases exhaustivas (dejando de lado sus
problemas endógenos mencionados antes) por lo menos
dejaría dudas sobre las estimaciones estadísticas. En
nuestro caso las bases del ANSES, las encuestas que
administra el INDEC, entre otras, son las incógnitas a
develar.
Por otro lado, la existencia de directorios como el
telefónico y en menor grado los correos electrónicos y la
misma web, son propicios para el despliegue de sistemas
automáticos, que hacen uso y abuso de las facilidades de
acceso a las personas, y producen resultados, cada semana,
cada día y hasta cada hora si son necesarios. ¿Quién puede
responder a la información en tiempo real? Cuando emita la
respuesta a un valor, éste ya será otro.
Principios
Principio I.- Evaluar y emplear toda la información
disponible, armonizándola.
Principio II.- Controlar y subsanar los errores que
no son de muestreo.
EVALUACIÓN. CIENCIA ALFA 195
V. Indicadores
1. Comunicar
Como se mencionó al comienzo, el enfoque de la
evaluación de impacto utilizado presenta dos características
fuertemente relacionadas: es participativo y aplica una
metodología mixta. Esos dos elementos están relacionados
por el objetivo de "escuchar a la gente" y estimular la
expresión de interpretaciones.
Para lograr ese objetivo es necesario organizar un
programa de comunicación que incorpore a los distintos
interesados en el desarrollo de la evaluación.
La idea subyacente en todo el proceso es que existen
diferentes "visiones" de la situación. Los puntos de vista
nacen de percepciones, intereses, actitudes, preferencias,
del grado de sinergia y del clima de confianza.
2. Indicadores acordados
Esa flexibilidad requiere un anclaje que permita el
necesario ejercicio de la comprensión. Para ello, hay que
elaborar indicadores acordados -que son aceptados por las
partes interesadas en lugar de seleccionados
exclusivamente por los expertos- y que deben ser vistos
como representando "objetos fronterizos", en el sentido
que son "adaptables a diferentes puntos de vista y lo
suficientemente robustos para mantener la identidad a
través de ellos"
Como consecuencia inmediata, se identifica la
tensión entre esa definición y la tendencia a apropiarse de
los indicadores, por parte de quienes los elaboran. Un caso
EVALUACIÓN. CIENCIA ALFA 199
VI. Referencias
1. Básicas
Becker, H. A., and Frank Vanclay, eds. 2003. The International
Handbook of Social Impact Assessment: Conceptual and
Methodological Advances. Cheltenham, UK; Northampton,
MA, USA: Edward Elgar.
Bond. 2003. “Logical Framework Analysis.” Guidance Notes No. 4: 1–
8.
Cook, Thomas D., Michael Scriven, Chris L. S. Coryn, and Stephanie
D. H. Evergreen. 2010. “Contemporary Thinking About
Causation in Evaluation: A Dialogue with Tom Cook and
Michael Scriven.” American Journal of Evaluation 31 (1):
Catley, Andy, John Burns, Dawit Abebe, and Omeno Suji.
2014. “Participatory Impact Assessment. A Design Guide,”
57. 105–17.
Evaluación de Programas Gubernamentales. 2005. “Metodología para
la Elaboración de Matriz de Marco Lógico.” División de
Control de Gestión, DIPRES, 8.
Funnell, Sue C., and Patricia J. Rogers. 2011. “Purposeful Program
Theory. Effective Use of Theories of Change and Logic
Models.”
Rogers, Patricia. 2001. “Program Theory and Logic Models for
Systemic Evaluation.” RMIT University, No. January.
EVALUACIÓN. CIENCIA ALFA 201
2. Algunos manuales
Asociación Internacional para la Evaluación de Impactos -
IAIA-. 2015. “Evaluación de Impacto Social:
Lineamientos para la Evaluación y Gestión de
Impactos Sociales de Proyectos.”,110.
http://www.iaia.org/pdf/Evaluacion-Impacto-Social-
Lineamientos.pdf.
Baker, Judy L. 2000. Evaluación del Impacto de los
Proyectos de Desarrollo en la Pobreza. Manual Para
Profesionales.
Bank, The World. 2003. “Independent Evaluation:
Principles, Guidelines and Good Practice.”
Blomquist, John. 2003. “Impact Evaluation of Social
Programs: A Policy Perspective,”
Cohen Ernesto, and Rolando Franco. n.d. Evaluación de
Proyectos Sociales.
Di Virgilio, Mercedes, and Romina Solano. n.d.
Monitoreo y Evaluación de Políticas, Programas y
Proyectos Sociales. Edited by CIPPEC.
Enfoque AEVAL. 2015. Guia Práctica. AEC.
Ernesto Cohen, and Rolando Franco. 1992. Evaluación de
Proyectos Sociales. Edited by Siglo Veintiuno.
Fontaine, Ernesto R. n.d. Fontaine (2008) Evaluación
Social de Proyectos.
Gertler, Paul, Sebastián Martínez, Patrick Premand, Laura
Rawlings, and Christel Vermeersch. 2011. La
202 Referencias
Herramientas
204 Necesidad
I. Necesidad
Menos Adictas al Estudio de la Cartografía, las
Generaciones Siguientes entendieron que ese dilatado
Mapa era Inútil y no sin Impiedad lo entregaron a las
Inclemencias del Sol y los Inviernos. En los desiertos del
Oeste perduran despedazadas Ruinas del Mapa, habitadas
por Animales y por Mendigos; en todo el País no hay otra
reliquia de las Disciplinas Geográficas.
J.L.Borges
El mapa no es el territorio.
A. Korszibski
El mapa es la mejor metáfora de lo que necesitamos
en nuestra relación con la complejidad. La complejidad nos
ha hecho conscientes no de la ignorancia humana en
general, “sino de la ignorancia agazapada, disimulada, cuasi
nuclear, en el corazón de nuestro conocimiento reputado
como el más cierto, el conocimiento científico. Ahora ya
sabemos que este conocimiento es mal conocido, mal
conocedor, dividido, ignorante tanto de su propio
desconocido como de su conocido (E. Morin).
a) Naturaleza
Frecuentemente se considera que las listas de
verificación (checklists), están por debajo del nivel de lo
que llamamos metodología, y más aún de la teoría. Sin
embargo, ellas son de gran utilidad y ocupan un lugar
central en la evaluación.
Muchas listas de verificación utilizadas en la
evaluación incorporan una teoría bastante compleja, o al
menos un conjunto de hipótesis, bien fundamentadas.
De hecho, si bien la teoría subyacente a una lista de
verificación es menos ambiciosa que la que normalmente
llamamos una teoría del programa, a menudo es toda la
teoría necesaria para la evaluación.
El proceso de validación de una lista de verificación
es una tarea que requiere considerable dedicación.
A continuación, de acuerdo con el enfoque de
Scriven, se describen algunas de las características básicas
de las listas de verificación y su aplicación en la evaluación,
sin pretender agotar su lógica o metodología.
1. Definición
Una lista de verificación es una lista de factores,
propiedades, aspectos, componentes, criterios, tareas o
dimensiones, cuya presencia, referencia o cantidad debe
EVALUACIÓN. CIENCIA ALFA 207
3. Redacción
¿La lista de verificación:
❑ Utiliza puntos de pausa naturales en el flujo de
trabajo?
❑ Usar un lenguaje básico y una estructura de
oración simple?
❑ Tener un título que refleje sus objetivos?
❑ Tener un formato lógico sencillo y ordenado
❑ ¿Encaja en una página?
❑ ¿Minimiza el uso del color?
4. Es la fuente:
❑ Sans serif?
❑ ¿Mayúsculas y minúsculas?
❑ ¿Lo suficientemente grande como para ser leído
fácilmente?
❑ ¿Oscuro sobre un fondo claro?
❑ ¿Hay menos de 10 artículos por punto de pausa?
❑ ¿Es la fecha de creación (o revisión) claramente
marcada?
5. Validación
Tienes:
❑ Probada la lista de verificación con usuarios de
primera línea (ya sea en una situación real o simulada)
❑ Modificada la lista de verificación en respuesta a
pruebas repetidas?
¿La lista de verificación:
❑ ¿Ajusta el flujo de trabajo?
EVALUACIÓN. CIENCIA ALFA 225
2. Contenido
El contenido de la lista de verificación está
completo. (El contenido transmite toda la
información necesaria para abordar el tema de la
lista de verificación).
El contenido es técnicamente correcto.
Se utilizan términos precisos. (Los términos
precisos no están abiertos a una interpretación
amplia, por ejemplo, "tres" es más preciso que
"varios" y "semanal" es más preciso que
"periódicamente".
Los puntos de control enfocan al usuario en qué
hacer.
o Sucinto (no use más o menos palabras de las
necesarias para transmitir el punto)
o Positivo (identifique qué hacer, en lugar de qué
no hacer)
o Declarativo (haga declaraciones en lugar de
hacer preguntas)
o Voz activa (enfatiza verbos en lugar de
adverbios o adjetivos)
228 Lista de verificación para listas
3. Estructura
Se agrupan elementos similares y de facilitación.
(Un elemento facilitador es aquel que ayuda al
usuario a completar otra tarea; por ejemplo, poder
guardar un documento en un disco duro facilita
aprender cómo guardar un documento en un
disquete.)
El orden en que se presentan los artículos es
funcional.
Los artículos están numerados para que los
usuarios sepan el orden apropiado para realizar las
actividades. (Incluso si no hay una secuencia
inherente a una tarea, crear una proporciona a los
usuarios una estructura ordenada y aumenta la
probabilidad de completar con éxito la tarea.)
Los cortes visuales (espacios en blanco / líneas
horizontales) se utilizan para separar diferentes
elementos, secciones e ideas, dejando en claro
dónde termina un elemento de una lista de
verificación y comienza el siguiente.
La información importante se resalta de alguna
manera (en caja, centrada, en mayúscula) para
capturar la atención del usuario.
La palabra "no" está subrayada cuando se usa (para
llamar la atención sobre el negativo).
Los dispositivos textuales se utilizan de manera
efectiva para controlar la ingesta y el flujo de
información. Específicamente:
EVALUACIÓN. CIENCIA ALFA 229
5. Usabilidad
El borrador de la lista de verificación se probó para
ver si funcionaba como estaba previsto. (Esto
requiere que el desarrollador tenga un sentido
claro de los objetivos y propósitos para la lista de
verificación)
La prueba se llevó a cabo con miembros de la
audiencia objetivo para la lista de verificación.
(Los miembros de la audiencia objetivo son las
únicas personas que pueden juzgar adecuadamente
si la lista de verificación es valiosa para ellos ya
que trabajan para lograr el propósito para el cual la
lista de verificación es destinado a.)
La prueba se llevó a cabo con un solo usuario a la
vez. (Es casi imposible rastrear a más de una
persona a la vez cuando se documenta la
información experiencias y recomendaciones del
usuario para la lista de verificación.)
El probador se abstuvo de proporcionar ayuda
durante la prueba. (Es fácil quedar atrapado en
EVALUACIÓN. CIENCIA ALFA 231
V. Diseño de evaluación
4. Analizar información
1. Identificar las bases para interpretar los hallazgos,
como las necesidades evaluadas de los beneficiarios, los
objetivos, el mandato, estándares, normas nacionales,
costos y desempeño del evaluando en un momento anterior,
costos y
desempeño de evaluandos similares, juicios de expertos y
juicios de beneficiarios y otras partes interesadas
2. Determinar los procedimientos y dispositivos de
análisis cuantitativos necesarios, por ejemplo, estadísticas
descriptivas; análisis de tendencia; análisis de
costos; efecto principal pruebas de significación; pruebas
de interacciones; pruebas de significado a
posteriori; análisis de parámetros de
efecto; metaanálisis; análisis de ítems; análisis
factorial; análisis de regresión; y / o cuadros, tablas, y
gráficos.
3. Determine los procedimientos de análisis cualitativos
necesarios, por ejemplo, análisis temático cualitativo,
análisis de contenido, resúmenes, escenarios y / o contrastes
de fotografías.
4. Seleccionar programas informáticos apropiados para
facilitar los análisis cuantitativos y cualitativos.
5. Planifique la búsqueda de tendencias, patrones y temas
en la información cualitativa.
6. Planee contrastar diferentes subconjuntos de
información cualitativa y cuantitativa para identificar en
ambos conclusiones corroborativas y contradictorias.
7. Planee abordar cada pregunta evaluativa haciendo
referencia y citando los datos cuantitativos e información
cualitativa.
8. Planee usar información cualitativa para elaborar y
explicar hallazgos cuantitativos.
EVALUACIÓN. CIENCIA ALFA 239
La piedra
angular
EVALUACIÓN. CIENCIA ALFA 244
244
EVALUACIÓN. CIENCIA ALFA 245
b) Puntos de control
En cualquier caso, buscar cuidadosamente en el
contexto, incluyendo los usuarios, los actores, las
necesidades y los recursos, a fin de determinar cuál de los
puntos de control deben recibir más atención.
246 Evaluar, sopesar, ponderar
c) Metaevaluación en la práctica
Para cada una de las 30 normas, la lista de
verificación incluye 10 puntos de control extraídos de la
sustancia del estándar. Se sugiere anotar cada estándar en
cada control.
Es un tipo de lista con puntuación según “Criterio
del mérito”. Entonces, los juicios sobre la adecuación del
modelo de evaluación para cumplir con el estándar pueden
hacerse, sobre la base de los puntos cumplimentados en
cada norma, de la siguiente manera: 0-2 Pobre, 3-4 Regular,
5-6 Buena, 7-8 Muy buena, 9-10 Excelente.
Se considera que el modelo de evaluación falla si
obtiene un puntaje bajo en los siguientes estándares:
C1 Orientación al servicio
P5 Información válida
P10 Conclusiones justificadas
P11 Informes imparciales
Se recomienda consultar el texto completo del
Programa del Comité Conjunto (1994) Estándares de
Evaluación, Thousand Oaks, CA: Sage Publications.
EVALUACIÓN. CIENCIA ALFA 249
1. REQUISITOS DE UTILIDAD
U1.- Identificación de partes interesadas
Identifique claramente al cliente de evaluación
Involucrar figuras de liderazgo para identificar otras
partes interesadas
Consulte a las partes interesadas potenciales para
identificar sus necesidades de información
Usar partes interesadas para identificar otras partes
interesadas
Con el cliente, clasifique a los interesados por su
importancia relativa
Organizar para involucrar a las partes interesadas a lo
largo de la evaluación
Mantener la evaluación abierta para servir a las partes
interesadas recientemente identificadas
Abordar las necesidades de evaluación de las partes
interesadas
Servir a un rango apropiado de partes interesadas
individuales
Servir una gama apropiada de organizaciones de
partes interesadas
9-10 Excelente 7-8 Muy bueno 5-6 Bueno 3-4 Regular 0-2 Pobre
U7 Impacto de la evaluación
Mantener contacto con la audiencia
Involucrar a los interesados a lo largo de la evaluación
Fomentar y apoyar a las partes interesadas = uso de los
hallazgos
Mostrar a las partes interesadas cómo podrían usar los
hallazgos en su trabajo
Pronosticar y abordar usos potenciales de los hallazgos
Proporcionar informes provisionales
Asegúrese de que los informes estén abiertos, francos
y concretos
Complementar informes escritos con comunicación
oral continua
Llevar a cabo talleres de retroalimentación para revisar
y aplicar los hallazgos
Haga arreglos para proporcionar asistencia de
seguimiento en la interpretación y aplicación de los
hallazgos.
9-10 Excelente 7-8 Muy bueno 5-6 Bueno 3-4 Regular 0-2 Pobre
3. REQUISITOS DE VIABILIDAD
V1 Procedimientos prácticos
Adaptar métodos e instrumentos a los requisitos de
información
Minimizar la interrupción
Minimice la carga de datos
Designar personal competente
Entrene al personal
Elija los procedimientos que el personal está calificado
para llevar a cabo
Elija procedimientos a la luz de las restricciones
conocidas
Haga un horario realista
Involucrar a los lugareños para ayudar a llevar a cabo
la evaluación
Según corresponda, haga que los procedimientos de
evaluación sean parte de los eventos de rutina
9-10 Excelente 7-8 Muy bueno 5-6 Bueno 3-4 Regular 0-2 Pobre
V2 Viabilidad política
EVALUACIÓN. CIENCIA ALFA 255
V3 Efectividad/costo
Sea eficiente
Hacer uso de servicios en especie
Producir información que valga la inversión
Informar decisiones
Fomentar la mejora del programa
Proporcionar información de responsabilidad
Generar nuevos conocimientos
Ayuda a difundir prácticas efectivas
Minimice las interrupciones
Minimice las demandas de tiempo al personal del
programa
9-10 Excelente 7-8 Muy bueno 5-6 Bueno 3-4 Regular 0-2 Pobre
256 Evaluar, sopesar, ponderar
5. REQUISITOS DE CORRECCION
C1 Orientación de servicio
Evaluar las necesidades de los clientes del programa
Evaluar los resultados del programa contra clientes
específicos = necesidades evaluadas
Ayudar a asegurar que se sirva a toda la gama de
beneficiarios legítimos del programa
Promover un excelente servicio
Haga que la orientación del servicio de la evaluación
sea clara para las partes interesadas
Identificar las fortalezas del programa para construir
Identificar las debilidades del programa para corregir
Dar retroalimentación provisional para la mejora del
programa
Exponer prácticas dañinas
EVALUACIÓN. CIENCIA ALFA 257
C4 Interacciones humanas
Relacionarse constantemente con todas las partes
interesadas de manera profesional
Mantener una comunicación efectiva con las partes
interesadas
Seguir el protocolo de la institución
Minimizar la interrupción
Honrar a los participantes = derechos de privacidad
Compromisos de tiempo de honor
Estar alerta y dirigirse a los participantes con
preocupaciones sobre la evaluación
Ser sensible a los participantes con diversidad de
valores y diferencias culturales
Ser imparcial al abordar las diferentes partes
interesadas
No ignorar ni ayudar a encubrir la incompetencia,
comportamiento poco ético, fraude, desperdicio o
abuso de un participante
9-10 Excelente 7-8 Muy bueno 5-6 Bueno 3-4 Regular 0-2 Pobre
C7 Conflicto de intereses
Identificar potenciales conflictos de interés al
principio de la evaluación
Proporcionar garantías escritas y contractuales contra
los conflictos de interés identificados
Involucrar a múltiples evaluadores
Mantener registros de evaluación para revisión
independiente
Según corresponda, involucrar a partes independientes
para la evaluación de susceptibilidad o corrupción,
mediando en conflictos de interés
Cuando corresponda, divulgue procedimientos de
evaluación, datos e informes para revisión pública
Contrato con la autoridad de financiación en lugar del
programa financiado
Haga que los evaluadores internos informen
directamente al director ejecutivo
Informar equitativamente a todas las audiencias que
tienen derecho a saber
Involucrar a personas calificadas únicamente para
participar en la evaluación, incluso si tienen un
conflicto potencial de interés; pero tome medidas para
contrarrestar el conflicto
9-10 Excelente 7-8 Muy bueno 5-6 Bueno 3-4 Regular 0-2 Pobre
C8 Responsabilidad fiscal
Especificar y presupuestar elementos de gastos por
adelantado
EVALUACIÓN. CIENCIA ALFA 261
7. REQUISITOS DE PRECISIÓN
P1 Documentación del programa
Recopilar descripciones del programa deseado de
varias fuentes escritas
Recopilar descripciones del programa deseado por
parte del cliente y varias partes interesadas
Describa cómo se diseñó el programa para funcionar
Mantener registros de varias fuentes de cómo funciona
el programa
Como sea posible, involucre observadores
independientes para describir las operaciones reales del
programa
Describir cómo el programa realmente funcionó
Analizar las discrepancias entre las diversas
descripciones de cómo se pretendía que el programa
funcionara
Analizar las discrepancias entre cómo se pretendía
operar el programa y cómo funcionaba realmente
Solicite al cliente y a varias partes interesadas que
evalúen la precisión de las descripciones grabadas de
ambos, lo previsto y el programa real
Produzca un informe técnico que documente las
operaciones del programa
9-10 Excelente 7-8 Muy bueno 5-6 Bueno 3-4 Regular 0-2 Pobre
P2 Análisis de contexto
EVALUACIÓN. CIENCIA ALFA 263
P5 Información válida
Enfoque la evaluación en preguntas clave
Según corresponda, emplee múltiples medidas para
abordar cada pregunta
Proporcione una descripción detallada de los
constructos y comportamientos sobre qué información
se adquirirá
Evaluar e informar qué tipo de información adquiere
cada procedimiento empleado
Entrene y calibre a los recolectores de datos
Documentar e informar las condiciones y el proceso
de recopilación de datos
266 Evaluar, sopesar, ponderar
P6 Información confiable
Identificar y justificar el tipo(s) y el grado de
confiabilidad reclamado
Para cada dispositivo de recolección de datos
empleado, especifique la unidad de análisis
Como sea posible, elija dispositivos de medición que
en el pasado hayan mostrado niveles aceptables de
confiabilidad para sus usos previstos
Al informar la confiabilidad de un instrumento, evalúe
e informe los factores que influyeron en la
confiabilidad, incluyendo las características de los
examinados, las condiciones de recolección de datos y
los sesgos del evaluador
Verificar e informar la consistencia de la puntuación,
categorización y codificación
EVALUACIÓN. CIENCIA ALFA 267
P7 Información sistemática
Establecer protocolos para el control de calidad de la
información de evaluación
Capacite al personal de evaluación para que se adhiera
a los protocolos de datos
Comprobar sistemáticamente la precisión de la
puntuación y la codificación
Cuando sea factible, use múltiples evaluadores y
verifique la consistencia de su trabajo
Verificar la entrada de datos
Revise y verifique las tablas de datos generadas desde
la salida de la computadora u otros medios
Sistematizar y controlar el almacenamiento de la
información de evaluación
Definir quién tendrá acceso a la información de
evaluación
Controle estrictamente el acceso a la información de
evaluación según los protocolos establecidos
268 Evaluar, sopesar, ponderar
9-10 Excelente 7-8 Muy bueno 5-6 Bueno 3-4 Regular 0-2 Pobre
P12 Metaevaluación
Designar o definir los estándares que se utilizarán para
juzgar la evaluación
Asignar a alguien la responsabilidad de documentar y
evaluar el proceso de evaluación y los productos
Emplear tanto metaevaluación formativa como
sumativa
Hacer un presupuesto apropiado y suficiente para
llevar a cabo la metaevaluación
Registre la gama completa de información necesaria
para juzgar la evaluación según los estándares
estipulados
Como sea posible, contrato para una metaevaluación
independiente
Determinar y registrar qué audiencias recibirán el
informe de metaevaluación
Evaluar la instrumentación, la recopilación de datos,
el manejo de datos, la codificación y el análisis en
comparación con la información relevante estándares
Evaluar la participación de la evaluación y la
comunicación de los hallazgos a los interesados contra
los estándares relevantes
Mantener un registro de todos los pasos, información
y análisis de metaevaluación
272 Evaluar, sopesar, ponderar
9-10 Excelente 7-8 Muy bueno 5-6 Bueno 3-4 Regular 0-2 Pobre
II. Planificación
Las planillas que se presentan a continuación
muestran una forma de organizar la planificación, de tal
manera que se pueda tener un mayor control sobre el
desarrollo de las actividades.
El conjunto es meramente ilustrativo y de acuerdo a
las necesidades, deberá adaptarse a los requerimientos y
recursos en cada caso concreto.
Los aspectos básicos incluidos son los siguientes:
a) Resumen y nombre del programa
b) Identificación de componentes del
programa.
c) Identificación de resultados.
d) Planificación de cada componente del
programa.
e) Destinatarios.
f) Colaboradores.
g) Programas de integración.
h) Barreras a la implementación.
i) Lista resumen de comprobación.
EVALUACIÓN. CIENCIA ALFA 275
a) Herramientas de planificación
Fecha:
Título:
Resumen:
276 Planificación
Componente X: Horas
(X de 1 a N) Sesiones de
Anuncios
Anuncios al aire
Materiales distribuidos
Asambleas
Otros
Componente X:
(X de 1 a N)
EVALUACIÓN. CIENCIA ALFA 279
5. Grupos destinatarios
Para los componentes de programa que requieren el
reclutamiento de los participantes, ¿cómo se llevará a cabo?
Población beneficiaria Número Plan de reclutamiento
esperado
Colaboración socios
¿Quiénes son los socios colaboradores para su programa
o estrategia y cuáles son sus funciones?
Colaboración socios Papel de socio
280 Planificación
6. Programa de integración
¿Qué medidas se están o se tomarán para integrar este
programa o estrategia con otras organizaciones y
programas existentes?
Programa/organización existente Esfuerzos de integración
7. Barreras de implementación
Programas de prevención pueden ser difíciles de
implementar y a menudo enfrentan muchos desafíos. Es útil
prever cuáles podrían ser estos desafíos o barreras y generar
posibles soluciones para ellos. En la tabla considerar cuáles
pueden ser las barreras a su programa y generar soluciones
a esas barreras. Usted no puede saber las soluciones ahora,
pero será capaz de volver a esta página y actualizarla en
cualquier momento en el futuro.
Barreras del Programa Soluciones propuestas
EVALUACIÓN. CIENCIA ALFA 281
Persona responsable
Personal capacitado
Tareas asignadas
Punto marcado
Colaboración socios
Cuestiones culturales
Materiales del
Si el programa es
preexistente, todos los
componentes son
incluidos o adaptados
Si el nuevo programa
está en construcción,
los componentes están
Otros:
281
282
a) Consideraciones básicas.
En el desarrollo de un presupuesto, las
consideraciones básicas o la información guiarán la Forma
y naturaleza de tu trabajo. Por lo tanto, los problemas deben
ser conocidos antes de intentar construir un presupuesto
preliminar o final.
□ Tipo de acuerdo para la ¿Esta evaluación será financiada por una
evaluación subvención, contrato o cooperativa, acuerdo?
b) Formato.
La mayoría de las agencias que financian
activamente proyectos que incluyen componentes de
evaluación tienen formatos específicos en los que se espera
recibir los presupuestos propuestos. Asimismo, las
instituciones o las agencias que realizan evaluaciones
tienen uno o más formatos aceptables para presentar
presupuestos.
□ Formato designado ¿Se ha proporcionado una forma o formato
particular para el presupuesto?
c) Costos de personal.
El costo para el personal suele ser el elemento
individual más grande en un presupuesto; por lo tanto, es
fundamental que se preste una atención especial al tipo y la
cantidad de esfuerzo que se requerirá para completar la
evaluación como se propone. Además, una propuesta que
EVALUACIÓN. CIENCIA ALFA 285
d) Viajes.
Los costos de viaje pueden incluir gastos
anticipados para actividades administrativas, asistencia a
reuniones requeridas con la agencia de financiamiento,
recolección de datos, talleres de retroalimentación,
actividades de los participantes, etc. Es importante que se
anticipen estos costos ampliamente variables, identificados
por función, y calculados cuidadosamente usando la mejor
información disponible.
□ Propósito ¿En qué tipo de gastos de viaje se
incurrirá, es decir, administrativos,
recolección de datos, participantes, etc.?
e) Suministros y materiales.
Se requieren suministros de oficina y otros
materiales para realizar una evaluación que pueden
anticiparse en base a la experiencia con otras evaluaciones
de su naturaleza; pero algunas evaluaciones pueden tener
requisitos inusuales, y estos deben especificarse
debidamente.
□ Material de oficina ¿Qué suministros y materiales serán
necesarios para realizar las operaciones
normales de una evaluación, por ejemplo,
suministros de oficina y productos
institucionales?
f) Comunicaciones
Normalmente, se incluyen los costos de alquiler
mensual de teléfonos y líneas telefónicas. como parte de los
288
□ Uso del teléfono ¿Cuáles son los costos fijos para el uso de
teléfonos, computadoras y otros equipos de
comunicaciones que puedan ser
identificados como con cargo a la
evaluación?
g) Copia e impresión.
Los costos de copia e impresión a menudo exceden
las estimaciones debido a la facilidad con que el equipo
moderno proporciona respuestas rápidas y rápidas a las
acciones del personal. Además, algunas evaluaciones
pueden requerir la impresión de formularios de escaneo
óptico y otros documentos que deben ser obtenidos de
agentes externos.
EVALUACIÓN. CIENCIA ALFA 289
h) Equipo.
En la mayoría de los casos, la compra de equipos no
es un gasto permitido en el presupuesto de la
evaluación. Sin embargo, puede haber funciones
especializadas para las cuales una justificación e inclusión
de Los costos de equipo son aceptables.
□ Tipo ¿Qué equipo especializado se necesita?
i) Otros Consultores.
El uso de consultores para obtener experiencia
especializada o para realizar tareas / actividades específicas
es una práctica común. Los consultores son considerados
contratistas independientes y no están incluidos en los
costos de personal, y rara vez se les proporcionan beneficios
u otros servicios de apoyo normalmente disponibles para
los empleados de evaluación. Se establecen contratos
separados entre los consultores (contratistas
independientes) y la organización para realizar la
evaluación, generalmente con una tarifa diaria específica
más los gastos permitidos, es decir, viajes, comunicaciones,
etc.
□ Nombre o tipo ¿Quién o qué tipo de personas servirán
como consultores?
j) Otros Subcontratos.
En ocasiones es necesario emitir un subcontrato
para una tarea particular que su organización no puede
EVALUACIÓN. CIENCIA ALFA 291
IV. Referencias
Bamberger, Michael. 2007. “A framework for assessing the quality and
utility of evaluations”. GAO, AEA. 2007.”
———. 2010. “Reconstructing Baseline Data for Impact Evaluation
and Results Measurement.” The World Bank: Special Series
on the Nuts and Bolts of M&E Systems 4.
———. 2012. “Introducción a los métodos mixtos de la evaluación de
impacto.”
Bamberger, Michael, Jim Rugh, Mary Church, and Lucia Fort. 2004.
“Shoestring Evaluation: Designing Impact Evaluations under
Budget, Time and Data Constraints.” American Journal of
Evaluation 25 (1): 5–37.
Barr, Julian, David Rinnert, Rob Lloyd, Dunne, and Anna Henttinen.
2016. “The Value of Evaluation: Tools for Budgeting and
Valuing Evaluations,” no. August.
Bichelmeyer, Barbara A. 2003. “Checklist for Formatting Checklists.”
Structure 15 (July): 7–9.
Creswell, John W. n.d. “Research Design Qualitative, Quantitative, and
Mixed Methods Approaches.” SAGE Publications Inc (2009).
Gertler, Paul J., Patrick Premand, Laura B. Rawlings, and Christel M.
J. Vermeersch. 2011. La Evaluación de Impacto en la Práctica.
Guba, Egon G, and Yvonna S Lincoln. 2001. “Guidelines and Checklist
for Constructivist (Fourth Generation) Evaluation.”
Patton, Michael Quinn, and Michael Quinn C N. 2002. “Qualitative
Research and Evaluation Methods”. 3 ed. Thousand Oaks,
Calif: Sage Publications
EVALUACIÓN. CIENCIA ALFA 295
A modo de balance
EVALUACIÓN. CIENCIA ALFA 297
298
I. Epílogo
a)
En primer lugar, espero que en este punto tome
sentido el título del libro. ¿Qué significa EVALUACIÓN:
CIENCIA ALPHA?
Nos hemos ocupado de los significados y sentido de
la evaluación y ahora corresponde volver sobre el vínculo
establecido entre ella y el concepto de ciencia Alpha.
Para ello debemos recordar qué se entiende por alfa.
Se dice que un individuo es alfa cuando se destaca y ejerce
funciones de liderazgo en su ámbito de acción. En particular
se ha dicho refiriéndose a la conducta de algunos animales
dentro de su manada.
Aunque la interpretación corriente atribuye a este
término el sentido de dominación, frecuentemente violenta
de los otros por el alfa, en realidad el alfa ejerce de otra
manera, como ha sido comprobado mediante la
observación.
La naturaleza protectora y en muchos casos
didáctica del alfa surge de atributos de origen del grupo que
encabeza. Frecuentemente se trata de individuos ligados por
lazos de familia, en su mayoría establecidos como vínculo
filial con el alfa.
¿Qué es lo que hace que la evaluación se constituya
o de ellas se pueda decir que es una ciencia Alpha?
EVALUACIÓN. CIENCIA ALFA 299
c)
Ahora bien, parece llegada la hora de tomar en
cuenta y de utilizar ese capital que tenemos en el lugar y en
el momento en que ocurren las cosas, en que se manifiestan
los problemas, en que urgen las necesidades.
Para ello es necesario arrancar el cartel de “no
pasar” y definir una zona franca donde los problemas se
encuentren con las herramientas que ha ido puliendo la
ciencia, para obtener un diagnóstico verosímil, fuera de las
influencias mágicas, y sobre esa base las decisiones se
tomen persuadidos de que son las mejores, bajo las
condiciones de tiempo, lugar y circunstancias en las cuales
deben tomarse, según el modelo precautorio que rechaza
tanto la inacción como los impulsos irreflexivos.
. Cuanto más pronto aceptemos la complejidad de la
realidad que nos rodea, más rápido podremos dejar de lado
los enfoques simplificadores que en lugar de ayudar a
resolver los problemas los agravan porque son una de las
bases principales de las banderas políticas.
Al reconocer que la realidad es compleja, estamos
admitiendo que no resulta posible explicarla. Porque sería
muy imprudente decretar la vigencia de algún mecanismo
de causa y efecto, como si fuera una regla de inevitable
cumplimiento, en un alarde empirismo ingenuo.
La sabiduría en cambio aconseja, mantenerla como
conjetura, sujeta a contrastación permanente.
El otro vicio es la tentación de la omnipotencia, que
ha llevado a proclamar doctrinas incubadas por la
pretensión de explicarlo todo. La, búsqueda de la teoría del
todo, discutida en la física, es una contradicción en el
EVALUACIÓN. CIENCIA ALFA 303