Documente Academic
Documente Profesional
Documente Cultură
Federacin Internacional de Sociedades de la Cruz Roja y de la Media Luna Roja Est autorizado citar, copiar, traducir a otros idiomas o adaptar a las necesidades locales cualquier parte de esta publicacin sin necesidad de solicitar previamente la aprobacin de la Federacin Internacional de Sociedades de la Cruz Roja y de la Media Luna Roja, siempre que se indique la fuente de manera expresa e inequvoca.
2004 Federacin Internacional de Sociedades de la Cruz Roja y de la Media Luna Roja Apartado Postal 372 CH-1211 Ginebra 19 Suiza Telfono: +41 22 730 42 22 Fax: +41 22 733 03 95 Telex: 412 133 FRC CH Correo electrnico: secretariat@ifrc.org Sitio Web: www.ifrc.org
Prlogo
Deseo que todas las partes interesadas dentro de la Federacin reciban con entusiasmo esta primera edicin del Manual de seguimiento y evaluacin. El panorama siempre cambiante del desarrollo, adems de los desafos cada vez mayores en las reas de rendicin de cuentas, rendimiento, normas de calidad y aprendizaje, convierten a sta en una publicacin oportuna para la Divisin de Seguimiento y Evaluacin. El Manual de seguimiento y evaluacin es una caja de herramientas una coleccin de herramientas, cada una de las cuales est diseada para apoyar la funcin de seguimiento y evaluacin. Como responsabilidad de los rganos de gestin, la actividad de seguimiento proporciona los componentes bsicos para los procesos de toma de decisiones, planificacin estratgica y movilizacin de recursos. Es una actividad clave de medicin en nuestro esfuerzo por lograr la eficacia de la organizacin. Si no podemos medir no podremos gestionar. Aunque el Manual est concebido principalmente para las partes interesadas que trabajan sobre el terreno, constituye, sin embargo, un til e interesante recurso para todas aquellas personas del mbito de la prctica que comparten el objetivo comn de servir eficazmente a las personas ms vulnerables de nuestro mundo. El Manual de seguimiento y evaluacin constituye una iniciativa en evolucin, y esta primera edicin merece ser valorada crticamente. Las diferentes herramientas tratadas se exponen de forma interesante, sencilla y entretenida. La terminologa armonizada facilita utilizar el Manual junto con el Manual del proceso de planificacin del proyecto y la Iniciativa "Mejor diseo de programas" (MDP). La segunda edicin del Manual estar disponible en rabe, espaol y francs. Teniendo en cuenta su calidad de instrumento de aprendizaje organizacional, permanecemos a la espera de recibir sus comentarios constructivos, a fin de convertir la segunda edicin en una ayuda incluso ms pertinente y eficaz para el logro de las metas y objetivos de la Federacin.
ndice de contenidos
Introduccin Mdulo 1 Resumen
1.1 1.2 1.3 1.3.1 1.3.2 1.3.3 1.3.4 1.3.5 1.4 1.4.1 1.4.2 1.4.3 1.4.3.1 1.4.3.2 Objetivo del Manual Cul es el contenido del Manual? Qu principios y definiciones deben tenerse presentes? Gestin basada en resultados Vinculacin del seguimiento y evaluacin a una matriz de planificacin Qu es el seguimiento? Qu es la evaluacin? Seguimiento y evaluacin durante la ejecucin de una operacin Qu es el marco para el seguimiento y evaluacin? El propsito de un nuevo marco para el seguimiento y evaluacin Principios del seguimiento y evaluacin orientados a la obtencin de resultados en la Federacin Enfoque de la Federacin relativo al seguimiento y evaluacin El enfoque del seguimiento orientado a la obtencin de resultados El enfoque de la evaluacin orientada a la obtencin de resultados Enseanzas extradas del mdulo 1 1-1 1-1 1-4 1-4 1-5 1-6 1-7 1-8 1-9 1-9 1-9 1-9 1-10 1-10 1-12
Informes de situacin e informes de situacin de los suministros pendientes de entrega a los almacenes Cmo utilizaran los jefes de operaciones los informes? Informacin de retorno para las operaciones Enseanzas extradas del mdulo 4
Mdulo 5 Evaluacin
5.1 5.1.1 5.1.2 5.1.3 5.1.4 5.2 5.3 5.4. 5.4.1 5.4.2 5.4.3 5.5 5.6 5.7 5.8 5.9 5.9.1 Introduccin Para qu? Para quin? Qu es un jefe de evaluacin? Por qu se evala? Un marco para la evaluacin Tipos de evaluacin Normas y principios de la evaluacin Normas generales Principios claves para evaluar operaciones Criterios de evaluacin Existe una base para determinar los criterios? Plantear preguntas sobre el contexto de la evaluacin Plantear preguntas sobre la planificacin de ayuda humanitaria Planificar una autoevaluacin La autoevaluacin de la Sociedad Nacional forma parte del proceso de seguimiento Objetivos de la autoevaluacin y marco operativo Enseanzas extradas del mdulo 5 5-1 5-1 5-1 5-1 5-1 5-2 5-3 5-4 5-4 5-4 5-6 5-8 5-10 5-11 5-15 5-16 5-16 5-21
Mdulo 9 Glosario de seguimiento y evaluacin Anexo 1 Ejemplo de trminos de referencia para la realizacin de una evaluacin
Introduccin
Octubre de 2002
Introduccin
La Divisin de Seguimiento y Evaluacin se complace en presentar este Manual como parte de su esfuerzo por lograr una mejora de las actividades de seguimiento y evaluacin llevadas a cabo por las partes interesadas. Aunque el Manual est concebido para ser utilizado por todas ellas, tiene especialmente presente la funcin de seguimiento y evaluacin desde la perspectiva de las Sociedades Nacionales. El Manual presenta tiles herramientas de seguimiento y evaluacin, acompaadas por material terico. Previsiblemente, el Manual se complementar con una serie de sesiones de capacitacin e informacin autnomas o incorporadas en programas existentes, como el Programa de Formacin de Dirigentes de Sociedades Nacionales o el proceso de planificacin de proyectos (PPP). El Manual puede utilizarse junto con otros documentos pertinentes, tales como la Iniciativa Mejor Diseo de Programas (MDP), el Manual del proceso de planificacin del proyecto y el Operational framework for evaluation (marco operativo para la evaluacin), y es un documento que ir perfeccionndose y evolucionando a medida que lo vayamos utilizando en nuestro esfuerzo conjunto por lograr un aprendizaje organizacional. Desde hace tiempo, las partes interesadas han estado solicitando aclarar y desmitificar la funcin de seguimiento y evaluacin para convertirla en una herramienta de actuacin que contribuya a consolidar la MDP y el PPP. El presente Manual sistematiza una bsqueda ms rigurosa de mejores mtodos para determinar si las organizaciones hacen las cosas bien y si hacen las cosas adecuadas. El Manual de seguimiento y evaluacin est estructurado en mdulos, lo que facilita su lectura y permite hacer un recorrido lgico a travs del seguimiento y la evaluacin. Abordando diferentes cuestiones claves al final de cada uno de los mdulos, proporciona al lector la oportunidad de reflexionar y repasar sus conocimientos. La Federacin ha establecido ya la MDP. Muchos de los pases que viven situaciones de postconflicto continan padeciendo tensiones mucho tiempo despus del restablecimiento general de la paz y los elevados niveles de violencia social siguen constituyendo un factor de alteracin para las bases de subsistencia. La programacin explcita permite a las Sociedades Nacionales fortalecer las relaciones dentro de y entre comunidades divididas. La MDP hace hincapi en la importancia de analizar el contexto de las situaciones, describir las actividades de los programas, determinar el impacto y buscar nuevas posibilidades dentro de un slido marco analtico. Iniciativas de este tipo se han puesto a prueba en varios pases, incluidos Colombia y Nigeria. En este primer pas, los resultados pusieron de manifiesto la necesidad de intensificar la coordinacin entre diferentes departamentos de la Sociedad Nacional de la Cruz Roja Colombiana, especialmente en la planificacin de programas para personas desplazadas en el propio pas. En Nigeria, el anlisis segn la MDP sirve de ayuda al personal de la Cruz Roja de Nigeria para determinar formas de mejorar la puesta en prctica de programas de agua y saneamiento. El presente Manual de seguimiento y evaluacin servir de apoyo a la MDP mediante la clara presentacin de preguntas que deben plantearse en torno al diseo de programas. Del mismo modo, el Manual de seguimiento y evaluacin est vinculado tambin al Manual del proceso de planificacin del proyecto, una nueva herramienta de gestin prctica con la que se pretende ayudar a mejorar la planificacin y elaboracin de informes por parte de las Sociedades Nacionales y la Federacin para alcanzar una calidad aceptada en el nivel internacional. El Manual del proceso de planificacin del proyecto, al igual que el de seguimiento y evaluacin, posibilita al usuario desarrollar con rapidez y facilidad herramientas compatibles con los requisitos de los principales donantes, para la identificacin, estimacin, ejecucin y evaluacin de proyectos. El Manual del proceso de planificacin del proyecto se ajusta a las necesidades de la Cruz Roja y de la Media Luna Roja y, al igual que el presente Manual, es aplicable tanto a operaciones de socorro como de desarrollo. i
Introduccin
Octubre de 2002
Como resultado de esta iniciativa en torno al seguimiento y evaluacin se prev que: los jefes de programas/proyectos poseern los conocimientos necesarios y dispondrn de las herramientas adecuadas para aplicar el enfoque de seguimiento y evaluacin; mejorar la calidad de las propuestas y ejecucin de programas/proyectos, y de la elaboracin de los informes correspondientes; se establecern normas de planificacin y una terminologa comn; la capacitacin en materia de planificacin se ajustar a las necesidades y requerimientos de la Federacin, las Sociedades Nacionales y los donantes; el sistema de planificacin de la Federacin adquirir mayor coherencia con el de sus diferentes asociados y donantes; y en el largo plazo y tras un cierto perodo de capacitacin en materia de seguimiento y evaluacin y de puesta en prctica de actividades de seguimiento y evaluacin, las Sociedades Nacionales mejorarn la generacin de ingresos y la obtencin de fondos, la calidad de sus programas/proyectos y la elaboracin de informes.
Cada vez ms, las Sociedades Nacionales hacen hincapi en la evaluacin de la vulnerabilidad y de la capacidad (EVC). Se trata de un nuevo mtodo dinmico de anlisis promovido por la Federacin y complementario al enfoque orientado a las necesidades. La EVC puede utilizarse como herramienta de diagnstico para evaluar la capacidad institucional y como herramienta para evaluar la eficacia e impacto de programas actuales. Para verificar que en las fases de preparacin para emergencias, intervencin y rehabilitacin se hayan cubierto las necesidades bsicas de las personas afectadas por un episodio de crisis, es importante la evaluacin tradicional orientada a las necesidades. La Cruz Roja Nepalesa ha realizado dos EVC piloto utilizando tcnicas de diagnstico rural participativo. Estas evaluaciones mostraron la existencia de una relacin entre la vulnerabilidad, por un lado, y la migracin estacional, la carencia de tierra y el grado de alfabetizacin, por otro lado, y permitieron clasificar las reas segn el riesgo al que estn expuestas. Como respuesta al anlisis realizado en la EVC, el seguimiento y evaluacin pueden posibilitar la supervisin de los progresos. El presente Manual de seguimiento y evaluacin, junto con otras herramientas del marco de programacin y planificacin de la Federacin MDP, PPP y EVC , constituye una caja de herramientas esencial para las Sociedades Nacionales, que aborda sus propias necesidades de informacin para la gestin as como las de los donantes y partes interesadas. Todas las herramientas de esta caja sirven para diferentes tareas, pero todas ellas deben ser utilizadas con creatividad. "Se establecer un sistema de evaluacin en toda la Federacin que incluir la autoevaluacin y el examen por homlogos para medir el progreso en todas las reas esenciales e incorporar las enseanzas en el desarrollo de programas futuros." Estrategia 2010
ii
Mdulo 1: Resumen
Octubre de 2002
1.
1.1
RESUMEN
Objetivo del Manual
El objetivo del Manual es suministrar a la Federacin, a las Sociedades Nacionales de la Cruz Roja y de la Media Luna Roja y a los asociados ejecutores la informacin necesaria para disear, gestionar y promover un sistema de seguimiento y evaluacin orientado a la obtencin de resultados para operaciones de emergencia y desarrollo.
1.2
El manual ofrece un recorrido estructurado a travs del diseo del seguimiento y la evaluacin en el contexto de la Federacin y las Sociedades Nacionales. Mdulos 1. Resumen
Este mdulo presenta los conocimientos bsicos que deben poseerse en torno a los conceptos utilizados en el seguimiento y evaluacin orientados a la obtencin de resultados en el contexto de la Federacin y las Sociedades Nacionales.
Objetivo del Manual Cul es el contenido del Manual? Qu principios y definiciones deben tenerse presentes? Qu es el marco para el seguimiento y evaluacin?
2. Seguimiento y evaluacin
Este mdulo sirve de orientacin genrica en cuanto al diseo de un sistema de seguimiento y evaluacin. En mdulos posteriores se suministran detalles adicionales especficos para los diferentes tipos de operaciones de la Federacin y de las Sociedades Nacionales.
Cmo disear un sistema de seguimiento y evaluacin Comprobacin del diseo de la operacin Estimacin de la capacidad de seguimiento y evaluacin Planificacin de la recopilacin y anlisis de datos Preparacin del plan y presupuesto de seguimiento y evaluacin Planificacin de la notificacin e informacin de retorno Cmo disear un sistema de seguimiento y evaluacin para programas de las Sociedades Nacionales Comprobacin del diseo de programas y actividades de las Sociedades Nacionales Estimacin de la capacidad de seguimiento y evaluacin para estrategias de cooperacin y actividades Planificacin de la recopilacin y anlisis de datos para estrategias de cooperacin y actividades Preparacin del plan y presupuesto de seguimiento y evaluacin Planificacin de la notificacin e informacin de retorno
1-1
Mdulo 1: Resumen
Octubre de 2002
4. Seguimiento y notificacin
Basndose en la orientacin genrica ofrecida en el mdulo 2, este mdulo orienta en torno al seguimiento.
Particularidades del seguimiento y evaluacin Cmo disear un sistema de seguimiento y evaluacin (recordatorio) Comprobacin del diseo de la operacin Estimacin de la capacidad de seguimiento y evaluacin Planificacin de la recopilacin y anlisis de datos Preparacin del plan y presupuesto de seguimiento y evaluacin Planificacin de la notificacin e informacin de retorno Introduccin Un marco para la evaluacin Tipos de evaluacin Normas y principios de la evaluacin Existe una base para determinar los criterios? Plantear preguntas sobre el contexto de la evaluacin Plantear preguntas sobre la planificacin de ayuda humanitaria Planificar una autoevaluacin La autoevaluacin de la Sociedad Nacional forma parte del proceso de seguimiento
Etapa 1 Aclaracin/acuerdo sobre la necesidad de realizar una evaluacin Etapa 2 Planificacin de la evaluacin Etapa 3 Preparacin de los trminos de referencia de la evaluacin Etapa 4 Seleccin del equipo de evaluacin Etapa 5 Estudio terico (previo a la misin) Etapa 6 Ejecucin de la misin de evaluacin Etapa 7 Preparacin del informe de evaluacin Etapa 8 Difusin del informe Etapa 9 Utilizacin de los resultados y aprendizaje a partir de la evaluacin Mejora de la eficacia del proceso de evaluacin Qu es un estudio de referencia? Estudios de referencia para diferentes tipos de situaciones Planificacin y gestin de un estudio de referencia Cmo analizar los datos y cmo elaborar informes a partir de los mismos Prximas etapas estudios complementarios para el seguimiento y evaluacin
5. Evaluacin
Este modulo orienta de forma genrica en torno al diseo y realizacin de una evaluacin. Adems, sirve de orientacin especfica en relacin a la autoevaluacin y a la evaluacin de estrategias de cooperacin.
7. Estudios de referencia
Basndose en la orientacin genrica ofrecida en el mdulo 2, este mdulo orienta en torno al diseo y elaboracin de un estudio de referencia para una operacin o programa. Se proporcionan vnculos pertinentes con el mdulo 8, en el cual se ofrecen detalles adicionales sobre mtodos especficos de recopilacin de datos.
1-2
Mdulo 1: Resumen
Octubre de 2002
Conceptos y definiciones Herramientas para la recopilacin de datos Utilizacin de datos secundarios Vnculos con material adicional de orientacin tcnica
1-3
Mdulo 1: Resumen
Octubre de 2002
1.3
Impacto Resultados
(meta)
Resultados positivos y negativos, intencionados o no, en el largo plazo, producidos directa o indirectamente por una operacin de la Federacin o de Sociedades Nacionales. Resultados en el medio plazo derivados del producto de una operacin. Productos, bienes de capital y servicios resultantes de una operacin de la Federacin y/o de Sociedades Nacionales. Acciones emprendidas o labor realizada a travs de las cuales se movilizan los insumos para producir un producto especfico. Recursos financieros, humanos y materiales necesarios para ejecutar la operacin.
Consecuencias
Producto Actividades
Insumos
Qu significa gestin orientada a la obtencin de resultados para la Federacin y las Sociedades Nacionales? Es una gestin que: ampla el alcance del seguimiento y evaluacin a lo largo de la cadena de resultados; garantiza que las consecuencias y el impacto (meta) se incluyan en los planes para medir los progresos y el rendimiento; implica un alejamiento de los insumos y actividades; traslada el inters hacia la medicin de los cambios en el comportamiento y bases de subsistencia de los beneficiarios.
1-4
Mdulo 1: Resumen
Octubre de 2002
Matriz de planificacin
Meta Resultados Propsito Consecuencias Actividades Insumos
(recursos)
Cadena de resultados
Resultado, en el nivel ms elevado, al cual pretende contribuir una operacin de la Federacin o de Sociedades Nacionales. Situacin mejorada a la que pretende contribuir significativamente una operacin, suponiendo que se concluya con xito y en el tiempo previsto. Productos, bienes de capital y servicios resultantes de una operacin. Acciones emprendidas o labor realizada a travs de las cuales se movilizan los insumos para producir un producto especfico.
La matriz de planificacin es una tabla resumen, de no ms de 2-3 pginas, y normalmente acompaa al documento de diseo de la operacin (vase figura 1.3).
1-5
Mdulo 1: Resumen
Octubre de 2002
Jerarqua de la matriz de planificacin Meta Objetivo, en el nivel ms elevado, al cual pretenden contribuir esta y otras operaciones. Propsito Consecuencia de una operacin. Cambios en el comportamiento de los beneficiarios, en sistemas o en el rendimiento institucional resultantes de la combinacin de la estrategia aplicada para la obtencin del producto y las hiptesis claves. Producto Lo que realmente se produce. Lo que puede considerarse responsable de haber producido la operacin.
Indicadores de rendimiento (Impacto) Indicadores (creciente normalizacin) para medir el rendimiento del programa.
Medios de verificacin
(Consecuencias) Medidas que describen el logro del propsito. Valor, beneficio y rendimiento de la inversin.
Personas, eventos, procesos y fuentes de datos para organizar el sistema de evaluacin de la operacin.
Indicadores de producto que miden los bienes y servicios que finalmente resultan de la operacin.
Personas, eventos, procesos y fuentes de datos sistema de supervisin y seguimiento para validar el diseo de la operacin.
Actividades Principales grupos de actividades que deben llevarse a cabo a fin de conseguir el producto.
Insumos/recursos Presupuesto por actividades. Recursos econmicos, materiales y humanos necesarios para producir el producto.
Personas, eventos, procesos y fuentes de datos sistema de seguimiento para validar los progresos en la ejecucin.
1.3.3 Qu es el seguimiento?
El seguimiento es la tarea diaria de gestin de recopilar y analizar informacin que revela cmo evoluciona una operacin y los aspectos, si acaso los hay, que deben corregirse. El seguimiento es una actividad continua que hace uso de la recopilacin sistemtica de datos sobre indicadores especificados a fin de informar a los responsables de gestin y a las principales partes interesadas de una operacin en curso de la Federacin y/o de las Sociedades Nacionales sobre los progresos registrados y los resultados obtenidos en relacin con la utilizacin de los fondos asignados. La notificacin es parte integrante del seguimiento. La informacin obtenida en el seguimiento: se compila en informes ordinarios y especiales; se comparte con asociados ejecutores, donantes y beneficiarios; se utiliza para sacar conclusiones en las evaluaciones. La figura 1.4 refleja las preguntas claves de cada etapa de la matriz de planificacin a las que deber prestarse especial atencin en la realizacin del seguimiento. Los responsables de gestin debern recibir peridicamente informacin actualizada relativa a la respuesta a estas preguntas para poder responder oportuna y constructivamente a fin de poder encarrilar la operacin hacia el logro de sus objetivos.
1-6
Mdulo 1: Resumen
Octubre de 2002
Matriz de planificacin
Meta Propsito Producto Actividades
Insumos
* Los indicadores de seguimiento a travs del contacto con beneficiarios (BCM de sus siglas en ingls) miden los cambios en el comportamiento de los beneficiarios como resultado del producto de la operacin y constituyen un medio importante para dirigir los progresos hacia las mejoras que se desean alcanzar en las condiciones de vida o bases de subsistencia.
1.3.4 Qu es la evaluacin?
La evaluacin es la valoracin sistemtica y objetiva de una operacin en curso o concluida, de un programa o de una poltica, as como de su diseo, ejecucin (o aplicacin) y resultados. Se trata de determinar la pertinencia y logro de los objetivos, as como la eficiencia, eficacia, impacto (meta) y sostenibilidad. La evaluacin deber suministrar informacin fidedigna y til que permita incorporar enseanzas en el proceso de toma de decisiones relativas a la gestin. En la figura 1.5 se exponen las preguntas bsicas a las que deber dar respuesta la evaluacin.
1-7
Mdulo 1: Resumen
Octubre de 2002
Matriz de planificacin
Meta Propsito Producto Actividades
Insumos
Flujo de beneficios
Evaluacin final
Evaluacin ex post
1-8
Mdulo 1: Resumen
Octubre de 2002
1.4
Como expresin de la orientacin hacia la obtencin de resultados caracterstica de la Federacin se ha establecido un nuevo marco para el seguimiento y evaluacin orientados a la obtencin de resultados, que ha sido aprobado por los rganos superiores de gestin. El marco esboza el propsito y la definicin habitual de los dos conceptos, los principios y funciones del seguimiento y evaluacin orientados a la obtencin de resultados, as como el enfoque general de la Federacin en torno al seguimiento y a la evaluacin. En el Operational framework for evaluation (marco operativo para la evaluacin) de la Federacin pueden consultarse detalles acerca de este enfoque.
II. III.
IV.
1-9
Mdulo 1: Resumen
Octubre de 2002
La herramienta bsica para establecer un sistema slido de seguimiento es el enfoque del modelo lgico. Entre los componentes esenciales de este sistema deben incluirse: Objetivos de la operacin claramente definidos, expresados en una matriz de planificacin en la que se determine la poblacin beneficiaria y se persigan los objetivos conforme a un conjunto de normas establecidas. Para cada objetivo e hiptesis, un mnimo de indicadores de resultados, tanto cuantitativos como cualitativos, cuya obtencin y anlisis sean factibles. Una estimacin de la capacidad de seguimiento y, cuando la capacidad requiera ser fortalecida, una estimacin de las necesidades de capacitacin. Un plan de recopilacin y anlisis de datos, incluidos datos de referencia y datos actuales. El plan debe considerar una combinacin de tcnicas tales como el anlisis de informes, visitas al terreno, y estudios especiales y por muestreo. Un plan y presupuesto de seguimiento y evaluacin que resuman las necesidades de informacin, la recopilacin y anlisis de datos y la utilizacin de la informacin (elaboracin de informes y presentacin de la informacin). El plan debe identificar a los responsables, y se sealar y actualizar peridicamente el plazo en el cual deban realizarse las tareas claves. El presupuesto debe incluir fondos para personal, asesores, viajes, reuniones y talleres pertinentes, recopilacin de datos de referencia, gestin de datos, informes y estudios especiales y, en el caso de estar previstas actividades de capacitacin, fondos para el fortalecimiento de la capacidad en este mbito. Un sistema de notificacin e informacin de retorno que permita a los rganos de gestin tomar decisiones oportunamente de acuerdo con los hallazgos del seguimiento; determinar quin es responsable de asegurar intervenciones justiciables. Una reunin anual de revisin en la que participen las partes interesadas claves y que permitir estimar anualmente de forma participativa el rendimiento y resultados obtenidos hasta la fecha as como planificar las actividades de seguimiento y evaluacin del siguiente ao.
1.4.3.2 El enfoque de la evaluacin orientada a la obtencin de resultados
En relacin con las evaluaciones, es esencial disponer de un sistema slido de seguimiento, a fin de suministrar informacin fidedigna sobre los resultados. La informacin suministrada por los estudios de referencia, informes de situacin y reuniones de revisin permite a la Federacin y las Sociedades Nacionales centrar sus evaluaciones en la obtencin de resultados y en la confirmacin de los ya existentes, aparte de en la rendicin de cuentas a la Junta de Gobierno, al Secretario General y a los donantes. Las evaluaciones realizadas por evaluadores independientes slo se llevan a cabo cuando existe una necesidad especial de gestin o cuando esa evaluacin puede brindar informacin para las necesidades de la organizacin en el largo plazo relativas a estrategias y polticas. La evaluacin desempea tambin una funcin importante en una organizacin en proceso de aprendizaje. A fin de hacer ms hincapi en una reflexin general y en el aprendizaje a partir de buenas y malas experiencias, se estimula, como mecanismo de aprendizaje habitual en todas las operaciones, la realizacin de autoevaluaciones efectuadas conjuntamente por Sociedades Nacionales y asociados ejecutores.
1-10
Mdulo 1: Resumen
Octubre de 2002
Por ejemplo, durante la ejecucin de una operacin (o de una de sus fases) deber realizarse al menos uno de los tres siguientes ejercicios de evaluacin: Autoevaluacin realizada por el jefe de operaciones. Evaluacin no obligatoria realizada por asesores independientes y dirigida por la Sociedad Nacional. Evaluacin independiente obligatoria realizada por asesores independientes y dirigida por la Divisin de Seguimiento y Evaluacin. Se realizar: en toda operacin cuyo presupuesto acumulativo de todas las fases alcance o exceda los 5 millones de francos suizos; en el caso de operaciones especiales, evaluaciones sectoriales o temticas, segn lo solicite la Junta de Gobierno.
1-11
Mdulo 1: Resumen
Octubre de 2002
LA FEDERACIN ABOGA POR UN ENFOQUE ORIENTADO A LA OBTENCIN DE RESULTADOS. EN ESE SENTIDO, HACE HINCAPI EN UNA PLANIFICACIN ORIENTADA A LA OBTENCIN DE RESULTADOS. UN ENFOQUE APROPIADO PARA LA PLANIFICACIN ORIENTADA A LA OBTENCIN DE RESULTADOS ES EL MODELO LGICO. EL MODELO LGICO IMPLICA LA UTILIZACIN DE MATRICES DE PLANIFICACIN, EN LAS QUE SE DETALLAN INDICADORES DE RENDIMIENTO, MEDIOS DE VERIFICACIN E HIPTESIS. LAS PREGUNTAS A LAS QUE DEBE DAR RESPUESTA EL SEGUIMIENTO SE DEDUCEN DE LA MATRIZ DE PLANIFICACIN. EL SEGUIMIENTO SUPONE QUE SE HAYAN ESTABLECIDO LOS OBJETIVOS EN MATRICES DE PLANIFICACIN. LOS OBJETIVOS INCLUYEN ESPECIFICACIONES ACERCA DE LOS BENEFICIARIOS CONFORME A LAS NORMAS DE OBTENCIN. LAS PREGUNTAS A LAS QUE DEBE DAR RESPUESTA LA EVALUACIN SE DEDUCEN DE LA MATRIZ DE PLANIFICACIN. PARA REALIZAR LA EVALUACIN ES NECESARIA LA INFORMACIN OBTENIDA EN EL SEGUIMIENTO.
1-12
Octubre de 2002
2.
2.1
Seguimiento y evaluacin
Cmo disear un sistema de seguimiento y evaluacin
Para introducirse en el tema del seguimiento y evaluacin y su vinculacin con la matriz de planificacin, consulte el punto 1.3 Qu principios y definiciones deben tenerse presentes? (mdulo 1). En la tabla 2.1 se resumen las etapas del diseo de un sistema de seguimiento y evaluacin. Estas etapas y los aspectos reflejados en la lista de tareas acompaante se presentan con ms detalle en los siguientes apartados. Tabla 2.1: Etapas del diseo de un sistema de seguimiento y evaluacin
Etapa Lista de tareas Revise y corrija (y prepare si es necesario) la matriz de planificacin. Asegrese de que los objetivos reflejados en la meta (impacto), propsito (consecuencias), producto e hiptesis estn definidos con claridad y son mensurables. Asegrese de que los indicadores estn concretados adecuadamente en sus aspectos cuantitativo, cualitativo y temporal. Identifique los recursos humanos y econmicos disponibles. Valore los requisitos de capacitacin para todo el personal de seguimiento, tanto de la Federacin y las Sociedades Nacionales como de organismos copartcipes. Especifique los requisitos de capacitacin. Compruebe la fiabilidad y exactitud de las fuentes de informacin existentes a fin de determinar qu datos estn ya disponibles. Decida qu informacin adicional deber recopilarse para servir de referencia, para el seguimiento y para la evaluacin. Establezca un plazo de tiempo y un calendario para la recopilacin y procesamiento de datos y acuerde las responsabilidades. Resuma las necesidades de informacin acordadas, la recopilacin de datos y la utilizacin de la informacin (elaboracin de informes y presentacin de la informacin) en un plan de seguimiento y evaluacin. Resuma los requisitos para fortalecer la capacidad y brindar apoyo. Calcule el costo de todas las actividades de seguimiento y evaluacin e identifique fuentes de financiacin. Disee el sistema de notificacin y especifique el formato de los informes. Disee un sistema de informacin de retorno y toma de decisiones para los responsables de gestin.
Valore la capacidad de seguimiento y evaluacin Planifique la recopilacin y anlisis de datos Prepare el plan y presupuesto de seguimiento y evaluacin Planifique la notificacin y la informacin de retorno
2-1
Octubre de 2002
2.2
El punto de partida del diseo de un sistema de seguimiento y evaluacin es examinar la matriz de planificacin y sus elementos complementarios el calendario de ejecucin y el presupuesto (vase punto 1.3.2 Vinculacin del seguimiento y evaluacin a una matriz de planificacin (mdulo 1)), as como las directrices del documento del proyecto o del plan operativo relativas al seguimiento y evaluacin. Es esencial que exista un vnculo claro entre la matriz de planificacin y el plan de seguimiento y evaluacin, y que el flujo de informacin atienda las necesidades de los responsables de gestin en los diferentes niveles de la jerarqua de gestin. La figura 2.1 resume los vnculos necesarios. Figura 2.1: Componentes del plan de seguimiento y evaluacin y su vinculacin con la matriz de planificacin Herramientas de planificacin de proyectos Componentes del plan de seguimiento y evaluacin
Estudio de referencia y evaluaciones Medidas para la recopilacin de datos de referencia y estudio complementario de los indicadores de consecuencias Planes para la autoevaluacin o cualquier evaluacin regular que deba ser realizada por asesores externos Seguimiento Planes para la recopilacin y anlisis de datos sobre: - el logro de objetivos en los niveles de producto y propsito - la realizacin de actividades y conformidad con obligaciones contractuales - los gastos en comparacin con el presupuesto - los iesgos e hiptesis Notificacin Presentacin y formato acordados para los informes (segn niveles de gestin) Sistema acordado para informacin de retorno y revisin de la gestin Fortalecimiento de la capacidad y apoyo Especificacin de los requisitos de capacitacin y apoyo para la Federacin y los asociados ejecutores Planes para comprobar la calidad y exactitud de los resultados del seguimiento y la evaluacin Plan de trabajo y presupuesto de seguimiento y evaluacin Actividades de seguimiento y evaluacin incluidas en la matriz de planificacin y en el calendario de ejecucin Costos del seguimiento y de la evaluacin incluidos en el presupuesto
Matriz de planificacin
Jerarqua de resultados Meta Propsito Producto Actividades Insumos Costos Indicadores de rendimiento Medios de verificacin Hiptesis y riesgos
Calendario de ejecucin
Actividades E Actividad 1 Actividad 2 Actividad 3 Etc. F M A M J J A S O N D
Presupuesto
Artculo Alimentos Artculos no alimenticios Etc. Cantidad Costo
El Manual del proceso de planificacin del proyecto de la Federacin sirve de orientacin para el desarrollo y aplicacin de un enfoque basado en el modelo lgico. Cuando ya existe una matriz de planificacin, es importante comprobar su lgica y viabilidad, a fin de garantizar que realmente representa un plan viable y mensurable para lograr el propsito y meta de la operacin.
2-2
Octubre de 2002
Octubre de 2002
informacin. Se deber evitar el error de incluir demasiados indicadores, pues ello incrementara el trabajo y los costos de recopilacin, registro y anlisis de datos. No seleccione indicadores excesivamente complejos: A la hora de recopilar datos, algunos indicadores presentan mayores problemas que otros en cuanto a los conocimientos o recursos necesarios. P. ej., puede resultar complejo y caro obtener datos de los ingresos de los hogares. Los indicadores sustitutivos que deben considerarse en este caso son los patrones de gastos o las caractersticas de los hogares, tales como los materiales de construccin utilizados. Los indicadores cualitativos (p. ej. clasificacin segn la riqueza) tambin pueden transmitir, de forma resumida, informacin compleja. No se centre excesivamente en indicadores relativos a progresos materiales: La informacin sobre reservas y distribucin de alimentos es de vital importancia en una operacin de la Federacin y/o de Sociedades Nacionales, pero no suministra suficientes datos acerca del rendimiento de la operacin. Es necesaria tambin informacin sobre las consecuencias. Adicionalmente, el seguimiento a travs del contacto con beneficiarios proporciona un medio para explorar la probabilidad de alcanzar las consecuencias y el impacto. 2.2.3.1 Indicadores de seguimiento a travs del contacto con beneficiarios El seguimiento a travs del contacto con beneficiarios (BCM de sus siglas en ingls) se define como examen sistemtico efectuado a fin de realizar un seguimiento de cmo perciben los beneficiarios una determinada operacin de la Federacin y/o de las Sociedades Nacionales. Mediante el seguimiento a travs del contacto con beneficiarios se pretende obtener informacin sobre la reaccin de los beneficiarios al producto de una operacin e indicar a los responsables de gestin los progresos realizados hacia el logro del propsito de una operacin. Debe destacarse que la reaccin de los beneficiarios, aunque positiva, es nicamente un indicador sustitutivo de la situacin mejorada que se pretende provocar con la operacin. Los indicadores de seguimiento a travs del contacto con beneficiarios: Constituyen un medio eficaz para ratificar si la estrategia aplicada para la obtencin del producto funciona. Incluyen informacin sobre el acceso al producto de la operacin, la utilizacin del mismo y la satisfaccin al respecto de los beneficiarios. Buscan la opinin directamente de las mujeres, hombres y nios. En el Proceso de Planificacin del Proyecto (PPP) se alude a ellos como indicadores principales. Figura 2.2: El seguimiento a travs del contacto con beneficiarios y la matriz de planificacin
Jerarqua de resultados Meta
Beneficios derivados hacia los beneficiarios Indicadores de seguimiento a travs del contacto con beneficiarios Transicin de la prestacin de servicios Acceso al producto resultante de la operacin, utilizacin del mismo y satisfaccin al respecto de hombres, mujeres y nios. a beneficios
Indicadores de rendimiento
Medios de verificacin
Hiptesis y riesgos
Propsito
Producto Actividades
2-4
Octubre de 2002
Los indicadores de seguimiento a travs del contacto con beneficiarios debern incluirse en la matriz de planificacin en el nivel de propsito. La tabla 2.3 presenta algunos ejemplos de indicadores para diferentes tipos de operaciones: Tabla 2.3: Ejemplos de indicadores utilizados en el seguimiento a travs del contacto con beneficiarios (BCM) para diferentes tipos de operaciones
Desarrollo Propsito actividad de comidas escolares: Mejorar el acceso de nios a la educacin bsica. Indicadores de consecuencias: Aumento de la tasa de nias y nios procedentes de hogares con bajos ingresos que llegan a niveles de educacin superiores. Indicadores de BCM: Acceso - % de padres y madres sensibles al valor que entraa que las nias participen en la educacin superior. Utilizacin - % de hogares con bajos ingresos con nias y nios matriculados en las escuelas participantes. Satisfaccin Percepcin de madres y padres en cuanto a los beneficios derivados de las comidas escolares para las nias y nios. Operacin de desarrollo Propsito Alimentacin complementaria: Reducir el riesgo de mortalidad y morbididad para menores de 5 aos. Indicadores de consecuencias: Nmero de menores de 5 aos que sufren desnutricin. Tasa de mortalidad de menores de 5 aos. Indicadores de BCM: Acceso - % de hogares beneficiarios que conocen el programa de alimentacin complementaria. Utilizacin - % de hogares beneficiarios que participan en el programa de alimentacin complementaria. Satisfaccin Percepcin de las madres en cuanto a la calidad y pertinencia de la alimentacin complementaria. Operacin de emergencia Propsito - Distribucin general de alimentos: Salvar vidas mediante la provisin de alimentos adecuados. Indicadores de consecuencias: Tasa bruta de mortalidad. Tasa de mortalidad de menores de 5 aos. Indicadores de BCM: Acceso - % de familias registradas para recibir alimentos. Utilizacin Nmero de hombres, mujeres y nios registrados que consumen la racin objetivo. Satisfaccin Opinin de hombres, mujeres y nios acerca de la composicin y calidad de las raciones.
2-5
Octubre de 2002
2.3
Existen procedimientos establecidos para llevar a cabo el seguimiento y la evaluacin?, incluidos: especificacin de los objetivos en los documentos de los planes, estudios regulares y especiales, y notificacin y difusin de hallazgos.
3.
Las necesidades de capacitacin debern determinarse en tres niveles diferentes: Organizacional: determinar los puntos dbiles generales de la organizacin en la realizacin del seguimiento dnde es ms necesaria la capacitacin? Profesional: determinar los conocimientos necesarios para realizar actividades de seguimiento y evaluacin - qu conocimientos son necesarios para realizar el trabajo? Individual: determinar los conocimientos de las personas en los mbitos y tareas que se han determinado en comparacin con los requisitos que les plantea su trabajo quin requiere capacitacin y en qu? 2.3.2.1 Etapas de un anlisis de las necesidades de capacitacin y del diseo y realizacin de actividades de capacitacin 1. 2. 3. Aclarar las tareas de seguimiento que se van a emprender y acordar cmo se asignan las responsabilidades. Discutir posibles puntos dbiles o vacos en los recursos materiales, econmicos y humanos disponibles para realizar el seguimiento, e identificar qu puntos dbiles de la organizacin podran abordarse a travs de la capacitacin. Preparar o analizar descripciones de los puestos pertinentes, especificando las tareas de seguimiento que deber realizar cada una de las personas as como los conocimientos y aptitudes que se requieren. 2-6
Octubre de 2002
4.
5.
Utilizar cuestionarios o realizar entrevistas para identificar los conocimientos y aptitudes del personal relativos al seguimiento en relacin con los requisitos establecidos en la descripcin de su puesto, y para identificar las restricciones organizacionales que podran afectar a su capacidad para cumplir su cometido. Junto con los responsables de gestin y los empleados, discutir y acordar las prioridades de capacitacin y las formas de superar las restricciones organizacionales.
Una vez que se hayan identificado y acordado las necesidades de capacitacin, podr iniciarse el proceso de diseo, realizacin y seguimiento de la capacitacin. 6. Establecer los objetivos de la capacitacin y disear el plan de estudios: Especificar qu deben ser capaces de realizar los alumnos y en qu nivel una vez concluida la capacitacin. Identificar el contenido de materias necesario para alcanzar esos objetivos. Decidir con qu sistema de capacitacin se alcanzarn mejor los objetivos. 7. Llevar a cabo y evaluar la capacitacin: Ejecutar la capacitacin. Determinar si mediante la capacitacin se han alcanzado los objetivos que se haban fijado. Discutir si los objetivos son adecuados. Decidir si la capacitacin ha justificado su costo. 8. Someter la capacitacin a un seguimiento: Determinar si el personal al que se ha impartido la formacin aplica los conocimientos adquiridos. Determinar si con ello se han generado las consecuencias deseadas (es decir, informacin de seguimiento oportuna y de buena calidad). Determinar necesidades de capacitacin adicionales.
2-7
Octubre de 2002
2.4
Segn las necesidades que se tengan respecto a los datos, la recopilacin de los mismos puede ser de dos tipos: datos de referencia, para obtener informacin sobre los beneficiarios y las condiciones generales locales antes de iniciarse las principales actividades de la operacin, datos actuales, para hacer un seguimiento de los progresos hechos durante la ejecucin de la operacin. Los dos grupos de datos se utilizan posteriormente para el seguimiento y evaluacin. Para actualizar la informacin de referencia y para entender los motivos por los cuales han ocurrido determinados cambios, pueden realizarse estudios de casos concretos y estudios por muestreo.
Octubre de 2002
Producto
Actividades
Insumos
Cules son el acceso a los bienes entregados y servicios prestados, la utilizacin de los mismos y la satisfaccin al respecto de los beneficiarios (hombres, mujeres y nios)? Se benefician las mujeres y otros grupos vulnerables en la medida prevista? Est la operacin bien encaminada para lograr su propsito? Cules son los logros materiales de la operacin? Recibe el grupo beneficiario artculos en las cantidades y calidad planificadas? Se crean/mantienen los activos tal como se planific? Se ponen a disposicin otros servicios de acuerdo con lo planificado? Se distribuyen los artculos en el momento y cantidades planificados? Se realizan otras actividades segn lo previsto? Quin participa en la operacin? Dnde se encuentran actualmente las reservas y los suministros pendientes de ser entregados a los almacenes? Cules son las prdidas actuales? Estn contribuyendo los gobiernos, asociados y beneficiarios de acuerdo con lo planificado? Cules son las estructuras de gestin en funcionamiento y cmo funcionan de bien?
Hiptesis Existen factores externos que afecten significativamente a los progresos de la operacin? Los efectos, son positivos o negativos?
2.4.2.2 Seguimiento de insumos Los sistemas de informacin tradicionales frecuentemente estn pensados para satisfacer los requisitos administrativos de rendir cuentas adecuadamente de los fondos y recursos invertidos y de que se ha cumplido el trabajo de acuerdo con los planes. Pero es posible que el punto dbil ms frecuente en el seguimiento de los insumos materiales y econmicos sea que no se pueda seguir la pista a las desviaciones del plan hasta los centros de responsabilidad o que no estn claras las razones para esas desviaciones. Cuando, p. ej., los datos sobre la actividad sanitaria de un distrito indican que se ha interrumpido la distribucin de suministros, es importante que esta informacin est acompaada por la identificacin de dnde y por qu ha surgido el problema. 2.4.2.3 Visitas al terreno una valiosa fuente de informacin complementaria Las visitas al terreno constituyen una herramienta esencial de seguimiento para el personal de la Federacin y de las Sociedades Nacionales y permiten establecer con los beneficiarios el estrecho contacto requerido.
2-9
Octubre de 2002
Las visitas al terreno pueden tener diferentes propsitos, todos ellos interrelacionados: Estimar los progresos hechos hacia el logro de los objetivos de la operacin Determinar la percepcin de los beneficiarios y su reaccin en relacin con las actividades Determinar el sentido de la responsabilidad hacia los activos creados y la utilizacin de los mismos, e identificar cualquier efecto negativo Determinar la cantidad y calidad del trabajo realizado y la pertinencia de otras actividades Comprobar materialmente las reservas y distribucin de productos bsicos y el trabajo al respecto Ayudar a los responsables de gestin a identificar problemas y a tomar decisiones para superarlos Establecer relaciones fructferas con gobiernos y asociados ejecutores Velar por que los hombres y mujeres beneficiarios participen plenamente en la ejecucin y seguimiento de la operacin 2.4.2.4 Seguimiento de la participacin El seguimiento de la participacin es una tarea fundamental del seguimiento en su conjunto. Implica hacer un seguimiento de: Quin participa? - en la ejecucin de las actividades, en la planificacin y organizacin, y quin comparte los beneficios? Cmo cooperan aquellos que participan? Participan los diferentes grupos interesados (hombres, mujeres, nios y grupos socioeconmicos) en la toma de decisiones? Se comparten equitativamente los costos y responsabilidades derivados del trabajo? Son eficaces las medidas organizacionales? Existen relaciones entre las partes interesadas? Son relaciones eficaces? Qu factores apoyarn u obstaculizarn el proceso de participacin? sexo, edad, educacin, condicin social, movilidad, autoridad, etc. Como mnimo, la Federacin, las Sociedades Nacionales y sus asociados deben someter a seguimiento y evaluacin el grado y forma de participacin de mujeres, hombres y otros grupos interesados en la operacin correspondiente. 2.4.2.5 Seguimiento y evaluacin del compromiso de la Federacin y de las Sociedades Nacionales con las mujeres Como parte de su actitud de sensibilizacin en torno al gnero, la Federacin y las Sociedades Nacionales deben generar y difundir, para la planificacin y evaluacin, datos e informacin desglosados por sexo.
En toda la informacin de seguimiento y en todos los informes de la Federacin y de las Sociedades Nacionales se especificarn:
Porcentajes de hombres y mujeres que comparten los recursos recibidos a partir de la distribucin de ayuda
Hombres y mujeres que comparten los beneficios segn categoras de actividades Porcentaje de puestos ocupados por mujeres en la planificacin y gestin de las operaciones 2.4.3 Quin recopila y analiza los datos sobre el terreno?
Es esencial evitar la duplicacin del seguimiento, identificar los vacos de informacin y utilizar con eficiencia los recursos destinados al seguimiento. El plan de seguimiento y evaluacin ayudar a 2-10
Octubre de 2002
aclarar quin recopilar qu datos y por qu. Adems, suministrar la base para acordar las responsabilidades en cuanto a la ampliacin de la actividad de seguimiento. Cuando la Federacin y las Sociedades Nacionales son responsables directas del seguimiento, las tareas pertinentes son realizadas normalmente por el director de proyecto. Normalmente se solicita a ste o a los delegados encargados de la notificacin que recopilen y analicen los datos de seguimiento y preparen los informes que describen la situacin sobre el terreno. En la contratacin y despliegue de directores de proyecto y delegados encargados de la notificacin: Componga equipos mixtos (extranjeros y personas del pas correspondiente) a fin de aprovechar diferentes puntos de vista Desarrolle una tctica de equipo, con reuniones frecuentes de los equipos, a fin de promover la integracin y el intercambio de ideas Busque la igualdad entre hombres y mujeres, pues las directoras de proyectos o delegadas responsables de la notificacin normalmente son esenciales para garantizar el acceso a las mujeres de las comunidades beneficiarias y para poder determinar qu les ocurre a las mujeres en los hogares Tabla 2.5: Cualidades y conocimientos que deben poseer las personas que realizan el seguimiento de proyectos
Estas personas deben: tener conocimientos acerca del mandato y las metas de la Federacin y las Sociedades Nacionales en las operaciones; poseer una buena capacidad analtica y para elaborar informes; poseer conocimientos sobre tcnicas de recopilacin de datos cualitativos y cuantitativos; poseer conocimientos sobre seguimiento de insumos y del producto, supervisin de existencias y mtodos de distribucin de ayuda, preferiblemente adquiridos en experiencias anteriores en operaciones similares; ser honestos, muy observadores, perceptivos, inquisitivos, insistentes y diplomticos; ser oyentes comprensibles, que adems tengan la capacidad de influir sobre otras personas y convencerlas mediante argumentos; ser activos y estar dispuestos a viajar y pasar la mayor parte del tiempo sobre el terreno; ser capaces de examinar los problemas sobre el terreno con los empleados; ser jugadores de equipo; ser capaces de determinar aquello que es importante y de centrarse en ello.
Personal del pas: Presenta ventajas en cuanto al idioma, comprensin cultural y, normalmente, libertad para viajar, aspectos particularmente importantes para hacer un seguimiento de la distribucin, de quin utiliza finalmente aquello que se ha distribuido y de la evolucin de la situacin general. Puede estar sujeto a diversas presiones y, en general, las personas del pas no se debern destinar para trabajar en su localidad de origen o en grupos tnicos relacionados. Personal del extranjero, incluidos voluntarios: Pueden contribuir con experiencia ms amplia y con experiencia pertinente adquirida en el extranjero, particularmente en relacin con cuestiones de logstica y gestin general. Pueden abordar cuestiones que, por motivos culturales, resulten problemticas para el personal nacional. Poseen conocimientos y pueden capacitar a otras personas en relacin a la teora y prctica de las metodologas de estimacin y seguimiento. 2-11
Octubre de 2002
No hablar el idioma del pas y desconocer la cultura del mismo puede constituir un obstculo y puede conducir a una dependencia excesiva de los informes y al fracaso en la apreciacin de lo que realmente ocurre dentro de las comunidades afectadas. En algunas situaciones de conflicto o disturbios civiles, su libertad para viajar puede verse restringida: pueden requerir permisos y/o acompaantes para viajar a determinadas reas.
2-12
Octubre de 2002
2.5
En la matriz deber introducirse la siguiente informacin: Elemento de la matriz de planificacin: Meta, propsito, producto, actividades, insumos e hiptesis. Indicadores: indicadores de meta, propsitos y producto. Se debern introducir los indicadores contenidos en la matriz de planificacin de la operacin y aadirse los objetivos. En el caso de los insumos, se introducirn las cantidades materiales y los costos econmicos del proyecto para las principales categoras de costos. P. ej.: - para los artculos se introducirn las cantidades proyectadas y el costo de cada artculo - para los recursos humanos se introducirn los costos previstos de personal y el tiempo previsto en que se requerir ese personal - etc. Fuentes de datos: Fuentes de datos primarios o secundarios que suministran informacin sobre cada uno de los indicadores, p. ej. estadsticas o documentos ya existentes, cuentas del proyecto, estudios sobre nutricin, etc. Frecuencia y costos de recopilacin: Frecuencia con que se recopilan datos primarios o se analizan datos secundarios (p. ej. trimestralmente, anualmente, al final de una fase, etc.), y presupuesto correspondiente. Responsabilidad de recopilacin: Organizacin o unidad responsable de recopilar y/o analizar los datos. Mtodo de recopilacin: Cmo se recopilan los datos (p. ej. reuniones del grupo temtico). Informes: En qu informe(s) se incluir la informacin. Presentacin: En qu foros o reuniones se presentarn y discutirn la informacin o informes.
2-13
Octubre de 2002
2-14
Octubre de 2002
2.6
2.6.2 Cmo utilizaran los directores de proyectos o programas los diferentes informes?
Al ofrecer una breve descripcin de la situacin antes de iniciarse la operacin, o al menos en las primeras etapas de la misma, el informe de referencia proporciona la informacin necesaria para evaluar de forma comparativa los indicadores relativos al propsito y meta de la operacin. El estudio complementario ofrece, posteriormente, una imagen de cmo ha cambiado la situacin. El estudio de referencia tambin suministra informacin til para la planificacin. Cuando este estudio se realiza antes de comenzar a ejecutar la operacin, la informacin de referencia puede ser de ayuda para afinar el diseo de la misma. Cuando el estudio se lleva a cabo durante las primeras etapas de ejecucin, puede proporcionar informacin provechosa para validar el diseo o determinar modificaciones necesarias. Los informes de situacin oportunos avisarn sobre si la operacin est o no correctamente orientada hacia la obtencin del producto y consecuencias y, as, posibilitarn a los responsables de gestin centrar sus esfuerzos en superar los obstculos ms importantes. Los informes de situacin trimestrales y semestrales debern: orientarse hacia la obtencin de resultados (ofrecer informacin actualizada sobre el producto logrado e incluir informacin obtenida en el seguimiento a travs del contacto con beneficiarios); centrarse en la accin; posibilitar a los responsables de gestin examinar aquello que se ha realizado durante el perodo que abarca el informe, en comparacin con los planes; posibilitar a los responsables de gestin decidir qu debe hacerse en el siguiente perodo.
2-15
Octubre de 2002
Los informes de autoevaluacin debern: orientarse hacia la obtencin de resultados (proporcionar una estimacin del producto y consecuencias realmente obtenidos); posibilitar la preparacin de nuevas operaciones o de operaciones de seguimiento en las que se consideren las experiencias adquiridas en la operacin actual; proporcionar un informe analtico de cierre para aquellas operaciones que se estn concluyendo. Las evaluaciones ms detalladas brindarn apoyo al proceso de aprendizaje institucional y, as, servirn de orientacin a los responsables de gestin en la formulacin de polticas en el nivel estratgico. A partir de esas polticas y enseanzas obtenidas dentro de la Federacin surgir una orientacin prctica que servir de ayuda a los responsables de gestin en la preparacin de mejores operaciones.
2-16
Octubre de 2002
2-17
Octubre de 2002
3.
3.1
La orientacin ofrecida en este mdulo deber considerarse previa revisin del punto 1.3 Qu principios y definiciones deben tenerse presentes? (mdulo 1) y el punto 2.1 Cmo disear un sistema de seguimiento y evaluacin (mdulo 2). En la tabla 3.1 se resumen las etapas del diseo de un sistema de seguimiento y evaluacin. Cada una de ellas as como la lista de tareas acompaante se detallan en el mdulo 2. El mdulo 3 ofrece detalles adicionales en torno a estrategias de cooperacin y actividades de desarrollo. Tabla 3.1: Etapas del diseo de un sistema de seguimiento y evaluacin
Etapa Lista de tareas Revise y corrija (y prepare si es necesario) la matriz de planificacin. Asegrese de que los objetivos reflejados en la meta (impacto), propsito (consecuencias), producto e hiptesis estn definidos con claridad y son mensurables. Asegrese de que los indicadores estn concretados adecuadamente en sus aspectos cuantitativo, cualitativo y temporal. Identifique los recursos humanos y econmicos disponibles. Valore los requisitos de capacitacin para todo el personal de seguimiento, tanto de las Sociedades Nacionales como de organismos copartcipes. Especifique los requisitos de capacitacin. Compruebe la fiabilidad y exactitud de las fuentes de informacin existentes a fin de determinar qu datos estn ya disponibles. Decida qu informacin adicional deber recopilarse para servir de referencia, para el seguimiento y para la evaluacin. Establezca un plazo de tiempo y un calendario para la recopilacin y procesamiento de datos y acuerde las responsabilidades. Resuma las necesidades de informacin acordadas, la recopilacin de datos y la utilizacin de la informacin (elaboracin de informes y presentacin de la informacin) en un plan de seguimiento y evaluacin. Resuma los requisitos para fortalecer la capacidad y brindar apoyo. Calcule el costo de todas las actividades de seguimiento y evaluacin e identifique fuentes de financiacin.
Disee el sistema de presentacin de informes y especifique el formato de los mismos.Acuerde las medidas que se adoptarn para los controles y
supervisin, por parte de la Sociedad Nacional, del sistema de notificacin de los asociados. Disee un sistema de informacin de retorno y toma de decisiones para los responsables de gestin.
3-1
Octubre de 2002
3.2
El diseo de programas y actividades de las Sociedades Nacionales deber reflejarse en matrices de planificacin. El Manual del proceso de planificacin del proyecto de la Federacin sirve de orientacin para elaborar una matriz de planificacin. En cuanto a cmo comprobar la misma, dirjase al punto 2.2 Comprobacin del diseo de la operacin (mdulo 2).
Indicadores de impacto: Contribucin a reducir los niveles de pobreza en las regiones norteas del 70 % en 1999 a la media nacional actual del 40 % hasta 2010. Inseguridad alimentaria crnica reducida en los grupos vulnerables de la regin nortea de sabana, especialmente durante la estacin seca.
El gobierno de Ghana crear y mantendr un marco institucional para la gestin y supervisin del programa nacional que facilite la integracin del programa y el establecimiento de vnculos eficaces entre las actividades del mismo as como con otras actividades de desarrollo relacionadas. El suministro de artculos no alimenticios de diferentes fuentes es una condicin necesaria para alcanzar el xito. La falta de apoyo por parte de los asociados en este campo podra tener efectos sobre la ejecucin del programa nacional. Hiptesis y riesgos Capacidad econmica y tcnica adecuada en el nivel de distrito. Riesgo: Elevada renovacin de personal en los servicios gubernamentales, lo que puede suponer la prdida de conocimientos al marcharse el personal capacitado.
Propsito del programa nacional: (= metas en el nivel de actividades) 1. Progresos hacia el cumplimiento del derecho a la seguridad personal, entre otras cosas, mediante prcticas de salud y nutricin mejoradas y una mayor capacidad de las comunidades para rehabilitar/crear y mantener activos que proporcionen bases de subsistencia seguras y sostenibles. 2. Progresos hacia el cumplimiento del derecho al conocimiento mediante mayor nmero de inscripciones y asistencia de nias y mediante una mayor capacidad de aprendizaje. Propsito de cada actividad del programa nacional: 1.1 Mejorar la seguridad alimentaria de los hogares y, por lo tanto, el estado nutricional de los grupos vulnerables (menores de 5 aos, mujeres embarazadas, y madres lactantes y nios desnutridos) mediante alimentacin complementaria. 1.2 Contribuir a la rehabilitacin de nios gravemente desnutridos incrementando su tasa de recuperacin. 1.3 Mejorar los conocimientos de los trabajadores de salud, voluntarios y beneficiarios a travs de la capacitacin en materia de salud, nutricin y gnero. 2.1 Aumento de la inscripcin de nias en la enseanza primaria y secundaria, aumento de la asistencia a la escuela y disminucin del nmero de abandonos anuales por parte de nias.
Indicadores de consecuencias para el programa nacional: Mayor porcentaje de nios de peso normal. Menor porcentaje de neonatos de bajo peso. Nmero creciente de hogares que participan con xito en actividades de conservacin del suelo y del agua y de gestin y conservacin de los bosques. Mayor nmero de nias inscritas y que finalizan con xito la enseanza primaria y secundaria.
Indicadores de consecuencias de las actividades: Tasa de bajo peso en nios reducida a valores inferiores al 40 % en 2005; tasa de bajo peso en neonatos reducida a menos del 13 % en 2005.
Reduccin del nmero de madres que repiten las clases de educacin sanitaria y nutricional Prevalencia de desnutricin reducida en las comunidades beneficiarias.
Capacidad del gobierno para cumplir las condiciones, como proporcionar insumos adicionales (aulas, material didctico y maestros) para hacer frente al incremento previsto de las inscripciones en la escuelas objetivo. Hiptesis y riesgos Sistema eficiente y eficaz de seguimiento y notificacin en los centros de salud y nutricin. Disponibilidad de recursos complementarios para salud y nutricin. Observacin, en los hogares, de las lecciones aprendidas en la capacitacin relativa a la educacin sanitaria y nutricional.
Aumento de la inscripcin de nias en un 15 % anual y reduccin de la tasa de abandonos en un 12 % anual en los niveles de enseanza primaria y secundaria.
Capacidad del gobierno y de los donantes de proporcionar insumos complementarios (aulas, material didctico, maestros, etc.) a las escuelas objetivo.
La Federacin y la Delegacin en el pas de la Sociedad Nacional deben realizar un seguimiento del rendimiento de la estrategia de cooperacin en su conjunto: aglutinando y resumiendo informacin sobre actividades individuales, reasignando sus recursos humanos, materiales y econmicos para brindar apoyo a esas actividades de la forma ms eficaz.
3-2
Octubre de 2002
asistiendo en estudios especiales (segn lo acordado durante el diseo de la operacin y segn se solicite), efectuando un seguimiento de los suministros pendientes de ser entregados a los almacenes y otros recursos (insumos), realizando un seguimiento de aquellos que realizan el seguimiento asegurar que el gobierno u ONG realizan eficazmente el seguimiento, valorando los vacos de conocimientos y las necesidades de capacitacin en relacin con la capacidad de seguimiento del gobierno y las ONG, llevando a cabo la capacitacin segn las necesidades.
Existen cuatro tipos de actividades de desarrollo a las que brindan apoyo la Federacin y las Sociedades Nacionales, expuestas en trminos generales en el documento de poltica elaborado por la antigua divisin de intercambio de conocimientos. Este documento presenta los objetivos ms comunes para cada tipo de actividad y sugiere indicadores para los niveles de producto y consecuencias (o propsito) de la matriz de planificacin, concretamente: Promocin de los Principios Fundamentales y los valores humanitarios Preparacin para casos de desastre Intervencin en casos de desastre Salud y servicios a la comunidad
El material presentado a continuacin, disponible en la Federacin y en las Sociedades Nacionales, orienta sobre la informacin particular necesaria para realizar diferentes tipos de actividades de desarrollo: De los Principios a la Accin Iniciativa "Mejor diseo de programas" Mdulos de Capacitacin en Preparacin para Desastres Proyecto Esfera Public Health Guide for Emergencies Poltica de VIH/SIDA Poltica de Agua y Saneamiento
3-3
Octubre de 2002
3.3
A fin de estimar la capacidad consulte el punto 2.3 Estimacin de la capacidad de seguimiento y evaluacin (mdulo 2). Ofrece orientacin en torno a 2.3.1 Cmo determinar la capacidad de seguimiento y evaluacin y a 2.3.2 Estimacin de necesidades de capacitacin.
3.3.1 Cmo determinar la capacidad de seguimiento y evaluacin para estrategias de cooperacin y actividades
En el caso de las estrategias de cooperacin y actividades, la Federacin y las Sociedades Nacionales determinan la capacidad de seguimiento del gobierno y de otros asociados y aseguran que el sistema de seguimiento est concebido de acuerdo con la capacidad y los recursos disponibles. Esta estimacin y otras estimaciones posteriores se realizan: en las etapas del diseo durante la elaboracin de planes operacionales y otros acuerdos en intervalos regulares (normalmente anualmente) durante la ejecucin
Durante las fases de planificacin y ejecucin, la Federacin y las Sociedades Nacionales determinan y revisan regularmente la capacidad de su propio personal, y el tiempo y recursos econmicos disponibles para funciones de seguimiento y evaluacin.
3-4
Octubre de 2002
3.4
Para proceder a la planificacin y desarrollo de sistemas de recopilacin y anlisis de datos dirjase al punto 2.4 Planificacin de la recopilacin y anlisis de datos (mdulo 2), en el que se asesora respecto a: Punto 2.4.1 Por qu son necesarios los datos de referencia? Punto 2.4.2 Qu datos de seguimiento se necesitan y de dnde se obtendrn? Punto 2.4.2.3 Visitas al terreno una valiosa fuente de informacin complementaria Punto 2.4.2.4. Seguimiento de la participacin
Cuando existan vacos importantes de datos relativos a los indicadores claves a los que la actividad pretende afectar, habr que recopilar datos de referencia primarios o seleccionar otro indicador. La eleccin de la tcnica de recopilacin de datos de referencia depender de: cunto tiempo pueden asignar la Federacin y las Sociedades Nacionales a la recopilacin de datos, la disponibilidad de personal especializado en el diseo de estudios en la Federacin y las Sociedades Nacionales, la disponibilidad y conocimientos del personal activo sobre el terreno y de los entrevistadores, los recursos econmicos disponibles para la recopilacin de datos.
Para orientarse en relacin con la preparacin de presupuestos para estudios de referencia y complementarios dirjase al punto 7.3.12 Preparacin del plan de trabajo y presupuesto (mdulo 7).
3-5
Octubre de 2002
Para obtener informacin sobre cuestiones generales del seguimiento en todos los niveles de la matriz de planificacin dirjase al punto 2.4.2 Qu datos de seguimiento se necesitan y de dnde se obtendrn? (mdulo 2) 3.4.2.1 Visitas al terreno una valiosa fuente de informacin complementaria Si desea obtener informacin sobre cmo realizar visitas al terreno con fines de seguimiento, dirjase al punto 8.2.6 Visitas al terreno (mdulo 8). 3.4.2.2 Seguimiento a travs del contacto con beneficiarios determinacin del acceso al producto resultante de las actividades, la utilizacin del mismo y la satisfaccin al respecto por parte de los beneficiarios Si desea introducirse en el tema del seguimiento a travs del contacto con beneficiarios, consulte el punto 2.2.3.1 Indicadores de seguimiento a travs del contacto con beneficiarios (mdulo 2). La bsqueda de las opiniones directamente de hombres, mujeres y nios que supuestamente se benefician de las actividades realizadas por la Federacin y las Sociedades Nacionales: constituye un medio eficaz para ratificar si la estrategia aplicada para la obtencin de productos funciona, y suministra informacin sobre la probabilidad de que se alcance el propsito.
Adems, el seguimiento a travs del contacto con beneficiarios puede indicar, en fases tempranas, problemas en el diseo de las actividades, que podran abordarse asignando de nuevo los recursos humanos, materiales y econmicos de la Federacin y de las Sociedades Nacionales para apoyar una
3-6
Octubre de 2002
actividad a travs de otra, a fin de ampliar la probabilidad de lograr los objetivos, en su conjunto, de una estrategia de cooperacin. 3.4.2.3 Quin recopila y analiza los datos sobre el terreno? Dirjase al punto 2.4.3 Quin recopila y analiza los datos sobre el terreno? (mdulo 2).
3.5
3-7
Octubre de 2002
Figura 3.2: Ejemplo de plan de seguimiento y evaluacin para una estrategia de cooperacin (nivel de meta)
Logro de la meta de las actividades
Requisitos de informacin Indicadores Fuentes de datos Meta Capacitar a los hogares cuya seguridad alimentaria depende de recursos naturales degradados para que logren cambiar a bases de subsistencia ms sostenibles Requisitos de informacin Incidencia y nivel inferiores de inseguridad alimentaria en los hogares de distritos con recursos naturales degradados Indicadores Fuentes de datos Propsito Incrementar los ingresos y la seguridad alimentaria de la poblacin beneficiaria Cambios en los ingresos de hogares o miembros de hogares Cantidad de productos forestales cosechados por hogar Indicadores principales: Nmero de hogares que obtienen ingresos o alimentos de zonas protegidas Impresin de los beneficiarios (hombres y mujeres) acerca de costos y beneficios del proyecto Nmero de usurpaciones y magnitud de daos Estudio de referencia y complementario en poblaciones participantes y de control Visitas peridicas al terreno Pequeo reconocimiento a mitad de proyecto Reconocimient o de la zona protegida Informe de referencia Medios de verificacin Frecuencia de Responsabilidad recopilacin de recopilacin Antes y despus de conclusin Responsable del proyecto Mtodo de recopilaci n Visita al terreno Utilizacin de la informacin Informes Presentacin Proyecto Taller de evaluacin
Sociedad Nacional
Anual
Asociado ejecutor
Hiptesis Los precios de frutas en los mercados permanecen estables Producto 2 La poblacin beneficiaria est alimentada
Estacional
Comits comunitarios de distribucin de alimentos Comits comunitarios de distribucin de alimentos, asociado ejecutor etc. Trabajadores de desarrollo comunitario del asociado ejecutor Asociado ejecutor
Informe anual
Nmero de personas que han recibido alimentos suministrados por la Federacin (datos desglosados por sexo y grupos de edad) etc. Nmero de grupos comunitarios constituidos y activos Representacin y participacin de hombres y mujeres en los comits (datos desglosados por sexo)
Mensual
Informe mensual
Hiptesis etc. Producto 3 Grupos comunitarios constituidos y activos en la gestin de superficies forestales
etc. Documentos de los comits comunitarios Documentos de los comits comunitarios Estudio de los comits comunitarios Planes entregados Verificacin sobre el terreno etc.
etc. Trimestral
etc. Trimestral
Trimestral
Trimestral
Trimestral Trimestral
Hiptesis etc.
etc.
etc.
etc.
etc.
3-8
Octubre de 2002
3-9
Octubre de 2002
3.6
3.6.2
Para orientarse de forma general acerca de cmo utilizar los informes de situacin, de autoevaluacin y de evaluacin detallada dirjase al punto 2.6.2 Cmo utilizaran los directores de programas o proyectos los diferentes informes? (mdulo 2). Los siguientes constituyen algunos ejemplos de cmo utilizar informes ordinarios de estrategias de cooperacin y actividades: Informe trimestral de proyecto, informe de ejecucin del proyecto, informes de visitas al terreno: Son herramientas esenciales para los responsables de gestin para medir los progresos frente a los planes en el perodo que abarca el informe. Para posibilitar a los responsables de gestin centrarse en resolver los problemas y defectos ms importantes es fundamental entregar los informes oportunamente. Las Sociedades Nacionales utilizan estos informes para preparar los informes anuales y realizar los necesarios anlisis de los progresos. Informe de la Delegacin en el pas sobre la ejecucin de la estrategia de cooperacin: Este informe posibilita juzgar los progresos de cada actividad y del programa de la Sociedad Nacional en el logro de los objetivos planificados. El personal de la Delegacin en el pas identifica los problemas graves e indica quin deber responsabilizarse de realizar las medidas correctoras. Aunque este informe es un documento interno de la Federacin y de las Sociedades Nacionales, normalmente deber discutirse un borrador del mismo en una reunin de revisin con los asociados ejecutores. En estas reuniones se deber llegar a un acuerdo sobre qu acciones pasadas han sido concluidas y qu acciones futuras son necesarias.
3-10
Octubre de 2002
3-11
Octubre de 2002
4.
Seguimiento y notificacin
El mdulo 2. Seguimiento y evaluacin ofrece orientacin general sobre el diseo de un sistema de seguimiento y evaluacin para todo tipo de operaciones.
4.1
En operaciones de emergencia y de desarrollo, los factores externos (contexto) con frecuencia son inestables y pueden cambiar en poco tiempo. En el caso de crisis repentinas:
Las actividades debern planificarse e iniciarse rpidamente, sin conocerse detalladamente la situacin. Se deber iniciar con rapidez un conjunto mnimo de actividades de seguimiento, que progresivamente se ir ampliando segn lo vayan permitiendo las circunstancias y los recursos disponibles. A fin de disponer, lo antes posible, de informacin fidedigna sobre quin recibe los alimentos y cuntos se reciben, es esencial establecer un sistema de seguimiento de la distribucin de alimentos. Especialmente en zonas de conflicto, la Federacin y las Sociedades Nacionales dependen en gran medida de los asociados locales debido a la insuficiente o ausente capacidad gubernamental.
En la mayora de las emergencias de evolucin lenta (p. ej. sequas) se pueden planificar con antelacin actividades de seguimiento apropiadas. En la mayora de las operaciones de desarrollo, las actividades de seguimiento se apoyan en las actividades realizadas durante la fase de emergencia de la operacin.
4-1
Octubre de 2002
4.2
En la tabla 4.1 se resumen las etapas del diseo de un sistema de seguimiento y evaluacin (vase tambin punto 2.1 del mdulo 2). Las etapas y la lista de tareas acompaante se presentan ms detalladamente en los apartados siguientes. Tabla 4.1: Etapas del diseo de un sistema de seguimiento y evaluacin
Etapa Lista de tareas Revise y corrija (y prepare si es necesario) la matriz de planificacin. Asegrese de que los objetivos reflejados en la meta (impacto), propsito (consecuencias), producto e hiptesis estn definidos con claridad y son mensurables. Asegrese de que los indicadores estn concretados adecuadamente en sus aspectos cuantitativo, cualitativo y temporal. Identifique los recursos humanos y econmicos disponibles. Valore los requisitos de capacitacin para todo el personal de seguimiento, tanto de la Federacin y las Sociedades Nacionales como de organismos copartcipes. Especifique los requisitos de capacitacin. Compruebe la fiabilidad y exactitud de las fuentes de informacin existentes a fin de determinar qu datos estn ya disponibles. Decida qu informacin adicional deber recopilarse para servir de referencia, para el seguimiento y para la evaluacin. Establezca un plazo de tiempo y un calendario para la recopilacin y procesamiento de datos y acuerde las responsabilidades. Resuma las necesidades de informacin acordadas, la recopilacin de datos y la utilizacin de la informacin (elaboracin de informes y presentacin de la informacin) en un plan de seguimiento y evaluacin. Resuma los requisitos para fortalecer la capacidad y brindar apoyo. Calcule el costo de todas las actividades de seguimiento y evaluacin e identifique fuentes de financiacin. Disee el sistema de notificacin y especifique el formato de los informes. Acuerde las medidas que se adoptarn para los controles y supervisin, por parte de la Delegacin Nacional, del sistema de notificacin de los asociados. Disee un sistema de informacin de retorno y toma de decisiones para los responsables de gestin.
Valore la capacidad de seguimiento y evaluacin Planifique la recopilacin y anlisis de datos Prepare el plan y presupuesto de seguimiento y evaluacin Planifique la notificacin y la informacin de retorno
4-2
Octubre de 2002
4.3
Para instruirse acerca de cmo abordar el seguimiento y la evaluacin en los documentos de diseo, consulte los siguientes apartados.
4.3.1 Consideraciones para el seguimiento y evaluacin en las diferentes fases del ciclo del proyecto
Tabla 4.2: Consideraciones para el seguimiento y evaluacin en las diferentes fases del ciclo del proyecto en operaciones de emergencia y de desarrollo
Fase del ciclo del proyecto Estimacin inicial (emergencia repentina) (slo operaciones de emergencia) Estimacin detallada (emergencias repentinas y de evolucin lenta) Consideraciones para el seguimiento y evaluacin De qu sistemas y capacidad se dispone para mantener la recopilacin de datos bsicos? Qu recursos (Federacin, Sociedades Nacionales, asociados) son necesarios para garantizar una calidad mnima en la recopilacin de datos, notificacin y seguimiento desde el comienzo de la emergencia? De qu sistemas y capacidad se dispone para: recopilar informacin sobre la situacin general (contexto) de forma permanente; realizar un seguimiento del beneficio real en los hogares; y analizar y decidir las acciones? Con qu intensidad debe realizarse el seguimiento en relacin con la duracin y complejidad previstas para la operacin? Qu recursos (Federacin, Sociedades Nacionales y asociados) son necesarios para garantizar que se realicen el seguimiento y, posteriormente, el anlisis y notificacin? Definicin de un plan inicial de seguimiento y evaluacin: indicadores provisionales; responsabilidades; procedimientos; calendario para la ejecucin progresiva del plan; recursos necesarios y presupuesto de seguimiento y evaluacin. Incluir en los planes de emergencia las consideraciones para el seguimiento y evaluacin para superar posibles cambios de la situacin. Especificacin del plan de seguimiento y evaluacin y del presupuesto requerido de la Federacin y de las Sociedades Nacionales Ampliacin del sistema de seguimiento y evaluacin: Compilacin de datos de referencia Diseo de herramientas de recopilacin de datos Capacitacin de personal para la operacin en materia de notificacin y utilizacin de informacin de seguimiento para la toma de decisiones Seleccin y capacitacin de responsables de proyecto (contratados por la Federacin y las Sociedades Nacionales) Compilacin y anlisis de informes y respuesta a los mismos de forma permanente para insumos, actividades, producto y consecuencias Planificacin y realizacin de visitas al terreno; gestin de los responsables de proyecto; intensificacin del trabajo en equipo Seguimiento del rendimiento de los asociados Organizacin de reuniones de revisin peridicas Incorporacin de los hallazgos del seguimiento y de la autoevaluacin en curso en el proceso de toma de decisiones de los responsables de gestin de la operacin Estimacin del rendimiento de la operacin hasta la fecha Estimacin del rendimiento e idoneidad del sistema de seguimiento hasta la fecha Revisin de la situacin actual y de tendencias; requisitos para la asistencia en curso; estrategia de salida Determinacin de la eficacia e impacto de la operacin
Revisin/nueva estimacin
Evaluacin peridica
4-3
Octubre de 2002
implique a las partes interesadas en la elaboracin de una matriz de planificacin de acuerdo con la orientacin obtenida en el Manual del proceso de planificacin del proyecto de la Federacin o si se ha preparado ya una matriz de planificacin, compruebe que los objetivos e hiptesis estn clara y adecuadamente especificados y que tambin se haya identificado un pequeo nmero de indicadores pertinentes y viables.
la asistencia a la poblacin necesitada probablemente se iniciar mientras se est realizando la estimacin, los objetivos de la operacin y los planes de ejecucin (incluidos aquellos para la seleccin de beneficiarios y de distribucin) se van fijando da a da, los objetivos e hiptesis debern representarse, lo antes posible, en forma de matriz de planificacin, incluso aunque sigan existiendo vacos y no se indiquen con precisin los objetivos e indicadores, un grupo de 5-10 Sociedades Nacionales puede elaborar en medio da una matriz de planificacin a grandes rasgos y lista para ser utilizada, la matriz de planificacin suministra un marco convenido para progresar, aunque requerir ser actualizada peridicamente, la informacin sobre las hiptesis, recopilada como parte de la estimacin inicial, establecer una imagen ms detallada de la situacin y posibilitar a los responsables de gestin revisar y actualizar sus planes de forma correspondiente, una vez realizada una estimacin detallada, se puede preparar un anlisis ms profundo de la matriz de planificacin y disear el sistema de seguimiento y evaluacin segn los resultados de ese anlisis.
4-4
Octubre de 2002
4.4
Para consultar cmo estimar la capacidad vase el punto 2.3 Estimacin de la capacidad de seguimiento y evaluacin (mdulo 2). Sirve de orientacin acerca de 2.3.1 Cmo determinar la capacidad de seguimiento y evaluacin y de 2.3.2 Estimacin de necesidades de capacitacin.
El ACNUR gestiona la operacin completa en favor de los refugiados y realiza un seguimiento de gran parte de los servicios, desde la proteccin a la salud, educacin y saneamiento.
La Federacin y las Sociedades Nacionales han firmado, con los principales asociados de las Naciones Unidas, memorandos mundiales de acuerdo para operaciones de emergencia y desarrollo, que sirven de orientacin para las responsabilidades de seguimiento y evaluacin de cada una de las partes.
4-5
Octubre de 2002
Cmo ha afectado la propia crisis a la capacidad previa de seguimiento y evaluacin? Cmo podran verse indirectamente afectados la capacidad y el rendimiento por las nuevas exigencias que se le plantean a la organizacin en su conjunto? Que posibilidades existen de que ONG locales realicen determinadas funciones de seguimiento y evaluacin y qu capacidad poseen las ONG disponibles? Qu factores del entorno dificultarn la recopilacin de informacin y la presentacin peridica de informes? Qu puede hacerse para superar estas dificultades y quin se har cargo de esta cuestin? Qu apoyo se necesitara para posibilitar la realizacin de las actividades de seguimiento y evaluacin? - De qu medios de transporte se dispone? Cules ms sern necesarios? Qu capacitacin habr que organizar? Qu material de oficina habr que suministrar?
4-6
Octubre de 2002
4.5
Para proceder a la planificacin y desarrollo de sistemas de recopilacin y anlisis de datos consulte el punto 2.4 Planificacin de la recopilacin y anlisis de datos (mdulo 2), que sirve de orientacin en torno a:
2.4.1 Por qu son necesarios los datos de referencia? 2.4.2 Qu datos de seguimiento se necesitan y de dnde se obtendrn? 2.4.2.3 Visitas al terreno una valiosa fuente de informacin complementaria 2.4.2.4 Seguimiento de la participacin
El presente mdulo sirve de orientacin adicional en torno a estos aspectos en el caso de operaciones de emergencia y de desarrollo.
Tasas de desnutricin moderada y grave (en nios de 6-59 meses de edad) Tasas de mortalidad (para todos los grupos de edad y particularmente para nios)
recepcin y suministro de productos y artculos no alimenticios proporcionados por la Federacin y las Sociedades Nacionales, nmero (desglose segn sexo y edad) de personas que reciben asistencia de la Federacin y de las Sociedades Nacionales, manejo y distribucin de productos proporcionados por la Federacin y las Sociedades Nacionales, disponibilidad de ayuda alimentaria y necesidades pendientes.
4-7
Octubre de 2002
4.5.2.2 Visitas al terreno una valiosa fuente de informacin complementaria Para orientarse de forma general dirjase al punto 2.4.2.3 Visitas al terreno (mdulo 2). En zonas afectadas por conflictos, la estimacin y el seguimiento se realizan, a veces, simultneamente. En situaciones de crisis agudas resultantes de conflictos armados, a veces es necesario planificar operaciones de ayuda alimentaria careciendo de conocimientos profundos sobre el dficit de alimentos de determinados grupos de la sociedad. En estos casos, la intervencin de urgencia se dirige a un rea geogrfica en la que se supone un elevado nmero de personas en situacin de riesgo. Siempre que empleados de la Federacin, Sociedades Nacionales u otras organizaciones logren realizar breves visitas a la zona, debern intentar determinar:
cmo se estn utilizando los alimentos proporcionados (seguimiento), la situacin de seguridad alimentaria en los hogares y cmo podra estar cambiando (estimacin).
Cmo se realizan simultneamente el seguimiento y la estimacin? Dos semanas despus de haber distribuido los alimentos o tras una serie de distribuciones de alimentos en un rea determinada, recopile informacin sobre:
acceso a alimentos y control de los mismos en el mbito domstico, cambios en el consumo de alimentos y sus consecuencias, efectos especficos de la inseguridad sobre la seguridad alimentaria de las personas.
4.5.2.3 Seguimiento a travs del contacto con beneficiarios determinacin del acceso al producto resultante de las actividades, la utilizacin del mismo y la satisfaccin al respecto por parte de los beneficiarios Para introducirse en el tema del seguimiento a travs del contacto con beneficiarios, dirjase al punto 2.2.3.1 Indicadores de seguimiento a travs del contacto con beneficiarios (mdulo 2). Utilice tcnicas de apreciacin rpida, especialmente discusiones en grupos temticos con separacin de hombres y mujeres y entrevistas a informantes claves, para verificar la verosimilitud de los hallazgos. Las visitas al terreno para recopilar informacin de seguimiento a travs del contacto con beneficiarios representan una buena oportunidad para actualizar los datos que se utilizarn para las estimaciones. En la tabla 4.4 se propone una lista de verificacin para ese tipo de seguimiento rpido de las necesidades alimentarias, que de forma ideal debera realizarse dos semanas despus de la distribucin de alimentos (o tras una serie de distribuciones de alimentos en un rea determinada, siempre con los mismos beneficiarios).
4-8
Octubre de 2002
Tabla 4.4: Lista de verificacin propuesta para una apreciacin rpida (seguimiento y estimacin)
Acceso de hombres y mujeres a alimentos Control de alimentos y excedentes en los hogares Qu acceso tienen las personas a sus propias huertas y a los mercados? Han sido destruidos o saqueados los cultivos y las reservas de alimentos? Qu personas de los hogares no reciben suficientes alimentos? Existen oportunidades de trabajo eventual? Qu salarios se pagan? Ha aumentado la violencia domstica como consecuencia de la falta de alimentos y de las estrategias adoptadas para hacerle frente? Quin decide qu parte de los alimentos/ganado se vender y qu parte se retendr para consumo propio? Cules son las restricciones a las que se enfrentan las mujeres para decidir acerca de la utilizacin de los alimentos en el hogar? En qu medida se han producido cambios en el acceso a agua potable y lea? Qu hogares hacen frente a las mayores dificultades para acceder a alimentos? (Son especialmente vulnerables los hogares encabezados por mujeres?) En qu hogares hay adultos que sufren de desnutricin? Se han producido cambios en el peso de neonatos? En qu hogares se encuentran los bebs de menor peso? Cmo ha cambiado la movilidad geogrfica? Cules han sido los efectos, particularmente entre las mujeres? Cmo acceden las personas a alimentos y a artculos no alimenticios bsicos, agua y lea? Qu tipo de actividades no pueden realizarse a causa de la inseguridad? Qu medidas puede adoptar la comunidad para incrementar la sensacin de seguridad?
4-9
Octubre de 2002
4.6
Vase el punto 2.5 Preparacin del presupuesto y plan de seguimiento y evaluacin (mdulo 2).
4-10
Octubre de 2002
4.7
los progresos de la operacin, cualquier cambio que acontezca durante el perodo del cual se informa, todo tipo de problemas, restricciones o necesidades pendientes particulares.
Los informes de situacin de los suministros pendientes de entrega a los almacenes suelen presentarse mensualmente.
lo que se est consiguiendo con la operacin, las causas de cualquier problema o de un rendimiento inferior al previsto, cmo evoluciona la situacin en su conjunto.
Octubre de 2002
4-12
Mdulo 5: Evaluacin
Octubre de 2002
5.
5.1
Evaluacin
Introduccin
5-1
Mdulo 5: Evaluacin
Octubre de 2002
5.2
La evaluacin orientada a la rendicin de cuentas examina el rendimiento alcanzado en el pasado, con el objetivo de determinar el grado de xito o fracaso, mientras que la evaluacin orientada al aprendizaje busca mejorar el rendimiento futuro determinando las razones del xito o fracaso. Generalmente, las evaluaciones realizadas por la Federacin y las Sociedades Nacionales contienen los dos elementos, concedindose ms peso a uno u otro de ellos dependiendo del propsito principal y del momento en que se realice la evaluacin. En los dos casos, la evaluacin se ocupa de comparar aquello que se ha logrado frente a lo que se planific y, por lo tanto, de determinar el grado en que se han alcanzado los objetivos o resultados previstos de una operacin. La matriz de planificacin, junto con un calendario, proporciona la estructura para la notificacin en torno a la evaluacin. La matriz de planificacin desempea una importante funcin en el diseo y ejecucin de la operacin y, posteriormente, en su evaluacin. Suministra un marco fundamental para reflexionar acerca de cuestiones relativas a la evaluacin. Tanto es as que, en el caso de no existir una matriz de planificacin, se recomienda al equipo de evaluacin que elabore una retrospectivamente para analizar la lgica del documento de diseo de la operacin y comprobar si contiene toda la informacin necesaria. Vase figura 1.6.
5-2
Mdulo 5: Evaluacin
Octubre de 2002
5.3
Tipos de evaluacin
Las evaluaciones realizadas por la Federacin y las Sociedades Nacionales se diferencian segn se expone a continuacin: La autoevaluacin (denominada a veces revisin intermedia de la gestin) la realiza en su totalidad personal que participa en la operacin (tpicamente personal de la Sociedad Nacional), normalmente sin ayuda de asesores externos. La evaluacin no obligatoria la llevan a cabo asesores externos independientes y puede dirigirla la Divisin de Seguimiento y Evaluacin o la Sociedad Nacional/oficina regional. La evaluacin obligatoria es la que se exige de acuerdo con la Poltica de Evaluacin de la Federacin. Normalmente la dirige la Divisin de Seguimiento y Evaluacin.
Los informes de todas las evaluaciones obligatorias se presentan al Secretario General y a la Junta de Gobierno. Tanto las evaluaciones obligatorias como las que no lo son pueden realizarse en el punto medio de la ejecucin de una operacin (evaluaciones intermedias), al final de la misma (evaluaciones finales) o varios aos tras concluir la operacin (evaluaciones ex post). Cada vez es ms frecuente la utilizacin del trmino evaluacin en tiempo real en el contexto de las operaciones de desarrollo. Este trmino hace referencia al hecho de que la poltica, programa u operacin se evalan en el momento de comenzar el programa y, por lo tanto, los resultados de la evaluacin se tendrn en cuenta en el periodo restante de ejecucin.
5-3
Mdulo 5: Evaluacin
Octubre de 2002
5.4
Mdulo 5: Evaluacin
Octubre de 2002
evaluacin deber tener en cuenta la situacin de seguridad y las necesidades de proteccin de la poblacin afectada, es decir, si durante la operacin se han observado suficientemente estas cuestiones. Trauma psicosocial: Las poblaciones afectadas pueden haber sufrido graves traumas, mucho ms intensos de lo que podra percibir un observador externo. Los evaluadores deben intentar identificarse con sus experiencias, independientemente del grupo al que pertenezcan (gobierno, rebeldes, civiles, hombres, mujeres, etc.) y el tema en cuestin debe tratarse con sensibilidad. En estos casos, en el equipo de evaluacin deben incluirse evaluadores experimentados en dialogar con personas que sufren traumas psicosociales. Objetividad: Los conflictos y tensiones pueden provocar tal intensidad de sentimientos y polarizacin de puntos de vista entre los diferentes grupos afectados, que la bsqueda de la verdad jams resulte exitosa. La veracidad de la informacin nunca podr garantizarse, por lo que la triangulacin se convierte en un principio esencial de la recopilacin y anlisis de datos.
2.
En las evaluaciones debe prestarse especial atencin a reconstruir el orden en que se hayan sucedido los acontecimientos y procesos Informacin relativa al proceso: Con frecuencia, los evaluadores carecen de informacin clave sobre diversos asuntos esenciales para realizar su labor. Aunque ste es un problema que se presenta en todas las evaluaciones, puede resultar particularmente grave en el caso de emergencias complejas frecuentemente, los datos de seguimiento y de referencia no existen o son incompletos debido a problemas surgidos durante su recopilacin o dificultades en el registro de decisiones y mantenimiento de sistemas de clasificacin; y cuando se dispone de datos, stos pueden no ser coherentes o complementarios en relacin con los sistemas de diferentes organismos. Informacin relativa al contexto: La falta de informacin sobre el orden en que se suceden los acontecimientos y sobre los objetivos cambiantes de la asistencia humanitaria obligan con frecuencia a los evaluadores a reconstruir historias o imgenes del contexto o de los acontecimientos a partir de las cuales se juzgar si la ayuda prestada es apropiada y eficaz. Las evaluaciones deben estar ms centradas en tcnicas de evaluacin de polticas Causa y efecto: La tctica seguida habitualmente en la evaluacin, de separar causa y efecto, frecuentemente no es posible aplicarla en sistemas complejos en los que intervienen numerosos factores interdependientes. El enfoque consiste ms bien en utilizar mtodos cualitativos y deductivos para relatar acontecimientos y procesos especficos, a fin de entender qu y por qu ocurri. El imperativo poltico: En la respuesta humanitaria en casos de emergencia frecuentemente participan varios actores y existe un elevado grado de interdependencia, por lo que normalmente no resulta apropiado evaluar la respuesta individual de un organismo. Por lo que a la matriz de planificacin se refiere, en estos casos son demasiados los factores y acciones acompaantes los que se incluyen en la columna de las hiptesis. La experiencia ensea, por lo tanto, que es necesario centrarse ms intensamente en evaluaciones llevadas a cabo en colaboracin y que abarquen todo el sistema, a fin de posibilitar la evaluacin conjunta de las operaciones relacionadas entre s.
3.
5-5
Mdulo 5: Evaluacin
Octubre de 2002
5-6
Mdulo 5: Evaluacin
Octubre de 2002
PROPSITO
Aportacin de la operacin a los objetivos ms amplios y en el largo plazo. Qu cambios se han producido en el largo plazo en la vida de los beneficiarios? Pueden atribuirse estos cambios a la operacin o programa? Se han alcanzado los objetivos de los indicadores de impacto? Es probable que se alcancen? Logro real de los objetivos de propsito/consecuencias en comparacin con el plan. Se alcanzaron los objetivos? Quin se benefici y en qu consisti el beneficio? En caso de no haberse alcanzado los objetivos, se debi a un rendimiento deficiente, a indicadores insuficientemente especificados o a problemas en el diseo de la operacin? Cmo perciben los beneficiarios la operacin? Cmo sienten que ha cambiado su vida? Se han alcanzado los objetivos de los indicadores de consecuencias? Es probable que se alcancen? Cumplimiento de las hiptesis. Cmo afectaron los factores no sujetos al control de los responsables de gestin al logro del propsito? Se consideraron estos factores adecuadamente en el diseo de la operacin? Se ha realizado un seguimiento de las hiptesis? En caso afirmativo, ha resultado del mismo un cambio en la estrategia en los casos en que estuviera indicado?
IMPACTO Progresos con miras a alcanzar la meta. Lograr un cambio en el largo plazo.
PRODUCTO
ACTIVIDADES
INSUMOS
Logro real de los objetivos de producto en comparacin con el plan. Quin recibi ayuda alimentaria y a quin se le prestaron otros servicios? Se alcanzaron los objetivos? Podra haberse mejorado el rendimiento mediante un enfoque diferente? Se han alcanzado los objetivos de los indicadores de producto? Es probable que se alcancen? Cumplimiento de las hiptesis. Cmo afectaron los factores no sujetos al control de los responsables de gestin al logro del producto? Se consideraron estos factores adecuadamente en el diseo de la operacin? Fechas reales de inicio y conclusin en comparacin con el plan. Criterios y procesos de seleccin de beneficiarios. Prestaron eficazmente ayuda alimentaria la Federacin, las Sociedades Nacionales y sus asociados? Fueron adecuados los preparativos organizacionales? Se produjo algn tipo de retraso o se gan tiempo? Qu efecto tuvieron las desviaciones del plan sobre la operacin? Cumplimiento de las hiptesis. Cmo afectaron los factores no sujetos al control de los responsables de gestin a la realizacin de las actividades? Se consideraron estos factores adecuadamente en el diseo de la operacin? Cantidades de insumos y costos reales en comparacin con el presupuesto. Se proporcionaron y utilizaron los recursos de acuerdo con el plan? Se suministraron los insumos con el menor costo posible y con el nivel de calidad y en la cantidad deseados? En caso negativo, cmo afect este hecho a la operacin?
PERTINENCIA Abordar los verdaderos problemas con el enfoque adecuado y teniendo en cuenta las responsabilidades incluidas en el mandato fundamental de la Federacin y las Sociedades Nacionales as como las polticas del pas correspondiente. Abordar las verdaderas necesidades de los beneficiarios. CONSECUENCIAS Grado en que el producto ha resultado en el logro del propsito o de propsitos parciales. EFICACIA Grado en que una operacin ha alcanzado su propsito. COBERUTRA Y SELECCIN DE BENEFICIARIOS - Se han alcanzado los objetivos? Se han beneficiado las personas adecuadas en el momento adecuado? Abordar las necesidades previstas. SOSTENIBILIDAD Perspectivas de autosuficiencia y utilizacin permanente de los servicios tras concluir la operacin o programa. Continuacin sin ayuda externa. CONEXIN Si la operacin, en su respuesta a necesidades agudas e inmediatas, toma en consideracin necesidades y problemas en el ms largo plazo. EFICACIA Y EFICIENCIA - Comprobar la calidad, cantidad y oportunidad del producto y la rentabilidad con la que se ha producido. Hacer las cosas adecuadas y hacerlas bien. SOSTENIBILIDAD Perspectivas de prestacin permanente de los servicios una vez concluida la operacin o programa. Continuacin sin ayuda externa.
EFICIENCIA Logro de una relacin ptima entre costos, calidad y tiempo. Hacer las cosas bien y gastar menos. ASOCIACIONES Y COORDINACIN Adoptar un enfoque comn para resolver problemas y obtener resultados. Trabajar juntos adecuadamente. SOSTENIBILIDAD Perspectivas de continuacin de las actividades una vez concluida la operacin o programa. Continuacin sin ayuda externa.
IDONEIDAD Disponer de insumos adecuados y oportunos para realizar las actividades. Asegurar el apoyo y estar preparados.
5-7
Mdulo 5: Evaluacin
Octubre de 2002
5.5
Los criterios aplicados en la evaluacin orientada a la rendicin de cuentas, a saber pertinencia, impacto, eficiencia, eficacia y sostenibilidad, requieren determinar aspectos diferentes. En el caso de la pertinencia, se mide la idoneidad de las actividades en relacin con polticas, necesidades y prioridades. Como consecuencia, las preguntas que se plantean para determinar los criterios se enfocan desde la perspectiva de la sociedad no desde la de la ejecucin o del grupo beneficiario. El principal problema metodolgico consiste en cmo abordar la falta de consenso social en torno a las crisis humanitarias. Y el punto de referencia lo constituye la misin del donante y del asociado ejecutor. La tabla 5.2 expone, en trminos generales, qu medir desde qu perspectiva, los problemas metodolgicos, puntos de referencia as como preguntas claves. Ofrece una ayuda para abordar los criterios de evaluacin. Tmese nota, en particular, de que para responder a las preguntas claves debe juzgarse, y que para juzgar es necesario disponer de datos. Para obtener datos deben realizarse mediciones, y stas requieren adoptar una perspectiva. La realizacin de mediciones plantea tambin problemas metodolgicos. Ms importante an, para establecer un juicio es necesario un punto de referencia comn a todas las partes.
5-8
Mdulo 5: Evaluacin
Octubre de 2002
Tabla 5.2: Criterios de evaluacin Desde la perspectiva Punto de referencia Problema de quin metodolgico Preguntas claves Existe armona entre los objetivos y las necesidades y prioridades? Deberan continuarse o concluirse las actividades? Misin del donante y Falta de consenso en del asociado ejecutor torno a necesidades y prioridades Estado, antes de la intervencin, de las partes afectadas Falta de informacin sobre partes afectadas Relacin causa-efecto Qu normas utilizar como referencia Intervenciones similares Normas de mejores prcticas Objetivos acordados Objetivos poco claros, mltiples, distorsionantes y cambiantes Situacin planificada Respuestas hipotticas para el futuro
Qu medir
Medir la pertinencia
Idoneidad en Sociedad Nacional relacin con polticas, necesidades y (cobertura) prioridades Sociedad Nacional Medir el impacto Efectos intencionados y no intencionados, positivos y negativos La prestacin de Los ejecutores Medir la ayuda eficiencia
(oportunidad)
El grupo beneficiario Medir la eficacia Logro de los objetivos (coherencia) (coordinacin) Probabilidad de que Sociedad Nacional Medir la se mantengan los sostenibilidad beneficios (conexin)
Cules son los efectos positivos y negativos? Superan los efectos positivos a los negativos? Hasta qu punto se ha prestado la ayuda, en sus diferentes componentes, de acuerdo con lo acordado? Podra haberse prestado la ayuda ms econmicamente, con mayor rapidez y con mejor calidad? Hasta qu punto se han alcanzado los objetivos acordados? Son suficientes las actividades para poder alcanzar los objetivos acordados? Hasta qu punto justifican los efectos positivos las inversiones? Estn dispuestas las partes implicadas a observar el diseo y la estrategia de salida y son capaces de hacerlo?
5-9
Mdulo 5: Evaluacin
Octubre de 2002
5.6
Es importante comprender la situacin general en la cual se presta la ayuda. Para ello, lo mejor es plantear una serie de preguntas: 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. Corren peligro vidas o bases de subsistencia? Con qu velocidad estn cambiando las circunstancias? Estn establecidas las estructuras de gobierno? Cul es la estructura demogrfica de la poblacin beneficiaria (incluir datos de edades, sexo, grupos tnicos)? Existen lagunas significativas en los conocimientos estadsticos sobre la poblacin beneficiaria? Se ha realizado algn tipo de esfuerzo para buscar y determinar soluciones en el nivel local? Cul es la situacin de seguridad en la zona? Cul es la probabilidad de que las personas vuelvan a vivir en sus sistemas de subsistencia tradicionales? Qu otros organismos actan en la zona? Cul es la actitud de los beneficiarios frente a la asistencia externa? De acuerdo con qu normas se prestar ayuda? Qu ocurrira si no se prestara ayuda?
5-10
Mdulo 5: Evaluacin
Octubre de 2002
5.7
El examen de la situacin general proporciona, generalmente, una estimacin inicial. En la ayuda humanitaria, no obstante, con frecuencia, la estimacin acaba convirtindose en un marco de planificacin. Aunque a veces se defienda que es posible actuar inmediatamente despus de realizar la estimacin y sin marco de planificacin, resulta difcil realizar una seguimiento de la ayuda humanitaria y, por lo tanto, evaluarla sin marco de planificacin. En este sentido, es til plantear una serie de preguntas a partir de las cuales se obtenga informacin acerca de cmo planificar este tipo de ayuda: 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. Existe un anlisis adecuado sobre la situacin de crisis y se ha determinado claramente la poblacin beneficiaria? Se han recopilado y analizado sistemticamente datos? En caso negativo, cmo debe hacerse frente a las necesidades de datos? Se han tenido en cuenta experiencias similares de otras intervenciones de ayuda humanitaria? Se han definido con claridad las diferentes funciones, incluida la de coordinacin? Cules son las razones para la participacin de cada uno de los organismos? Cmo se irn retirando estos organismos? Cmo se prev que cambiar la situacin como consecuencia de la intervencin? Cmo se han determinado las prioridades en torno a las necesidades? Se adaptan las hiptesis a la realidad? Se han definido los objetivos con suficiente claridad como para que pueda realizarse un seguimiento del logro de los mismos en comparacin con determinados criterios? Cules son los insumos y actividades principales necesarios para alcanzar esos objetivos? La ayuda humanitaria, se opone a la iniciativa local e incrementa la dependencia? Es completa y coherente la planificacin? Incluye el plan un calendario? Posee el personal del organismo correspondiente experiencia para ejecutar actividades y realizar el seguimiento de las mismas?
En la elaboracin de las preguntas para la evaluacin de programas y proyectos humanitarios, utilizando los criterios de evaluacin, pueden tomarse como punto de referencia los consejos del Comit de Ayuda al Desarrollo (CAD) de la Organizacin para la Cooperacin y Desarrollo Econmicos (OCDE) (Guidance for Evaluating Humanitarian Assistance in Complex Emergencies). En el documento correspondiente se plantean preguntas en torno a los criterios claves de evaluacin: Pertinencia La pertinencia es el grado de coherencia de la actividad de ayuda con las prioridades y polticas del grupo beneficiario, el organismo ejecutor y los donantes. En la evaluacin de la pertinencia de un programa o proyecto es til plantear las siguientes preguntas: 1. 2. 3. 4. 5. 6. En qu medida son pertinentes los objetivos del programa? Las actividades y producto del programa, son coherentes con la meta y el logro de los objetivos? Las actividades y producto del programa, son coherentes con el impacto y efectos previstos? Son las actividades intervenciones apropiadas? Abarcan las actividades adecuadamente a la poblacin afectada? Debera haberse interrumpido antes el programa o debera haberse ampliado?
5-11
Mdulo 5: Evaluacin
Octubre de 2002
Eficacia La eficacia mide el grado en que se alcanzan los objetivos de un programa de ayuda. Adems, mide el grado en que las actividades alcanzan su propsito o si es previsible que esto ocurra de acuerdo con el producto. En la evaluacin de la eficacia de un programa o proyecto es til plantear las siguientes preguntas: 1. 2. 3. 4. Hasta qu punto se han alcanzado los objetivos? Cules han sido los principales aspectos que han influido en que se alcanzaran o no los objetivos? Se han fijado metas comunes entre los diferentes organismos ejecutores (coherencia)? Ha habido indicios de que la coordinacin influyera en el logro de los objetivos?
Eficiencia La eficiencia es un trmino de carcter econmico y refleja los costos (recursos materiales y humanos) producidos para obtener los resultados deseados. En otras palabras, se invirti ptimamente el dinero? La eficiencia mide el producto obtenido (aspectos cualitativos y cuantitativos) en relacin con los insumos. A fin de comprobar si se ha utilizado el proceso ms eficiente, generalmente es necesario establecer una comparacin con otros enfoques aplicados para conseguir el mismo producto. En la evaluacin de la eficiencia de un programa o proyecto es til plantear las siguientes preguntas: 1. 2. 3. 4. 5. 6. 7. Se realizaron las actividades con el menor costo posible? Se alcanzaron los objetivos oportunamente? Se ejecut el programa o proyecto de la forma ms eficiente posible en comparacin con otras posibilidades? Increment la intervencin de emergencia los costos unitarios? Se adquirieron los insumos materiales en el nivel local? Se solicitaron ofertas locales? Cul fue la proporcin de costos para personal extranjero y local respectivamente?
Impacto El impacto indica los efectos negativos y positivos de un proyecto sobre su entorno en cuanto a aspectos tcnicos, econmicos, socioculturales, institucionales y medioambientales. En la evaluacin se debern considerar: 1. 2. 3. Efectos directos Costos y beneficios inmediatos de la contribucin a un proyecto y de los resultados del mismo, sin tener en cuenta sus efectos econmicos. Efectos indirectos Costos y beneficios desatados por la contribucin de un proyecto y los resultados del mismo. Efecto multiplicador Efecto indirecto especial consistente en el incremento del aprovechamiento de la capacidad de la economa como consecuencia del aumento de la demanda generado por los programas de ayuda.
En la evaluacin del impacto de un programa o proyecto es til plantear las siguientes preguntas: 1. 2. 3. 4. Qu ha ocurrido como resultado del programa o proyecto? Qu ha aportado realmente la actividad a los beneficiarios? Cuntas personas se han visto afectadas? Qu habra ocurrido si el programa o proyecto no se hubiese ejecutado?
5-12
Mdulo 5: Evaluacin
Octubre de 2002
Sostenibilidad Grado en que se seguirn manteniendo los objetivos de una actividad de ayuda una vez concluida la misma; grado en que los grupos beneficiarios de la ayuda quieren y pueden hacerse cargo de mantener los objetivos del proyecto. La sostenibilidad se refiere a la medida de la probabilidad de que una actividad o impacto se mantengan una vez que los donantes supriman la financiacin. Un programa o proyecto debe ser sostenible desde los puntos de vista medioambiental, social y econmico. Teniendo en cuenta que la mitad de las actividades de ayuda humanitaria se consideran actividades de rehabilitacin, es importante considerar la cuestin de la sostenibilidad. En la evaluacin de la sostenibilidad de un programa o proyecto es til plantear las siguientes preguntas: 1. 2. 3. En qu medida continu desarrollndose el programa o proyecto una vez concluida la financiacin por parte de los donantes? Cules fueron los principales factores que influyeron en que se alcanzara o no la sostenibilidad del programa o proyecto? Se consideraron, en el tema de la sostenibilidad, claramente cuestiones de sostenibilidad medioambiental, econmica y social?
Cuando el programa de ayuda humanitaria est centrado en el socorro de emergencia, en las preguntas se tomar en consideracin el aspecto de la conexin. En este caso, las preguntas son las siguientes: 1. 2. 3. 4. Qu relacin existi entre las actividades de socorro y las de rehabilitacin y desarrollo? Cul fue la estrategia de salida planificada? En el caso de no existir estrategia de salida, cmo se concluy la intervencin? Se modificaron significativamente las actividades a medida que se reduca la gravedad del desastre?
Preguntas, todas ellas, cuya respuesta resulta difcil. (Fuente: OCDE (1991 y 1986)). Medir el impacto es una tarea muy difcil, especialmente en la ayuda humanitaria, en donde las evaluaciones con frecuencia se realizan una vez concluida la intervencin. En este sentido, resulta difcil juzgar si se han alcanzado los objetivos generales, especialmente cuando se carece de planes, resultados de seguimiento y normas determinadas. Ms concretamente, muchas veces es difcil atribuir los cambios en las condiciones de subsistencia de la poblacin beneficiaria a la aportacin de actividades especficas. Tambin es importante plantearse, especialmente en el caso de emergencias complejas, si las actividades del proyecto han ayudado a estabilizar el conflicto o si, por el contrario, lo han agravado. En el caso de los organismos de ayuda humanitaria que operan tradicionalmente en el mbito de los derechos humanos, deber evaluarse tambin el impacto de su estrategia de sensibilizacin. Las preguntas en torno a la eficiencia se centran en el despliegue de recursos econmicos y humanos en relacin con el producto. Las primeras preguntas se refieren a datos sobre costos y, en la medida de lo posible, a datos comparativos de costos de diferentes organismos que actan en la misma intervencin o en intervenciones similares en contextos diferentes. Se dispuso de unas directrices de gestin para ejecutar las actividades? Hasta qu punto facilitaron esas directrices alcanzar los objetivos? Podran haberse obtenido los mismos resultados a un costo inferior? Podra haberse satisfecho a ms beneficiarios? Cmo funcion la logstica, especialmente en cuanto a la oportunidad? Y debido a su relacin con la eficiencia y eficacia, es esencial plantear la pregunta de si se consider un espacio para desarrollar y realizar un seguimiento de actividades humanitarias.
5-13
Mdulo 5: Evaluacin
Octubre de 2002
En el tratamiento de la pertinencia surgen preguntas relativas a la cobertura. Cul fue la poblacin beneficiaria? Cmo alcanzaron las actividades del proyecto a esa poblacin? Se excluy a alguien de los servicios? En la cuestin de la eficacia, las principales preguntas que se plantean son: Se logr el propsito del proyecto? Fueron ejecutadas las actividades segn el plan inicial? Adems se plantea la cuestin relativa a la coherencia entre las fuentes de financiacin y entre los organismos que actan sobre el terreno. Intervinieron con una base comn? O, por el contrario, intervinieron de forma autnoma? En las evaluaciones de intervenciones de socorro, las preguntas relativas a la sostenibilidad se centran ms intensamente en la conexin. Cmo estaba diseada la retirada progresiva de la estrategia de socorro? Se intentaron traspasar recursos a la capacidad local durante la retirada progresiva? Cmo fortaleci la intervencin de socorro los mecanismos locales para abordar problemas? Cabe mencionar, sin embargo, que gran parte de la ayuda humanitaria realmente la constituyen actividades de rehabilitacin, ms que de socorro, por lo que debern utilizarse los criterios de evaluacin de la sostenibilidad de la OCDE. No obstante, resulta extremadamente difcil evaluar estrategias de salida cuando se carece de un plan y de un sistema de seguimiento que determine el final de la intervencin en el marco de un programa. Este aspecto destaca, nuevamente, la importancia que tiene la elaboracin de unas bases adecuadas de planificacin y seguimiento para la ayuda humanitaria. En el tratamiento de los criterios de evaluacin surgir una serie de preguntas sobre el diseo de la intervencin humanitaria. Se definieron con claridad los objetivos? Se tomaron en consideracin factores externos (incluida una especificacin de riesgos e hiptesis)? Se determinaron indicadores para medir los progresos, particularmente indicadores inteligentes (especficos, mensurables, exactos, ajustados a la realidad y oportunos)?
5-14
Mdulo 5: Evaluacin
Octubre de 2002
5.8
La autoevaluacin es una evaluacin realizada por los propios responsables de ejecucin del proyecto, con o sin ayuda externa. La autoevaluacin debera convertirse en parte integrante de las operaciones de las Sociedades Nacionales y solicitarse antes de la preparacin de una nueva fase o como autoevaluacin de cierre al final de una operacin.
5-15
Mdulo 5: Evaluacin
Octubre de 2002
5.9
El marco que se expone a continuacin para la distribucin y seguimiento del documento Autoevaluacin del funcionamiento de la Sociedad Nacional se basa en las opiniones recibidas en torno al proceso de autoevaluacin llevado a cabo en los aos 2000 y 2001 y en las enseanzas extradas del mismo.
Objetivos
Los objetivos del programa de autoevaluacin son: Ayudar a las Sociedades Nacionales individualmente a determinar sus puntos fuertes y deficiencias, demostrando su compromiso por el cambio y estableciendo prioridades de acuerdo con la Estrategia 2010 a fin de cumplir mejor su misin de mejorar la vida de las personas vulnerables. Apoyar a la Junta de Gobierno de la Federacin en la formulacin de polticas y estrategias facilitando los medios para examinar anualmente el rendimiento de los miembros en relacin con las Caractersticas de una Sociedad Nacional que funciona bien. Contribuir al aprendizaje organizacional intercambiando datos de referencia de las Sociedades Nacionales y ejemplos de prcticas recomendadas. Permitir a las Sociedades Nacionales miembros comparar el estado de su Sociedad con respecto a las tendencias mundiales del Movimiento, sean stas temticas o geogrficas. Movilizar el apoyo de la Federacin y externo hacia las Sociedades Nacionales intercambiando los resultados de la autoevaluacin.
Instrumento
El instrumento esencial de la autoevaluacin de las Sociedades Nacionales es un cuestionario elaborado, y actualizado segn procede, 1 por el Departamento de Seguimiento y Evaluacin en
1
La ltima revision del cuestionario tuvo lugar en abril de 2002 sobre la base de las lecciones aprendidas y los comentarios obtenidos de las autoevaluaciones correspondientes a la fase de 2001.
5-16
Mdulo 5: Evaluacin
Octubre de 2002
consulta con los departamentos de la Secretara y las Delegaciones Regionales. Este cuestionario (Autoevaluacin del funcionamiento de la Sociedad Nacional) contiene los indicadores clave para medir los progresos encaminados a lograr las caractersticas de una Sociedad Nacional que funciona bien en el marco de la Estrategia 2010. Se ha efectuado un amplio proceso de consulta con el fin de garantizar su pertinencia y utilidad en todas las Sociedades Nacionales miembros de la Federacin. Adems del cuestionario esencial arriba mencionado, una Delegacin Regional o un Departamento de la Secretara, en consulta con el Departamento de Seguimiento y Evaluacin, puede proponer, elaborar y distribuir otros mdulos de cuestionario con indicadores especficos de regin/sector.
Marco operativo
El marco operativo descrito a continuacin, destinado a la distribucin y al seguimiento del cuestionario Autoevaluacin del funcionamiento de la Sociedad Nacional, se funda en la experiencia adquirida en las fases piloto y en curso de autoevaluacin, as como en los comentarios formulados en relacin con la misma.2 Incorpora cambios operacionales para llevar a la prctica las decisiones de la Junta de Gobierno. I. Distribucin del cuestionario A. La distribucin del cuestionario a las 178 Sociedades Nacionales se realiza de forma escalonada durante un plazo de 3 aos (2001-2003). Adems de las 15 Sociedades Nacionales que se ofrecieron voluntariamente para participar en la fase piloto del proceso de autoevaluacin, se seleccionaron 40 Sociedades Nacionales (8 de cada regin del mundo) para el primer ciclo del programa de autoevaluacin en 2001. En 2002 se incluyeron en el proceso 60 Sociedades Nacionales ms, y todas las Sociedades Nacionales restantes sern invitadas a participar en la fase de 2003. Una vez finalizado el ciclo de tres aos, el ejercicio de autoevaluacin se repetir a intervalos oportunos a fin de captar las tendencias en el tiempo. La lista de Sociedades Nacionales a las que deber distribuirse el cuestionario cada ao la elaboran los departamentos regionales de acuerdo con las recomendaciones obtenidas del terreno. En el proceso de seleccin se considerarn especialmente las comparaciones con ejemplos de estrategias de cooperacin de la nueva generacin. El cuestionario se remite a las Sociedades Nacionales seleccionadas en el primer trimestre del ao, junto con una carta del director de la Divisin de Seguimiento y Evaluacin y, segn proceda, se enva una copia al departamento regional y Delegacin Regional correspondientes, as como a la Delegacin/oficina en el pas. A fin de garantizar la exactitud y pertinencia de las respuestas, debern mantenerse consultas, en la Sociedad Nacional, entre los dirigentes y el personal/voluntarios sobre los diversos mbitos abordados en el cuestionario. Rogamos consltese el Marco Operativo para la Autoevaluacin de las Sociedades Nacionales (Recapitulacin de las actividades de la Sociedad Nacional). La Delegacin Regional (con la ayuda de la Delegacin/oficina en el pas cuando sea necesario) es responsable de supervisar adecuadamente, con las Sociedades
B. C.
D.
E.
F.
2
En septiembre de 2001 se distribuy un borrador anterior del marco operativo a todos los Departamentos de la Secretara y a todos los jefes de Delegaciones Regionales y de Delegaciones de pases a fin de recibir sus opiniones. stas han sido examinadas y en la presente versin se han incorporado, en la medida de los posible, las sugerencias recibidas. El presente marco se ir actualizando para reflejar las lecciones aprendidas y experiencias adquiridas sobre el terreno.
5-17
Mdulo 5: Evaluacin
Octubre de 2002
Nacionales, la cumplimentacin del cuestionario y de remitirlo (junto con todo tipo de material adicional a entregar) al Departamento de Seguimiento y Evaluacin. La Delegacin Regional deber retener una copia del cuestionario cumplimentado y del material adicional para su consulta y para el seguimiento de cada una de las autoevaluaciones realizadas en la regin correspondiente. II. Anlisis de datos e informe sobre las tendencias A. El Departamento de Seguimiento y Evaluacin analiza todas las respuestas recibidas dentro del plazo fijado y prepara un anlisis de las tendencias sobre las Sociedades Nacionales para incluirlo en el informe anual que ha de presentar a la Junta de Gobierno y en el informe bianual dirigido a la Asamblea General de la Federacin.3 Este informe permite elaborar un perfil de las Sociedades Nacionales en mbitos esenciales, como la funcin de gobierno, las bases jurdicas y de recursos, la elaboracin de programas y los mecanismos para el propio seguimiento. En las secciones del cuestionario en que las respuestas son incompletas o imprecisas, se solicitar a la Delegacin Regional/en el pas que coopere con el Departamento de Seguimiento y Evaluacin para esclarecerlas de forma adecuada para posibilitar el anlisis de las tendencias. El informe sobre las tendencias se basar en ejemplos disponibles de Sociedades Nacionales que participen en la autoevaluacin y, con el tiempo, abarcar a todas las Sociedades Nacionales. Las tendencias en el tiempo se registrarn despus de que el proceso se haya repetido a intervalos adecuados para las Sociedades Nacionales. El Departamento de Evaluacin desarrollar su base informatizada de datos relativa a las respuestas del cuestionario para proporcionar acceso a los departamentos de la Secretara con el fin de favorecer el intercambio de datos de referencia e informacin cualitativa procedente de la autoevaluacin.4
B.
C.
D.
III. Seguimiento regional de la autoevaluacin A. La Delegacin Regional/en el pas responsable de la Sociedad Nacional en cuestin realiza un seguimiento individual de la autoevaluacin correspondiente. En el caso de ser la Delegacin en el pas la que dirija el seguimiento, este hecho deber acordarse claramente entre la Delegacin en el pas y la Delegacin Regional y notificarse al Departamento de Seguimiento y Evaluacin. A la Delegacin Regional le incumbe garantizar que la Delegacin en el pas realice puntualmente el seguimiento de la autoevaluacin. En consulta con la Delegacin Regional/en el pas, departamento regional y otros departamentos pertinentes de la Secretara, como el Departamento de Desarrollo Organizacional, el de Apoyo a los rganos de Gobierno y Asuntos Jurdicos y el de Coordinacin, el Departamento de Seguimiento y Evaluacin prepara un documento sobre los resultados preliminares de la autoevaluacin, que favorecer el proceso de planificacin en las Sociedades Nacionales y la Federacin as como a todas las estrategias de cooperacin relacionadas con la Sociedad Nacional. Teniendo en cuenta la importancia de que la Sociedad Nacional se identifique con este informe, el
B.
El informe ms reciente es el Informe sobre la Autoevaluacin de las Sociedades Nacionales 2002. Pueden pedirse ejemplares al Departamento de Seguimiento y Evaluacin. En abril de 2002, se puso a prueba una base de datos con funciones de bsqueda y acceso; no se dispone an de la funcin de bsqueda solamente.
5-18
Mdulo 5: Evaluacin
Octubre de 2002
documento deber basarse en las respuestas dadas por la Sociedad Nacional en el cuestionario, el material presentado y en otras aclaraciones y comentarios. C. El informe de autoevaluacin deber contener, bsicamente:
a) Resultados preliminares de la autoevaluacin, preparados por el Departamento de Seguimiento y Evaluacin, que se compartirn con la Sociedad Nacional va Delegacin Regional/en el pas o departamento regional para comentarlos ms detalladamente. Aunque los resultados preliminares debern basarse en las respuestas dadas por la Sociedad Nacional al cuestionario, la Delegacin y el departamento regional pueden aprovechar sus conocimientos del contexto de la Sociedad Nacional y del contexto regional para decidir a qu cuestiones de las tratadas en la autoevaluacin debe prestarse especial atencin. Adems de destacar los principales resultados de la autoevaluacin, el documento deber determinar qu otras verificaciones/aclaraciones respecto a la Sociedad Nacional son necesarias sobre cuestiones especficas, as como sugerir mbitos de accin potenciales o prioritarios para la Sociedad Nacional. Los resultados preliminares debern prepararse en el idioma oficial de la Federacin utilizado por la Sociedad Nacional. b) Comentarios y plan de accin, por escrito, de la Sociedad Nacional que contengan aclaraciones/confirmaciones relativas a los resultados preliminares y que destaquen las acciones decididas o emprendidas entretanto por la Sociedad Nacional para abordar los resultados claves; los comentarios debern identificar adems mbitos potenciales para el apoyo de la Federacin o externo. Un plan de accin, como instrumento para el seguimiento de los resultados de la autoevaluacin, deber incluir los objetivos y plazos especificados, as como personas/departamentos de la Sociedad Nacional responsables al respecto. La Delegacin Regional deber determinar a un coordinador para cada seguimiento. D. Se hace hincapi en que toda referencia a cuestiones de integridad en los resultados preliminares y en el informe final deber limitarse estrictamente a la informacin que de s misma presenta la Sociedad Nacional en el cuestionario. Las delegaciones conscientes de cuestiones importantes de integridad no reflejadas en el cuestionario, debern informar a la Secretara al respecto a travs del Responsable de rea o jefe del departamento regional para que puedan determinarse las acciones de seguimiento apropiadas.5 Una vez finalizado el plan, deber ser aprobado por la Sociedad Nacional y enviado al departamento regional y al Departamento de Seguimiento y Evaluacin. La Sociedad Nacional deber presentar dentro de un plazo razonable un informe sobre los progresos hechos en la aplicacin del plan de accin. El Secretario General se encargar de someter este informe a la Junta de Gobierno en su reunin siguiente, junto con un informe sobre los progresos hechos por la Federacin en su tarea de respaldar la autoevaluacin de las Sociedades Nacionales y las necesidades determinadas en concordancia con la Estrategia 2010.
E.
IV.
Apoyo de la Federacin y externo a las Sociedades Nacionales A. Se requiere un apoyo sistemtico de la Secretara, las Sociedades Nacionales hermanas y los asociados externos para asistir a las Sociedades Nacionales en la tarea de abordar las reas/acciones prioritarias en materia de fortalecimiento de la capacidad en los casos determinados en sus informes de autoevaluacin. Para la Secretara, ello forma parte de su compromiso ms amplio de ayudar a las Sociedades Nacionales a lograr, a largo plazo, las caractersticas de una Sociedad Nacional que
Vase el documento de la Federacin Dealing with National Society Integrity Issues, elaborado por la Divisin de Seguimiento y Evluacin (2001). Para obtener copias del mismo, pngase en contacto con Joyce Duffuor en duffuor@ifrc.org
5-19
Mdulo 5: Evaluacin
Octubre de 2002
funciona bien, al mismo tiempo que intenta reformular las normas mnimas en consulta con las Sociedades. B. A tal finalidad, se harn circular entre los departamentos de la Secretara copias de los informes de autoevaluacin de cada una de las Sociedades Nacionales, como una de las contribuciones a los actuales procesos de apoyo al fortalecimiento de la capacidad de las Sociedades Nacionales. Ello incluye un anlisis de los procesos de desarrollo organizacional y de revisin de los estatutos de las Sociedades Nacionales, as como una contribucin a los procesos de cooperacin y coordinacin. Tal como se expone en el Marco de Referencia para el Fortalecimiento de la Capacidad de las Sociedades Nacionales,6 el proceso de autoevaluacin proporciona informacin complementaria til para el desarrollo organizacional de la Sociedad Nacional y, en algunos casos, contribuye a activar un proceso de desarrollo organizacional de mayor alcance. Las Sociedades Nacionales, por su parte, debern integrar en su planificacin estratgica las reas/acciones prioritarias determinadas en el plan de accin establecido tras la autoevaluacin. Cuando se ha emprendido o previsto la formulacin/actualizacin de un plan estratgico/de desarrollo de una Sociedad Nacional, las reas/acciones prioritarias establecidas por la Sociedad Nacional en su autoevaluacin debern incluirse en el plan nuevo/revisado con la asistencia de la Delegacin Regional/en el pas. Un plan estratgico/de desarrollo de la Sociedad Nacional actualizado y pertinente es uno de los requisitos previos para iniciar el proceso de estrategias de cooperacin (CAS) con las Sociedades Nacionales en la actual ronda de las estrategias de cooperacin de la nueva generacin.7 De este modo, el proceso de autoevaluacin sustenta el proceso CAS. En su planificacin de actividades con las Sociedades Nacionales, los departamentos regionales y las Delegaciones Regionales/en el pas, por su parte, debern tener en cuenta las reas prioritarias identificadas en consonancia con la Estrategia 2010 en los informes de autoevaluacin. Las prioridades acordadas se incorporarn en el proceso de llamamiento anual de la Federacin a nivel regional y nacional. La responsabilidad de llevar a la prctica el plan de accin elaborado tras la autoevaluacin corresponde, en ltimo trmino, a la Sociedad Nacional, con acceso reservado para los departamentos de la Secretara y delegaciones. Si bien deber alentarse a las Sociedades Nacionales a intercambiar sus planes de accin con las Sociedades hermanas/participantes, el CICR y asociados externos a la Cruz Roja para movilizar apoyo tcnico y financiero, es necesario obtener el consentimiento expreso de la Sociedad Nacional para difundir los planes fuera de la Secretara.8
C.
D.
E.
6 7 8
Pueden solicitarse ejemplares al Departamento de Desarrollo Organizacional. Para ms informacin sobre el proceso CAS, consulte el sitio Web de las estrategias de cooperacin: http://quickplace.ifrc.org/cas. Los asociados externos interesados en examinar el informe se debern poner en contacto directamente con la Sociedad Nacional.
5-20
Mdulo 5: Evaluacin
Octubre de 2002
5-21
Octubre de 2002
6.
Las evaluaciones en las que participan asesores externos pueden estar gestionadas por las Sociedades Nacionales o la Divisin de Seguimiento y Evaluacin. Las normas de actuacin reflejadas en el marco para el seguimiento y evaluacin proporcionan ms informacin acerca de quin gestiona qu tipo de evaluacin. Tanto cuando es la Sociedad Nacional la encargada de hacerlo, como cuando lo es la Divisin de Seguimiento y Evaluacin, el ciclo de la evaluacin, expuesto en la siguiente tabla, es muy similar. Dependiendo de quin se encuentre en el asiento del conductor, puede variar quin asume la responsabilidad en relacin con las diferentes tareas.
Tabla 6.1: El ciclo de la evaluacin: Nueve etapas en la planificacin y gestin de una evaluacin
Quin es responsable Evaluaciones gestionadas por la Sociedad Nacional Evaluaciones gestionadas por la Divisin de Seguimiento y Evaluacin Responsable de evaluacin
Aclarar/acordar la necesidad de realizar una evaluacin Determinar el propsito de la evaluacin: Por qu es necesaria? Consultar con las partes pertinentes de la Federacin y de las Sociedades Nacionales (p. ej. Divisin de Seguimiento y Evaluacin, oficinas regionales) y con las partes interesadas que corresponda. Determinar las cuestiones que van a evaluarse y, si se requiriera, preparar un borrador (slo Divisin de Seguimiento y Evaluacin). Determinar fuentes de financiacin y solicitar las aprobaciones necesarias. Planificacin de la evaluacin Elaborar un calendario para el proceso de evaluacin en su conjunto. Preparacin de los trminos de referencia Revisar las fuentes de informacin (p. ej. archivos y documentos de proyectos, Sistema de Memoria de Evaluacin). Consultar a las partes interesadas pertinentes y determinar alcance, cuestiones claves y plazos. Preparar los trminos de referencia y enviarlos a las principales partes interesadas a fin de conocer su opinin al respecto. Elaborar el calendario para la evaluacin (en caso de no haberlo hecho anteriormente). Seleccin del equipo de evaluacin Estudiar posibles candidatos y elaborar una lista de los mismos. Seleccionar los miembros del equipo de evaluacin. Organizar contrato(s) para los miembros del equipo de evaluacin. Estudio terico (previo a la misin) Enviar al equipo de evaluacin material pertinente de referencia. Revisin, por parte del equipo de evaluacin, de los documentos de referencia. Envo de comentarios acerca de los trminos de referencia y elaboracin de un borrador del mtodo de evaluacin por parte del jefe del equipo de evaluacin. Ejecucin de la misin de evaluacin Previamente a la llegada del equipo de evaluacin al pas: Organizar reuniones y taller de informacin de retorno. Organizar, provisionalmente, visitas al terreno y consultas con los beneficiarios. Informar a las partes interesadas acerca de detalles pertinentes relativos a la prxima evaluacin. Preparar archivos y documentacin para el equipo de evaluacin. Asegurar disponibilidad del informe actualizado de autoevaluacin.
Sociedad Nacional
Sociedad Nacional
Sociedad Nacional
Sociedad Nacional
6-1
Octubre de 2002
Quin es responsable Evaluaciones gestionadas por la Sociedad Nacional Evaluaciones gestionadas por la Divisin de Seguimiento y Evaluacin Jefe del equipo de evaluacin y equipo de evaluacin
Durante la misin de evaluacin: Comenzar con la celebracin de un taller de medio da de duracin en el que participen la Sociedad Nacional y otras partes interesadas y cuyo fin sea aclarar y, si as se requiriera, modificar los trminos de referencia, discutir la metodologa, y examinar y acordar/modificar el itinerario. Asignar las responsabilidades en el equipo de evaluacin. Recopilar y analizar informacin. Consultar a las partes interesadas. Taller(es) de informacin de retorno. Preparar y presentar un informe de misin. Preparacin del informe de evaluacin Elaborar hallazgos, conclusiones, recomendaciones y enseanzas extradas. Preparar el informe de evaluacin (incluido resumen). Preparar el informe resumido de evaluacin (mximo de 5.000 palabras). Revisin del informe de evaluacin Revisar el borrador de informe de evaluacin y hacer comentarios al respecto para el equipo de evaluacin. Revisar y comentar el borrador de informe resumido. Aprobar borradores definitivos y remunerar al equipo. Difusin de la evaluacin Difundir el informe completo o resumido a las partes interesadas. Poner en prctica las recomendaciones de la evaluacin y/o realizar un seguimiento de las mismas. Difundir enseanzas importantes (p. ej. preparar una pgina Web con enseanzas o transmitir las mismas en ejercicios y en debates pertinentes sobre poltica dentro de la organizacin).
Jefe del equipo de evaluacin y equipo de evaluacin Sociedad Nacional con insumos del gobierno y de asociados internacionales Sociedad Nacional
Jefe del equipo de evaluacin y equipo de evaluacin Responsable de evaluacin con insumos de la Sociedad Nacional, oficina regional y las unidades tcnicas pertinentes de la sede central. Responsable de evaluacin
6-2
Octubre de 2002
6.1
6.1.2 Consultas
Es esencial consultar al principio a las partes interesadas y discutir la funcin que desempearn en la evaluacin. Su participacin puede adquirir diferentes formas: comentario de los trminos de referencia, participacin como miembros de una misin, participacin en la recopilacin y anlisis de datos, o revisin y comentario del informe de evaluacin. Las partes interesadas relacionadas con la Federacin y las Sociedades Nacionales pueden proceder de uno de los grupos expuestos a continuacin: Personal a tiempo completo o contratado temporalmente de la Federacin y las Sociedades Nacionales. Asociados del mbito del desarrollo en el nivel nacional, tales como ministerios, organismos de las Naciones Unidas, donantes multilaterales y bilaterales, y otras ONG presentes en el pas. Asociados institucionales implicados en actividades de la Federacin y de las Sociedades Nacionales. Participantes y beneficiarios de actividades de la Federacin y de Sociedades Nacionales. En algunas evaluaciones puede resultar til establecer un pequeo grupo de trabajo de partes interesadas claves de las reflejadas anteriormente. La funcin del grupo de trabajo consistira en asistir en la preparacin de los trminos de referencia y en brindar apoyo a la misin de evaluacin. La experiencia ha enseado que un enfoque de este tipo favorece enormemente que las partes interesadas se identifiquen con los hallazgos de la evaluacin, incrementndose as la probabilidad de que se acte de acuerdo con las recomendaciones.
6-3
Octubre de 2002
Plazos propuestos para la evaluacin. Alcance de la evaluacin y cuestiones claves a examinar. Estrategia de evaluacin y mtodos que se van a aplicar. Quin realizar la evaluacin?
La preparacin de un borrador es una tarea habitual en las evaluaciones llevadas a cabo por la Divisin de Seguimiento y Evaluacin. El borrador difiere de los trminos de referencia que se elaborarn finalmente en que su principal propsito es establecer, en las primeras fases, la lgica subyacente a la planificacin y realizacin de la evaluacin. Tambin puede servir como documento de negociacin inicial entre la Divisin de Seguimiento y Evaluacin y las Sociedades Nacionales, exponiendo expectativas y requisitos.
6-4
Octubre de 2002
6.2
Vase ms arriba Lo antes posible pero durante las 3 semanas anteriores a la misin Si no se ha realizado durante la elaboracin de los trminos de referencia, se realiza en este momento Aproximadamente 1 mes antes de la misin Al menos 2 semanas antes de la sesin de informacin Tras acordar el mtodo con el jefe del equipo de evaluacin Organizacin con 10 das de antelacin. De forma ideal jueves/viernes antes del inicio de la misin en el pas. Segn lo acordado Preparacin 2 semanas antes de su celebracin (primer da de trabajo) Preparacin de 2-3 semanas antes de su celebracin (finales de la ltima semana) ltimo da 3 semanas tras partida del equipo de evaluacin
Segn trminos de referencia da 1 da Depende de si una o varias reuniones 10 das para el jefe del equipo, 5 das por miembro de equipo 2 semanas depende
6-5
Octubre de 2002
6.3
Los trminos de referencia reflejan el plan de trabajo para llevar a cabo una evaluacin o el alcance de la misma. Disponer de buenos trminos de referencia es esencial para que el proceso de evaluacin sea exitoso y se oriente a la consecucin de resultados. De forma ideal, los trminos de referencia no slo sirven para orientar con claridad al equipo de evaluacin, sino que tambin destacan las expectativas de diferentes partes interesadas en cuanto a los resultados que se espera obtener de la evaluacin. Los siguientes son importantes principios a tomar en consideracin en relacin con los trminos de referencia:
Los trminos de referencia son negociables Una vez que se rene el equipo de evaluacin (generalmente durante la sesin inicial de informacin), los trminos de referencia deben discutirse detalladamente a fin de asegurar que los responsables de gestin de la evaluacin y el equipo de evaluacin entiendan de una misma manera el propsito de la evaluacin as como la forma de ejecutarla y los resultados que se prevn obtener. En este punto deben discutirse todas las cuestiones a evaluar que el equipo considere no poder abarcar, y deber tomarse una decisin al respecto. Tras esta discusin, los trminos de referencia podrn modificarse y sern aprobados como trminos de referencia definitivos. La cuestin de que los trminos de referencia sean negociables adquiere particular importancia en el caso de operaciones de emergencia y en algunas de desarrollo. La experiencia ensea que algunas de las cuestiones que surgen con posterioridad no son aparentes al principio del proceso. Por lo tanto, podra resultar prctico considerar la realizacin de algn tipo de estudio preliminar para que el organismo ejecutor lleve a cabo su propia autoevaluacin rpida, o para que el jefe de evaluacin y el jefe del equipo de evaluacin colaboren con la Sociedad Nacional en la determinacin de cuestiones claves o en la incorporacin de tiempo y recursos para posibilitar que el equipo de evaluacin realice una visita preliminar para obtener datos bsicos y determinar cuestiones claves. Los hallazgos obtenidos en el estudio preliminar serviran entonces de informacin en la etapa de la evaluacin en la que se realiza el estudio terico y posibilitaran modificar los trminos de referencia de forma correspondiente antes de comenzar la fase principal de estudio sobre el terreno.
Los trminos de referencia deben discutirse con todas las partes interesadas Durante la elaboracin de los trminos de referencia y la determinacin de las cuestiones claves debern considerarse los puntos de vista y expectativas de las partes interesadas claves. El borrador de trminos de referencia deber intercambiarse y discutirse con los asociados ejecutores y donantes. De forma ideal, tambin deber consultarse a representantes de los beneficiarios en cuanto a las cuestiones claves a evaluar. Las consultas podran organizarlas la Federacin y las Sociedades Nacionales.
Como en todas las evaluaciones, se deber informar con antelacin a los informantes claves acerca de la llegada inminente del equipo de evaluacin, los objetivos y alcance de la evaluacin, y las probables necesidades de informacin. Se deber avisar con antelacin suficiente para que los organismos ejecutores puedan compilar archivos y documentacin pertinentes antes de la llegada del equipo de evaluacin. Los trminos de referencia de una evaluacin deben incluir los elementos reflejados en la tabla 6.3. En el anexo 1 se incluye un ejemplo de trminos de referencia. Pueden solicitarse otros ejemplos de trminos de referencia a la Divisin de Seguimiento y Evaluacin.
6-6
Octubre de 2002
Tabla 6.3: Estructura general de los trminos de referencia para una evaluacin
Estructura Antecedentes del proyecto Contenido Antecedentes de la evaluacin, explicando su origen y propsito en trminos generales. Descripcin bien fundada de los antecedentes del proyecto, operacin o tema a evaluar. Estado actual de la ejecucin. Declaracin clara sobre los objetivos y alcance de la evaluacin. Cuestiones claves que abarcar la evaluacin. Mtodo(s) de evaluacin a utilizar. Identificacin de informes existentes e informacin sobre el rendimiento. Caractersticas y composicin de expertos necesarios. Borrador del itinerario y requisitos de logstica Orientacin relativa al informe previsto.
Estado del proyecto Propsito y alcance de la evaluacin Cuestiones claves Mtodo Composicin del equipo Calendario y logstica Informe de evaluacin
Revisin de todas las fuentes de informacin disponibles Antes de esbozar los trminos de referencia, se considera buena prctica revisar toda la documentacin disponible: documentos del proyecto, informes de situacin, informes de evaluacin. La Active Learning Network for Accountability and Performance (ALNAP) proporciona informacin para realizar metaevaluaciones, y la mayora de los donantes presenta sus evaluaciones en Internet. Esto le posibilitar examinar informes de evaluaciones previas llevadas a cabo en el pas, as como buscar experiencias y cuestiones claves de evaluacin pertinentes de evaluaciones similares realizadas en otros lugares. Consultar a las partes interesadas Para planificar una evaluacin se requiere poseer facilidad para negociar, tanto como buenos conocimientos acerca de cmo disear la misma. En las primeras fases de la planificacin de una evaluacin, el jefe de evaluacin debe determinar las partes interesadas claves para la evaluacin y cules de ellas debern consultarse para fijar los objetivos de la evaluacin. En las consultas a las partes interesadas podran incluirse, p. ej., los responsables de formulacin de polticas del gobierno, personal de los asociados, principales asociados ejecutores, empleados en el nivel de distrito, donantes, organismos de las Naciones Unidas, representantes de beneficiarios, etc. Las partes interesadas deben estar convencidas de la utilidad de la evaluacin y de la lgica subyacente a la misma. Consultndoles en relacin con los objetivos y las cuestiones claves de la evaluacin, es posible lograr que se identifiquen con el proceso de evaluacin, requisito fundamental para que posteriormente acepten los hallazgos y recomendaciones derivados de la misma. Determinacin de los objetivos y alcance de la evaluacin Dadas la complejidad e interconexin inherentes a las intervenciones humanitarias, existe el peligro de que en el establecimiento de los objetivos de una evaluacin (especialmente en el caso de las evaluaciones llevadas a cabo en colaboracin) se elabore una lista de compra de los mismos, sin considerar ningn tipo de prioridad. Para evitarlo, es importante facilitar el tiempo necesario para que los diferentes actores implicados debatan y negocien los objetivos de la evaluacin. La posibilidad de negociar los trminos de referencia durante las primeras etapas de la evaluacin debera favorecer adicionalmente la determinacin de los objetivos. Los trminos de referencia debern brindar orientacin para centrar la evaluacin y para establecer prioridades en los diferentes mbitos y/o perodos de examen. P. ej., en la evaluacin de una
6-7
Octubre de 2002
operacin de desarrollo puede resultar conveniente especificar que la evaluacin deber centrarse inicialmente en la estrategia de recuperacin, determinando cmo fue formulada esta estrategia, cmo ha ido evolucionando durante la vida de la operacin y su pertinencia en relacin con la situacin actual. En el proceso de decidir el alcance de la evaluacin de una operacin de emergencia, el jefe de evaluacin se ve enfrentado a diferentes posibilidades: Deber centrarse la evaluacin nicamente en la intervencin de urgencia o deber considerar tambin las actividades realizadas o que deberan haberse realizado antes de presentarse la emergencia (p. ej. planificacin previa al desastre)? En el caso de una emergencia prolongada, deber considerar la evaluacin toda la duracin de la emergencia o nicamente los perodos ms recientes o graves de la misma? Preparacin de las cuestiones claves El elemento ms importante de los trminos de referencia, y tal vez el ms problemtico de elaborar, es el captulo en el que se presentan las cuestiones claves a examinar. En esencia, es un ejercicio de formulacin de preguntas de evaluacin frente a los criterios de evaluacin aplicados. Tabla 6.4: Ejemplo de cuestiones a evaluar y preguntas al respecto
Estrategia Fue la estrategia adoptada la ms pertinente y apropiada para hacer frente a las necesidades identificadas? Se reflejaron adecuadamente las cuestiones de gnero en la estrategia? Se consideraron otros posibles enfoques para alcanzar los objetivos? Fue la estrategia coherente con las responsabilidades incluidas en el mandato fundamental de la Federacin y las Sociedades Nacionales y con las polticas de las mismas? Qu relacin existi entre la ayuda de emergencia y otro tipo de asistencia prestada? Estuvo bien preparada la estrategia y orient adecuadamente a los responsables de ejecucin? (Para el caso de operaciones de desarrollo) Estim la estrategia con exactitud las oportunidades para introducir actividades de recuperacin? Se dise una estrategia de salida? Se incluyeron otros organismos en el anlisis del problema y en el diseo de los planes de intervencin? Fueron incluidos adecuadamente los beneficiarios (hombres y mujeres) en el proceso de preparacin? Se determinaron adecuadamente desde el principio las restricciones para la ejecucin? Se ha revisado o modificado peridicamente la estrategia durante la vida de la operacin a fin de mantener su pertinencia frente a las circunstancias cambiantes? Diseo Fue lgico y coherente el diseo de la operacin? Proporcion una buena orientacin para la ejecucin y sirvi de base fundada para la revisin y evaluacin? Se establecieron los objetivos en los niveles correctos (es decir, conforme con las definiciones de la matriz de planificacin) y vnculos fundados medios-fines entre insumos, actividades, producto, propsito(s) y meta? Fue factible desde el punto de vista tcnico el diseo de la operacin? Se reflejaron adecuadamente los asuntos de gnero? Estuvieron fundadas las hiptesis en el momento de su especificacin y se elaboraron planes de emergencia relativos a los riesgos conocidos? Qu factores externos no se consideraron durante el diseo? Ha cambiado el contexto de la operacin desde su inicio? En caso afirmativo, se ha adaptado la operacin eficazmente? Logro de objetivos Son apropiados los objetivos? Se ajustan a la realidad? En qu grado se ha alcanzado el producto planificado en cuanto a cantidad, calidad, equidad y oportunidad? Para el caso de operaciones de emergencia y de desarrollo: Han recibido los beneficiarios seleccionados las raciones planificadas? Se han seleccionado los beneficiarios correctos? Utilizaron los beneficiarios la ayuda de la forma prevista?
6-8
Octubre de 2002
Para operaciones de recuperacin y actividades de desarrollo: Mantuvieron o mejoraron los beneficiarios sus bases de subsistencia? Qu activos se han creado/mantenido, y a quin han beneficiado y en qu manera? Cules fueron las actividades de recuperacin ms exitosas? Y las menos exitosas? Con qu eficacia se llev a cabo la transicin de las actividades de socorro a las de recuperacin? En qu grado ha contribuido la ayuda a promover el reasentamiento y la autosuficiencia alimentaria (donde proceda)? Ha alcanzado el producto a los ms pobres? A las mujeres? A grupos vulnerables? En qu grado? Qu proporcin de mujeres y grupos vulnerables se ha beneficiado directamente del producto? Se utilizaron los recursos con eficacia y eficiencia? Justifican los resultados los costos? Qu hechos demuestran que se han alcanzado el/los propsito(s) y meta indicados de la operacin? Hasta qu punto han cumplido la Federacin y las Sociedades Nacionales las responsabilidades incluidas en su mandato principal? En el caso de tratarse de una evaluacin intermedia qu medidas adicionales podran ser necesarias para incrementar las posibilidades de alcanzar el propsito? Factores a considerar en la eficacia y eficiencia de operaciones de emergencia y de desarrollo Registro/verificacin Se recopilaron datos fiables y desglosados relativos a las poblaciones/grupos beneficiarios? Se mantuvieron en buen estado los datos? Estimaciones Cmo se estim la situacin inicial? Cmo se estimaron la inseguridad alimentaria, vulnerabilidad y estado nutricional? Se analizaron de forma adecuada las funciones desempeadas por hombres y mujeres? Se han realizado nuevas estimaciones peridicas? Se han estimado las necesidades de las comunidades anfitrionas? Distribucin definitiva Fue eficiente y equitativo el sistema de distribucin? Fue transparente? Se dispuso de un procedimiento para presentar reclamaciones? Se abordaron bien los fallos en el sistema de distribucin? Jugaron un papel director las mujeres en los comits locales de toma de decisiones relativas a la gestin de alimentos? En caso afirmativo, hasta qu punto ha provocado este hecho un cambio en cuanto a la aceptacin de mujeres en funciones directoras de toma de decisiones? Seleccin de beneficiarios Cmo se determinaron los grupos/mbitos de beneficiarios? Se consideraron las necesidades especiales de determinados grupos/mbitos? Se abordaron las necesidades de la comunidad anfitriona? Fueron adecuados los objetivos seleccionados? Se tomaron medidas para revisar y actualizar la estrategia de seleccin? Participaron hombres y mujeres beneficiarios en la negociacin relativa a la condicin de beneficiario? Cul fue la proporcin de hombres y mujeres beneficiarios participantes en comida por trabajo? Idoneidad de las raciones Fueron adecuadas y aceptables (cuantitativa y cualitativamente) la racin y cesta alimentarias? Fueron afines a las bases de subsistencia y a las estrategias de hombres y mujeres para abordar problemas? Estuvieron ajustados a la realidad los objetivos nutricionales? En qu grado se alcanzaron? Qu efecto/consecuencia en cuanto a la nutricin ha tenido la ayuda prestada por la Federacin y las Sociedades Nacionales a los beneficiarios? Se han producido reducciones en la racin o interrupciones en la ayuda alimentaria? En caso afirmativo, a razn de qu? Fue la ayuda alimentaria aceptable y apropiada desde el punto de vista cultural? Factores a considerar en la eficacia y eficiencia de TODAS las operaciones Ejecucin Se produjeron retrasos significativos en la aprobacin? Cules fueron las causas? Estuvieron adaptados a la realidad el calendario de ejecucin y las medidas de gestin (debern incluir gestin financiera y sistemas de elaboracin de presupuestos)? Se siguieron los planes? En caso negativo, por qu no? Se cambiaron los objetivos durante la ejecucin? Por qu? A razn de qu anlisis o qu acontecimientos? Se produjeron retrasos en la ejecucin? Cmo se trataron los mismos? Qu efecto tuvieron esos retrasos? Se gestionaron bien los riesgos y problemas?
6-9
Octubre de 2002
Seguimiento y notificacin Se recopilaron datos de referencia y se determinaron indicadores apropiados al principio para medir los progresos y resultados? Funcionaron los sistemas de seguimiento incluido el grado en que se incorporaron consideraciones de gnero en las medidas de seguimiento? Se recopilaron datos desglosados por sexo de acuerdo con la poltica de la Federacin y de las Sociedades Nacionales? Qu tipo de notificacin se utilizar para la operacin y con qu frecuencia se notificar, incluidos los diagnsticos participativos peridicos? Se entregaron puntualmente los informes? Estaban completos? Qu problemas surgieron al respecto? Se analiza y utiliza la informacin para tomar decisiones concernientes a la gestin de la operacin? (Para operaciones de desarrollo) Se han establecido criterios para sealar cundo pasar de las actividades de socorro a actividades de recuperacin y de las actividades de recuperacin a las de desarrollo? En caso afirmativo, se estn aplicando esos criterios eficazmente? Coordinacin, asociaciones y participacin de beneficiarios Fueron compatibles los objetivos y actividades con las polticas y programas del gobierno o gobiernos pertinentes? Son solidarios los asociados de la Federacin y las Sociedades Nacionales? Qu mecanismos se prepararon para coordinar las actividades con gobiernos, donantes, organismos de las Naciones Unidas, ONG, etc. y cmo fueron de eficaces? Se distribuyeron exitosamente entre los asociados las responsabilidades en los diferentes sectores? Cumplieron los asociados ejecutores sus obligaciones contractuales? Cmo se determin su capacidad? Qu capacitacin de los asociados ha tenido lugar? Ha existido una tendencia de acercamiento a utilizar asociados ejecutores locales o ms bien de alejamiento al respecto? Qu capacidad se ha dejado atrs? En qu forma han participado los beneficiarios en el diseo, ejecucin y seguimiento de la operacin? Fue adecuada la organizacin al respecto? Qu efecto tuvo la (no) participacin de los beneficiarios? Promovi de alguna forma la autosuficiencia de hombres y mujeres? Relacin con otros programas Son compatibles los objetivos y actividades de la operacin/programa con los de otras operaciones ejecutadas actualmente por la Sociedad Nacional? Son complementarios? Gestin, recursos humanos y capacitacin Desempearon las Sociedades Nacionales y las unidades especializadas eficaz y eficientemente sus funciones? Posea el personal la experiencia y conocimientos necesarios para llevar a cabo las actividades previstas? Existen deficiencias de personal o conocimientos? Qu medidas se han tomado al respecto? Se han seguido procedimientos financieros y administrativos correctos? Existe un equilibrio entre el nmero de hombres y mujeres que forman parte del personal de la operacin (tanto en la Federacin como en las Sociedades Nacionales)? Se ha impartido formacin al personal acerca de cuestiones de gnero? Aplica el personal en su trabajo los conocimientos adquiridos? Suministros pendientes de ser entregados a los almacenes, control de artculos de primera necesidad, logstica Se han gestionado eficientemente los suministros pendientes de ser entregados a los almacenes? Suministro y distribucin de artculos de primera necesidad - Qu dificultades y prdidas se sufrieron? Cmo se abordaron? Fue adecuada la planificacin relativa a la logstica, transporte, almacenamiento, empleo de personal y auditora? Cules fueron los principales problemas para el funcionamiento sin contratiempos de la operacin/programa? Para operaciones: Cul ha sido la importancia general de la economa de guerra y la contribucin relativa a la misma por desviacin de asistencia humanitaria o por el establecimiento de impuestos sobre la misma? Qu medidas han tomado la Federacin, las Sociedades Nacionales y los asociados para evitar o minimizar estos actos a travs de la seleccin de canales de distribucin particulares, de distribuciones supervisadas y del seguimiento de la utilizacin final de los recursos? Seguridad Se han adoptado y observado medidas suficientes y apropiadas a fin de minimizar el riesgo al que se enfrenta el personal de la Federacin, las Sociedades Nacionales y los asociados ejecutores implicados en la ejecucin de la operacin o programa? Se han adoptado medidas, en caso necesario, para proteger a los hombres, mujeres y nios afectados que participan en la operacin? Existen problemas significativos de seguridad para el funcionamiento sin contratiempos de la operacin/programa? Se consider asunto altamente prioritario la seguridad de los beneficiarios?
6-10
Octubre de 2002
Presupuesto y recursos Costos de la operacin - Cules fueron los gastos reales frente a los planificados para la operacin en su conjunto y para los principales apartados de costos? Fue apropiado el presupuesto en relacin con los objetivos/actividades? Qu factores afectaron a las diferentes partidas del presupuesto? Transporte interno, almacenaje y manejo - Cmo se financiaron? Fueron adecuadas las tasas calculadas? Qu revisiones hubo que realizar? En qu grado se han satisfecho los requisitos de recursos para la operacin? Cmo ha gestionado la Sociedad Nacional los dficit? Con qu previsin y periodicidad se han suministrado los recursos a la operacin/programa? Monetizacin - Estuvo justificada? Fueron justos los precios? (Para operaciones de desarrollo) Ha resultado la transformacin en compromisos financieros a ms largo plazo (ms de un ao) hacia la operacin? Con qu xito ha dispuesto la operacin/programa de insumos no alimenticios? Cules han sido, en caso de existir, las restricciones? Normas y calidad Qu sistemas se establecieron para garantizar la calidad del programa, incluido el establecimiento de normas tcnicas apropiadas? Se han considerado las normas internacionales y el cdigo de conducta pertinentes? Consecuencias/impacto y sostenibilidad/conexin Qu cambios ha provocado la operacin en la vida de los beneficiarios (mejora de bases de subsistencia, etc.)? Quin se benefici exactamente? Qu habra ocurrido si no se hubiese prestado asistencia? Cmo valoran los beneficiarios y otras partes interesadas la operacin? Qu impacto tuvo la operacin en la seguridad alimentaria y la autosuficiencia de los hogares? (Operaciones de emergencia y de socorro) Cul fue el impacto en las comunidades anfitrionas? Qu consecuencias inesperadas (positivas y negativas) se han producido? Se han abordado adecuadamente los problemas medioambientales en el marco de la operacin/programa? Qu impacto, intencionado o no, ha tenido la operacin sobre el medio ambiente? Qu impacto han tenido los campamentos sobre el medio ambiente (cuando corresponda)? Qu efecto han tenido las raciones y los requisitos para cocinar? Qu medidas se adoptaron para reducir el impacto negativo sobre el medio ambiente y restaurar el hbitat natural? Qu duracin se prev para los beneficios? Cules son las perspectivas de sostenibilidad para las actividades y producto? Qu factores es probable que socaven la sostenibilidad de los beneficios? Es probable que los beneficios sostenibles superen los costos? Qu costos debern asumir el gobierno, asociados ejecutores, beneficiarios y otras partes interesadas a fin de que se mantengan los beneficios? Se ha aprovechado la ayuda alimentaria como impulso para obtener recursos nacionales e internacionales complementarios y para atraer la atencin sobre la necesidad de mejorar la condicin de la mujer? Compromiso hacia las mujeres En qu grado se satisfizo la poltica de gnero de la Federacin y de las Sociedades Nacionales en cuanto a: i) acceso de las mujeres a la ayuda, ii) acceso de las mujeres a las estructuras de poder y a la toma de decisiones, iii) acceso de las mujeres a recursos, empleo, mercados y comercio? Qu cambios debern efectuarse en una etapa futura para asegurar mayor compatibilidad con estos compromisos? Qu tipo de capacitacin en materia de gnero se ha realizado? Para quin? Cules han sido los cambios, si es que se han producido, resultantes de la capacitacin? Qu esfuerzos adecuados se han realizado para incorporar las consideraciones de gnero y sensibilizar al respecto?
Cules son los mtodos habituales a utilizar en la evaluacin? Los trminos de referencia debern incluir un breve esbozo del mtodo propuesto para realizar la evaluacin. El jefe del equipo y el propio equipo lo debern perfeccionar, desarrollar y discutir antes del inicio de la misin.
6-11
Octubre de 2002
Esencialmente son cinco los modos de obtener informacin para realizar la evaluacin: 1. recopilando, tabulando y revisando datos ya disponibles; 2. preguntando a personas a travs de entrevistas; grupos temticos; 3. facilitando una reflexin crtica acerca del rendimiento y los resultados por parte de los ejecutores y beneficiarios; 4. llevando a cabo estudios por muestreo; 5. observando personas y aspectos a travs de visitas al terreno. En la tabla 6.5 se detallan los mtodos, incluidos comentarios sobre la aplicabilidad de cada uno de ellos. Los mtodos pueden aplicarse de forma puramente inquisitiva (es decir, no participativa), de forma participativa, o como combinacin de las dos. Los mtodos seleccionados debern ajustarse siempre a los objetivos y centro de atencin de la evaluacin, derivarse de las preguntas planteadas y corresponderse con el propsito y utilizacin de los datos. El enfoque convencional de evaluacin aplicado en la Federacin y en las Sociedades Nacionales ha subestimado la necesidad de incorporar las opiniones de las partes interesadas en los hallazgos de la evaluacin y, en particular, las percepciones de los beneficiarios. Las entrevistas a una muestra de beneficiarios o de la poblacin afectada pueden constituir una de las ms ricas fuentes de informacin para la evaluacin y es absolutamente obligatorio realizarlas. Adems, pueden obtenerse informacin y puntos de vista tiles a partir de los denominados grupos de comparacin, es decir, hombres y mujeres que no han participado en la operacin de la Federacin y/o de las Sociedades Nacionales pero que se enfrentan a problemas similares en entornos tambin similares. Aunque el proceso de evaluacin seguir siendo inquisitivo por naturaleza, especialmente cuando se pretenda atender consideraciones de rendicin de cuentas, se debern conceder a los beneficiarios y partes interesadas ms oportunidades de contribuir al proceso y de transmitir sus opiniones. Es particularmente importante organizar un debate con los beneficiarios acerca de cmo perciben la operacin y de cmo ha afectado la misma a su vida, y velar por que participen en la discusin y validacin de hallazgos. Se puede, as, comprobar la realidad, orientar la evaluacin hacia los cambios reales (planificados o no) que han resultado de la operacin, y posibilitar a los beneficiarios y otras partes interesadas entender mejor la funcin y propsito de la evaluacin. En situaciones de conflictos recientes o en curso, el equipo debe velar por garantizar el tratamiento confidencial de la informacin obtenida de las personas entrevistadas.
6-12
Octubre de 2002
2. Consultas
3. Facilitacin
5. Observacin
La consecuencia inmediata, para la Federacin y las Sociedades Nacionales, del cambio hacia un enfoque en el que se integren ms intensamente los beneficiarios y partes interesadas es la necesidad de planificar la participacin de los mismos. Como mnimo, ello requiere: planificar suficiente tiempo y recursos para el proceso de evaluacin; garantizar que el equipo de evaluacin posea los conocimientos y experiencia necesarios; facilitar la participacin significativa de partes interesadas y beneficiarios a travs de entrevistas individuales y en grupo y mediante la utilizacin de tcnicas de diagnstico rural rpido/participativo;
6-13
Octubre de 2002
facilitar una reflexin crtica acerca del rendimiento y los resultados por parte de los ejecutores y beneficiarios (el evaluador se convierte en facilitador).
Si desea obtener ms informacin relativa a mtodos de recopilacin de datos, consulte el mdulo 8 Herramientas para la recopilacin de datos. Distribucin del borrador de trminos de referencia y discusin acerca del mismo Llegados a este punto, se debern haber elaborado todos los elementos de los trminos de referencia, por lo que podr prepararse un borrador de los mismos (vase tabla 6.3). El borrador de trminos de referencia deber enviarse a las partes interesadas contactadas previamente, a fin de asegurar un entendimiento comn y acuerdo al respecto. Elaboracin de un calendario para la evaluacin Normalmente, el calendario se elabora antes de preparar los trminos de referencia y necesita ser detallado una vez que se llegue a un acuerdo acerca de los mismos.
6-14
Octubre de 2002
6.4
Se deben seleccionar y contratar los miembros del equipo y se les deben entregar los trminos de referencia. Cuando se utilicen asesores externos, es aconsejable iniciar el proceso de contratacin con suficiente antelacin a la misin de evaluacin, a fin de asegurar la disponibilidad de los miembros del equipo. Adems, habr que tener presente el tiempo requerido para la contratacin. Si las fechas para la evaluacin estn ya fijadas, la bsqueda de asesores puede realizarse incluso mientras se estn negociando y preparando los trminos de referencia, para asegurar la disponibilidad de los asesores deseados. Los miembros del equipo de evaluacin debern satisfacer, en general, los siguientes requerimientos. Tabla 6.6: Criterios para la seleccin del equipo de evaluacin
Para los miembros del equipo Competencia profesional y slida experiencia tcnica en reas tales como seguridad alimentaria, nutricin, gnero, alimentacin escolar, operaciones de emergencia, comida por trabajo, etc. La especializacin del personal seleccionado depende de las cuestiones claves que se abordarn en la evaluacin. Conocimientos acerca de la Federacin, las Sociedades Nacionales y sus operaciones (al menos uno de los miembros del equipo, preferiblemente el jefe de la misin, deber poseer experiencia con la Federacin o Sociedades Nacionales). Experiencia previa de evaluacin; familiaridad con los mtodos habituales de evaluacin. Imparcialidad (es decir, no formar parte de ninguno de los organismos ejecutores, no haber participado como asesor en ninguna de las etapas del proyecto, no participar en el pas en ninguna otra actividad oficial (relacionada o no)). Preferiblemente experiencia previa en el pas correspondiente. Conocimientos de idiomas (ingls, francs, espaol). Ha demostrado poseer capacidad para dirigir un equipo? Se puede confirmar que posea una excelente capacidad de comunicacin escrita en ingls, francs o espaol? Trayectoria probada como evaluador y jefe de equipo? Se presenta adecuadamente a s mismo? Resulta convincente? Combinar expertos internacionales y nacionales. Tener en cuenta cuestiones de gnero (considerar adecuadamente mujeres asesoras cualificadas). Establecer el equilibrio adecuado (hombres y mujeres, nacionalidad, capacidad).
Para el jefe del equipo (adems de los criterios anteriores) Otros criterios
Participacin de donantes A veces, un donante u organismo asociado puede solicitar que uno de sus propios empleados participe en la misin de evaluacin. Esto ser aceptable siempre y cuando la persona propuesta se ajuste a los criterios expuestos en la tabla 6.6 y acte como miembro pleno del equipo bajo la direccin del jefe del equipo. La Federacin y las Sociedades Nacionales debern reservarse el derecho de rechazar candidatos cuando stos no cumplan los criterios de seleccin. En los casos en que sea necesario un equipo numeroso (p. ej. para realizar evaluaciones en colaboracin o que abarquen todo un sistema), el jefe del equipo deber poseer una slida capacidad para gestionarlo. Consideraciones especiales para la evaluacin de la asistencia humanitaria En la evaluacin de operaciones de emergencia y de desarrollo se deber invertir un tiempo considerable en entrevistar a beneficiarios, particularmente a mujeres y nios. En estos casos, es probable que los beneficiarios hayan sufrido serios traumas psicosociales. Por ello, el equipo de evaluacin deber estar equilibrado en cuanto a su composicin de hombres y mujeres y contener suficientes expertos que puedan llevar a cabo estas entrevistas.
6-15
Octubre de 2002
6.5
Normalmente, los equipos de evaluacin disponen de 3-5 das para elaborar el estudio terico, dependiendo de la naturaleza, magnitud y alcance de la operacin que se evala. En el caso ideal, el estudio deber realizarse antes de las sesiones de informacin y tomar como base el material disponible de la Federacin y de las Sociedades Nacionales o que se haya enviado al equipo. Dado el hecho de que en la mayora de los casos los miembros del equipo de evaluacin no se renen antes de llegar al pas, le corresponder al jefe del equipo desarrollar adicionalmente el mtodo esbozado en los trminos de referencia y presentar un breve documento del mtodo de evaluacin y cuestiones a evaluar al jefe de evaluacin antes de iniciar la misin. Este documento de los mtodos de evaluacin deber incluir los siguientes puntos: mtodo(s) propuesto(s) para la evaluacin; distribucin de responsabilidades propuesta (por miembros del equipo, deber concluirse durante la sesin de informacin); informantes claves propuestos (organismos y asociados claves que se visitarn (en este punto deber contribuir tambin la Delegacin en el pas)); calendario indicativo que, por supuesto, deber perfeccionarse despus de la llegada al pas; criterios para la seleccin representativa de reas a visitar (de acuerdo con los mismos, la Sociedad Nacional propondra reas y tipos de proyecto a visitar). Los trminos de referencia pueden modificarse en este momento o, como muy tarde, durante los primeros das en las reuniones de informacin en las que participa el equipo completo. Es fundamental que tanto el jefe del equipo como el de evaluacin lleguen a un acuerdo respecto al alcance, objetivos y resultados principales de la evaluacin. Una vez que el jefe de evaluacin haya aprobado el mtodo propuesto, deber revisarse y adaptarse el itinerario a seguir para la evaluacin. Por ejemplo, si el mtodo prev que un miembro del equipo invierta todo su tiempo en realizar ejercicios de diagnstico rural rpido en varias comunidades de la muestra, independientemente del resto del equipo, esto deber reflejarse en los trminos de referencia y se debern organizar los preparativos correspondientes (o, como alternativa, velar por que exista la suficiente flexibilidad para adaptar el itinerario una vez haya llegado el equipo). Cuando el diseo del proyecto no se base en una matriz de planificacin, puede ser aconsejable solicitar al jefe del equipo que prepare una matriz de planificacin adaptada antes de emprender la misin. La matriz constituye un punto de partida para el debate y una ayuda para el equipo de evaluacin en el establecimiento de las hiptesis subyacentes.
6-16
Octubre de 2002
Etapa 6 Ejecucin de la misin de evaluacin 6.6.1 Previamente a la llegada del equipo de evaluacin al pas
Para que la evaluacin resulte exitosa y til es fundamental una buena preparacin de la misma. Entre las tareas fundamentales que debern realizar la Sociedad Nacional y/o la Divisin de Seguimiento y Evaluacin antes de emprender la misin de evaluacin se incluyen: Recopilar documentos de referencia pertinentes y ponerlos a disposicin del equipo de evaluacin (informes de situacin de la operacin, polticas gubernamentales pertinentes, informes de evaluacin, informes realizados por otros donantes, informacin sobre la seguridad alimentaria, procedimiento de llamamientos unificados (CAP de sus siglas en ingls), etc.) otra posibilidad sera proporcionar parte de este material al equipo de evaluacin antes de la misin para elaborar el estudio preparatorio. Organizar provisionalmente el itinerario velar por que el equipo disponga de suficiente tiempo para conversar con los beneficiarios; velar por que el equipo visite una muestra representativa de lugares en los que se lleva a cabo la operacin y que se rena con la variedad adecuada de informantes claves. Los preparativos debern adecuarse a la disponibilidad de las partes interesadas y, en el caso de los beneficiarios, puede ser necesario planificar las entrevistas para las noches o hacerlas coincidir con eventos comunitarios o del grupo, a fin de minimizar las alteraciones. Por ltimo, pero no menos importante, deber facilitarse al equipo tiempo suficiente para llevar a cabo discusiones internas y desempear su trabajo (p. ej. revisin conjunta de los trminos de referencia y de la distribucin del trabajo, discusin de hallazgos claves, conclusiones y recomendaciones, preparacin del taller de informacin de retorno, etc.). Asesorar a las partes interesadas locales claves en relacin con la misin. Cuando se organiza el itinerario, las partes interesadas claves a las que se va a entrevistar debern estar bien informadas sobre el propsito y el programa de trabajo de la evaluacin y recibir una copia o resumen de los trminos de referencia. Velar por que las cuestiones de logstica (transporte, preparativos para las reuniones, etc.) estn preparadas antes de la llegada del equipo. Asegurar que el personal de la Sociedad Nacional disponga de suficiente tiempo para participar en la sesin de informacin de medio da de duracin (tipo taller) y que pueda dedicar tiempo al equipo de evaluacin. Organizar con suficiente antelacin el final de la evaluacin, velando, en la medida de lo posible, por que se prepare un taller de informacin de retorno y por que participe en l una variedad adecuada de partes interesadas, y velar por que se celebre la sesin oficial de informacin de retorno con el gobierno.
6-17
Octubre de 2002
informe resumido de evaluacin, con el objetivo de presentar los hallazgos de la evaluacin a la Junta de Gobierno. La funcin del jefe de evaluacin Normalmente, el jefe de evaluacin no participa como miembro del equipo en la misin, pero gestiona el proceso de evaluacin en su conjunto, desde la elaboracin de los trminos de referencia hasta la difusin del informe final. El jefe de evaluacin debe poseer un alto grado de flexibilidad, establecer buenas lneas de comunicacin con el equipo y dedicar suficiente tiempo al proceso. Adems de preparar los trminos de referencia, la principal funcin del jefe de evaluacin durante la misin de evaluacin consiste en: facilitar el trabajo del equipo, asegurar que se invierte el tiempo adecuado con personal clave, actuar como enlace entre el equipo y los diferentes organismos implicados, preparar y facilitar los permisos y logstica necesarios para llevar a cabo la labor sobre el terreno, asesorar al equipo en torno a cuestiones actuales de poltica de la Federacin y las Sociedades Nacionales, suministrar informacin adicional y aclaraciones sin pretender manipular la opinin del equipo, cuando corresponda, determinar informantes claves adicionales, cuando corresponda, negociar y acordar modificaciones de los trminos de referencia y del itinerario, reunirse peridicamente con el equipo para asegurar que el trabajo est correctamente orientado, determinar el rendimiento del equipo y del jefe del equipo y, cuando corresponda, tomar medidas al respecto, facilitar la discusin en torno a los hallazgos en un grupo potencialmente numeroso de partes interesadas. Las evaluaciones brindan una excelente oportunidad de aprendizaje durante todo el proceso, y el jefe de evaluacin y el personal de las Sociedades Nacionales debern contactar peridicamente con el equipo. Fase I: Estudio terico y sesin de informacin El estudio/examen terico ha sido descrito anteriormente (Etapa 5 Estudio preparatorio (previo a la misin)). Teniendo en cuenta que habitualmente los miembros del equipo de evaluacin coinciden por vez primera en la sesin de informacin en el pas en que se pretende realizar la evaluacin, deber preverse suficiente tiempo para que el equipo se rena, revise los trminos de referencia y acuerde las tareas que realizar cada uno de sus miembros. ste es el papel del jefe del equipo, que debe velar adems por cubrir todos los aspectos de los trminos de referencia segn la experiencia y conocimientos de cada uno de los miembros del equipo. El jefe de evaluacin (la Divisin de Seguimiento y Evaluacin o la Sociedad Nacional) deber comprobar que esto se ha realizado y que los miembros del equipo entienden con exactitud lo que se espera de ellos. Se recomienda iniciar la misin con un taller de informacin de medio da de duracin en el que participen personal de la Sociedad Nacional y el equipo de evaluacin. Durante el taller, el equipo
6-18
Octubre de 2002
puede aclarar el propsito, alcance y cuestiones claves de la evaluacin y quines son los informantes claves para cada una de las cuestiones, adems de comprobar la matriz de planificacin adaptada. Tambin debern abordarse en este lugar el propsito y planificacin del taller de informacin de retorno (vase fase II). Fase II: Despus de la sesin de informacin la misin sobre el terreno Esta fase incluye el perodo comprendido entre el final de la sesin inicial de informacin de la Sociedad Nacional hasta que el equipo abandona el pas. Habitualmente, el equipo pasa los primeros das en la capital entrevistando a partes interesadas claves. En caso necesario, algunas de estas reuniones podrn programarse para la ltima semana de la misin. Durante la misin sobre el terreno, el jefe del equipo es responsable de la gestin diaria de la evaluacin, mientras que la Sociedad Nacional brinda el apoyo necesario para garantizar que el equipo pueda recorrer el itinerario previsto. Consideraciones relativas a la recopilacin de datos
Documentos oficiales
Los documentos oficiales son, probablemente, la primera fuente de datos que consulta el equipo de evaluacin, y los deber compilar el organismo ejecutor antes de la llegada del equipo al pas. Los informes de situacin y otros informes pertinentes sobre la marcha de las actividades posibilitan al equipo formarse una imagen de los acontecimientos segn fueron producindose. Los documentos relativos al diseo, memorandos/cartas de entendimiento, plan de la operacin y otros documentos de este tipo proporcionan el marco para analizar los objetivos, mandatos y cumplimiento de responsabilidades. Las actas de las reuniones suministran informacin acerca de las decisiones tomadas y de cundo y a razn de qu fueron tomadas.
Entrevistas
Generalmente, las entrevistas constituyen la principal fuente de informacin sobre qu y por qu ocurri. Los evaluadores debern conversar con la mayor variedad posible de partes interesadas, a fin de componer una imagen completa y equilibrada de la operacin. En la realizacin de las entrevistas a miembros del personal de los organismos, merece recordar que stos, en particular aquellas personas que trabajan en operaciones de emergencia, con frecuencia se implican y comprometen personalmente en gran medida en su trabajo y que probablemente hayan dado lo mejor de s mismos en circunstancias difciles. Por ello, las entrevistas, ms que con un enfoque de juicio, debern realizarse con la intencin de intercambiar las enseanzas extradas y entender por qu han podido ocurrir errores. En la evaluacin de situaciones de conflicto o posteriores al mismo, los evaluadores debern ser lo ms sensibles posible a las experiencias que puedan haber vivido los entrevistados. Las entrevistas a beneficiarios constituyen un elemento esencial de toda evaluacin. Tanto como representar una rica fuente de informacin, estas entrevistas pueden conceder una voz a quienes puedan haber perdido sus vas de comunicacin habituales.
Aunque puede darse el caso de no disponer de tiempo suficiente para llevar a cabo un ejercicio extenso de diagnstico rural participativo, siempre deber intentarse de algn modo utilizar tcnicas
6-19
Octubre de 2002
participativas y rpidas. Para verificar los hallazgos, es especialmente importante la triangulacin. La inclusin intencionada de personas que no se han beneficiado de la asistencia disponible puede ser un medio til para evaluar los procesos de seleccin de objetivos y beneficiarios. No obstante, no deberan subestimarse las dificultades que se presentan en el uso de tcnicas participativas en situaciones de conflicto o posteriores al mismo: Cuando conversan con los evaluadores, los beneficiarios pueden estarse exponiendo a riesgos, y puede ocurrir que los organismos sean percibidos como parciales. Es probable que las comunidades y grupos se hayan fragmentado, lo que dificultara encontrar participantes representativos o puntos de entrada para un proceso participativo. El trauma que pueden haber sufrido los beneficiarios puede ser tal que resulte inaceptable pedirles que vuelvan a narrar sus experiencias. Es poco probable que las comunidades y grupos entiendan el proceso de evaluacin. Existe el peligro de que la evaluacin participativa despierte esperanzas que posteriormente no puedan cumplirse. Visitas al terreno durante la misin de evaluacin Dependiendo del tamao del equipo de evaluacin, el tiempo disponible y la extensin del proyecto, el equipo puede realizar las visitas al terreno unido o fragmentado. Es aconsejable que participen la Sociedad Nacional y el gobierno en calidad de observadores, pues las visitas al terreno constituyen una buensima oportunidad para adquirir conocimientos. No obstante, deber procurarse no presentarse en el terreno, y en particular en las comunidades, con equipos excesivamente grandes. Cuando el equipo y observadores superen las cinco personas, deber considerarse la fragmentacin durante las visitas a las comunidades. Otra posibilidad sera que el jefe del equipo sugiriera dividir el grupo entero en varios equipos que aplicaran, cada uno de ellos, el mismo mtodo en diferentes comunidades. Por la noche se celebraran reuniones para comparar los hallazgos. El equipo deber reunirse con una muestra adecuada y representativa de beneficiarios y partes interesadas. Evtese el error de querer visitar un nmero excesivo de lugares a costa de que el equipo no disponga de suficiente tiempo en cada uno de ellos para realizar las entrevistas y aplicar los diferentes mtodos de evaluacin. A la vuelta de las visitas al terreno la ltima semana Tras regresar del terreno, el equipo deber disponer, al menos, de una semana ms en el pas. Durante este tiempo, el equipo podr desear entrevistar a informantes claves adicionales, revisar y analizar ms datos, y reunirse como equipo a fin de discutir los hallazgos y consecuencias de la visita al terreno y comenzar o continuar con la elaboracin del informe. El taller de informacin de retorno El taller de informacin de retorno es un acontecimiento esencial del proceso de evaluacin. La Sociedad Nacional es responsable de organizar las cuestiones de logstica, mientras que el jefe del equipo lo es de disear el taller y preparar el material necesario de presentacin. Cuando se dispone de fondos, el taller puede celebrarse en otro lugar que no sea la sede de la Sociedad Nacional y se pueden utilizar los servicios de un facilitador externo capacitado. El informe de misin Antes de abandonar el pas, el equipo deber elaborar un informe de misin. Este debe incluir los principales hallazgos, conclusiones y recomendaciones derivados de la misin y puede estructurarse segn el esbozo del informe resumido.
6-20
Octubre de 2002
Generalmente, el jefe del equipo esboza el informe de misin con la participacin de miembros del equipo. Posteriormente se entrega a la Delegacin en el pas para obtener sus comentarios al respecto. Dependiendo del programa y asesoramiento de la Sociedad Nacional, el informe de misin puede discutirse tambin con asociados de las Naciones Unidas, la comunidad de donantes, ONG y otras partes interesadas, a fin de aprovechar los comentarios que puedan aportar. El informe de misin se entrega al gobierno y se discute posteriormente con el mismo en una reunin. Cuando en el taller de informacin de retorno participan responsables superiores de toma de decisiones, esta fase puede suprimirse de comn acuerdo entre las partes. Disponiendo de tiempo, el equipo puede desear presentar los principales resultados en papelgrafo o PowerPoint. Una vez presentado al gobierno, el informe de misin normalmente ya no se corrige, a no ser que contenga errores fcticos. Tabla 6.7: El taller de informacin de retorno
Propsito y ventajas de un taller de informacin de retorno Se comunican los primeros hallazgos de la evaluacin a las partes interesadas y se intenta obtener su opinin respecto al proceso de evaluacin y los hallazgos registrados hasta ese momento. Foro de reflexin que puede servir de aprendizaje y en el que puede realizarse una revisin crtica de los componentes claves de la operacin o programa que se evala. No deber considerase como formalidad por la cual pasar con la mayor rapidez posible, sino como oportunidad esencial para adquirir nuevas percepciones. Se deber alentar a las partes interesadas a participar activamente en el taller, sabiendo que todava pueden influir en los hallazgos de la evaluacin. Puede posibilitar al equipo elaborar las recomendaciones e identificar las enseanzas junto con las partes interesadas. Quin deber participar? Personal implicado y beneficiarios. Segn proceda, podrn invitarse donantes seleccionados y representantes de organismos de las Naciones Unidas. En el caso ideal debern estar presentes los responsables de la toma de decisiones para el proyecto, pero no siempre es factible cuando stos son empleados superiores. En tal caso, los responsables de la toma de decisiones recibiran la informacin correspondiente durante la presentacin del informe de misin y por parte de sus empleados tcnicos que hayan participado en el taller de informacin de retorno. Cmo planificar y preparar el taller La fecha y lugar de celebracin del taller debern fijarse con suficiente antelacin para posibilitar la participacin del mayor nmero posible de partes interesadas. Se deber invitar a representantes de beneficiarios, y se les deber alentar a que consulten, antes y despus del taller, a las personas a las que representan. En cuanto se disponga del programa, lista de participantes, trminos de referencia y otros detalles pertinentes, debern distribuirse o comunicarse a todos aquellos invitados a participar. Es aconsejable utilizar tcnicas de visualizacin, tales como tarjetas de visualizacin de la planificacin del proyecto (VIPP de sus siglas en ingls (Visualisation in Participatory Planning)), y tcnicas de moderacin, tales como ejercicios en grupo y grupos Buzz. Para ello ser necesario que el lugar de celebracin sea lo suficientemente amplio y contenga suficiente superficie de pared para realizar ejercicios en grupos fragmentados y para exponer en las paredes las presentaciones de los grupos, pudiendo verlas todos los participantes. (Como norma general, para 15 participantes se requerir un local de al menos 80 m2). La disposicin de los asientos influir enormemente en la evolucin del taller. Deber evitarse la forma habitual de sentarse en mesas, con tarjeta de identificacin, micrfono, etc., pues es probable que perjudique la interaccin entre participantes e incluso intimide a algunos de ellos, poco acostumbrados a este tipo de reuniones. Con ayudas visuales como transparencias, papelgrafos previamente estructurados y hojas de trabajo, se lograr centrar la atencin en las presentaciones de los grupos y discusiones con los participantes. Deber velarse por que todos estos materiales estn redactados con claridad y sean legibles para todos los participantes que se encuentren en el local. Cuando se prevea un nmero elevado de participantes, puede resultar conveniente contratar a un facilitador experimentado que dirija las discusiones y maximice la participacin. Cuando se prevea que el taller vaya a durar ms de medio da, ser necesario ofrecer bebidas y una comida.
6-21
Octubre de 2002
Fase III: Sntesis y elaboracin del informe Hasta cierto punto, las fases segunda y tercera se superponen, pues muchos equipos inician la sntesis y la elaboracin del informe mientras se encuentran todava en el pas. Como cuestin de principio, el informe de misin deber contener los principales hallazgos claves, conclusiones y recomendaciones. Cuando se disponga de fondos suficientes, es recomendable extender la presencia del jefe del equipo en el pas para que pueda finalizar la mayor parte del informe mientras permanezca en el mismo. De esta manera se podrn obtener opiniones y realizar consultas adicionales y se garantizar la entrega puntual del informe de evaluacin. Si desea obtener informacin adicional acerca de la preparacin del informe, consulte el punto 6.7 Etapa 7 Preparacin del informe de evaluacin.
6-22
Octubre de 2002
6.7
6.7.1 Procedimiento
Habitualmente, el jefe del equipo es responsable de cotejar las aportaciones de los miembros del equipo y, a partir de ellas, elaborar el informe final. Este deber entregarse, en general, en un plazo de tres semanas tras concluir la misin. El borrador de informe lo revisan y comentan las unidades y oficinas implicadas de la Federacin y las Sociedades Nacionales, y el jefe del equipo realiza las modificaciones necesarias en respuesta a los comentarios recibidos. A fin de preservar la independencia, ser el jefe del equipo quien decida cules son, definitivamente, las conclusiones y recomendaciones finales. No obstante, cuando exista una discrepancia importante por parte de alguna de las partes interesadas claves, deber reflejarse en el informe. Dada la complejidad de las operaciones de ayuda humanitaria y teniendo en cuenta que la documentacin y datos disponibles frecuentemente son inadecuados, es esencial, por razones de credibilidad y competencia, que el borrador de informe se intercambie entre el mayor nmero posible de partes y que se facilite suficiente tiempo para preparar, recibir y considerar los comentarios. Los informes resumidos de evaluacin son un requisito para todas las evaluaciones. El procedimiento a seguir en su elaboracin es el siguiente: Para evaluaciones gestionadas por la Divisin de Seguimiento y Evaluacin Se presentan al Secretario General de la Federacin todos los resultados de la evaluacin gestionada por la Divisin de Seguimiento y Evaluacin en un informe resumido que no debe exceder las 5.000 palabras, en el que se destacan los hallazgos y conclusiones de la evaluacin y las recomendaciones formuladas por el equipo de evaluacin. El resumen de la evaluacin corre a cargo del jefe del equipo, que utiliza el esquema habitual. Para evaluaciones gestionadas por la Delegacin en el pas Como cuestin de principio, antes de elaborar el informe de cualquier evaluacin deber realizarse un resumen de la evaluacin. En l debern incluirse los principales hallazgos, recomendaciones y enseanzas derivados de la misin, y podr adoptar la forma de los resmenes elaborados por la Divisin de Seguimiento y Evaluacin. Los resmenes de evaluaciones gestionadas por Sociedades Nacionales debern entregarse a la Divisin de Seguimiento y Evaluacin para su posible inclusin en el Informe Anual. La revisin y aprobacin internas de los resmenes de evaluaciones siguen el siguiente proceso normalizado: Tabla 6.8: Etapas de la revisin y aprobacin de informes de evaluacin entregados a la Junta de Gobierno 1. El equipo de evaluacin, considerando debidamente los comentarios del informe de misin, esboza los
informes completo y resumido y los distribuye, va jefe de evaluacin de la Divisin de Seguimiento y Evaluacin, a los responsables de la operacin o programa para obtener sus comentarios. 2. Se deja a criterio de la Sociedad Nacional decidir si enviar al gobierno los borradores de los informes completo y resumido para obtener sus comentarios. 3. El jefe del equipo (o el jefe de evaluacin) incorpora los comentarios recibidos en los informes completo y resumido, segn proceda. 4. El director de la Divisin de Seguimiento y Evaluacin aprueba el borrador del informe resumido para su distribucin al personal ejecutivo a fin de obtener sus comentarios. 5. El jefe de evaluacin incorpora las observaciones del personal ejecutivo segn proceda y vela por que la versin modificada no contradiga al informe completo. 6. El director de la Divisin de Seguimiento y Evaluacin aprueba el informe resumido definitivo para su entrega a la Junta de Gobierno, que lo tramitar. 7. El informe resumido revisado y traducido se enva a la Sociedad Nacional que, a su vez, lo enva al gobierno, en ambos casos para servir de informacin, como medida de seguimiento y para notificar mediante la matriz de medidas de gestin (seguimiento de recomendaciones), segn proceda.
6-23
Octubre de 2002
6-24
Octubre de 2002
6.8
Tan pronto estn elaborados los informes completo y resumido de evaluacin, debern distribuirse a todas las partes interesadas. En el nivel nacional, la Sociedad Nacional decidir quin deber recibir el informe completo y quin el resumido. En el nivel de sede central, la Divisin de Seguimiento y Evaluacin presenta al Secretario General todos los resmenes producidos en la divisin. A peticin de las Sociedades Nacionales, los informes resumidos podrn incluirse en la pgina Web de la Federacin. Las Sociedades Nacionales tambin pueden considerar la difusin de los hallazgos de la evaluacin como herramienta de sensibilizacin. Puede hacerse a travs de comunicados y entrevistas de prensa o en programas de radio y televisin.
6-25
Octubre de 2002
6.9
El valor fundamental de una evaluacin estriba en su utilizacin y aplicacin inmediatas y, en su caso, en su influencia sobre futuros programas y polticas en el nivel local y en la organizacin que la haya efectuado. Para qu pueden utilizarse los resultados de una evaluacin? Mejora de la gestin Modificacin de la estrategia actual de la operacin, incluido el producto que se pretende obtener Mejora del seguimiento Mejora/modificacin/creacin de asociaciones, aportaciones de los asociados Ayuda en la toma de decisiones (si obrar o no) Informacin para la formulacin de polticas Proporcionar orientacin/asesoramiento/enseanzas para (volver a) disear una fase Proporcionar informacin para la sensibilizacin y obtencin de fondos Actualizar informacin acerca de la situacin en que se encuentran las bases de subsistencia de los beneficiarios de la Federacin y de las Sociedades Nacionales Proporcionar una estimacin independiente de los resultados obtenidos Es importante difundir al mximo los resultados de la evaluacin entre todas las partes interesadas. Ms all de distribuir el informe o un resumen del mismo, resulta extremadamente eficaz mantener discusiones en grupo y celebrar seminarios o incluso retiros para discutir los hallazgos y consecuencias de una evaluacin. Ello puede representar, adems, una oportunidad para discutir el diseo de la siguiente fase. El aprendizaje a partir de la evaluacin mejorar si el personal de la Sociedad Nacional est plenamente preparado para realizar la evaluacin y participa en la misma. Para poder aprovechar los resultados, los responsables de gestionar la evaluacin deben desempear un papel activo en la negociacin de objetivos y cuestiones claves de la evaluacin as como del mtodo aplicado en la misin. El aprendizaje ptimo tendr lugar cuando la Sociedad Nacional conceda al equipo de evaluacin todo el tiempo y libertad de accin necesarios, a la vez que debe protegerse la opinin independiente del evaluador. Para prevenir sorpresas futuras, pueden celebrarse breves y frecuentes sesiones de informacin de retorno durante toda la misin. El taller de informacin de retorno al final de la misin constituye un foro para discutir con franqueza y de forma crtica las cuestiones identificadas y para reflexionar conjuntamente sobre las recomendaciones y actividades futuras. Aunque generalmente pueda aprenderse a partir de los hallazgos, conclusiones y recomendaciones de la evaluacin, puede resultar de ayuda ir un paso ms all y determinar las enseanzas que puedan extraerse. En su forma ms sencilla, las enseanzas nos permiten evitar volver a inventar la rueda o cometer, una y otra vez, los mismos errores. Las enseanzas se diferencian de los hallazgos y recomendaciones en que son aplicables a situaciones genricas, ms que a circunstancias especficas. Es importante destacar en el ejemplo mencionado anteriormente, que en el nivel de proyecto el resultado ms til de la evaluacin lo constituirn las recomendaciones hechas. La enseanza o leccin que puede extraerse del hallazgo o recomendacin adquirir una utilidad mxima si se aplica en situaciones futuras y se intercambia con los dems (es decir, informar a los responsables de la formulacin de polticas, diseo de proyectos en otros lugares, etc.). Por ello, se insta a los evaluadores y a las partes interesadas de la evaluacin a identificar las enseanzas y recomendaciones que podran tener una aplicacin ms general en la organizacin y a determinar quines, finalmente, debern aprovechar el aprendizaje (p. ej. unidades tcnicas o de logstica pertinentes en la sede central). Los que finalmente aprovecharn las enseanzas pueden encontrarse tambin en el nivel nacional en particular cuando las enseanzas identificadas puedan influir sobre la formulacin de polticas nacionales o la labor de otros donantes y organismos.
6-26
Octubre de 2002
Recomendacin
Afirmacin normativa
ENSEANZA
6-27
Octubre de 2002
6-28
Octubre de 2002
establecer una gestin eficaz de sistemas de archivo y de informacin, de forma que pueda disponerse fcilmente de los principales informes y documentos de decisiones.
6-29
Octubre de 2002
6-30
Octubre de 2002
7.
7.1
Estudios de referencia
Qu es un estudio de referencia?
El estudio de referencia consiste en el anlisis y descripcin de la situacin reinante antes del comienzo de una operacin o programa, frente a la cual pueden medirse los cambios o establecerse comparaciones. El estudio de referencia proporciona un punto de referencia (breve descripcin de la situacin actual) para los objetivos de la operacin y se centra fundamentalmente en las variables sobre las cuales se pretende influir con la operacin seguridad alimentaria, estado nutricional, propiedad de bienes, acceso a escuelas, etc. -, resumidas por los indicadores incluidos en la matriz de planificacin. El estudio de referencia constituye la base para el seguimiento y la evaluacin, realizndose en una etapa posterior un estudio complementario (habitualmente a mitad o final de la operacin) para facilitar la medicin de las consecuencias e impacto de una operacin. As, el estudio de referencia es una herramienta esencial en la gestin basada en resultados: sin datos de referencia es difcil, si no imposible, determinar el cambio provocado realmente por la operacin. Figura 7.1: Los estudios de referencia y complementario en el ciclo del proyecto
Planificacin
Estudio de referencia
Cul es la situacin antes de comenzar la operacin/programa?
Ejecucin
Seguimiento
Vamos bien encaminados hacia el logro de los objetivos que nos hemos fijado?
Evaluacin
Estudio complementario
Qu se ha logrado?
Son varios los principios que deben considerarse en relacin con los estudios de referencia: En todo tipo de operacin son siempre necesarios los datos de referencia. Sin ellos y sin algn tipo de estudio complementario, no es posible determinar con seguridad los resultados. Las fuentes de datos secundarios debern ser siempre el primer punto de referencia en la recopilacin de datos de referencia. Cuando sea posible, los datos de referencia debern recopilarse de fuentes existentes la elaboracin de estudios de referencia puede resultar costosa y requerir mucho tiempo, y existen numerosos ejemplos de estudios que proporcionan informacin con retraso, incompleta o poco fidedigna. Los planes para la recopilacin de datos de referencia debern prever la realizacin de un estudio complementario, en el cual se utilizarn los mismos mtodos y se estudiarn la misma muestra o lugares, a fin de generar datos comparables.
En el caso ideal, los datos de referencia se recopilarn antes de empezar a ejecutar el proyecto. Siendo ste el caso, los datos de referencia podrn servir de ayuda en el proceso de planificacin, permitiendo a los planificadores afinar el diseo de la operacin. Que los datos de referencia se recopilen despus de iniciarse la ejecucin de la operacin (caso frecuente en las operaciones de emergencia), puede no resultar problemtico, siempre y cuando los datos reflejen la situacin existente antes de comenzar las principales actividades de la operacin. Son tres los problemas frecuentes en la realizacin de estudios de referencia: Se intentan recopilar demasiados datos, lo que dificulta su anlisis (consecuencias para la rentabilidad y para la oportunidad de la notificacin) y el pleno aprovechamiento del anlisis resultante. Por lo tanto, resulta esencial ser riguroso en la determinacin de los datos de referencia necesarios. 7-1
Octubre de 2002
Con frecuencia, los estudios de referencia se realizan despus del comienzo de la operacin. Aunque este hecho no debe por qu preocupar si no se han emprendido todava actividades, es preferible asegurar que se haya organizado con antelacin el estudio y que posiblemente incluso se haya incluido como una etapa del proceso de aprobacin. Los estudios de referencia se llevan a cabo sin disponer del plan o presupuesto para el estudio complementario que necesariamente deber realizarse. Aunque los datos de referencia son tiles para la planificacin, tambin desempean una funcin fundamental en la evaluacin, para la cual es necesario disponer de algn tipo de estudio complementario, a fin de comparar las situaciones antes y despus de la operacin. Para que los datos sean comparables, debe existir coherencia en los mtodos y herramientas utilizados. Por lo tanto, es importante reflejar con claridad en el estudio de referencia cmo se han recopilado y analizado los datos. Es muy probable que, en los dos o tres aos desde que se elabor el estudio de referencia, el personal haya cambiado, y el nuevo personal necesitar buen material de referencia a fin de poder reconstruir un conjunto de datos comparables.
7-2
Octubre de 2002
7.2
Un aspecto fundamental que deben tener en cuenta la Federacin y las Sociedades Nacionales a la hora de disear un estudio de referencia es la naturaleza de la operacin para la cual se requiere el estudio. En la tabla 7.1 se reflejan las caractersticas de la recopilacin de datos de referencia y las consecuencias para la misma segn se trate de actividades de desarrollo o de operaciones de emergencia y de desarrollo. Tabla 7.1: Caractersticas de la recopilacin de datos de referencia y consecuencias para la misma segn diferentes tipos de operacin
Tipo de operacin Caractersticas: Actividades de desarrollo Las operaciones de desarrollo tienen una perspectiva de planificacin, y el proceso del ciclo del proyecto crea espacio potencial para elaborar estudios de referencia y complementarios. Colaborar con asociados activos en el mbito del desarrollo puede traducirse en un inters ms amplio por disponer de datos de referencia y en apoyo (recursos) para la recopilacin de datos. Se dispone de ms tiempo para recopilar datos de buena calidad y mejorar la capacidad del personal. Operaciones de emergencia y de desarrollo El ritmo de trabajo supone que la evaluacin preliminar, el anlisis de referencia y el inicio de la operacin suceden todos al mismo tiempo. Es probable que los datos de la evaluacin preliminar constituyan un componente importante de la referencia. Es probable que la recopilacin de datos favorezca mtodos rpidos que puedan producir resultados rpidos, aunque menos precisos.
Cuando la operacin es la continuacin de una anterior, es probable que se disponga ya de una cantidad significativa de datos del seguimiento y de la evaluacin preliminar, de una evaluacin final o de un estudio complementario realizado con una referencia anterior. En estas circunstancias, los datos disponibles debern examinar cuidadosamente a fin de determinar cules podran utilizarse para establecer la nueva referencia. En la verificacin de la exactitud y fiabilidad de datos secundarios son aplicables los principios habituales (vase punto 8.3 Utilizacin de datos secundarios (mdulo 8). Con la introduccin de programas nacionales y documentos de estrategia para reducir la pobreza (PRSP por sus siglas en ingls), muchos pases han iniciado procesos de anlisis y cuantificacin del grado de pobreza utilizando criterios extrados de metas y objetivos del mbito del desarrollo internacional (vanse los objetivos de desarrollo de la Organizacin para la Cooperacin y Desarrollo Econmicos (OCDE) para 2015). En muchos pases, el Programa de las Naciones Unidas para el Desarrollo (PNUD) desempea una funcin directora en el proceso de seguimiento de la pobreza y existen programas estructurados para llevar a cabo estudios nacionales diseados a fin de realizar un seguimiento de la pobreza y bienestar. En estos pases, es posible que los indicadores de pobreza, junto con indicadores de seguridad alimentaria, puedan sustituir parte o toda la informacin de referencia requerida. El principal problema consistira en comprobar la existencia de datos para el rea especfica del proyecto o para el grupo beneficiario en cuestin. Los factores discutidos se exponen de forma resumida en la tabla 7.2.
7-3
Octubre de 2002
7-4
Octubre de 2002
7.3
A continuacin se exponen las etapas bsicas de la planificacin y gestin de un estudio de referencia, detalladas en los siguientes apartados. 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. Decidir si es necesaria una encuesta de referencia Decidir quin realizar el estudio de referencia Determinar los objetivos del estudio Determinar la pertinencia Determinar las preguntas y temas que deber abordar el estudio Seleccionar las unidades de estudio (p. ej. hogares, escuelas, comunidades, etc.) Decidir la utilizacin de un grupo de comparacin Controlar la posible influencia de un ao o intervalo de tiempo de caractersticas especiales Determinar qu datos secundarios se utilizarn Elegir tcnicas de recopilacin de datos primarios Seleccionar la muestra o los lugares que se visitarn Preparar el plan de trabajo y presupuesto
7-5
Octubre de 2002
Costo
Fuentes secundarias
Documentos oficiales
Informes de gestin
Complejidad
* Las estadsticas ordinarias adaptadas se refieren a las estadsticas obtenidas a partir de actividades rutinarias de recopilacin de datos, analizadas de nuevo posteriormente a fin de constituir la referencia de la operacin.
7-6
Octubre de 2002
7-7
Octubre de 2002
Ejemplos Las unidades de estudio para la operacin de educacin son las nias, nios y sus padres; y en cuanto a los bienes de la escuela lo son la escuela o posiblemente el aula. Para la operacin de creacin de bienes, las unidades de estudio son las tierras de secano, las de regado y las familias agrarias. En el caso de la operacin de promocin de bases de subsistencia sostenibles, las unidades de estudio son los hogares y los miembros de los mismos (probablemente miembros adultos).
antes con
grupo experimental
despus
proceso de cambio con operacin
grupo de comparacin
sin
Son dos las cuestiones claves que deben considerarse al tomar la decisin de si incluir o no un grupo de comparacin en la muestra: Pueden encontrarse unidades de estudio cuyas caractersticas se ajusten suficientemente a las de la poblacin beneficiaria (grupo experimental)? Se dispone de suficientes recursos para ampliar el tamao de la muestra incluyendo un grupo de comparacin?
Para que la comparacin entre la poblacin beneficiaria y el grupo de comparacin sea vlida, las dos partes debern asimilarse suficientemente en sus caractersticas claves influyentes (proceso conocido como concordancia). En caso contrario, cualquier cambio observado entre los dos grupos en la situacin de despus podra ser, simplemente, el resultado de diferencias existentes previamente. En la prctica, es imposible una concordancia perfecta, y deber juzgarse qu caractersticas constituyen una concordancia adecuada. Un ejemplo sencillo de un compromiso en ese sentido en el caso de un estudio de referencia relativo a la alimentacin escolar sera seleccionar escuelas en zonas de agroeconoma similar. 7-8
Octubre de 2002
La utilizacin de un grupo de comparacin requiere asignar a este grupo una parte de los recursos disponibles para realizar el estudio. Para obtener resultados significativos desde el punto de vista estadstico, el grupo de comparacin deber ser de un tamao comparable al de la poblacin beneficiaria. Probablemente esto signifique que el estudio resultar considerablemente ms costoso. La utilizacin de un grupo de comparacin (si se incluye en un estudio bien diseado), siempre proporcionar una mejor base para la atribucin de los cambios, por lo que debern sopesarse los costos adicionales frente a los beneficios derivados de una mejor capacidad para atribuir los cambios a la operacin.
Si desea orientarse con mayor detalle acerca de la utilizacin de datos secundarios, consulte el punto 8.3 Utilizacin de datos secundarios (mdulo 8).
7-9
Octubre de 2002
Orientacin en torno a tcnicas de recopilacin de datos Son pocos los estudios en los que se aplica una sola tcnica: los estudios participativos con frecuencia incluyen cuestionarios para encuestados individuales; a las reuniones en grupo muchas veces les siguen entrevistas individuales; las superficies de tierra pueden medirse con exactitud, mientras que la produccin se calcular a partir de los datos obtenidos de los agricultores. De lo que se trata es de elegir la herramienta adecuada para la labor que se desee realizar. Por ejemplo: Cuando se necesitan datos muy precisos obtenidos a partir de mediciones, tales como el aporte energtico para conocer el dficit nutricional, debern utilizarse entrevistas individuales y preguntas exactas o una tcnica de medicin especfica. Cuando lo que se necesita es informacin sobre la opinin o percepcin de las personas, y cuando son suficientes datos generales como p. ej. que el 25 % de los hogares se autoabastecen con alimentos durante 3 meses o menos, sern aceptables los datos procedentes de reuniones de un grupo temtico y debates abiertos. Como pauta general para la mayora de los estudios de referencia, cabe afirmar que las tcnicas participativas bien estructuradas y para las cuales est documentada meticulosamente la recopilacin de datos, sern suficientes para la mayora de las operaciones de la Federacin y de las Sociedades Nacionales. Es ste el caso, especialmente, en situaciones en las que adems se dispone de datos secundarios sobre pobreza y bienestar.
En el punto 8.2 Herramientas para la recopilacin de datos (mdulo 8) se ofrecen ms detalles sobre mtodos para la recopilacin de datos primarios.
7-10
Octubre de 2002
Se pueden aplicar varias normas generales. A fin de disponer de suficientes datos sobre las unidades de estudio para poder informar acerca de los resultados de un lugar o servicio especficos, deber entrevistarse a un mnimo de 30 unidades. P. ej., 30 nios en una escuela o 30 madres que asisten a una clnica de seguimiento postparto. Para establecer comparaciones entre lugares o servicios, tales como entorno rural/entorno urbano, o entre una escuela y otra, ser mejor disponer de una muestra ms amplia, concretamente entre 60 y 100 unidades. Para unidades de estudio como comunidades, en las que las comparaciones debern establecerse entre distritos y tipos de operacin (p. ej. desarrollo del riego o de carreteras de acceso), debern seleccionarse no menos de 5 comunidades para cada categora (5 en el distrito 1, riego; 5 en el distrito 1, carreteras de acceso; 5 en el distrito 2, riego; 5 en el distrito 2, carreteras de acceso; etc.). A fin de evitar un posible sesgo resultante de la seleccin, es frecuente realizar un muestreo informal. P. ej., en una visita a un poblado, realice las encuestas en las viviendas 5, 10, 15, etc. avanzando en direccin norte a partir del centro del poblado o a partir de donde haya aparcado el vehculo. En reuniones, plantee preguntas a miembros del grupo seleccionndolos por cuadrantes. En un mercado, elija la muestra de comerciantes recorriendo transectos a travs del mercado y parando cada x comerciantes. Normalmente se utiliza un intervalo de confianza del 95 %, para asegurar que el error de muestreo sea aceptable. Sin embargo, los errores ajenos al muestreo (p. ej. errores en la medicin) con frecuencia constituyen un factor ms importante en la determinacin de la exactitud y precisin generales de los datos. Un intervalo de confianza amplio implica un tamao de muestra relativamente grande, con todos los costos que ello conlleva. Por ello, puede constituir una alternativa prctica reducir el intervalo de confianza requerido (p. ej. al 80 %), lo que resulta en un tamao ms pequeo de la muestra, e invertir despus parte de los fondos que se han ahorrado as en una formacin ms rigurosa del personal que trabajar sobre el terreno, a fin de reducir el riesgo de cometer errores ajenos al muestreo. La inclusin de grupos de comparacin en la muestra es una forma de inferir causalidad. Los grupos de comparacin son unidades de estudio no implicadas en la operacin y no afectadas por la misma, que permiten establecer una comparacin frente a los beneficiarios, es decir entre con y sin operacin. El problema consiste en determinar unidades de estudio que presenten las mismas caractersticas a las de las unidades afectadas por la operacin, a fin de que la comparacin sea pertinente. En el diagnstico rural participativo/rpido es crtica la seleccin de los lugares, pues es muy probable que a causa del tiempo y trabajo que deben invertirse en cada una de las visitas nicamente puedan visitarse pocos lugares. El nmero de lugares que pueden estudiarse depender de la disponibilidad del personal especializado del equipo y del tiempo que pueda invertir sobre el terreno. En cualquier caso, el principio de ignorancia ptima (optimal ignorance) sugiere que no es el nmero de lugares visitados lo que importa, sino su grado de representatividad. Para orientarse detalladamente acerca de la seleccin de lugares para el diagnstico rural participativo/rpido, consulte el RRA Manual (Manual de diagnstico rural rpido) de los Catholic Relief Services.
7-11
Octubre de 2002
Tabla 7.3: Ejemplo del contenido de un plan de trabajo para un estudio de referencia
Resumen (incluir calendario/diagrama de Gantt) Antecedentes y propsito del estudio Resumen de objetivos, indicadores y beneficiarios de la operacin Objetivos del estudio Preguntas y temas a estudiar Examen de fuentes de datos disponibles Recopilacin de datos Unidades de estudio Utilizacin de datos secundarios Tcnicas de recopilacin de datos Seleccin de muestra/lugares Diseo Diseo del cuestionario o de la lista de verificacin Plan para las pruebas Trabajo sobre el terreno El equipo de trabajo sobre el terreno Formacin necesaria Calendario para el trabajo sobre el terreno Plan para la supervisin Plan para verificar y archivar los datos Procesamiento y anlisis de datos Plan para el procesamiento y anlisis de datos Tablas de datos propuestas Formacin necesaria Notificacin e informacin de retorno Forma propuesta para el informe del estudio Plan para la presentacin de hallazgos Anexos: Presupuesto Documento del diseo de la operacin
Aunque no es posible orientar con exactitud acerca de los costos de la recopilacin de datos primarios de referencia, en un presupuesto para la recopilacin de datos de referencia posiblemente deban incorporarse las siguientes partidas:
7-12
Octubre de 2002
Tabla 7.4: Posibles partidas a incluir en el presupuesto para una estudio de referencia
Ttulo del presupuesto Personal
Formacin
Transporte Equipos
Papelera
Publicidad
Imprevistos
7-13
Octubre de 2002
7.4
Cmo analizar los datos y cmo elaborar informes a partir de los mismos
Sea cual sea el mtodo aplicado, los resultados de la recopilacin y anlisis de los datos de referencia debern presentarse en un informe interesante y bien estructurado. El exceso de detalles puede confundir y desviar la atencin de los principales hallazgos. Cuando el informe est mal redactado o estructurado, es probable que el valor de los datos pase desapercibido a los responsables de gestin de la operacin y a las personas encargadas de llevar a cabo posteriormente el seguimiento y evaluacin de la misma.
Octubre de 2002
Todos los datos debern presentarse en tablas bsicas que contengan un clculo adecuado de la tendencia central (media o mediana en el caso de nmeros cardinales, modo en el caso de datos ordinales o nominales), junto con una presentacin adecuada de la distribucin (distribucin de la frecuencia para datos ordinales o nominales, desviacin estndar para la media aritmtica, amplitud intercuartil para las medianas). Deber solicitarse a la organizacin que lleva a cabo el estudio y la recopilacin de datos que especifique tablas de datos antes de iniciar el trabajo. Cuanto ms detallados sean los datos, tanto ms probable es que el estudio alcance sus objetivos.
El informe deber estar estructurado de forma que se adapte a las circunstancias especficas de la operacin. An as, la tabla 7.5 sirve de orientacin general al respecto. Tabla 7.5: Ejemplo del contenido de un informe de un estudio de referencia
Resumen (incluir tabla de valores de referencia de los indicadores clave) Diseo del estudio Antecedentes y propsito del estudio Objetivos Alcance de las preguntas y temas Unidades de estudio Utilizacin de datos secundarios Eleccin de la tcnica Hallazgos Poblacin (clculos de la poblacin de inters en las reas beneficiarias) Beneficiarios seleccionados (clculos de grupos beneficiarios pertinentes) Indicadores clave de rendimiento pertinentes para la operacin (estructuracin de acuerdo con la estructura de la matriz de planificacin: participacin de grupos beneficiarios en las actividades; datos relativos al producto; datos relativos a las consecuencias) Comparaciones con datos de otras fuentes o de aos anteriores Comparaciones con datos del grupo de comparacin (en el caso de estar incluido en la muestra) Repercusin sobre el seguimiento y evaluacin Cuestiones relativas a la metodologa de recopilacin de datos Anexos de datos Tablas de datos resumidos segn unidades de estudio geogrficas u otras unidades de estudio pertinentes
7-15
Octubre de 2002
7.5
El propsito de la recopilacin de informacin de referencia es sentar las bases para el seguimiento y evaluacin posteriores. Por ello, en el informe de referencia debern determinarse mtodos y estrategias adecuados para la realizacin del seguimiento y evaluacin. Un ejemplo sencillo, que sirve para ilustrar esta relacin, es el del estado nutricional. La determinacin de las necesidades de alimentos en una situacin de emergencia puede incluir estudios nutricionales que proporcionen una referencia sobre el estado nutricional de la poblacin. Es importante que durante el diseo del estudio nutricional de referencia se considere qu tcnicas antropomtricas podran utilizarse que, a su vez, fueran tcnicas prcticas para ser incluidas en el sistema de seguimiento de la operacin. La utilizacin de una misma tcnica (p. ej., medicin de la circunferencia del antebrazo en menores de 5 aos) en el estudio nutricional de referencia y en el sistema de seguimiento, permite orientar los progresos durante la operacin ms eficazmente hacia el logro de los objetivos. Deber pensarse tambin sobre la necesidad de realizar o no un estudio complementario y sobre cundo sera el momento adecuado para realizarlo. Cuando est prevista una fase posterior de la operacin, puede ser necesario elaborar un estudio complementario mientras se est ejecutando la operacin p. ej. como preparacin para la planificacin o misin de apreciacin para la siguiente fase. En el caso de operaciones que se estn concluyendo, el estudio complementario deber realizarse inmediatamente antes o despus de su conclusin, a fin de poder determinar todo su impacto. Los datos obtenidos en el estudio complementario se comparan entonces directamente con los datos de referencia, a fin de determinar las diferencias - cul era la situacin anteriormente? cul es la situacin en la actualidad? Los datos necesarios para establecer la comparacin entre antes y despus (o con y sin en el caso de utilizar un grupo de comparacin) pueden proceder del sistema de seguimiento. En este caso, los costos del estudio complementario sern considerablemente inferiores a los del estudio de referencia inicial. No obstante, en caso de no ser as, el estudio complementario supondr unos costos similares, en trminos reales, al estudio de referencia. En el caso de operaciones de emergencia y de desarrollo, al obtenerse los datos de referencia generalmente a partir de evaluaciones preliminares, los datos de seguimiento podrn obtenerse a partir de estimaciones posteriores. Al final de la operacin puede seguir existiendo la necesidad de llevar a cabo una estimacin final como parte de la evaluacin, a fin de determinar si se han alcanzado los objetivos.
7-16
Octubre de 2002
7-17
Octubre de 2002
8.
En este mdulo se presentan algunos conceptos bsicos y definiciones relativos a la recopilacin y anlisis de datos y se ofrece un resumen de las herramientas y mtodos disponibles en este mbito. Se proporcionan, adems, vnculos para material de referencia clave disponible tanto dentro de la Federacin y las Sociedades Nacionales como fuera de ellas, en el que puede encontrarse el cmo... detallado para cada una de las herramientas indicadas.
8.1
Conceptos y definiciones
datos
procesamiento
informacin
El objetivo de la informacin es aumentar los conocimientos del usuario y reducir sus dudas, lo cual slo puede alcanzarse cuando la informacin es de calidad. La palabra calidad hace referencia, en este lugar, a las caractersticas que deber exhibir la informacin a fin de resultar til para tomar decisiones racional y eficazmente. Concisin La informacin deber estar refinada y resumida de tal manera que ofrezca al usuario precisamente lo que necesite, ni ms ni menos. Toda informacin superflua significa almacenaje, procesamiento y asimilacin adicionales y, con ello, decisiones de peor calidad. Integridad En la medida de lo posible, toda la informacin deber presentarse en un slo documento, a fin de prevenir la prdida de tiempo y la interpretacin errnea de datos interrelacionados. Exactitud/seriedad La informacin suministrada deber ser suficientemente exacta para el propsito al que se destina. Elevar el nivel de exactitud incrementa los costos, mientras que no siempre aumenta el valor de la informacin. P. ej., saber que el tamao medio de las familias es de 4,7 personas no resulta ms til que saber que el valor se encuentra entre 4 y 5. 8-1
Octubre de 2002
Oportunidad La informacin puede ser muy exacta, pero si se suministra con retraso carecer de valor. Cuando no pueda alcanzarse la exactitud deseada en el tiempo disponible, deber establecerse un compromiso entre la velocidad de suministro y la exactitud de la informacin. Buena presentacin El usuario debe poder asimilar la informacin con rapidez. Con frecuencia, una presentacin deficiente puede ocultar el mensaje que pretende transmitir la informacin. La utilizacin de figuras, grficos y otros diagramas contribuye a facilitar la asimilacin de la informacin, pero deber tenerse cuidado de asegurar que cada uno de ellos transmita el mensaje deseado. Pertinencia Solamente tiene valor la informacin que es importante para las decisiones que deben tomarse. Cuando no existe una relacin entre la informacin suministrada y los requisitos por parte de la toma de decisiones (p. ej. proporcionando informacin inadecuada, demasiada informacin o informacin con un nivel de detalle inapropiado), se socavar el valor de la informacin. Rentabilidad Como recurso en el proceso de toma de decisiones, la informacin posee un costo y un valor. Costos en cuanto a los recursos invertidos en recopilar y procesar los datos, y valor en cuanto a los beneficios ms amplios derivados de una decisin correcta tomada de acuerdo con los hallazgos.
Por muy cientficos que sean los mtodos utilizados, ninguna investigacin carece completamente de sesgo. El proceso de diseo y realizacin de un ejercicio de recopilacin de datos y el anlisis de los mismos se vern influenciados por la experiencia, percepciones e hiptesis del investigador, as como por las herramientas aplicadas y estrategias seguidas para la seleccin de la muestra y la recopilacin de datos. El sesgo puede producirse en una o varias de las tres etapas de diseo, recopilacin de datos y anlisis de los mismos: Sesgo producido en la etapa de diseo Independientemente de la herramienta utilizada para recopilar los datos (encuesta regular, investigacin rpida o participativa), es posible que 8-2
Octubre de 2002
la muestra seleccionada no represente a la poblacin que pretende presentar. P. ej., el punto de vista de los hombres puede ser distinto al de las mujeres; las poblaciones situadas cerca de carreteras pueden poseer problemas diferentes a los de poblaciones ms remotas; etc. Sesgo producido en las mediciones Las preguntas pueden plantearse de forma capciosa; la medicin directa puede realizarse de forma incorrecta; la actitud del entrevistador puede influir en la forma de plantear las preguntas y de registrar las respuestas. Sesgo producido en el anlisis Puede ocurrir que los datos no estn desglosados debidamente; formas diferentes de analizar los datos pueden generar resultados diferentes.
En la eleccin de los mtodos de recopilacin de datos con frecuencia deber llegarse a un compromiso entre exactitud y precisin. Sin embargo, en todo momento y para todos los mtodos es imprescindible evitar o tratar de solucionar el sesgo. Si desea obtener una explicacin ms detallada acerca del sesgo en el contexto del diagnstico rpido o participativo, consulte Methodological Principles (RRA Manual (Manual de diagnstico rural rpido) de los Catholic Relief Services, Volume I, Part II).
Si desea consultar material til con explicaciones sobre tcnicas cuantitativas, consulte las referencias de mtodos para la realizacin de estudios regulares por muestreo.
8-3
Octubre de 2002
Las tcnicas cualitativas son tiles cuando: se desea adquirir un conocimiento profundo sobre un tema concreto; se necesita disponer de informacin acerca de lo que piensan las personas en relacin con una situacin determinada y conocer sus prioridades; se desea entender por qu las personas se comportan de cierta manera; es necesario confirmar o explicar hallazgos cuantitativos obtenidos de un estudio previo o a partir de datos secundarios; hay escasez de recursos y tiempo.
Si desea consultar material til con explicaciones sobre tcnicas cualitativas, consulte las referencias de mtodos rpidos y participativos. Aunque pueda parecer que los mtodos cuantitativos y los cualitativos se sitan, respectivamente, en los dos extremos de la gama de mtodos de recopilacin de datos, pueden, de hecho, ser complementarios. P. ej., los mtodos cualitativos pueden utilizarse para examinar determinadas cuestiones durante las primeras etapas de un estudio ms largo, permitiendo a los investigadores entender mejor las preguntas que deben plantearse como parte de un estudio cuantitativo. A la inversa, los mtodos cuantitativos pueden destacar determinadas cuestiones que, posteriormente, podrn estudiarse con ms detalle aplicando mtodos cualitativos. Para consultar ejemplos sobre cmo combinar indicadores cuantitativos y cualitativos, vase el captulo III. Data issues en el International Federation and National Societies Indicator Menu.
8-4
Octubre de 2002
8.2
Si desea obtener informacin especfica relativa a herramientas adecuadas para recopilar datos en situaciones de emergencia, consulte el captulo 2 del International Federation and National Societies Emergency Field Operations Pocketbook (Cuaderno de la Federacin y las Sociedades Nacionales para operaciones de emergencia sobre el terreno) (prxima publicacin).
Limitaciones
Fiabilidad y validez Es posible que la informacin generada carezca de fiabilidad y validez debido a las tcnicas de muestreo informales, al sesgo resultante de la actuacin de los evaluadores o entrevistadores, y por dificultades en el registro, codificacin y anlisis de datos cualitativos. Para reducir el sesgo resultante de la recopilacin de datos, pueden aplicarse tcnicas tales como la triangulacin. Precisin La mayora de los mtodos de diagnstico rpido generan informacin cualitativa. Incluso cuando se producen datos cuantitativos (p. ej. en un pequeo estudio por muestreo), no es posible generalizarlos con precisin, pues los datos normalmente se basan en muestras no representativas. As, el diagnstico rpido puede mostrar que muchas mujeres no van a una clnica, pero no proporcionar un clculo acerca del porcentaje de mujeres que no lo hacen. Credibilidad La mayora de los responsables de la toma de decisiones quedan ms convencidos con cifras precisas que con afirmaciones descriptivas cualitativas. Por ejemplo, el resultado de una encuesta, de que el 83 % de las mujeres de cierta comunidad estaban satisfechas con los servicios prestados por una clnica, probablemente tendr ms peso que la conclusin, basada en entrevistas a informantes claves, de que la mayora de las mujeres parecan estar satisfechas.
8-5
Octubre de 2002
Entre los mtodos utilizados con mayor frecuencia se incluyen: Entrevistas a informantes claves: Implica entrevistas a 15-35 personas seleccionadas por sus conocimientos y para reflejar diferentes puntos de vista. Las entrevistas son cualitativas, detalladas y semiestructuradas. Se utilizan guas de entrevista con una lista de temas, pero las preguntas se formulan durante la entrevista aplicando tcnicas ingeniosas de sondeo. Grupos temticos: Varios grupos homogneos, de 8 a 12 participantes cada uno de ellos, que discuten temas y experiencias. Un moderador presenta el tema, estimula y enfoca la discusin, y evita que unos pocos la dominen. Entrevistas a la comunidad: Se realizan en reuniones pblicas abiertas a todos los miembros de la comunidad. Los participantes interaccionan con el entrevistador, que preside la reunin y plantea preguntas segn una gua de entrevista cuidadosamente preparada. Observacin directa: Equipos de observadores documentan lo que observan y escuchan en el lugar de una operacin, utilizando para ello un formulario detallado de observacin. Se puede observar el entorno fsico o actividades, procesos y discusiones en curso. Pequeos estudios por muestreo: Incluyen entrevistas a 25-50 personas, normalmente seleccionadas utilizando tcnicas de muestreo no probabilstico. Se utilizan cuestionarios estructurados que se centran en un nmero limitado de preguntas cerradas. Generan datos cuantitativos que frecuentemente pueden recopilarse y analizarse con rapidez. Herramientas de visualizacin: Incluyen la elaboracin de mapas, diagramas, calendarios, programas y otras tcnicas no verbales de documentacin de datos. Se incita a los participantes a elaborar respuestas visuales a preguntas planteadas por los entrevistadores, p. ej. la elaboracin de un mapa del rea en el que residen. Son especialmente tiles para conocer los puntos de vista de los habitantes del lugar en relacin con ciertos temas y para obtener respuestas de personas o grupos que normalmente evitaran participar en una discusin ms formal.
Octubre de 2002
situacin y no que sean personas externas las que la analicen. Ello no implica la exclusin o marginacin de personas externas. Ms bien se reconoce que stas deben adquirir los conocimientos sobre determinadas situaciones a partir de las personas internas, y que stas son capaces de analizar sus propios problemas. Las herramientas y el enfoque se inspiran en tcnicas desarrolladas en mbitos tales como la antropologa aplicada y suministran un medio para analizar las complejas relaciones y actividades interrelacionadas presentes en grupos y comunidades. En los siguientes puntos se resumen algunas caractersticas fundamentales de las herramientas participativas, muchas de ellas comunes a las de las tcnicas rpidas: Triangulacin Hace referencia al proceso de verificacin de la informacin. Para la triangulacin se utilizan equipos multidisciplinarios compuestos por miembros con diferentes conocimientos, experiencia y puntos de vista; se aplican diferentes herramientas y tcnicas para recopilar y analizar los datos; y se consultan diferentes fuentes de informacin en relacin con un mismo problema. De este modo, pueden determinarse la fiabilidad y sesgo de los resultados y, cuando sea necesario, podr actuarse al respecto. Enfoque multidisciplinario Personas con conocimientos, experiencias y opiniones diferentes buscarn y encontrarn aspectos diferentes, y el equipo en su conjunto obtendr nuevos y ms detallados puntos de vista. Siempre debern incluirse en el equipo mujeres, as como miembros de la comunidad o grupo en cuestin. Tcnicas mixtas La utilizacin de varias tcnicas proporciona ms detalle a la informacin recopilada. Normalmente, el equipo intentar utilizar una mezcla de tcnicas de entrevista y discusin, elaboracin de diagramas y mapas, y observacin directa. Comunidad La mayora de las actividades se llevan a cabo conjuntamente con miembros de la comunidad o del grupo, o las realizan por s solos la comunidad o el grupo. Ignorancia ptima Se adopta un enfoque rpido, aunque menos preciso, encontrndose un equilibrio entre el grado de precisin que se pretende alcanzar y el tiempo y recursos disponibles. Debern evitarse detalles o exactitud innecesarios, pues se incrementara la carga de la recopilacin y anlisis de datos y se pondra en peligro la oportunidad e idoneidad de los hallazgos. Si desea obtener informacin adicional al respecto, consulte el punto 8.1.2 Exactitud, precisin y sesgo. Flexibilidad y anlisis sobre el terreno Los planes y mtodos son semiestructurados y se discuten y modifican a medida que va avanzando la labor sobre el terreno. El equipo revisa y analiza constantemente los hallazgos para decidir cmo continuar. A medida que van aumentando los conocimientos, se van situando ms claramente en el centro de atencin nuevas cuestiones y hallazgos imprevistos, y se pueden revisar los planes y mtodos. Compensar el sesgo El equipo deber intentar permanentemente determinar posibles fuentes de error o sesgo y ver cmo influyen sobre los hallazgos. Los puntos de vista debern obtenerse de una muestra representativa de la comunidad o grupo, incluyendo a mujeres, nios y otros grupos vulnerables. Para ello puede ser necesario impartir formacin especializada en conocimientos relativos a la sensibilizacin en materia de gnero, comunicacin con nios, etc.
La facilitacin es fundamental para lograr buenos resultados en el diagnstico participativo, y las funciones desempeadas por los miembros del equipo son cruciales. Por una parte son importantes para activar el inters de la comunidad al principio del ejercicio y para mantener su entusiasmo durante el mismo. Pero el equipo representa tambin el principal peligro para alcanzar el xito, concretamente a travs de la posible introduccin de sesgo profesional o por un entusiasmo exagerado que puede abatir la iniciativa propia de los miembros comunitarios.
8-7
Octubre de 2002
8.2.3. El inventario comunitario una herramienta prctica y rentable para la recopilacin de datos
El inventario comunitario constituye una herramienta til en los casos en que escasean los recursos y el tiempo para recopilar datos y cuando la operacin se centra en comunidades. Se trata de un mtodo prctico y rentable que pueden aplicarlo empleados gubernamentales y organismos ejecutores tales como ONG. Con este mtodo se documentan los siguientes tipos de datos: Lugar, poblacin, activos naturales y bienes creados por el hombre, y acceso a instalaciones y servicios. Determinacin de la existencia de grupos especficos dentro de la comunidad, tales como personas mayores, familias con hurfanos a causa del SIDA, personas de determinados grupos tnicos o castas, personas con bajo nivel de bienestar, y tamao y caractersticas de estos grupos. Opiniones de grupos de la comunidad respecto a problemas y sus posibles soluciones.
El inventario comunitario puede realizarse mediante una investigacin participativa, y muchos pases cuentan con personal de departamentos gubernamentales, ONG, personal universitario y asesores experimentados en este tipo de trabajo.El inventario deber elaborarlo un equipo de dos o tres entrevistadores, que necesitar entre dos y tres das por comunidad. En la tabla 8.3 se resumen las tcnicas especficas para cada tipo de datos. Los resultados que se obtienen en un inventario de este tipo pueden aprovecharse de diferentes maneras: como referencia especfica para comunidades o pueblos que participan en la operacin; como fuente de informacin para planificar la operacin de la Federacin y las Sociedades Nacionales y determinar hogares o grupos beneficiarios; como parte de un proceso para establecer un plan de organizacin y desarrollo comunitarios; para establecer comparaciones durante las visitas al terreno y otras formas de contacto con beneficiarios.
8-8
Octubre de 2002
Tabla 8.3: Datos y fuentes de datos (los mtodos recomendados estn sombreados)
Datos Fuentes de datos clasificadas segn grado de exactitud Alto Medicin Bajo Clculo mediante mediante Documentos guardados por el Censo comunitario comit comunitario o consejo local, actualizados a partir del recuento ms reciente
Observaciones Para la mayora de los propsitos, resulta adecuado disponer de datos de la poblacin en intervalos amplios de edades (p. ej. 20-45 aos) para la planificacin y seguimiento de la operacin; es deseable disponer de datos desglosados por sexo. Las unidades locales pueden ser fidedignas, pero debe examinarse su conversin a unidades del sistema internacional.
Poblacin
Activos naturales (tierras forestales, tierras de regado, rboles forrajeros, pastos comunales, rboles para lea, corrimientos de tierra, erosin del suelo, fuentes de agua, etc.)
Bienes creados por el hombre (clnicas, escuelas, centros comunitarios, molino de cereales, puentes, mercados, etc.) Acceso a servicios bsicos (disponibilidad de saneamiento y electricidad, abastecimiento por red de agua, etc.) Acceso a servicios bsicos (dispensario, polica, ayuntamiento, trabajadores de divulgacin y veterinarios, herrera, correos, caja de ahorros/crdito) Colaboracin actual o reciente con organismos de desarrollo
Clculo de tamaos y mapa del lugar en unidades de medicin locales, procedentes de una reunin en grupo, comprobados recorriendo transectos a travs de la comunidad y frente a documentos del consejo o gubernamentales. Lista elaborada en discusin con el comit o dirigentes locales, verificacin visual Lista elaborada en discusin con el comit o dirigentes locales, verificacin visual Lista elaborada en discusin con el comit o dirigentes locales, verificacin visual
Estudio con cinta mtrica y brjula relativo a superficie de las tierras, recuento de rboles, etc.
No disponible normalmente
Datos sencillos para entender la situacin general y de bienestar de la comunidad. Datos sencillos para entender la situacin general y de bienestar de la comunidad. Datos sencillos para entender la situacin general y de bienestar de la comunidad.
No disponible normalmente
No disponible normalmente
Preguntar acerca de actividades recientes en reunin con comit o dirigentes locales. Verificacin visual con varios grupos sociales. Respuesta de reunin en grupo de la comunidad, verificada en reuniones de seguimiento con miembros de diferentes grupos sociales. Elaboracin de mapas sociales del lugar con miembros comunitarios.
Contactar a responsables locales de organismos que trabajan en la zona para investigar las actividades. Encuesta por hogares
Ingresos de hogares
Encuesta por hogares mediante visita nica, con investigacin acerca de niveles generales de gastos e ingresos.
Buena prctica para establecer contacto con otros organismos, a fin de asegurar que no exista incompatibilidad con la labor a la que brindan apoyo la Federacin y las Sociedades Nacionales. Siempre existe el peligro de que las opiniones recogidas de los grupos estn influenciadas por una minora. Esto puede evitarse mediante triangulacin y verificacin. Las dos tcnicas requieren una gran inversin de tiempo; los mapas sociales se ajustan bien a un transecto de la localidad y surgen naturalmente de las reuniones en grupo. Es muy difcil obtener datos fidedignos sobre ingresos. Normalmente es mejor aferrarse a clculos generales de mejoras o empeoramiento, ms que a valores cuantificados.
8-9
Octubre de 2002
En los estudios por muestreo, en general, se utilizarn tcnicas de medicin (p. ej. medida del peso por altura de los nios para determinar su estado nutricional), tcnicas de entrevista (p. ej. preguntar al entrevistado cuntas comidas ha ingerido durante la ltima semana y de qu alimentos se trat), o una combinacin de ambas. Los hallazgos se basarn en los resultados cuantitativos, pero para entender ms profundamente determinadas cuestiones puede hacerse uso de mtodos cualitativos. Los estudios por muestreo pueden ser acontecimientos nicos (p. ej. para diagnosticar las causas de un problema concreto), parte de un programa o de una serie de estudios, o realizarse para establecer una comparacin con otros estudios (p. ej. antes y despus del anlisis realizado para la evaluacin frente a una referencia). En la tabla 8.4 se presentan los puntos fuertes y dbiles de los estudios regulares por muestreo.
8-10
Octubre de 2002
Fuente: Toolkits: A Practical Guide to Assessment, Monitoring, Review and Evaluation, Save the Children Fund, 1995
En el diseo de los estudios por muestreo resultan fundamentales el marco de muestreo y el tamao de la muestra. El marco de muestreo es la poblacin o universo de las unidades de muestreo (hogares, escuelas, explotaciones agrarias, menores de cinco aos en un campamento de refugiados, etc.) a partir de la cual se seleccionar la muestra. Los marcos de muestreo pueden elaborarse a partir de fuentes existentes (p. ej. un mapa de reconocimiento areo) o especialmente para el estudio (p. ej. preparando una lista de todos los hogares del rea de estudio). Sin embargo, la elaboracin de un marco de muestreo puede resultar una tarea cara y en la que haya que invertir mucho tiempo, pudiendo ser necesario, p. ej., visitar cada uno de los hogares de un distrito determinado. Mediante tcnicas como el muestreo mltiple o por grupos puede paliarse este inconveniente. Estas tcnicas son tambin aplicables cuando no se dispone de una lista completa de unidades de muestreo. El punto 7.3 Planificacin y gestin de un estudio de referencia (mdulo 7) sirve de orientacin general en cuanto al tamao de muestra. Es importante recordar que lo que determina la precisin de los clculos obtenidos en un estudio por muestreo es el tamao de la muestra en trminos absolutos, y no la proporcin de la muestra (p. ej. el 10 % de todos los hogares).
8-11
Octubre de 2002
8.2.5 El seguimiento a travs del contacto con beneficiarios seguimiento de la probabilidad de alcanzar los objetivos
El seguimiento a travs del contacto con beneficiarios (BCM de sus siglas en ingls) considera el acceso a los bienes y servicios resultantes de la operacin, la utilizacin de los mismos y la satisfaccin al respecto por parte de los beneficiarios. La matriz de planificacin incluye implcitamente la hiptesis de que si se produce el producto y las hiptesis son verdaderas, entonces se alcanzar el propsito. Los indicadores de BCM suministran informacin acerca de la probabilidad de que la produccin del producto conduzca al logro del propsito, de acuerdo con el siguiente razonamiento: Si el grupo beneficiario no disfruta de acceso al producto de la operacin, no obtendr ningn beneficio. Si el grupo beneficiario disfruta de acceso al producto de la operacin, pero decide no utilizarlo, no obtendr ningn beneficio. Si el grupo beneficiario utiliza el producto de la operacin, pero no queda satisfecho con los servicios o medios ofrecidos, es poco probable que los utilice durante largo tiempo y, por lo tanto, obtendr beneficios limitados.
En el BCM es necesario realizar una investigacin sistemtica de la respuesta de los beneficiarios al producto y actividades de la operacin. Debern examinarse las siguientes preguntas, teniendo en cuenta los diferentes grupos participantes (hombres, mujeres, nios y otros grupos vulnerables): Est alcanzando la operacin a los grupos beneficiarios seleccionados? Quin disfruta de acceso, quin no, quin participa y quin no? Es til para los beneficiarios el producto de la operacin (alimentos, bienes, conocimientos disponibles a travs de capacitacin, etc.)? Desempea la ayuda alimentaria la funcin prevista? Cmo influye la ayuda alimentaria en el comportamiento de los beneficiarios participantes? Se enfrentan los grupos de beneficiarios a problemas especficos? En qu perciben que est mejorando su vida como resultado de la operacin?
Despus se realiza un seguimiento de acuerdo con la respuesta de los beneficiarios. Si la operacin evoluciona segn el plan, los responsables de gestin pueden continuar con su ejecucin. Si se identifican problemas, puede ser necesario realizar una investigacin ms detallada para determinar las medidas de gestin que debern adoptarse. En las operaciones en las que intervienen la Federacin y Sociedades Nacionales, el BCM puede llevarse a cabo en dos niveles: Nivel 1 Durante cualquier visita regular al terreno el personal debe reunirse con beneficiarios y analizar su respuesta a la operacin. Estas entrevistas formarn parte del seguimiento y notificacin regulares sobre el terreno. El seguimiento en este nivel deber realizarse en prcticamente todas las operaciones. Nivel 2 En operaciones en las que se haya determinado la necesidad de llevar a cabo una investigacin ms detallada y en las que los recursos y la capacidad de gestin existan en el pas, el contrato de la operacin o memorando de entendimiento para la operacin podrn estipular la realizacin de estudios especficos. El seguimiento en el nivel 2 normalmente se llevar a cabo con la ayuda de expertos locales que posean los conocimientos adecuados y colaborando estrechamente con el gobierno, la Federacin y las Sociedades Nacionales. Al contrario que en el nivel 1, el seguimiento en este nivel estar restringido a determinadas operaciones.
8-12
Octubre de 2002
8.2.5.1 Tcnicas para el seguimiento de indicadores de BCM en el nivel 1 Entrevistas individuales - Las entrevistas cualitativas difieren de las entrevistas estructuradas tradicionales en las que se utilizan cuestionarios regulares, en que no se limitan a un conjunto de preguntas predeterminadas que se preguntarn consecutivamente. En su lugar, el entrevistador utiliza una lista de verificacin de temas para ir orientando la entrevista, y sigue las vas que se vayan abriendo a lo largo de la misma. Las primeras preguntas normalmente incluyen discusiones informales sobre la operacin. Una vez que el entrevistador haya determinado las cuestiones que debern ser atendidas a fondo, la entrevista informal ser suplantada por una entrevista guiada o por una entrevista semiestructurada con preguntas preparadas antes de la entrevista y reflejadas en una lista de verificacin. En la mayora de los casos, la lista de verificacin no deber contener ms de 20 preguntas, y la entrevista no deber durar ms de media hora. Entrevistas informales Su objetivo es obtener informacin a travs de conversaciones entre entrevistadores y entrevistados. En ellas se examinan, de forma general, puntos de vista, experiencias y valores del entrevistado y se concede al entrevistador libertad para seguir temas segn vayan surgiendo. Como consecuencia de la naturaleza informal de la entrevista, durante la misma se toman pocas notas. Entrevistas guiadas - En ellas se utiliza una gua de entrevista para dirigir al entrevistador a travs de los principales temas que debern abordarse. A partir de la misma, el entrevistador elabora las preguntas y su forma para ajustarse a un entrevistado concreto. No existe lmite de tiempo para responder a cada uno de los temas o subtemas y se permite seguir temas de particular inters. Entrevistas semiestructuradas de final abierto Cuestionarios abiertos con una lista de las preguntas que deben plantearse. Sin embargo, difieren de las entrevistas estructuradas tradicionales en que plantean preguntas abiertas que permiten extenderse en los puntos tratados, en que el orden en que se plantean las preguntas es flexible y tiene en cuenta el juicio del entrevistador, y en que dejan espacio para plantear preguntas adicionales. Entrevistas en grupo - Las entrevistas individuales no siempre constituyen la mejor estrategia en el caso de las operaciones de la Federacin y las Sociedades Nacionales. Requieren mucho tiempo, deben realizarse muchas de ellas para obtener una imagen representativa de la operacin en su conjunto, y en el caso de determinados temas es posible que los entrevistados sean reacios a decir la verdad si tienen miedo a que su punto de vista sea inoportuno. Con las entrevistas en grupo pueden resolverse algunos de estos problemas. Pueden realizarse a toda una comunidad o a un conjunto determinado de personas, tales como una cuadrilla, un grupo de maestros o un grupo de profesionales de la salud. El foro abierto animar a algunas personas a ser ms francas y honestas de lo que lo seran en privado, especialmente cuando se vean respaldadas por sus compaeros. Entrevistas a la comunidad Pueden incluir a todos los miembros de una comunidad o pueblo. Cuando estn planificadas cuidadosamente, las entrevistas a la comunidad poseen un gran potencial para suministrar nuevas percepciones acerca de cmo ven los miembros de la comunidad las actividades de la operacin y cmo consideran que sta est afectando a sus vidas. En la planificacin y realizacin de las entrevistas a la comunidad debern tenerse en cuenta los siguientes aspectos: Deber ser una prctica habitual utilizar guas estructuradas de entrevista. Debern entrevistarse unas pocas comunidades seleccionadas y representativas. Las entrevistas debern estar programadas para ser llevadas a cabo cuando la mayora de las personas de la comunidad puedan estar presentes; frecuentemente el momento ms conveniente es la tarde/noche. Es preferible un equipo de entrevistadores a un slo entrevistador, pues dirigir una reunin con muchas personas y tomar notas detalladas es demasiado complicado para una sola persona. Es necesario planificar, particularmente para conceder a los entrevistados una oportunidad justa para hablar y no permitir a los entrevistadores que tomen el mando. 8-13
Octubre de 2002
Es esencial que de las personas presentes participe una representacin equilibrada. Deber evitarse el dominio por parte de personas destacadas. Mediante estas entrevistas pueden obtenerse datos sin desglosar y relativos a la comunidad. Sin embargo, deber extremarse la precaucin en el intento de cuantificar los datos. Reuniones posteriores a la entrevista pueden servir de foro de debate de ideas para aquellos que se hayan sentido inhibidos en el grupo numeroso. Entrevistas a grupos temticos Se trata de una tcnica ms rigurosa que las entrevistas a la comunidad, y como tal requiere realizar una planificacin ms exhaustiva (p. ej. seleccin cuidadosa de los participantes de acuerdo con determinados criterios, incluso mayor atencin a la elaboracin de las guas de temas, anlisis de resultados ms sistemtico) y disponer de conocimientos especializados. El principio bsico de esta tcnica es utilizar la destreza de un moderador neutral para estimular el intercambio de ideas en un pequeo grupo (idealmente 6-10 personas) de participantes seleccionados. De esta forma, la informacin se obtiene siguiendo atentamente la interaccin entre los participantes. El papel que desempea el moderador es dirigir la discusin de manera que se aborden los temas previstos. No deber participar en el debate en s ni corregir ideas errneas expresadas y, en esencia, deber comportarse como observador neutral. Evidentemente, la obtencin de buenos resultados mediante esta tcnica depende en gran medida de la destreza del moderador. Los miembros del grupo debern proceder de un estrato social y econmico similar, a fin de facilitar la discusin y eliminar obstculos sociales. No obstante, puede resultar difcil satisfacer estos criterios. La seleccin de los participantes puede realizarse a partir de una lista elaborada por varios informantes claves. Deber hacerse un esfuerzo por incluir a participantes diversos.
8.2.5.2 Tcnicas para el seguimiento de indicadores de BCM en el nivel 2 Pequeas encuestas - El objetivo es seleccionar aleatoriamente beneficiarios y utilizar un cuestionario breve y sencillo para documentar su punto de vista acerca de las actividades de la operacin. En el caso de que la informacin se recopile de uno o pocos lugares, es posible tomar una muestra aleatoria simple. Esta tcnica est descrita en la mayora de los libros bsicos sobre estadstica y puede ser utilizada por el personal en la mayora de las operaciones. La eleccin del tamao de la muestra no siempre resulta sencilla y, a no ser que el personal haya recibido formacin en materia de estadstica, deber solicitarse ayuda profesional. Como orientacin para el trabajo, valga decir que de cada lugar o grupo para el cual se desee calcular una respuesta independiente deber seleccionarse una muestra de sesenta personas. A los participantes seleccionados se les plantean entonces algunas preguntas sencillas. Por ejemplo: Existe una guardera en el pueblo? [conocimiento del servicio] Tiene usted hijos? [admisibilidad del usuario] Ha aprovechado la guardera? [utilizacin del servicio] En caso negativo, por qu no? [comentario relativo a la no utilizacin] Se ajusta la guardera a lo que usted desea para sus hijos? [pertinencia, comentarios]
Estas preguntas pueden reflejarse en una tabla, de forma que puedan documentarse en una hoja las respuestas de 10 o 20 personas. El estudio puede llevarse a cabo con mucha rapidez, por un solo entrevistador o por dos personas que trabajen en pareja. Los resultados son sencillos: porcentajes de personas que responden s o no y algunos comentarios breves. Los resultados suministran informacin acerca de la operacin en cuanto a lo bien que conoce la gente el servicio de guardera y a la proporcin de personas cuyos hijos lo han aprovechado. Mediante otras preguntas podra conocerse si se ha utilizado el servicio una vez o peridicamente. Si los resultados muestran un elevado grado de conocimiento y de utilizacin, podrn interpretarse como que el servicio es exitoso. Si los resultados muestran lo contrario, puede ser necesario realizar 8-14
Octubre de 2002
un estudio ms detallado para examinar los motivos por los cuales la guardera no tiene xito. Este tipo de estudio es muy sencillo y en el anlisis no deber intentarse ir ms all de obtener un simple resultado en porcentajes.
2.
8.2.6.3 Con quin reunirse? Hombres y mujeres beneficiarios solos o en grupo Representantes comunitarios, dirigentes locales, dirigentes tradicionales Empleados gubernamentales locales y de distrito Personal tcnico, jefes en el lugar que se visita Representantes de donantes y ONG que actan en el rea de la operacin Representantes del sector privado (p. ej. vendedores de mercado, camioneros) Personal de la Federacin y de Sociedades Nacionales que trabaja en primera lnea
8.2.6.4 Cmo realizar la labor sobre el terreno? Determine claramente la funcin de observador. Tome notas descriptivas. Permanezca abierto rena diferentes puntos de vista. Sea oportunista en el seguimiento de nuevas pistas y en el muestreo dirigido.
8-15
Octubre de 2002
Verifique y aplique la triangulacin en la recopilacin de diferentes tipos de datos: observacin, entrevistas, documentos, artefactos, grabaciones y fotografas. Utilice diversos mtodos y combnelos. Utilice citas: Describa a las personas con sus propias palabras. Seleccione con sabidura a los informantes claves y trtelos cuidadosamente. Establezca confianza y una buena relacin desde el principio. Cntrese en elaborar una sntesis til cuando la labor sobre el terreno est tocando a su fin. En todas las fases de la labor sobre el terreno, sea disciplinado y concienzudo a la hora de tomar notas detalladas. D su opinin como parte del proceso de verificacin de la labor sobre el terreno. Observe su efecto. Distinga entre descripcin, por un lado, e interpretacin y opinin, por otro lado.
8.2.6.5 Por qu constituye una prctica recomendable utilizar listas de verificacin de entrevistas? Ayudan a asegurar que durante las visitas de seguimiento al terreno se aborden las cuestiones claves. Ayudan a asegurar la coherencia de los informes y posibilitan compararlos. La disciplina ligada a las listas de verificacin contribuye a institucionalizar un sistema de seguimiento que ayude a nuevos empleados a familiarizarse con las operaciones y, as, a ser eficaces con mayor rapidez. Un sistema oficial de recopilacin de datos y presentacin de informes constituye un componente importante de la memoria institucional. Los sistemas ad hoc suelen estar muy personalizados y suelen fracasar cuando se marchan los responsables. Las listas de verificacin tratadas hasta el final suministran datos sin procesar, que debern ser analizados posteriormente.
8.2.6.6 Anlisis de datos recopilados utilizando listas de verificacin Los datos obtenidos mediante la utilizacin de listas de verificacin debern ser analizados: En el caso de datos para un solo lugar (p. ej. una escuela en el caso de una actividad de alimentacin escolar) para realizar un seguimiento de la evolucin del rendimiento durante varias visitas, para discutir con personal local y superior las medidas que deben adoptarse. En el caso de datos para todos los lugares conjuntamente (p. ej. todas las escuelas en el caso de una actividad de alimentacin escolar) para obtener un anlisis comparativo del rendimiento en los diferentes lugares abarcados por la operacin, para orientar a los asociados gubernamentales y ejecutores en el establecimiento de las prioridades, a fin de mejorar la ejecucin de la operacin, a travs de un resumen de hallazgos, para comparar resultados y juzgar si se estn logrando mejoras, para determinar el xito general de la operacin.
En el anlisis de la informacin obtenida mediante el uso de listas de verificacin probablemente surgirn preguntas que habr que investigar con ms detalle. Cuando la investigacin est finalizada, puede ser que usted considere que aadir una o dos preguntas ms a la primera lista de verificacin mejorara la eficiencia del seguimiento regular de la operacin. A medida que la operacin vaya avanzando, usted deber ser capaz de elaborar una serie de listas de verificacin que le ayudarn a llevar a cabo la labor de seguimiento. Inevitablemente, stas listas se irn modificando a medida que 8-16
Octubre de 2002
usted vaya adquiriendo experiencia relativa a la operacin. No piense que el primer intento de elaboracin de una lista de verificacin resultar en una lista perfecta. Est preparado para, aprovechando su experiencia sobre el terreno, ir modificando las listas de verificacin a lo largo del tiempo. 8.2.6.7 Presentacin de informes cmo documentar y utilizar los resultados
Tras la visita al terreno, el personal de la Federacin y de las Sociedades Nacionales deber reflejar los hallazgos en un informe de visita al terreno. Aunque se diseen para cada operacin en particular, todos los informes de visitas al terreno elaborados por la Federacin y las Sociedades Nacionales debern compartir algunas caractersticas relativas a su composicin. Toda visita al terreno deber resultar en un informe breve y preciso en el que se incluir, como mnimo, la siguiente informacin: Tabla 8.5: Modelo para un informe de visita al terreno
Objetivos de la visita al terreno (relacionados con los indicadores reflejados en el plan de seguimiento y evaluacin) Personas y grupos contactados y lugares visitados Mtodos aplicados para recopilar y analizar los datos Hallazgos Conclusiones (incluye anlisis) Recomendaciones relativas a la actuacin de personal de la Federacin y las Sociedades Nacionales, asociados internacionales y gobierno; nombres de personas responsables de poner en prctica las recomendaciones y plazos al respecto
En el informe debern establecerse comparaciones entre los hallazgos ms recientes y los de visitas anteriores. Para ello deber existir un cierto grado de coherencia entre los diferentes informes.
8-17
Octubre de 2002
8.3
Antes de utilizar datos secundarios deber determinarse si son fidedignos. Esto puede realizarse de diferentes maneras. Si los datos han sido recopilados por un organismo profesional, como p. ej. una oficina nacional de estadstica (o equivalente), o en cooperacin con un donante u otro organismo internacional, es razonable asumir que los datos poseen una calidad aceptable. Cuando la fuente no est claramente acreditada, busque la siguiente informacin en el informe del estudio: Una discusin sobre cmo se asegur la recopilacin de datos de calidad, incluidos los procedimientos de supervisin de la labor sobre el terreno, de validacin de los datos y de comprobacin de errores. Un examen de los mtodos de recopilacin utilizados y de las consecuencias en cuanto a sesgo y errores ajenos al muestreo, con una discusin en torno a los efectos sobre los resultados. Una descripcin de herramientas de validacin sobre el terreno, tales como la triangulacin.
Intente conseguir una copia del cuestionario. Est bien estructurado? Es fcil de leer? Es un documento que mueva a realizar una buena actuacin? Se dispuso de un manual de estudio o de un manual de campo? Estn claramente definidas las variables claves tales como las unidades de estudio? Y el significado de hogar? Examine el informe del estudio. En qu grado se establecen comparaciones con otros estudios? Coinciden, en general, los hallazgos? En el caso de existir divergencias, se discuten y explican adecuadamente?
8-18
Octubre de 2002
8.4
Tema
Esta gua describe cmo elegir muestras de comunidades, hogares o personas para estudios por muestreo, de forma que puedan extraerse conclusiones vlidas acerca de la eficacia de los programas. En la gua se hace hincapi en el uso de mtodos de muestreo probabilstico, considerados esenciales para asegurar la objetividad en la evaluacin de programas. Orientacin detallada en relacin con todas las etapas del diseo y realizacin de estudios rpidos y participativos; descripciones de herramientas y explicaciones acerca de cmo utilizarlas; estudios de casos; y referencias de material de informacin til. Este libro ofrece un resumen del origen, teora y prctica del diagnstico rural rpido, explica las principales herramientas utilizadas y presenta varios ejemplos en los que se ilustra cmo se ha aplicado el diagnstico rural rpido en diferentes escenarios. Este libro sirve de orientacin fundamental para personal activo sobre el terreno en cuanto a los principios y prctica de estudios preliminares, seguimiento, revisin y evaluacin. Incluye informacin general acerca de diferentes herramientas, incluidos el diagnstico rural participativo, los estudios por muestreo y la matriz de planificacin.
Diagnstico rpido
Rapid Appraisal Methods, editado por Krishna Kumar, 1993 (World Bank Regional and Sectoral Studies) Rapid Appraisal Methods Precio: $ 22.00 ISBN 0-8213-2523-X SKU: 12523 Toolkits: A Practical Guide to Assessment, Monitoring, Review and Evaluation, Save the Children Fund, 1995
Referencias generales
8-19
Octubre de 2002
8-20
Octubre de 2002
Federacin Internacional de Sociedades de la Cruz Roja y de la Media Luna Roja Divisin de Seguimiento y Evaluacin
Octubre de 2002
9-1
Octubre de 2002
9-2
Octubre de 2002
Glosario de seguimiento y evaluacin Anlisis: Examen de una situacin, de sus elementos y de la relacin entre Apreciacin: Determinacin general de la pertinencia, factibilidad y
ellos.
sostenibilidad potencial de una operacin de la Federacin y/o de las Sociedades Nacionales previa a la aprobacin de la ejecucin de la misma.
comn en relacin con las consecuencias, clara rendicin de cuentas y obligaciones recprocas. Los asociados pueden ser gobiernos, la sociedad civil, organizaciones no gubernamentales, universidades, asociaciones profesionales y empresariales, organizaciones multilaterales, empresas privadas, etc.
procedimientos, transacciones y controles de una organizacin, llevado a cabo conforme a normas comunes de auditora generalmente aceptadas.
opiniones y recomendaciones relativas a: la gestin eficaz de la organizacin y la utilizacin econmica (rentabilidad) de los recursos; la solidez, idoneidad y aplicacin de los sistemas financieros y operacionales, procedimientos y controles internos; la conformidad de las transacciones financieras y de otros procedimientos con normas y reglamentos establecidos y con las instrucciones recibidas; la regularidad de los recibos, custodia, gastos, contabilidad y presentacin de informes en relacin con los recursos de la organizacin; y la conformidad de los gastos con el propsito para el cual fueron autorizados los fondos. 9-1
Octubre de 2002
interno de aprendizaje reflexivo realizado por personal de delegaciones nacionales y partes interesadas, y posiblemente facilitado por un asesor.
Nacionales son las personas destinatarias que reciben alimentos de la Federacin y de las Sociedades Nacionales.
alcanzar los objetivos deseados. La cadena de resultados empieza por los insumos, pasa por actividades y producto y culmina en consecuencias e impacto.
a travs de una cadena de argumentos transparente. Las conclusiones sealan los factores a los cuales se deben el xito o fracaso de una operacin, prestando especial atencin a los resultados intencionados o no intencionados y aludiendo, de forma ms general, a cualquier otro punto fuerte o punto dbil.
emergencia de corto plazo se consideran los problemas conexos y con efectos en el ms largo plazo.
Nota: Cuando sea conveniente y posible, los datos debern desglosarse segn
sexo, edad y otras variables pertinentes.
9-2
Octubre de 2002
variables pertinentes a fin de revelar las diferencias existentes en las necesidades, prioridades, actividades e intereses de distintos grupos, en su acceso a recursos, servicios y actividades, y en su control sobre stos ltimos. Los datos desglosados son esenciales para el seguimiento de las intervenciones y del producto de las mismas, pues permiten determinar quin participa en las operaciones de la Federacin y de las Sociedades Nacionales y quin se beneficia de ellas.
Nota: Los datos recopilados debern desglosarse segn sexo, edad y otras
variables pertinentes. Vase datos desglosados.
9-3
Octubre de 2002
actividad planificada para recopilar los datos necesarios a partir de una muestra de la poblacin pertinente. La poblacin pertinente est constituida por personas afectadas por la operacin de la Federacin y/o de las Sociedades Nacionales (o, en el caso de tratase de un grupo de control o de comparacin, por personas con caractersticas similares).
los distintos asociados cooperan en el proceso de evaluacin, unen sus recursos de evaluacin y colaboran en la elaboracin de los informes de evaluacin. Las evaluaciones conjuntas pueden contribuir a superar problemas de atribucin en la determinacin de la eficacia de programas y estrategias, la complementariedad de las actividades que reciben apoyo de diferentes asociados, la calidad de la coordinacin de la ayuda, etc.
9-4
Octubre de 2002
Evaluacin interna: Evaluacin de una operacin realizada por una unidad y/o
personas que informan al respecto a los rganos de gestin de la Federacin y las Sociedades Nacionales.
de una fase de la misma) de la Federacin y/o de las Sociedades Nacionales a fin de determinar el grado en el que se han obtenido los resultados planificados. A travs de la evaluacin recapitulativa se pretende proporcionar informacin sobre el valor de la operacin.
9-5
Octubre de 2002
apreciacin, la gestin basada en resultados, las revisiones realizadas durante la fase de ejecucin, evaluaciones, etc. La garanta de la calidad puede referirse tambin a la evaluacin de la calidad de una cartera y de su eficacia.
caractersticas pertinentes.
Nota: Las personas beneficiarias debern identificarse segn sexo, edad y otras
sobre preguntas de respuesta abierta relativas a un tema concreto. A fin de que se vaya desdoblando un debate entre las personas seleccionadas para responder a las preguntas, ms que entre stas y el evaluador/investigadores, se promueve la conversacin entre las primeras.
9-6
Octubre de 2002
medio sencillo y seguro para medir los logros o reflejar los cambios vinculados a una operacin de la Federacin y/o de las Sociedades Nacionales.
Nota: Cuando sea posible y pertinente, los indicadores debern tener en cuenta
la recopilacin de datos desglosados (segn sexo, edad y otras variables pertinentes).
Indicador de rendimiento: Vase indicador. Indicador sustitutivo: Indicador que sustituye a otro difcil de medir
directamente.
proceso de seguimiento y evaluacin a las partes para las cuales es pertinente y til para facilitarles el aprendizaje. Puede incluir la recopilacin y difusin de hallazgos, conclusiones, recomendaciones y enseanzas extradas de la experiencia.
cantidad suficiente de alimentos seguros y nutritivos que permitan un crecimiento y desarrollo normales y llevar una vida activa y sana. La inseguridad alimentaria puede estar causada por falta de disponibilidad de alimentos, insuficiente poder adquisitivo, distribucin inapropiada de los alimentos o su uso inadecuado en los hogares. 9-7
Octubre de 2002
proyectos y programas. Implica la determinacin de insumos, producto, propsito (consecuencias) y meta (impacto) y de su relacin causal, de indicadores de rendimiento relacionados y de las hiptesis o riesgos que podran influir sobre el xito o fracaso. De este modo, la matriz de planificacin facilita la planificacin, ejecucin, seguimiento y evaluacin de operaciones de la Federacin y/o de las Sociedades Nacionales.
operacin de la Federacin y/o de las Sociedades Nacionales. Se mide mediante los indicadores de impacto.
Objetivo en el largo plazo: Vase meta. Objetivo en el medio plazo: Vase propsito. Obligacin de rendir cuentas: Obligacin de demostrar que se ha
realizado la labor conforme a las normas y reglamentos acordados, o de informar con imparcialidad y exactitud sobre los resultados de la actuacin en comparacin con las funciones y/o planes encomendados. Ello puede exigir una demostracin meticulosa, que incluso pueda defenderse judicialmente, de que la labor realizada es coherente con los trminos contractuales.
a la obligacin de los asociados de actuar de acuerdo con responsabilidades, funciones y expectativas de rendimiento claramente definidas, frecuentemente en relacin con la utilizacin prudente de recursos. Para los evaluadores supone
9-8
Octubre de 2002
la responsabilidad de presentar informes de seguimiento y evaluaciones del rendimiento exactos, imparciales y fidedignos.
Federacin y/o de las Sociedades Nacionales en relacin con las necesidades de los beneficiarios y pases, las prioridades de las organizaciones, y las polticas de los asociados y donantes.
operacin de la Federacin y/o de las Sociedades Nacionales. Incluye los cambios resultantes de la operacin pertinentes para llegar a las consecuencias. En la jerarqua de la matriz de planificacin se corresponde con el nivel de producto.
significativamente una operacin de la Federacin y/o de las Sociedades Nacionales, suponiendo que se concluya con xito y en el tiempo previsto. Se mide mediante los indicadores de consecuencias.
9-9
Octubre de 2002
operacin. En las operaciones de la Federacin y de las Sociedades Nacionales es el Departamento de Gestin de Operaciones correspondiente el que inicia y gestiona las revisiones.
Nota: Una revisin es ms extensa que un seguimiento, pero menos que una
de datos sobre indicadores especificados a fin de informar a los responsables de gestin y a las principales partes interesadas de una operacin en curso de la Federacin y/o de las Sociedades Nacionales sobre los progresos registrados y los resultados obtenidos en relacin con la utilizacin de los fondos asignados y la ayuda alimentaria.
sistemtico efectuado a fin de realizar un seguimiento de cmo perciben los beneficiarios una determinada operacin de la Federacin y/o de las Sociedades Nacionales.
Octubre de 2002
alimentos seguros y nutritivos que cubran sus necesidades y preferencias alimenticias para llevar una vida activa y sana.
seguridad alimentaria: suficiente disponibilidad de alimentos; acceso adecuado a alimentos; y utilizacin apropiada de alimentos.
Federacin y/o de las Sociedades Nacionales una vez concluida la asistencia principal.
anlisis o teoras, los evaluadores esperan evitar el sesgo que se produce en los estudios basados en un nico informante, mtodo, observador o teora.
Validez: Grado en que las estrategias o instrumentos de recopilacin de datos Vulnerabilidad: Presencia de factores que sitan a las personas en una
situacin de riesgo de inseguridad alimentaria o desnutricin, incluidos aquellos factores que afectan a su capacidad para abordar la situacin correspondiente.
Nacionales en el campo de la seguridad alimentaria. La vulnerabilidad resulta de la exposicin a factores de riesgo y de los procesos socioeconmicos subyacentes que reducen la capacidad de la poblacin para hacer frente a esos riesgos.
9-11
Anexo 1
Federacin Internacional de Sociedades de la Cruz Roja y de la Media Luna Roja Divisin de Seguimiento y Evaluacin
Evaluacin del apoyo brindado por el Movimiento Internacional de la Cruz Roja y de la Media Luna Roja al Programa de Asistencia Humanitaria y Rehabilitacin de Chernobil (CHARP) Trminos de referencia para la evaluacin
Borrador
2 de febrero de 2002
1. Antecedentes
En 1990, la Federacin respondi a una solicitud de ayuda de las tres Sociedades Nacionales afectadas, poniendo en marcha el Programa de Asistencia Humanitaria y Rehabilitacin de Chernobil (CHARP de sus siglas en ingls). Desde ese momento se ha intervenido a travs de las Sociedades Nacionales operantes de Belars, la Federacin de Rusia y Ucrania, estando centradas las actividades en el nivel comunitario en toda la regin afectada por el accidente nuclear de Chernobil. La respuesta de la comunidad internacional al desafo planteado en Chernobil ha sido nica y revolucionaria. El programa es el primero de su gnero y en el transcurso de su ejecucin ha generado una cantidad significativa de informacin. El programa se lleva ejecutando desde hace 11 aos, y en este largo perodo de tiempo sta evaluacin es la cuarta de sus caractersticas. Ms de 15 aos despus del desastre siguen aflorando sus efectos. Durante estos aos, el desmembramiento del antiguo sistema sovitico ha provocado un cambio en las condiciones generales socioeconmicas. Este desmembramiento ha tenido un efecto dramtico en la regin en cuanto al acceso a asistencia sanitaria, a la calidad de la misma y a la prestacin de este servicio, agravado todo ello por otros problemas derivados del desastre. Aunque desde que ocurriera el desastre la lluvia radioactiva ha disminuido, se siguen manifestando los efectos de la exposicin a radiacin y contina la exposicin a determinados istopos radioactivos. Instituciones internacionales han fijado unos criterios relativos a la exposicin considerada aceptable para las personas residentes en las reas afectadas. Estos criterios influyen significativamente en las caractersticas demogrficas locales y, como consecuencia, en la ejecucin del CHARP. La coherencia y complementariedad con otros programas las aporta el Grupo de Trabajo entre Organismos de las Naciones Unidas, del cual es miembro activo y en el cual participa el CHARP.
2.
El programa ha sido objeto, previamente, de tres evaluaciones provisionales a partir de las cuales se formularon recomendaciones. La larga duracin del programa ha generado cierto inters en ejecutar una evaluacin ms amplia que permita determinar la pertinencia, eficacia, eficiencia, sostenibilidad e impacto de la intervencin hasta la fecha, a la vez que evaluar si sera adecuado disear una estrategia de salida.
3.
3.1
3 Determinar si la intervencin es compatible con las polticas, directrices y normas de la Federacin y si refleja las mismas (gnero, VIH/SIDA, desarrollo organizacional y fortalecimiento de la capacidad). Determinar cualquier resultado imprevisto de la intervencin. Cuando as se requiera, sugerir otras posibilidades, ajustes o actividades apropiadas para mejorar la pertinencia de la intervencin. 3.2 Eficacia Determinar el grado en que se han alcanzado los objetivos de la intervencin. Determinar la magnitud del impacto de la intervencin sobre la demanda de asistencia sanitaria por parte de los beneficiarios, y sobre la prestacin y calidad de este servicio. Determinar el impacto sobre las Sociedades Nacionales en cuanto a la capacitacin y fortalecimiento de su capacidad. Determinar la conexin de la intervencin con los sistemas de salud de las comunidades anfitrionas, el grado de identificacin de las comunidades con la intervencin y su integracin en la misma. Determinar todo tipo de restricciones que pudieran impedir alcanzar los objetivos en el medio y largo plazos, concretamente en relacin con la disponibilidad de informacin de referencia e indicadores exactos. Determinar el nivel de coherencia, complementariedad y cooperacin entre todas las partes interesadas implicadas en la intervencin (incluidas Sociedades Nacionales participantes, sistema de las Naciones Unidas, sistemas gubernamentales y otros). Examinar la eficacia de los planes de trabajo y los vnculos con la Sociedad Nacional y las Sociedades Nacionales participantes. Cuando corresponda, formular recomendaciones para incrementar la eficacia de la intervencin. 3.3 Eficiencia Examinar la ejecucin y gestin de la intervencin y determinar el grado de eficiencia. Examinar la rentabilidad del enfoque. Determinar si los insumos, presupuestos y costos de la intervencin han sido adecuados y razonables en relacin con los logros de la intervencin. Determinar si son apropiados los sistemas de elaboracin de informes financieros y de conciliacin de cuentas. Determinar la calidad tcnica de la intervencin, incluidos los planes de contratacin y otros mecanismos de apoyo. 3.4 Sostenibilidad Determinar si la intervencin muestra viabilidad financiera y si es sostenible en sus aspectos institucional y social, particularmente en cuanto a los gastos corrientes y la capacidad necesaria. Determinar los factores que podran influir sobre la sostenibilidad en el corto, medio y largo plazos. Determinar si es apropiado, en esta fase, disponer de una estrategia de salida, conferir una nueva orientacin a la intervencin o planificar futuras intervenciones.
4.
4.1
4.2
Equipo de evaluacin
El equipo estar compuesto por un mximo de x miembros. Se incluirn: un miembro nominado por cada Sociedad Nacional en calidad de representante; un representante del Departamento de Salud y Asistencia en la Comunidad de la Secretara de la Federacin; el jefe del equipo, quien gestionar el proceso y elaborar el informe. Se buscarn asesores para desempear el/los cargo(s) de jefe del equipo y especialista en x. El jefe del equipo elaborar el informe y estar especializado en iniciativas de desarrollo, preferiblemente del sector de la salud, y concretamente dentro del contexto de Europa oriental. Ser deseable que posea conocimientos detallados acerca de los tratamientos mdicos indicados tras exposiciones a radiacin. La identificacin y seleccin del asesor o asesores la realizarn conjuntamente el Departamento de Seguimiento y Evaluacin y el Departamento de Salud y Asistencia en la Comunidad, consultando para ello a las Sociedades Nacionales. La seleccin se basar en el grado en que los candidatos se ajusten a las condiciones expresadas en los trminos de referencia, su disponibilidad y los costos. 4.3 Calendario
El ejercicio se realizar en abril de 2002. La identificacin y seleccin de asesores tendrn lugar a finales de febrero. Aunque el calendario intentar, en la medida de lo posible, facilitar la logstica, satisfacer las necesidades administrativas y promover la participacin de las Sociedades Nacionales, de la Secretara de la Federacin, de las Sociedades Nacionales participantes y de otras partes interesadas, se regir por el proceso de toma de decisiones relativo a futuras actividades del programa.
Los Principios Fundamentales del Movimiento Internacional de la Cruz Roja y de la Media Luna Roja
Humanidad El Movimiento Internacional de la Cruz Roja y de la Media Luna Roja, al que ha dado nacimiento la preocupacin de prestar auxilio, sin discriminacin, a todos los heridos en los campos de batalla, se esfuerza, bajo su aspecto internacional y nacional, en prevenir y aliviar el sufrimiento de los hombres en todas las circunstancias. Tiende a proteger la vida y la salud, as como a hacer respetar a la persona humana. Favorece la comprensin mutua, la amistad, la cooperacin y una paz duradera entre todos los pueblos. Imparcialidad No hace ninguna distincin de nacionalidad, raza, religin, condicin social ni credo poltico. Se dedica nicamente a socorrer a los individuos en proporcin con los sufrimientos, remediando sus necesidades y dando prioridad a las ms urgentes. Neutralidad Con el fin de conservar la confianza de todos, el Movimiento se abstiene de tomar parte en las hostilidades y, en todo tiempo, en las controversias de orden poltico, racial, religioso e ideolgico. Independencia El Movimiento es independiente. Auxiliares de los poderes pblicos en sus actividades humanitarias y sometidas a las leyes que rigen los pases respectivos, las Sociedades Nacionales deben, sin embargo, conservar una autonoma que les permita actuar siempre de acuerdo con los principios del Movimiento. Voluntariado Es un movimiento de socorro voluntario y de carcter desinteresado. Unidad En cada pas slo puede existir una Sociedad de la Cruz Roja o de la Media Luna Roja, que debe ser accesible a todos y extender su accin humanitaria a la totalidad del territorio. Universalidad El Movimiento Internacional de la Cruz Roja y de la Media Luna Roja, en cuyo seno todas las Sociedades tienen los mismos derechos y el deber de ayudarse mutuamente, es universal.
La Federacin Internacional de Sociedades de la Cruz Roja y de la Media Luna Roja promueve las actividades humanitarias de las Sociedades Nacionales en favor de las personas vulnerables. Mediante la coordinacin del socorro internacional en casos de desastre y el fomento de la asistencia para el desarrollo, se propone prevenir y aliviar el sufrimiento humano. La Federacin, las Sociedades Nacionales y el Comit Internacional de la Cruz Roja constituyen, juntos, el Movimiento Internacional de la Cruz Roja y de la Media Luna Roja.
02/2004 S 200 40800