Documentos de Académico
Documentos de Profesional
Documentos de Cultura
EVALUACIÓN DE Serie
Planificación y
RESULTADOS Gobierno
0
EL MONITOREO Y LA
EVALUACIÓN DE RESULTADOS®
http://planificacionpublicaygobierno.blogspot.com.co/
2
CONTENIDO
INTRODUCCIÓN………………………………………………………………………………………………………………………….4
2. EL SISTEMA DE MONITOREO…………………………………………………………………………………...10
5. TIPOS DE EVALUAC)ÓN…………………………………………………….……………………………………..53
GLOSARIO…………………………………………………………………………………………………………………...116
BIBLIOGRAFÍA…………………………………………………………………………………………………………….118
3
INTRODUCCIÓN
El monitoreo y la evaluación, hoy por hoy, han ido adquiriendo gran importancia en las
administraciones públicas. De un lado, como consecuencia de los distintos movimientos de
modernización y reforma del aparato público y, de otro, a raíz de la filosofía y práctica de la
Nueva Gerencia Pública que se ha venido implantando en los últimos años en los gobiernos
Latinoamericanos. Evidencia de esto ha sido la creciente ola de rendiciones públicas de
cuentas como resultado de la exigencia para que los dirigentes y gerentes públicos muestren
una mayor transparencia de su gestión; el aumento de la formalización en la fiscalización de
los recursos utilizados y la cobranza de una sociedad cada vez más consciente del alto
compromiso que el Estado ha asumido con ella para que sus dirigentes cumplan las promesas
de gobierno y muestren resultados efectivos en la solución de los problemas públicos y que
impactan sobre la calidad de vida de la población.
Sesión 3 – Los sistemas básicos de dirección estratégica para la marcha global de gestión
Al final, se presenta el glosario con los conceptos más significativos del monitoreo y la
evaluación de resultados y, por último, la bibliografía de referencia en el texto.
5
1. LA EVALUACIÓN DE LA ACCIÓN PÚBLICA COMO UN INSTRUMENTO
DE RESPONSABILIDAD DEMOCRÁTICA
CC1
Diseño CA1
Explicativo Gestión
Gerencial y
Operacional
CC2
Diseño del LA AGENDA
Plan ESTRATÉGICA
CA2
Monitoreo y
CC3 Evaluación
Diseño de la por
Viabilidad Resultados
Estratégica
La Agenda Estratégica
Para Kraft & Furlong (2007) la agenda está constituida por aquellos asuntos/problemas que
ganan la atención del dirigente público y se convierten en objetos posibles de acción política.
Ya para Meny & Thoenig (1992), la agenda define el conjunto de problemas que exigen de la
intervención del Estado. Pero para ello, afirman estos autores, debe existir un proceso
selectivo que instituya qué asuntos y/o problemas deben hacer parte de la agenda y cuáles
no. No todos los asuntos y/o problemas identificados pueden estar contenidos en la agenda
porque el dirigente tiene limitación de recursos, incluido el periodo de tiempo de su
administración que le imposibilita enfocar su gestión en todos. Por consiguiente, variables
relacionadas con el tiempo, el presupuesto, la disponibilidad de recursos humanos y el
conocimiento y nivel de experiencia de las personas influencian fuertemente en la definición
de la agenda, tornando imposible concentrar su gestión en todos los problemas.
Los problemas establecidos en la agenda estratégica deberán ser sometidos al ciclo del
conocimiento antes de que regresen nuevamente a la agenda en forma de decisiones
estratégicas en el ciclo de la acción de tal modo que oriente la gestión gerencial y operacional.
Sin embargo, esto no descarta la posibilidad de que durante su gobierno el gobernante deba
incluir otros problemas o asuntos en la agenda estratégica, como por ejemplo los casos de
crisis que no dan espera y que deben ser tratados urgentemente. Además, se deberá
establecer el orden de prioridad para el enfrentamiento de los problemas, lo que exige
construir una trayectoria estratégica durante el periodo de gobierno.
Por esta razón, hay que tener el máximo cuidado en la construcción de la agenda estratégica
puesto que ella determina en buena parte la calidad de los resultados y la legitimidad del
gobierno. De acuerdo con Aguilar 99 , la agenda de gobierno es el conjunto de problemas,
demandas, cuestiones y asuntos que fueron seleccionados y ordenados por los gobernantes
como objetos de su acción y, más propiamente, como objetos sobre los cuales decidieron que
ellos debían actuar p. 9 . Una deficiente selección de asuntos y problemas en la agenda
dispersará su de foco de atención de las decisiones y la gestión estratégica del dirigente y de
su equipo de gobierno.
7
Ciclo del Conocimiento
Ciclo de la Acción
La Responsabilidad.
La Capacidad de Respuesta.
a) HACER DEMOCRACIA
b) RENDICIÓN DE CUENTAS
- Transparencia en la actuación
- Participación amplia de la sociedad
9
2. EL SISTEMA DE MONITOREO
DEFINICIÓN
El modelo del sistema de Monitoreo debe ser guiado por principios que definen y condicionan
la posibilidad de su aplicación eficaz, como sigue:
1. Utilidad.
Garantizar el acceso y utilización de informaciones útiles y pertinentes a fin de atender las
necesidades de evaluación, la toma de decisiones y la corrección del rumbo de las
intervenciones.
El sistema no puede ser sobrecargado con una enorme masa de informaciones dispersas
que en realidad llegan a desinformar a los decisores, quienes son los que demandan
informaciones específicas para alimentar sus decisiones.
2. Selectividad.
Alimentar el sistema con informaciones relevantes para usuarios concretos bien definidos,
es decir, para los decisores que demandan informaciones específicas para alimentar sus
decisiones sobre las intervenciones.
3. Filtro.
Generar los indicadores y señales significativas que deberán guiar la gestión y evaluación
de la intervención.
12
4. Transparencia.
Asegurar que los datos levantados y las informaciones procesadas y evaluadas en el
sistema de monitoreo sean ampliamente diseminadas cuando sea el caso.
5. Oportunidad.
Generar información en tiempo eficaz para que pueda ser utilizada en la oportuna toma
de decisiones y en el rápido ajuste de las intervenciones. Información fuera de tiempo vale
tanto como el periódico de ayer.
6. Perecibilidad.
Puesto que el monitoreo retroalimenta la acción sobre la gestión, la información que
produce es perecible.
7. Credibilidad.
Las bases de datos que alimentan los indicadores del sistema de monitoreo deben ser
actualizadas permanentemente y provenientes de fuentes fidedignas y reconocidas.
La información debe ser obtenida y procesada con instrumentos confiables y
científicamente sólidos.
8. Rigurosidad.
El monitoreo se alimenta con indicadores que representan la rigurosidad de los números
y la cuantificación con fundamento versus las apreciaciones eminentemente subjetivas.
¿Cómo se pueden medir los objetivos, metas y acciones fijadas en las intervenciones
emprendidas por la organización? ¿Qué indicadores se deben construir?
Existen cinco (5) áreas en las que interviene el sistema de monitoreo (Matus, enero de 1994,
p. 14):
Se refieren a los principales actores institucionales y grupos de interés de los sectores público
y privado y grupos beneficiarios involucrados, de forma directa e indirecta, en el desarrollo
de la intervención pública. Los aspectos que principalmente se monitorean de los actores
sociales y grupos de interés son las variables relacionadas con sus cambios de motivación, el
grado de actuación efectiva para el cumplimiento de los compromisos y responsabilidades
definidas en la formulación del plan, programa o política pública y el nivel de respuesta de
los beneficiarios.
Acompaña las circunstancias externas que están más allá de la previsión y control de la
organización pero que son relevantes para el éxito o fracaso de las intervenciones. El
monitoreo de la evolución de los problemas y de la ejecución de las estrategias de acción sólo
pueden ser interpretados correctamente si cada indicador está situado en el contexto
relevante de los distintos escenarios en que se puede desarrollar la intervención y aplicable
al período de tiempo en que está siendo realizado el monitoreo.
14
e) Seguimiento a actos administrativos:
Se refiere a los hechos y decisiones administrativas que permiten avanzar u obstaculizan las
estrategias de acción de la intervención. Son monitoreados especialmente los compromisos
asumidos y recibidos, declaraciones hechas, emisión de directivas, requisitos legales,
aprobaciones administrativas, entrega de recursos, entre otros. El monitoreo de los actos
administrativos permite, por un lado, anticipar futuras deficiencias en el desarrollo de las
estrategias de acción de las intervenciones como, por otro lado, orientar en las correcciones
que deben ser hechas de forma oportuna para evitar el posible incumplimiento de objetivos
y metas.
Nivel decisorio de
objetivos, metas y
ALTA estrategias de las
DIRECCIÓN intervenciones
Alcanzar objetivos y
metas predeterminados
GERENCIAL por la Alta Dirección con
creatividad, eficiencia y
eficacia
Ejecución de estrategias,
TÉCNICO- procesos, tareas y
OPERATIVO rutinas
15
El Nivel de la Alta Dirección. Son los funcionarios públicos responsables por las decisiones
relacionadas con la planificación e implementación de la intervención. Así, la cantidad de
informaciones exigidas por ellos disminuye en la medida en que la información debe ser
más selectiva, agregada y sintetizada, integrando todas las informaciones disponibles
para decidir mucho mejor sobre el direccionamiento de los objetivos, metas,
operaciones, programas y proyectos. Las decisiones en el nivel de la alta dirección son
relevantes y eficientes en la medida en que son sustentadas en informaciones precisas y
confiables proporcionadas por los niveles subsiguientes de la escala jerárquica.
de la alta dirección.
b) Crear las capacidades de recolección, clasificación, procesamiento, almacenamiento,
análisis y divulgación de informaciones con el fin de que la alta dirección y el nivel
gerencial puedan basar sus juicios de evaluación en datos actualizados y confiables.
INDICADORES
ESTRATÉGICOS
Alta
Dirección
Nivel
INDICADORES Gerencial
DE GESTIÓN
Nivel
Técnico - Operativo
Recolección de datos
Información Primaria
Sistemas de Información
Indicadores
Señales de Atención
Bandas Taxonómicas
LA RECOLECCIÓN DE DATOS
cualquier dato expresado de manera numérica y basados en la estadística, como por ejemplo
cantidades absolutas, índices, porcentajes, relaciones, entre otros y, (ii) cualitativos, que
describen realidades u ofrecen referencias de clase como, por ejemplo, alto, medio, bajo,
superior, inferior, satisfecho o insatisfecho, aprobación o reprobación, apariencia, olor, color,
entre otros.
Existen algunos principios generales que orientan la recolección de los datos y que ayudan a
determinar el tipo de información que debe ser levantada e integrada en el banco de dados.
La calidad, confiabilidad y utilidad de los datos dependen de la atención prestada a esos
principios.
a. Los datos deben ser oportunos. Estadísticas desactualizadas representan un problema que
casi siempre afecta a los decisores. Muchas veces se presentan períodos largos de tiempo
entre la recolección de los datos y la fecha de su publicación, afectando su utilidad para
el procesamiento de informaciones en el sistema de monitoreo. Estos atrasos extensos
de disponibilidad de informaciones se deben, casi siempre, a la lentitud en la recolección
de datos y en su verificación y corrección. Para evitar o atenuar este problema, la
organización puede, por ejemplo, aumentar el número y/o capacitar a funcionarios y
disponer los recursos materiales y logísticos. Sin embargo, se vuelve más complejo
enfrentar esta dificultad si los datos que se necesitan dependen de la producción y
administración de informaciones de otros actores sociales.
19
b. Los datos deben basarse en definiciones claras desprovistos de toda ambigüedad. Para este
fin, es necesario contar con nociones o conceptos comunes ampliamente aceptados en el
asunto o tema específico que se está planificando. La unidad organizativa responsable
por el monitoreo debe estar consciente del problema de compactibilidad y deberá
utilizar la terminología usada en el ámbito del asunto que trata la intervención para
efectos de poder hacer comparaciones.
c. Los datos deben ser completos. Deberán ser recogidas las informaciones completas para
la totalidad de las variables que componen un indicador construido para el monitoreo.
Por ejemplo, si un indicador trata sobre la tasa de cobertura de la educación infantil, será
necesario contar con el número de alumnos matriculados entre 0 y 5 años y la población
infantil total en esa franja etaria, según el último censo poblacional o sus proyecciones.
En este principio se asume que todas las instituciones de educación infantil completan y
devuelven los cuestionarios que son enviados por el gobierno municipal para registrar
datos de matrícula. Por tanto, un deficiente registro afectaría no sólo el monitoreo como
el fortalecimiento de la capacidad de planificación y gestión de las políticas de educación
en ese nivel educativo.
d. Los datos deben ser exactos. Es importante realizar una labor de detección y corrección
de errores en todas las etapas de recolección y compilación de estadísticas.
e. Los datos deben ser relevantes. Los datos que se recolecten deben responder a la
necesidad de información planteada en el indicador. De este modo, los dados relevantes
van a depender de los indicadores-meta definidos en la intervención.
f. Los datos deben ser suficientemente detallados. Cuando se haga necesario agregar datos,
esta labor debe ser efectuada de modo que no exista pérdida importante de información.
g. Los datos deben ser accesibles. En muchas ocasiones la recolección de datos se puede
volver muy costosa para la organización, especialmente cuando éstas provienen de
fuentes primarias, lo que afecta su fácil accesibilidad. Este caso puede darse cuando hay
la necesidad de conocer datos específicos de los beneficiarios de intervenciones públicas
emprendidas por la institución. Sin embargo, existen situaciones en que la información
se puede adquirir en la red o comprar, si es el caso. Por ejemplo, hoy día existe la
obligación en gran parte de los países de que las organizaciones públicas generen
transparencia y acceso a la información pública en medios físicos como virtuales.
ATRIBUTOS CUALIDAD
1. Tiempo
Oportunidad La información debe ser proporcionada en el momento en que se requiere.
Actualidad La información debe ser actual, cuando se proporciona.
Frecuencia La información debe ser alimentada con a frecuencia necesaria.
Período La información puede ser proporciona en períodos pasados, presentes y
futuros, con el fin de evaluar evolución.
2. Contenido
Exactitud La información debe ser libre de errores e imprecisiones.
Robustez Visión suficientemente grande como para no exigir constantes cambios
periódicos.
Pertinencia o La información debe estar relacionada con las necesidades de información
Relevancia de una meta específica para un determinado objetivo.
Integralidad Debe proporcionar todos los elementos de datos necesarias.
Esencialidad La información demandada debe ser proporcionada de forma sintética,
excluyendo aquellos datos que no son necesarios.
Flexibilidad Información con relativa facilidad de modificar y ajustar.
Alcance La información puede ser grande o pequeña en alcance, o tener un foco
interno o externo.
Facilidad Obtención fácil de los valores de los datos.
3. Forma
Claridad La información debe ser proporcionada en un formato con términos de fácil
comprensión.
Detalle La información puede ser proporcionada en un formato detallado o
resumen.
Orden La información puede ser ordenada en una secuencia predeterminada.
Presentación La información puede ser presentada en forma narrativa, numérica, gráfica
u otras formas.
Medios La información puede ser proporcionada en documentos físico o en formato
virtual, en presentaciones de video u otros medios.
Fuente: Adaptado de O´Brien, 2001.
Los sistemas de información constituyen la materia prima informativa que debe ser
procesada por el sistema de monitoreo. Sin embargo, existe una gran confusión conceptual
sobro el significado y propósitos de ambos sistemas, que la Planificación Estratégica Pública
diferencia, define y precisa muy bien (Matus, enero de 1994).
En conclusión, el sistema de monitoreo debe ser capaz de manejar y filtrar de forma ágil y
flexible toda esa gran masa de informaciones primarias generadas en los sistemas de
información, reduciéndolas a un conjunto selecto de informaciones.
Funciones de un Indicador
Atributos de un Indicador
CRITERIOS DE
QUÉ CONSIDERAR OBJETIVO
SELECCIÓN
¿El indicador expresa de forma Describir la situación de la gestión,
Pertinencia clara y precisa lo que se desea proceso o intervención objeto de la
medir? medición.
¿El indicador puede ser Verificar si el indicador es medible,
Funcionalidad monitoreado continua y operable y sensible a los cambios
sistemáticamente? respecto a la situación inicial.
Construir indicadores a partir de
variables que posean información
estadística, de modo que puedan ser
¿La información del indicador
Disponibilidad consultados cuando sea necesario.
está disponible?
Si no es posible disponer de la
información, pero es importante, se debe
evaluar la forma de levantar los datos.
Los dados deben ser medidos de acuerdo
Confiabilidad ¿De dónde provienen los datos?
con ciertos patrones y normas.
¿Es el indicador relevante para lo Que los resultados y el análisis permitan
Utilidad
que se desea medir? la toma de decisiones.
INDICADORES CUALITATIVOS
Características EJEMPLOS
Aserciones que satisfacen las condiciones de • Cumplimiento de una directiva: sí, no,
verdadero o falso, actos administrativos, parcialmente.
cualidades y descripciones de alguien o algo. • Contexto de la intervención: favorable o
Puede medirse en niveles o grado de…o en desfavorable.
escalas de clasificación como bueno o alto, • Fin de un paro profesores: sí o no.
medio o abajo del promedio, entre otros. • Alta o baja calidad de la salud.
INDICADORES CUANTITATIVOS
Tipos EJEMPLOS
Relaciones: Comparación entre dos o más • Costo $/paciente/año
variables de diferente naturaleza. • Relación alumnos/profesor
Simples: Expresión de por lo menos dos • Nº de adultos mayores vacunados
variables en una fórmula matemática simple. contra la influenza
• Nº total de pacientes atendidos por mes
Proporciones: Relación en magnitud o grado de • Cobertura de la educación infantil
una parte con el todo.
Razones: Comparación por cociente entre dos • Razón de camas por médico
variables de diferente o similar naturaleza. • Razón de habitantes por vivienda
Tasa de crecimiento: Ritmo de crecimiento o • Variación del nivel de cobertura en
decrecimiento de una variable a través del salud en la última década.
tiempo. • Variación de la tasa de inflación en los
últimos cinco años.
Tasa: Expresa la relación existente entre una • Tasa de mortalidad general
variable y la frecuencia de un fenómeno en un
periodo de tiempo.
Promedios: Media aritmética resultado de la • Promedio de escolaridad de la
división entre la sumatoria de varias cantidades población entre 17 y 25 años de edad.
por el dígito que las represente en su totalidad.
Índices compuestos o sintéticos: Valor • PIB.
representativo que mide la evolución relativa en • Tasa de inflación.
el periodo t de una magnitud. Representa una • Índice de Desarrollo Humano (IDH)
gran cantidad de variables relacionadas que se
agregan en un único resultado en un tiempo t.
Fuente: Elaboración propia.
27
Indicadores Según Nivel de Intervención
IMPACTO
PROCESOS Y
28
Verifican si los recursos (insumos) utilizados para la producción de los bienes y servicios se
han adquirido al menor costo posible, en la cantidad y calidad deseada y en el tiempo
oportuno. Por tanto, se alcanza un alto grado de economía cuando los recursos utilizados
fueron adquiridos en la cantidad y calidad esperada, al costo más bajo y en el momento que
se requirió para la producción de los bienes y servicios que debía entregar el programa o
política pública. Así, estos indicadores miden la capacidad que posee la organización pública
para generar, utilizar y movilizar de forma adecuada y oportuna los recursos financieros del
programa.
Ejemplos:
Ahorros de costos en la contratación de desayunos escolares
Ahorros de costos en la compra de materiales didácticos para los alumnos de
preescolar.
Aumento de costos por demoras en la ejecución de las actividades
Capacidad de autofinanciamiento: cuánta capacidad tiene la institución para generar
ingresos propios dirigidos al programa.
Capacidad de ejecución: cuánta capacidad tiene la institución para ejecutar el
presupuesto de acuerdo con lo programado en el programa.
% de recursos financieros obtenidos a través de cooperación internacional
% de recuperación de créditos realizados a beneficiarios
Ejemplos:
% de ejecución del presupuesto asignado al programa
Costo por hora trabajada
Costo promedio alumno matriculado
Costo unitario de producción de alimentos para niños en estado de desnutrición
Costo alquiler de maquinaria
Gastos administrativos incurridos frente al total de becas otorgadas
Costo promedio por vivienda entregada
29
Costo por kilómetro de carretera construida
N° de profesionales contratados por campaña de vacunación
Tiempo promedio de realización de las campañas
Costos del servicio en relación al N° de usuarios
Miden el grado de cumplimiento de los objetivos y metas estratégicas del programa o política
pública: metas reales Vs metas previstas. De este modo, la eficacia se asocia al cumplimiento
de los resultados esperados previstos en los objetivos y metas propuestos en el diseño de la
intervención. Representan Los requisitos del bien o servicio, de las expectativas y de las
necesidades del beneficiario o población objetivo en términos de calidad, cantidad,
satisfacción, servicio, oportunidad de entrega, pertinencia, cumplimiento, seguridad,
confiabilidad y transparencia. Manual de indicadores de proceso del sistema de mejor
gestión. Evaluación, Medición, Control y Seguimiento de la UNAL).
Ejemplos:
% de carreteras construidas
% de niños matriculados en la educación primaria
% de niños entre 0 y 5 años vacunados
Tasas de ocurrencia de EDA e IRA
% de funcionarios capacitados y aplicando sus nuevos conocimientos en evaluación
de programas
% de niños matriculados
% de población atendida por el programa de vivienda
ii) Eficacia Final: Evidencian los cambios ocurridos en el conjunto de las manifestaciones
del problema que se desean alterar, y que son foco de atención estratégica de la gestión:
resultados esperados y no esperados (metas finalísticas).
Ejemplos:
Tasa de cobertura en educación primaria
Tasa de cobertura en salud pública
% total de beneficiarios que mejoraron su bienestar de vida por efectos del programa
(población – Objetivo)
Tasas de pobreza e indigencia
% de analfabetismo en personas mayores de 15 años
Tasa de mortalidad general
30
% de accidentalidad vial en el país
Tasa de violencia intrafamiliar
% de la población de estratos 1, 2 y 3 habitando en lugares de alto riesgo
Participación de la población indígena en la educación superior
Ejemplos:
Incidencia de la intervención en el nivel de calidad de vida de la población beneficiaria
Costo/beneficio del programa
Costo/efectividad del programa
Incidencia del proyecto sobre el PIB de la región
Población total beneficiada por efectos del programa (directa e indirectamente)
V. Indicadores de Calidad:
VII
Indicadores de Contexto
VI
Indicadores de Actos
Administrativos
I II III IV
Indicadores de Indicadores
Indicadores Indicadores de
Economía y de Impacto
de Eficacia Resultados
Eficiencia
V
Indicadores de
Monitoreo de Actores
Las variables identificadas han de definirse con el mayor rigor posible para evitar la creación
de ambigüedades y discusiones innecesarias, que pueden afectar la medición de los
resultados. Además, debe quedar claro quién produce tales informaciones y cómo las
procesa, procurando mejorar así el criterio de confiabilidad en el indicador.
32
Recomendaciones para el diseño y administración de indicadores
- Recolectar datos para el indicador que provengan de la misma fuente. Esto se hace con
la finalidad de evitar la polarización causada por los efectos de los cambios en la
metodología de la medición.
- Verificar que los datos suministrados sigan la misma metodología: Alteraciones
metodológicas pueden hacer incomparables los resultados futuros.
- Aclarar si los datos recolectados en cada período son provisorios o definitivos. Esto se
hace con la finalidad de que los resultados derivados de los datos sean comprendidos
sin inconvenientes.
- Cuando los datos son series de tiempo, deben ser evaluadas alteraciones significativas
de un período para otro. Esto se hace con la finalidad de establecer la causa o
justificación que soporta la variación, de modo a tener elementos que puedan facilitar
el análisis en su evolución y comportamiento a lo largo del tiempo.
33
En el momento de definir las responsabilidades:
Una vez agotadas las fases anteriores, se debe documentar a continuación el indicador. Es
decir, elaborar su Ficha Técnica (componente que se explicará más adelante en este
documento).
LAS SEÑALES
Las Señales, como instrumento para el monitoreo, son producidas a través del
establecimiento de una relación entre dos distintos tipos de indicadores:
Su comparación puede indicar tres tipos de señales, de acuerdo con el grado de discrepancia
entre la realidad y la norma:
Normalidad o conformidad
Atención
Alarma
Las señales pueden ser transformadas en íconos de diversa naturaleza con el fin de mantener
un cuadro de señales de fácil interpretación:
Para conocer cuánto se ha avanzado en los resultados y así definir las señales es necesario
establecer primero una Línea de Base, la cual muestra la situación del indicador al inicio de
la intervención.
34
De acuerdo con Matus, en el documento del Sistema Altadir de Monitoreo – SAM (enero de
1994, p. 30), la conversión de una gran cantidad de datos en poca información primaria de
relevancia y significado tiene el propósito final de alimentar los indicadores y éstos últimos
en señales. La mayor parte de la información primaria que se almacena nunca será expuesta
a la alta dirección porque no es relevante para el sistema selectivo de informaciones del
monitoreo y porque podría causar dispersión en su foco de atención. De cualquier forma, esa
gran cantidad de información puede ser almacenada en los bancos de datos de los sistemas
de información.
INDICADORES NORMA
Alarma
INFORMACIÓN INDICADORES SEÑALES
PRIMARIA (selectividad en Atención
(pocas)
(mucha) la Información)
Conformidad
INDICADOR
SEÑALES
REAL SEÑAL DE
33% tasa bruta ATENCIÓN:
de cobertura en 67% lo que es
grado Transición necesario para
en 2016 alcanzar la meta
ÍCONOS
35
Los indicadores-norma necesarios para producir las señales que informarán sobre la
situación real de una situación y sus tendencias, son colocados en una banda taxonómica que
se divide en tres escalas que definen los rangos de resultados permitidos y no permitidos en
el proceso de la evaluación. Así, en estas escalas se establecen zonas de normalidad, de
atención o de alarma o fuera del límite. En el procesamiento de estas escalas es necesario
establecer el UMBRAL, el cual se define como el valor mínimo o máximo que debe tener una
señal para ser preservada, reforzada o suprimida (ruido). De esta forma, los valores del
indicador que están por encima del umbral establecido por el Indicador-Norma se colocan en
el valor máximo y aquellos que no están en ese límite, se llevan para el valor mínimo,
eliminando así el ruido causado por alteraciones o cambios no significativos en el indicador.
Zona de
ALARMA ≤ 60%
Zona de
ALARMA ≤ 20%
Zona de
ATENCIÓN: 61 a 89%
Zona de
ATENCIÓN: 21 a 40%
Zona de
NORMALIDAD ≥ 90%
Zona de
NORMALIDAD ≥ 41%
1
El concepto de bandas taxonómicas en el sistema de monitoreo es propuesto por Carlos Matus en el documento
SAM (enero de 1994).
LA FICHA TÉCNICA DEL INDICADOR
Tipo de Indicador
Descripción Técnica
Descripción Metodológica
Descripción de los datos necesarios
Informaciones Adicionales
Tipo de Indicador
Impacto Resultados Eficiencia / Economía
Informaciones Adicionales
Datos Existentes
Bibliografía/Webgrafía
Observaciones
Informaciones Adicionales
Datos Existentes Población infantil de 0 a 5 años por comunas.
www.dane.gov.co
Bibliografía/Webgrafía
www.mineducacion.gov.co
Solicitar a los establecimientos educativos públicos y privados el
Observaciones
38
De acuerdo con Matus, en su documento del SAM (enero de 1994), durante el proceso de
producción de informaciones para el monitoreo se forma una cadena de productores y
receptores que actúan como en una carrera de relevos (p. 25). Cada enlace de la cadena tiene
un responsable por una función específica que debe ser cumplida generando un producto
informativo intermedio, el cual debe ser entregado de forma oportuna al siguiente
responsable en la cadena. De esta manera, la cadena de monitoreo tiene seis (6) eslabones
básicos (adaptado de Matus, enero de 1994, pp. 25-26):
i. Registro primario de las informaciones del problema que se desea enfrentar con la
intervención pública.
ii. Procesamiento de la información primaria que ha sido levantada durante el análisis del
problema.
iii. Definición y diseño del indicador real con una explicación clara de las variables que lo
componen y sus fórmulas de cálculo. Este elemento es clave para orientar la recolección
de la información primaria de forma agregada de tal forma que se convierta en
indicadores con alto grado de significancia y relevancia para el seguimiento de la
gestión de la intervención y los resultados del problema. Por esta razón es fundamental
realizar controles de calidad de la información levantada y que para cada variable del
indicador se recolecte la información pertinente y se revise que las fuentes y cálculos
sean confiables.
iv. Definición de los parámetros cuantitativos y cualitativos que comprenderán las señales.
A partir de aquí se deciden las metas para así establecer la relación entre Indicadores-
Norma e Indicadores-Reales de acuerdo con los objetivos deseados en la intervención.
v. Transformación de las señales en íconos: Cuando sea relevante y necesario, crear una
comprensión gráfica rápida y visual del significado del indicador.
En la siguiente figura se muestra la relación entre estos eslabones básicos que componen la
Cadena de Monitoreo.
39
Cadenas de Monitoreo
Intervención
Pública Contexto
Registro de
Procesamiento
Informaciones
Primario de la
Primarias de la
Variable A
Variable A
Indicador Norma
PROBLEMA
QUE SE Registro de
Procesamiento
DESEA Informaciones Indicador
Primario de la Señales
ENFRENTAR Primarias de la Real
Variable B
Variable B
Registro de Procesamiento
Informaciones Íconos
Primario de la
Primarias de la Variable C
Variable C
Con el diseño de esta cadena de monitoreo se puede conocer de forma explícita cuánto
tiempo de oportunidad o retraso se ha generado entre la emisión de la señal y las decisiones
tomadas por los niveles de la alta dirección y gerencial para ajustar o corregir el proceso o
las estrategias de acción diseñadas en la intervención. Este proceso de decisión en la cadena
de monitoreo se muestra en la siguiente figura.
CAMBIO EN LA
REALIDAD DEL
PROBLEMA
DELIBERACIÓN DE
ACCIÓN DE
TOMA DE LOS NIVELES DE LA
AJUSTE O
DESICIONES ALTA DIRECCIÓN Y/O
CORRECCIÓN
GERENCIAL
40
PRODUCCIÓN DE
DISEÑO DE INFORMES CON
RECOLECCIÓN DE INDICADORES CON ANÁLISIS DE
INFORMACIONES INFORMACIONES INFORMACIONES DE
RELEVANTES RELEVANTES LOS INDICADORES
ALTA DIRECCIÓN Y
MONITOREO Y CORRECCIÓN Y
NIVEL GERENCIAL
AJUSTE DE LOS AJUSTE DE DELIBERAN Y
INDICADORES ACCIONES TOMAN DECISIONES
41
3. LOS SISTEMAS DE DIRECCIÓN ESTRATÉGICA PARA LA MARCHA
GLOBAL DE GESTIÓN
Los principales elementos del sistema de cobranza y rendición de cuentas por resultados son
los siguientes:
Es necesario dedicar tiempo en la agenda de la alta dirección y del nivel gerencial para la
reflexión y evaluación y para los elogios y las llamadas de atención. La práctica de la cobranza
y prestación de cuentas por resultados motiva una mejor calidad del monitoreo, de la
planificación y del gerenciamiento. Si el nivel de la alta dirección no es presionado a prestar
cuentas de manera sistemática y, consecuentemente, no demanda a sus funcionarios esta
misma presión, su agenda será dominada por las emergencias afectando negativamente los
resultados de las intervenciones y, en últimas, los sistemas de monitoreo y evaluación
quedarán en segundo plano cumpliendo solamente un papel ritual en la organización.
44
¿Cómo interactúan los sistemas de dirección estratégica?
SISTEMA DE
PLANIFICACIÓN
Los anteriores cuatro Sistemas de Dirección Estratégica deben interactuar de forma eficaz
para que la gestión muestre los resultados esperados. En síntesis, esta interacción se produce
de la siguiente manera:
El sistema de planificación contiene las metas con los indicadores que deberán ser
monitoreados en el cumplimiento de los objetivos trazados en las intervenciones. Por su
parte, el sistema de monitoreo es responsable tanto por la recolección de datos de acuerdo
con los indicadores definidos en las metas establecidas en las intervenciones, como por el
procesamiento y seguimiento de las informaciones obtenidas para estos indicadores. De este
modo, en el sistema de monitoreo se elaboran y emiten los informes que darán la información
relevante al dirigente o gerente público y a su equipo de gobierno sobre los avances
alcanzados y los atrasos encontrados en las metas y así sustentar el sistema de evaluación. Y,
el sistema de cobranza y prestación de cuentas por resultados, alimentado por el sistema de
monitoreo, es el medio de verificar el grado de responsabilidad de los funcionarios en el
cumplimiento de los compromisos que fueron evaluados. De esta manera, se emiten los
juicios que llevarán a tomar decisiones fundamentadas orientadas a hacer los ajustes y
correctivos necesarios, dando apoyo de esta forma al sistema de evaluación.
Si las políticas públicas, programas y planes de acción existen y son bien definidas las
metas, pero no hay seguimiento que permita verificar su grado de avance, estancamiento
o retroceso, entonces dichas políticas públicas, programas o planes no tendrán sentido
práctico en la gestión y no será posible saber si los problemas que afectan el bienestar de
la población están siendo atacados realmente, así como tampoco será posible evaluar la
calidad de la gestión pública. Por ejemplo, la organización puede crear e implantar un
observatorio con sistemas modernos y sofisticados de información, pero su buen
funcionamiento y real utilidad van a depender de que sea efectivamente demandado por
el Sistema de Planificación. Fuera de eso, sin un Sistema de Monitoreo no es posible que
opere el Sistema de Evaluación como tampoco el Sistema de Cobranza y Rendición de
Cuentas por Resultados. El Sistema de Monitoreo debe permitir que cada responsable de
las acciones, operaciones o proyectos de las distintas intervenciones desarrolle su
iniciativa y creatividad, corrija de inmediato y decida, sin consulta previa, sobre aquellos
aspectos que están incluidos dentro de su espacio de gobernabilidad. De esta forma, será
factible el cumplimiento de los compromisos definidos en las intervenciones y que la
prestación de cuentas pueda ser dada de acuerdo con las promesas realizadas.
Esas deficiencias se constituyen en desafíos que deben ser enfrentados con estrategias
adecuadas de modernización que den vía a la implantación efectiva de los sistemas de
dirección estratégica. En síntesis, un eficaz Sistema de Planificación es base para el Sistema
de Monitoreo y Evaluación y, a su vez, eficaces Sistemas de Monitoreo y Evaluación son
pilares para el Sistema de Cobranza y Prestación de Cuentas por Resultados.
Aunque será tratado de forma más exhaustiva en el siguiente capítulo, la evaluación se define
como un sistema de deliberaciones en el que los niveles de alta dirección y gerencial realizan
juicios sobre el desempeño en los diferentes niveles organizativos y sobre los resultados
alcanzados, con el fin de mantener o corregir el curso de una intervención. Por eso es que es
posible que a través del sistema de monitoreo, el sistema de evaluación haga una valoración
tanto de la calidad de la gestión y de la revisión del cumplimiento en los compromisos
asumidos por los niveles de la alta dirección, gerencial y técnico-operacional.
Finalmente, aunque exista una correlación muy estrecha entre la eficacia del sistema de
monitoreo y la calidad de la evaluación, ésta última sólo alcanzará su eficacia y utilidad
integral cuando sea acompañada de un proceso permanente de cobranza y prestación de
cuentas por resultados. Por ese motivo, no es posible la evaluación por resultados sin un
sistema de monitoreo que genere los indicadores necesarios en la intervención. Y, no es
posible mostrar la utilidad del sistema de monitoreo sin evaluación y sin cobranza y
prestación de cuentas por resultados.
49
4. LA EVALUACIÓN DE RESULTADOS: CONCEPTOS FUNDAMENTALES
DEFINICIÓN
(i) Como medio para realizar rendiciones de cuentas ante grupos interesados y
participantes del proceso respecto a los efectos intencionados y no intencionados
generados por las intervenciones.
(ii) Aportar informaciones y evidencias creíbles y confiables que sustentan mejor la
toma de decisiones respecto a la formulación, implementación, funcionamiento de la
intervención y asignación de recursos.
(iii) Proporcionar aprendizajes sobre lo que funciona y no funciona en el proceso de la
50
intervención.
La evaluación cumple en esencia cuatro (4) funciones (Wholey, Hatry y Newcomer, 2010):
a. Evaluación de Responsabilidades
Se evalúa si las decisiones tomadas por la alta dirección y el nivel gerencial están siendo
implementadas, además del grado de cumplimiento o incumplimiento en la ejecución de las
estrategias de acción formuladas en las intervenciones.
b. Evaluación de Resultados
Se evalúa si los objetivos y metas definidas en las intervenciones están siendo o no
alcanzadas.
Las evaluaciones pueden ser clasificadas de acuerdo al tiempo o momento del ciclo de vida
de una intervención:
Evaluación ex ante
iii) La trascendencia que puede tener la intervención en términos del impacto que se
desea generar. En este caso se requiere hacer un balance para comparar los costos y
beneficios presentes y futuros entre varias alternativas. Este balance de costos y
beneficios se pueden medir en términos financieros, políticos, económicos, sociales y
ambientales (Di Virgilio y Solano, 2012, p. 61).
Evaluación de proceso
Evaluación ex post.
Evaluación de implementación
Es una evaluación de tipo descriptiva que busca evaluar lo que está ocurriendo en una
intervención, describiendo los procesos, condiciones, relaciones organizacionales y
54
Evaluación de resultados
Es una evaluación de tipo normativa que compara lo que está ocurriendo (resultados reales)
con lo que debería estar ocurriendo (objetivos y metas propuestas). Es decir, es una forma
de evaluación que valora el grado en que una intervención alcanza sus objetivos orientados
a los resultados. Así mismo, se centra en los productos y efectos (incluyendo efectos no
buscados) para juzgar la efectividad de la intervención al relacionar el proceso de
implementación con los resultados producidos.
Evaluación de impacto
Es una evaluación de tipo causa-efecto que busca estimar y valorar los cambios generados en
el desarrollo humano o calidad de vida de la población atribuidos por la intervención, tanto
de forma directa o indirecta como intencionada o involuntaria. Así mismo, examina el efecto
neto de una intervención mediante la comparación de sus resultados con una estimación de
lo que habría sucedido en ausencia de éste, es decir, evaluar los resultados sin y con
intervención. Por ello, en este tipo de evaluación se deben considerar los factores externos o
del contexto que influyen en los resultados de la intervención, teniendo cuidado de aislar cuál
sería la contribución de la intervención a la consecución de sus objetivos.
Pertinencia:
- ¿Los resultados de la intervención son consistentes con los objetivos de la
intervención?
- ¿La intervención define con claridad tanto el problema que se quiere enfrentar
como los objetivos y metas que se quieren alcanzar?
- ¿Se ha definido con claridad y de forma explícita la población destinataria de la
intervención?
- ¿Es necesario modificar o adecuar los objetivos y las metas previamente
establecidas en la intervención?
Eficiencia:
- ¿Los productos/servicios han sido o fueron entregados de forma oportuna a la
población destinataria?
- ¿Cómo fue la utilización de los recursos presupuestados? ¿Se utilizaron tal como
fueron presupuestados?
- ¿Cómo fue la gestión de los recursos?
Eficacia:
- ¿Las decisiones tomadas hasta hoy al igual que las acciones planeadas en la
intervención efectivamente han conducido a un enfrentamiento eficaz de los
problemas que se pretenden enfrentar con la intervención, permitiendo ir en
dirección del logro de los resultados propuestos?
- ¿Se lograron o se están alcanzando los resultados propuestos? ¿En qué medida los
compromisos sobre los objetivos y metas previstas en la intervención fueron
cumplidos? ¿Cómo se llegó a esos resultados? ¿A través de qué medios? ¿Qué
decisiones deberán ser tomadas?
- ¿Cuáles son los avances, los errores cometidos y las deficiencias?
- ¿Cuáles son las causas principales del éxito o fracaso de la intervención?
- ¿Cuáles son los obstáculos principales para la implementación de las acciones
definidas en la intervención?
- ¿Qué debe ser corregido? ¿Qué decisiones deben ser tomadas para hacer frente a
las fallas, deficiencias o errores encontrados? ¿En qué se debe perseverar?
- ¿Cuál fue el grado de coordinación y articulación entre los distintos actores
involucrados en la implementación de la intervención?
- ¿Cuál es el peso de las circunstancias del contexto en los pocos avances o fracasos
de la intervención?
- ¿El equipo responsable por la intervención ha realizado de forma oportuna los
ajustes y correcciones necesarias en la intervención?
56
Impacto:
- ¿Hubo cambios en las situaciones de la población afectada objeto de la
intervención?
- ¿Se ha contribuido significativamente a resolver el problema que dio origen a la
intervención?
- ¿Qué efecto neto ha tenido la intervención en la población beneficiaria mediante
la comparación de los resultados alcanzados con una estimación de lo que habría
sucedido en ausencia de dicha intervención?
- ¿Los receptores de los bienes y servicios que genera la intervención han resultado
realmente beneficiados? ¿Los beneficios están llegando a la población que se
pretende atender?
- ¿Los beneficiarios de la intervención están satisfechos con los bienes y servicios
recibidos?
- ¿Los beneficiarios han experimentado un mejoramiento significativo en su
condición-problema inicial, como consecuencia de su participación en la
intervención?
- ¿Cuáles son las capacidades instaladas al finalizar la intervención en la población
beneficiaria?
Sostenibilidad:
- ¿Los resultados alcanzados por efecto de la intervención podrán sostenerse una
vez finalice su implementación?
- ¿Qué factores están impidiendo la sostenibilidad de la intervención?
- ¿Qué capacidades se requieren crear, mejorar o fortalecer para generar
sostenibilidad de la intervención?
6 1
Acciones de Definición de
ajuste y metas e
corrección indicadores
2
Recolección,
5
categorización y
Decisiones procesamiento
de
informaciones
3
4
Monitoreo y
Análisis de las evaluación
causas que comparativa de
impiden la resultados con
consecución de indicadores
metas meta
A seguir, se describen cada una de estas fases del modelo de monitoreo y evaluación:
En las intervenciones se deben definir de forma clara las metas en conformidad con objetivos
ya formulados. Por esta razón, cada meta definida en la intervención es una descripción
cuantificable y verificable de los objetivos, dentro de un determinado período de tiempo. Así,
la unidad organizativa responsable de la intervención debe seleccionar y construir para cada
una de las metas aquellos indicadores asociados a ellas.
La construcción de indicadores es una tarea que debe ser realizada con profesionalismo, pues
deberán cubrir adecuadamente el dominio completo implícito en la declaración realizada en
la meta. Es decir, que el número de indicadores definidos en cada meta va a depender del
alcance establecido en el objetivo u objetivos formulados.
Las variables que componen los indicadores definidos en la Fase 1 orientarán de forma
58
Para llevar a cabo esta fase es necesario definir primero los valores de los indicadores-norma
o indicadores-meta, ya que ellos se constituyen en los referentes para hacer el análisis
comparativo con los resultados reales alcanzados en el indicador. A partir del indicador-
meta, es decir, de la definición del valor cuantitativo o cualitativo deseado para alcanzar el
objetivo previsto en la intervención, es posible elaborar un juicio razonablemente informado
y justificado que permita interpretar posteriormente los resultados obtenidos. Pero eso exige
un proceso de monitoreo constante.
a. De que la evaluación sea hecha a partir de un análisis que integre tanto las visiones y
conocimientos técnicos como políticos, a fin de lograr una comprensión amplia de los
resultados obtenidos desde múltiples perspectivas situacionales. Así, se podrá
conocer si está siendo asegurada la direccionalidad de la gestión institucional y la
eficiencia y eficacia en el cumplimiento de los objetivos y metas definidas en las
intervenciones.
59
b. De la calidad de preparación del personal designado para el trabajo de evaluación. En
esta evaluación deben participar no sólo los funcionarios de la unidad organizativa
responsable por esta tarea, sino también aquellos que estén capacitados de otras
dependencias y órganos de la institución. No obstante, las interpretaciones bien
cualificadas serán así mismo fortalecidas con el apoyo de especialistas o expertos de
instituciones públicas y particulares involucrados en el estudio y experiencia en el
ámbito problemático que se pretende enfrentar con la intervención.
FASE 5: Decisiones.
Se presenta un informe con el análisis de las causas junto con una evaluación de ventajas y
desventajas de cada alternativa de decisión propuesta. Estos elementos permitirán a la alta
dirección deliberar y tomar decisiones de manera informada y bien respaldadas por un
análisis concienzudo y profundo.
Las acciones de ajuste y corrección son resultados de las decisiones tomadas por la alta
dirección y que fueron sustentadas en evaluaciones, al igual que por el procesamiento de las
deficiencias. Una intervención puede ser responsabilidad de varias dependencias, pero en
ocasiones las acciones de ajuste pueden depender de la competencia de instituciones
externas, públicas o particulares. Esto dificulta la actualización de la intervención.
60
El Monitoreo y la Evaluación como una Repetición Periódica y Constante
Monitoreo y Monitoreo y
evaluación 1 evaluación 2
TIEMPO
61
6. LA CADENA DE RESULTADOS (O MODELOS LÓGICOS)
Eficiencia
El uso de los medios para alcanzar los objetivos.
El grado en que un programa o política pública ha sido productivo en relación a los
recursos utilizados.
Eficacia
El grado en que han sido alcanzados los objetivos propuestos en el programa o política
pública.
Impacto
El grado en que un programa o política pública ha generado cambios duraderos en el
bienestar o calidad de vida de los beneficiarios.
También llamado como CADENA DE VALOR o MODELO LÓGICO, es un método que de forma
gráfica muestra los elementos esenciales y su interrelación para el desarrollo de una política
o programa. Es así que describe los recursos utilizados, la acción planificada y los productos
y resultados esperados de una política o programa a fin de producir un impacto que cambie
la situación negativa en un problema social, en un periodo de tiempo determinado y bajo
ciertas condiciones del entorno. Ayuda a ofrecer un panorama simplificado de toda la
intervención .
RESULTADOS DE
RECURSOS ACTIVIDADES PRODUCTOS IMPACTO
CP y MP
CONDICIONANTES
Fuente: Adaptado de Handbook of practical program evaluation. Wholey y otros (Editores). Third Edition. 2010, pág. 57.
62
La Cadena de Resultados vincula los resultados intermedios y de largo plazo con los procesos
y las actividades y con los factores externos e internos que condicionan la obtención de los
productos y resultados.
El modelo vincula los resultados a corto y largo plazo con los procesos y las
actividades y con los supuestos teóricos en que se basa el programa. El modelo
proporciona un marco de planificación, que subraya la manera en que se espera que
se desarrolle el programa, y en qué orden escalonar las actividades, y observa la
forma en que se logran los resultados.
Incluye un análisis de los insumos necesarios para mantener el proyecto en
funcionamiento, y puede contribuir a la elaboración de los indicadores que se
utilizarán para seguir los avances del proyecto hacia las metas y resultados
previstos. UNESCO, , p. .
Permite enfocarse en los elementos importantes que deben ser evaluados en una política o
programa como, por ejemplo:
Además, posibilita diseñar los sistemas de medición del desempeño: Qué Medir para
recolectar los datos necesarios (Indicadores) y qué puede ser usado en cualquier momento
del ciclo de vida de una intervención: durante su fase de diseño, fase de implementación o
después de finalizado.
63
Elementos de la Cadena de Resultados
Bienes y servicios
Recursos Acciones Es el objetivo
producidos y
organizativos, emprendidas o Uso de los último.
distribuidos.
económicos, trabajo productos o Impacto de largo
políticos y de desempeñado Son producto de productos plazo que busca
conocimiento para producir la ejecución de dirigidos a la enfrentar o
movilizados bienes y/o las actividades población- contribuir a
para apoyar servicios mediante la objetivo. enfrentar un
las actividades (productos) combinación de
problema social
recursos.
Fuente: Adaptado de IMPACT EVALUATION IN PRACTICE. Gertler, et al, 2011, pp. 25.
Objetivos con sus metas (a partir de las manifestaciones e indicadores del problema y de
las Causas Críticas).
Operaciones o Estrategias de Acción con su respectiva desagregación: acciones, proyectos
y actividades, junto con responsables claramente establecidos.
Construir enlaces causales entre los elementos que componen la Cadena de Resultados:
- ¿Qué insumos son necesarios para realizar qué actividades? ¿Qué actividades
65
EJEMPLO:
ESTRATEGIA DE ACCIÓN: Programa de Control del VIH/SIDA en Cali.
OBJETIVO: Disminuir los índices de enfermedades de transmisión sexual en la
ciudad de Cali.
Detección de Disminución en
Personal Disminución
casos de VIH X casos el número de
calificado con en los índices
en Cali. identificados
Inicio de X personas
conocimien- casos de mortalidad
tos altamente presentados por por
programas de iniciando VIH en Cali, por
especializa- transmisión
tratamiento a tratamiento
X personas
dos. Comunas…
Sistemas de
sexual por
35% de las
personas con
finalizando VIH/SIDA en
VIH.
Realización de
información personas Cali: de 40%
tratamiento
X campañas
de salud
Disponibili-
afectadas por para 20%,
fuertes
realizadas. VIH han sido entre el total
campañas de
X condones
dad de curadas de enferme-
concientización
clínicas, completamente dades
en colegios y distribuidos.
laboratorios y
Reducción
infecciosas en
centros de
farmacias.
$1.400
la ciudad.
salud.
Distribución
significativa de
millones de las cifras de
gratuita de casos de
pesos.
condones en portadores del
colegios, virus, de 10.000
clínicas y para 3.500.
centros
comerciales.
El objetivo:
➀ Objetivo:
RECOLECTA,
INDICADORES/ ESTRUCTURACIÓN E
PREGUNTAS CRONOGRAMA
DATOS INTERPRETACIÓN DE LA
INFORMACIÓN
Fuente: http://www.uwex.edu/ces/lmcourse/interface/coop_M1_Overview.htm
Las preguntas:
¿Se alcanzaron
¿Los recursos los impactos
fueron esperados?
¿Se realizaron ¿Se alcanzaron ¿Se generaron
suficientes y ¿Se generaron
oportunos de
las acciones los productos los resultados
planificadas? esperados? proyectados? impactos
acuerdo con lo indeseados?
planificado?
¿Cuáles? ¿Por
qué?
Los indicadores:
¿Cómo saber si se han alcanzado las metas y los objetivos de la política o el programa,
tanto a nivel de resultados intermedios como de impacto?
Un indicador es la prueba del fenómeno sobre el que se está haciendo las preguntas, o
información que lo representa.
67
Los indicadores definen los datos que se recolectarán y deben estar directamente
relacionados con las metas y los objetivos del programa o política pública.
El cronograma:
Definir el lapso de tiempo posible y eficaz en que deberá ser realizada la recolección y
análisis de la información levantada del conjunto de indicadores. Tenga en cuenta:
68
7. MÉTODOS DE EVALUACIÓN:
CUANTITATIVOS Y CUALITATIVOS
I. LA EVALUACIÓN EXPLORATORIA
Es una evaluación que se realiza antes de implementar el programa o política pública. Por
tanto, se denomina también como Trabajo Pre-Evaluativo, puesto que ocurre antes del
proceso de evaluación formal.
a) Análisis de Evaluabilidad - AE
Ayuda a responder a la pregunta sobre si un programa o política pública está listo para
evaluaciones futuras útiles. Por tanto, su objetivo no es saber si el programa puede ser
evaluado. Por otro lado, clarifica el diseño del programa y, si es necesario, a rediseñarlo al
permitir que los actores claves lleguen a acuerdos sobre objetivos y metas realistas de la
intervención y sobre los criterios de evaluación. EL AE permite comparar y contrastar las
expectativas de los actores claves con la realidad de las actividades del programa y los
productos y resultados que se esperan, además de estimar la demanda de información que
se requerirá para las evaluaciones futuras y la probabilidad de contar con ella a un costo
razonable.
Una intervención es evaluable en la medida en que cumple los siguientes cuatro criterios:
i. Los objetivos y metas del programa o política pública fueron acordados y son realistas:
- Hay un razonable nivel de acuerdo sobre los objetivos y metas que servirán de
parámetro para la evaluación futura
- Se han abordado los efectos colaterales (intercambio de problemas) más
importantes a través de la definición de objetivos y metas que permitan estimarlos,
controlarlos o potencializarlos.
69
- Los objetivos y metas son realistas en la medida en que los recursos comprometidos
son suficientes y consistentes con las actividades planeadas.
ii. Las necesidades de información están bien definidas:
- Hay acuerdo sobre las metas de los recursos, actividades, productos, resultados
intermedios y resultados de impacto que serán el foco de evaluación.
- Hay acuerdo sobre el uso intencionado de la información que generarán las
evaluaciones futuras.
i. Una evaluación del desempeño del programa o política pública en términos de los
objetivos que serán usados para las evaluaciones futuras, indicando la extensión de la
incertidumbre en las estimaciones, y
c) Evaluación de Síntesis
Es un método de tipo cualitativo que ofrece una completa comprensión del desarrollo de un
programa o de una política pública, a lo largo de determinado periodo de tiempo, mediante
la descripción y análisis detallado, sistemático y en profundidad del desarrollo de un caso en
contextos o circunstancias reales.
1. Puesto que es poco probable que los estudios de caso sean estadísticamente
representativos, la generalización de los resultados se vuelve a menudo problemático.
2. Debido a la existencia de múltiples fuentes de datos, a la profundidad del análisis y al
deseo común de incluir múltiples lugares, los estudios de caso demandan una
significativa inversión de tiempo y de dinero, llegando a veces a ser muy costosos.
a. Exploratorios (Descubrir):
Determinar tendencias.
Descubrir relaciones potenciales entre variables.
b. Descriptivos (Medir con la mayor precisión posible):
1.2 Identificar las dimensiones de estudio y definir las preguntas de investigación, como
es mostrado en la siguiente tabla:
claves de la
el Contexto
estos problemas? intervención
DIMENSIÓN PREGUNTAS DE INVESTIGACIÓN FUENTES DE DATOS
¿Consideran que los servicios fueron benéficos? Es Grupos Focales
decir, ¿Se alcanzaron los resultados deseados?
¿Cómo fue la intervención en comparación con los
Resultados y
servicios que habían recibido previamente?
¿Qué resultados indeseados se generaron o se están
Experiencias de
los Participantes
generando (intercambio de problemas)?
¿Cuáles fueron las experiencias más importantes de
los participantes en la intervención?
Ejemplos:
1) Si el objetivo es dar cuenta de la satisfacción del usuario de un servicio médico, la unidad
de análisis natural es el paciente atendido.
2) Si el objetivo es evaluar cuántas familias recibieron un subsidio en dinero del Estado, la
unidad de análisis son las familias que recibieron las ayudas.
1.4 Elegir un diseño de caso-único o casos-múltiples.
a) Caso Único.
Son apropiados cuando el caso representa una circunstancia única y rara o cuando sirven a
un propósito de revelación. Ejemplo: Los misiles de Cuba.
b) Casos-Múltiples o Multicasos.
Son usados para describir y comparar entre casos, proporcionando información profunda del
problema que se quiere enfrentar con el programa que se está implementando. Se consideran
más convincentes y los descubrimientos más robustos, que en un caso-único.
75
Ejemplo: Los resultados de la implementación de nuevas políticas de innovación o
modernización curricular en la educación básica pueden ser evaluados en varias escuelas, a
nivel de distintos estratos socioeconómicos.
Los protocolos trazan los procedimientos generales para recolectar datos necesarios para el
estudio de caso, enfocándose en aquellos que serán recolectados en el campo. Esos datos
serán usados para guiar a los evaluadores en el estudio.
En el protocolo se abordan:
- Los sitios en el estudio
- Las fuentes de los datos que serán recolectados en cada sitio.
- Los actores clave que serán entrevistados.
- Los planes para completar otros tipos de actividades de recolección de datos, tales
como grupos focales y observaciones de actividades claves del programa, información
sobre el estudio y la confiabilidad de los encuestados.
- Un calendario para completar los procedimientos de recolección de datos en cada sitio.
Los entrevistadores deben ser capaces de discernir lo que es importante y lo que no lo es. El
juicio y las habilidades interpretativas del investigador determinan los descubrimientos y las
conclusiones del estudio. Es importante entrenar al personal que participa en el
gerenciamiento y operacionalización del estudio de caso. Yin R. K. (2003) identifica varias
habilidades comunes que deben poseer los evaluadores de estudios de caso:
- Hacer buenas preguntas
- Ser un buen oyente (incluye ser capaz de leer entre líneas y buscar una línea de
76
Fuentes Principales:
1. Wholey, 2010, pp. 208-236.
2. Hubert (2005).
Es el examen de un programa o política pública que está siendo implementado o que ha sido
aplicado en dos o más sitios. Proporciona información acerca de la experiencia global de la
intervención, generando evidencia fuerte sobre la eficacia de la intervención. Provee un
conocimiento más profundo respecto a las variaciones presentadas sobre los resultados del
programa en cada lugar.
Es necesario que los datos sean recogidos de la misma forma para que las comparaciones
78
tengan sentido. Esto requiere personal bien capacitado, acceso a todos los sitios, y la
información suficiente antes de tiempo para diseñar los instrumentos de recolección de
datos. También se supone que los mismos datos están generalmente disponibles en todos los
sitios. Además, los datos deben ser recogidos con el fin de comprender las diferencias dentro
de cada intervención y sus comunidades.
II. Cada lugar es diferente aun cuando la intervención aplicada haya sido el mismo:
Algunos indicadores pueden ser comparables, por ejemplo, cantidad de recursos invertidos,
tasa de mortalidad infantil, incidencia de las enfermedades infecciosas, tasas de fertilidad,
Utilización de los recursos de atención de salud, pero cada sitio puede tener un enfoque
ligeramente diferente. Los contextos políticos, sociales, económicos y ambientales son
notables en la configuración de la evaluación. Por tanto, la evaluación deberá reflejar el clima
político en el que operan las intervenciones, así como las diferencias culturales que pueden
afectar a la variación en las experiencias y los resultados.
III. Puede ser difícil determinar si las variaciones en la intervención han tenido diferencia:
A veces, las intervenciones tienen diferentes impactos debido a las diferencias en el entorno,
como por ejemplo un liderazgo fuerte de intervención o una comunidad de ciudadanos
activos.
Aunque la mayoría de las EMS abarcan todos los sitios financiados en una iniciativa de
programa o política pública, a veces es indicado utilizar una muestra representativa de
sitios, especialmente por restricciones presupuestales o por las especificaciones de
diseño del MSE.
O a veces puede suceder que existan sitios dentro de sitios que deben ser muestreados.
Por ejemplo, definir lugares dentro de una comunidad.
i. Ofrece la potencia de los resultados que pueden estar por encima de cualquier
investigación aislada.
ii. La evaluación de la implementación y los resultados de un programa o política a través
de múltiples lugares que difieren en geografía, composición poblacional y otras
características del entorno, brinda un aprendizaje mayor acerca de la generalización de
la intervención y sus efectos.
iii. Si el programa sigue algunas directrices generales, pero es implementado de distintas
maneras, habrá también la oportunidad de entender las ventajas y desventajas relativas
de los diferentes tipos de estrategias del programa.
Revisión Documental:
Documentación primaria, materiales recogidos durante las visitas de campo y un gran
número de fuentes secundarias, incluyendo evaluaciones anteriores y revisiones.
Entrevistas:
En campo, en la organización que lidera el programa y mediante entrevistas telefónicas, a
personas seleccionadas por su conocimiento y experiencia en el programa.
• Visitas de Campo:
Uso de técnica de observación directa en los sitios donde ha sido implementado el programa.
• Encuestas:
A los beneficiarios y otros actores que el proceso de entrevista no alcanza a cubrir, puede ser
81
vía web.
Similitudes y Diferencias entre La EMS y la Evaluación Cluster
Al igual que las EMS, las Evaluaciones Cluster se centran en intervenciones que
comparten una misión, estrategia y población objetivo común.
Al igual que las EMS, es esencial la participación de los responsables del programa como
de los beneficiarios.
La diferencia central está en que las Evaluaciones Cluster se centran más en el
aprendizaje integral que en sacar conclusiones sobre la calidad o el valor del programa.
V. EVALUACIONES PARTICIPATIVAS
igual peso. Como describe Gariba, en este contexto, el evaluador pasa de ser un investigador
para convertirse en un promotor y participante activo del proceso al igual que los demás
actores participantes, incluida la comunidad beneficiaria del programa o política pública.
ii) Los implementadores del programa pueden hacer una contribución crítica al proceso
de evaluación basada en sus experiencias con el programa.
1. ¿Cuáles son los principales objetivos que llevan a realizar una evaluación participativa?
2. ¿Quién liderará la evaluación participativa?
3. ¿Se realizará directamente con miembros de la población, en colaboración con los
actores locales o se apoyará a un participante local que ha empezado ya a realizar una
evaluación? ¿A quién se consultará?
4. ¿Cómo se llevará a cabo la evaluación? ¿Qué técnicas de obtención de datos se utilizarán?
FASES PASOS
Fase I: Reuniones de pre- Paso 1 Definición de metas y objetivos de la evaluación
planificación Identificación de los miembros del equipo de
Paso 2
evaluación
Planificación de los aspectos logísticos y
Paso 3
administrativos
Paso 4 Desarrollo del marco de trabajo visual del proyecto
Orientación a los facilitadores del taller de
Paso 5
planificación de la evaluación
Fase II: Taller de Organización de los participantes en torno a un grupo
Paso 6
planificación de la de trabajo
evaluación Paso 7 Definición de los aspectos de la evaluación
Identificación de fuentes y técnicas de recolección de
Paso 8
información
Desarrollo de instrumentos para la recolección de
Paso 9
información
Conclusión de muestra de lugares para la recolección
Paso 10
de información y de personas a encuestar
Fase III: Trabajo de Preparación de los equipos de trabajo de campo:
Paso 11
Campo: preparación, Técnicas de recolección de información logística
recolección y análisis de Paso 12 Realización de entrevistas y observaciones
la información Paso 13 Análisis de la información recolectada
Paso 14 Resumen de los hallazgos del trabajo de campo
Fase IV: Taller para la Formulación de lecciones aprendidas para cada
Paso 15
formulación de lecciones pregunta de la evaluación
84
aprendidas Paso 16 Análisis del proceso de evaluación por parte del equipo
Fase V: Resumen de los
Resumen de los hallazgos y lecciones aprendidas de la
resultados de la Paso 17
evaluación
evaluación
Fase VI: Desarrollo del Desarrollo de un plan de acción en base a los hallazgos
Paso 18
Plan de Acción de la evaluación
Fase VII: Finalización, Paso 19 Redacción del informe de evaluación
Diseminación y Discusión Distribución y discusión de los resultados de la
del Informe de la Paso 20 evaluación con personas que colaboran con el
Evaluación programa
Fuente: Aubel (1993).
Sin embargo, como está relación causal no es fácil de verificar ni es observable directamente,
es necesario diseñar una situación hipotética que represente la magnitud del bienestar
alcanzado por los individuos en ausencia de dicho programa o política pública. Para ello se
establecen comparaciones entre la población que fue objeto de la intervención o que
participó del programa con una población con características similares o equivalentes pero
que no recibió el estímulo o beneficio.
Recibe No recibe
beneficios beneficios
del del
programa programa
GRUPO DE GRUPO DE
TRATAMIENTO CONTROL
El Muestreo Aleatorio
Es la extracción al azar de una parte de la población2, sin que refleje preferencias por parte
de quien selecciona. Dicha asignación aleatoria garantiza que todos los individuos incluidos
en el universo de población tengan la misma oportunidad de ser seleccionados en la
muestra3.
La aleatorización permite estimar el impacto de una intervención de un modo más válido que
otras técnicas, puesto que ayuda a que el Grupo de Tratamiento y el Grupo de Control se
encuentren en las mismas condiciones de equilibrio y no difieran de ninguna manera
sistemática. Esto significa que la muestra de población en ambos grupos que participan del
experimento de la evaluación social es homogénea en varios aspectos y están expuestos a
los mismos factores del contexto.
Por tanto, con la aleatorización se busca estimar sin sesgos el impacto del programa o política
que es objeto de evaluación experimental.
El municipio tiene a su cargo 100 escuelas municipales de educación primaria, las cuales han
obtenido en los últimos años unos bajos niveles de desempeño en los resultados de las
pruebas Saber de 3º y 5º de primaria. Esta situación refleja la deficiente calidad de la
educación pública en el municipio. Para hacer frente a este problema, el gobierno municipal
diseña un Programa de Refuerzo Educativo destinado a los alumnos de educación primaria.
Sin embargo, por razones presupuestales no podrá implementar el programa sino en 25 de
éstas escuelas. Para hacer una adecuada selección, la Secretaría de Educación estableció unos
criterios claros de elección, entre los que se incluye grado escolar, los más bajos resultados
de desempeño, estrato social y situación socioeconómica de la Comuna en que se encuentran
los establecimientos educativos. Como consecuencia, 50 de las 100 escuelas cumplían en su
totalidad dichos criterios. Hasta aquí lo que la Secretaría de Educación hizo fue conferir
representatividad a los resultados de la muestra muestra representativa . Pero como el
presupuesto asignado sólo es para 25 escuelas, la Secretaría decidió hacer una selección
aleatoria entre esas 50 que estaban en iguales condiciones contextuales. Esto significa que de
forma aleatoria tomó la decisión de cuáles serían esas 25 escuelas que participarían del
programa de refuerzo educativo.
2
La Población es el conjunto formado por los elementos del universo acotados en un tiempo y en un espacio
determinado, con alguna característica común observable o medible.
3
Se entiende así que Muestra es todo subconjunto de elementos de la población.
Muestreo aleatorio simple
Muestreo aleatorio sistemático
Muestreo aleatorio estratificado
Muestreo aleatorio por conglomerados
No obstante, existen situaciones en las que el muestreo aleatorio simple suele no ser óptimo
y se debe recurrir a otras técnicas de muestreo:
ii) Muestreo aleatorio sistemático. En este tipo de muestreo se elige un individuo o elemento
al azar y a partir de él, a intervalos constantes y sistemáticamente, se eligen los demás
hasta completar la muestra. Por tanto, este tipo de muestreo sólo es aplicable cuando
todos los elementos de la población se encuentran numerados de manera ordenada. En
lugar de extraer n individuos al alzar (como en el muestreo aleatorio simple) sólo se
selecciona uno, y el resto de elementos de la muestra es determinado automáticamente
al aplicarle a dicha unidad elegida aleatoriamente una regla de elección sistemática. Así,
el procedimiento exige que se defina primero el tamaño del salto sistemático k dado por
k = N/n, donde N es el universo de población y n es el tamaño de la muestra que se desea
extraer. Este valor k, además de ser el tamaño del salto sistemático, representará el
rango de posibilidades para la elección aleatoria de un número i. Así, el número i será un
número al azar entre 1 y k. Este número i elegido al azar representa el punto de arranque
para la selección de todos los elementos que integran la muestra deseada y son los que
ocupan los lugares i, i+k, i+2k, i+3k...,i+(n-1)k, es decir se toman los elementos de k en k.
Siguiendo con el ejemplo anterior del Programa de Refuerzo Educativo, sí hay un tamaño
poblacional formado por 100 escuelas y queremos extraer una muestra de 25 escuelas,
en primer lugar, se debe determinar el intervalo de selección que será igual a 100/25 =
4. A continuación se selecciona el elemento de arranque o primera unidad muestral,
tomando aleatoriamente un número entre el 1 y el 4, del cual se obtendrán los elementos
restantes de la muestra. Aquí se supone que las escuelas se encuentran dentro de un
listado que les permite ser enumeradas del 1 al 100. Así, sí al azar se selecciona el
número 3, se podrán elegir en el muestreo todas las escuelas que estén cada cuatro
números partiendo de la tercera que se encuentra en la lista, esto es: Escuela n3+4:
Por ejemplo, en las 25 escuelas de la red municipal que hacen parte del Programa de
Refuerzo Educativo, se encuentran matriculados 4.000 alumnos en educación primaria
en los grados 3º y 5º y se desea tomar una muestra de 1.000 alumnos. Se sabe que hay
1.500 alumnos en 3º de primaria y 2.500 cursando 5º de primaria. Por tanto,
1.000 = X1
4.000 1.500
1.000 = X2
4.000 2.500
iv) Muestreo Aleatorio por Conglomerados. Cuando las unidades de la población que se
desean muestrear se encuentran muy dispersas de forma natural en ciertas áreas
geográficas, los costos de muestreo pueden ser muy altos. En respuesta a este problema,
la población puede ser agrupada de forma homogénea por subconjuntos, denominados
conglomerados, de tal forma que posibilite la selección de grupos de población del
universo en forma aleatoria para después estudiar todos los elementos pertenecientes a
los conglomerados elegidos. De esta forma, se facilita el acceso a la muestra deseada
puesto que los elementos que la constituyen son reunidos en un conjunto de grupos. Está
técnica de muestreo por conglomerados en realidad puede combinar la aplicación de los
tipos de muestreo explicados anteriormente: aleatorio simple, sistemático o por
estratificación cuando la unidad muestral no son elementos individuales sino grupos de
elementos (Opencourse de la Universidad de Sevilla, 2007).
88
De acuerdo con el ejemplo que se ha venido desarrollando sobre el programa de
Refuerzo Educativo, puede suceder que, al tratarse de un municipio muy grande, los
barrios donde están localizados las distintas escuelas se encuentren bastante dispersos,
por lo que el levantar las informaciones de las unidades muestrales de los alumnos de
3º y 5º de primaria represente para la administración municipal un alto costo en
términos de tiempo y dinero. Al optar por la técnica de muestreo por conglomerados se
puede, por ejemplo, agrupar las escuelas por comunas. Frente a las escuelas rurales, al
estar localizadas fuera del casco urbano, serían agrupadas por corregimientos. Estas
conglomeraciones en las zonas urbana y rural evitarán la dispersión de las escuelas y
facilitará el estudio individual de la muestra, puesto que podrá ser posible, sí es el caso,
recurrir al muestreo aleatorio simple de las escuelas para posteriormente acceder a las
unidades de análisis de los alumnos de los cursos de 3º y 5º de primaria.
No es necesario que los dos grupos sean de idéntico tamaño poblacional, pues lo que importa
es que cada grupo sea compuesto por el número suficiente de individuos o elementos, pero
con las mismas características observables (nivel de ingreso, edad o nivel educativo) y no
observables (como por ejemplo motivación, comportamientos irregulares), de acuerdo a una
asignación aleatoria. De esta forma, cualquier diferencia que se genere posteriormente entre
ambos grupos podrá ser atribuida al programa o política pública y no a otros factores.
MEDICIÓN FINAL
LÍNEA DE BASE
Intervención
División
Aleatoria
Población
Control
Fuente: Elaboración propia.
90
Métodos de Evaluación Experimental
Con este método se compara el grupo que recibió el programa (Grupo de Tratamiento) con
otro grupo que no lo recibió (Grupo de Control o Contrafactual).
Beneficiarios
IMPACTO
Control
Programa
t0 t1
Fuente: J-Pal, 2010.
Por ejemplo, sí se decide evaluar el programa de Refuerzo Educativo después de tres años de
haber sido implementado, la hipótesis sería que las actividades de refuerzo escolar
consideradas en dicho programa posibilitaron que las escuelas de primaria que recibieron
los beneficios evidenciaran un mejoramiento considerable en su rendimiento escolar. Es
posible así que aumente la diferencia o brecha de calidad educacional entre las escuelas
beneficiadas por la intervención (grupo de tratamiento) de aquellas que no fueron incluidas
en el programa (grupo de control). De este modo, se asume que sin el programa los dos
grupos tendrían trayectorias idénticas a lo largo de los tres años transcurridos. Aquí se
presentan dos variaciones, la diferencia en el tiempo y la diferencia de nivel entre ambos
grupos. Por tanto, el grupo de escuelas denominadas de control o contrafactual representa el
estado del mundo o situación que habrían experimentado sí hubieran participado o fueran
beneficiarios del programa.
Impacto
Estimado
Programa
t0 t1
Fuente: J-Pal, 2010.
Por ejemplo, al evaluar el programa de Refuerzo Educativo después de tres años de haber
sido implementado, la hipótesis sería que sin las actividades de refuerzo escolar
consideradas en dicho programa los alumnos de 3º y 5º de primaria de las escuelas
participantes no habrían mejorado su rendimiento escolar al mismo ritmo. Así, la evaluación
pre-post permite tomar en cuenta la calidad educativa original de las escuelas (línea de base)
y la compara con la calidad educativa después de la intervención, a través de los resultados
de las Pruebas Saber. Se supone, por tanto, que sin el programa de Refuerzo Escolar durante
ese periodo de tiempo de tres años no se habría dado ningún cambio en los resultados del
grupo beneficiario tratado.
Impacto
Estimado
Grupo Tratado
Grupo de Control
Supuesto sobre
Contrafactual
t0 Programa t1
A continuación, se muestran los resultados del cálculo mediante el uso de la evaluación diff-
in-diff5, a partir del ejemplo del programa de Refuerzo Educativo.
4
El Ministerio de Educación Nacional estableció para el nivel de primaria (3º y 5º), los siguientes niveles de desempeño
en las Pruebas Saber de acuerdo a rangos de puntajes: Avanzado (397-500); Satisfactorio (331-363); Mínimo (265-
297), e Insuficiente (100-264).
5
Los cálculos pueden realizarse a través de regresión múltiple. Este modelo se usa cuando se desea estudiar la posible
93
relación entre dos o más variables independientes (predictoras o explicativas) y otra variable dependiente (explicada,
respuesta). Los modelos de regresión nos proporcionan información de la presencia de relaciones, pero no del
mecanismo causal.
Diferencias-en-diferencias en el Programa Refuerzo Escolar
6. Recolectar los datos de la Línea de Base. Aunque esta información puede no ser
absolutamente indispensable y algunas veces no está disponible, contar con ella resulta
de todas formas recomendable para la evaluación.
7. Diseño de los instrumentos de medición: entrevistas, encuestas, revisión documental,
visitas de campo, observaciones directas, base de datos del programa o política pública.
11. Estimar los impactos del programa comparando los resultados promedio del grupo de
tratamiento con los resultados promedio del grupo de control.
Aunque las evaluaciones experimentales se consideran como los métodos de evaluación más
confiables para estimar el impacto de un programa o política pública, su desarrollo no es una
tarea fácil, pues en realidad representa enfrentar grandes desafíos. Dichos retos se
convierten en sesgos potenciales para la evaluación, y pueden ser tanto de orden
metodológico como en términos de valores. Algunos de los desafíos más importantes son:
Determinar cuántos participantes o unidades deben componer cada grupo al igual que lograr
que sean lo más semejantes posibles, es de vital importancia para el desarrollo eficaz de la
implementación del proceso evaluativo. Según la ley de los grandes números, entre mayor es
el tamaño de los grupos, más alta es la probabilidad de que éstos se asemejen, reduciendo así
los posibles desequilibrios. No obstante, en la administración pública el presupuesto siempre
es restringido y, especialmente, cuando los costos son muy altos para emprender
evaluaciones de programas con grupos bastante numerosos. Por esta razón, se recomienda
el uso del cálculo estadístico para seleccionar tamaños de las muestras que sean lo
suficientemente buenas para hacer las estimaciones de los impactos en las variables que se
desean medir. Un tamaño muestral insuficiente puede no detectar de forma adecuada los
impactos del programa.
2. Sesgos de Selección.
3. Riesgo de Contaminación.
Otro factor que también puede poner en riesgo de contaminación los resultados de
estimación del impacto de la intervención sería que algunos de los participantes del grupo de
control hayan tenido acceso total o parcial a algunos de los beneficios dados por el programa.
Por ejemplo, que se haya emprendido en determinada escuela un proyecto piloto de dos
programas alternativos diseñados para mejorar la comprensión lectora de los alumnos de un
grado escolar específico. Con fines de conocer cuál de ellos tendrá mayor o menor impacto,
un programa es aplicado en la mitad del curso, y el otro programa en la mitad restante. Sin
embargo, algunos de los alumnos no se sienten cómodos o tienen preferencias con las
metodologías del otro programa y decidan trasladarse después de éstos programas haber
comenzado. Esta situación también contamina la estimación de los resultados de la
evaluación.
4. Desgaste.
2. Cuestiones éticas.
Algunos consideran que es inequitativo privar a algunos, como por ejemplo a los
participantes del grupo de control, de los beneficios de cualquier programa, en particular
mediante un procedimiento aleatorio en el que arbitrariamente se selecciona al azar quienes
estarán por fuera. La respuesta dada por los evaluadores a esta crítica es que no existe ningún
otro método tan efectivo de evaluación que muestre los beneficios o no del programa sino a
través de la comparación con la privación de la intervención a una parte de la población
potencialmente beneficiaria. Sin embargo, si la intervención se califica como exitosa después
de la evaluación, en el diseño del programa puede prever su implementación gradualmente
de tal modo que todos recibirán los beneficios en un tiempo futuro. Lo que se aleatoriza es el
momento en que los beneficiarios potenciales recibirán los beneficios, no quedando así nadie
por fuera, tal como en el caso real de los programas federales Progresa y Oportunidades en
México. Tanto el Programa Progresa implementado entre 1997 y 2001, como posteriormente
el programa de Desarrollo Humano Oportunidades implementado a partir del año 2002 6,
fueron creados con el fin de enfrentar la pobreza extrema en todo el país. Ambos fueron
objeto de evaluación integral (cualitativa y cuantitativa): el primero fue evaluado
experimentalmente en 1999 y el segundo en el periodo 2007-2008. Las evaluaciones
realizadas se han enfocado en medir el impacto de los programas mediante la identificación
de los cambios que la población beneficiaria ha tenido a partir de su ingreso a ellos.
6
Oportunidades es un programa que tiene como fin mejorar las condiciones de educación, salud y alimentación de las
familias pobres en México. El antecedente de Oportunidades es el Programa Progresa, diseñado en 1995 e
implementado a partir de 1997. A través de Oportunidades se fortaleció el Progresa incluyendo nuevas acciones en
todos los contextos, no sólo en las familias rurales. Su principal propósito es dar apoyo a las familias que viven en
97
condiciones de pobreza extrema mediante el mejoramiento de sus condiciones de educación, salud y alimentación, y
el acceso a mayores oportunidades socioeconómicas y de calidad de vida. (Sedesol, Secretaria de Desarrollo Social de
México, portal del Programa Oportunidades: http://www.oportunidades.gob.mx/Portal/.
Específicamente, en el caso de la evaluación de Oportunidades se han utilizado dos grupos de
estudio: los grupos de tratamiento y los grupos de comparación (individuos y familias sin
programa, por tiempos de exposición).
3. Este tipo de evaluaciones tiene el riesgo de permanecer sólo en la estimación del impacto
sin considerar el proceso de implementación.
Es una técnica que compara los costos con el valor monetario de todos (o la mayoría) de los
beneficios de un programa.
La fórmula que se aplica para obtener los Beneficios Netos de un programa es:
98
7
El Meta-análisis es “la síntesis estadística de datos de estudios separados pero similares (es decir, comparables),
que conducen a un resumen cuantitativo de los resultados combinados”. (Wholey, Hatry & Newcomer, 2010, p. 531).
Beneficios Netos = Beneficios Totales – Costos Totales
Si los beneficios netos son negativos, se les conoce como costos netos.
Es una técnica que relaciona los costos de un programa con sus principales resultados o
beneficios.
LAS UNIDADES DE EFECTIVIDAD, son una medida que expresa el resultado cuantificable
central a los objetivos de un programa.
Ejemplos:
Evaluar si los costos que se asumieron en el programa han valido la pena frente a los
resultados alcanzados.
2. La academia tiene acceso al espacio, los profesores y el equipo de una escuela específica
seleccionada.
Limitación: A veces es difícil asignar valores monetarios a todos los costos y beneficios (o a
100
la mayoría).
Análisis Costo-Efectividad (ACE):
Cuando se conoce el resultado que se desea y se quiere determinar cuál de un conjunto de
programas o proyectos alternativos logra el mayor resultado frente a los costos.
En los casos en que los principales resultados son intangibles o difíciles de monetizar.
La Línea de Base
Describir la línea de base para el análisis, es decir, el estado del mundo en ausencia de la
intervención. (status quo).
Los únicos costos y beneficios que deben ser considerados en un ACB o ACE son aquellos
que se producen por encima de las que se habrían producido sin ningún tipo de acción (en
la línea de base).
Estos costos y beneficios adicionales son conocidos como los costos o beneficios marginales
o incrementales de una política o programa.
Casi toda política o programa abarca una amplia gama de actores interesados y todo costo
o beneficio en última instancia afecta a un grupo particular de personas o a una parte de
la sociedad, que incluye tanto a quienes reciben los beneficios directos como a quienes
reciben los costos y beneficios indirectos.
Es así que esa parte de la sociedad debe definirse sobre una base geográfica. La parte de
la sociedad en la jurisdicción que se llevará la peor parte de los costos y recibirá la mayoría
de los beneficios.
A pesar de que no se puede saber a ciencia cierta sobre todos los costos y beneficios, se
debe hacer un esfuerzo para identificar los que tienen las implicaciones más importantes
en la política.
No todos estos efectos deberán ser evaluados en términos monetarios.
En la identificación y clasificación, se sugiere la siguiente estructura de costos y
beneficios (Musgrave y Musgrave, 1989):
a) reales versus transferencias,
b) directos e indirectos,
c) tangibles e intangibles,
d) financieros y sociales
a) Beneficios y Costos Reales Versus Transferencias
Los beneficios y costos reales representan ganancias o pérdidas netas para la sociedad.
Ejemplos: dinero ahorrado y ganado, vidas salvadas y vidas enriquecidas, mayores
ingresos y menores costes para los contribuyentes, ahorro de tiempo y una mayor calidad
de vida.
Las transferencias sólo alteran la distribución de los recursos dentro de la sociedad, es
decir, algunos beneficios sociales son directamente compensados por otras pérdidas Son
programas gubernamentales que implican intencionalmente la subvención de un grupo
por otro en la sociedad: impuestos y subsidios.
Las transferencias no aumentan el bienestar total, sino que redistribuyen el bienestar de
102
la sociedad.
b) Beneficios y Costos Directos e Indirectos
Los beneficios y costos directos son los que están estrechamente relacionados con el
principal objetivo del programa. Incluyen los costos de personal, instalaciones, equipo y
materiales, y administración.
Los beneficios y costos indirectos son aquellos efectos colaterales del proyecto o
programa.
Los beneficios y costos tangibles son los que se pueden identificar fácilmente en términos
unitarios para el ACE y pueden ser convertidos a valores monetarios para el ACB.
Los beneficios y costos intangibles, incluyen el valor de la vida humana o un mayor sentido
de comunidad. Es muy difícil poner un valor monetario a muchos beneficios intangibles.
Este es quizás el aspecto más problemático del análisis de costo-beneficio, y del por qué el
análisis costo-efectividad se considera más apropiado para algunos tipos de programas.
Compra de textos académicos que son utilizados por más de un año (directa, tangible,
fiscal)
Los costos recurrentes:
Salarios y beneficios de tiempo completo de los maestros dedicados al programa
académico (directo, tangible, fiscal)
Salarios y beneficios de tiempo parcial para los maestros que reciben una compensación
adicional para los programas después de clases asociado con la academia (directo,
tangible, fiscal)
Costos de mantenimiento adicionales asociados con uso de las instalaciones después de la
escuela (indirecto, tangible, fiscal)
Los materiales y suministros, incluyendo libros y otros materiales utilizados durante el
programa (directo, tangible, fiscal)
Los gastos de viaje para las visitas de campo (directo, tangible, fiscal)
Los gastos generales, tales como la supervisión general y las finanzas (indirectos, tangibles,
fiscal)
Aumento de seguros (indirecto, tangible, fiscal)
Costo de los voluntarios (indirecto, tangible o intangible, social)
Costo de oportunidad para los padres, como por ejemplo la pérdida de tiempo en el
transporte de estudiantes (indirecto, tangible, social)
Explicación:
a) Para un análisis ex ante, se tendrá que prever los impactos durante la vida del proyecto:
¿cada costo o beneficio seguirá siendo el mismo cada año o se incrementarán, disminuirán o
desaparecerán en cada año subsiguiente?
b) Para un análisis ex post, gran parte de esta información puede ser ya conocida, sobre todo
si los costos reales y los resultados han sido reportados anualmente.
Puede ser útil considerar si los costos y beneficios son iniciales, se acumulan sólo en el
primer año, o si se repiten los costos o beneficios que se producen cada año.
Estimar y asignar a cada costo un valor monetario, incluyendo tanto los costos fiscales
como sociales.
El objetivo es que los costos y beneficios (en el caso de ACB) sean expresados en las
mismas unidades para facilitar la adición y comparación.
Para cada costo que se le asigne un valor monetario, es importante establecer claramente
su naturaleza, cómo se mide, y todos los supuestos hechos en los cálculos.
105
COSTO DE OPORTUNIDAD: Si un recurso se utiliza para una cosa, no puede ser utilizado para
otra. Es decir, que hace referencia a lo que una persona o institución deja de ganar o de
disfrutar, cuando elije una alternativa entre varias disponibles.
a) Costos de Capital
El costo de los bienes de capital debe ser extendido durante su vida útil esperada.
Normalmente el activo se deprecia igualmente por año durante su vida útil (depreciación en
línea recta). Además, el propietario del activo pierde la oportunidad de utilizar el dinero que
es invertido en el activo depreciado (Costo de oportunidad).
b) Costos Hundidos
Son aquellas inversiones ya incurridas o desembolsos ya hechos antes de iniciar el programa,
independientemente de si éste se realiza o no. Por ejemplo, los estudios relevantes para
obtener la información necesaria que respalde la decisión de implementar o no un proyecto
de construcción de una carretera o una represa.
i) Identificar el beneficio más importante por el cual se desea medir el éxito del programa.
Por ejemplo, la medida de un programa para mejorar el rendimiento en las escuelas se
puede basar en los resultados de las pruebas Saber a niños de 3º y 5º de Primaria en las
áreas de matemáticas y lenguaje.
ii) Cuantificar el beneficio en términos de las unidades de efectividad que son atribuibles al
programa.
107
i) Para un ACB, su objetivo ideal es calcular un valor monetario por cada beneficio principal.
ii) Sin embargo, en la mayoría de los beneficios es muy complicado asignar un valor
monetario.
los presupuestos.
Precios Sombra: utilizar los precios en un mercado privado similar para asignar un valor
monetario a un bien público. Por ejemplo, monetizar los beneficios de una piscina pública
gratuita, utilizando las tasas que se pagan por una experiencia similar en la natación de
piscina privada.
f) Impuestos. Los impuestos son a veces considerados como un beneficio. Desde una
perspectiva social, los impuestos son transferencias: la ganancia para el gobierno es una
pérdida para la persona que paga los impuestos. El individuo obtiene ganancia de los
servicios que el gobierno ofrece con los impuestos, pero pierde dinero que podría haber sido
gastados en compras privadas.
g) Juego de la Reacción en Cadena. Tanto los beneficios como los costos indirectos deben ser
contabilizados. Por ejemplo, la construcción de una carretera, genera beneficios directos
como reducción de los costos de transporte (tiempo y combustible) y aumento de las
ganancias para restaurantes, hoteles y estaciones de gasolina alrededor. Pero, hay pérdidas
probables para los operadores de trenes ya que algunos de sus clientes se convertirán a los
automóviles como medio de transporte, los negocios en los alrededores de las estaciones de
109
tren pueden sufrir pérdida de beneficios, y el uso creciente de automóviles puede hacer subir
el precio de la gasolina e incrementar los costos a los consumidores de gasolina.
h) Valor Estadístico de la Vida (VEV). Establece un valor medio para toda la vida humana, ya
sea joven o viejo, rico o pobre. Calcular cuánto una persona promedio podría pagar para
reducir el riesgo de muerte o, por el contrario, la cantidad que se le tendría que pagar a un
individuo para asumir un determinado riesgo. Por ejemplo, salarios más altos a trabajos más
riesgosos o cuánto se estaría dispuesto a pagar por productos de seguridad.
PASO 7. Descontar los costos y beneficios para obtener los valores presentes
i) El dinero tiene un costo de oportunidad, porque la gente valora más los costos y beneficios
incurridos hoy que aquellos que pueda tener en el futuro.
ii) El costo de oportunidad se incorpora en el ACB y en el ACE, convirtiendo todos los valores
monetarios a su valor actual, al comienzo del programa en el año 1.
iii) Pero para calcular el valor actual de los costos y los beneficios se recurre a la tasa social de
descuento (r).
Refleja en qué medida, desde el punto de vista de una sociedad, un beneficio presente es más
valioso que el mismo beneficio obtenido en el futuro Souto, G. . La selección de la TSD.
Univ. Autónoma de Barcelona. España). Los países desarrollados tienden a utilizar una r entre
3 y 7%, mientras que las naciones en desarrollo utilizan tasas mayores de 8}, lo que refleja el
mayor riesgo y la incertidumbre de las inversiones públicas en los países
Perú: 14%
México: entre 16 y 21%
Se toma el valor presente de los costos del programa para utilizar como el numerador en
su relación costo - efectividad.
Se suman los costos totales en todos los años, teniendo en cuenta los costos de cada año
como Ct, donde t indica el año 1. Es decir, todos los costos se llevan a valores del año 1.
Para convertir los valores en cada año a su equivalente del año 1, se divide Ct por (1 + r) t-
1 Esto nos dará el Valor Presente de los Costos (VPC).
Se toma el valor actual de los beneficios y se resta con el valor actual de los costos. El
cálculo final se conoce ahora como el valor presente neto (VPN), en lugar de los beneficios
netos.
PASO 8. Calcular la relación costo – efectividad (para ACE) o el valor presente neto
(para ACB)
Calcular la relación C – E
En lugar de utilizar los costos totales (como en la primera ecuación), esta relación sustituye
el valor presente de esos costos. Sin embargo, casi siempre el término costos totales se sigue
utilizando a pesar de que el valor presente se supone).
Ejemplos: El resultado se expresa en pesos por deserción impedida" o pesos por vida
salvada."
Nota: Al comparar múltiples proyectos, se calcularía por separado el radio CE para cada
proyecto.
Se toma el valor actual de los beneficios y resta el valor actual de los costos. El cálculo final
se conoce ahora como el valor presente neto (VPN), en lugar de los beneficios netos. La
fórmula se convierte en:
111
Análisis de Sensibilidad a los Supuestos: Debido a que los ACE y ACB deben basarse en
supuestos, es esencial realizar un análisis de sensibilidad explícito que discuta los supuestos
claves, haciendo variaciones para ver cómo el cambio afecta el análisis.
No hay una regla de decisión clara en la evaluación de un programa. El decisor debe usar su
propio criterio.
Si un programa tiene un valor presente neto positivo (sobre todo después del análisis de
sensibilidad), entonces se debe (teóricamente) aplicar la política, ya que aumentaría el
112
bienestar social.
Si tiene valor actual neto negativo, entonces el proyecto debe ser rechazado.
En el Análisis Costo – Efectividad:
Cuando dos o más programas se evalúan según las mismas unidades de efectividad, debe
aplicarse la política con la menor relación CE (asumiendo que los proyectos tienen
aproximadamente la misma escala).
CONCLUSIONES
De hecho, ambas técnicas pueden ser más un arte que una ciencia. Con una serie de
consideraciones y supuestos a veces polémicos, el proceso es mucho más complicado y
potencialmente más sesgado que lo que muchos creen.
Sin embargo, se puede aprender mucho acerca de un proyecto creando un marco que
considere los beneficios y costos: simplemente tratar de identificarlos, medirlos y
valorarlos puede proporcionar información importante para la toma de decisiones.
113
8. RED DE PRODUCCIÓN DE LA UNIDAD ORGANIZATIVA PÚBLICA
RESPONSABLE POR LOS SISTEMAS DE MONITOREO Y EVALUACIÓN
DE RESULTADOS
Debe existir en la organización pública una unidad organizativa responsable por los sistemas
de monitoreo y evaluación. Dicha unidad es quien cumple el papel de recibir las
informaciones de los diversos sistemas de bases de datos internos y externos, seleccionando
y priorizando aquellas que son relevantes para subsidiar el posterior procesamiento y
análisis de los indicadores de gestión y de resultados. Por ese motivo, la unidad responsable
deberá coordinar todo el monitoreo de informaciones que proporcionará a la Alta Dirección
con resultados detallados presentados en la forma de informes gerenciales que contienen un
análisis explicativo y descriptivo (documentos escritos con gráficos y tablas), posibilitando
emitir así un juicio evaluativo del estado de la situación. Se requerirá la realización de
reuniones periódicas donde sean sustentados y discutidos dichos informes garantizando que
la buena explicación del estado y evolución de los problemas y planes conduzca a las mejores
decisiones. Adicionalmente, la unidad organizativa responsable por el monitoreo y
evaluación deberá publicar a la sociedad los resultados finales de los estudios e
investigaciones y brindar informaciones para la elaboración de estudios y relativas a
cuestiones pertinentes.
114
Red de Producción de La Unidad Organizativa Pública encargada
del Sistema de Monitoreo y Evaluación
Operacionalización, Operacionalización,
mantenimiento y mantenimiento y
actualización del sistema de actualización del sistema de
informaciones internas. informaciones externas.
ONG´s
sectores específicos de Contacto:
Observatorios regionales,
a nivel nacional y regional
Unidades
Universidades y centros de
Descentralizadas nacionales e internacionales
investigación.
Actividad. Acciones emprendidas o trabajo desempeñado para generar bienes y/o servicios
(productos) de la intervención.
Agenda Estratégica. Asuntos o problemas que ganan la atención del dirigente público y se
convierten en objetos de acción política: plan, política pública o decisión gubernamental.
Cadena de Resultados. Es un método que de forma gráfica muestra los elementos esenciales y su
interrelación para el desarrollo, seguimiento y evaluación de una intervención. Es así que describe
los recursos utilizados, la acción planificada y los productos y resultados esperados a fin de
producir un impacto que cambie la situación negativa en un problema social, en un periodo de
tiempo determinado y bajo ciertas condiciones del entorno.
Economía. Verifica si los recursos (insumos) utilizados para la producción de los bienes y servicios
se han adquirido al menor costo posible, en la cantidad y calidad deseada y en el tiempo oportuno.
Efectividad. Mide los cambios duraderos generados en el bienestar o calidad de vida de las
personas o beneficiarias, por efectos de la intervención realizada, tanto de forma directa o indirecta
como intencionada o involuntaria.
Efecto. Son los resultados o cambios producidos en los beneficiarios, a corto y mediano plazo, que
ocasionan el conjunto de productos generados exclusivamente por la intervención.
Eficacia. Mide el grado en que la intervención ha avanzado o logrado los resultados o efectos
esperados.
Eficiencia. Mide el grado en que una intervención optimiza los recursos o insumos para generar
los productos específicos propuestos.
Información. Conjunto organizado de datos procesados que son significativos y pertinentes para
el desarrollo, seguimiento y evaluación de una intervención.
116
Impacto. Son los cambios generados en el desarrollo humano o calidad de vida de las personas
como resultado de la intervención, tanto de forma directa o indirecta como intencionada o
involuntaria. “Efectos de largo plazo positivos y negativos, primarios y secundarios, producidos
directa o indirectamente por una intervención para el desarrollo, intencionalmente o no” (CAD
2002, p. 24).
Problema. Disconformidad u obstáculo entre lo que es la realidad hoy y lo que se cree debería ser
ésta (Matus, 1993). Según Roth (2007) un problema es privado o individual hasta cuando alguien
con capacidad e interés tome la ‘vocería’ y lo declare como problema público.
Producto. Son los bienes y/o servicios obtenidos de la ejecución de las actividades.
Recursos/Insumos. Son los recursos financieros, organizativos, cognitivos y políticos usados para
la realización de las actividades de la intervención.
Señal. Instrumento de seguimiento de indicadores que permite verificar y alertar sobre la distancia
entre los resultados previstos y los resultados realmente alcanzados (indicador norma vs indicador
real).
117
BIBLIOGRAFIA
Ahora o nunca: Es el momento de evaluar las políticas públicas. Informe del Centro de
Innovación del Sector Público de la Fundación de PwC e IE Business School. (2011).
Aubel, J. A. (1993). Guidelines For Planning And Conducting Studies Using The Group
Interview Technique. International Labor Organization, Geneva.
Aubel, Judi. (Febrero 2000) Manual de Evaluación Participativa del Programa. Involucrando
a los participantes del programa en el proceso de evaluación. Edición No. 2. Maryland,
EEUU: Publicación conjunta de Catholic Relief Services, Child Survival Technical
Support y USAID. Recuperado de
http://www.coregroup.org/storage/Monitoring__Evaluation/PartEvalManual.Spanish
.pdf
Bañón i Martinez, Rafael. (2003). La Evaluación de la Acción y de las Políticas Públicas. Madrid,
España: Ediciones Días de Santos S.A. Introducción pág. XV-XXVI.
Cohen, Ernesto y Franco, Rolando. (1992). Evaluación de proyectos sociales. México: Siglo
118
Comité de Apoyo Técnico de la Política de Rendición de Cuentas (Julio de 2014). Manual único
de rendición de cuentas. Comité Técnico: Presidencia de la República-Secretaría de
Transparencia, Departamento Administrativo de la Función Pública y Departamento
Nacional de Planeación. Bogotá, Colombia.
DAFP (Agosto de 2012). Guía para la construcción de indicadores de gestión. DAFP. Dirección
de Control Interno y Racionalización de Trámites.
Gertler, P., Martinez S., Premand, P., Rawlings, L. & Vermeersch, C. (Editors) (2011). Impact
Evaluation in Practice. Interactive textbook at The World Bank.
Matus, Carlos. (1993). El Plan como Apuesta. Revista PES. Bogotá, Colombia: Fondo Editorial
Altadir.
119
_____________. (Enero de 1994). Sistema Altadir de Monitoreo – SAM. Fundación Altadir:
Caracas, Venezuela.
Morra, Linda G. & Friedlander, Amy C. (Enero de 2001). Evaluaciones mediante estudios de
caso. Departamento de Evaluación de Operaciones del Banco Mundial - OED.
Washington D.C: Traducido al español por PREVAL II. Recuperado de
http://preval.org/documentos/0950.pdf
Musgrave RA & Musgrave PB (1989) Public finance in theory and practice. McGraw-Hill, New
York.
Neirotti, Nerio, Evaluation in Latin America: paradigms and practices , en New Directions
for Evaluation, )nc., en prensa . Traducción del autor: La evaluación en América
Latina: paradigmas y prácticas mimeo .
O BR)EN, James A. (2001). Sistemas de Información Gerencial. 4ta. Colombia: Edición. Ed.
Irwin McGraw-Hill.
OCDE. (2010). Estándares de calidad para la evaluación del desarrollo. Serie: Directrices y
Referencias del CAD. Ministerio de Asuntos Exteriores y de Cooperación (MAEC) de
España, para la edición en español.
http://www2.unwomen.org/~/media/headquarters/attachments/sections/library/
publications/2012/11/unw-2012-12-un-women-evaluation-policy-
sp%20pdf.pdf?v=1&d=20141013T121501
Patton, M. Q., (1997). Utilization focused evaluation: The new century text. Beverly Hills: Sage
Publications.
Perrin, Burt. (Abril de 2012). Relación entre el monitoreo y la evaluación con la evaluación
de impacto. Notas sobre la evaluación de impacto, Nº 2. The Rockefeller Foundation.
New York Citiy: InterAction.
120
______________ (Oct. 2009). La evaluación de políticas públicas en Colombia: una mirada crítica
a partir de las prácticas evaluativas oficiales de los programas de la Red de Apoyo
Social . Publicado en la Revista del CLAD Reforma y Democracia. No. . Caracas.
Gariba, Sulley, (1998). Participatory Impact Assessment as a Tool for Change: Lessons from
Poverty Alleviation Projects in Africa In Knowledge Shared: Participatory evaluation in
development cooperation. Bloomfield, CT: Kumarian.
UNESCO (2010). Guía para el seguimiento y evaluación de proyectos comunitarios. Por Buen
Camino. Paris, Francia.
Weiss, C.H. (1998). Evaluation. Second edition. Englewood Cliffs, NJ: Prentice Hall.
W.K. Kellogg Foundation. (2001). Uso de modelos lógicos para integrar la planificación,
evaluación y acción. Guía de Desarrollo de Modelos Lógicos. Michigan, USA: W.K.
Kellogg Foundation.
Wholey, J., Hatry, H. and Newcomer, K. Editors (2010). Handbook of Practical Program
Evaluation. San Francisco, California: Jossey-Bass Publishers. Chapter 1: Planning and
Designing Useful Evaluations.
Zall, Jody K & Rist, Ray C. Banco Mundial. (2005). Manual para gestores del desarrollo: 10
pasos hacia un sistema de seguimiento y evaluación basado en resultados. Bogotá:
Banco Mundial en coedición con Mayol Ediciones S.A. Recuperado de
http://documents.worldbank.org/curated/en/254101468183894894/pdf/296720SP
ANISH0101OFFICIAL0USE0ONLY1.pdf
122