Documentos de Académico
Documentos de Profesional
Documentos de Cultura
DOCUMENTO
DE POLÍTICAS
PÚBLICAS
ÁREA DE INSTITUCIONES
Y GESTIÓN PÚBLICA
Programa de Incidencia, Monitoreo
y Evaluación
noviembre 2013 Análisis
124
E
l crecimiento económico registrado du- como los administradores puedan construir RESUMEN
rante la década 2003-2013 estuvo acom- juicios informados sobre los resultados de las EJECUTIVO
pañado por un activo rol del Estado en políticas públicas, ya sea desde el rol de admi-
materia social y por un crecimiento sostenido nistradores de lo público o desde el de ciudada-
del gasto social, que pasó del 19% del PBI en nos.
2003 al 32% en 2013. En este escenario, tuvo lu- Para conocer si es posible producir y conocer
gar una mejora de los principales indicadores datos relevantes sobre la efectividad de la políti-
sociales, que fue acompañada por una amplia- ca social, se analizaron 16 programas de política
ción de derechos para los sectores histórica- social desde cinco dimensiones (1) la calidad de
mente excluidos. En la actualidad, la cartera la planificación y del diseño de la intervención
de planes y programas sociales implementa- para lograr los efectos deseados; (2) la calidad
dos por el Estado nacional beneficia a casi un del sistema de información para el seguimiento,
cuarto de la población del país y representa la producción y el archivo de la información; (3)
un importante esfuerzo fiscal (Repetto, 2013). la estrategia de evaluación prevista; (4) la estra-
Sin embargo ¿están los planes y programas tegia de actores adoptada para incluir la parti-
sociales nacionales en condiciones de ser eva- cipación durante las diferentes etapas de segui-
luados de una manera que resulte creíble y con- miento y evaluación, y (5) los recursos efectivos
fiable? Su diseño ¿incluye elementos de monito- destinados para realizar la evaluación.
reo y evaluación? ¿Se dispone de información Del estudio realizado se desprende que el
confiable para conocer los resultados efectivos 43,75% de los programas de la muestra estu-
de las políticas públicas? En esta evaluación de diada está en condiciones de alta evaluabili-
los efectos sociales ¿se toma en cuenta la visión dad. De estos, más de la mitad son ejecutados
de actores múltiples? Y, por último ¿se destinan por el Ministerio de Educación y el resto, por
los recursos necesarios para conocer si se cum- el Ministerio de Salud y el Ministerio de Plani-
plieron (o no) los objetivos de estas intervencio- ficación Federal e Inversión Pública. El 37,75%
nes? de los programas analizados está en condicio-
Sin negar los esfuerzos sectoriales que reali- nes de baja evaluabilidad. De ellos, el 66% reci-
Centro de Implementación
zan los organismos de la Administración Públi- be financiamiento estatal. de Políticas Públicas para
ca, es indispensable que tanto los ciudadanos la Equidad y el Crecimiento
D C2 Introducción ¿Qué es la evaluabilidad y por
qué es importante considerarla?
Es relevante monitorear y evaluar planes y Dado que las políticas públicas se generan a par-
programas sociales porque estas prácticas pro- tir de la voluntad de los gobiernos de atender las
ducen información útil para mejorar la calidad, problemáticas de la ciudadanía, si los programas
eficiencia y efectividad de las distintas políticas pueden ser evaluados es más sencillo determi-
públicas. Además, en contextos en los que la nar en qué medida constituyen una estrategia
sociedad civil demanda resultados de gobierno apropiada para abordarlas.
y exige rendición de cuentas, el monitoreo y la Por evaluabilidad se entiende al grado en el
evaluación generan insumos robustos y confia- que las características particulares del diseño
bles sobre el desempeño y el cumplimiento de de un programa o plan afectan a la habilidad de
los objetivos gubernamentales planeados. proveer una evaluación efectiva (Youtie, Boze-
Desde algunos enfoques, evaluar es tan im- man y Shapira, 1998).
portante que “no existe otra área que tenga un El análisis de evaluabilidad es una herra-
impacto social tan grande como el de mejorar mienta estratégica de la evaluación de políticas
las capacidades de realizar evaluaciones riguro- públicas porque, entre otros motivos5:
sas” (Galiani, 2006:8).
En América Latina existen experiencias va- • Facilita la identificación de mejoras en
liosas en materia de diseño e implementación el diseño de la evaluación, la matriz de
de estrategias y sistemas de monitoreo y eva- monitoreo y evaluación, y el programa
luación de planes o programas sociales. México
o plan en sí mismo.
y Colombia, por ejemplo, impulsan, regulan y
• Permite recabar información de alto
coordinan la evaluación sistemática de políticas
valor estratégico para que los actores
públicas desde el Estado. En México, el objetivo
involucrados en la evaluación definan
del Consejo Nacional de Evaluación de la Políti-
sus cursos de acción.
ca de Desarrollo Social (CONEVAL)1 es regular y
coordinar la evaluación de la Política Nacional • Permite optimizar el presupuesto del
de Desarrollo Social. En Colombia, la Dirección programa y, sobre todo, el de la porción
de Evaluación de Políticas Públicas -a través del destinada a evaluación, ya que evita
Sistema Nacional de Evaluación y Gestión de grandes inversiones inadecuadas o
Resultados (SINERGIA)- mide y evalúa la ges- innecesarias y brinda una justificación
tión, la ejecución y el impacto de las principales basada en valoraciones concretas de
políticas y programas gubernamentales2. Estos los gastos que se deben realizar para
organismos demuestran que existe una cultura las necesidades del programa o plan en
iniciativa de evaluación liderada desde el nivel estatal. cuestión.
política En este contexto, programas como De Cero • Implica un aporte a la transparencia y
a siempre (Colombia) y 70 y más (México) tienen a la rendición de cuentas.
sistemas de información y estrategias de eva- • Su correcto uso legitima la evaluación
conocimiento luación elaborados según los lineamientos del posterior.
técnico Estado. Esto garantiza que todos los programas
cumplan con los estándares mínimos de evalua-
bilidad. En aquellos casos en los que una evaluación
En la Argentina no existe un organismo en profundidad sea viable, un análisis de eva-
análogo a los de Colombia y México. Por el con- luabilidad completo recomendará metodologías
trario, las tareas de monitoreo y evaluación adecuadas para cada escenario particular6 y po-
están supeditadas tanto a la iniciativa política drá establecer si la eventual evaluación permiti-
como a la voluntad técnica de las gerencias de rá generar información relevante, por ejemplo,
los planes y programas o a las exigencias de bajo la forma de aportes para mejorar el ren-
los organismos financiadores. Así, en nuestro dimiento del programa. Cuando los análisis de
escenario conviven experiencias muy disímiles evaluabilidad arrojen resultados negativos, su
en materia de calidad y rigor técnico3. Por eso, propósito será dar también recomendaciones
vale la pena preguntarnos si todas las políticas acerca de las modificaciones que es necesario
sociales están en condiciones de ser evaluadas introducir para generar las condiciones que via-
de una manera que resulte creíble y confiable4. bilicen la evaluación.
1 Creado en el marco de la Ley General de Desarrollo Social En principio, cualquier plan, programa o
(2004).
2 El sistema de seguimiento y evaluación de SINERGIA (creado proyecto es susceptible de ser evaluado. Se
en 1994 y anclado en el requisito de realizar evaluaciones trata de una decisión de carácter político, que
incluido en la Constitución de 1991) es uno de los más fuertes
de Latinoamérica (Grupo de Evaluación Independiente Banco optará entre diferentes escenarios técnicos para
Mundial, 2007).
3 La reciente creación del Programa de Evaluación de Políticas
Públicas, dentro de la Jefatura de Gabinete, es un paso impor- 5 Sobre la base de la Merino (2007).
tante hacia la institucionalización de la evaluación en la adminis- 6 Algunos tipos de evaluación de programas son: evaluación de
tración pública nacional. necesidades, evaluación de impacto y evaluación de procesos.
4 Sobre la base de la definición de OCDE/DAC.
facilitar e implementar un análisis riguroso que
determine los logros y desafíos del tema o inicia-
Planes y programas sociales
analizados
D C3
tiva bajo análisis.
Sin embargo, el alcance y el tipo de evalua-
ción posible están determinados por elementos
que se relacionan, entre otras cosas, con el dise- Para realizar el análisis de evaluabilidad, se in-
ño de la intervención, los sistemas de informa- vestigaron 16 programas de política social. Por
ción y recolección de datos articulados para rea- un lado, esta muestra tiene la riqueza de la di-
lizar el seguimiento durante la implementación, versidad, que puede verse en las diversas fuen-
los recursos humanos y operativos disponibles, tes de financiamiento, los distintos organismos
las expectativas y beneficios esperados por los de ejecución o ministerios involucrados y los
participantes y, en general, con la actitud de los distintos niveles de presupuesto y de cobertura.
implicados en el desarrollo de la intervención Por otro lado, los elementos de la muestra tie-
pública ante la evaluación. Las características nen en común el hecho de que son todos progra-
específicas de estos elementos determinarán en mas sociales de implementación nacional, que
cada caso la conveniencia de poner en marcha o actualmente están en ejecución.
no una evaluación. Además, todos los programas considerados
A partir del análisis de cinco dimensiones, disponen de algún tipo de documento de pro-
este trabajo7 analiza en qué medida están algu- grama o de información relevante vinculada
nos planes y programas sociales impulsados a con los ejes de evaluabilidad8 aquí considerados.
nivel nacional en condiciones de ser evaluados: Es decir que los 16 programas están en condicio-
nes de ser relevados porque cuentan con, infor-
1. Calidad de la planificación y del diseño mación necesaria para responder a las pregun-
de la intervención para lograr los efec- tas incluidas el protocolo de evaluabilidad . efectividad
tos deseados. Los programas o planes que componen la
muestra son:
gestión
2. Calidad del sistema de información para
Plan / programa Organismo de ejecución
realizar el seguimiento, la producción y Programa de Ministerio de Planificación
el archivo de la información. 1 Mejoramiento de Barrios Federal, Inversión Pública y
II (PROMEBA II) Servicios
Ministerio de Planificación
4. Estrategia de actores adoptada para 3 Plan Agua + Trabajo Federal, Inversión Pública y
incluir la participación durante las Servicios
diferentes etapas de seguimiento y 4
Programa Jóvenes con Ministerio de Trabajo, Empleo
Más y Mejor Trabajo y Seguridad Social
evaluación. Seguro de Capacitación Ministerio de Trabajo, Empleo
5
y Empleo y Seguridad Social
5. Recursos efectivos destinados para la 6 Plan Nacer Ministerio de Salud
realización de la evaluación. 7
Plan Federal "Incluir
Ministerio de Salud
Salud"
Programa Nacional de
Se utilizó como herramienta de análisis un Salud Sexual y
8 Ministerio de Salud
protocolo de evaluabilidad que permite desa- Procreación
Responsable
gregar y examinar sistemáticamente el término Programa Remediar
en distintas dimensiones e indicadores relevan- 9 Ministerio de Salud
Redes
tes. Para esto, se consideró como insumo el pro- Programa de Educación
tocolo de evaluabilidad de la Comunidad Foral Media y Formación para
10 Ministerio de Educación
de Navarra y el Checklist for Reviewing Scope of el Trabajo para Jóvenes
Fase II
Work for Performance Evaluation de la United
States Agency for International Development Programa de Apoyo a la
(USAID), entre otros. Con estos y otros insumos Política de Mejoramiento
11 Ministerio de Educación
de la Equidad Educativa
se creó una herramienta de análisis adaptada al II (PROMEDU II)
contexto argentino.
Programa de
12 Mejoramiento de la Ministerio de Educación
Educación Rural
Programa Conectar
13 Ministerio de Educación
Igualdad
Programa Ingreso Ministerio de Desarrollo
14
Social con Trabajo Social
Plan Nacional de Ministerio de Desarrollo
15
Seguridad
8 Si bien Alimentaria
este mecanismo Socialpuede generar un sesgo
de selección
7 Este documento se enmarca en un estudio de mayor escala en la representatividad dentro del universo de programas
llevado a cabo por CIPPEC cuyo propósito es instalar la temática Plantotales,
nacionales Nacional de la característica del análisis externo de
dada
de la evaluabilidad. Entre otras publicaciones producidas en Desarrollo
los programas Local yen este trabajo,
realizado Ministerio de pudo
no se Desarrollo
evitar esta
16
este contexto se encuentra el Documento de Políticas Públicas medida.Economía
De todos Social Social
modos, se la trató de contrarrestar a partir de
N° 111: ¿Están todas las políticas públicas en condiciones de ser la diversidad
"Manosdea ejes considerados (fuente de financiamiento,
la Obra"
evaluadas? (2012). organismo de ejecución, nivel presupuestario y cobertura).
Educación Rural
Programa Conectar
13 Ministerio de Educación
Igualdad
Programa Ingreso Ministerio de Desarrollo
14
Social con Trabajo Social
D C4 15
Plan Nacional de
Seguridad Alimentaria
Ministerio de Desarrollo
Social
para recolectar los distintos indicadores.
Por otra parte, mientras que en el 81% de los
Plan Nacional de programas y planes analizados se define un pro-
Desarrollo Local y Ministerio de Desarrollo
16 cedimiento para relevar información, solo un
Economía Social Social
"Manos a la Obra" 44% explicita en qué momento se lo debe imple-
mentar.
Es esperable que las recomendaciones sur-
Resultados por dimensiones gidas a partir de la evaluación sean un insumo
para mejorarla gestión, aunque en la prácti-
ca esto puede ser difícil. Por eso, es necesario
1. La calidad de la planificación y del dise-
trabajar para que la información volcada en
ño de la intervención
las recomendaciones sea percibida y utilizada
como insumo para tal fin.
La primera dimensión analizada responde a
preguntas sobre el diagnóstico de los problemas
que la iniciativa busca resolver y de los objeti-
vos o resultados esperados de la intervención.
El 81% de los programas realizó un diagnóstico
Uno de los programas con mejor desempe-
de los problemas, pero un porcentaje menor
ño en esta área es el Programa de Educa-
(62%) identificó las causas de las problemáti-
ción Media y Formación para el Trabajo
cas en cuestión. El 69% de los programas pre-
para Jóvenes Fase II (Ministerio de Edu-
senta problemas cuantificables o medibles de
cación): tiene una matriz de monitoreo y
algún modo y el 65% define la línea de base de
evaluación en la cual se identifican lo sin-
la que parte la intervención en los documentos
dicadores relevantes, las fuentes y los pro-
de programa.
cedimientos para obtener la información.
El 100% de los programas analizados define
explícitamente sus objetivos, responde a las ne-
cesidades y problemas detectados. Además, el
31% de las intervenciones establece los plazos 3. La estrategia de evaluación
para alcanzar estos objetivos.
Más adelante se verá que las dimensiones Al analizar la calidad de la estrategia de evalua-
calidad de diseño y planificación de la inter- ción de los planes y programas se consideran
vención influyen sobre el grado de evaluabi- los siguientes indicadores: tipo de estrategia,
lidad que puede alcanzar un programa en sus propósitos y alcance, utilización de resultados y
otras dimensiones (la calidad de la informa- retroalimentación, difusión de hallazgos y siste-
calidad del ción, la estrategia de evaluación, la estrategia de matización de lecciones aprendidas. En el 75%
actores y los recursos destinados). de los casos analizados se observó la planifica-
diseño ción de algún tipo de estrategia de evaluación:
sea de medio término (56% de los casos), final
acceso a la El Programa Conectar Igualdad (Minis-
(44% de los casos) o de ambos tipos combina-
dos (44% de los casos).
información terio de Educación) es una de las inter- En el 75% de los casos se definieron los pro-
venciones con mejor desempeño en esta pósitos de la evaluación, pero solo en el 38% de
dimensión: tiene un buen diagnóstico de estos casos se especificaron las preguntas a las
la situación inicial y una clara descripción que esta evaluación debe dar respuesta. En el
de los objetivos que se deben alcanzar me- 75% de los programas analizados se prevé algún
diante las actividades a implementar. mecanismo para incorporar las recomendacio-
nes de la evaluación a la gestión de la política.
Uno de los factores que fortalecen la evalua-
bilidad es que la necesidad de realizar evaluacio-
2. La calidad del sistema de información nes se instale explícitamente desde la etapa de
diseño del programa: la evidencia demuestra
Esta dimensión releva información sobre los in- que los planes nacionales que incluyen moni-
dicadores empleados, las fuentes de información toreo y evaluación periódicos desde la planifi-
establecidas y los mecanismos de recolección de cación aumentan su capacidad para articular-
datos. Del total de los programas investigados, se con otros actores y producir sinergias.
el 63% define una matriz de monitoreo y eva-
luación, mientras que el 88% define indicado-
res para recopilar sistemáticamente la infor-
mación sobre la evolución de la intervención y
sus actividades. Las matrices de seguimiento y
evaluación del 56% de los casos analizados em-
plean indicadores de impacto y el 69% consig-
na las fuentes de información que se utilizarán
El Programa Remediar Redes y el Pro-
evaluación y, a excepción del Programa Conec-
tar Igualdad, este porcentaje se compone solo D C5
grama de Mejoramiento de Barrios II de planes o programas con financiamiento in-
(PROMEBA II) tuvieron un muy buen ternacional.
desempeño en la dimensión de calidad de En los casos en los que sí se destinan fondos
la estrategia de evaluación (Ministerio de específicos para estas actividades, ninguno des-
Salud y Ministerio de Planificación Fede- tina al menos un 5% del presupuesto total para
ral e Inversión Pública, respectivamente). actividades de evaluación.
Ambos definen una estrategia de eva-
luación, sus propósitos y las preguntas a
responder. Además, en los documentos de
programa se delimitan las dimensiones
Algunas conclusiones:
(temporales, institucionales, geográficas, desempeño en evaluabilidad
etc.) que serán tenidas en cuenta en la
evaluación y se prevé la sistematización
de lecciones aprendidas. Si se observa el desempeño por programas en
general, el 43,75% de los programas y planes
sociales analizados está en condiciones de
4. La estrategia de actores alta evaluabilidad. El 18,75% la muestra registró
condiciones de evaluabilidad media. Por último,
A partir de la cuarta dimensión se indagó si los el 37,75% está en condiciones de baja evaluabi-
actores implicados en la evaluación estaban lidad.
claramente identificados y cuál era su grado de El promedio general de evaluabilidad de la
involucramiento. De los 16 programas analiza- muestra es de 56%, pero si se mide cada dimen-
dos, un 44% realizó un análisis previo de las sión de análisis (gráfico 1), la que mejor se cum-
posibilidades de participación de diversos ac- ple es calidad de la planificación y el diseño de la
tores en el proceso de evaluación. intervención (80%). En promedio, las dimensio-
nes sistema de información, estrategia de eva-
luación y estrategia de actores presentan infor-
El Programa de Apoyo a la Política de mación para responder al 57% de las preguntas
Mejoramiento de la Equidad Educati- del protocolo. La quinta dimensión (recursos actores
va II (PROMEDU II), del Ministerio de destinados) detenta la menor cantidad de infor-
mación (28%).
Educación es uno de los que presentan el recursos
mejor desempeño en esta dimensión, ya
que identifica a los actores implicados en Gráfico 1.
la intervención y prevé su participación Desempeño en evaluabilidad de la mues-
en el desarrollo de las evaluaciones. tra por dimensión
Este trabajo es producto de un trabajo que incluyó: (1) la identificación de los objetivos de practi-
car una análisis de evaluabilidad a planes y programas sociales nacionales; (2) la selección de una
muestra para el estudio; (3) la recolección, compilación y análisis de la documentación disponible; (4)
el desarrollo y aplicación de un protocolo de evaluabilidad; (5) el diálogo con los administradores y
ejecutores11 de los planes y programas y; (6) la elaboración de recomendaciones.
Las condiciones de evaluabilidad se abordan, por un lado, a partir de la aplicación del protocolo
y, por el otro, están sujetas a la disponibilidad de información sobre los programas, generada a partir
de estrategias como: pedidos de información, revisión de portales web, pedidos de entrevistas y rea-
lización de grupos focales con actores clave Para la construcción del protocolo se tuvieron en cuenta
cinco dimensiones de análisis:
a) Calidad de la planificación y del diseño de la intervención para lograr los efectos deseados.
d) Estrategia de actores adoptada para incluir la participación durante las etapas de seguimiento y
evaluación.
11 Se trabajó con funcionarios de los ministerios Nacionales de Trabajo, Empleo y Seguridad Social, Educación, Salud, Jefatura de Gabi-
nete de Ministros, Sindicatura General de la Nación, Auditoría General de la Nación y de organismos internacionales (Banco Mundial,
PNUD, OPS-OMS).
Anexo II. Listado de planes y programas sociales analizados según
organismo de ejecución, fuentes de financiamiento y presupuesto
D C9
promedio
Bassi, M.; Busso, M. ;, Urzúa, S. y Vargas, J. (2012). Desconectados. Habilidades, educación y empleo
en América Latina. Washington: BID.
CIPPEC. (2012). 100 políticas para potenciar el desarrollo. Buenos Aires: Fundación CIPPEC.
Davies, R. (2013). Planning Evaluability Assessments. A synthesis of the literature with recommen-
dations. Report of a study commissioned by the Department of International Development. Cam-
bridge: Department for International Development.
Observatorio de la Deuda Social Argentina. (2011). Estado de situción del desarrollo humano y so-
cial. Barreras estructurales y dualidades de la sociedad Argentina en el primer año del Bicentena-
rio. Buenos Aires: Educa.
Repetto, F. (19 de mayo de 2013). Política social: acciones para destacar, omisiones urgentes. La Na-
ción.
Rutman, L. (1980). Planning useful evaluations. Evaluability assessment. Beverly Hills: SAGE.
Wholey, J. S. (1994). Assessing the feasibility and likely usefulness of evaluation. En J. S. Wholey, H.
Hatry y K. Newcomer, Handbook of Practical Program Evaluation. San Francisco: Jossey Bass.
Youtie, J.; Bozeman, B. y Shapira, P. (1999). Using an evaluability assessment to select methods for
evaluating state technology development programs: the case of the Georgia Research Alliance.
Evaluation and Program Planning, 55-64.
D C12 Acerca de los autores
La opinión de los Natalia Aquilino: directora del Programa de Incidencia, Monitoreo y Eva-
autores no refleja
luación de CIPPEC. Licenciada en Ciencia Política y posgraduada en Políti-
necesariamente la
posición de todos los cas Públicas y Desarrollo Local (Universidad Nacional de Rosario). Candida-
miembros de CIPPEC ta a magíster en Ciencias Sociales del Trabajo (Universidad de Buenos Aires).
en el tema analizado. Fue oficial de coordinación del Sistema de Naciones Unidas en la Argentina
y oficial de Monitoreo y Evaluación del Programa de Naciones Unidas para
el Desarrollo (PNUD).
Si desea citar este documento: Aquilino, N.; Arias, E.; Echt, L. y Estévez, S.
(noviembre de 2013). Hacia un análisis de evaluabilidad de planes y progra-
mas sociales. Documento de Políticas Públicas / Análisis Nº124. Buenos Ai-
res: CIPPEC.
info@cippec.org