Documentos de Académico
Documentos de Profesional
Documentos de Cultura
"LA EVALUABILIDAD:
ESTRATGICA
A HERRAMIENTA
DEGESTIN
PBLICAS"
NT POLTICAS
ENLA EVALUACIN
Autora: MARSAMERINO
Agencia de Evaluaciny Galidad
PAPELES7 I 2OO7
Papeles
de Evaluacin
LA EVALUABILIDAD: DE INSTRUMENTO DE
GESTIN A HERRAMIENTA ESTRATGICA EN LA
EVALUACIN DE POLTICAS PBLICAS
Autora: MARISA MERINO
Agencia de Evaluacin y Calidad
PAPELES 7/ 2007
INTRODUCCIN.. 1
1. LA EVALUABILIDAD COMO INSTRUMENTO DE LA GESTIN.. 9
1.1.
1.2.
1.3.
1.4.
1.5.
1.6.
1.7.
1.8.
El objetivo de la evaluabilidad . 10
Las preguntas eje de la evaluabilidad... 11
La evolucin de evaluabilidad. Orgenes y enfoques.. 11
La evaluabilidad: Ms all de verificar si el programa o
poltica es evaluable 12
La evaluabilidad en la actualidad: estado de la cuestin... 17
La evaluacin de evaluabilidad en Espaa. Metodologas.. 20
Cmo entender hoy la evaluabilidad?............................... 22
La razn de ser de la evaluabilidad: no todo es evaluable 22
3. EL INFORME DE EVALUABILIDAD
38
4. PROPUESTA METODOLGICA...
38
5. CONCLUSIONES..
40
BIBLIOGRAFA
43
46
Marisa Merino
Evaluadora
Agencia de Evaluacin y Calidad
INTRODUCCIN
La instauracin de un sistema pblico de evaluacin de las polticas pblicas,
impulsado en Espaa por el actual gobierno de la nacin, ha supuesto, para los
implicados en el proyecto, una capacitacin intensa en este campo, con la
finalidad de brindar a la sociedad los mejores resultados frente a un cometido
que a todos ilusiona por lo que tiene de compromiso social y contribucin a la
modernizacin de nuestra Administracin Pblica 1
El sujeto plural del prrafo anterior, utilizado a propsito como voz colectiva,
alude, metafricamente, al equipo de evaluacin 2 , que estar presente a lo
largo de esta reflexin, porque creemos que la evaluacin no encaja bien con
el individualismo propio de nuestra idiosincrasia obstculo nada desdeable
que deber superar nuestra administracin. La lgica evaluadora, adems de
1
Une valuation lpreuve de son utilit social . Rapport dactivit 2000-2002. Conseil National
de lvaluation. France.
4
Del mismo retraso se lamentaron otros pases europeos antes que nosotros: Francia, Blgica,
Italia, los informes institucionales de esos pases estn plagados de la misma queja.
5
Puede consultarse el Informe de la Comisin de expertos en la web de la Agencia: www.aeval.es
6
Subirats, Joan. Podemos utilizar los instrumentos de evaluacin como palanca de gobierno del
Sector Pblico Subsecretara de la Gestin Pblica. Secretara General de la Gobernacin.
Gobierno de la provincia de Buenos Aires, 2004.
http:/www.gestionpublica.sg.gba.gov.ar./html/biblioteca/subirats.doc.
Poltica
Reglamentaria
Gerencialista
Monnier, 2000
Sobre la distincin entre racionalidad/ racionalizacin ver Morin, E.- Los siete saberes necesarios
para la educacin del futuro. Ediciones Paidos Ibrica, SA, Barcelona, 2001, pg. 29-31.
12
El Ministro de Administraciones Pblicas, Jordi Sevilla, defina como cogobernanza el marco de
esta interrelacin en el Seminario Un nuevo contrato con la ciudadana , celebrado en el INAP el
27 de febrero de 2006.
13
Sigue siendo de gran inters el mapa que trazaron Furobo, J-E, Rist, R& Shandahl, R (eds),
International atlas of evaluation, New Brunswick & London, Transaction Publishers, 2002.
14
Para una visin general de los sectores polticos de los que se ocupa la evaluacin en Europa,
ver: Volumen III de las Guas Means. Por lo que se refiere a Espaa Juan Andrs Ligero seala
que la mayor parte de las evaluaciones se realizan sobre las llamadas polticas blandas:
Ponencia del X Congreso Internacional del CLAD, Santiago de Chile, 18-21 de octubre 2005.
Una imprecisin terminolgica reductora y nada beneficiosa tanto para la evaluacin en general
como para la evaluabilidad en particular, es la utilizacin de anlisis y evaluacin como sinnimos
y de anlisis de evaluabilidad por evaluacin de evaluabilidad.
Convendra distinguir entre el lenguaje comn y el que requiere la evaluacin como disciplina y
especializacin, diferenciando bien entre anlisis y evaluacin. La evaluacin comprende diversos
anlisis, pero va ms all de stos al emitir un juicio de valor que los engloba. Mientras que el
Evaluacin de
Evaluabilidad
- Propuesta de
tipologa
conveniente
2 Con qu
1.1.
Ev. de resultados
Ev de impactos
instrumento?
Ev. costebeneficios
Legitima la toma de
decisin
Garantiza el modo de
proceder
Proporciona
asesoramiento
experto
El objetivo de la evaluabilidad
10
11
12
13
Es interesante la referencia de Wholey al diseo flexible frente a los diseos rgidos propios de
la concepcin experimentalista y positivista. Aunque, el autor apunta ms hacia la corriente
postpositivista que a la ruptura radical que plantean los constructivistas.
34
En la pgina Web de la Agencia Canadiense de Desarrollo Internacional LACDI: www.acdeicida.gc.ca/index.htm, 25 abril 2006, pudimos consultar un caso de evaluabilidad aplicado a un
programa de torturas.
35
El parntesis es nuestro.
14
36
Muscatello, L (1988) Developing an Agenda that Works. En J.A. McLaughlin et al. (eds)
Evaluation Utilization. New Directions for Program Evaluation. San Francisco: Jossey Bass.
15
CARACTERSTICAS DE LA EVALUABILIDAD
Saca la luz la calidad de la conceptualizacin del programa en la fase de
planificacin, analizando su diseo, necesidades y objetivos.
Cuanto mayor rigor haya observado el diseador del programa en la fase de
planificacin ms fcil ser comprobar su evaluabilidad.
Responde a una lgica sistemtica de abajo arriba, que ir reconstruyendo
un proceso desde las acciones concretas del programa y sus resultados hasta su
fundamento y objetivos especficos.
Verifica la existencia y la accesibilidad a la informacin necesaria, en calidad y
cantidad, que permitira llevar a cabo la evaluacin. Si no hay datos suficientes o
los que hay no resultan relevantes la evaluabilidad desaconsejar la evaluacin.
Informa sobre la implicacin y disposicin del entorno gestor y responsable
frente a la posible evaluacin, constatando sus resistencias o colaboracin. En
definitiva, uno de los objetivos perseguidos con el anlisis de evaluabilidad es crear
un clima favorable, de cooperacin e interaccin entre evaluados y evaluadores
para facilitar la evaluacin.
Analiza la dotacin de recursos con los que se cuenta para la evaluacin.
37
16
EVALUACIN
NECESIDADES
JUICIOS
EVALUABILIDAD
PERTINENCIA
ANLISIS DE OBJETIVOS
SUFICIENCIA
ANLISIS DEL PROGRAMA
Suma de todos
los anlisis.
Alternativas y
Propuesta
ANLISIS DE LA
IMPLANTACIN
PROGRESO
EVALUACIN
DE PROCESO
___________________
EVALUACIN DE
RESULTADOS
EVALUACIN DE
IMPACTOS
_____________________
___________________
EFECTIVIDAD
EFICACIA
EFICIENCIA
IMPACTOS:
ESPERADOS
INESPERADOS
17
Naciones Unidas
Normas de Evaluacin. Punto 7. N7- Evaluabilidad
Antes de emprender una evaluacin de envergadura que requiera una inversin
significativa de recursos, puede ser til llevar a cabo un ejercicio de evaluabilidad.
ste consistira en verificar si existe claridad en la intencionalidad de la
intervencin que ser evaluada, indicadores mensurables suficientes, fuentes de
informacin evaluables y fiables y ningn factor significativo que interfiera con un
proceso de evaluacin imparcial.
(Normas de evaluacin en el sistema de las Naciones Unidas, abril, 2005)
BID: Objetivos de Desarrollo del Milenio:
En materia de desarrollo, el nfasis renovado sobre la efectividad de programas
lleva al BID a aumentar los retos en cuanto a sistemas de evaluacin y partes
interesadas, especialmente, en lo que concierne a la mejora de la evaluabilidad y
diagnstico de eficacia de los programas financiados por el Banco a fin de
promover la transparencia y la rendicin de cuentas.
UNICEF
Sita la evaluabilidad a
evaluacin.
la cabeza de
Determinacin de la
evaluabilidad
Institucionalizacin del proceso
y de la prctica de evaluacin
Divulgacin y utilizacin de
resultados y
recomendaciones
UNICEF
Anlisis de la informacin
y preparacin de informe
Planificacin de la evaluacin
Identificacin del proceso
18
Unin Europea
Guas Means: Volumen 6. Glosario.
Evaluabilidad
Parte tcnica de la preevaluacin que considera el conocimiento disponible y
evala si las condiciones tcnicas e institucionales son suficientes para ofrecer
respuestas fiables y crebles a las preguntas planteadas. De forma ms concreta
consiste en una comprobacin sobre s un evaluador, utilizando mtodos y tcnicas
de evaluacin adecuados, en el tiempo estipulado y a un coste compatible con las
restricciones existentes, ser capaz de responder a las preguntas de evaluacin con
una alta probabilidad de alcanzar conclusiones tiles.
En algunas formulaciones esto tambin incluye una evaluacin de la probabilidad
de que la informacin que ofrezca la evaluacin sea utilizada. Est estrechamente
vinculada con el anlisis de la teora del programa y la lgica del programa en la
medida en que la evaluabilidad depende de la coherencia de la lgica del programa
y la verosimilitud de sus cadenas de intervencin y ejecucin.
A la vista de lo anterior, podemos recoger nuevos criterios de evaluabilidad
que apuntan a funciones estratgicas y poltico-democrticas, as como al
impulso de la cultura evaluadora, al lado de la funcin ms tradicional de
mejora de la gestin que prima en la Unin Europea.
CRITERIOS
Garanta de mejora de
gestin
Garanta de imparcialidad
Transparencia
Rendicin de cuentas
Impulso
institucionalizacin
evaluacin en general
Eficiencia y Eficacia
sobre utilidad y
utilizacin
FINALIDAD
INSTITUCIONES
Control gestor
Control democrtico
Naciones Unidas
Buena gobernanza
Proceso de cultura e
institucionalizacin de la
evaluacin
Gerencialista
(management)
BID
UNICEF
UE
19
1.6.
modelo aplicar.
Los Modelos
Anlisis terico y emprico
Anlisis terico
Mod. Retrico
Mod. Evaluable
1
Anlisis
Conceptual y
Anlisis de
Necesidades
2
Anlisis
Actividades
Intervencin
Mod. A evaluar
Lo que
es
posible
Propuesta
Evaluacin
20
Otros autores espaoles se han ocupado del tema, como Roco FernndezBallesteros 39 , que entiende por evaluabilidad: La factibilidad de la evaluacin
de un programa y la facilidad con la que tal evaluacin podra ser llevada a
cabo, con el fin de llegar a determinar la magnitud del esfuerzo y el coste que
supondr la evaluacin.
Dicha autora propone un Listado de cuestiones relevantes en evaluacin de
programas (LCREP) que considera de inters seguir antes de comenzar un
proceso de evaluacin. La herramienta, presentada como Cuaderno de
instrucciones, en la lnea de Muscatello, trata de juzgar la evaluabilidad del
programa en base a la calidad del proceso de planificacin e implantacin, as
como las barreras que puede encontrar el evaluador al realizar su trabajo.
Consideramos valiosa la herramienta que ofrece esta autora a la que, adems,
ha otorgado una serie de indicadores para demostrar sus
propiedades
psicomtricas. Ahora bien, se echa en falta un mtodo global del proceso de
evaluabilidad que supone ir ms all de aplicar el listado de cuestiones. Hay
otra serie de problemas, tanto previas como posteriores a la recogida de esos
datos, que no se recogen en su propuesta, desde el propio diseo de la
evaluabilidad, al tratamiento de mapas comparativos y las alternativas
posibles, esenciales para completar y avalar el informe de evaluabilidad, a fin
de que aporten valor aadido y sustente el juicio de valor con la propuesta
tcnica a aplicar.
Concebimos el diseo de la evaluabilidad como un diseo flexible pero slido.
Siguiendo el consejo de la Comisin de expertos habremos de huir de
sofisticadas y complejas metodologas 40 , pero sin que eso quiera decir que
debamos prescindir de la calidad metodolgica que requiere cualquier
evaluacin para garantizar su credibilidad y su uso. Se considera que el modelo
de las check- lists debilita hasta cierto punto la concepcin global del diseo
de evaluabilidad.
En este supuesto, por imperativos de costes y tiempos, no cabe la utilizacin
de mtodos complejos o experimentales: es preferible medir lo correcto de
forma aproximada que lo errneo de forma precisa 41 pero tendremos que
encontrar
un
equilibrio
entre
las
consideraciones
pragmticas
y
epistemolgicas.
Una buena preparacin de las evaluaciones es una de las condiciones mayores
de su xito, y la evaluabilidad no es una excepcin. La planificacin cuidadosa
39
21
42
22
Tenzer, N.- Lvaluation: lge de la maturit , La documentation franaise, Paris, 1999, pp117-134.
44
Garde Roca, JA.- V Conferencia Bienal Sociedad Espaola de Evaluacin. Funcin Pblica y
Evaluacin. Santiago de Compostela, 24 de septiembre de 2007.
45
Publicado en francs con el ttulo: Moderniser ltat: la route suivre, y en ingls: Modernising
Government; The way forward.
23
Peter Dhaler-Larsen: Algunas discusiones que tienen lugar sobre la evaluacin implican
confusiones, quiz porque no se clarifican las perspectivas diferentes que estn debajo de cada
enfoque. ICE.Evaluacin de Polticas Pblicas. Mayo-Junio, 2007. N836, pg. 94
24
25
26
27
28
El trmino se ha ido introduciendo en los ltimos tiempos, especialmente en los Congresos del
CLAD, como traduccin al castellano del original, responsabilty, aunque nos parece poco
satisfactorio.
29
30
Por su credibilidad
31
53
32
33
34
35
54
36
37
EL INFORME DE EVALUABILIDAD
PROPUESTA METODOLGICA
La aclaracin parecer obvia, pero responde a la percepcin de un error comn en esferas que
no sera previsible. En evaluacin, a menudo lo ms sencillo es lo que ms nos complica.
38
Cuaderno de evaluabilidad
39
CONCLUSIONES
57
Cuasi-evaluaciones.
40
Si la evaluacin es solicitada
41
MARISA MERINO
Octubre de 2007
42
BIBLIOGRAFA
ALVIRA, F.- Metodologa de la evaluacin de programas. CIS. Cuadernos
Metodolgicos Madrid, 2002.
ALVIRA y alt. El anlisis de la realidad social. Mtodos y tcnicas de investigacin.
Alianza Editorial Madrid, 2003. (3)
ALVIRA. F. La evaluacin en el sector pblico. Ekonomiaz, n26. Departamento de
Economa y Hacienda del Gobierno Vasco. Eusko Jaurlaritza. 1993
AMAYA, P. La evaluacin de la gestin Pblica integrada a los procesos de
planificacin: su potencial como fortalecedora de la institucionalidad democrtica. IV
Conferencia de la Sociedad Espaola de evaluacin: Evaluacin y Gobierno. Madrid,
7-8 julio 2005
BALLART, X.- Cmo evaluar programas y servicios pblicos? MAP. Madrid, 1992.
BALLART, X.- Modelos tericos para la prctica de la evaluacin de programas.
Lecturas de Gestin Pblica. Madrid, 1996, pp. 323-349.
BAN i MARTINEZ, R.- La evaluacin de la accin y de las polticas pblicas. Ed. Daz
de Santos, 2003.
BEZZI. C.- Il disegno della ricerca valutativa. Associazione Italiana di Valutazione.
Franco Angeli. Milano, 2002 (2)
BROWN, P. La evaluacin de los proyectos de desarrollo comunitario Gestin y
Anlisis de Polticas Pblicas. INAP. Madrid, enero-agosto, 1998, n 11-12, pp. 131140.
BUSTELO, M.- Diferencias entre evaluacin e investigacin en Revista Espaola de
Desarrollo y Cooperacin, n 4, primavera-verano, 1999.
BUSTELO, M.- Deontologa de la evaluacin: el modelo de los cdigos ticos
anglosajones en Gestin y Anlisis de Polticas Pblicas, n 11-12. enero-agosto, 1998
pp. 141-156.
CALERO, J.- Anlisis coste-beneficio. Instituto de Estudios Fiscales. Ministerio de
Hacienda. Madrid, 1995.
CAMPBELL, D. Diseos experimentales y cuasiexperimentales en la investigacin social.
Amorrortu editores. Buenos Aires, 1966. (7, 1995)
CEA DANCONA.- Metodologa cuantitativa: estrategias y tcnicas de investigacin
social. Ed. Sntesis, Madrid, 1996.
COOK & REICHARDT. Mtodos cualitativos y cuantitativos en investigacin evaluativa.
Morata. Madrid, 2000 (4)
COHEN, E y FRANCO, R.- Evaluacin de proyectos sociales. S. XXI. Madrid, 1993.
CHANU, V Lvaluation: affaire dtat ou question dorganisation. Politiques et
Management Public, Paris, 2002, pp. 1-32
CHELIMSKY, E & SHADIS, W.- Evaluation for the 21 century. Thousand Oaks. SAGE
Publications, 1997.
DELGADO, J M y GUTIERREZ, J (coord).- Mtodos y Tcnicas Cualitativas de
Investigacin en Ciencias Sociales. Ed. Sntesis. Madrid, 1995.
DERLIEN, H-U. Una comparacin internacional en la evaluacin de las polticas
pblicas. Gestin y Anlisis de Polticas Pblicas. INAP. Madrid. Enero-agosto, 1998, n
11-12, pp. 13-22.
DHALER-LARSEN, P. Debemos evaluar todo? O de la estimacin de la evaluacin a la
cultura de la evaluacin. ICE. Evaluacin de Polticas Pblicas. Mayo-Junio, 2007. n
836.
DIAZ, L F. y ROSALES, R.- Metaevaluacin. Agora. EUNED, Costa Rica, 2003
ECHEVARRA, K y alt. Responsabilizacin y responsabilidad gerencial: Instituciones
antes que instrumentos. En Responsabilizacin y evaluacin de la gestin pblica.
CLAD (libro), ACECI/MAP/FIIAPP, Caracas, 2005.
FETTERMAN, David M. Empowerment evaluation. SAGE Publications. California, 1996
43
44
45
46
47
"PAPELES
y estudios
pretendeser unacoleccinde documentos,
artculos
DE EVALUACIN"
que permitanla transferencia
referidosa las diversas
e intercambiode conocimientos
polticas
pblicas
y
y
la
calidadde los servicios,
la
de evaluacin
de
dimensiones contenidos
de
La coleccinprocurarla seleccinde textosque permitanuna gestindel conocimiento
de manera
colectivamente
o a enriquecerlos
sus contenidosencaminadaa compartirlos
de los textoscuyas
constructiva.
Parasu publicacin,
se atenderal intersy oportunidad
provisionales
podrnser en su caso publicadaspor los autoresen
versiones,
o definitivas,
y el debate
la reflexin
Lostextosdeberncontribuir
a enriquecer
otrasinstancias
o editoriales.
pblicoy darn a conocertanto opinionesy trabajostericosindividuales
como aquella
que
produccinemprica
se estimerelevanteen las materiascitadas,no huyndosede
propuestas
que pudierangenerarcontroversia
en la medidaque las mismasse orientena las
finalidades
de estapublicacin,
la Agenciade Evaluacin
de las PolticasPblicasy la Calidadde los
Institucionalmente,
aqu
en los documentos
las opinionesmanifestadas
Serviciosno compartenecesariamente
responsabilidad
de susautores.
difundidos,
cuyoscontenidos
sernde la exclusiva
aqencla
d evaluacin
y calidad
\ M^tv.aeval.es
Pblicasv la Calidadde los Servicios
Estatalde Evaluacin
de las Polticas