Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Facultad de Psicología
Posgrados de Psicología
Asignatura: Metodología de Evaluación de Programas
Profesor: Julio Sánchez Meca
Dpto Psicología Básica y Metodología
Curso: 2009-2010
Unidad Didáctica 1:
Concepto y Tipos en Evaluación
de Programas
2
1. CUESTIONES CONCEPTUALES BÁSICAS
En su sentido más amplio, evaluar es "señalar el valor de una cosa". Así entendido, se
trata de una actividad muy común de nuestra vida cotidiana, a lo largo de la cual hace-
mos constantemente evaluaciones informales de cosas, sucesos, personas, etc. Sin em-
bargo, la conceptualización que aquí nos interesa se refiere a la evaluación formal de
proyectos, programas e intervenciones en ámbitos tales como los servicios sociales, co-
munitarios, sanitarios, educativos, psicológicos, etc. Desde esta perspectiva, "Evalua-
ción de programas es un tipo de investigación que analiza la estructura, el funciona-
miento y los resultados de un programa con el fin de proporcionar información de la
cual se deriven criterios útiles para la toma de decisiones en relación con su administra-
ción y desarrollo" (Briones, 1991, p. 13).
3
esté sometido a alguna programación; y, en ocasiones, la evaluación requerirá previa-
mente del seguimiento.
POLITICA
INSTITUCION
SERVICIO
PROGRAMA
SUBPROGRAMA
PROYECTO
ACCIONES
4
(2) Según el contexto socio-político-administrativo, los programas se enmarcan en dife-
rentes ámbitos de actuación; ámbitos que, en España, podrían establecerse, según se
muestra en la Figura 2, distinguiendo entre los niveles estatal, autonómico, provin-
cial, comarcal y local.
ESTADO
AUTONOMIA
PROVINCIA
COMARCA
MUNICIPIO
Una vez examinados por separado los conceptos ‘evaluación’ y ‘programa’, podemos
abordar una definición comprehensiva de qué es ‘evaluación de programas’. De las múl-
tiples definiciones que existen en la literatura de la investigación evaluativa, vamos a
tomar como punto de referencia la propuesta por Aguilar y Ander-Egg (1992), ya que es
muy completa:
5
y el grado en que dichos logros se han dado, de forma tal, que sirva de base o
guía para una toma de decisiones racional e inteligente entre cursos de acción,
o para solucionar problemas y promover el conocimiento y la comprensión de
los factores asociados al éxito o al fracaso de sus resultados." (p. 18)
(2) Las cuasi-evaluaciones son evaluaciones realizadas con una metodología científica
correcta, pero que carecen de un juicio final valorativo del programa. Éste es el caso
de estudios basados en la experimentación que no aportan una valoración final; o de
estudios basados únicamente en el cumplimiento de los objetivos previstos sin con-
templar otros aspectos importantes del programa, como pueden ser, por ejemplo,
los mecanismos o procesos a través de los cuales se han alcanzado los objetivos.
• Efectividad: Se trata de medir el producto final (y los costos) que resulta de la reali-
zación del programa.
(b) Determinar las razones del éxito o fracaso de un programa. No basta con concluir
que un programa ha tenido éxito o ha fracasado; es preciso encontrar una explicación.
(c) Facilitar el proceso de toma de decisiones, las cuales pueden ser de diversa natura-
leza:
6
• Continuar o interrumpir el programa;
• mejorar su puesta en práctica;
• modificar o innovar la estructura y/o funcionamiento de la organización.
(d) Establecer en qué grado se han producido otras consecuencias o efectos imprevistos.
Partiendo del planteamiento de Cronbach (1982), Ato (1995) propone distinguir cinco
componentes fundamentales en toda evaluación de programas, cuyas iniciales responden
al acrónimo T-R-U-C-O:
(3) Unidades. Los programas se aplican a unidades, que son quienes los reciben, los
sufren o se benefician de ellos. En el ámbito social, psicológico, educativo, sanitario,
criminológico, las unidades que reciben los programas, proyectos o servicios suelen
ser personas, pero también pueden ser, por ejemplo, centros escolares, barrios, ciuda-
des, provincias, comunidades autónomas, etc. Ello dependerá del objetivo del pro-
grama.
7
EJEMPLO. Supóngase que se ha evaluado el grado en que la aplicación de un
programa de formación ocupacional aplicado a un grupo de personas desempleadas ha
logrado su objetivo de que obtengan un trabajo una vez finalizado el curso. El segui-
miento de la actividad laboral de estas personas se llevó a cabo durante los seis meses
posteriores a la finalización del curso, y para ello se dispuso de los datos oficiales de la
Seguridad Social y se les encuestó telefónicamente.
ACTIVIDAD PRÁCTICA 1
(1) Tratamiento.
(2) Respuestas.
(3) Unidades.
(4) Contexto.
(5) Ocasiones.
8
4. LOS AGENTES IMPLICADOS EN EVALUACIÓN DE PROGRAMAS
• Los Especialistas que, según el ámbito de la evaluación, pueden ser requeridos para
su intervención puntual en aspectos específicos de la misma.
(2) Los clientes. Se trata de aquéllos que, teniendo poder de decisión en una institución,
empresa u organización, han demandado la realización de la evaluación. Cabe dis-
tinguir, atendiendo a su poder de decisión, dos grupos:
• Los Técnicos que, al no tener capacidad decisoria final, cuando son ellos los que
solicitan la evaluación de algún programa o servicio, suelen guiarse por criterios
de ‘racionalidad tecnológica’. Dentro de los técnicos hay que distinguir (Espinoza,
1993):
9
(4) Los destinatarios de los programas. Se incluyen aquí los receptores de las acciones
objeto de evaluación; por ejemplo, los empleados de una empresa, los usuarios de
un servicio, los beneficiarios de un tratamiento, los destinatarios de un proyecto,
etc. En el ámbito psicológico, los destinatarios de los programas de prevención, de
intervención, de tratamiento, de formación, etc., suelen ser personas, desde ciuda-
danos en general hasta pacientes con algún trastorno psicológico, pasando por per-
sonas en situación de alto riesgo de exclusión social o de sufrir algún tipo de pro-
blema psicológico, social o educativo. En cualquier caso, la obtención de informa-
ción procedente de los destinatarios es imprescindible para el proceso evaluativo.
• Los Políticos
Los diferentes roles que desempeñan los distintos agentes sociales en el proceso
evaluativo pueden llegar a conducir intereses contrapuestos, los cuales dificultarán la
tarea del equipo de evaluación. En el Cuadro 2 se esquematizan las demandas usualmen-
te exigidas por cada colectivo y los resultados buscados en la evaluación.
10
(b) El cliente fundamental sería el alcalde del ayuntamiento.
(c) Los respondentes serían, desde los propios responsables del curso formativo (para
valorar el grado de adquisición de las destrezas), hasta los registros oficiales de la
Seguridad Social para recabar datos sobre la consecución de algún trabajo, e incluso
encuestas realizadas a los propios jóvenes para comprobar su inserción laboral.
(d) Los usuarios directos del servicio sería el grupo de jóvenes que han recibido el pro-
grama formativo.
(e) Los allegados serían los familiares de los usuarios del programa formativo, cuyo
funcionamiento también afecta, aunque indirectamente, a su situación.
(f) Los potenciales usuarios serían otros jóvenes adolescentes que se encuentren en cir-
cunstancias similares y que en un futuro pueden ser beneficiarios de dicho progra-
ma.
(g) Y la población general seríamos todos los ciudadanos habitantes de la zona geográ-
fica correspondiente, que nos beneficiaríamos de la normalización social de jóvenes
que, de otra forma, pueden llegar a convertirse en delincuentes por sus condiciones
socioeconómicas desfavorables.
ACTIVIDAD PRÁCTICA 2
11
(4) Los destinatarios.
Así mismo, estos modelos se diferencian en los criterios de valor utilizados, que
pueden ser:
El modelo propuesto por Tyler puede definirse como "evaluación orientada hacia los
objetivos". En efecto, surgido en los años cuarenta en el campo de la educación, este
modelo define la evaluación como el proceso por el que se determina el grado en que se
han alcanzado los objetivos del programa. Dicho proceso implica las siguientes fases:
12
(5) Explicar los propósitos de la estrategia al personal más importante en las situaciones
más adecuadas.
(6) Escoger o desarrollar las medidas técnicas apropiadas.
(7) Recopilar los datos de trabajo.
(8) Comparar los datos recopilados con los objetivos pretendidos.
Aunque este modelo tiene la ventaja de que exige una delimitación clara de los
objetivos perseguidos, tiene el inconveniente de que la valoración del programa tiene
que hacerse al final del mismo, es decir, es una evaluación sumativa y no formativa.
También desde el campo de la educación, a finales de los sesenta Stake elabora un mo-
delo de evaluación que puede definirse como "evaluación centrada en el cliente". En él
asume la idea de Tyler de que la evaluación debe comparar los resultados deseados con
los obtenidos, pero amplía el concepto de evaluación requiriendo un examen de los an-
tecedentes, del proceso, de las normas y de los juicios, además de los resultados.
En general, Stake preconiza una escuela de evaluación que exige un método plu-
ralista, flexible, interactivo, holístico y subjetivo.
Para evaluar estos aspectos no basta con recoger datos sobre los efectos del pro-
grama, sino también sobre los procesos del programa, los condicionantes situacionales
del desarrollo del mismo y la población objeto.
13
5.4 Evaluación orientada a la toma de decisiones
Este proceso de evaluación se conoce como modelo CIPP, cuyas siglas reflejan
cuatro tipos de evaluación:
(1) Evaluación del Contexto (C). Consiste en analizar la población objetivo y sus nece-
sidades e identificar programas alternativos.
(2) Evaluación de los Inputs, o Insumos (I). Se centra en la evaluación de los recursos y
medios para aplicar el programa.
(3) Evaluación del Proceso (P). Valora la forma en que se está implementando el pro-
grama, las actividades desarrollados y los servicios liberados.
(4) Evaluación del Producto (P). Incide en la valoración de los resultados propiamente
dichos, poniéndolos en relación con los objetivos y las actividades implementadas.
(b) Ayudar a los consumidores a identificar y valorar los bienes y servicios alternativos.
Así pues, la perspectiva que incorpora Scriven a los modelos anteriores es la del
usuario, consumidor o cliente del propio programa.
14
Cuadro 3. Características de los modelos de evaluación de programas (modificado de
Colás y Rebollo, 1993, p. 49)
MODELO TYLER STAKE SUCHMAN STUFFLE- SCRIVEN
BEAM
FINALIDAD Prescribir Describir Prescribir Prescribir Prescribir
Producto Producto
CONTENIDO Producto Producto Producto Proceso Proceso
Proceso Proceso Contexto Contexto
Diseño
ENFOQUE ME- Cuantitativo Cualitativo Cuantitativo Cuantitativo Cuantitativo
TODOLOGICO
TOMA DE Autoridad Contrato evalua- Autoridad Autoridad Contrato autori-
DECISIONES dor-cliente dad-evaluador
PAPEL DEL Externo Cooperación Externo Externo Externo
EVALUADOR
15
Cuadro 4. Características de los enfoques objetivista y subjetivista.
Criterio de comparación Enfoque objetivista Enfoque subjetivista
Objetivo de la evaluación Se enfatiza el producto (el resulta- Se enfatiza el proceso (las opera-
do). ciones).
Función de la evaluación - La productividad. - La comprensión y valoración de
- La eficiencia del programa los resultados del programa
Contenido de la evaluación Los factores relacionados con la Los aspectos singulares y particula-
producción y los resultados. res que caracterizan el proceso.
Método El método científico: rigor, repli- Método participativo: El evaluador
cación y generalizabilidad. forma parte del objeto a evaluar.
Diseño de investigación Estructurado, prefijado. Abierto, flexible y emergente.
Selección de la muestra Representativa de la población. No predeterminada. No representa-
tiva de la población.
Técnicas de recogida de - Objetivas y rigurosas. - Cualitativas.
información - Válidas y fiables. - Abiertas y flexibles.
16
(1) Evaluación antes (o ex-ante). También denominada evaluación inicial o de pre-
decisión. Tiene lugar antes del inicio del programa y su objetivo es valorar la perti-
nencia, viabilidad, eficacia potencial y rentabilidad económica del programa, con el
fin de proporcionar criterios racionales sobre la conveniencia o no de llevarlo a ca-
bo.
Según el papel que desempeña la evaluación, suele distinguirse entre evaluación suma-
tiva y evaluación formativa.
17
arrollando los diversos componentes del programa, con qué medios humanos y materia-
les y quiénes están siendo los beneficiarios del mismo. Una evaluación sumativa, por el
contrario, estaría interesada únicamente en los resultados alcanzados tras su finalización
(e.g., el grado de inserción laboral logrado tras su liberación).
(1) Evaluación externa. Es aquélla en la que el equipo de evaluación está integrado por
personal ajeno al organismo, servicio o institución que implementa el programa.
Cuando se realiza este tipo de evaluación, habitualmente la institución responsable
del programa recurre a la participación de expertos contratados para llevar a cabo el
proceso evaluativo.
(2) Evaluación interna. En este caso, el equipo de evaluación está formado por personas
de la propia institución, organismo o servicio, pero que no están directamente vincu-
ladas a la ejecución del programa.
(3) Evaluación mixta. Es una combinación de las dos anteriores: El equipo está integra-
do por evaluadores externos y por evaluadores internos a la institución, organismo o
servicio. En estos casos el equipo de evaluación externo suele integrarse dentro de un
‘Equipo de Coordinación’ en el que se incluye personal de la propia institución.
(4) Auto-evaluación. Los propios encargados de la implementación del programa o per-
sonal directamente vinculado al mismo constituyen el equipo de evaluación. Ellos
mismos recogen los datos y los valoran.
18
7.4 Según los aspectos del programa a evaluar
El criterio de clasificación de los tipos de evaluación más útil es el que se basa en los
aspectos objeto de evaluación. Aunque no existe un acuerdo definitivo entre los investi-
gadores evaluativos a la hora de proponer una clasificación, todas tienden a confluir en
la distinción entre, al menos, tres tipos de evaluación: Evaluación del diseño del pro-
grama, evaluación de la implementación del programa y evaluación de los resultados del
programa.
(a) Análisis de documentos, tales como marcos legales, presupuestos, gastos, esta-
dísticas, censos, etc.
(b) Entrevistas (libres o semi-estructuradas) a directivos de la institución, a expertos
sobre la temática o a los profesionales encargados de aplicar el programa.
(c) Encuestas a la población general, a la población objeto o a los usuarios / consu-
midores del programa.
(d) Observación sistemática de la práctica cotidiana.
(e) Técnicas de grupo (discusión de grupo, método Delphi, etc.).
19
(a) La población objeto y los posibles problemas de cobertura, y
(b) el conjunto de actividades, medios técnicos, recursos y servicios programados.
Para que un programa sea evaluable tiene que satisfacer, al menos, tres requisi-
tos:
20
El volumen de la población cubierta.
El perfil de los usuarios / consumidores del programa.
Análisis del posible sesgo poblacional del usuario.
Análisis de la accesibilidad del programa / servicio a los usuarios.
(3) Evaluación del ambiente organizacional. Pretende valorar en qué medida la organi-
zación responsable del programa favorece o dificulta el funcionamiento del mismo,
tanto en los aspectos estructurales como funcionales. La evaluación puede incluir
los cinco subsistemas de toda organización: objetivos y valores, tecnológico, estruc-
tural, psicosocial y administrativo.
21
La capacidad de aplicar conocimientos teóricos y prácticos.
La capacidad de organizar el trabajo y de solucionar los problemas concretos.
Sin lugar a dudas, la evaluación de los resultados constituye el tipo de evaluación más
relevante para determinar el valor de un programa. La evaluación del diseño y de la im-
plementación del programa son aspectos importantes, pero que sirven para complemen-
tar la evaluación del producto de un programa.
22
del programa ha ejercido efectos beneficiosos a los allegados de los delincuentes drogo-
dependientes (e.g., familiares, amigos), así como a la población general (e.g., como con-
secuencia de una disminución de la inseguridad ciudadana).1
(a) Análisis costo-beneficio, en el que tanto los costos como los beneficios vienen va-
lorados en unidades monetarias. En el ámbito de los servicios sociales, comunitarios,
sanitarios, psicológicos y educativos, resulta difícil poder valorar monetariamente los
resultados. Por ejemplo, es difícil valorar en términos puramente económicos la rehabi-
litación de un drogodependiente, un delincuente o el aumento en conocimientos resul-
tante de recibir un curso de formación. En la empresa privada sí es más útil este tipo de
evaluación, ya que es posible medir los beneficios en unidades monetarias.
1
Debe tenerse en cuenta, no obstante, que la evaluación de la eficacia y del impacto de un programa pue-
de también dar lugar a resultados negativos, tales como un mantenimiento de la adicción a la heroína
(evaluación negativa de la eficacia).
23
Así pues, aunque lo hemos encuadrado dentro del epígrafe ‘evaluación de resultados’,
sus mayores potencialidades se dan cuando se aplica en el contexto de una evaluación
ex-ante.
24
25
ACTIVIDAD PRACTICA 3
1.- ¿El personal adscrito al programa desarrolla sus funciones y actividades en los tiem-
pos previstos? Si emplea más tiempo del necesario, ¿por qué?
6.- ¿Qué mecanismos y actividades se han programado para alcanzar los objetivos pre-
vistos?
7.- ¿Cuál es el nivel de implantación del programa en el contexto social en que se ejecu-
ta?
26
ACTIVIDAD PRÁCTICA 4
ASPECTOS DEL
PROGRAMA EVALUADOS TIPO DE EVALUACIÓN
• Evaluación de necesidades
Evaluación del diseño • Evaluación de la conceptualización
• Evaluación de la evaluabilidad
• Evaluación de la cobertura
Evaluación de la implementación • Evaluación de la implantación
• Evaluación del ambiente organizacional
• Evaluación del rendimiento personal
• Evaluación de la efectividad
Evaluación de resultados • Evaluación del impacto
• Evaluación socio-económica
27
REFERENCIAS
28