Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Reacción
FEED Aprendizaje
FORWARD Medición línea de base
Transferencia Instructores
5. Evaluación de la
Capacitación: introducción
Agenda:
1. ¿Qué es la evaluación?
2. ¿Por qué es relevante?
3. ¿Cómo se implementa?
4. Practicando lo aprendido
¿Qué medimos?
Definimos dos niveles macro de medición:
Procesos Resultados
(predictores) Evaluación y
• Modelo
• Índice de tradicional de toma de
calidad de la Kirkpatrick (4 decisiones
capacitación niveles)
5.1 5.2
2. Medir Satisfacción
3. Medir Aprendizaje
4. Medir Transferencia
5. Medir Resultados
Proceso transversal a la medición: gestión de
información
• Para poder realizar evaluaciones razonables, es fundamental contar
con la data.
• Para ello es prioritario definir la información que se requiere antes
del diseño. La evaluación comienza en la etapa de planificación.
• Junto con ello, se requieren sistemas básicos de acopio y
sistematización.
• Y capacidades básicas de análisis de datos (cuantitativos y
cualitativos).
Aprendizaje: conocimientos
Brecha
Control,
menos
Procesos: índice de la calidad de la capacitación
variables
• Detección de Necesidades y “Consultoría”
intervienen
• Diseño Instruccional
• Evaluación (dif Niveles)
• Gestión de Stakeholder
• Coordinación
3. Mediciones de
Intermedio 4. Medición de Transferencia
Aprendizaje
1. Medición de procesos
Menor 2. Mediciones de procesos
Complejidad iniciales: DNC, Diseño
de Desarrollo del ciclo de la capacitación
e Instruccional e
en formato “rúbrica”
Implementaci Implementación, en
ón (Calidad contra estándares)
formato “Checklist”
Nivel 4
10%
Resultados (impacto)
Mayor Mayor
Procesos
(predictores)
• Índice de
calidad de la
capacitación
✓Multidimensional.
✓Mide procesos, lo que “hacemos”.
✓Evaluación contra estándares.
✓Accionable: orienta decisiones y acciones de gestión.
✓Respuesta institucional en el marco de una visión de
sistema.
✓Evalúa los predictores de los resultados de la
capacitación.
+
B.2.
Levantamiento
A.2. de evidencia
C.2. Modalidad y
results
Disponibilidad y D.2. Flexibilidad y
medios E.2. Aprendizaje
aseguramiento mejora
instruccionales
de recursos B.3. Análisis
causal de la
evidencia
Ejemplo (2)
Dimensiones y
Nivel de desarrollo Medios de verificación
componentes
B. Detección de
necesidades de Nivel 0: insuficiente Nivel 1: incipiente Nivel 2: estándar Medios de verificación
capacitación
B.1. Rol consultor del El área de capacitación El área de capacitación El área de formación Informe de detección de
área de formación competente se limita a opera como contraparte asume un rol consultor necesidades de
registrar los técnica del oferente, sobre el o los programas formación o similar
requerimientos de los diseñando y controlando de formación. Informes de entrevistas
clientes internos en la calidad de la Cuestiona con evidencia (a clientes internos,
materia de capacitación y ejecución. Este rol las demandas del autoridades, usuarios,
luego a ejecutar el interno es cliente interno y etcétera)
presupuesto predominantemente propone diversas
comprometido. administrativo. Referencias directas de
alternativas de solución. jefaturas o autoridades
regionales
Ejemplo (3)
Dimensiones y Medios de
Nivel de desarrollo
componentes verificación
E. Evaluación Nivel 0: insuficiente Nivel 1: incipiente Nivel 2: estándar
E.2.3. Registro pruebas No existen bases de Existe una base de Existe una base de Bases de datos
de aprendizaje datos o planillas con los datos básica que datos construida con
resultados individuales permite acceder a los criterios de seguridad
de los alumnos, o estas reportes individuales de la información,
son de difícil acceso o de cada participante. que permite acceder
su construcción no Su acceso es a los reportes
permite identificar las restringido. individuales de cada
variables de análisis. participante.
Dicha información se
encuentra disponible
para los usuarios
relevantes y permite
realizar análisis
estadísticos básicos.
Informes de Implementación:
Propuesta Diseño Instruccional: incluye conclusiones sobre las
Material Instruccional: incluye
concluye sobre la metodología y encuestas de reacción,
power point de los módulos,
los medios instruccionales observaciones del equipo de
guiones de instructores,
óptimos. Incluye los objetivos de control de gestión y
manuales, entre otros.
aprendizaje del programa. observaciones de los comités de
calidad o seguimiento.
Instrumentos de Evaluación
• Encuestas de Reacción Base de Datos Evaluaciones:
• Pruebas de Aprendizaje Informes de Resultados: sobre
incluye los resultados,
las distintas etapas del proceso y
• Instrumentos de Transferencia idealmente individualizados, de
sobre las evaluaciones finales.
cada prueba aplicada
Reportes
Evaluación General Calidad Capacitación XXXXXX
Resultado Agregado Indicador Calidad de la Capacitación XXXXXX (2020): 47,8
Resultado Agregado Indicador Calidad de la Capacitación YYYYYYY (Línea Base): 26,0
75.0
De acuerdo a lo
identificado en la
rúbrica
50.0
25.0
0.0
Plani cación Detección de Necesidades de Capacitación Diseño Instruccional Implementación Evaluación Promedio
fi
Reportes
E.3.4. Evaluación de Transferencia (análisis de datos y uso para la toma de decisiones)
E.3.3. Evaluación de Transferencia (registro de información)
E.3.2. Evaluación de Transferencia (calidad de los instrumentos)
E.3.1. Evaluación de Transferencia (cobertura)
E.2.4 Evaluación de Aprendizaje (análisis y uso de la información)
E.2.3. Evaluación de Aprendizaje (registro de información)
E.2.2.Evaluación de Aprendizaje (calidad de las pruebas)
E.2.1. Evaluación de Aprendizaje (cobertura)
E.1. Evaluación de reacción
D.3. Desempeño de los relatores
D.2. Flexibilidad y mejora
D.1. Controles de calidad
C.3. Condiciones para maximizar transferencia
C.2. Modalidad y Medios Instruccionales
C.1. Obje vos de Aprendizaje
B.4. Obje vos de desempeño
B.3. Análisis causal de problemas
B2. Rol consultor del área de formación
B.1. Levantamiento de Evidencia para la DNC
A.3. Calidad de los Términos de Referencia
A.2. Disponibilidad y aseguramiento de recursos
A.1. Alineamiento estratégico con prioridades ins tucionales y del proyecto FORGE
0 25 50 75 100
ti
ti
ti
Consideraciones para la implementación
Gestión de Evidencia Datos en construcción. Evidencia es débil Evidencia robusta para un grupo e Evidencia robusta para la mayor parte
pero se comienza a sistematizar. indicadores relevantes. del ciclo. Consolidación.
Diseño. Desarrollo.
Impacto esperado en la gestión En esta primera etapa, se clarifican los Entre el mes 6 y mes 12, ya es posible Entre el mes 12 y 24, el ciclo de
de la capacitación de la empresa procesos y se comienza a consolidar la observar cambios en la calidad de los capacitación se implementa en forma
información necesaria para medir y gestionar. programas de capacitación. continua, al menos para un grupo
seleccionado de programas de
El diagnóstico de necesidades de
capacitación.
capacitación se implementa como
condición necesaria para el resto del ciclo. Los proveedores mejoran su
desempeño, medido tanto a través
El diseño instruccional se funda en los
del índice de calidad como de otras
objetivos de desempeño y objetivos de
aprendizaje esperados como consecuencia medidas de satisfacción.
de los programas. Las metas agregadas y desagregadas
del índice de cumplen.
Se aplican instrumentos para medir el
desempeño de los instructores y la calidad Las evaluaciones de transferencia
de la entrega. comienzan a implementarse y sus
resultados a ser analizados.
Resumen
✓El índice, por cierto imperfecto, es una forma de medir lo que hacemos, para
explicar los resultados que buscamos.
✓Es necesario dar pasos adicionales para combinar calidad (procesos) de la
capacitación con los resultados de su implementación.
✓Su aplicación requiere una estrategia de implementación que considere el
contexto de medición: articulación de actores (rol de proveedores es !
fundamental!), perfiles de los equipos y uso de los datos para la toma de
decisiones.
✓Su uso debe ser focalizado y progresivo, para evitar riesgos de excesiva
burocracia y mayores costos de implementación del modelo.
✓Su uso ayudaría en la instalación de una nueva cultura y forma de gestionar el
desarrollo de capacidades.
1. Medir la Satisfacción
¿Qué preguntas debemos responder al analizar la
satisfacción de los participantes?
✓Efecto Halo.
✓Primacía y recencia.
✓Error fundamental de atribución.
✓Lenidad o indulgencia/in-group versus out-group.
✓Proximidad con el instructor.
✓Sesgos de similitud o alianzas.
✓La teoría del “café”.
ADVERTENCIA: Las evaluaciones de reacción entregan información útil, pero parcial sobre la calidad
del curso de formación. Extraer conclusiones holísticas a partir de ellas es arriesgado e insuficiente.
¿Qué medir en las encuestas de reacción?
Ejemplo Reporte:
2. Medir el Aprendizaje
Aprendizaje
Desde la perspectiva de la formación de adultos y la gestión de la capacitación,
el aprendizaje será entendido como la adquisición de conocimientos
declarativos y habilidades procedurales.
¿Qué conocimientos se
han adquirido?
Proyectos
Recomendaciones
El tipo de instrumento debe ser
consistente con el tipo de
La evaluación debe cubrir
objetivo de aprendizaje
adecuadamente los objetivos de
(contenido y complejidad) y las
aprendizaje.
metodologías de instrucción
desarrolladas en el curso.
Privilegiar instrumentos
Utilizar instrumentos variados
conocidos, probados o
para la evaluación.
recomendados.
Reporte típico, pero incompleto…
Sujeto Prueba 1 Prueba 2 Final Promedio
1 15 15 14 14,67
2 12 15 15 14,00
3 12 13 15 13,33
4 14 12 13 13,00
5 11 13 15 13,00
6 12 15 11 12,67
7 14 9 15 12,67
8 12 13 12 12,33 ¿Por qué este
9 10 11 15 12,00 reporte no es
10 11 12 13 12,00
suficiente?
11 13 10 13 12,00
12 12 11 12 11,67
13 12 13 10 11,67 ¿Qué información
14 12 12 10 11,33 adicional
15 14 8 12 11,33
16 9 10 14 11,00
necesitamos?
17 10 12 9 10,33
18 8 10 12 10,00
19 9 11 8 9,33
20 8 9 10 9,00
3. Medir la Transferencia
¿Qué es la transferencia?
Equipo de pares Nivel en que el equipo de pares facilita u obstruye la aplicación de los aprendizajes.
Cultura de la organización Características de la cultura organizacional que pueden interferir con la transferencia de los
aprendizajes-
¿Qué medimos?
Algunas herramientas
Evaluaciones de Cuestionario
desempeño* 180 o 360
Observaciones Entrevistas a
de desempeño Jefaturas
Muestras de
trabajo (ej:
portafolios)
Ejemplo: cuestionario jefaturas
En la celda que corresponda, registre el valor que mejor refleje su evaluación, de acuerdo con la tabla siguiente:
Conducta 1: …
Resumen:
La evaluación es el proceso más complejo de la gestión de la capacitación.
Requiere disciplina en el uso de evidencia y un esfuerzo permanente de
innovación y creatividad
Debemos estimular, paso a paso, una cultura de evaluación que nos permita
tomar mejores decisiones e invertir mejor los recursos de todos los Peruanos.
Las etapas propuestas de implementación progresiva de la evaluación
consideran:
1. Medir la calidad del ciclo de la capacitación (índice)
2. Medir Satisfacción
3. Medir Aprendizaje
4. Medir Transferencia
5. Medir Resultados
El cambio no es fácil y debe hacerse en forma planificada, progresiva e institucional.
La fórmula para medir el ROI es relativamente sencilla. Primero hay que calcular el beneficio neto que
la capacitación ha supuesto para la empresa y después dividirlo entre el costo total del programa (el
pago a los proveedores, el uso de equipos informáticos, la reserva de salas, el transporte, el tiempo
invertido por los participantes y cualquier otra inversión asociada). La fórmula completa, medida en
porcentaje, es la siguiente: (Beneficios netos para la empresa / Costos del programa) X 100.