Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Febrero de 2012
Directorio del Ceneval
Director General
Mtro. Rafael Vidal Uribe
Coordinación de la prueba
Lic. Sandra Reyes Lüscher
Elaboración
Lic. Sandra Reyes Lüscher
Dra. Alejandra Zúñiga Bohigas
Equipo de colaboración
Lic. Araceli Castillo Núñez
Lic. Erika Asunción González Mendieta
Lic. Rubén Lugo Campos
Psic. José Rodrigo Alanis Quezada
Psic. Laura Audiffred Maldonado
Lic. Sandra Villagómez Pérez
Lic. Martha Verónica Contreras Valdés
Lic. Claudia Guadalupe Durán Velandia
Mtra. María del Carmen Zafrilla Sánchez
Lic. Rafael Kornhauser García
Índice
Presentación 11
1. Antecedentes 15
3. Desarrollo de la prueba 25
3.1 Definición del contenido 27
3.1.1 Habilidad Lectora 28
3.1.2 Habilidad Matemática 33
3.2 Estructura de la prueba 36
3.2.1 Especificaciones de reactivos 37
3.3 Elaboración y validación de reactivos 37
3.3.1 Capacitación a elaboradores y validadores 38
3.3.2 Revisión cualitativa 39
3.3.2.1 Revisión técnica 39
3.3.2.2 Validación con especialistas 40
3.3.2.3 Revisión de estilo 40
3.3.3 Revisión Cuantitativa 41
3.3.3.1 Calibración de reactivos 42
3.3.3.2 Corrección y validación externa 44
3.3.4 Mantenimiento del banco de reactivos 44
3.4 Ensamble de la prueba 45
3.4.1 Revisión editorial e impresión del instrumento 47
4. Aplicación 49
4.1 Diseño muestral 50
5. Calificación 53
5.1 Confiabilidad de la prueba 54
5.2 Establecimiento de puntos de corte y definición
de niveles de desempeño 54
5.2.1 Análisis empírico 54
5.2.2 Análisis de juicio 55
5.2.2.1 Niveles de dominio de la Habilidad Lectora 56
5.2.2.2 Niveles de dominio de la Habilidad Matemática 57
5.2.3 Validación de los puntos de corte 58
5.3 Equiparación de las pruebas 58
6. Resultados 63
6.1 Reporte de resultados 65
6.2 Usos y difusión de resultados 67
6.3 Cuestionarios de contexto 68
Referencias 79
Anexo I
Grupos de trabajo 81
Índice
Anexo II
Datos psicométricos de los reactivos piloteados 93
Anexo III
Parámetros versión operativa 2008 97
Anexo IV
Marco muestral. Levantamiento de datos de la prueba 103
Anexo V
Establecimiento de los puntos de corte y generación 111
de algoritmo de calificación
Anexo VI
Validación de los puntos de corte 115
Anexo VII
Equiparación 131
Presentación
en Centros Escolares (enlace) de nivel Medio Superior, que es uno de los instrumentos más
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
puntos de corte y definir los niveles de dominio con el apoyo de especialistas que se encargan
de validarlos de manera empírica y teórica. Además de explicar el significado de ubicar a los
sustentantes en uno u otro nivel, se detalla el proceso para cuidar que año con año la califi-
cación y las comparaciones basadas en dichos niveles sean válidas.
En el capítulo Resultados se muestra la distribución de sustentantes por nivel de domi-
nio que se obtuvo en los tres años de aplicación. Además, se exponen las vías que tienen los
sustentantes, los docentes y la comunidad en general para conocer los resultados, entre ellas, las
estrategias de difusión que han puesto en práctica la sep, la Subsecretaría de Educación Media
Superior (sems) y el Ceneval para promover el máximo aprovechamiento de la evaluación.
En el último apartado se presenta una discusión de los alcances de esta evaluación y
de la experiencia que se ha tenido durante los tres años de su aplicación, con el propósito de
motivar la reflexión y retroalimentación en cuanto a la construcción y desarrollo de la prueba.
De igual modo, se mencionan de manera breve algunos aspectos de la reestructuración que
sufrió la prueba para su aplicación en 2011, en congruencia con los objetivos y lineamientos
de la Reforma Integral de la Educación Media Superior (riems).
13
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
1. Antecedentes
del nivel educativo, mediante mecanismos transparentes en beneficio de todos los sectores
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
interesados.
Para evaluar de manera integral la calidad de la ems es necesario utilizar varias estra-
tegias, cuyos alcances y limitaciones se complementen de tal forma que ofrezcan una visión
más amplia de la realidad educativa y la posibilidad de emitir juicios de valor que susten-
ten adecuadamente las decisiones que se tomen. Para ser consecuente con dicho principio,
el sneems establece cinco grandes niveles o ámbitos de trabajo, cuya evaluación supone
diversas estrategias con propósitos específicos e instrumentos que respondan de manera
congruente y adecuada a las características de cada uno. Los ámbitos son: a) sistemas y sub-
sistemas, b) programas e intervenciones, c) escuelas, d) maestros y e) alumnos.
enlace Media Superior es uno de los instrumentos construidos para la evaluación
de los alumnos. Entre otras líneas de acción, el Programa Sectorial que rige al sneems,
expresa la necesidad de “diseñar, aplicar y consolidar los instrumentos de evaluación del
desempeño académico de los estudiantes como insumo para reorientar la acción pedagógica
y para integrar los programas de nivelación académica”.1
Esta evaluación se desarrolló con el fin de generar información para cada estudiante
acerca de su capacidad de respuesta ante exigencias de la vida cotidiana al egresar de la ems,
de tal forma que se proporcionen elementos para contribuir a la mejora del sistema educativo
(incluyendo maestros, planteles, padres de familia, etcétera).
En febrero de 2007 la sems y la Dirección General de Evaluación (dgep) de la sep
solicitaron el apoyo de Ceneval para la elaboración de la prueba enlace Media Superior, a lo
que el Centro respondió con tres propuestas: la primera incluía la evaluación de cinco áreas:
Lenguaje y Comunicación, Matemáticas, Metodología, Ciencias Naturales e Introducción
a las Ciencias Sociales; la segunda se centraba en la evaluación de tres ámbitos: Matemáticas,
Lectura y Ciencias; y la tercera en la evaluación de dos habilidades básicas: Habilidad Lectora
y Habilidad Matemática.
Debido a la diversidad de subsistemas que hay en la educación media superior y a la
existencia de más de 200 currículos en el ámbito nacional, se prefirió la elaboración de un
instrumento abocado a dos habilidades generales que son parte fundamental en la educación:
Habilidad Lectora y Habilidad Matemática. Ambas son transversales, es decir, se desarrollan
a lo largo de la historia escolar y fuera de ella, además de que se manifiestan de modo dife-
rencial en los individuos, lo cual permite identificar diferentes niveles de dominio.
La construcción de la prueba implicó diversos procesos integrados y sistematizados en
las etapas de la Metodología Ceneval: diseño, construcción, verificación, ensamble, aplicación,
16 calificación y emisión de reportes. Las cuatro primeras fueron responsabilidad única del Ceneval
y las tres últimas estuvieron a cargo de la dgep-sep; en todos los casos se supervisó el cum-
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
plimiento de lineamientos y estándares de carácter internacional (apa, aera & ncme, 1999).
En cada una de las etapas, los procesos fueron avalados y legitimados por cuerpos
colegiados que emitieron propuestas y juicios especializados. El Consejo Directivo, el Consejo
Técnico, los Comités Académicos o el grupo de Asesores Externos están conformados por
expertos en educación y evaluación de las habilidades que integran la prueba, nacionales e
1
Disponible en http://www.sep.gob.mx/wb/sep1/programa_sectorial
internacionales. Dada la notoriedad que la prueba enlace Media Superior ha adquirido desde
su primera aplicación, en 2008, resulta prioritario asegurar la calidad del proceso evaluativo.
En la tabla 1 se muestra el incremento en la cobertura de la prueba en estos tres años,
por número de centros escolares y de sustentantes individuales. Los datos para cada entidad
federativa se encuentran disponibles en la página electrónica http://enlace.sep.gob.mx/ms/.
El objetivo de la prueba Enlace Media Superior es determinar en qué medida los jóvenes son
capaces de aplicar a situaciones del mundo real los conocimientos y habilidades adquiridos a
lo largo de la educación media superior, que les permiten hacer un uso apropiado de la lengua
(Habilidad Lectora) y las Matemáticas.
2.2 Propósito
La prueba enlace Media Superior se aplica cada año y su propósito general es evaluar per-
sonas. Mediante los datos obtenidos en la aplicación, es posible:
• • • Generar información, para cada alumno, acerca de su nivel de desempeño en dos ha-
bilidades básicas.
• • • Proveer elementos que contribuyan a la mejora del sistema educativo.
• • • Proveer información útil para el plantel, los profesores y los padres de familia.
La prueba enlace Media Superior está dirigida a los alumnos del último ciclo de bachillerato
(cuatrimestre, semestre, año) en modalidad escolarizada de los diferentes subsistemas de las
instituciones de educación media superior (bachilleratos generales, tecnológicos y bivalentes),
tanto de sostenimiento público como privado, de la República Mexicana.
20 Por ser una prueba estandarizada no es apta para aplicarse a alumnos con necesidades
especiales o que usen una lengua diferente al español.
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Es una prueba objetiva y estandarizada, porque su aplicación y calificación mantiene las mismas
condiciones para todos los sustentantes evaluados. Además, se caracteriza por:
• • • ser un examen diagnóstico, ya que emite información general del desempeño de cada
alumno, sin establecer alguna categoría de certificación o jerarquización;
• • • explorar el dominio de los sustentantes en tareas relacionadas con habilidades básicas
para la vida, a saber, Habilidad Lectora y Habilidad Matemática;
•• • ser una evaluación de cobertura homogénea restringida, porque utiliza las mismas preguntas
para medir, en todos los estudiantes, la presencia o ausencia únicamente de una muestra
representativa de conocimientos, actividades y conductas relacionadas con sus habilidades;
•• • su baja sensibilidad a la instrucción, puesto que examina un dominio restringido de ha-
bilidades que el sustentante desarrolla tanto dentro como fuera del aula, es decir que
no dependen solamente del currículo escolar y la manera en que son enseñadas en los
niveles de escolarización formal;
•• • reportar los resultados con referencia a criterio, ya que el desempeño del individuo es inde-
pendiente de lo que responden otros individuos, a diferencia de la evaluación referente a la
norma, la cual compara el resultado del individuo con los resultados de una población
o grupo al que pertenece. La evaluación criterial permite identificar con precisión, en re-
lación con un criterio previamente fijado, el rendimiento de un sustentante en función
de su desempeño o dominio de las habilidades evaluadas al resolver la prueba;
•• • ubicar a los sustentantes en cuatro niveles de desempeño, que se definen con base en el con-
tenido establecido en el perfil referencial;
•• • ser censal, puesto que está programada para aplicarse a todos los sustentantes que cum-
plan con la descripción de la población objetivo;
•• • estar conformada por reactivos de opción múltiple, ya que incluye preguntas o problemas que
se acompañan de tres distractores verosímiles y una respuesta correcta. La elección de
este tipo de reactivo para conformar la prueba se debe, por un lado, a su flexibilidad, ya
que los reactivos de opción múltiple se adaptan a la complejidad de los contenidos que se
pretende evaluar; por otro, a su versatilidad, ya que los reactivos de este tipo permiten me-
dir la comprensión de nociones fundamentales y la habilidad del sustentante para razonar 21
y aplicar lo aprendido; así también, una característica que los hace ideales es la facilidad de
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
calificación, ya que puede hacerse de manera rápida y exacta, lo que resulta indispensable
cuando se requiere evaluar poblaciones numerosas y ofrecer resultados rápidamente.
•• • contar con un bajo control en su aplicación, lo cual responde al hecho de que únicamente
sea una evaluación diagnóstica y se aplique a una población de alrededor de 800,000
sustentantes cada año. Aun así, en la cuarta sección del presente Manual se explican los
detalles de la aplicación de la prueba a una muestra controlada, cuyos datos se utilizan
para procesos de calificación e investigaciones alternativas;
•• • ser un examen de bajo impacto, ya que sus resultados no deben tener consecuencias para
los evaluados.
2.5 Alcances y limitaciones
Las características y propósitos de la prueba enlace Media Superior determinan sus alcances
y limitaciones en comparación con otros instrumentos de evaluación. Es importante hacer
hincapié en dichos aspectos, ya que utilizar los resultados de la evaluación para fines distintos
ocasionaría interpretaciones carentes de validez (estándares 1.1, 1.2 y 1.6).2
La prueba brinda a los sustentantes información útil sobre las fortalezas y debilidades
que poseen en cuanto al desarrollo de su Habilidad Lectora y su Habilidad Matemática. El
reporte de resultados presenta, de manera específica, las tareas que el sustentante es capaz
de realizar y aquellas que no, de modo que pueda conocer áreas de oportunidad para así
hacerse responsable de su educación y emplear herramientas que le ayuden a mejorar sus
habilidades. Es importante considerar que, debido a que la prueba se planteó desde el inicio
como diagnóstica, enlace Media Superior evalúa únicamente una muestra representativa
de contenidos y procesos. En otras palabras, no incluye todas las temáticas y tareas que los
estudiantes del nivel medio superior pueden y deben dominar. Además, el examen posee una
baja sensibilidad a la instrucción, ya que la necesidad de evaluar a la población censal, aunada a
la existencia de múltiples currículos de bachillerato, obligó a que el diseño de la prueba se
centrara en la evaluación de dos habilidades que cualquier estudiante debe poseer, indepen-
dientemente del subsistema que haya cursado.
enlace Media Superior se clasifica como una prueba de bajo impacto pues los resul-
tados obtenidos no tienen consecuencias académicas para los alumnos evaluados ni para
las escuelas. El instrumento no permite derivar conclusiones acerca de la educación media
superior, los subsistemas, las escuelas o el desempeño de las entidades federativas. El di-
seño y propósitos de esta prueba se limitan a la emisión de un diagnóstico general para el
22 sustentante de fortalezas y debilidades en el desarrollo de su Habilidad Lectora y Habilidad
Matemática. Las decisiones que se tomen a partir de los resultados deben considerar cuida-
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
2
Con este formato, de aquí en adelante se indican los estándares de calidad de la apa, aera y ncme (1999) que se siguieron durante
el proceso de construcción y aplicación de enlace Media Superior, así como en la elaboración del presente Manual Técnico.
En el caso de los docentes, la prueba es útil para conocer las fortalezas y debilidades
que exhiben los sustentantes en lo que se definió como Habilidad Lectora y Habilidad Mate-
mática en enlace Media Superior. Para las autoridades educativas, los resultados de la prueba
representan un diagnóstico general útil para guiar las acciones de fomento de la Habilidad
Lectora y la Habilidad Matemática.
2.6 Administración
2.7 Resultados
Tanto los estudiantes como los directivos, docentes y la comunidad en general, tienen acceso
a los resultados de cada aplicación ingresando a la página electrónica oficial http://enlace. 23
insuficiente, elemental, bueno o excelente para cada una de las habilidades evaluadas, así
como las respuestas correctas de todos los reactivos. Los docentes y directivos también tienen
la posibilidad de conocer los errores más comunes del alumnado y los resultados de cada
plantel año con año.
3. Desarrollo de la prueba
De acuerdo con la Metodología Ceneval (2008) y como parte del primer paso para
desarrollar pruebas eficaces, la construcción de la prueba enlace Media Superior
comenzó con el establecimiento de un plan general de evaluación. Las primeras acciones se
orientaron a definir el propósito y las características generales del instrumento en congruen-
cia con los requerimientos de la sems. Contar con objetivos claros y conocer los alcances y 25
Una vez que el Consejo Directivo y el Consejo Técnico acordaron el plan general de la prueba
–el cual incluye las características y propósitos descritos en el apartado anterior–, el personal
del Ceneval estuvo en condiciones de convocar a los Comités Académicos e iniciar con la
primera etapa de la metodología institucional para la construcción de pruebas: el diseño.
Durante la etapa de diseño del instrumento de evaluación se definen los elementos que
constituyen el marco conceptual y operacional en que se fundamentará todo el proceso. El
primer paso es elaborar un perfil referencial (pr), que constituye el referente medular para
el desarrollo de la prueba, porque describe las bases teóricas y la forma en que se estructura el
instrumento de manera que se cumpla con sus propósitos y se atiendan las características de
los sustentantes. De este modo, es posible establecer de manera clara y precisa aquello que se
pretende medir (estándares 1.2 y 1.6).
Para la prueba enlace Media Superior se elaboró un perfil de cada una de las habi-
lidades evaluadas. Su delimitación estuvo a cargo de los Comités Académicos de Diseño,
conformados por grupos de expertos en la enseñanza y desarrollo de la Habilidad Lec-
tora y Matemática. Estos comités estudiaron los marcos teóricos de la evaluación de pisa
(Programme for International Student Assessment) que lleva a cabo la Organización para
la Cooperación y el Desarrollo Económicos, los materiales disponibles de la encuesta all
(International Adult Literacy Survey), los procedimientos de Cito3 (Cito Instituut voor Toet-
sontwikkeling, conocido en inglés como Central Institute for Test Development) y algunas
aproximaciones a la evaluación de habilidades que han resultado exitosas en el contexto
latinoamericano (simce y timss). La revisión de literatura y de los planes y programas de las
diferentes modalidades y subsistemas de la ems sirvió como referente para definir las dos habi-
lidades e identificar los contenidos y los procesos por evaluar. Una de las concepciones teóricas 27
generales que guio la elaboración del perfil corresponde con el enfoque de las pruebas pisa
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
3
Página oficial del Instituto http://www.cito.nl/
4
Sistema de Medición de la Calidad de la Educación (simce). Reporte de Resultados 2005. Santiago: Ministerio de Educación, Unidad
de Curriculum y Evaluación (uce) de Chile.
Tanto la Habilidad Lectora como la Matemática están definidas en términos del contenido
o estructura del conocimiento que los estudiantes necesitan adquirir a lo largo de la trayectoria
escolar y los procesos que se requieren llevar a cabo (pisa, 2000, 2003, 2006). Tanto la Meto-
dología Ceneval (2008) como Downing et al. (2006), recomiendan poner especial atención
en la definición operacional de los contenidos y los procesos cognitivos implicados en las
tareas que tendrá que resolver el alumnado, específicamente para facilitar la elaboración de
los reactivos y apoyar a los investigadores e interesados en las interpretaciones que pudieran
derivarse de los resultados de la evaluación (estándares 1.18 y 13.3).
Los Comités Académicos diseñaron además las especificaciones de la prueba y defi-
nieron su estructura. Las especificaciones son enunciados que describen de manera clara y
precisa la conducta que se espera que realice el sujeto al contestar un reactivo (estándares
3.2 y 3.11). Estas se construyen en correspondencia directa con los contenidos que cada
comité determina como esenciales para que un estudiante que egresa del nivel bachillerato
en nuestro país sea competente en las áreas de conocimiento. Un aspecto importante en la
elaboración de especificaciones fue distribuirlas de modo que se contara con tareas en tres
niveles de complejidad. Esta gradación se delimitó para cada uno de los grupos de procesos
cognitivos, de modo que después de la aplicación se facilite la ubicación de los sustentantes en
diferentes niveles de dominio.
La pertinencia y relevancia de los contenidos y taxonomía diseñados para cumplir con
los propósitos de enlace Media Superior fueron revisadas por Comités Académicos de
Validación que perfeccionaron el diseño de la prueba. La propuesta final fue aprobada por
el Consejo Técnico.
A continuación se presentan los perfiles referenciales de la prueba enlace Media
Superior, y se describen puntualmente sus contenidos, procesos y estructura.
28
Definición operacional
Para la prueba enlace Media Superior se definió la Habilidad Lectora como la capacidad de
un individuo para comprender, utilizar y analizar textos escritos, con el fin de alcanzar sus propias metas,
desarrollar el conocimiento y el potencial personal, y participar en la sociedad.
Contenidos
El contenido por evaluar está asociado con el tipo de texto que se utiliza para medir la
Habilidad Lectora. Los cuatro tipos de texto que contiene la prueba enlace Media Superior
se eligieron por considerarse representativos del nivel educativo, y porque reflejan funciones
importantes de la lengua.
Su descripción es la siguiente:
• • • Apelativo. Refleja la función apelativa, la cual trata de suscitar interés en el receptor
o de convencerlo de actuar. Se busca seguir una instrucción; convence, sugiere, ruega,
aconseja. Desarrolla el uso del verbo condicional o imperativo.
• • • Argumentativo. Pretende expresar un argumento o contraargumento, probar o demos- 29
trar una idea, refutar la contraria para persuadir o disuadir al receptor. Intenta demostrar,
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
convencer o cambiar ideas; por ello –además de la función apelativa presente en el desa-
rrollo de los argumentos– aparece la función referencial, donde se expone la tesis.
• • • Expositivo. Representa la función referencial o pragmática utilizada cuando se quiere
expresar clara y objetivamente un mensaje. Se relaciona con el mundo real, con el con-
texto externo, y expresa lo que sucede, las acciones emprendidas por alguien, así como
los resultados de investigaciones. Ayuda a aprender a describir o clarificar algún con-
cepto, palabra o aspecto de un tema determinado.
• • • Narrativo. Evoca la función poética, literaria o creativa, útil para describir la realidad
en forma subjetiva, personal, original y creativa a través de la mirada del artista, quien
selecciona y combina las palabras y frases; además de lo que se dice, es importante
cómo se dice.
Asimismo, se crearon listas de cotejo que señalan los requerimientos de forma y con-
tenido para cada texto, con el fin de asegurar que los reactivos asociados permitan cumplir
con la evaluación de los procesos necesarios, eviten ser ofensivos para algún grupo social y
garanticen un lenguaje claro, sin regionalismos ni tecnicismos.
•• 4. Reflexión y evaluación del contenido. Tiene que ver con la valoración de las pro-
posiciones que contiene un texto, para contrastarlas con los conocimientos previos y
relacionar su información con otras fuentes de conocimiento, las cuales pueden proceder
de textos facilitados en la prueba o de ideas explicitadas en la pregunta.
•• 5. Reflexión y evaluación de la forma. Consiste en identificar el grado de corresponden-
cia entre el contenido y la estructura del texto y evaluar su pertinencia, así como valorar
qué tan adecuada es la forma en que se escribió el texto al contenido que se presenta.
Con el fin de precisar aún más la medición de la Habilidad Lectora, se desagregaron
los procesos en tres niveles de complejidad, de acuerdo con las características y tareas invo-
lucradas en cada uno:
•• a) La información a la que recurre el sustentante. Puede utilizar información contenida
en el texto o fuera de él, apoyándose en conocimientos externos del tema abordado.
•• b) Los aspectos en los que se centra el lector. Pueden ser partes independientes del texto
o relaciones entre sus apartados.
•• c) El enfoque del lector en el texto. Puede considerarlo como un conjunto o hacer rela-
ciones entre sus partes.
La definición de los niveles de complejidad sirvió como referente para elaborar las
especificaciones de la Habilidad Lectora. Fue exhaustiva para asegurar que se cuente con
reactivos relacionados con todas las acciones cognitivas que se requieren para comprender
un texto. Por esta razón, los grupos de procesos de Desarrollo de la comprensión y de la
interpretación, así como Reflexión y evaluación del contenido y de la forma, se subdividieron
para optimizar las actividades posteriores de construcción de la prueba. Los niveles se pre-
sentan a continuación:
•• • Nivel 3. Localizar tres o más elementos relacionados. El elemento objetivo y sus dis-
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Definición operacional
La Habilidad Matemática se definió como la aptitud de un individuo para identificar y comprender
el papel que desempeñan las matemáticas en el mundo, alcanzando razonamientos bien fundados, utilizando
y participando en las matemáticas en función de las necesidades de su vida como ciudadano constructivo, 33
La definición implica que aquel estudiante que cuente con Habilidad Matemática es
capaz de valorar el papel que juegan las matemáticas en su vida y, de esa forma, aplicarlas en
la solución de problemas que se le presenten en diferentes contextos.
Contenidos
Para afirmar que un sustentante posee cierto nivel de Habilidad Matemática, independiente-
mente del área en que haya cursado, cada bachiller debe conocer y manejar cuatro contenidos
matemáticos generales: cantidad, espacio y forma, cambios y relaciones, y matemáticas básicas.
Su descripción es la siguiente:
• • • Cambios y relaciones. Implica reconocer, describir y modelar de forma numérica,
algebraica y gráfica las relaciones o funciones temporales y permanentes entre fenó-
menos. Prevé la necesidad de tomar decisiones a partir del análisis de los datos, repre-
sentaciones de experimentos aleatorios y juegos de azar.
• • • Cantidad. Subraya la necesidad de cuantificar para proceder a describir el entorno. In-
cluye aquellos conceptos involucrados en la comprensión y orden de tamaños relativos,
reconocimiento de patrones numéricos, uso de números para representar cantidades y
atributos cuantificables de los objetos del mundo real.
• • • Espacio y forma. Señala la necesidad de reconocer patrones, imágenes, ubicaciones,
movimientos o cualidades de los objetos que ocupan un lugar en el espacio, así como
codificar y decodificar información de estos en contextos concretos (imágenes) y
abstractos (descripciones).
• • • Matemáticas básicas. Implica reconocer, describir y modelar objetos geométricos a
partir de representaciones algebraicas; además, considera el estudio de las relaciones
entre los ángulos y los lados de un triángulo valiéndose de funciones o razones.
Procesos cognitivos
El dominio de los contenidos matemáticos se evalúa a partir de tareas que implican el des-
pliegue de tres grupos de procesos cognitivos: reproducción, conexión y reflexión.
34 Las definiciones de los procesos describen conocimientos, actividades y tareas cog-
noscitivas progresivamente más sofisticadas. Por ello, en teoría debiera ser más fácil para
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
los sustentantes contestar un reactivo del proceso de reproducción que uno de conexión, ya
que el nivel de complejidad va aumentando de un proceso a otro; sin embargo, en la realidad
se ha visto que otros aspectos influyen en la dificultad del reactivo, a saber: el contenido que
se evalúa, la familiaridad que se tiene con la tarea realizada, la cercanía o lejanía entre el mo-
mento en que fue aprendida y evaluada, entre otros. Aun así, tener un punto de partida que
sea congruente con las investigaciones vigentes brinda un marco conceptual adecuado para
interpretar los resultados de la prueba año con año.
La progresión en la complejidad de las tareas se ve con mayor claridad en los niveles de
dominio que se presentan en el apartado de calificación.
• • • Reproducción. Las habilidades de este grupo incluyen tareas que permiten determinar
si el sustentante conoce y aplica la técnica matemática. Implica esencialmente: utilizar
conocimientos y procedimientos matemáticos a problemas directos, reconocer equiva-
lencias, utilizar objetos y propiedades matemáticas, así como manejar representaciones
numéricas, simbólicas y gráficas.
•• • Conexión. Las habilidades del grupo de conexión incluyen problemas que no son
directos; es decir, se presentan a partir del planteamiento de problemas sencillos
retomados de la vida real. Los problemas de este tipo plantean exigencias en su inter-
pretación y requieren que el sustentante reconozca la técnica matemática que se ha de
utilizar, con el fin de solucionar problemas que impliquen equivalencias, uso de propie-
dades matemáticas y empleo de representaciones numéricas, simbólicas y gráficas.
•• • Reflexión. Las habilidades del grupo de reflexión incluyen problemas cuyo plantea-
miento no es directo; es decir, se presentan a partir de situaciones complejas retomadas
de la vida real en las cuales se hace uso de más de una forma de representación de
información (textual, numérica, simbólica o gráfica). Los problemas de este tipo plan-
tean exigencias en su interpretación y requieren que el sustentante reconozca la técnica
matemática por utilizar, establezca relaciones, combine e integre información entre
distintas formas de representación o diferentes aspectos de una situación y que utilice
más de un paso o proceso, con el fin de solucionar un problema.
35
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
3.2 Estructura de la prueba
En las pruebas que diseña el Ceneval la estructura se refiere a la distribución de los reactivos
por contenido y por proceso para cada habilidad evaluada, lo cual se determina en congruen-
cia con la definición del constructo previamente establecida. La cantidad y dificultad de los
reactivos consideran la relevancia de cada contenido para el diagnóstico de la habilidad en
general, de acuerdo con el nivel educativo y las condiciones de la aplicación.
La prueba enlace Media Superior 2008-2010 consta de 140 reactivos, de las cuales
50 corresponden a Habilidad Lectora y 90 a Habilidad Matemática. En la tabla 2 se presenta
la distribución de reactivos por procesos y contenidos temáticos, que guio la construcción
de la prueba.
Total de
Área Subárea Número de reactivos por Proceso reactivos
Reflexión
Tipo de texto Extracción Interpretación5 y evaluación
Argumentativo 4 4 2 10
Habilidad Narrativo 5 7 2 14
Lectora Expositivo 7 8 2 17
Apelativo 4 3 2 9
Total de reactivos 20 22 8 50
por proceso
36 Contenido Matemático Reproducción Conexión Reflexión
Cantidad 7 13 5 25
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Espacio y Forma 5 10 5 20
Habilidad
Matemática Cambios y Relaciones 9 11 5 25
Matemáticas Básicas 5 10 5 20
Total de reactivos 26 44 20 90
por proceso
Total en la prueba 140
5
Se presentan integrados en esta columna los procesos de desarrollo de la interpretación y de la comprensión, y en la columna
siguiente los de reflexión y evaluación del contenido y la forma.
Una vez delimitada una estructura congruente con el perfil referencial y los objetivos
de la evaluación, la Metodología Ceneval prescribe la siguiente fase, la construcción de la
prueba, la cual consta de dos etapas: elaboración de especificaciones y de reactivos.
para la elaboración de los reactivos. Un requisito indispensable para participar en los comités
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
fue que sus integrantes contaran con experiencia en el nivel medio superior y tuvieran cono-
cimientos en el área en la que elaborarían los reactivos.
El Ceneval impartió talleres de capacitación con la metodología institucional de elabo-
ración de reactivos. Dicha capacitación es esencial para la calidad de la prueba, ya que contar
con reactivos técnicamente adecuados es uno de los primeros pasos para asegurar que los
resultados de la prueba son válidos y no se deben a aspectos de forma o detalles externos al
objeto y estructura de la evaluación.
Todos los reactivos cumplieron una fase de verificación con la que se asegura la calidad
de los reactivos. De hecho, cada uno de los ítems pasó por una serie de revisiones cualitativas
y cuantitativas (estándar 3.10).
formato que incluya siempre la base del reactivo, las opciones de respuesta con justificación,
la respuesta correcta, la referencia o bibliografía, la fecha y el nombre del autor. Para llevar a
cabo estas actividades, los elaboradores son capacitados también para almacenar los reactivos
en un sistema electrónico, el intranet de Ceneval, que agiliza los posteriores procesos de
verificación y ensamble de pruebas, entre otros.
Los validadores, en coordinación con un representante de Ceneval, llevan a cabo la
revisión de reactivos en línea. Lo más importante es que ellos también dominen las temáticas
y los lineamientos técnicos para que se cuente con ítems de calidad tanto en forma como
en contenido.
Una vez que los redactores informan que han concluido la elaboración de los reactivos,
estos pasan por diferentes revisiones que se mencionan en la tabla 3 y se explican en las
páginas siguientes.
Tipo de revisión
Cualitativa Cuantitativa
Revisión técnica de reactivos Piloteo de reactivos
Validación con especialistas Calibración
Revisión de estilo
lineamientos:
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
•• 1. Base del reactivo. Debe incluir la información necesaria y suficiente para ser contes-
tado, implicar una sola tarea o cuestionamiento, cumplir con alguno de los formatos
establecidos (jerarquización, completamiento, elección de elementos, relación de co-
lumnas), y ser independiente de los demás ítems; es decir, la información contenida en
un reactivo no ha de sugerir o requerir la solución de otro.
•• 2. Opciones de respuesta. Debe tener sólo una respuesta correcta y tres distractores.
En lo referente a la respuesta correcta, esta debe ser incuestionable y resolver el plan-
teamiento de manera satisfactoria, mientras que los distractores han de ser plausibles
y totalmente incorrectos. Para corroborar esto, se revisan con especial cuidado las
justificaciones o argumentaciones que los elaboradores indican para cada opción de
respuesta.
Aunado a lo anterior, los textos que se utilizan para derivar los reactivos de Habilidad
Lectora deben cubrir diversos criterios en cuanto al número de palabras, las características
que los identifican y los temas a los que hacen referencia. Todos ellos se indican en una lista
de verificación que los revisores técnicos tienen en cuenta para aceptar o pedir modificaciones.
En caso de que algún reactivo no cumpla con estos criterios o con lineamientos edito-
riales, se proporciona retroalimentación al elaborador para su modificación, y sólo hasta que
se cumplen las condiciones de calidad en contenido y forma, el reactivo es registrado en el
sistema electrónico como aceptado y listo para la siguiente fase de verificación.
Reactivos
por forma 96 94 96 94 96 94
Otra de las razones por las que el diseño del piloteo se planteó de este modo fue para
probar, en un inicio, qué cantidad de reactivos era adecuada para responderse en sesiones de
50 minutos, así como el número de sesiones pertinentes por día de aplicación, de modo que
se controlaran variables como el cansancio o la deserción.
En general se procura que las condiciones del piloto sean las mismas que la aplicación
operativa; las variaciones corresponden a la cantidad de sustentantes que responden la prueba
y el número de reactivos que la conforman, ya que la aplicación de las formas piloto se realiza
de manera matricial. En la tabla 5 aparecen los datos referentes al número de cuadernillos
que se han ensamblado para contar con ítems suficientes de buena calidad y la cantidad de
alumnos que han participado en el piloteo de reactivos. Cada año se ensamblan pruebas piloto
con meses de antelación a la aplicación anual. De este modo se asegura la calidad psicomé-
trica de los ítems que servirán para emitir el diagnóstico individual que pretende la prueba
enlace Media Superior con su versión operativa.
obtener sus características psicométricas que permitirán seleccionar los que conforman la
prueba operativa.
Para el análisis de los reactivos se revisa y depura la base de datos proporcionada por la
dgep-sep eliminando los casos que presentan menos del 85% de respuestas. El análisis de
los reactivos se realiza con base en la Teoría Clásica (tc) y la Teoría de la Respuesta al Ítem
6
Los reactivos que se pilotearon en 2010 corresponden, en su mayoría, a la estructura de la prueba que se utilizará en 2011, la cual
presenta diferentes modificaciones que afectan de igual modo el ensamble de las versiones piloto.
(tri) con el modelo logístico de tres parámetros. En el análisis de los reactivos, con base en
la tc, se atienden dos indicadores:
•• 1. Grado de dificultad. Se refiere al porcentaje de personas que responden correcta-
mente un reactivo de una prueba. Entre mayor sea esta proporción, menor será su
dificultad. De acuerdo con la Metodología Ceneval, los valores que se consideran acep-
tables en este parámetro son 20 ≤ GD ≤ 80%. La dificultad es una información básica
al ensamblar el instrumento, ya que debe estar balanceado en cuanto a la dificultad
global y en cada una de sus áreas o secciones (Vidal et al., 2000).
•• 2. Correlación punto biserial o coeficiente de discriminación. Se calcula para de-
terminar el grado en que cada reactivo aporta información certera en cuanto a las
habilidades que mide de manera particular, y en conjunto con los demás ítems que
conforman la prueba. El índice de correlación permite relacionar la tendencia de res-
puesta de cada ítem con respecto a la escala de la cual forma parte. Se supone que un
sustentante con una puntuación alta en toda la prueba tiene mayores probabilidades
de contestar correctamente un reactivo. También se debe esperar lo contrario, es decir,
que quien tuvo bajas puntuaciones en la prueba, tenga pocas probabilidades de con-
testar correctamente el reactivo. Así, un buen reactivo debe discriminar entre aquellos
que obtuvieron buenas calificaciones en la prueba y aquellos que obtuvieron bajas ca-
lificaciones. Generalmente, basta con que la correlación punto biserial de un reactivo
sea positiva para aceptarla como medida de “discriminación” del reactivo; sin embargo, la
Metodología Ceneval exige un mínimo de 0.2 para considerar que el ítem es óptimo
(Vidal et al., op.cit).
en las propiedades globales de la prueba. La herramienta de la tri que se utiliza para valorar
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
la calidad de los reactivos es la curva característica del ítem, la cual resulta del ajuste de una
función matemática al comportamiento del reactivo, y representa la probabilidad de que un
sujeto, con una determinada habilidad, responda correctamente el reactivo.
Para el análisis de los reactivos de la prueba enlace Media Superior se utiliza el modelo
de tres parámetros de tri. Los parámetros hacen alusión a los índices de discriminación,
dificultad y pseudo-adivinación de los reactivos:
•• 1. Índice de discriminación (a). Indica la cualidad que tiene el reactivo de diferenciar
a los sustentantes que dominan el conocimiento de aquellos que no. Para considerar
aceptables a los reactivos deben presentar una discriminación mayor que 0.45.
•• 2. Índice de dificultad (b). Indica la posición del ítem en la escala de aptitud. Cuanto
más grande es el valor de dificultad, mayor es la aptitud requerida para que el examinado
tenga una probabilidad alta de resolver correctamente el ítem. Lo ideal es que los reac-
tivos se encuentren en un intervalo de -3 a 3.
•• 3. Índice de pseudo-adivinación (c). Permite conocer la probabilidad de que cada
reactivo sea contestado correctamente al azar.7
Los datos psicométricos generales de las pruebas piloto correspondientes a 2007, 2008
y 2009 se presentan en el anexo II. El anexo III incluye los parámetros correspondientes a
los ítems que integraron la versión operativa 2008 y que han servido para llevar a cabo los
procedimientos de equiparación que se explican más adelante.
7
Este índice también es conocido como pseudo-azar debido a que los sustentantes difícilmente responden por “azar puro”. Normal-
mente intentan descartar algunas opciones de respuesta antes de adivinar.
los reactivos; además, el mantenimiento del banco implica revisar constantemente la actuali-
zación de los contenidos y de los parámetros de los ítems de acuerdo con el número de veces
que se haya presentado en diferentes versiones ya sea piloto u operativas, y con las posibles
modificaciones en el objeto de medición o las normas de revisión editorial.
En la tabla 6 se reporta la cantidad de reactivos que se han elaborado, validado y pilo-
teado desde que comenzó la construcción de la prueba hasta agosto del 2010. Como puede
verse, el mantenimiento del banco es de suma importancia para dar continuidad a las aplica-
ciones año con año.
Reactivos
validados 1,389 2,505 4,332 946 9,172
Reactivos
piloteados 570 1,561 3,590 135 5,856
En esta fase se integra la versión operativa de la prueba con los reactivos que resultaron
ser los mejores tanto en las revisiones cualitativas como cuantitativas (estándares 3.7 y 3.8). 45
Otros aspectos que han de tomarse en cuenta para el ensamble son los aspectos de la
administración de la prueba, la cual en el caso de enlace se realiza en seis sesiones de 50
minutos. Los 140 reactivos de la prueba operativa se ensamblan en un solo cuadernillo divi-
dido en seis bloques: tres de Habilidad Lectora y tres de Habilidad Matemática, los cuales se
intercalan para su aplicación. En la tabla 7 se muestra la distribución de la prueba operativa
en función del número de reactivos y los contenidos.
46
47
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
4. Aplicación
La prueba operativa se aplica a los estudiantes que cursan el último grado de educación
media superior en instituciones educativas de carácter público, federal y estatal, en los
planteles particulares con reconocimiento de validez oficial otorgado por la sep, así como en
instituciones de carácter autónomo que lo soliciten y en escuelas particulares incorporadas.
Todos los sustentantes contestan la prueba operativa en seis sesiones de 50 minutos distribuidas
en dos días (únicamente una muestra representativa de la población responde una versión del
Pretest en una sesión extra).
La aplicación de la prueba está a cargo de la dgep-sep, con el apoyo de los titulares
de las Áreas Estatales de Evaluación de cada entidad federativa, responsables de elaborar
la estrategia de aplicación, así como de coordinarla. Además, participan los representantes
estatales de la sems y los titulares de las Oficinas de Servicios Federales de Apoyo a la Edu-
cación en las entidades federativas que supervisan la logística de la aplicación. Existen a su
vez coordinadores regionales y coordinadores de la aplicación para cada plantel que deben
asegurar que las pruebas se apliquen de acuerdo con la normativa.
Es importante enfatizar que el control de la aplicación se considera bajo, ya que esta
se realiza de manera censal en el ámbito nacional, a una población ubicada en localidades 49
con características y sustentantes muy diferentes. Ahora bien, dada la importancia de contar
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
con datos confiables para la calibración de reactivos y el proceso de calificación, cada año se
selecciona una muestra representativa que aplica la prueba con un control más riguroso. En
el apartado 4.1 se describe brevemente el diseño muestral utilizado.
En la aplicación participan también padres de familia invitados previamente por los
directores de los planteles, así como observadores externos que verifican que el proceso se
realice de forma adecuada. La organización y calendarización de la prueba asegura la par-
ticipación de los alumnos, sin afectar las actividades normales de la escuela. Debido a que
enlace Media Superior sólo se aplica a los estudiantes del último grado, no se suspenden
clases ni actividades escolares para el resto de los estudiantes.
4.1 Diseño muestral
El diseño muestral permite contar con una muestra representativa de la población que res-
ponde la prueba con un control de aplicación más estricto. Los aplicadores de la muestra
controlada provienen de la dgep, de modo que se reduce la posibilidad de copia, mala distri-
bución de cuadernillos o de tiempo durante las sesiones. Los datos de la muestra controlada
sirven para realizar los análisis estadísticos necesarios para realizar la equiparación de
las pruebas de un año a otro, definir los puntos de corte y llevar a cabo diversas investigaciones
de interés para la sems. Además, estos sustentantes responden cuestionarios de contexto que
permiten estudiar variables asociadas al logro académico.
Para 2008 y 2009 se aplicó un mismo diseño muestral con niveles de desagregación en
que se trabajaron los resultados de enlace Media Superior, los cuales se muestran en la tabla 8.
3 Estatal
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
El procedimiento para calcular el tamaño de la muestra, así como los cambios requeridos
desde la primera aplicación (2008) se describen en el anexo IV.
51
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
5. Calificación
53
Esta etapa es esencial para cumplir con los propósitos de la prueba, en particular
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Los datos de cada aplicación han permitido evaluar la confiabilidad de la prueba y tener
información sobre la consistencia interna de la prueba. Para medir la estabilidad del instru-
mento se calcula el Alfa de Cronbach considerando que una prueba es confiable cuando
obtiene un Alfa mayor a 0.70 (Nunally & Bernstein, 1994). La confiabilidad por año de la
prueba enlace Media Superior se muestra en la tabla 10.
Habilidad Habilidad
Año Lectora Matemática Global
marcador (Mitzel, Lewis, Patz y Green, 2001). Este procedimiento toma en cuenta los resul-
tados empíricos de la prueba (análisis empírico) y el juicio de los expertos (análisis de juicio), con
el fin de identificar los contenidos que podría responder adecuadamente un sustentante per-
teneciente a las distintas categorías o niveles de habilidades que la prueba es capaz de medir.
A partir de estos datos se estiman las características métricas de los reactivos (dificultad,
discriminación, índice de adivinación) con base en la tc y del modelo logístico de tres pará-
metros de tri para comprobar su calidad. Entre otras cosas, este análisis permite determinar
si los reactivos están funcionando de manera adecuada y si se presenta estabilidad entre las
diferentes aplicaciones (estándar 3.22).
Es importante detectar si existen ítems con problemas para no tomarlos en cuenta
para la calificación ni para el establecimiento de puntos de corte (anexo V). Por ejemplo,
en 2008, el análisis de los reactivos con tc permitió identificar 10 reactivos con correlación
biserial negativa y/o dificultad muy alta que se eliminaron de la calificación. En 2009 se des-
cartaron 11 reactivos y en 2010 sólo 3.
El resto de los ítems de cada prueba operativa obtuvo parámetros estadísticos adecuados
y ofrecen información válida acerca de la habilidad de los sustentantes.
la sems, la clasificación de los niveles tomó en cuenta cuatro categorías: insuficiente, elemental,
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Analizas las relaciones entre dos o más variables de un proceso social o natural y re-
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
suelves los sistemas de ecuaciones que las representan. Identificas funciones a partir de
sus gráficas para estimar el comportamiento de un fenómeno. Construyes una figura
tridimensional a partir de otras e identificas características de una figura transformada.
Utilizas fórmulas para calcular superficies y volumen, y reconoces los elementos de
una cónica a partir de su representación gráfica.
•• • Excelente. Empleas operaciones con fracciones para solucionar problemas y resuelves
combinaciones con signos de agrupación. Conviertes cantidades en sistema decimal a
sexagesimal. Identificas la relación existente entre gráficas y funciones lineales o cua-
dráticas, y expresas algebraicamente una representación gráfica. Aplicas conceptos
avanzados de probabilidad. Solucionas problemas con series de imágenes tridimensio-
nales y aplicas conceptos de simetría. Utilizas fórmulas para calcular el perímetro de
composiciones geométricas. Determinas los valores de los elementos de la circunfe-
rencia, la parábola y la elipse a partir de su ecuación y viceversa; identificas la ecuación
de una recta a partir de sus elementos y la aplicas para encontrar la distancia entre dos
puntos. Solucionas problemas donde se aplican funciones y leyes trigonométricas.
58
Si bien las estrategias de ensamble de las versiones de enlace Media Superior garantizan
que las versiones sean equivalentes en los que contenidos que miden, en un momento pos-
terior a la aplicación pueden existir diferencias en su dificultad. Para controlar este efecto en
la calificación de la prueba se recurre a una equiparación horizontal. Los métodos de equiparación
son procedimientos empíricos para establecer una relación estadística entre los puntajes de dos
versiones de una misma prueba. Dicha relación puede utilizarse para expresar los puntajes de
una versión en términos de los puntajes de otra versión, lo que permite que los resultados de la
prueba sean comparables año con año.
La equiparación requiere de un diseño de recolección de datos y de una regla para
transformar los puntajes de una versión a los puntajes de otra. En relación al primer aspecto
se tomó en cuenta que, por cuestiones de transparencia, la prueba enlace Media Superior
hace públicos todos sus reactivos después de cada aplicación. Dicha condición impide incluir
reactivos ancla en las versiones operativas, por lo que se aplica de manera matricial una prueba
denominada Pretest que se utiliza para calibrar los reactivos y obtener los parámetros que se
fijan en cada aplicación.
El Pretest es equivalente en contenido y dificultad a la prueba operativa. Se administra
de manera matricial por lo que se ensamblan formas o cuadernillos que contienen entre 18 y
25 reactivos. La suma de todas las formas se convierte en la versión operativa del siguiente año.
El Pretest se presenta a una muestra representativa de la población que aplica la prueba
operativa (Diseño muestral, apartado 4.1). Los sustentantes que conforman la muestra res-
ponden ambos instrumentos (la prueba operativa y el Pretest), por lo que las puntuaciones
de cada prueba son escaladas en un primer momento gracias a que se aplican a la misma
población. La siguiente figura ejemplifica la forma en que se recolectan los datos para la
equiparación horizontal.
Forma 1
59
140 reactivos Forma 2 MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Forma n
6 26 40.26
7 26 40.17
61
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
6. Resultados
Los
••
resultados de la prueba enlace Media Superior se encuentran disponibles al
público en general en diferentes medios:
• En la página electrónica oficial, con ligas a los reportes por alumno, por escuela y los
resultados nacionales.
•• • En carteles que se distribuyen a la comunidad educativa en cada escuela.
•• • En notas de prensa.
En la página electrónica se pueden revisar, durante todo el año, las características gene-
rales de la prueba, las fechas de aplicación y noticias relacionadas con la evaluación. También 63
se pueden consultar los reactivos que conformaron la prueba enlace Media Superior, así
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
como los resultados por alumno, por escuela y por entidad federativa.
Cualquier consulta a los datos disponibles debe hacerse considerando el propósito
para el que fue diseñada la prueba: brindar un diagnóstico individual y general de fortalezas y
debilidades en dos habilidades básicas: lectora y matemática. Si bien enlace Media Superior
forma parte del sneems, como ya se explicó, es una prueba dirigida al alumnado y no puede
utilizarse para evaluar el sistema educativo, los subsistemas, las escuelas o los docentes. Por
todo esto, los resultados sólo deben ser usados para conocer el nivel de dominio de los susten-
tantes y planear estrategias de estudio, secuencias didácticas, campañas particulares, entre otras,
que sean consecuentes con las necesidades que puedan detectarse haciendo uso de los datos.
Estas consideraciones se reiteran varias veces en la página electrónica y las autoridades de
la Subsecretaría se encargan de recordarlas al público en general en las conferencias y eventos
de prensa. El Ceneval también hace énfasis en los alcances y limitaciones de la prueba, en
todos los Comités que se organizan durante el desarrollo y mantenimiento de la prueba, y se
pide a los participantes que divulguen la información para evitar malos usos de los datos y
maximizar la validez de las interpretaciones de la propia evaluación (estándar 13.19).
Los resultados de las primeras tres aplicaciones se muestran en la tabla 14.
8
Datos disponibles en http://enlace.sep.gob.mx/ms/
6.1 Reporte de resultados
65
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
66
Los datos y porcentajes que se presentan en los reportes individuales incluyen los
resultados de la población que asiste a escuelas del mismo tipo de sostenimiento (público
o privado), que corresponda a la modalidad de bachillerato (general, tecnológico, técnico) y
grado de marginación (muy alto, alto, medio, bajo, muy bajo). La intención de presentar los
porcentajes que se obtuvieron en planteles con las mismas características es evitar que se
hagan comparaciones que resultarían inválidas dadas las diferencias de los bachilleratos en
cuanto a recursos, propósito, etcétera; por lo mismo, se incluye un breve párrafo que explica
el propósito de la prueba en cada uno de los reportes (estándares 11.6, 11.12 y 11.15).
Los cuatro niveles de dominio se describen de manera general con la intención de que el
sustentante, el docente y el padre o madre de familia conozcan las fortalezas y debilidades que
indica cada uno, considerando que determinado nivel implica las habilidades del o los anteriores.
Además, se pueden consultar todos los reactivos con las respuestas que el estudiante
eligió y compararlas con la opción correcta; cada pregunta incluye un enunciado que describe lo
que es capaz de hacer el sustentante que responde adecuadamente al reactivo.
En caso de que se requiera consultar el resultado de una escuela en particular, la liga
correspondiente pedirá que se ingrese la Clave del Centro de Trabajo (cct) y que se indique
el turno para el que se quiere consultar los datos. La información que se despliega incluye la
ubicación, los datos generales de la escuela (tipo de sostenimiento, modalidad, grado de mar-
ginación) y el número de sustentantes evaluados del último grado escolar en relación con los
programados para aplicar el examen.
La posibilidad de revisar los resultados por escuela representa una ganancia para los
docentes, especialmente porque cada pregunta se acompaña del porcentaje de estudiantes
que la contestó incorrectamente, y se menciona la fortaleza o debilidad que los datos evi-
dencian. De este modo, cada docente puede conocer aquellos contenidos y procesos que
provocan más errores en su alumnado y así, mejorar su práctica educativa. 67
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
De forma independiente a la utilidad que cada sustentante o docente le pueda dar a los datos
obtenidos con base en la información del reporte individual, la sems, la sep y el Ceneval
organizan un seminario acerca de los usos y difusión de los resultados de la prueba.
Autoridades de cada instancia y representantes de organizaciones de la sociedad civil
presentan diferentes ponencias en el seminario con el objetivo de que la comunidad en general
conozca los propósitos de la prueba enlace Media Superior, sus características técnicas y la
forma en cómo puede aprovecharse no sólo en el ámbito académico, sino en planificación de
políticas públicas o campañas sociales para promover actividades que favorezcan la lectura y
la comprensión de las matemáticas como herramientas de la vida cotidiana.
Otra estrategia para contribuir a que los resultados de la prueba sean de utilidad es la
publicación de un Manual para Docentes y Directivos que se encuentra disponible en la página
electrónica de la prueba. Se hace hincapié en los propósitos, los alcances y limitaciones de
enlace Media Superior, además de que se presentan sugerencias en cuanto a las actividades
en plantel o en el aula que pueden organizar los docentes para mejorar las habilidades de
los sustentantes.
En el manual se enfatiza el evitar las comparaciones entre alumnos, entre escuelas, y sobre todo el
evitar los ejercicios de preparación exclusivamente para la prueba. Se incluye una explicación amplia
de la forma en que se concibió el instrumento, entre otras cosas, como la medición de una
muestra representativa de los contenidos a través de los cuales se pueden evaluar las habili-
dades básicas, pero que de ninguna manera incluyen todos los temas y ejercicios que forman
parte de los planes y programas. Esta idea se refuerza con la descripción de la Habilidad
Lectora y la Habilidad Matemática, como ejemplos de habilidades transversales que pueden
y deben ser promovidas en todas las disciplinas y asignaturas del bachillerato, ya sea con tra-
bajos de investigación bibliográfica, prácticas de campo, portafolios y ensayos, entre otros.
Por algunas de las razones expuestas anteriormente, así como por el objetivo meramen-
te diagnóstico de la prueba, enlace Media Superior no distribuye guías para el sustentante,
únicamente se elabora anualmente el Manual para docentes y directivos.
y directores, con el fin de recabar datos relacionados con variables de contraste específicas:
subsistema educativo, nivel socioeconómico, motivación, compromiso académico, actividades
extraescolares, situación laboral, recursos cognitivos y no cognitivos, trayectoria académica,
características de las escuelas de procedencia y contexto familiar.
Las variables de contexto son elegidas por un Consejo Técnico conformado por espe-
cialistas y autoridades de la sep. En el cuadro 2 se muestra la estructura del cuestionario de
contexto de alumnos utilizada en 2010. En años anteriores se presentaron algunas variaciones
en cuanto a los rubros y la cantidad de preguntas asociadas a cada uno, hasta que en 2010
se estableció una estructura que contiene un mayor abanico de variables de contexto que
permiten describir a la población sustentante del examen operativo y explicar su desempeño.
Los cuestionarios de los sustentantes se aplican en una sesión de 50 minutos, mientras
que los dedicados a docentes y directivos pueden ser contestados en línea. Las preguntas dirigi-
das a los directores recaban información acerca de las características de la escuela, mientras que
el cuestionario dirigido a los docentes se centra en variables asociadas a la función educativa.
70
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
7. Reflexiones
acerca de la prueba
retroalimentación para cada estudiante, de modo que conozca el nivel de dominio que posee
en cada habilidad y ponga en práctica estrategias para mejorarlo.
Es común encontrar que algunos centros escolares se promocionan a sí mismos ha-
ciendo uso de los buenos resultados de su alumnado en la prueba enlace. Eso carece de
fundamento, el hecho de que sea posible consultar los resultados de cada cct no implica que
deban compararse, pues cada centro tiene sus condiciones particulares en cuanto a número
de alumnos, tipo de sostenimiento, modalidad, etcétera, además de que los resultados, po-
sitivos o negativos, pueden deberse a multitud de variables que no están relacionadas con la
calidad de la escuela en sí.
La posibilidad de consultar los resultados año con año en la página electrónica de
enlace Media Superior responde a la necesidad de tener un diagnóstico general constante
que muestre las áreas de fortaleza y debilidad. Las comparaciones que pueden ser de utilidad
son las que pueda hacer cada director de plantel en cuanto a los resultados año con año de
su propia escuela, aunque esto de ninguna manera debe llevar a un veredicto en cuanto a las
capacidades de sus docentes (ya se ha dicho que la prueba está dirigida al alumnado). Más bien
puede dar indicios de las áreas acerca de las que pueden planificarse campañas internas, acti-
vidades extracurriculares, entre otras.
Además de la fuente de información que representan los resultados de enlace, un
propósito que se ha visto cumplido en estos tres años de aplicación ha sido la creciente con-
cientización en la población acerca de la importancia de las habilidades evaluadas.
Los interesados en el nivel medio superior pueden utilizar los resultados de la prueba
de diferentes formas:
• • • Para mejorar la práctica educativa después de analizar los errores y aciertos más co-
munes del alumnado, así como las concepciones que poseen acerca de los contenidos
evaluados en la prueba. Esto debe hacerse considerando que la prueba enlace Media
Superior únicamente evalúa una muestra representativa de lo que constituye y debe
promoverse como parte de la Habilidad Lectora y la Habilidad Matemática.
• • • Para planificar intervenciones en el aula, en el plantel, en un estado o en todo el país
que fortalezcan el desarrollo de habilidades básicas.
• • • Para tener datos que ayuden a detectar tendencias en el plantel y contar con una línea-
base que permita la comparación con los resultados de aplicaciones posteriores y esta-
blecer el efecto que han tenido determinadas acciones educativas.
• • • Para caracterizar a la población de un plantel o entidad federativa en términos de su
distribución por niveles de logro, siempre y cuando la proporción de alumnos evaluados 73
sea significativa.
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
En nuestro país existen otras pruebas que también se aplican a los estudiantes del nivel medio
superior. Algunas poseen características en común con enlace Media Superior pero tienen
objetivos distintos. En la tabla 15 se presentan las características de dichos instrumentos.
A partir de la tabla pueden reconocerse las diferencias que tiene enlace Media Superior
con las demás pruebas; las más importantes se encuentran en su propósito y su método de
aplicación. Mientras que enlace es una prueba de bajo impacto (su objetivo es meramente
diagnóstico), existen otras evaluaciones que sí tienen consecuencias en la población objetivo,
como la correspondiente al Acuerdo 286 Bachillerato (cuyo propósito es de acreditación) y
el exani-i (que es una prueba de selección).
La evaluación internacional de pisa, el egrems y el exani-ii al que se refiere la tabla,
comparten con enlace Media Superior su carácter diagnóstico; sin embargo, la primera
prueba se administra únicamente a una muestra representativa de la población, mientras que
las otras dos se aplican de acuerdo con las solicitudes de las instituciones. En contraste con
ello, la aplicación de enlace Media Superior se caracteriza por ser censal ya que se aplica
casi al 100% de la población objetivo nacional, una vez al año.
Los rasgos que comparten las seis pruebas reseñadas en la tabla tienen que ver con
sus características psicométricas. Todas son evaluaciones objetivas ya que su calificación no
depende de un criterio variable, además de que los controles en sus condiciones de aplicación
y calificación las clasifican como pruebas estandarizadas. En todos los casos se evalúa a partir
de reactivos de opción múltiple, aunque la prueba derivada del Acuerdo 286 también incluye
la elaboración de un texto por parte del sustentante, y la de pisa complementa la información
obtenida con los ítems cerrados con preguntas de respuesta construida.
74 Como se mencionó, el proceso de construcción de la prueba enlace Media Superior
retomó varios aspectos de la evaluación de pisa, pero ambas evaluaciones son muy distintas
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
enlace 286
Media Superior Bachillerato exani-i exani-ii egrems pisa México (**)
Egresados de
Población Aspirantes a un área Estudiantes de 15 años
Alumnado del último Personas con 21 años educación secundaria, Egresados de educación
específica de tres meses a 16 años
objetivo ciclo de bachillerato. cumplidos. aspirantes a ingresar media superior.
educación superior. dos meses.
al bachillerato.
Cobertura Censo. Bajo demanda. Bajo demanda. Bajo demanda. Bajo demanda. Muestra.
de la población
9
Información disponible en http://www.ceneval.edu.mx y en http://www.inee.edu.mx (**)
76
Tabla 15. Características de los instrumentos de evaluación para la educación media superior en México (2 de 2)10
enlace 286
Media Superior Bachillerato exani-i exani-ii egrems pisa México (**)
Bajo demanda,
Cada proceso de Bajo demanda, de
de acuerdo con las
Periodicidad Anual. Tres periodos por año. admisión a las instituciones acuerdo con las solicitudes Cada tres años.
solicitudes de las
de bachillerato. de las instituciones.
instituciones.
10
Información disponible en http://www.ceneval.edu.mx y en http://www.inee.edu.mx (**)
La existencia de estas y otras pruebas cuyo desarrollo y aplicación se ha multiplicado
recientemente ha generado conciencia en las personas acerca de la importancia de contar con
indicadores y datos del desempeño de los estudiantes que permitan mejorar el trabajo que
se hace en las instituciones educativas. En respuesta a la concepción de que dicho fenómeno
provoca que la población esté sobreevaluada, Vidal (2009) destaca el hecho de que cada ins-
trumento tiene objetivos distintos y por tanto ofrece información en diferentes esferas que
puede y debe ser revisada para contribuir a la mejora de la calidad de la educación de una
manera integral.
se alternarían año con año a partir de 2013, previa aprobación del Consejo Técnico.
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Lic. Miguel Ángel Martínez Espinosa Subsecretario de Educación Media Superior. sep.
Lic. Ana María Aceves Estrada Directora General de Evaluación, dgep. sep.
Lic. Elena Verdugo Quiñones Coordinadora de Asesores. sems.
M en C. Daffny Rosado Moreno Coordinador Sectorial de Desarrollo Académico. sems.
Ing. Roberto Peña Resendiz Director de Evaluación de Políticas y Sistemas Educativos. sep.
Dra. Margarita María Zorrilla Fierro Directora General. inee.
Dra. Annette Santos del Real Directora General Adjunta. inee.
Mtro. Rafael Santiago Vidal Uribe Director General. Ceneval.
Dra. Rocío Llarena de Thierry Directora General Adjunta de Programas Especiales. Ceneval.
Consejo Técnico
Lic. Miguel Ángel Martínez Espinosa Subsecretario de Educación Media Superior. sep.
Lic. Ana María Aceves Estrada Directora General de Evaluación, dgep. sep.
Lic. Elena Verdugo Quiñones Coordinadora de Asesores. sems.
M. en C. Daffny Rosado Moreno Coordinador Sectorial de Desarrollo Académico. sems.
Ing. Roberto Peña Resendiz Director de Evaluación de Políticas y Sistemas Educativos. sep.
Ing. Carlos Goñi Carmona Director de Evaluación y Análisis del Proceso Educativo. sep.
Dr. Eugenio González Asesor externo de Ceneval. iea-ets.
Dr. José Luís Gaviria Asesor externo de sep. Universidad Complutense.
M. en A. Ed. Maricruz Moreno Zagal Directora General Académica. anuies.
Dra. Rosamaría Valle-Gómez Tagle Directora General de la dgee. unam.
82 Dra. Carmen Villatoro Alvaradejo Coordinadora del Bachillerato a Distancia. unam.
Dra. Teresa Bracho González Profesora investigadora. flacso.
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Dra. Lucía Monroy Cazorla Directora General Adjunta Técnica y de Investigación. Ceneval.
Comités Académicos para el Diseño
Habilidad Lectora
Habilidad Matemática
Habilidad Matemática
Habilidad Matemática
Asesores externos
84
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Comité Académico de elaboración de reactivos
Habilidad Lectora
86
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Comité Académico de elaboración de reactivos
Habilidad Matemática
Miguel Arcángel Núñez Torres Centro de Estudios Tecnológicos del Mar 16, La Paz, Baja California
Nelson Muriel Torrero Facultad de Ciencias, unam
Oscar Guadalupe Tovar Contreras Preparatoria 5, unam
Oscar Nelson López López Escuela Preparatoria Federal por Cooperación “Antonio Audirac”
Patricia Rangel Ontiveros conalep
Patricio Luna Ramales prefeco
Raymundo García Samudio cch Vallejo, unam
Rebeca Juárez Salomón fes Zaragoza, unam
Rita Ochoa Cruz Universidad Autónoma de Querétaro
Rocío Rodríguez Rodríguez Colegio de Montaignac
Rogelio Toledo Toledo Centro de Estudios de Bachillerato “Dr. Ignacio Chávez”
Roque Ruíz López cbtis 59
Comité Académico de elaboración de reactivos
Habilidad Matemática
89
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Comité Académico de validación de reactivos
Habilidad Lectora
90
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Comité Académico de validación de reactivos
Habilidad Matemática
La siguiente tabla técnica de la prueba enlace Media Superior Operativa 2008 se utilizó
para el establecimiento de los puntos de corte que sirvieron para la ubicación de los
sustentantes en los diferentes niveles de dominio en las primeras tres aplicaciones. Asimismo,
estos datos se utilizaron para los posteriores estudios de equiparación.
La tabla contiene los siguientes datos en el orden en que se presentaron los ítems a los 97
sustentantes:
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
101
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
102
Anexo IV
Marco Muestral
Levantamiento de datos de la prueba
Introducción
En marzo de 2009, se llevó a cabo la administración de la prueba enlace Media Superior 103
nivel medio superior (bachillerato). La prueba enlace ms consta de 140 reactivos: 50 para
medir la habilidad lectora y 90 para medir la habilidad matemática. A cada alumno evaluado
se le proporciona un reporte de resultados, en el cual se identifica su nivel de dominio para
cada una de las áreas evaluadas. La prueba se aplica de manera censal. Esta aplicación se lleva
a cabo en 6 sesiones, distribuidas en dos días (tres sesiones por día)
Con la finalidad de tener un control más estricto sobre la aplicación, se seleccionó una
muestra representativa a la que además de aplicarle la prueba enlace ms, también le fueron
suministradas, de forma matricial, tres pruebas: pretest, alfa y gama, además del cuestionario
de contexto.
Los reactivos de cada una de las pruebas (pretest, alfa y gama) se distribuyeron en 6
formas. En total se conformaron 18 formas; las cuales se aplicaron en un tercer día, esto es,
en dos días se aplicó la prueba enlace ms y en un tercer día se aplicaron las formas de las
tres pruebas adicionales, todo esto tomando en cuenta un contrabalanceo.
El presente documento tiene por objetivo describir la metodología utilizada para selec-
cionar los planteles o cct que conforman la muestra, además de describir como se calculan
los factores de expansión. Es importante mencionar que la selección de las escuelas que
conformaron la muestra se hace tomando como referencia las bases de datos enviadas por la
sems y la dgep. Una de ellas proporciona la información relacionada con entidad, datos de
ubicación del cct, modalidad del bachillerato, tipo de sostenimiento y la cantidad de alumnos
que presentan la prueba enlace; y otra los datos de nivel de urbanidad del cct
A continuación se hace una descripción general del marco muestral que se utilizó en
2008 y 2009. El documento del 2008 fue elaborado por expertos del inee y el del 2009 fue
realizado por Ceneval y avalado por el inee. El marco muestral de 2008 fue avalado en sesión
de Consejo Técnico. Para 2009 se utilizaron los mismos dominios de estudio pero se selec-
cionaron otras escuelas. Más adelante se describen las diferencias con el marco muestral de
2010 realizado por la empresa Investigaciones Sociales, Políticas y de Opinión Pública, S. A.
de C. V a petición de la sems.
Con los datos obtenidos de la aplicación de los distintos instrumentos a la muestra contro-
lada de estudiantes se pretende:
104 • • • obtener los valores psicométricos de los reactivos que se utilizarán para la calificación1
• • • equiparar la prueba enlace Media Superior año con año con la aplicación del Pretest
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
1
En la primera aplicación, los datos de la muestra se utilizaron además para determinar los puntos de corte.
Población Objetivo
La población objetivo son los alumnos que estén en el último año de bachillerato que se en-
cuentren en cualquiera de las siguientes modalidades educativas:
• • • Bachillerato General
• • • Bachillerato Técnico
• • • Bachillerato Tecnológico
Para efectos del proceso de muestreo, se define a la escuela como la unión de cct y
turno. Por ejemplo: si un cct cuenta con dos turnos, cada uno de los turnos se considera
como una escuela o unidad primaria de muestreo. Para el proceso de selección de escuelas no
se tomó en cuenta aquellas que tienen menos de 10 alumnos.
Estratos muestrales
105
No Identificado
No Identificado
No Identificado
No Identificado
Urbano
Urbano
Urbano
Urbano
Urbano
Urbano
Rural
Rural
Rural
Rural
Rural
Rural
Tipo de urbanidad
Entidad n n n n n n n n n n n n n n n n n
106
Al definir esta división de la población existen estratos que no contienen alumnos, los
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
cuales se eliminan.
(1)
En donde:
n0 = Número de alumnos necesarios para la estimación de un reactivo.
deff = Efecto de diseño.
TNR = Tasa de no respuesta de alumnos.
δ = Error de muestreo máximo admisible.
P = Proporción de la población.
z = Cuantil de distribución normal estándar que deja un área de a la derecha de él.
N = Tamaño de la población.
(2)
107
En donde:
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
En este diseño se considera que α =0.05, es decir z =1.96 lo cual fija el nivel de con-
fianza de los intervalos en 95%. C =18 cuadernillos, A =1 apariciones cada 18 cuadernillos y
como porcentaje de falta de respuesta de los alumnos se usa tnr =5% dada la existencia de
escuelas pequeñas. Se fijó el efecto de diseño debido al muestreo en deff =1.2 que es un valor
promedio que efectivamente ha aparecido en otras evaluaciones.
El estimador de P tiene su varianza máxima cuando P =0.5 por lo que se fija y se usa
como margen de seguridad para los otros valores estimados de P diferentes a 0.5. Se esta-
bleció como criterio general que en cada dominio de estudio las estimaciones resultantes
alrededor de las proporciones tuvieran un error de muestreo máximo de 5% correspondiente
a una confianza del 95%.
Distribución de la muestra
En todos los casos, los alumnos se agrupan en la muestra de manera proporcional a la cantidad
de alumnos en cada uno de los estratos. La distribución se describe con la siguiente relación:
(3)
En donde:
nh = Es el número de alumnos en muestra para el estrato muestral h
n = Es el número de alumnos en muestra.
Nh = Es el número de alumnos del último año de bachillerato en el estrato h.
N = Es el número de alumnos en la población.
Factores de expansión
(4)
Donde:
whij = Peso muestral del alumno j de la escuela i en el estrato h.
h = 1,…, H.
H = Cantidad de estratos en la población.
NhI = Cantidad de escuelas en la población del estrato h.
nhI = Cantidad de escuelas en muestra del estrato h.
i = 1,…, NhI.
Debido a las necesidades de la sems, el diseño muestral para la prueba 2010 fue realizado
por una institución especializada ajena al Ceneval. El esquema conserva variables como la
población objetivo, el esquema de selección y el cálculo de los factores de expansión utili-
zando las mismas herramientas estadísticas; sin embargo, hay algunas diferencias que vale la
pena mencionar:
• • • La propuesta del dominio de estudio a nivel Entidad (con niveles de desagregación
como el tipo de bachillerato, tipo de sostenimiento y nivel de urbanidad) fue rechazada 109
dad de características dentro de cada una de las entidades y la proporción que repre-
senta para el resto del país.
• • • Se agregan tres estratos: centros de trabajo con menos de ocho alumnos, centros de
Bachillerato en Arte y las instituciones que habían participado en años anteriores, pero
no habían confirmado su participación al momento de establecer el diseño muestral.
En la siguiente tabla se muestran las características generales de cada uno de los marcos
muestrales utilizados para llevar a cabo las aplicaciones controladas de enlace, Pretest y
Cuestionarios de Contexto.
Marco Escuelas
Niveles de desagregación Estratos Alumnos
Muestral seleccionadas
4
1. Nacional
2. Nacional por tipo de bachillerato,
nacional por tipo de sostenimiento
2008 y nacional por nivel de urbanidad 320 2003 301,483
3. Estatal
4. Estatal por tipo de bachillerato, estatal
por tipo de sostenimiento y estatal por
nivel de urbanidad
4
1. Nacional
2. Nacional por tipo de bachillerato,
nacional por tipo de sostenimiento
2009 y nacional por nivel de urbanidad 353 2184 220,233
3. Estatal
4. Estatal por tipo de bachillerato, estatal
por tipo de sostenimiento y estatal por
nivel de urbanidad
2
1. Nacional
2010 2. Nacional por tipo de bachillerato, 313 2072 283,245
nacional por tipo de sostenimiento
y nacional por nivel de urbanidad
110
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Anexo V
Establecimiento de los puntos de corte
y generación de algoritmo de calificación
niveles de dominio.
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
1
Para el análisis se consideraron a los sustentantes que contestaron el 85% o más de la prueba, por lo tanto el tamaño de la muestra
con que se trabajó es 98,849
La prueba enlace Media Superior fue construida para evaluar dos habilidades: Habi-
lidad Lectora y Habilidad Matemática, con 50 y 90 reactivos respectivamente, por lo tanto, el
dictamen de los sustentantes se realiza para cada una de las áreas que lo conforman.
Para llevar a cabo el proceso de calificación se realizó lo siguiente:
• • • Estimación de los parámetros del reactivo, dificultad, discriminación, azar y de la ha-
bilidad de los sustentantes con base en la Teoría de Respuesta al Ítem (tri), así como
el cálculo del porcentaje de respuestas correctas de los sustentantes y la correlación
punto biserial de los reactivos.
• • • El análisis de los reactivos se hizo con base en los datos de la muestra y se dejaron fuera
los reactivos que obtuvieron una correlación punto biserial negativa y los reactivos con
dificultad extrema. En la Tabla 1 se muestran los reactivos que se eliminaron por área.
Parámetros Estadísticos
Posición N_Resp TC TRI
Área Ítem N
en versión Corr %_RC CPBIS DISC DIF AZAR
Comprensión 57 10468 98849 37457 37.90 0.007 0.041 16.185 0.057
Lectora
30 10510 98849 30820 31.20 0.020 0.027 38.055 0.069
46 11273 98849 20268 20.50 -0.094 0.001 22.449 0.006
47 11081 98849 24712 25.00 0.047 2.180 3.160 0.243
Habilidad 48 11327 98849 27813 28.10 -0.059 0.001 15.876 0.006
Matemática
49 11325 98849 26155 26.50 0.025 0.081 22.685 0.146
112 68 11311 98849 30109 30.50 -0.045 0.008 126.644 0.048
86 10458 98849 34144 34.50 0.056 0.290 6.641 0.247
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
• • • Establecimiento de los puntos de corte para cada una de las áreas del examen. Para ello
se definieron conceptualmente los niveles de dominio en los cuales se ubicaría a cada
sustentante que presentó la prueba enlace Media Superior, (Insuficiente, Elemental,
Bueno y Excelente); después, se establecieron los puntos de corte para cada categoría
a partir del método Bookmark o del marcador.
En las Tablas 2 y 3 se muestran los rangos obtenidos por área en el 2008, que son los
mismos que se utilizaron en 2009 y 2010 para asegurar la comparabilidad de la prueba.
Como se puede observar los puntos de corte incluyen seis decimales esto permite que
todas las habilidades que resultan de la calificación con el programa bilog se ubiquen en
alguna de las categorías de manera más precisa.
La calificación censal la lleva a cabo la dgep, al igual que la ubicación de los sustentantes 113
115
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Informe de validación de puntos de corte en las pruebas
de Matemáticas y Comprensión Lectora de Enlace Media Superior
Introducción
En este informe se hace un estudio de validación empírica de los puntos de corte determinados
para las pruebas de ‘Español’ y ‘Matemáticas’ de tercero de Bachillerato del programa de
evaluación ‘Enlace Media Superior’.
Dado que la posición de los puntos de corte para los Niveles de Logro determina com-
pletamente el porcentaje de alumnos en cada uno de ellos, es muy importante asegurarse de
que la información que se proporciona refleja adecuadamente la realidad y no es un artefacto
del procedimiento de cálculo.
Los Niveles de Logro tienen necesariamente un componente intrínsecamente valorativo
y, de algún modo, subjetivo o arbitrario. Efectivamente, que el resultado obtenido por un
estudiante se considere insuficiente, elemental, bueno o excelente depende en gran parte de
las expectativas que tengamos. Por eso la determinación de los puntos de corte es un proceso
delicado y sujeto siempre a discusión. La mayor parte de los procedimientos consisten en
acuerdos entre expertos que deben justificar sus decisiones. Una vez justificadas esas decisiones
es posible hacer un juicio que se base en evidencia empírica acerca de la congruencia de las
decisiones adoptadas.
116 Supuestos
Para juzgar lo adecuado de los puntos de corte partimos del supuesto básico de que la prueba
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Procedimiento
El procedimiento empleado para esta valoración se basa en dos puntos de vista:
• • • por un lado nos fijamos en la relación entre las puntuaciones de la escala y la puntuación
verdadera;
• • • por otro lado nos fijamos en el error típico de estimación que se obtiene para cada
punto de la escala en función del valor que en el mismo toma la función de información.
Los puntos de corte son valores de la escala de habilidad cuyas propiedades derivan del
modelo tri bajo el que se ha construido. Dado que este tipo de escalas tienen un origen y
una unidad de medida arbitrarios es todavía más difícil juzgar lo adecuado de los puntos de
corte basándose en los valores de los mismos. Pero como ya hemos establecido entre los
supuestos que los ítems de la prueba reflejan adecuadamente los conocimientos o habilidades
que deben poseer los alumnos, podemos basarnos en la relación entre la escala de habilidades y
la puntuación verdadera para hacer algunos juicios.
En efecto, una propiedad del modelo tri es que para cada alumno la suma de sus pro-
babilidades de responder correctamente a cada uno de los reactivos es igual a la puntuación
verdadera, es decir, al número de respuestas correctas que obtendría ese alumno si el test le
midiese sin error. Si conociésemos la medida en el rasgo latente de θ1 entonces T1 es
117
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
La información que proporcionan todos los ítems del test es la suma de la de cada uno
de ellos.
118
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Ilustración 1. Relación entre la Habilidad Matemática y el número de respuestas
correctas en Matemáticas
80,00
60,00
Num_respuestas
40,00
20,00
,00
Habilidad
50,00
40,00
119
Num_respuestas
30,00
20,00
10,00
,00
120
Función de Información Función de Información
0
1
2
3
4
5
6
7
8
0
0.2
0.4
0.6
0.8
1
1.2
-3.200 -3.200
-3.079 -3.079
-2.958 -2.958
-2.836 -2.836
-2.715 -2.715
-2.594 -2.594
-2.473 -2.473
-2.362 -2.362
-2.230 -2.230
-2.109 -2.109
-1.988 -1.988
-1.867 -1.867
-1.746 -1.745
-1.624 -1.624
-1.503 -1.503
-1.382 -1.382
-1.261 -1.261
-1.140 -1.140
-1.018 -1.018
-0.897 -0.897
-0.776 -0.776
-0.655 -0.655
-0.534 -0.534
-0.412 -0.412
-0.291 -0.291
-0.170 -0.170
-0.049 -0.049
0.072 0.072
Habilidad
0.194 0.194
Habilidad
0.315 0.315
0.436 0.436
0.557 0.557
0.678 0.678
0.800 0.800
0.921 0.921
1.042 1.042
1.163 1.163
1.284 1.284
1.406 1.406
1.527 1.527
1.648 1.648
1.769 1.769
2.254 2.254
2.375 2.375
2.496 2.496
2.618 2.618
2.739 2.739
2.860 2.860
2.981 2.981
3.103 3.103
3.224 3.224
3.345 3.345
Función de Información Función de Información
0.6
1.4
0
1
0.2
0.4
0.8
1.2
0
5
10
15
20
25
-3.200 -3.200
-3.079 -3.079
-2.958 -2.958
-2.836 -2.836
-2.715 -2.715
-2.594 -2.594
-2.473 -2.473
-2.362 -2.362
-2.230 -2.230
-2.109 -2.109
-1.988 -1.988
-1.867 -1.867
-1.746 -1.746
-1.624 -1.624
-1.503 -1.503
-1.382 -1.382
-1.261 -1.261
-1.140 -1.140
-1.018 -1.018
-0.897 -0.897
-0.776 -0.776
-0.655 -0.655
-0.534 -0.534
-0.412 -0.412
-0.291 -0.291
-0.170 -0.170
-0.049 -0.049
0.072 0.072
Habilidad
0.194 0.194
Habilidad
0.315 0.315
0.436 0.436
0.557 0.557
0.678 0.678
0.800 0.800
0.921 0.921
1.042 1.042
1.163 1.163
1.284 1.284
1.527
1.648 1.648
1.769 1.769
1.890 1.890
2.012 2.012
2.133 2.133
2.254 2.254
2.375 2.375
2.496 2.496
2.618 2.618
2.739 2.789
2.860 2.860
2.981 2.981
3.103 3.103
3.224 3.224
3.345 3.345
En Lectura el número de reactivos es de 49, por lo que el 25% es 12,25. Otra vez, un
alumno que respondiese correctamente 12 reactivos está produciendo un resultado equi-
valente al que se obtendría si hubiese contestado todo el test al azar. El incremento en
respuestas correctas desde el punto de partida hasta el primer punto de corte es de 7, aproxi-
madamente. La diferencia entre el primer punto de corte y el segundo es también de 7, y del
segundo al tercero de 10,47.
Por lo anterior podemos decir que basándonos en la relación entre el rasgo latente y
la puntuación verdadera la distribución de los puntos de corte en las dos escalas parece muy
razonable.
La distancia de los puntos de corte entre sí, y del primer punto de corte con el punto
de partida puede juzgarse también basándonos en la función de información. En efecto, en
124 cada punto de la escala hay una relación entre la cantidad de información del test y el error
típico de estimación del parámetro en ese punto.
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
1,8
1,6
1,4
1,2
0,8
0,6
125
0,4
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
1,2
0
-3
-2.9
-2,7
-2,6
-2,4
-2,3
-2,1
,2
-1,6
-1,7
-1,5
-1,4
-1,2
-1,1
-0,9
-0,8
-0,6
-0,5
-0,3
-0,2
0,15
0
0,3
0,45
0,6
0,75
0,9
1,05
1,2
1,35
1,5
1,65
1,8
1,95
2,1
2,25
2,4
2,55
2,7
2,85
3
Ilustración 8. Densidad de probabilidad de la estimación alrededor de los puntos
de corte en Comprensión Lectora
1.2
0.8
0.6
0.4
0.2
0
-3
-2.9
-2,7
-2,6
-2,4
-2,3
-2,1
,2
-1,6
-1,7
-1,5
-1,4
-1,2
-1,1
-0,9
-0,8
-0,6
-0,5
-0,3
-0,2
0,15
0
0,3
0,45
0,6
0,75
0,9
1,05
1,2
1,35
1,65
1,5
1,8
1,95
2,1
2,25
2,4
2,55
2,7
2,85
3
Del mismo modo podemos juzgar la separación de los puntos de corte entre sí. Entre
dos niveles consecutivos hay siempre una gran superposición de áreas. Por ejemplo, dado el
primer punto de corte, en el caso extremadamente favorable de que el error de estimación
sea muy pequeño, la mitad del área de la distribución se encontrará sobre el nivel de logro
‘Elemental’. Y así con cada punto de corte. Por ello para juzgar lo separado de los puntos de
126 corte es más adecuado observar cuál es área de la distribución que está más allá del siguiente
punto, es decir, dos niveles de logro más allá.
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Comprensión Lectora
Probabilidad de que estando por debajo de Punto de partida sea Clasificado 0,0
como ‘Elemental’ 3884637
Probabilidad de que estando por debajo de primer Punto de Corte sea 0,0
clasificado como ‘Bueno’ 1759606
Probabilidad de que estando por debajo de segundo Punto de Corte sea 0,0
clasificado como ‘Bueno’ 0018519
Tabla 4. Probabilidades de ser clasificado dos niveles por debajo en Comprensión Lectora
Comprensión Lectora
Probabilidad de que estando en el primer Punto de Corte obtenga 0,0
una estimación inferior al Punto de Partida 0013097
Matemáticas 127
Probabilidad de que estando por debajo de Punto de partida sea Clasificado 0,0
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Probabilidad de que estando por debajo de primer Punto de Corte sea 0,0
Clasificado como ‘Bueno’ 0313079
Probabilidad de que estando por debajo de segundo Punto de Corte sea 0,0
Clasificado como ‘Bueno’ 0090651
Tabla 6. Probabilidades de ser clasificado dos niveles por debajo en Matemáticas
Matemáticas
Probabilidad de que estando en el primer Punto de Corte obtenga 9,68 1
una estimación inferior al Punto de Partida 475E-06
Probabilidad de que estando tercer Punto de Corte obtenga una estimación 0,0
inferior al segundo Punto de Corte 0100023
Conclusiones y recomendaciones
Analizados los puntos de corte determinados para las pruebas de Comprensión Lectora y
Matemáticas y sus respectivas distancias en términos de la puntuación verdadera corres-
pondiente y en términos de unidades de error típico de estimación, la separación entre ellos
parece adecuada según los criterios que se han manejado.
Si damos por supuesto que la prueba refleja adecuadamente el dominio de evaluación,
entonces podemos concluir que la posición de los puntos de corte es adecuada en las dos
pruebas analizadas.
Probablemente es la posición del primer punto de corte la que más puede preocupar,
ya que estamos indicando que los alumnos por debajo de ese punto tienen un nivel insufi-
ciente de conocimientos. Pues bien, los análisis que hemos realizado nos permiten afirmar
128 que si se mantiene el supuesto de que el contenido de las pruebas refleja adecuadamente el
dominio que evaluamos, el primer punto de corte no es en absoluto excesivamente alto.
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Las recomendaciones que haremos tienen que ver con la función de información.
En efecto, esta primera versión de las pruebas ha servido para determinar la escala y
los puntos de corte. Pero hemos podido observar que la mayor cantidad de información se
encuentra en la parte derecha de la distribución. Esto quiere decir que nuestras estimaciones
tienen mayor precisión para los sujetos de capacidad relativamente alta, es decir, los que se
encuentran en los niveles ‘Bueno’ y ‘Excelente’, pero menor en los otros dos. Sin embargo
en la población evaluada la mayor parte de los individuos se encuentra en los niveles ‘In-
suficiente’ y ‘Elemental’. Por eso en las evaluaciones subsiguientes, si se mantiene la distri-
bución de los reactivos como en la actual, será difícil captar adecuadamente los incrementos
que pudiesen producirse en los individuos de esos niveles. Por ese motivo se recomienda que,
manteniéndose los mismos niveles de corte para el futuro, se redistribuyan sin embargo las
dificultades de los reactivos, de modo que se incluyan más reactivos que midan adecuada-
mente en la parte inferior de la distribución para poder captar adecuadamente los cambios
que puedan darse.
129
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Anexo VII
Equiparación
La equiparación por población que se realiza para la prueba enlace Media Superior
tiene como objetivo igualar la escala de calificación de los sustentantes año con año
de modo que los resultados en cada aplicación sean comparables. 131
formación lineal a partir del modelo logístico de tres parámetros de tri. La importancia de
elegir este modelo logístico reside en el tipo de reactivos que utiliza la prueba (opción múl-
tiple, con una sólo respuesta correcta) y la intención de generar un dictamen de la habilidad
de los sustentantes. Esto último se relaciona con que, al ser un modelo de variables latentes,
se asume que la respuesta de un sustentante a un reactivo depende únicamente del grado en
que posee el atributo que se quiere medir (timss, 2003), en este caso su habilidad lectora o
matemática. A través del cálculo de la dificultad, la discriminación y la pseudo-adivinación
asociada a los ítems se puede describir la probabilidad de respuesta de los estudiantes y, por
tanto, estimar su habilidad.
Otra de las ventajas de realizar la equiparación partiendo de tri reside en el principio
de invarianza, el cual reitera que la habilidad de los sustentantes no depende de la muestra de
reactivos que les fueron presentados y, por su parte, los parámetros obtenidos de los reacti-
vos son independientes a la distribución de habilidad de los sustentantes. Como resultado,
la dificultad de las distintas versiones de la prueba puede variar moderadamente una de la
otra siempre y cuando se cumplan los siguientes requerimientos: a) todas las versiones deben
medir el mismo constructo y la confiabilidad de ambas debe ser similar; b) las puntuaciones
escala obtenidas deben ser independientes de la prueba de referencia; c) las puntuaciones de
ambos instrumentos pueden intercambiarse y d) la ecuación o tabla de equivalencia obtenida
debe ser independiente del grupo de sujetos utilizados para derivarla (Angoff, 1984).
En el caso de enlace Media Superior, todas las pruebas Operativas y el Pretest se con-
forman con reactivos que miden las mismas habilidades, cada uno de ellos tiene características
específicas que no dependen del grupo de reactivos con los que es aplicado, y siempre se man-
tiene el orden de presentación de los mismos para este factor no afecte el patrón de respuesta.
El Pretest se caracteriza por:
•• 1. conformarse por una serie de cuadernillos, que en su conjunto constituye la prueba
operativa del año siguiente,
•• 2. administrarse de manera matricial a una muestra controlada seleccionada bajo el método
de muestreo aleatorio estratificado unietápico (v. anexo V), y
•• 3. ser útil para equiparar las pruebas año con año, pues a través de la aplicación de este
instrumento se obtienen los datos psicométricos de los reactivos que se anclan.
132
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
2008 2009 2010
Para poder equiparar las puntuaciones entre las distintas versiones de la prueba, es necesario
ubicar los parámetros estimados en una escala común, a este procedimiento se le conoce
como escalamiento. El método de escalamiento utilizado en este caso es una transformación
lineal de los parámetros, es decir, teniendo como base los parámetros obtenidos de la primera
versión de la prueba, se ajustan las puntuaciones de las siguientes pruebas a la escala común
por medio de modelos lineales de aplicación sencilla y que no requieren transformaciones
complicadas.
Para lograr la transformación lineal, hay que transformar cada uno de los tres paráme-
tros en una escala común (Cook y Eignor, 1992):
Tomando como base el modelo de tres parámetros de la tri:
Dónde:
Pi (θ) = Probabilidad de un examinado con una habilidad (θ) en contestar correctamente el
reactivo i
bi = Dificultad del reactivo i
ai = Discriminación del reactivo i
ci = Pseudo-adivinación del reactivo i
e = Base de los logaritmos naturales (2,7183).
134 Transformamos los parámetros de habilidad de forma lineal a través del siguiente mo-
delo lineal simple:
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
Dónde:
θ a = a la habilidad del sustentante en escala
*
Dónde:
a i = a la discriminación en escala
*
Dónde:
b i = a la discriminación en escala
*
Una vez que los parámetros son puestos en una escala común, las habilidades calculadas de
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
los alumnos evaluados con ambas pruebas serán equivalentes, es decir si dos sustentantes
en distintas aplicaciones, mostraran habilidades que los ubicaran dentro del mismo nivel de
dominio (ver anexo VI), ambos poseen las habilidades equivalentes descritas en ese nivel.
Revisión de resultados
En primer lugar se realiza un análisis libre (sin estadísticos previos) de la prueba para obtener
los parámetros estadísticos de los reactivos. Con este análisis se calcula correlación bivariada
y se realizan gráficas de dispersión para los parámetros a, b y c. Asimismo se obtiene la habi-
lidad de los sustentantes y se grafican en un histograma.
En segundo lugar se hace un análisis fijando los parámetros y se calcula nuevamente
la correlación bivariada y se realizan gráficas de dispersión para los parámetros a, b y c y se
obtiene la habilidad de los sustentantes y se corrobora la distribución de las habilidades a
partir del ajuste de los parámetros equiparados.
Una vez que se ha equiparado la prueba de enlace Media Superior y se obtiene la
habilidad de los sujetos, se asigna el nivel de dominio de acuerdo con los Puntos de Corte
establecidos.
Referencias
• • • Brennan, R.J. (2006). Chained Linear Equating. casma Technical Note. Center for
Advanced Studies in Measurement and Assessment. Universidad de Iowa: IA. Dispo-
nible en http://www.education.uiowa.edu/casma/documents/clinearreport3.pdf
•• • Cook, L., & Eignor (1992). irt Equating Methods. items: The Instructional Topics
in Educational Measurement Series, module 10 (fall 1991). Disponible en http://www.
ncme.org/pubs/items/17.pdf
•• • Livingston, S. (2004). Equating Test Scores (Without irt). Educational Testing Service:
Princeton, NJ.
•• • Moulton, N. (2007) One Ruler, Many Tests: A Primer on Test Equating. eds Publica-
tions, disponible en http://www.eddata.com/resources/publications/
•• • timss (2003). Technical Manual. timms & pirls International Study Center, Lynch
136 School of Education: Boston, MA.
MANUAL TÉCNICO ENLACE MEDIA SUPERIOR
www.ceneval.edu.mx