Está en la página 1de 264

Programa Internacional de Evaluacin de Alumnos (PISA)

PISA 2003
Manual de anlisis de datos
Usuarios de SPSS

OCDE
ORGANIZACIN PARA LA COOPERACIN Y EL DESARROLLO ECONMICOS

ORGANIZACIN PARA LA COOPERACIN


Y EL DESARROLLO ECONMICOS
La OCDE es un foro singular donde los gobiernos de 30 democracias trabajan juntos para enfrentarse a
los retos econmicos, sociales y medioambientales de la globalizacin. La OCDE tambin se encuentra
en primera lnea de los esfuerzos para comprender y ayudar a los gobiernos en su respuesta a los nuevos
desarrollos y preocupaciones, tales como la direccin empresarial, la economa de la informacin y los
retos de una poblacin que envejece. La Organizacin proporciona un espacio en el que los gobiernos
pueden comparar sus experiencias polticas, buscar respuestas a los problemas comunes, identificar las
buenas prcticas y trabajar para coordinar las polticas internas e internacionales.
Los pases miembros de la OCDE son: Alemania, Australia, Austria, Blgica, Canad, Corea, Dinamarca,
Espaa, los Estados Unidos, Finlandia, Francia, Grecia, Hungra, Irlanda, Islandia, Italia, Japn, Luxemburgo, Mxico, Noruega, Nueva Zelanda, los Pases Bajos, Polonia, Portugal, el Reino Unido, la Repblica Checa, la Repblica Eslovaca, Suecia, Suiza y Turqua. La Comisin de las Comunidades Europeas
participa en los trabajos de la OCDE.
OECD Publishing difunde ampliamente los resultados de las recopilaciones estadsticas y de las investigaciones sobre temas econmicos, sociales y medioambientales de la Organizacin, as como las convenciones, directrices y estndares acordados por sus miembros.

Esta obra se publica bajo la responsabilidad del Secretario General de la OCDE. Las opiniones expresadas y
los razonamientos empleados no reflejan necesariamente las posiciones oficiales de la Organizacin o de los
gobiernos de los pases miembros.

Editado originalmente en ingls por la OCDE con el ttulo: PISA 2003 Data Analysys Manual: SPSS Users
OECD 2005. Reservados todos los derechos. La calidad de la traduccin al castellano y su coherencia con
el original es responsabilidad de INECSE - Instituto Nacional de Evaluacin y Calidad del Sistema Educativo. Ministerio de Educacin y Ciencia.
Traduccin y maquetacin de Mercedes Polledo Carreo
Revisin de Rosario Martnez Arias y Ramn Pajares Box
Madrid, 2006. Instituto Nacional de Evaluacin y Calidad del Sistema Educativo (INECSE)
Ministerio de Educacin y Ciencia
Calle San Fernando del Jarama, 14
28002 Madrid, Espaa
www.ince.mec.es

2 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Prefacio
Las encuestas del Programa Internacional de Evaluacin de Alumnos (PISA) de la OCDE, que
tienen lugar cada tres aos, se han diseado para recabar informacin acerca de los estudiantes
de 15 aos en los pases participantes. PISA examina hasta qu punto los estudiantes estn preparados para afrontar los retos del futuro, ms que su dominio de currculos determinados. Los
datos recogidos durante cada ciclo de PISA son una fuente de informacin valiossima para
investigadores, responsables polticos, educadores, padres y alumnos. Hoy en da se reconoce
que el futuro bienestar econmico y social de los pases se relaciona estrechamente con los conocimientos y destrezas de sus poblaciones. La informacin proporcionada por PISA permite a
los pases establecer comparaciones internacionales y evaluar cmo estn preparados para la
vida sus jvenes de quince aos en un contexto ms amplio, as como contrastar sus relativos
puntos fuertes y dbiles.
La base de datos de PISA 2003, en la que se centra este manual, contiene informacin acerca de
ms de un cuarto de milln de alumnos de 41 pases. No slo incluye informacin sobre su rendimiento en las cuatro reas principales de evaluacin (lectura, matemticas, ciencias y solucin
de problemas), sino tambin las respuestas al cuestionario del alumno, que forman parte de la
evaluacin. Tambin se incluyen datos de los directores de los centros.
El MANUAL DE ANLISIS DE DATOS DE PISA 2003 ha surgido a partir de los talleres analticos celebrados en Sydney, Viena, Pars y Bratislava, que permitieron a los participantes familiarizarse
con las distintas tcnicas necesarias para analizar correctamente las complejas bases de datos.
Permite a los analistas replicar con seguridad los procedimientos empleados para la produccin
de los informes iniciales de PISA 2003, Learning for Tomorrows World First Results from PISA
2003 (OCDE, 2004a) (existe traduccin espaola: Informe PISA 2003, Aprender para el Mundo de
Maana, Madrid, Santillana, 2005) y Problem Solving for Tomorrows World First Measures of
Cross-Curricular Competencies from PISA 2003 (OCDE, 2004b), as como emprender nuevos anlisis con precisin en reas de inters especial. Adems de incluir las tcnicas necesarias, el manual tambin incorpora una descripcin detallada de las variables construidas a partir de los
cuestionarios de los alumnos y de los centros. Esta informacin se public anteriormente en el
Manual for the PISA 2000 Database (OCDE, 2002a).
El MANUAL DE ANLISIS DE DATOS DE PISA 2003 consta de cuatro partes. Las dos primeras secciones aportan una base terica detallada e instrucciones para analizar los datos; la tercera seccin detalla los cdigos de programacin (sintaxis y macros) necesarios para llevar a cabo los
anlisis; la cuarta seccin [no incluida en esta traduccin] contiene una descripcin detallada de
la base de datos.
PISA supone un esfuerzo de colaboracin por parte de los pases participantes, guiado por sus
gobiernos sobre la base de intereses de poltica educativa compartidos. El Consejo de gobierno
de PISA est formado por representantes de todos los pases y decide sobre la evaluacin y la
presentacin de los resultados de PISA.
Existen dos versiones de este manual: una para usuarios de SPSS y otra para usuarios de SAS.
La OCDE reconoce la labor creativa de Christian Monseur en la preparacin del texto para am-

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

bas versiones del manual, en colaboracin con Sheila Krawchuk y Keith Rust, as como en la
preparacin del cdigo de programacin para la versin SAS del manual. El cdigo para la
versin SPSS del manual fue preparado por Wolfram Schulz y Eveline Gebhardt. El principal
trabajo de correccin fue llevado a cabo en la secretara de la OCDE por Miyako Ikeda, Sophie
Vayssettes, John Cresswell, Claire Shewbridge y Kate Lancaster. Las evaluaciones de PISA y los
datos sobre los que se basan los manuales fueron preparados por el Consorcio de PISA bajo la
direccin de Raymond Adams.

4 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

NDICE
Instrucciones.............................................................................................................................................. 8
CAPTULO 1
El Programa Internacional de Evaluacin de Alumnos de la OCDE ............................................ 11
Perspectiva general de PISA .................................................................................................................. 12
Por qu PISA es nico? ......................................................................................................................... 14
Cmo se realiza la evaluacin................................................................................................................ 16
Acerca de este manual ............................................................................................................................ 18
CAPTULO 2
Los pesos muestrales.............................................................................................................................. 21
Introduccin ............................................................................................................................................. 22
Pesos para muestras aleatorias simples................................................................................................ 23
Diseos de muestreo para encuestas educativas ................................................................................ 24
Por qu varan los pesos de PISA? ...................................................................................................... 31
Conclusiones ............................................................................................................................................ 35
CAPTULO 3
Los pesos replicados .............................................................................................................................. 37
Introduccin ............................................................................................................................................. 38
Varianza muestral para el muestreo aleatorio simple ........................................................................ 38
Varianza muestral para el muestreo en dos etapas ............................................................................ 45
Mtodos de replicacin para muestras aleatorias simples................................................................. 52
Mtodos de remuestreo para muestras en dos etapas........................................................................ 55
El mtodo jackknife para diseos muestrales en dos etapas sin estratificar ..................................... 56
El mtodo jackknife para diseos muestrales en dos etapas estratificados ...................................... 57
El mtodo BRR ......................................................................................................................................... 58
Otros procedimientos que tienen en cuenta el muestreo por conglomerados................................ 60
Conclusiones ............................................................................................................................................ 61
CAPTULO 4
El modelo de Rasch ................................................................................................................................ 63
Introduccin ............................................................................................................................................. 64
Cmo puede resumirse la informacin?............................................................................................. 64
El modelo de Rasch para los tems dicotmicos.................................................................................. 66
Otros modelos de la Teora de Respuesta al tem ............................................................................... 80
Conclusiones ............................................................................................................................................ 81
CAPTULO 5
Los valores plausibles............................................................................................................................ 83
Estimaciones individuales frente a estimaciones poblacionales ....................................................... 84
El significado de los valores plausibles ................................................................................................ 84
Comparacin de la eficacia de las Estimaciones de Mxima Verosimilitud de Warm, de las
Estimaciones Esperadas A posteriori y de los Valores Plausibles para la estimacin de algunos
estadsticos poblacionales ................................................................................................................. 88
Cmo llevar a cabo anlisis con valores plausibles ............................................................................ 91
Conclusiones ............................................................................................................................................ 92
CAPTULO 6
El clculo de errores tpicos .................................................................................................................. 95
Introduccin ............................................................................................................................................. 96
El error tpico de estadsticos univariantes para variables numricas ............................................. 96
La macro de SPSS para calcular el error tpico de una media ......................................................... 99
El error tpico de los porcentajes ......................................................................................................... 102

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

El error tpico de los coeficientes de regresin .................................................................................. 105


El error tpico de los coeficientes de correlacin ............................................................................... 108
Conclusiones .......................................................................................................................................... 109
CAPTULO 7
Los anlisis con valores plausibles ................................................................................................... 111
Introduccin ........................................................................................................................................... 112
Estadsticos univariantes a partir de valores plausibles .................................................................. 112
El error tpico de los porcentajes con valores plausibles.................................................................. 117
El error tpico de los coeficientes de regresin con valores plausibles........................................... 117
El error tpico de los coeficientes de correlacin con valores plausibles ....................................... 121
Correlacin entre dos conjuntos de valores plausibles .................................................................... 121
Un mtodo abreviado incorrecto......................................................................................................... 125
Un mtodo abreviado sin sesgo........................................................................................................... 126
Conclusiones .......................................................................................................................................... 127
CAPTULO 8
El uso de niveles de rendimiento ...................................................................................................... 129
Introduccin ........................................................................................................................................... 130
Generacin de los niveles de rendimiento ......................................................................................... 130
Otros anlisis con niveles de rendimiento ......................................................................................... 130
Conclusiones .......................................................................................................................................... 140
CAPTULO 9
Los anlisis con las variables del centro........................................................................................... 141
Introduccin ........................................................................................................................................... 142
Limitaciones de las muestras de centros en PISA ............................................................................. 143
Fusin de los archivos de datos de centros y de alumnos ............................................................... 144
Anlisis de las variables del centro ..................................................................................................... 145
Conclusiones .......................................................................................................................................... 147
CAPTULO 10
El error tpico de una diferencia ........................................................................................................ 149
Introduccin ........................................................................................................................................... 150
El error tpico de una diferencia sin valores plausibles.................................................................... 152
El error tpico de una diferencia con valores plausibles .................................................................. 158
Comparaciones mltiples..................................................................................................................... 161
Conclusiones .......................................................................................................................................... 162
CAPTULO 11
Media de la OCDE y total de la OCDE............................................................................................. 163
Introduccin ........................................................................................................................................... 164
Recodificacin de la base de datos para la estimacin del total de la OCDE y de la media de
la OCDE............................................................................................................................................. 165
Duplicacin de los datos para evitar tres ejecuciones del procedimiento ..................................... 167
Comparaciones entre las estimaciones de la media de la OCDE o el total de la OCDE y la
estimacin de un pas ...................................................................................................................... 167
Conclusiones .......................................................................................................................................... 170
CAPTULO 12
Las tendencias ....................................................................................................................................... 173
Introduccin ........................................................................................................................................... 174
Clculo del error tpico de los indicadores de tendencias en las variables que no son de
rendimiento ...................................................................................................................................... 175
Clculo del error tpico de los indicadores de tendencias en las variables de rendimiento ....... 179
Conclusiones .......................................................................................................................................... 185

6 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

CAPTULO 13
El anlisis multinivel ........................................................................................................................... 187
Introduccin ........................................................................................................................................... 188
La regresin lineal simple .................................................................................................................... 188
El anlisis de regresin lineal simple frente al de regresin multinivel ........................................ 193
El efecto fijo frente al efecto aleatorio ................................................................................................. 195
Algunos ejemplos con SPSS ............................................................................................................... 197
Limitaciones del modelo multinivel en el contexto de PISA........................................................... 217
Conclusiones .......................................................................................................................................... 219
CAPTULO 14
Otras cuestiones estadsticas .............................................................................................................. 221
Introduccin ........................................................................................................................................... 222
Los anlisis por cuartiles ...................................................................................................................... 222
Los conceptos de riesgo relativo y de riesgo atribuible ................................................................... 226
Inestabilidad del riesgo relativo y del riesgo atribuible................................................................... 228
Clculo del riesgo relativo y del riesgo atribuible ............................................................................ 229
Conclusiones .......................................................................................................................................... 230
CAPTULO 15
Las macros de SPSS ............................................................................................................................ 231
Introduccin ........................................................................................................................................... 232
Estructura de las macros....................................................................................................................... 232

[Nota: Los apndices que se relacionan a continuacin no se han includo en esta


traduccin del manual. Por favor, consltense en la versin original PISA 2003 Data
Analysis Manual disponible en www.pisa.oecd.org]
- Apndice 1: Base de datos internacional de PISA 2003
- Apndice 2: Cuestionario del alumno
- Apndice 3: Cuestionario sobre estudios futuros
- Apndice 4: Cuestionario sobre tecnologa de la informacin y de la comunicacin
- Apndice 5: Cuestionario del centro
- Apndice 6: Libro de cdigos del archivo de datos del cuestionario de alumnos
- Apndice 7: Libro de cdigos del archivo de datos del cuestionario de centros
- Apndice 8: Libro de cdigos del archivo de datos de las pruebas cognitivas de los
alumnos
- Apndice 9: ndices construidos sobre las respuestas de los cuestionarios de alumnos
y centros
- Apndice 10: Puntuaciones asignadas a los tems
Referencias bibliogrficas ......................................................................................................................... 263

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Instrucciones
Preparacin de los archivos de datos
Todos los archivos de datos (en formato de texto) y los archivos de sintaxis de SPSS estn disponibles en el sitio web de PISA (www.pisa.oecd.org).
Usuarios de SPSS
Los archivos de datos de alumnos y de centros de PISA 2003 deben estar depositados en la carpeta C:\PISA\Data2003 antes de ejecutar la sintaxis de los siguientes captulos.
Nombre del archivo de datos de alumnos: C:\PISA\Data2003\INT_stui_2003.sav
Nombre del archivo de datos de centros: C:\PISA\Data2003\INT_schi_2003.sav
Las macros de SPSS presentadas en el captulo 15 deben guardarse en C:\PISA\macros.
Sintaxis y macros de SPSS
Todas las sintaxis y macros que se emplean en este manual pueden copiarse del sitio web de
PISA (www.pisa.oecd.org). Cada captulo del manual contiene un conjunto completo de sintaxis,
que deben recorrerse consecutivamente para que todas se ejecuten con correccin dentro del
captulo.
Redondeo de cifras
En las tablas y frmulas, las cifras se han redondeado a un nmero conveniente de decimales,
aunque los clculos siempre se han realizado con el nmero total de decimales.
Abreviaciones de pases empleadas en este manual
AUS

Australia

FRA

Francia

KOR

Corea

PRT

Portugal

AUT

Austria

GBR

Reino Unido

LIE

Liechtenstein

RUS

Federacin de
Rusia

BEL

Blgica

GRC

Grecia

LUX

Luxemburgo

SVK

Eslovaquia

BRA

Brasil

HKG

Hong KongChina

LVA

Letonia

SWE

Suecia

CAN

Canad

HUN

Hungra

MAC

Macao-China

THA

Tailandia

CHE

Suiza

IDN

Indonesia

MEX

Mxico

TUN

Tnez

CZE

R. Checa

IRL

Irlanda

NLD

Pases Bajos

TUR

Turqua

DEU

Alemania

ISL

Islandia

NOR

Noruega

URY

Uruguay

DNK

Dinamarca

ITA

Italia

NZL

Nueva Zelanda

USA

Estados Unidos

ESP

Espaa

JPN

Japn

POL

Polonia

YUG

Serbia

FIN

Finlandia

8 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Estatus socioeconmico
A lo largo de todo este manual, el estatus profesional ms elevado de cualquiera de los padres
(HISEI) figurar como estatus socioeconmico del alumno. Debe advertirse que el estatus profesional es tan slo uno de los aspectos del estatus socioeconmico, que tambin puede incluir los
estudios y el patrimonio. La base de datos de PISA 2003 tambin incluye una medida socioeconmica ms amplia, llamada ndice de estatus econmico, social y cultural (ESCS), que procede del
estatus profesional ms elevado de los padres, el nivel de estudios ms elevado y una estimacin relacionada con los bienes del hogar.
Documentacin adicional
Para obtener ms informacin acerca de los resultados de PISA 2003, vanse los informes iniciales de PISA 2003: Learning for Tomorrows World First Results from PISA 2003 (OCDE, 2004a)
(existe una traduccin espaola: Informe PISA 2003 - Aprender para el Mundo de Maana, Madrid,
Santillana, 2005) y Problem Solving for Tomorrows World First Measures of Cross-Curricular Competencies from PISA 2003 (OCDE, 2004b). Para obtener ms informacin sobre los instrumentos
de evaluacin y los mtodos usados en PISA, vase PISA 2003 Technical Report (OCDE, 2005) y
el sitio web de PISA (www.pisa.oecd.org).

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Captulo 1

El Programa Internacional
de Evaluacin de Alumnos
de la OCDE
Perspectiva general de PISA .................................................................................................................. 12
Por qu PISA es nico? ......................................................................................................................... 14
Cmo se realiza la evaluacin................................................................................................................ 16
Acerca de este manual ............................................................................................................................ 18

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

11

Perspectiva general de PISA


El Programa Internacional de Evaluacin de Alumnos (PISA) de la OCDE es un esfuerzo realizado en colaboracin, que implica a todos los pases de la OCDE y a un nmero considerable de
pases asociados, para medir hasta qu punto los estudiantes de 15 aos estn preparados para
afrontar los desafos de las actuales sociedades del conocimiento. La evaluacin est orientada
al futuro: se centra en la capacidad de los jvenes de utilizar sus conocimientos y destrezas para
afrontar los retos de la vida real, ms que en el dominio de currculos educativos concretos. Esta
orientacin refleja un cambio en los objetivos de los mismos currculos, que cada vez ms se
ocupan de la aplicacin del conocimiento en lugar de limitarse a su adquisicin. Se escoge a
alumnos de 15 aos porque en la mayora de pases de la OCDE se trata de la edad en que aquellos se acercan al final de su escolarizacin obligatoria.
PISA es el esfuerzo internacional ms amplio y riguroso hasta la fecha para evaluar el rendimiento estudiantil y reunir datos acerca de los alumnos, as como acerca de los factores familiares e institucionales que pueden influir en el rendimiento. Las decisiones sobre el alcance y la
naturaleza de la evaluacin y la informacin de contexto que haba de recogerse fueron tomadas por destacados expertos de los pases participantes y dirigidas en conjunto por sus gobiernos sobre la base de intereses compartidos y dirigidos hacia la aplicacin poltica. Se dedicaron
notables esfuerzos y recursos a cubrir un amplio espacio cultural y lingstico en los materiales
de evaluacin. Se aplicaron mecanismos estrictos de control de calidad en la traduccin, el
muestreo y la recogida de datos. Como consecuencia, los resultados de PISA presentan gran
validez y fiabilidad; adems, pueden mejorar significativamente la comprensin de los resultados educativos en un gran nmero de pases del mundo.
PISA se basa en un modelo dinmico de formacin permanente en el que los nuevos conocimientos y destrezas necesarios para adaptarse a un mundo cambiante se adquieren de forma
continua a lo largo de la vida. PISA se centra en las destrezas que los quinceaeros necesitarn
en el futuro y pretende evaluar su capacidad de ponerlas en prctica. PISA s evala los conocimientos de los estudiantes, pero tambin su potencial para reflexionar acerca de sus conocimientos y experiencias y aplicar estos a situaciones del mundo real. Por ejemplo, si quisiera
entender y evaluar las indicaciones cientficas sobre seguridad de los alimentos, un adulto no
slo necesitara poseer algunas nociones bsicas sobre la composicin de las sustancias nutritivas, sino que debera ser capaz de aplicar esa informacin. El trmino literacy (competencia) se
utiliza para condensar este concepto ms amplio de conocimientos y destrezas.
PISA es un estudio continuo en el que se recogen datos cada tres aos. En la primera encuesta
de PISA, llevada a cabo en el 2000 en 32 pases, se utilizaron tareas escritas en los centros bajo
condiciones de examen que seguan normas aplicadas sistemticamente. Otros 11 pases participaron en la misma encuesta a finales del 2001 o a comienzos del 2002. La segunda encuesta se
realiz en el 2003 en 41 pases. La tabla 1.1 proporciona la lista de pases participantes en PISA
2000 y PISA 2003.

12 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Tabla 1.1. Pases participantes en PISA 2000 y PISA 2003


PISA 2000

PISA 2003

Pases de la OCDE

Alemania, Australia, Austria, Blgica, Canad, Corea, Dinamarca,


Espaa, Estados Unidos, Finlandia, Francia, Grecia, Holandaa,
Hungra, Irlanda, Islandia, Italia,
Japn, Luxemburgo, Mxico, Noruega, Nueva Zelanda, Polonia,
Portugal, Reino Unido, Repblica
Checa, Suecia, Suiza.

Alemania, Australia, Austria, Blgica, Canad, Corea, Dinamarca,


Espaa, Estados Unidos. Finlandia, Francia, Grecia, Holanda,
Hungra, Irlanda, Islandia, Italia,
Japn, Luxemburgo, Mxico, Noruega, Nueva Zelanda, Polonia,
Reino Unido,c Repblica Checa,
Repblica Eslovaca, Suecia, Suiza,
Turqua.

Pases asociados

Albania, Argentina, Brasil, Bulgaria, Chile, Hong Kong-China, Indonesia, Israel, Letonia, Liechtenstein, Macedonia, Per, Rumana,
Federacin Rusa, Tailandia.

Brasil, Hong Kong-China, Indonesia, Liechtenstein, Letonia, MacaoChina, Federacin Rusa, Tailandia,
Tnez, Uruguay, Serbia.d

PISA evala principalmente la competencia en lectura, matemticas y ciencias. Para cada recogida de datos, se escoge una de estas tres reas de evaluacin como la principal, mientras que
las otras se consideran reas menores. PISA 2000 hizo hincapi en la lectura, mientras que en
PISA 2003 el rea principal fue la competencia matemtica. Alrededor de un 70% del tiempo del
examen se dedica al rea principal y las otras reas se reparten el tiempo restante.
Tabla 1.2. reas de evaluacin cubiertas por cada recogida de datos

PISA 2000

rea de evaluacin principal

reas de evaluacin menores

Lectura

Matemticas
Ciencias

PISA 2003

Matemticas

Lectura
Ciencias
Solucin de problemas

PISA 2006

Ciencias

Matemticas
Lectura

La tasa de respuestas es demasiado baja para garantizar la comparabilidad. Vase el apndice 3 en Literacy Skills for the
World of Tomorrow Further Results From PISA 2000 (OCDE, 2003a).
a

La tasa de respuestas es demasiado baja para garantizar la comparabilidad. Vase el apndice 3 en Literacy Skills for the
World of Tomorrow Further Results From PISA 2000 (OCDE, 2003a).

La tasa de respuestas es demasiado baja para garantizar la comparabilidad. Vase el apndice 3 en Learning for Tomorrows World First Results from PISA 2003 (OCDE, 2004a).
c

Para el pas Serbia y Montenegro, en PISA 2003 no se encuentran disponibles los datos de Montenegro, que representa
el 7,9% de la poblacin nacional. Se usa el nombre Serbia como abreviacin de la parte serbia de Serbia y Montenegro.
d

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

13

En 2009, el rea de evaluacin principal volver a ser la lectura.


Por qu PISA es nico?
PISA no es el primer estudio internacional comparativo del rendimiento de los alumnos. A lo
largo de los ltimos cuarenta aos se han llevado a cabo otros estudios, desarrollados sobre
todo por la International Association for the Evaluation of Educational Achievement (IEA, Asociacin
Internacional para la Evaluacin del Rendimiento Educativo) y la Education Testing Services
International Assessment of Educational Progress (IAEP, Asociacin Internacional para la Evaluacin del Progreso Educativo del ETS, Servicio de Evaluacin Educativa).
Estas encuestas se han centrado en resultados directamente relacionados con las materias del
currculo escolar que son bsicamente comunes en los pases participantes. Los aspectos del
currculo particulares de un pas o de un pequeo nmero de pases no han sido normalmente
tenidas en cuenta en las evaluaciones, pese a la importancia que los pases implicados atribuyan
a esas partes del currculo.
Entre las caractersticas fundamentales de PISA se encuentran:

su orientacin hacia la poltica educativa, con mtodos de diseo e informes determinados


por la necesidad de los gobiernos de obtener lecciones para su aplicacin poltica;

su concepto innovador de la competencia, relacionado con la capacidad de los alumnos para


aplicar conocimientos y destrezas en materias clave y para analizar, razonar y comunicarse
con eficacia mientras plantean, resuelven e interpretan problemas en situaciones diversas;

su relevancia para la formacin a lo largo de la vida, ya que PISA no se limita a evaluar las
competencias curriculares y transcurriculares de los estudiantes, sino que tambin les pide
que aporten informacin sobre su propia motivacin para aprender, su concepto acerca de
s mismos y sus estrategias de aprendizaje;

su regularidad, que permitir a los pases controlar los progresos que realizan para cumplir
objetivos educativos clave;

su amplitud geogrfica y su condicin de proyecto en colaboracin; los 47 pases que han


participado en una evaluacin de PISA hasta el momento y los 13 pases adicionales que se
unirn a la evaluacin de PISA 2006 representan un tercio de la poblacin mundial y casi
nueve dcimas partes del producto interior bruto mundial1;

su seleccin, basada en la edad, de jvenes que se acercan al final de la escolarizacin obligatoria, lo que permitir a los pases evaluar el rendimiento de sus sistemas educativos. Si
bien la mayora de jvenes de los pases de la OCDE continan su educacin ms all de los
15 aos, esta edad suele estar cercana al final del perodo inicial de escolarizacin bsica en
el que todos los alumnos suelen seguir un currculo comn. Es til determinar, en esta etapa, hasta qu punto han adquirido conocimientos y destrezas que los ayuden en el futuro,
lo que incluye los derroteros particulares de la educacin posterior que quiz sigan.

Esta insistencia en plantear las pruebas en trminos de dominio y de amplios conceptos es espe-

14 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

cialmente significativa si se considera la preocupacin de las naciones por desarrollar capital


humano, que la OCDE define como los conocimientos, destrezas, competencias y otros atributos
que poseen los individuos y son relevantes para el bienestar personal, social y econmico.
Las estimaciones de capital humano han tendido, en el mejor de los casos, a obtenerse mediante
variables indirectas, como el nivel de estudios alcanzado. Cuando el inters en el capital humano se extiende para incluir atributos que permitan la completa participacin social y democrtica en la vida adulta y que preparen a las personas para formarse a lo largo de toda la vida, la
insuficiencia de estas variables sustitutivas se muestra con mayor claridad.
Al realizar pruebas directamente sobre conocimientos y destrezas cerca del final de la educacin
bsica, PISA examina el grado de preparacin de los jvenes para la vida adulta y, hasta cierto
punto, la eficacia de los sistemas educativos. El propsito de PISA es evaluar los logros en relacin con los objetivos subyacentes (como los define la sociedad) de los sistemas educativos, no
en relacin con la enseanza y el aprendizaje de un corpus de conocimientos. Esta visin de los
resultados educativos es necesaria si se pretende que los centros y sistemas educativos hagan
hincapi en los retos de hoy en da.
PISA define las reas evaluadas de este modo:

Competencia matemtica: capacidad de una persona para identificar y comprender el papel


que las matemticas desempean en el mundo, realizar razonamientos bien fundados y utilizar y relacionarse con las matemticas de formas que satisfagan las necesidades de esa
persona como ciudadano constructivo, comprometido y reflexivo.

Competencia lectora: capacidad de una persona para comprender y utilizar textos escritos y
reflexionar sobre ellos, con el propsito de alcanzar objetivos propios, desarrollar sus conocimientos y potencial y participar en la sociedad.

Competencia cientfica: capacidad de utilizar el conocimiento cientfico, identificar preguntas


y obtener conclusiones basadas en datos, con objeto de entender el mundo natural y los
cambios que ha sufrido debido a la actividad humana y contribuir a tomar decisiones acerca
de l.

Solucin de problemas: capacidad de una persona de usar procesos cognitivos para afrontar y
resolver situaciones reales e interdisciplinarias en las que la solucin no sea inmediatamente
obvia, y donde las reas de competencia o conocimiento que podran aplicarse no pertenecen a un mbito nico de matemticas, ciencia o lectura.

En las siguientes publicaciones de PISA puede encontrarse ms informacin sobre las reas de
evaluacin:

Measuring Student Knowledge and Skills A New Framework for Assessment (OCDE, 1999a);

Sample Tasks from the PISA 2000 Assessment Reading, Mathematical and Scientific Literacy
(OCDE, 2002b);

Literacy Skills for the World of Tomorrow Further Results from PISA 2000 (OCDE, 2003a);

The PISA 2003 Assessment Framework Mathematics, Reading, Science and Problem Solving
Knowledge and Skills (OCDE, 2003b) (existe traduccin espaola: Marcos tericos de PISA 2003:

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

15

Conocimientos y destrezas en Matemticas, Lectura, Ciencias y Solucin de problemas, Madrid:


Ministerio de Educacin y Ciencia, Instituto Nacional de Evaluacin y Calidad del Sistema
Educativo, 2004; ver www.ince.mec.es/pub);

Learning for Tomorrows World First Results from PISA 2003 (OCDE, 2004a) (existe
traduccin espaola: Informe PISA 2003, Aprender para el Mundo de Maana, Madrid, Santillana, 2005);

Problem Solving for Tomorrows World First Measures of Cross-Curricular Competencies


(OCDE, 2004b).

Cmo se realiza la evaluacin


La evaluacin del rendimiento acadmico
Las evaluaciones PISA 2000 y 2003 consistieron en pruebas realizadas con lpiz y papel. El formato de las preguntas de la evaluacin es variado. Algunas preguntas requieren que los alumnos seleccionen o propongan respuestas sencillas que pueden compararse directamente con una
respuesta correcta nica, como preguntas de eleccin mltiple o preguntas de respuesta construida cerrada. Otras piden ms elaboracin: los estudiantes tienen que desarrollar su propia
respuesta, diseada para medir conceptos ms generales que los recogidos en estudios ms
tradicionales; estas preguntas permiten aceptar una gama ms amplia de respuestas y un sistema de calificacin ms complejo que puede considerar respuestas parcialmente correctas.
En PISA, la competencia se evala a travs de unidades encabezadas por un estmulo (por
ejemplo, un texto, una tabla, un grfico, una ilustracin, etctera), seguido de ciertas tareas asociadas con l. Esta es una caracterstica importante: permite que las preguntas alcancen mayor
profundidad que si cada una de ellas introdujera un contexto totalmente nuevo. As se da tiempo al estudiante para asimilar material que puede utilizarse a continuacin para evaluar diversos aspectos del rendimiento.
Se encuentran ejemplos de tems de la evaluacin PISA 2000 en Sample Tasks from the PISA 2000
Assessment Reading, Mathematical and Scientific Literacy (OCDE, 2002b).
Se encuentran ejemplos de tems de la evaluacin PISA 2003 en The PISA 2003 Assessment Framework Mathematics, Reading, Science and Problem Solving Knowledge and Skills (OCDE, 2003b)
(existe traduccin espaola: Marcos tericos de PISA 2003: Conocimientos y destrezas en Matemticas, Lectura, Ciencias y Solucin de problemas, Madrid: Ministerio de Educacin y Ciencia, Instituto
Nacional de Evaluacin y Calidad del Sistema Educativo, 2004; ver www.ince.mec.es/pub);

Los cuestionarios de contexto y su uso


Para obtener informacin contextual, PISA pide a los alumnos y a los directores de los centros
participantes que respondan a unos cuestionarios acerca de su entorno que duran entre veinte y
treinta minutos. Estos cuestionarios son decisivos para el anlisis de los resultados, ya que proporcionan informacin sobre un abanico de caractersticas de los alumnos y centros.
Los cuestionarios buscan informacin sobre:

16 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

los alumnos y su contexto familiar, incluido el capital econmico, social y cultural de los
alumnos y sus familias;

aspectos de la vida de los alumnos, como su actitud ante el aprendizaje, sus hbitos y su
vida en el centro y en el ambiente familiar;

aspectos de los centros, como la calidad de los recursos humanos y materiales, la financiacin pblica y privada, los procesos de toma de decisiones y las prcticas de contratacin de
personal;

el contexto de la enseanza, como los tipos y estructuras de la enseanza, el tamao de las


clases y el grado de implicacin de los padres;

estrategias de aprendizaje autorregulado, preferencias de motivacin y orientaciones sobre


objetivos, mecanismos cognitivos, estrategias de control de actividad, preferencias por distintos tipos de situaciones educativas, estilos de aprendizaje y destrezas sociales (estos aspectos formaban parte de una opcin internacional en la evaluacin PISA 2000, pero se incluyeron en el cuestionario obligatorio de los alumnos en PISA 2003);

aspectos del aprendizaje y la enseanza, incluidos la motivacin de los estudiantes, su


compromiso y su grado de confianza en relacin con el rea de evaluacin principal evaluada, as como la influencia de las estrategias de aprendizaje sobre el rendimiento en esta
rea.

Tanto en PISA 2003 como en PISA 2000, se ofreci como opcin internacional un cuestionario
sobre tecnologa de la informacin y la comunicacin. Dicho cuestionario se centraba en: 1) la
disponibilidad y el uso de tecnologa de la informacin (TI), as como el lugar donde se utiliza
ms la TI y el tipo de uso que se hace de ella; 2) el grado de confianza con la TI y la actitud hacia
ella, incluida la autoeficacia y la actitud frente a los ordenadores; y 3) el aprendizaje previo de
TI, haciendo hincapi en dnde haban aprendido los alumnos a usar los ordenadores y la
Internet.
En PISA 2003, tambin se ofreci como opcin internacional un cuestionario de estudios futuros, que recogi datos sobre la formacin educativa de los alumnos en tres reas: 1) la formacin
que haban recibido en el pasado, lo que inclua la repeticin de curso, las interrupciones de la
escolarizacin, los cambios de colegio y los cambios de programas educativos; 2) la formacin
actual de los alumnos en aspectos relacionados con las matemticas, centrndose en el tipo de
clases de matemticas y su actual grado de rendimiento; y 3) el futuro de los estudiantes y su
profesin, incidiendo en las expectativas de nivel de formacin y la profesin esperada a los 30
aos de edad.
Los cuestionarios de PISA 2003 estn disponibles en los apndices 2 a 5 de este volumen [no
incluidos en esta traduccin], as como en el sitio web de PISA (www.pisa.oecd.org).
Varios ndices relativos a los alumnos y a los centros fueron elaborados a partir de los datos de
los cuestionarios. Estos ndices combinan varias respuestas aportadas por los alumnos o directores para establecer un concepto ms amplio que no puede observarse directamente. Por ejemplo, no se puede comprobar directamente el compromiso del estudiante con la lectura, pero s es

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

17

posible hacer varias preguntas como me gusta hablar de libros con otras personas que reflejen
el grado de compromiso con la lectura.
Puede encontrarse ms informacin sobre la elaboracin de estos ndices y sus propiedades
psicomtricas en el apndice 9, as como en PISA 2003 Technical Report (OCDE 2005).
Acerca de este manual
PISA puso en marcha complejos procedimientos metodolgicos para garantizar la fiabilidad de
las estimaciones poblacionales y sus correspondientes errores tpicos. Ms exactamente, PISA
2000 y PISA 2003 utilizaron valores plausibles para obtener las estimaciones poblacionales del
rendimiento de la poblacin y pesos replicados para el clculo de los errores tpicos respectivos.
Adems de estas dos complejidades metodolgicas, PISA recopila datos con regularidad, en un
entorno definido y con procedimientos normalizados.
Este manual est diseado para explicar estas metodologas complejas mediante ejemplos que
utilizan los datos de PISA. El manual no detalla todos los aspectos de las metodologas; sin embargo, se describen para garantizar que los posibles usuarios de la base de datos de PISA puedan comprenderlas y utilizar los datos de modo apropiado.
El anlisis de datos de PISA es un proceso que se ha simplificado al utilizar procedimientos de
programacin dentro de paquetes de software de estadstica, como SAS y SPSS. Como consecuencia, este manual tambin contiene ejemplos de estos procedimientos. Es ms, existen dos
versiones del manual: una para usuarios de SAS y otra para usuarios de SPSS. Cada versin
del manual consta de cuatro partes.
La primera parte, que abarca desde el captulo 1 hasta el captulo 5, es idntica en ambas versiones del manual. Presenta conceptos y teoras utilizados en PISA. Estos captulos son:
1. El Programa Internacional de Evaluacin de Alumnos de la OCDE
2. Pesos de las muestras
3. Pesos replicados
4. El modelo de Rasch
5. Valores plausibles
La segunda parte, que comprende los captulos 6 al 14, es distinta para los dos manuales. En
cada una, se describe cmo analizar correctamente los datos de PISA y contienen la sintaxis
necesaria: o SAS o SPSS. Estos captulos son:
6. Clculo de errores tpicos
7. Anlisis con valores plausibles
8. Uso de niveles de rendimento
9. Anlisis con variables a nivel de centro
10. Error tpico de una diferencia
11. Media de la OCDE y total de la OCDE
12. Tendencias
13. Anlisis multinivel
14. Otras cuestiones estadsticas
La tercera parte tambin es diferente en cada manual: consta del captulo 15, que presenta las
macros, o bien de SAS o bien de SPSS, que facilitan el clculo de las estimaciones y los errores
tpicos.

18 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

La cuarta parte es idntica en ambas versiones del manual. Consiste en apndices que describen
los detalles de los archivos de datos de PISA 20032. [Esta parte no se incluye en la presente traduccin].
Mientras que los captulos se organizan segn el tipo de anlisis, el manual avanza progresivamente sobre la base del conocimiento estadstico y de la sintaxis de SAS o SPSS ya presentada.
Por tanto, se recomienda leer los captulos en orden, comenzando por el captulo 1.
Tambin existen paquetes especializados de software que estn configurados para tratar con
muestras complejas y valores plausibles. Entre ellos, se encuentran WesVar, de Westat Inc.
(www.westat.com/wesvar), AM, de American Institutes for Research (www.am.air.org), y SUDAAN, del Research Triangle Institute (www.rti.org/sudaan).
Adems, la OCDE ha desarrollado un sitio web interactivo que realiza automticamente anlisis
estadsticos sencillos (sobre todo, clculo de medias y porcentajes), haciendo uso de las metodologas de valores plausibles y de pesos replicados:
http://PISAweb.acer.edu.au/oecd_2003/oecd_PISA_data.html
Este sitio tambin contiene las bases de datos completas de PISA 2003 en formato ASCII.

La poblacin combinada de todos los pases (excluido Taiwn) que han participado o participarn en las evaluaciones

de PISA 2000, 2003 y 2006 equivale a un 32% de la poblacin mundial en el 2002. El PIB de estos pases equivale a un
87% del PIB mundial. Los datos sobre PIB y tamaos de poblacin proceden de la base de datos Indicadores de Desarrollo Mundial, de las Naciones Unidas.
2

La descripcin de los archivos de datos de PISA 2000 se recoge en Manual for the PISA 2000 Database (OCDE, 2002a).

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

19

Captulo 2

Los pesos muestrales


Introduccin ............................................................................................................................................. 22
Pesos para muestras aleatorias simples................................................................................................ 23
Diseos de muestreo para encuestas educativas ................................................................................ 24
Por qu varan los pesos de PISA? ...................................................................................................... 31
Conclusiones ............................................................................................................................................ 35

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

21

Introduccin
Las encuestas nacionales o internacionales suelen recopilar datos a partir de una muestra. Es
preferible trabajar con una muestra en vez de con la poblacin entera, por varias razones.
En primer lugar, para un estudios censal, es necesario identificar a todos los miembros de la
poblacin. El proceso de identificacin no presenta grandes dificultades para las poblaciones
humanas en algunos pases, donde pueden estar disponibles bases de datos nacionales con los
nombres y direcciones de todos o casi todos los ciudadanos. Sin embargo, en otros pases no es
posible que el investigador pueda identificar a todos los miembros o unidades muestrales de la
poblacin objetivo, principalmente porque llevara demasiado tiempo o tambin debido a la
naturaleza de esa poblacin objetivo.
En segundo lugar, incluso si todos los miembros de una poblacin son fciles de identificar, los
investigadores tambin pueden seleccionar una muestra, ya que trabajar con la poblacin total:

podra exigir presupuestos muy elevados;

llevara mucho tiempo y no se cumpliran, por tanto, los plazos de publicacin;

no necesariamente ayuda a obtener informacin adicional o necesaria.

Una muestra puede seleccionarse de distintas formas, segn las caractersticas de la poblacin y
las preguntas de la encuesta. Todos los diseos muestrales procuran evitar el sesgo en el procedimiento de seleccin y alcanzar la mxima precisin a la vista de los recursos disponibles. Sin
embargo, pueden surgir sesgos en la seleccin:

si el muestreo se realiza mediante un mtodo no aleatorio, lo que en general significa


que la seleccin se ve influida consciente o inconscientemente por preferencias humanas. No debera subestimarse la importancia de la aleatoriedad en el procedimiento de
seleccin;

si el marco de muestreo (lista, ndice u otro registro de poblacin) que sirve como base
de la seleccin no cubre la poblacin adecuadamente, por completo o con exactitud.

Los sesgos tambin pueden surgir si algunas partes de la poblacin son imposibles de localizar
o rehsan cooperar. En las encuestas educativas, los centros quiz rechacen participar y, dentro
de los centros participantes, algunos alumnos podran negarse a ello o sencillamente estar ausentes el da de la evaluacin. El tamao del sesgo introducido por la falta de respuesta de centros o alumnos es proporcional a la correlacin entre la disposicin del centro o del estudiante a
participar y las medidas de la encuesta. Por ejemplo, quiz sea ms probable que los alumnos
con bajo rendimiento estn ausentes el da de la evaluacin que aquellos cuyo rendimiento es
alto. Por esta razn, las encuestas internacionales sobre educacin exigen un ndice mnimo de
participacin de alumnos. Para PISA, este mnimo es el 80%.
Por ltimo, si las unidades muestrales no tienen las mismas oportunidades de ser seleccionadas
y si los parmetros poblacionales se calculan sin tener en cuenta estas probabilidades diferenciales, quiz los resultados tambin queden sesgados. Para compensar estas distintas posibilidades, es necesario ponderar o asignar pesos a los datos. La ponderacin consiste en reconocer
que algunas unidades de la muestra son ms importantes que otras y deben contribuir ms que
las restantes al clculo de cualquier estimacin poblacional. Una unidad de muestra con proba-

22 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

bilidad de seleccin muy pequea se considerar ms importante que una unidad con gran
probabilidad de seleccin. Por tanto, los pesos son inversamente proporcionales a la probabilidad de seleccin.
De todas formas, una muestra slo es til en la medida en que permite la estimacin de algunas
caractersticas de la poblacin completa. Esto significa que los ndices estadsticos calculados
sobre la muestra como una media, una desviacin tpica, una correlacin, un coeficiente de
regresin, etctera pueden generalizarse a la poblacin. Esta generalizacin es ms fiable si se
han cumplido los requisitos del muestreo.
Segn el diseo muestral, las probabilidades de seleccin y los procedimientos para calcular las
ponderaciones sern diferentes. Estas diferencias se discuten en las prximas secciones.
Pesos para muestras aleatorias simples
Seleccionar miembros de una poblacin mediante muestreo aleatorio simple es el procedimiento ms directo. Existen diversos mtodos de obtener una muestra as; por ejemplo:

se numera a los N miembros de una poblacin1 y se seleccionan n de ellos mediante nmeros aleatorios sin reemplazamiento;

en un recipiente se meten N fichas numeradas, se mezclan bien y se seleccionan n de ellas al


azar;

los N miembros de la poblacin se disponen en orden aleatorio y despus se selecciona por


saltos sistemticos a cada miembro que se encuentra en una posicin mltiplo de N/n;

a cada miembro de la poblacin N se le asigna un nmero aleatorio. Los nmeros aleatorios


se ordenan de menor a mayor o mayor a menor. Los primeros n nmeros forman una
muestra aleatoria.

La muestra aleatoria simple proporciona una probabilidad igual de seleccin a cada miembro
de la poblacin. Si se seleccionan n miembros a partir de una poblacin de N miembros segn
un procedimiento aleatorio simple, la probabilidad de cada miembro i de formar parte de la
muestra es igual a:

pi =

n
.
N

Por ejemplo, si 40 alumnos se seleccionan al azar a partir de una poblacin de 400 estudiantes,
la probabilidad de cada alumno i de formar parte de la muestra es igual a:

pi =

n
40
=
= 0,1 .
N 400

Dicho de otro modo, cada estudiante tiene una probabilidad entre diez de ser seleccionado.
Como ya se ha dicho, los pesos suelen definirse como la inversa de la probabilidad de seleccin.
En el caso de una muestra aleatoria simple, el peso ser igual a:

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

23

1 N
= .
p1 n

wi =

El peso de cada uno de los 40 estudiantes seleccionados a partir de una poblacin de 400 estudiantes ser, por tanto, igual a:

1 N 400
= =
= 10 .
pi n
40

wi =

Esto significa que cada alumno de la muestra se representa a s mismo y adems a otros nueve
alumnos. Puesto que cada unidad tiene la misma probabilidad de seleccin en una muestra
aleatoria simple, el peso asociado a cada unidad seleccionada tambin ser idntico. Por tanto,
la suma de los pesos de las unidades seleccionadas ser igual al tamao de la poblacin, es decir, N:
n

w = n
i =1

=N.

i =1

En el ejemplo,
40

10 = 400 .
i =1

Adems, puesto que todas las unidades seleccionadas para la muestra tienen el mismo peso, la
estimacin de cualquier parmetro poblacional no se ver afectada por los pesos. Por ejemplo,
consideremos la media de alguna caracterstica X. La media ponderada es equivalente a la suma
del producto del peso por X dividido por la suma de los pesos.
n

( X ) =

w x
i =1
n

i i

i =1

Puesto que wi es una constante, la media ponderada y la media no ponderada sern iguales.
n

( X ) =

wi xi
i =1
n

w
i =1

w1 xi
i =1
n

w1 1

x
i =1

i =1

Diseos de muestreo para encuestas educativas


El muestreo aleatorio simple se usa muy raras veces en encuestas educativas , porque:

Es demasiado caro. Es ms, segn el tamao de la poblacin de los centros, es muy posible
que los alumnos seleccionados estn escolarizados en muchos centros distintos. Esto exigira la formacin de un gran nmero de administradores de pruebas, el pago de gran cantidad de gastos de viaje, etctera.

24 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

No es prctico: habra que entrar en contacto con demasiados centros.

Sera imposible relacionar, desde un punto de vista estadstico, las variables de los alumnos
y las variables de centros, clases o profesores. Las encuestas de educacin, por lo general,
intentan comprender la variabilidad estadstica de la medida de los resultados escolares segn variables del centro o del aula. Con slo uno o unos pocos alumnos por centro, esta relacin estadstica no tendra estabilidad.

Por tanto, las encuestas de educacin suelen seleccionar una muestra de alumnos en dos etapas.
En primer lugar, se selecciona una muestra de centros a partir de la lista completa de los centros
que contengan la poblacin estudiantil de inters. Luego se toma una muestra aleatoria simple
de alumnos o de aulas dentro de los centros seleccionados. En PISA, normalmente se escogen al
azar 35 alumnos de la poblacin de alumnos de 15 aos escolarizados en los centros seleccionados. Si en algn centro seleccionado se escolariza a menos de 35, se invita a participar a todos
los alumnos de 15 aos del centro.
Este procedimiento de muestreo en dos etapas influir sobre el clculo de los pesos y, de modo
parecido, el procedimiento de seleccin de los centros afectar a las caractersticas y propiedades de la muestra de alumnos.
Supongamos que la poblacin de 400 alumnos se distribuye entre diez centros, cada uno de
ellos con 40 alumnos. Se seleccionan cuatro centros al azar y, dentro de cada centro, se seleccionan diez alumnos segn un procedimiento similar. Cada centro i tiene una probabilidad de
seleccin igual a:

p1 _ i =

nc
4
=
= 0,4 .
N c 10

Dentro de los cuatro centros seleccionados, cada alumno j tiene una probabilidad de seleccin
igual a:

p2 _ ij =

ni 10
=
= 0,25 .
N i 40

donde Ni es el nmero de alumnos en el centro i y ni, el nmero de alumnos pertenecientes a la


muestra del centro i. Significa que, dentro de cada centro seleccionado, la probabilidad de que
un alumno sea seleccionado es de uno entre cuatro.
La probabilidad final de seleccin para el alumno j que asiste al centro i es igual al producto de
la probabilidad de seleccin del centro por la probabilidad de seleccin del alumno dentro del
centro, esto es:

pij = p1 _ i p2 _ ij =

nc ni
.
Nc Ni

En el ejemplo, la probabilidad final del alumno es igual a:

pij = p1 _ i p2 _ ij =

4 10
nc ni
=
= 0,4 0,25 = 0,10 .
N c N i 10 40

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

25

El peso del centro w1_i, el peso dentro del centro w2_ij y el peso final del alumno wij son, respectivamente, iguales a:

w1_ i =

1
1
=
= 2,5 ;
p1_ i 0,4

w2 _ ij =
wij =

1
p2 _ ij

1
=4;
0,25

1
1
=
= 10 .
pij 0,1

La tabla 2.1 presenta la probabilidad de seleccin entre centros, dentro del centro y la probabilidad final de seleccin para los alumnos escogidos, as como la ponderacin para estos distintos
niveles. Se han seleccionado los centros 2, 5, 7 y 10.
Tabla 2.1. Probabilidad de seleccin entre centros, dentro del centro y final y pesos correspondientes para una muestra aleatoria simple en dos etapas, cuyas unidades de la primera
etapa son centros con el mismo tamao
Nmero
Tamao
del centro del centro
Ni
1

40

40

40

40

40

40

40

40

40

10

40

Total

Prob. del
centro

Peso del
centro

p1_i

w1_i

Prob.
Peso
Prob. final Peso final
dentro del dentro del
del
del
centro
centro
alumno
alumno

Suma de
pesos
finales

p2_ij

w2_ij

pij

wij

niwij

0,4

2,5

0,25

0,1

10

100

0,4

2,5

0,25

0,1

10

100

0,4

2,5

0,25

0,1

10

100

0,4

2,5

0,25

0,1

10

100

10

400

Como se muestra en la tabla 2.1, la suma de los pesos de centros se corresponde con el nmero
de centros de la poblacin, es decir, 10, y la suma de las ponderaciones finales se corresponde
con el nmero de alumnos de la poblacin, es decir, 400.
Por supuesto, en la prctica los centros tienen un tamao diferente. Los centros suelen escolarizar a ms alumnos en las reas urbanas y menos en las rurales. Si se selecciona a los centros por
medio de un muestreo aleatorio simple, la probabilidad del centro no cambia pero dentro de los

26 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

centros la probabilidad de seleccin del alumno variar de acuerdo con el tamao del centro. En
un centro pequeo esta probabilidad ser grande mientras que en un centro grande la probabilidad ser pequea. La tabla 2.2 muestra un ejemplo de los resultados que se obtienen cuando
los centros no tienen el mismo tamao.
Tabla 2.2. Probabilidad de seleccin entre centros, dentro del centro y final y pesos correspondientes para una muestra aleatoria simple en dos etapas, cuyas unidades de la primera
etapa son centros de tamaos desiguales
Nmero
Tamao
del centro del centro
1

10

15

20

25

30

35

40

45

80

10

100

Total

Prob. del
centro

Peso del
centro

0,4

2,5

0,66

1,5

0,27

3,75

0,4

2,5

0,33

0,13

7,5

0,4

2,5

0,25

0,1

10

100

0,4

2,5

0,1

10

0,04

25

250

10

Prob.
Peso
Prob. final Peso final
dentro del dentro del
del
del
centro
centro
alumno
alumno

Suma de
pesos
finales

37,5

75

462,5

Con una muestra aleatoria simple de centros de distinto tamao, todos los centros tendrn la
misma probabilidad de seleccin y, como antes, la suma de los pesos del centro ser igual al
nmero de centros de la poblacin. Por desgracia, la suma de pesos finales de alumno no ser
forzosamente igual al nmero de alumnos de la poblacin. Adems, el peso final del alumno
ser diferente de un centro a otro, segn el tamao de cada centro. Esta variabilidad reducir la
fiabilidad de todas las estimaciones de parmetros de la poblacin.
Las tablas 2.3 y 2.4 presentan las distintas probabilidades y pesos si se seleccionan los cuatro
centros ms pequeos o los cuatro ms grandes. Como se muestra en estas dos tablas, las sumas
de los pesos finales del alumno difieren sustancialmente del valor esperado de 400. La suma de
pesos del centro, en cambio, ser siempre igual al nmero de centros de la poblacin.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

27

Tabla 2.3. Probabilidad de seleccin entre centros, dentro del centro y final y pesos correspondientes para una muestra aleatoria simple de centros de tamaos desiguales (centros ms
pequeos)
Nmero
Tamao
del centro del centro

Prob. del
centro

Peso del
centro

Prob.
Peso
Prob. final Peso final
dentro del dentro del
del
del
centro
centro
alumno
alumno

Suma de
pesos
finales

10

0,4

2,5

0,4

40

15

0,4

2,5

0,66

1,5

0,27

3,75

37,5

20

0,4

2,5

0,5

0,2

50

25

0,4

2,5

0,4

2,5

0,16

6,25

62,5

Total

10

190

Tabla 2.4. Probabilidad de seleccin entre centros, dentro del centro y final y pesos correspondientes para una muestra aleatoria simple de centros de tamaos desiguales (centros ms
grandes)
Nmero
Tamao
del centro del centro

Prob. del
centro

Peso del
centro

Prob.
Peso
Prob. final Peso final
dentro del dentro del
del
del
centro
centro
alumno
alumno

Suma de
pesos
finales

40

0,4

2,5

0,250

0,10

10,00

100,0

45

0,4

2,5

0,222

4,5

0,08

11,25

112,5

80

0,4

2,5

0,125

0,05

20,00

200,0

10

100

0,4

2,5

0,100

10

0,04

25,00

250,0

Total

10

662,5

Las encuestas internacionales de educacin, como PISA, se centran mucho ms en la muestra de


alumnos que en la muestra de centros. Muchos autores consideran incluso que tales estudios no
obtienen una muestra de centros en s. Se limitan a considerar la muestra de centros como un
estadio operativo para obtener la muestra de alumnos. Por tanto, un diseo de muestreo que
consista en una muestra aleatoria simple de centros es inadecuado, ya que calculara un tamao
de poblacin de alumnos demasiado pequeo o demasiado grande. Tambin provocara una
variabilidad notable de pesos finales y, como consecuencia, aumentara la varianza muestral.
Con objeto de evitar estas desventajas, los centros se seleccionan con probabilidades proporcionales a su tamao (PPT). Los centros ms grandes, por tanto, tendrn una probabilidad superior
de seleccin que los centros ms pequeos, pero los alumnos de los centros ms grandes
tendrn una probabilidad menor de ser seleccionados dentro del centro que los alumnos de los
centros ms pequeos. Con tales procedimientos, la probabilidad de que un centro sea seleccionado es igual a la razn del tamao del centro multiplicada por el nmero de centros que entrarn en la muestra y dividida por el nmero total de alumnos de la poblacin:

p1 _ i =

N i nc
.
N

28 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Las frmulas para calcular las probabilidades y pesos dentro del centro permanecen invariables.
La probabilidad y el peso finales siguen siendo el producto de las probabilidades o pesos del
centro y dentro del centro. Por ejemplo, la probabilidad del centro para el centro 9 es igual a:

p1 _ 9 =

N 9 nc 80 4 4
=
= = 0,8 .
N
400 5

La probabilidad de seleccin para un alumno dentro del centro 9 es igual a:

p2 _ 9 j =

n9 10
=
= 0,125 .
N 9 80

La probabilidad final es igual a:

p9 j = 0,8 0,125 = 0,1 .


Tabla 2.5. Probabilidad de seleccin entre centros, dentro del centro y final y pesos
correspondientes para una muestra de centros con probabilidades proporcionales a su tamao y de tamaos desiguales
Nmero
Tamao
del centro del centro
1

10

15

20

25

30

35

40

45

80

10

100

Total

400

Prob. del
centro

Peso del
centro

Prob.
Peso
Prob. final Peso final
dentro del dentro del
del
del
centro
centro
alumno
alumno

Suma de
pesos
finales

0,2

5,00

0,500

2,0

0,1

10

100

0,4

2,50

0,250

4,0

0,1

10

100

0,8

1,25

0,125

8,0

0,1

10

100

1,00

0,100

10,0

0,1

10

100

9,75

400

Como se muestra en la tabla 2.5, los pesos del centro y dentro del centro difieren entre los centros, pero los pesos finales del alumno no varan. Por tanto, los pesos no aumentarn la variabilidad del muestreo. Adems, la suma de pesos finales se corresponde con el nmero total de
alumnos de la poblacin. Sin embargo, la suma de los pesos de centros difiere del valor esperado de 10, pero esto no supone un problema grave, ya que las encuestas educativas suelen interesarse principalmente por la muestra de alumnos.
Con una muestra de centros PTT (con probabilidades proporcionales a su tamao) y un nmero
igual de alumnos seleccionados en cada centro seleccionado, la suma de los pesos finales del
alumno ser siempre igual al nmero total de alumnos de la poblacin (en esta etapa, no se

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

29

tiene en cuenta la ausencia de respuestas). Esto seguir siendo as incluso si los centros ms
pequeos o ms grandes resultan seleccionados. Sin embargo, la suma de los pesos del centro
no ser igual al nmero de centros en la poblacin. Si se seleccionan los cuatro centros ms pequeos, la suma de los pesos del centro ser igual a 25,666. Si se seleccionan los cuatro centros
ms grandes, ser igual a 6,97.
Con el propsito de mantener una diferencia mnima entre el nmero de centros de la poblacin
y la suma de los pesos del centro de la muestra, los centros se seleccionan segn un procedimiento sistemtico. Este consiste, primero, en seleccionar los centros segn su tamao. Se calcula un intervalo muestral como la razn entre el nmero total de alumnos de la poblacin y el
nmero de centros de la muestra; es decir,

Int =

N 400
=
= 100
nc
4

Tabla 2.6. Seleccin de centros segn un procedimiento PTT y sistemtico


Nmero del
centro

Tamao del
centro

Primer nmero ltimo nmero Forma parte


de alumno
de alumno
de la muestra?

10

10

No

15

11

25

No

20

26

45

No

25

46

70

No

30

71

100

35

101

135

No

40

136

175

No

45

176

220

80

221

300

10

100

301

400

Se toma un nmero aleatorio a partir de una distribucin uniforme [0,1]. Digamos 0,752. Este
nmero aleatorio se multiplica entonces por el intervalo muestral, es decir, 0,752 100 = 75,2. El
centro que contiene el primer nmero de alumno mayor de 75,2 resulta seleccionado. Luego, el
intervalo muestral se aade al valor 75,2. El centro donde estudia el alumno que tiene el primer
nmero de alumno superior a 175,2 ser seleccionado. Este procedimiento sistemtico se aplica
hasta alcanzar el nmero de centros necesarios en la muestra. En el ejemplo, los cuatro nmeros
de seleccin sern los siguientes: 75,2; 175,2; 275,2 y 375,2.
Ordenar el marco muestral de centros segn el tamao de estos y utilizar despus un procedimiento sistemtico de seleccin evita obtener una muestra con slo centros pequeos o (ms
probablemente) con slo centros grandes. Esto, por tanto, reduce la varianza muestral de la

30 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

suma de los pesos del centro, que es una estimacin del tamao de la poblacin de centros.
Por qu varan los pesos de PISA?
Como se ha demostrado en la seccin anterior, un diseo muestral en dos etapas con una muestra PPT de centros debera garantizar que todos los alumnos tengan la misma probabilidad de
seleccin y, por tanto, el mismo peso. Sin embargo, los datos de PISA an deben ser sometidos a
ponderacin.
La tabla 2.7 muestra claramente que los pesos finales de PISA 2003 presentan cierta variabilidad. Esta variabilidad es bastante pequea en pases como Islandia, Luxemburgo y Tnez, pero
parece ser mayor en pases como Canad, Italia y el Reino Unido.
La tabla 2.8 presenta las medias ponderadas y no ponderadas por pas en la escala de matemticas de PISA 2003. Las diferencias entre las medias ponderadas y no ponderadas son pequeas
para los pases con pequea variabilidad en los pesos, como Islandia, Luxemburgo y Tnez. Por
el contrario, el efecto de los pesos sobre la media podra ser considerable en los pases que presenten una gran variabilidad en los pesos. Por ejemplo, no usar los pesos sobreestimara el rendimiento en matemticas de los alumnos italianos alrededor de 30 puntos en la escala de matemticas de PISA e infraestimara el rendimiento medio de los alumnos canadienses en casi 11
puntos.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

31

Tabla 2.7. Los percentiles 10, 25, 50, 75 y 90 de los pesos finales de PISA
Percentil 10

Percentil 25

Percentil 50

Percentil 75

Percentil 90

AUS

4,70

11,86

19,44

25,06

29,55

AUT

13,00

14,92

17,24

20,33

25,53

4,09

10,48

12,96

15,32

19,22

BRA
CAN

222,44
1,16

309,68
2,18

407,59
5,09

502,14
13,17

627,49
36,28

CHE

1,35
5,19

6,70
17,77

15,55
23,77

21,76

CZE

2,88
12,55

DEU

140,10

160,05

180,05

208,72

243,21

DNK

8,86

10,07

11,73

13,29

16,22

ESP

3,97

4,38

15,50

48,73

83,84

FIN

2,80

9,94

11,60

12,24

13,29

FRA
GBR

142,51
7,73

148,21
10,71

159,98

177,56

23,12

136,69

213,43
180,64

GRC
HKG

15,07

17,18

13,31

14,26

21,71
15,15

27,56
16,60

19,36

HUN

16,13

19,27

22,25

25,37

29,41

IDN

21,82

42,47

106,18

272,23

435,96

IRL

11,33

12,01

13,51

15,31

17,99

ISL

1,06

1,12

1,16

1,20

1,36

BEL

27,33

30,90

ITA

2,56

14,93

20,65

66,11

108,66

JPN

217,14

248,47

258,13

281,97

314,52

KOR
LIE

80,82
1,00

89,60

96,72
1,01

107,86
1,03

117,81

1,00

LUX

1,00
4,26

1,01

LVA

5,17

1,03
6,47

1,06
7,40

1,09
8,92

MAC

1,14

3,12

4,80

6,60

8,09

1,06

MEX

3,09

6,36

13,00

27,49

67,09

NLD

24,84

35,41

43,80

52,42

65,60

NOR

11,11

11,59

12,47

13,53

14,76

7,41
103,73

8,99

10,77
118,72

12,34
130,28

13,98

NZL
POL

110,45

144,73

PRT

13,90

16,33

18,70

22,66

28,82

RUS

172,98

245,92

326,11

426,26

596,07

SVK
SWE

4,39
17,95

6,98
19,54

8,64
22,03

11,02
24,47

16,79
28,81

THA

74,96

101,57

119,35

130,48

154,26

TUN

31,27

31,41

32,19

33,32

34,62

TUR
URY

22,06
1,81

50,49

109,69

135,98

2,79

4,43

8,06

152,65
11,66

USA

296,10

418,79

554,25

704,78

885,84

YUG

8,68

12,83

16,62

18,20

19,73

32 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Tabla 2.8. Medias ponderada y no ponderada de los pases en la escala de matemticas de


PISA 2003
Media ponderada

Media no ponderada

Diferencia

AUS

524,27

522,33

1,94

AUT

505,61

511,86

6,25

BEL

529,29

533,19

3,90

BRA

356,02

360,41

4,40

CAN

532,49

521,40

11,09

CHE

526,55

518,24

8,31

CZE

516,46

534,95

18,50

DEU

502,99

508,41

5,43

DNK

514,29

513,69

0,60

ESP

485,11

494,78

9,67

FIN

544,29

542,81

1,48

FRA

510,80

514,73

3,93

GBR

508,26

514,44

6,18

GRC

444,91

440,88

4,04

HKG

550,38

555,86

5,48

HUN

490,01

488,59

1,42

IDN

360,16

361,51

1,35

IRL

502,84

504,68

1,84

ISL

515,11

515,05

0,05

ITA

465,66

496,00

30,34

JPN

534,14

533,51

0,62

KOR

542,23

540,60

1,62

LIE

535,80

536,46

0,67

LUX

493,21

493,48

0,27

LVA

483,37

486,17

2,80

MAC

527,27

522,79

4,48

MEX

385,22

405,40

20,18

NLD

537,82

542,12

4,29

NOR

495,19

495,64

0,46

NZL

523,49

525,62

2,13

POL

490,24

489,00

1,24

PRT

466,02

465,23

0,79

RUS

468,41

472,44

4,03

SVK

498,18

504,12

5,94

SWE

509,05

507,95

1,09

THA

416,98

422,73

5,75

TUN

358,73

359,34

0,61

TUR

423,42

426,72

3,30

URY

422,20

412,99

9,21

USA

482,88

481,47

1,41

YUG

436,87

436,36

0,51

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

33

A la variabilidad de los pesos contribuyen distintos factores:

Sobremuestreo o inframuestreo en algunos estratos de la poblacin: Normalmente, la poblacin de


centros se divide en subgrupos diferentes, llamados estratos. Por ejemplo, un pas podra
decidir, por razones de conveniencia, separar los centros urbanos de los rurales en la lista
de centros. En la mayora de los casos, el nmero de alumnos seleccionados en el estrato rural y en el urbano ser proporcional a lo que estos dos estratos representen en la poblacin
total. Este proceso de estratificacin garantiza, por ejemplo, que se seleccione un nmero
predefinido de centros dentro de cada estrato. Sin embargo, debido al propsito de obtener
informacin nacional, un pas podra decidir ampliar la muestra, en alguna parte de la poblacin de alumnos, a ms alumnos de los que se hubieran seleccionado basndose en una
asignacin proporcional. Supongamos que el 90% de la poblacin estudiantil de un pas sigue un itinerario de formacin acadmica y el 10% uno de formacin profesional. Si se desea comparar el rendimiento de los alumnos segn el itinerario de formacin, ser necesario
muestrear ms alumnos de formacin profesional de los que se hubieran seleccionado basndose en una asignacin proporcional.

Inexactitud o falta de actualizacin en el tamao de los centros en el marco muestral: Cuando los
centros se seleccionan con probabilidad proporcional a su tamao, debe incluirse una medida del tamao en la lista de centros. En PISA, esta medida de tamao es el nmero de
alumnos de 15 aos en cada centro de la poblacin, pero no siempre estn disponibles estadsticas nacionales que consignen la fecha de nacimiento. Por tanto, la medida del tamao
puede ser el nmero de alumnos en aquel curso que tenga mayor nmero de quinceaeros
(curso modal) o el nmero total de alumnos del centro dividido por el nmero de cursos.
Adems, incluso si las estadsticas nacionales consignan la fecha de nacimiento, estos datos
podran estar defasados uno o dos aos. Por tanto, las incoherencias entre el nmero de
quinceaeros en el momento de la prueba y la medida del tamao usada en el marco muestral generan cierta variabilidad en las ponderaciones finales. Supongamos que el centro 9 de
la tabla 2.5 tiene 100 estudiantes de 15 aos en el momento de la prueba. Cuando los centros
se seleccionaron a partir de la lista de centros, la medida del tamao estaba fijada en 80. El
peso del centro estaba fijado en 1,25. El peso dentro del centro ser igual a 100 entre 10, es
decir, 10 en lugar de 8. Por lo tanto, el peso final ser igual a 12,5 en lugar de la cifra esperada, 10.

Ajuste de pesos entre centros y dentro del centro debido a la falta de respuesta de centros y alumnos:
Algunos centros y, dentro de los centros seleccionados, algunos alumnos quiz se nieguen a
participar. Para compensar esta falta de respuesta, se aplica un ajuste de peso en cada nivel
en que se produce la falta de respuesta. Por ejemplo, si slo 25 de los 35 alumnos seleccionados estn presentes el da de la evaluacin, entonces el peso de los alumnos participantes
se multiplicar por una razn de 35 por 25.2 El ndice de participacin de los alumnos variar de un centro a otro, por lo que los pesos finales sern diferentes. Un procedimiento similar se aplica tambin para compensar la falta de respuesta de un centro. Sobre estos factores
de ajuste puede encontrarse ms informacin en PISA 2003 Technical Report (Informe tcnico
de PISA 2003, OCDE 2005).

34 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Conclusiones
Este captulo ha descrito brevemente: a) qu es un peso y cmo calcularlo; b) cul es el diseo
muestral de PISA y por qu se considera el ms adecuado; c) por qu los pesos de PISA muestran variabilidad; y d) la influencia de los pesos sobre las estimaciones poblacionales.
Todos los procedimientos o anlisis estadsticos sobre los datos de PISA deben ponderarse. Los
anlisis sin ponderar proporcionarn estimaciones sesgadas de los parmetros de la poblacin.

N suele representar el tamao de la poblacin y n, el tamao de la muestra.

2 En PISA 2003, el ajuste de ponderacin de alumnos debido a la falta de respuesta de los alumnos tambin podra
diferir en un centro determinado.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

35

Captulo 3

Los pesos replicados


Introduccin ............................................................................................................................................. 38
Varianza muestral para el muestreo aleatorio simple ........................................................................ 38
Varianza muestral para el muestreo en dos etapas ............................................................................ 45
Mtodos de replicacin para muestras aleatorias simples................................................................. 52
Mtodos de remuestreo para muestras en dos etapas........................................................................ 55
El mtodo jackknife para diseos muestrales en dos etapas sin estratificar ..................................... 56
El mtodo jackknife para diseos muestrales en dos etapas estratificados ...................................... 57
El mtodo BRR ......................................................................................................................................... 58
Otros procedimientos que tienen en cuenta el muestreo por conglomerados................................ 60
Conclusiones ............................................................................................................................................ 61

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

37

Introduccin
En la mayora de los casos, como se ha mencionado en el captulo 2, las encuestas nacionales o
internacionales recopilan datos a partir de una muestra en lugar de llevar a cabo un censo completo. Sin embargo, para una poblacin determinada, existen miles, incluso millones de muestras posibles, y cada una de ellas no proporciona necesariamente las mismas estimaciones de
estadsticos poblacionales. Toda generalizacin realizada a partir de una muestra, es decir, cada
estimacin de un estadstico poblacional, tiene asociada cierta incertidumbre o riesgo de error.
La varianza muestral se corresponde con la medida de esta incertidumbre debida al muestreo.
Este captulo explica los procedimientos estadsticos utilizados para calcular la varianza muestral y su raz cuadrada, el error tpico. Ms concretamente, este captulo expone cmo estimar
las varianzas muestrales mediante pesos replicados para las estimaciones de poblacin derivadas de un diseo de muestra complejo. En primer lugar, se examinar el concepto de varianza
muestral mediante un ejemplo ficticio para el muestreo aleatorio simple. En segundo lugar, se
investigar el clculo del error tpico para el muestreo en dos etapas. En tercer lugar, se introducirn los mtodos de replicacin para estimar las varianzas muestrales en muestras aleatorias
simples y en muestras de dos etapas, respectivamente.
Varianza muestral para el muestreo aleatorio simple
Supongamos que un profesor decide aplicar el modelo mastery learning en su clase. Esta metodologa exige que a cada leccin le siga un examen. En el ejemplo dado, la clase del profesor
tiene 36 alumnos. El profesor se da cuenta enseguida de que le llevara demasiado tiempo corregir todos los exmenes, de modo que decide seleccionar una muestra de ellos para comprobar si el material impartido ha sido asimilado (Bloom, 1979).
Sin embargo, el muestreo aleatorio de algunos exmenes puede provocar que slo se seleccionen aquellos con mejor o con peor resultado, lo que introducira un error importante en la estimacin del rendimiento medio de la clase. Estas situaciones son ejemplos extremos, pero seleccionar una muestra al azar siempre genera cierta incertidumbre.
En la misma situacin de ejemplo, antes de proceder a seleccionar algunos exmenes, el profesor decide corregir todos los de la primera leccin y analizar sus resultados. La figura 3.1 presenta la distribucin de los resultados de los 36 alumnos. Un alumno obtiene una puntuacin de
5, dos alumnos obtienen una puntuacin de 6, y as sucesivamente.

38 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Figura 3.1. Distribucin de los resultados de los 36 alumnos

La distribucin de las puntuaciones de los alumnos se corresponde con una distribucin normal. La media de la poblacin y la varianza de la poblacin son, respectivamente, iguales a:

(5 + 6 + 6 + 7 + L + 14 + 14 + 15) = 360 = 10 ,
1 N
xi =

N i =1
36
36

1
=
N
2

( x )
i

i _1

( 5 10 )2 + ( 6 10 )2 + L + (14 10 )2 + (15 10 )2
= 240 = 5,8333
=
36
36

La desviacin tpica es, por tanto, igual a:

= 2 = 5,833 = 2,415 .
Entonces, el profesor decide seleccionar aleatoriamente una muestra de dos alumnos despus
de la siguiente leccin, para ahorrar tiempo de correccin. El nmero de muestras posibles de 2
alumnos en una poblacin de 36 es igual a:

C362 =

36!
= 630 .
(36 2)!2!

Existen 630 muestras posibles de 2 alumnos en una poblacin de 36. La tabla 3.1 describe estas
630 muestras posibles. Por ejemplo, existen dos muestras posibles que proporcionan una estimacin de la media de 5,5 para el rendimiento del alumno. Estas dos muestras son: a) el alumno
con nota de 5 y el primer alumno con nota de 6; y b) el alumno con un 5 y el segundo alumno
con un 6. Del mismo modo, existen dos formas de seleccionar una muestra que produzca una
puntuacin media de 6: a) los dos alumnos de la muestra obtienen una nota de 6; o b) un alumno recibe un 5 y el segundo recibe un 7. Como slo dos alumnos obtuvieron una nota de 6 (figura 3.1), slo existe una muestra posible con dos notas de 6. Puesto que la figura 3.1 muestra que

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

39

slo hay un alumno que recibi nota de 5 y tres alumnos que recibieron nota de 7, existen tres
muestras posibles de alumnos con nota de 5 y de 7.
Tabla 3.1. Descripcin de las 630 muestras posibles de 2 alumnos seleccionados entre 36 segn su media
Media de la muestra

5,5
6
6,5
7

7,5

8,5

9,5

10

10,5

11

Resultados
de los dos alumnos
de la muestra
5y6
6y6
5y7
5y8
6y7
7y7
5y9
6y8
5 y 10
6y9
7y8
8y8
5 y 11
6 y 10
7y9
5 y 12
6 y 11
7 y 10
8y9
9y9
5 y 13
6 y 12
7 y 11
8 y 10
5 y 14
6 y 13
7 y 12
8 y 11
9 y 10
10 y 10
5 y 15
6 y 14
7 y 13
8 y 12
9 y 11
6 y 15
7 y 14
8 y 13
9 y 12
10 y 11
7 y 15
8 y 14
9 y 13
10 y 12
11 y 11

40 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Nmero
de combinaciones
de los dos resultados
2
1
3
4
6
3
5
8
6
10
12
6
5
12
15
4
10
18
20
10
3
8
15
24
2
6
12
20
30
15
1
4
9
16
25
2
6
12
20
30
3
8
15
24
10

Nmero de muestras

2
4
10
16

28

38

52

60

70

70

70

60

11,5

12

12,5

13

13,5
14
14,5

8 y 15
9 y 14
10 y 13
11 y 12
9 y 15
10 y 14
11 y 13
12 y 12
10 y 15
11 y 14
12 y 13
11 y 15
12 y 14
13 y 13
12 y 15
13 y 14
13 y 15
14 y 14
14 y 15

4
10
18
20
5
12
15
6
6
10
12
5
8
2
4
6
3
1
2

52

38

28

16

10
4
2
630

Como se observa en la tabla 3.1, existen dos muestras posibles con una media de 5,5, cuatro
muestras posibles con una media de 6, diez muestras posibles con una media de 6,5, diecisis
muestras posibles con una media de 7, y as sucesivamente.
La figura 3.2 es un grfico de la distribucin de frecuencias de las estimaciones de las medias
para todas las muestras posibles de 2 alumnos entre de 36.
Figura 3.2. Media de la distribucin de medias

Como para todas las distribuciones, esta distribucin de las medias de todas las muestras posibles puede resumirse mediante ndices de tendencia central e ndices de dispersin, como la
media y la varianza (o su raz cuadrada, la desviacin tpica).

( ) = [(2 5,5) + (4 6 ) + (10 6,5) + (16 7 ) + (28 7,5) + (38 8) + K + (2 14,5)]/ 630 = 10

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

41

La media de todas las medias muestrales posibles es igual a la media de la poblacin de alumnos, es decir, 10. Este resultado no es una coincidencia, sino una propiedad fundamental de la
media de una muestra aleatoria simple; es decir, la media de las medias de todas las muestras
posibles es igual a la media de la poblacin. En lenguaje ms formal, la media de la muestra es
una estimacin no sesgada de la media de la poblacin. Dicho de otro modo, el valor esperado
de la media de la muestra es igual a la media de la poblacin.
Sin embargo, debera advertirse que existe una importante variacin alrededor de este supuesto. En el ejemplo considerado, las medias de las muestras varan entre 5,5 y 14,5. La varianza de
esta distribucin, normalmente conocida como varianza muestral de la media, puede calcularse
como:

(2 ) = (5,5 10 )2 + (5,5 10)2 + (6 10)2 + L + (14,5 10 )2 + (14,5 10) 2 / 630 = 2,833


Su raz cuadrada, conocida como error tpico, es igual a:

( ) = (2 ) = 2,833 = 1,68
Sin embargo, qu informacin aporta el error tpico de la media o, ms concretamente, qu nos
dice el valor 1,68? La distribucin de las medias de todas las muestras posibles sigue aproximadamente una distribucin normal. Por tanto, basndose en las propiedades matemticas de la
distribucin normal, puede decirse que:

el 68,2% de las medias de todas las muestras posibles se encuentra entre 1 y +1 de error
tpico en torno a la media;

el 95% de las medias de todas las muestras posibles se encuentra entre 2 y +2 de errores
tpicos.

Comprobemos las propiedades matemticas de la distribucin normal utilizando la distribucin


muestral de las medias y su varianza. Recordemos que la media de la distribucin muestral de
medias es igual a 10 y su desviacin tpica, conocida con el trmino error tpico, es igual a 1,68.
Cuntas muestras tienen una media entre

( ) ( )

( ) + ( ) , es decir, entre (10 1,68)

y (10 + 1,68) o entre 8,32 y 11,68?


Tabla 3.2. Distribucin de todas las muestras posibles con una media entre 8,32 y 11,68
Media de muestra

Nmero de muestras

Porcentaje de muestras

8,5
9
9,5
10
10,5
11
11,5

52
60
70
70
70
60
52
434

0,0825
0,0952
0,1111
0,1111
0,1111
0,0952
0,0825

42 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Porcentaje acumulado de
muestra
0,0825
0,1777
0,2888
0,4
0,5111
0,6063
0,6888

La tabla 3.2 ilustra que hay 434 muestras tomadas de 630 con una media comprendida entre
8,32 y 11,68; estas representan el 68,8% de todas las muestras. Tambin puede demostrarse que
el porcentaje de muestras con medias entre

( ) 2 ( )

y ( ) + 2 ( ) , es decir, entre 6,64 y

13,36, es igual a 94,9.


Para estimar el error tpico de la media, se ha calculado la media de todas las muestras posibles.
En realidad, sin embargo, slo se conoce la media de una muestra. Esto, como se demostrar, es
suficiente para calcular una estimacin de la varianza muestral. Por ello, es importante identificar los factores responsables de la varianza muestral a partir de la nica muestra seleccionada.
El primer factor determinante es el tamao de la muestra. Si el profesor, en nuestro ejemplo,
decide seleccionar cuatro exmenes en lugar de dos, entonces la distribucin de la media muestral abarcar desde 6 (los 4 resultados ms bajos son 5, 6, 6 y 7) a 14 (los 4 resultados ms altos
son 13, 14, 14 y 15). Recordemos que la distribucin muestral iba de 5,5 a 14,5 con muestras de
dos unidades. Aumentar el tamao de la muestra reduce la varianza de la distribucin.
Existen 58.905 muestras posibles de 4 alumnos en una poblacin de 36 alumnos. La tabla 3.3
ilustra la distribucin de todas las muestras posibles de 4 alumnos para una poblacin de 36.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

43

Tabla 3.3. Distribucin de la media de todas las muestras posibles de cuatro alumnos en una
poblacin de 36 alumnos
Media de muestra
6,00
6,25
6,50
6,75
7
7,25
7,50
7,75
8
8,25
8,50
8,75
9
9,25
9,50
9,75
10
10,25
10,50
10,75
11
11,25
11,50
11,75
12
12,25
12,50
12,75
13
13,25
13,50
13,75
14

Nmero de muestras posibles


3
10
33
74
159
292
510
804
1213
1700
2288
2896
3531
4082
4553
4830
4949
4830
4553
4082
3531
2896
2288
1700
1213
804
510
292
159
74
33
10
3

Puede demostrarse fcilmente que esta distribucin tiene una media de 10 y una desviacin
tpica, llamada error tpico, de 1,155.
Esto prueba que el tamao de la muestra no afecta al valor esperado de la media de muestra,
aunque s reduce la varianza de la distribucin de las medias muestrales: cuanto mayor sea el
tamao de la muestra, tanto ms baja ser la varianza muestral de la media.
El segundo factor que contribuye a la varianza muestral es la varianza de la poblacin misma.
Por ejemplo, si los resultados son relativos a una puntuacin total de 40 en vez de 20 (es decir,
los resultados de los alumnos se multiplican por dos), entonces la media de los resultados de los
alumnos ser 20, la varianza ser 23,333 (es decir, cuatro veces 5,8333) y la desviacin tpica ser
igual a 4,83 (es decir, dos veces 2,415).
Puede demostrarse que la varianza muestral a partir de una muestra de dos alumnos ser igual

44 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

a 11,333, y que el error tpico de la media ser igual a 3,3665 (es decir, dos veces 1,68).
El error tpico de la media es, por tanto, proporcional a la varianza de poblacin. Basndose en
estos ejemplos, puede establecerse que la varianza muestral de la media es igual a:

2
( )

2 N n

n N 1

y el error tpico de la media muestral es igual a:

( ) = (2 ) =

N n
N 1

Donde:
2 = varianza de la poblacin;
= desviacin tpica de la poblacin;
n = tamao de la muestra;
N = tamao de la poblacin.
Esta frmula puede comprobarse con el ejemplo:

(2 ) =

2 N n

=
n N 1

5,833 36 2
= 2,8333

2 36 1

N n
tiende hacia 1. En tales casos,
N 1

Conforme aumenta el tamao de la poblacin, la razn

una aproximacin cercana de la varianza muestral de la media se obtiene mediante:

(2 ) =

2
n

Sin embargo, en la prctica, la varianza de la poblacin es desconocida y se estima a partir de


una muestra. La estimacin de la varianza muestral de la media, al igual que la estimacin de la
media, puede variar segn la muestra. Por tanto, al estar basada en una muestra, slo puede
calcularse una estimacin de la varianza muestral de la media (o de cualquier otra estimacin).
En las restantes pginas de este manual, los conceptos de varianza muestral y estimaciones de la
varianza muestral se unificarn, para simplificar el texto y las notaciones matemticas. Es decir,
los smbolos que muestren las estimaciones de la varianza muestral no tendrn un circunflejo
(^) para diferenciarlos de los valores verdaderos, pero debe entenderse que, de hecho, son estimaciones.
Varianza muestral para el muestreo en dos etapas
Las encuestas educativas y, entre ellas, sobre todo las encuestas internacionales rara vez realizan muestras de alumnos a partir de una muestra aleatoria. Primero se seleccionan los centros
y, dentro de cada centro seleccionado, se realiza un muestreo aleatorio de clases o de alumnos.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

45

Una de las diferencias entre el muestreo aleatorio simple y el muestreo en dos etapas es que,
para este ltimo, los alumnos seleccionados escolarizados en el mismo centro no pueden considerarse como observaciones independientes. Esto es as porque los alumnos de un mismo centro tienen entre s normalmente ms caractersticas en comn que con los alumnos de otras instituciones educativas. Por ejemplo, todos disponen de los mismos recursos del centro, quiz
tengan los mismos profesores y estudian segn un mismo plan de estudios, etctera. Las diferencias entre los alumnos de centros distintos tambin son ms grandes si en todos los centros
no se imparten los mismos programas educativos. Por ejemplo, esperaramos observar ms
diferencias entre los alumnos de un centro de formacin profesional y los de un centro de formacin acadmica que las que se observaran entre alumnos de dos centros de formacin profesional.
Adems, es bien conocido que, dentro de un pas, dentro de sus regiones y dentro de sus ciudades, las personas tienden a vivir agrupadas en reas determinadas segn sus recursos econmicos. Puesto que los alumnos suelen acudir a colegios cercanos a sus hogares, es probable que los
alumnos que estudien en el mismo centro provengan de entornos sociales y econmicos parecidos.
Por tanto, una muestra aleatoria simple de 4000 alumnos cubrir probablemente la diversidad
de la poblacin mejor que una muestra de 100 centros, con 40 alumnos observados en cada centro. De esto se deduce que la incertidumbre asociada con cualquier estimacin de parmetros
poblacionales (es decir, el error tpico) ser superior para una muestra en dos etapas que para
una muestra aleatoria simple del mismo tamao.
El aumento de la incertidumbre debido al muestreo en dos etapas es directamente proporcional
a las diferencias entre las unidades de la primera etapa, conocidas como unidades muestrales
primarias, es decir, los centros escolares en las encuestas educativas. Las consecuencias de esta
incertidumbre para dos situaciones extremas y ficticias se dan a continuacin:

Todos los alumnos de la poblacin se asignan al azar a centros. Por tanto, no debera haber
diferencias entre los centros. Seleccionar al azar 100 centros y, despus, dentro de ellos, seleccionar al azar 40 alumnos sera similar, desde un punto de vista estadstico, a seleccionar
directamente 4000 alumnos al azar, ya que no hay diferencias entre los centros. La incertidumbre asociada con toda estimacin de parmetros poblacionales sera igual a la incertidumbre obtenida a partir de una muestra aleatoria simple de 4000 alumnos.

Todos los centros son distintos pero, dentro de los centros, todos los alumnos son idnticos.
en este caso, observar a un solo alumno o a 40 proporcionara la misma cantidad de informacin. Por tanto, si se seleccionan 100 centros y se observan 40 alumnos por cada centro
seleccionado, el tamao muestral efectivo de esta muestra sera igual a 100. Por tanto, la incertidumbre asociada con cualquier estimacin de parmetros poblacionales sera igual a la
incertidumbre obtenida a partir de una muestra aleatoria simple de 100 alumnos.

Por supuesto, no existe ningn sistema educativo en el mundo que pueda identificarse con estas
situaciones extremas y ficticias. Sin embargo, en algunos sistemas educativos (al menos por lo
que se refiere a lo que la encuesta mide: por ejemplo, el rendimiento acadmico), las diferencias
entre centros resultan ser muy pequeas, mientras que en otros sistemas educativos, las diferencias pueden ser considerables.

46 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

El rendimiento acadmico de cada alumno puede representarse mediante una puntuacin en


una prueba o mediante la diferencia entre su puntuacin y la puntuacin media del pas. En
investigacin educativa, es corriente dividir la diferencia entre la puntuacin del alumno y la
puntuacin media del pas en tres partes: 1) la distancia entre el rendimiento del alumno y la
media de la clase correspondiente; 2) la distancia entre esta media de la clase y la media del
centro correspondiente; y 3) la distancia entre esta media del centro y la media del pas. La primera diferencia se relaciona con la varianza dentro de la clase (o la varianza residual en trminos de anlisis de la varianza). Indica hasta qu punto las notas de los alumnos pueden variar
dentro de una clase determinada. La segunda diferencia (la distancia entre la media de la clase y
la media del centro) se relaciona con la varianza entre clases dentro del mismo centro. Esta diferencia refleja la gama de diferencias entre clases dentro de los centros. Esta varianza entre clases
dentro del mismo centro podra ser considerable en los centros docentes que ofrezcan a la vez
formacin profesional y formacin acadmica. La tercera distancia (la diferencia entre la media
del centro y la media del pas) se llama varianza entre centros. Esta diferencia indica hasta qu
punto vara el rendimiento de los alumnos entre unos centros y otros.
Para obtener una estimacin de estos tres componentes de la varianza, sera necesario muestrear varios centros, al menos dos clases por centro y varios alumnos por clase. PISA selecciona
aleatoriamente estudiantes de 15 aos directamente a partir de listas de alumnos dentro de los
centros participantes. Por tanto, hablando en general, es imposible distinguir las varianzas entre
las clases y dentro de ellas. PISA slo puede proporcionar estimaciones de las varianzas entre
centros y dentro de los centros.
La tabla 3.4 proporciona las varianzas entre centros y dentro de los centros en la escala de matemticas de PISA 2003. En los pases del norte de Europa, las varianzas entre centros son muy
pequeas comparadas con sus estimaciones de varianzas dentro de los centros. En estos pases,
la varianza de los alumnos se produce principalmente en este ltimo nivel. En cuanto al rendimiento escolar, por tanto, los centros en tales pases no varan en gran medida. Sin embargo, en
Austria, Blgica, Alemania, Hungra y Turqua, por ejemplo, ms del 50% de las diferencias de
alumnos en el rendimiento corresponden al nivel de los centros. Esto significa que el rendimiento escolar difiere considerablemente entre centros. As pues, la incertidumbre asociada con todo
parmetro de poblacin ser superior para estos pases al compararla con la incertidumbre para
los pases del norte de Europa, dado un tamao de muestra comparable de centros y alumnos.
Como advirti Kish (1987):
Los mtodos estndar para el anlisis estadstico se han desarrollado a partir de supuestos de muestreo aleatorio simple. Suponer la independencia de los elementos (u observaciones) individuales facilita mucho las matemticas usadas para las teoras de distribucin de las frmulas de estadstica avanzada. [...] Sin embargo, la seleccin independiente de elementos rara vez se ejecuta en la prctica, porque gran parte de la investigacin en realidad se realiza necesariamente con diseos muestrales complejos. Resulta
econmico seleccionar conglomerados que sean agrupaciones naturales de elementos, y
stos tienden a ser ms bien homogneos para la mayor parte de caractersticas. Los supuestos pueden fallar leve o gravemente; de ah que el anlisis estadstico estndar
tienda a producir subestimaciones leves o graves en la amplitud de los intervalos de
confianza obtenidos. Las sobreestimaciones son posibles, pero escasas y leves.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

47

Kish estableci un conocimiento de referencia en el tema de la varianza muestral segn el tipo


de estimador y el diseo de muestra. Las distribuciones de la varianza muestral son bien conocidas para los estimadores univariantes y multivariantes en el caso de muestras aleatorias simples. El uso de variables de estratificacin con una muestra aleatoria simple an permite el clculo matemtico de las varianzas del muestreo, pero con un aumento considerable de complejidad. Como se muestra en la tabla 3.5, est disponible para algunos diseos el clculo de varianzas muestrales para muestras en dos etapas, pero resultan bastante difciles de calcular para
ndices multivariantes.

48 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Tabla 3.4. Varianzas entre centros y dentro de los centros en la escala de matemticas de PISA
2003a
Varianza entre centros
AUS
AUT
BEL
BRA
CAN
CHE
CZE
DEU
DNK
ESP
FIN
FRA
GBR
GRC
HKG
HUN
IDN
IRL
ISL
ITA
JPN
KOR
LIE
LUX
LVA
MAC
MEX
NLD
NOR
NZL
POL
PRT
RUS
SVK
SWE
THA
TUN
TUR
URY
USA
YUG

1919,11
5296,65
7328,47
4128,49
1261,58
3092,60
4972,45
6206,92
1109,45
1476,85
336,24
3822,62
1881,09
3387,52
4675,30
5688,56
2769,48
1246,70
337,56
4922,84
5387,17
3531,75
3385,41
2596,36
1750,22
1416,99
2476,01
552899
599,49
1740,61
1033,90
2647,70
2656,62
3734,56
986,03
2609,38
2821,00
6188,40
4457,08
2395,38
2646,00

Varianza
dentro de los centros
7169,09
4299,71
5738,33
5173,60
6250,12
6198,65
4557,50
4498,70
7357,14
6081,74
6664,98
4536,22
6338,25
5991,75
5298,26
4034,66
3343,87
6110,71
7849,99
4426,67
4668,82
5011,56
5154,08
5806,97
6156,52
6449,96
3916,46
3326,09
7986,58
7969,97
7151,46
5151,93
6021,44
4873,69
8199,46
4387,08
3825,36
4891,13
5858,42
6731,45
4661,59

Los resultados se basan en el primer valor plausible de la escala de matemticas, llamado PV1MATH en la base de datos

de PISA 2003 (www.pisa.oecd.org).

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

49

Tabla 3.5. Estatus actual de los errores de muestreo


Mtodos de seleccin

Medias y total
de muestras completas

Medias y diferencias
de subclases

Seleccin aleatoria
simple de elementos
Seleccin estratificada de
elementos
Muestreo complejo por
conglomerados

Conocido

Conocido

Estadsticos analticos
complejos; por ejemplo,
coeficientes de regresin
Conocido

Conocido

Disponible

Conjeturado

Conocido para algn


diseo de muestras

Disponible

Difcil

Nota: la fila 1 se refiere a teora estadstica estndar (Kish y Frankel, 1974).

Los autores de manuales de muestreo suelen distinguir dos tipos de muestreo en dos etapas:

muestreo en dos etapas con unidades de la primera etapa de mismo tamao y

muestreo en dos etapas con unidades de la primera etapa de tamao desigual.

Ms all de esta distincin, para el clculo de la varianza muestral es necesario tener en cuenta
las diferentes caractersticas de la poblacin y del diseo del muestreo, porque influyen en la
varianza muestral. Algunos de los factores que deben ser considerados son:

es la poblacin finita o infinita?;

era el tamao un criterio determinante al seleccionar las unidades de la primera etapa?;

se utiliz un procedimiento sistemtico para seleccionar las unidades de la primera etapa o


de la segunda etapa?;

incluye el diseo muestral variables de estratificacin?

El diseo muestral en dos etapas ms simple se da con poblaciones de unidades infinitas en


ambas etapas. Como las unidades de ambas etapas son poblaciones infinitas, se considera que
las unidades muestrales primarias son de igual tamao. Si se selecciona una muestra aleatoria
simple de unidades muestrales primarias (UMP) y si, dentro de cada una de ellas, se selecciona
una muestra aleatoria simple de unidades de la segunda etapa, entonces la varianza muestral
de la media ser igual a:

(2 ) =

2
entre
_ UMP

nUMP

2
dentro
_ de _ UMP

nUMP ndentro

Apliquemos esta frmula a una encuesta educativa y consideremos la poblacin de los centros
como infinita y la poblacin de alumnos dentro de cada centro como infinita. El clculo de la
varianza muestral de la media ser igual, por tanto, a:

(2 )

2
entre
_ centro

ncentro

2
dentro
_ del _ centro

nalumnos

50 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Tabla 3.6. Varianzas entre centros y dentro de los centros, y nmero de centros y alumnos
participantes en Dinamarca y Alemania en PISA 2003
Varianza entre centros
Varianza dentro de los centros
Nmero de centros participantes
Nmero de alumnos participantes

Dinamarca
1109,45
7357,14
206
4218

Alemania
6206,92
4498,70
216
4660

Segn estos supuestos, en Dinamarca la varianza muestral de la media y su raz cuadrada, es


decir, el error tpico, son iguales a:

(2 ) =

1109,45 7357,14
+
= 5,39 + 1,74 = 7,13
206
4218

( ) = 7,13 = 2,67
En Alemania, la varianza muestral de la media y su raz cuadrada, es decir, el error tpico, son
iguales a:

(2 ) =

6206,92 4498,79
+
= 28,74 + 0,97 = 29,71
216
4660

( ) = 29,71 = 5,45
Si las dos muestras se considerasen como muestras aleatorias simples, el error tpico de la media para Dinamarca y Alemania sera, respectivamente, igual a 1,42 y 1,51.
Basndonos en estos resultados, podemos realizar las siguientes observaciones:

El error tpico de la media es mayor para el muestreo en dos etapas que para el muestreo
aleatorio simple. Por ejemplo, en el caso de Alemania, los errores tpicos para el muestreo
aleatorio simple y el muestreo en dos etapas son 1,51 y 5,45 respectivamente. Por tanto, considerar una muestra en dos etapas como una muestra aleatoria simple infraestimar considerablemente los errores tpicos y, como consecuencia, los intervalos de confianza sern
demasiado estrechos. El intervalo de confianza de la media de la escala de matemticas, es
decir, 503, sera igual a:
[503 (1,96 1,51) ; 503 + (1,96 1,51)] = [500,05 ; 505,96] en el caso de una muestra aleatoria
simple, pero igual a [503 (1,96 5,45) ; 503 + (1,96 5,45)] = [492,32 ; 513,68] en el caso de
una muestra en dos etapas. Esto indica que cualquier valor medio estimado entre 492,32 y
500,05 y entre 505,96 y 513,68 puede ser tomado o no como estadsticamente distinto de la
media alemana, segn el error tpico que se emplee.

La varianza muestral de la media para muestras en dos etapas depende sobre todo de la
varianza entre centros y del nmero de centros participantes. As vemos que la varianza entre centros representa el 76% de la varianza muestral total en Dinamarca, es decir,
5,39/7,13 = 0,76. Para Alemania, la varianza entre centros supone un 97% de la varianza

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

51

muestral total (28,74/29,71 = 0,97). Por tanto, deberamos esperar una varianza muestral
mayor en pases con mayor varianza entre centros, como Alemania y Austria, por ejemplo.
Sin embargo, la poblacin de PISA no puede considerarse como una poblacin infinita de centros con una poblacin infinita de estudiantes. Adems,

los centros tienen tamaos desiguales;

la muestra de PISA es una muestra sin reemplazamiento, es decir, un centro no puede ser
seleccionado dos veces;

los centros se seleccionan en proporcin a su tamao y segn un procedimiento sistemtico;

en el diseo muestral se incluyen variables de estratificacin.

Estas caractersticas del diseo del muestreo influyen en la varianza muestral, de modo que la
frmula utilizada ms arriba tambin es inapropiada. Es ms, el informe Learning for Tomorrows
World First Results from PISA 2003 (OCDE, 2004a) indica que los errores tpicos de la media en
la escala de matemticas para Dinamarca y Alemania son 2,7 y 3,3, respectivamente.
Esto indica que el diseo muestral de PISA es bastante eficiente a la hora de reducir la varianza
muestral. Sin embargo, el diseo se vuelve tan complejo que no hay una frmula fcil para calcular la varianza muestral, o incluso los estimadores, como las medias.
Desde el estudio de competencia lectora de la IEA en 1990, se han utilizado mtodos de replicacin o remuestreo para calcular estimaciones de la varianza muestral en las encuestas internacionales sobre educacin. An cuando estos mtodos se conocan desde finales de la dcada de
1950, no se utilizaban a menudo ya que requieren numerosos clculos. Con la disponibilidad de
potentes ordenadores personales en la dcada de 1990 y el aumento del uso de bases de datos
internacionales por parte de no-matemticos, los centros internacionales de coordinacin se
decidieron a utilizar mtodos de remuestreo para calcular las varianzas muestrales a partir de
diseos de muestra complejos.
Segn Rust y Rao (1996):
El principio comn que comparten estos mtodos es la utilizacin de clculos intensivos
para superar las dificultades e incomodidades de utilizar una solucin analtica para el
problema. Dicho brevemente, el enfoque de replicacin consiste en calcular la varianza
de un parmetro de poblacin de inters utilizando un gran nmero de submuestras algo distintas (o pesos muestrales algo distintos) para calcular el parmetro de inters. La
variabilidad entre las estimaciones resultantes se utiliza para estimar el verdadero error
muestral de la estimacin inicial o de la muestra completa.
Estos mtodos se describirn primero para las muestras aleatorias simples y para las muestras
en dos etapas. Luego se presentar el mtodo de replicacin utilizado en PISA.
Mtodos de replicacin para las muestras aleatorias simples
Existen dos tipos principales de mtodos de replicacin para las muestras aleatorias simples,
que se conocen como jackknife y bootstrap. Una de las diferencias ms importantes entre el jackknife y el bootstrap se relaciona con el procedimiento empleado para producir las submuestras
repetidas o muestras replicadas. A partir de una muestra de n unidades, el jackknife genera de
forma sistemtica n muestras replicadas de n 1 unidades. El bootstrap genera aleatoriamente

52 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

un gran nmero de repeticiones de n unidades seleccionadas con reemplazamiento, donde cada


unidad tiene ms de una posibilidad de seleccin.
Puesto que PISA no emplea un mtodo bootstrap de replicacin adaptado a diseos muestrales
polietpicos, esta seccin slo presentar el mtodo jackknife.
Supongamos que se ha seleccionado una muestra de diez estudiantes mediante muestreo aleatorio simple. El mtodo jackknife generar entonces diez submuestras o muestras replicadas,
cada una de ellas de nueve estudiantes, como sigue:
Tabla 3.7. Muestras replicadas por el mtodo jackknife y sus medias
Alumno

10

Media

Valor

10

11

12

13

14

15

16

17

18

19

14,50

Replicacin 1
Replicacin 2
Replicacin 3
Replicacin 4
Replicacin 5
Replicacin 6
Replicacin 7
Replicacin 8
Replicacin 9
Replicacin 10

0
1
1
1
1
1
1
1
1
1

1
0
1
1
1
1
1
1
1
1

1
1
0
1
1
1
1
1
1
1

1
1
1
0
1
1
1
1
1
1

1
1
1
1
0
1
1
1
1
1

1
1
1
1
1
0
1
1
1
1

1
1
1
1
1
1
0
1
1
1

1
1
1
1
1
1
1
0
1
1

1
1
1
1
1
1
1
1
0
1

1
1
1
1
1
1
1
1
1
0

15,00
14,88
14,77
14,66
14,55
14,44
14,33
14,22
14,11
14,00

Como se observa en la tabla 3.7, el mtodo jackknife genera diez muestras replicadas de nueve
alumnos. La media muestral basada en los diez estudiantes es igual a 14,5. Para la primera
muestra replicada, el alumno 1 no se incluye en el clculo de la media, y la media de los nueve
alumnos incluidos en la muestra replicada 1 es 15,00. Para la segunda muestra replicada, el
segundo alumno no est incluido y la media de los otros nueve es igual a 14,88, y as sucesivamente.
La estimacin mediante jackknife de la varianza muestral de la media es igual a:

2jack =

2
n 1 n
(i )

n i =1

donde (i ) representa el estimador estadstico para la muestra replicada i y representa el estimador estadstico basado en la muestra completa.
Basndose en los datos de la tabla 3.7, la varianza muestral de la media mediante jackknife es
igual a:

(2 ) =

9
(15,00 14,50)2 + (14,88 14,50)2 + L + (14,11 14,50)2 + (14,00 14,50)2
10

(2 ) =

9
(1,018519) = 0,9167
10

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

53

El estimador habitual de la varianza de la poblacin es igual a:

2 =

1 n
(xi )2 = 1 (10 14,5)2 + (11 14,5)2 + L + (18 14,5)2 + (19 14,5)2 = 9,17

n 1 i =1
9

Por tanto, la varianza muestral de la media, estimada mediante la frmula matemtica indicada,
es igual a:

(2 ) =

2
n

9,17
= 0,917
10

Como se observa en este ejemplo, el mtodo jackknife y la frmula matemtica proporcionan una
estimacin idntica de la varianza muestral. Rust (1996) demuestra matemticamente esta
igualdad.

n
n
xi xi xi
n
i =1

i =1 = xi + x 1 1 =
(i ) =
i
n 1
n
n 1 i =1 n 1 n
=

n (n 1)
1
1
[xi (n (n 1))] = 1 (xi )
x

=
i xi 1
(n 1) i =1
(n 1)
(n 1)
n

Por tanto,

( ( ) )

1
(xi )2
2
(n 1)
n

( (i ) ) =
n

i =1

2jack =

1
(n 1)2

(x )

(x ) = (n 1) (n 1)
i =1

i =1

1
2
(n 1)

(n 1) 1 2 = 2
n 1 n
2

(
)

=
(i )
n i =1
n (n 1)
n

El mtodo jackknife tambin puede utilizarse para calcular la varianza muestral de otros estadsticos, como los coeficientes de regresin. En este ejemplo concreto, el procedimiento consistir
en el clculo de 11 coeficientes de regresin: uno basado en la muestra entera y otros diez, cada
uno de ellos basado en la muestra replicada. La comparacin entre el coeficiente de regresin de
la muestra entera y cada uno de los diez coeficientes de regresin replicados proporcionar una
estimacin de la varianza muestral de ese estadstico.

54 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Tabla 3.8. Valores de las variables X e Y para una muestra de 10 alumnos


Alumno

10

Valor Y

10

11

12

13

14

15

16

17

18

19

Valor X

10

13

14

19

11

12

16

17

18

15

El coeficiente de regresin para la muestra completa es igual a 0,53.


Tabla 3.9. Coeficientes de regresin para cada muestra replicada
Coeficiente de regresin
Replicacin 1
Replicacin 2
Replicacin 3
Replicacin 4
Replicacin 5
Replicacin 6
Replicacin 7
Replicacin 8
Replicacin 9
Replicacin 10

0,35
0,55
0,56
0,64
0,51
0,55
0,51
0,48
0,43
0,68

2jack =

La frmula jackknife, es decir,

2
n 1 n
(i ) , puede aplicarse para calcular la va
n i =1

rianza muestral del coeficiente de regresin.

2jack =

2
9
n 1 n
(i ) = (0,35 0,53)2 + (0,55 0,53)2 + L + (0,68 0,53)2 = 0,07

10
n i =1

Este resultado es idntico al que se obtendra mediante la frmula habitual de varianza muestral para un coeficiente de regresin.
Mtodos de remuestreo para muestras en dos etapas
Existen tres tipos de mtodos de replicacin para muestras en dos etapas:

jackknife, con dos variantes: una para muestras sin estratificar y otra para muestras estratificadas;

balanced repeated replication (BRR, mtodo de replicacin repetido equilibrado) y su variante, la modificacin de Fay;

bootstrap.

PISA utiliza BRR con la modificacin de Fay.1

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

55

El mtodo jackknife para diseos muestrales en dos etapas sin estratificar


Si se selecciona una muestra aleatoria simple de unidades muestrales primarias sin usar ninguna variable de estratificacin, puede demostrarse que la varianza muestral de la media obtenida
mediante el mtodo jackknife es matemticamente igual a la frmula descrita en la seccin 2 de
este captulo, es decir:

2
( )

2
entre
_ UMP

nUMP

2
dentro
_ de _ UMP

nUMP ndentro

Consideremos una muestra de diez centros y, dentro de los centros seleccionados, una muestra
aleatoria simple de alumnos. El mtodo jackknife para una muestra en dos etapas sin estratificar
consiste en generar diez replicaciones de nueve centros. Cada centro se retira una sola vez, de
forma sistemtica.
Tabla 3.10. Las muestras replicadas con jackknife para muestras en dos etapas sin estratificar
Replicacin

R1

R2

R3

R4

R5

R6

R7

R8

R9

R10

Centro 1

0,00

1,11

1,11

1,11

1,11

1,11

1,11

1,11

1,11

1,11

Centro 2

1,11

0,00

1,11

1,11

1,11

1,11

1,11

1,11

1,11

1,11

Centro 3

1,11

1,11

0,00

1,11

1,11

1,11

1,11

1,11

1,11

1,11

Centro 4

1,11

1,11

1,11

0,00

1,11

1,11

1,11

1,11

1,11

1,11

Centro 5

1,11

1,11

1,11

1,11

0,00

1,11

1,11

1,11

1,11

1,11

Centro 6

1,11

1,11

1,11

1,11

1,11

0,00

1,11

1,11

1,11

1,11

Centro 7

1,11

1,11

1,11

1,11

1,11

1,11

0,00

1,11

1,11

1,11

Centro 8

1,11

1,11

1,11

1,11

1,11

1,11

1,11

0,00

1,11

1,11

Centro 9

1,11

1,11

1,11

1,11

1,11

1,11

1,11

1,11

0,00

1,11

Centro 10

1,11

1,11

1,11

1,11

1,11

1,11

1,11

1,11

1,11

0,00

Para la primera replicacin, llamada R1, se ha retirado el centro 1. Los pesos de los dems centros en la primera replicacin se ajustan mediante un factor de 1,11, es decir, 10 o, como regla
9
G
, donde G es el nmero de unidades muestrales primarias de la
general, un factor de
G 1

muestra. Este factor de ajuste se aplica luego cuando se combinan los pesos de los centros replicados y los pesos dentro de los centros replicados para obtener los pesos de alumnos replicados.
Para la segunda replicacin, se retira el centro 2 y los pesos de los centros restantes se ajustan
segn el mismo factor, y as sucesivamente.
El estadstico de inters se calcula para la muestra completa y, despus, una vez ms para cada
replicacin. Luego, se comparan las estimaciones replicadas con la estimacin de la muestra
completa para obtener la varianza muestral, como a continuacin:
2
(
G 1) G
(
( ) =
(i ) )

G
2

i =1

Esta frmula es idntica a la utilizada para una muestra aleatoria simple, excepto que en lugar

56 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

de utilizar n replicaciones, donde n es el nmero de unidades de la muestra, esta frmula usa G


replicaciones, donde G es el nmero de unidades muestrales primarias.

El mtodo jackknife para diseos muestrales en dos etapas estratificados


Como ya se mencion al comienzo del captulo 2, en todos los diseos muestrales subyacen dos
principios importantes. El primero es el cuidado de evitar sesgos en el procedimiento de seleccin; el segundo, alcanzar la mxima precisin teniendo en cuenta los recursos financieros disponibles.
Para reducir la incertidumbre o para minimizar la varianza muestral sin modificar el tamao de
muestra, las encuestas de educacin internacionales y nacionales suelen implementar los siguientes procedimientos en el diseo muestral:

Las unidades muestrales primarias se seleccionan en proporcin a su tamao y segn un


procedimiento sistemtico. Este procedimiento lleva a un procedimiento de muestreo de
alumnos eficiente. Pueden seleccionarse en cada centro muestras de alumnos de igual tamao. Al mismo tiempo, las probabilidades totales de seleccin (que combinan los componentes del muestreo de centros y el de alumnos) no varan gran cosa.

Se estimula a los centros de investigacin a que identifiquen variables de estratificacin que


estn asociadas estadsticamente con el rendimiento de los alumnos. Las caractersticas diferenciales tales como rural o urbano, acadmico o profesional, privado o pblico, resultan estar asociadas con el rendimiento de los alumnos. La reduccin de la varianza muestral ser
proporcional al poder de explicacin de estas variables de estratificacin sobre el rendimiento estudiantil.

El mtodo jackknife para las muestras estratificadas en dos etapas permite la reduccin de la
varianza muestral al tener en cuenta estos dos aspectos. No hacerlo as llevara a una sobreestimacin sistemtica de las varianzas muestrales.
Supongamos que la lista de centros de la poblacin se divide en dos partes, llamadas estratos:
centros rurales y centros urbanos. Adems, dentro de estos estratos, los centros se dividen segn su tamao. Dentro de cada estrato se seleccionan diez centros sistemticamente y en proporcin a su tamao.
El mtodo jackknife para los diseos muestrales en dos etapas estratificados consiste en emparejar sistemticamente los centros que pertenecen a cada estrato en el orden en que se seleccionaron. Por tanto, los centros se emparejarn con otros centros similares.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

57

Tabla 3.11. Las replicaciones con jackknife para diseos muestrales en dos etapas estratificados
Pseudoestrato
1
1
2
2
3
3
4
4
5
5
6
6
7
7
8
8
9
9
10
10

Centro
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

R1
2
0
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1

R2
1
1
0
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1

R3
1
1
1
1
2
0
1
1
1
1
1
1
1
1
1
1
1
1
1
1

R4
1
1
1
1
1
1
0
2
1
1
1
1
1
1
1
1
1
1
1
1

R5
1
1
1
1
1
1
1
1
2
0
1
1
1
1
1
1
1
1
1
1

R6
1
1
1
1
1
1
1
1
1
1
0
2
1
1
1
1
1
1
1
1

R7
1
1
1
1
1
1
1
1
1
1
1
1
2
0
1
1
1
1
1
1

R8
1
1
1
1
1
1
1
1
1
1
1
1
1
1
0
2
1
1
1
1

R9
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
2
0
1
1

R10
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
0
2

La tabla 3.11 describe cmo se generan las replicaciones para este mtodo. Los centros 1-10 son
rurales y los centros 11-20, urbanos. Dentro de cada estrato, por tanto, existen cinco pares de
centros o pseudoestratos (tambin llamados estratos de varianza).
El mtodo jackknife para las muestras en dos etapas estratificadas generar tantas replicaciones
como pares o pseudoestratos. En este ejemplo, se generarn por tanto diez replicaciones. Para
cada muestra replicada, se retira al azar un centro de un pseudoestrato concreto y se dobla el
peso del centro restante en el pseudoestrato. Para la replicacin 1, llamada R1, se retira el centro
2 y se dobla el peso del centro 1 en el pseudoestrato 1. Para la replicacin 2, se retira el centro 3
y se dobla el peso del centro 4 en el pseudoestrato, y as sucesivamente.
Como ya se mencion antes, el estadstico de inters se calcula basndose en la muestra completa y, despus, basndose de nuevo en cada muestra replicada. Las estimaciones replicadas se
comparan entonces con la estimacin de la muestra completa, para obtener la varianza muestral, as:
G

(2 ) = (i )
i =1

Este mtodo de replicacin se est utilizando actualmente en los estudios de la IEA.


El mtodo BRR
Mientras que el mtodo jackknife consiste en retirar slo un centro para cada muestra replicada,

58 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

con el mtodo BRR (balanced repeated replication method, mtodo de replicacin repetido equilibrado) se selecciona al azar un centro dentro de cada pseudoestrato al que se le atribuye un
peso de 0 y se doblan los pesos de los restantes centros.
Como este mtodo proporciona un gran conjunto de replicaciones posibles, se genera un conjunto equilibrado de muestras replicadas segn las matrices de Hadamard con objeto de evitar
clculos extensos. El nmero de replicaciones es el mltiplo ms pequeo de cuatro, mayor o
igual que el nmero de pseudoestratos. En este ejemplo, como hay 10 pseudoestratos, se generarn 12 replicaciones.
Tabla 3.12. Las replicaciones del mtodo BRR
Pseudoestrato
1
1
2
2
3
3
4
4
5
5
6
6
7
7
8
8
9
9
10
10

Centro
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

R1
2
0
2
0
2
0
2
0
2
0
2
0
2
0
2
0
2
0
2
0

R2
0
2
2
0
0
2
2
0
2
0
2
0
0
2
0
2
0
2
2
0

R3
0
2
0
2
2
0
0
2
2
0
2
0
2
0
0
2
0
2
0
2

R4
2
0
0
2
0
2
2
0
0
2
2
0
2
0
2
0
0
2
0
2

R5
0
2
2
0
0
2
0
2
2
0
0
2
2
0
2
0
2
0
0
2

R6
0
2
0
2
2
0
0
2
0
2
2
0
0
2
2
0
2
0
2
0

R7
0
2
0
2
0
2
2
0
0
2
0
2
2
0
0
2
2
0
2
0

R8
2
0
0
2
0
2
0
2
2
0
0
2
0
2
2
0
0
2
2
0

R9 R10 R11 R12


2
2
0
2
0
0
2
0
2
2
2
0
0
0
0
2
0
2
2
2
2
0
0
0
0
0
2
2
2
2
0
0
0
0
0
2
2
2
2
0
2
0
0
0
0
2
2
2
0
2
0
0
2
0
2
2
0
0
2
0
2
2
0
2
2
0
0
2
0
2
2
0
0
2
0
0
2
0
2
2

De nuevo, el estadstico de inters se calcula basndose en la muestra completa y despus otra


vez por cada replicacin. Luego, las estimaciones de las replicaciones se comparan con la estimacin de la muestra completa para calcular la varianza muestral, como se hace a continuacin:

(2 ) =

2
1 G
(i )

G i =1

Con este mtodo de replicacin, cada muestra replicada slo usa la mitad de las observaciones
disponibles. Esta gran reduccin de muestra, por tanto, podra ser problemtica para estimar un
estadstico en una subpoblacin rara. Es ms, el nmero de observaciones restantes podra ser
tan pequeo, incluso igual a 0, que sea imposible estimar el parmetro poblacional para una
muestra replicada en particular. Para superar esta desventaja, Fay desarroll una variante del
mtodo BRR. En lugar de multiplicar los pesos de los centros por un factor de 0 o de 2, Fay sugiri multiplicar los pesos por un factor k de deflacin entre 0 y 1, con un segundo factor de
inflacin igual a 2 menos k. Por ejemplo, si el factor de deflacin del peso, llamado k, es igual a
0,6, el factor de inflacin del peso ser igual a 2 k, es decir, 1 0,6 = 1,4 (Judkins, 1990).

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

59

PISA utiliza el mtodo de Fay con un factor de 0,5. La tabla 3.13 describe cmo se generan las
muestras y los pesos replicados mediante este mtodo.
Tabla 3.13. Las replicaciones de Fay
Pseudoestrato
1
1
2
2
3
3
4
4
5
5
6
6
7
7
8
8
9
9
10
10

Centro
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

R1
1,5
0,5
1,5
0,5
1,5
0,5
1,5
0,5
1,5
0,5
1,5
0,5
1,5
0,5
1,5
0,5
1,5
0,5
1,5
0,5

R2
0,5
1,5
1,5
0,5
0,5
1,5
1,5
0,5
1,5
0,5
1,5
0,5
0,5
1,5
0,5
1,5
0,5
1,5
1,5
0,5

R3
0,5
1,5
0,5
1,5
1,5
0,5
0,5
1,5
1,5
0,5
1,5
0,5
1,5
0,5
0,5
1,5
0,5
1,5
0,5
1,5

R4
1,5
0,5
0,5
1,5
0,5
1,5
1,5
0,5
0,5
1,5
1,5
0,5
1,5
0,5
1,5
0,5
0,5
1,5
0,5
1,5

R5
0,5
1,5
1,5
0,5
0,5
1,5
0,5
1,5
1,5
0,5
0,5
1,5
1,5
0,5
1,5
0,5
1,5
0,5
0,5
1,5

R6
0,5
1,5
0,5
1,5
1,5
0,5
0,5
1,5
0,5
1,5
1,5
0,5
0,5
1,5
1,5
0,5
1,5
0,5
1,5
0,5

R7
0,5
1,5
0,5
1,5
0,5
1,5
1,5
0,5
0,5
1,5
0,5
1,5
1,5
0,5
0,5
1,5
1,5
0,5
1,5
0,5

R8
1,5
0,5
0,5
1,5
0,5
1,5
0,5
1,5
1,5
0,5
0,5
1,5
0,5
1,5
1,5
0,5
0,5
1,5
1,5
0,5

R9 R10 R11
1,5 1,5 0,5
0,5 0,5 1,5
1,5 1,5 1,5
0,5 0,5 0,5
0,5 1,5 1,5
1,5 0,5 0,5
0,5 0,5 1,5
1,5 1,5 0,5
0,5 0,5 0,5
1,5 1,5 1,5
1,5 0,5 0,5
0,5 1,5 1,5
0,5 1,5 0,5
1,5 0,5 1,5
0,5 0,5 1,5
1,5 1,5 0,5
1,5 0,5 0,5
0,5 1,5 1,5
0,5 1,5 0,5
1,5 0,5 1,5

R12
1,5
0,5
0,5
1,5
1,5
0,5
1,5
0,5
1,5
0,5
0,5
1,5
0,5
1,5
0,5
1,5
1,5
0,5
0,5
1,5

Como ocurre con todos los mtodos de replicacin, el estadstico de inters se calcula a partir de
la muestra entera y, despus, de nuevo a partir de cada replicacin. Las estimaciones replicadas
se comparan entonces con la estimacin de la muestra entera para obtener la varianza muestral,
como a continuacin:

(2 ) =

G
1
2

(i )
2
G (1 k ) i =1

En PISA, se decidi generar 80 muestras replicadas y, por tanto, 80 pesos replicados. De este
modo, la frmula se convierte en:

(2 ) =

G
80
80
2
1
1
2 =
2 = 1

(i )

2 (i )
2 (i )
20 i =1
80(1 0,5) i =1
G (1 k ) i =1

Otros procedimientos que tienen en cuenta el muestreo por conglomerados


Durante los dos ltimos decenios, los modelos multinivel y los correspondientes paquetes de
software para su estimacin se han introducido en el campo de la investigacin educativa. No
hay duda de que estos modelos han permitido un gran avance a la hora de estudiar los fenmenos educativos. Efectivamente, los modelos de regresin multinivel ofrecen la posibilidad de

60 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

tener en cuenta el hecho de que los alumnos estn anidados en clases y centros: cada factor
puede evaluarse por separado cuando se establece la medida del resultado.
Los paquetes de software de regresin multinivel, como MLWin o HLM, del mismo modo que
cualquier paquete profesional de estadstica, proporcionan una estimacin del error tpico para
cada uno de los parmetros poblacionales estimados. Mientras que SAS y SPSS consideran la
muestra como una muestra aleatoria simple de elementos de la poblacin, MLWin o HLM reconocen la estructura jerrquica de los datos, pero consideran que la muestra de centro es aleatoria simple. Por tanto, no tienen en cuenta la informacin complementaria para el diseo muestral que se utiliza en PISA con el fin de reducir la varianza muestral. Como consecuencia, en
PISA las varianzas muestrales estimadas con modelos multinivel siempre sern mayores que las
varianzas muestrales estimadas con muestras replicadas de Fay.
Puesto que estos paquetes de modelos multinivel no incorporan la informacin adicional del
diseo muestral, sus estimaciones de error tpico son similares a las del mtodo jackknife para las
muestras sin estratificar. Por ejemplo, los datos de PISA 2003 en Alemania se analizaron con el
modelo multinivel propuesto por SAS y llamado PROC MIXED. Los errores tpicos de la media de los cinco valores plausibles para la escala combinada de competencia lectora fueron, respectivamente, 5,4565; 5,3900; 5,3911; 5,4692 y 5,3461. La media de estos cinco errores tpicos es
igual a 5,41. Recordemos que el uso de la frmula en la seccin 2 de este captulo produce una
estimacin de la varianza muestral igual a 5,45.
Con los paquetes de software multinivel, es imposible evitar el uso de replicaciones si quieren
obtenerse estimaciones no sesgadas de los errores tpicos de los estimadores.
Conclusiones
Puesto que las encuestas internacionales sobre educacin utilizan un diseo muestral en dos
etapas la mayor parte de las veces, sera inapropiado aplicar las frmulas de distribucin muestral desarrolladas para el muestreo aleatorio simple. Hacerlo as llevara a una subestimacin de
las varianzas muestrales.
Los diseos muestrales en las encuestas educativas pueden ser muy complejos. Como resultado, quiz no estn disponibles o sean demasiado complicadas las distribuciones muestrales
incluso para estimadores simples como las medias. Desde el estudio sobre competencia lectora
de la IEA en 1990, las varianzas muestrales se han estimado con ayuda de mtodos de replicacin. Estos mtodos funcionan generando varias submuestras o muestras replicadas a partir de
la muestra completa. A continuacin, se estima el estadstico de inters para cada una de estas
muestras replicadas y, despus, se compara con la estimacin de la muestra completa para proporcionar una estimacin de la varianza muestral.
Una muestra replicada se forma simplemente mediante una transformacin de los pesos muestrales totales segn un algoritmo especfico para el mtodo de replicacin. Por lo tanto, estos
mtodos pueden aplicarse a cualquier estimador2 (medias, medianas, percentiles, correlaciones,
coeficientes de regresin, etctera), que puede calcularse con facilidad gracias a recursos informticos avanzados. Adems, usar estos pesos replicados no exige un extenso conocimiento de
estadstica, ya que los procedimientos pueden aplicarse sin que importe cul sea el estadstico
de inters.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

61

Vanse las razones para esta decisin en PISA 2000 Technical Report (OCDE, 2002c).

2 Diversos estudios empricos o tericos han comparado los diferentes mtodos de remuestreo para diseos de muestra
complejos. Como advirtieron Rust y Krawchuk: Una ventaja de los mtodos BRR y BRR modificado sobre el jackknife es
que aquellos tienen una base terica slida para usarlos con estadsticos no suavizados, por ejemplo cuantiles como la
mediana. Desde hace mucho tiempo se sabe que el jackknife no es constante al estimar las varianzas de los cuantiles. Es
decir, conforme el tamao de muestra aumenta para un diseo de muestra dado, la estimacin de las varianzas de los
cuantiles no se vuelve necesariamente ms precisa al usar el mtodo jackknife. (Rust y Krawchuk, 2002)

62 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Captulo 4

El modelo de Rasch
Introduccin ............................................................................................................................................. 64
Cmo puede resumirse la informacin?............................................................................................. 64
El modelo de Rasch para los tems dicotmicos.................................................................................. 66
Otros modelos de la Teora de Respuesta al tem ............................................................................... 80
Conclusiones ............................................................................................................................................ 81

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

63

Introduccin
Las encuestas internacionales sobre educacin, como PISA, estn diseadas para estimar el rendimiento en ciertas materias de varios subgrupos de alumnos, a cierta edad o en cierto curso.
Para que las encuestas se consideren vlidas, es necesario desarrollar muchos tems e incluirlos
en los tests finales. Las publicaciones de la OCDE relacionadas con los marcos tericos de las
evaluaciones indican la amplitud y profundidad de las reas de PISA y demuestran que hacen
falta muchos tems para evaluar un rea con una definicin tan amplia como, por ejemplo, competencia matemtica.1
Al mismo tiempo, no es razonable ni deseable evaluar a cada alumno seleccionado con la batera completa de tems, porque

despus de un tiempo de examen largo, la fatiga empieza a influir en los resultados de los
alumnos, lo que sesgara los resultados de la encuesta;

los directores de los centros rehusaran dejar libres a sus alumnos para una duracin de las
pruebas tan largo como el que se necesitara. Esto reducira la tasa de participacin de los
centros, lo que, a su vez, podra sesgar considerablemente los resultados de las pruebas.

Para superar las exigencias opuestas de examinar a los alumnos durante un tiempo limitado y
cubrir el dominio completo del rea evaluada, se asigna a los alumnos un subconjunto de la
batera de tems y como resultado, slo ciertas submuestras de alumnos responden a cada tem.
Si el propsito de la encuesta fuera estimar el rendimiento detallando el porcentaje de respuestas correctas para cada tem, no sera necesario informar sobre el rendimiento de cada alumno.
Sin embargo, normalmente es necesario resumir informacin detallada a nivel de los tems para
comunicar los resultados de la encuesta a la comunidad investigadora, al pblico y, tambin, a
los responsables de la poltica educativa. Adems, las encuestas educativas pretenden explicar
la diferencia de resultados entre pases, centros y alumnos. Por ejemplo, un investigador podra
estar interesado en la diferencia de rendimiento entre chicos y chicas.
Cmo puede resumirse la informacin?
Con relacin a los pases, el procedimiento ms directo para resumir la informacin de los tems
sera calcular el porcentaje medio de respuestas correctas. Este sistema se ha usado con mucha
frecuencia en encuestas anteriores, nacionales e internacionales, y todava se usa en algunas
encuestas internacionales actuales, incluso cuando se utilizan modelos ms complejos. Estas
encuestas pueden aportar el porcentaje total de respuestas correctas en matemticas y ciencias,
adems de detallarlo segn sub-reas de contenido (por ejemplo, biologa, fsica, qumica, ciencias de la Tierra, etctera). Por ejemplo, en matemticas, el porcentaje total de respuestas correctas para un pas podra ser 54% y en otro, 65%.
La gran ventaja de este tipo de informacin es que todo el mundo puede entenderla. Cualquiera
puede imaginar una prueba de matemticas y visualizar qu representa un 54% y un 65% de
respuestas correctas. Estas dos cifras tambin aportan un sentido a la diferencia de resultados
entre los dos pases.

64 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Sin embargo, existen algunas debilidades en este enfoque, ya que el porcentaje de respuestas
correctas depende de la dificultad de la prueba. El tamao real de la diferencia de resultados
entre dos pases depende de esta dificultad, lo que puede llevar a interpretaciones equivocadas.
Las encuestas internacionales no pretenden slo comunicar un nivel general de rendimiento. A
lo largo de las ltimas dcadas, los responsables de polticas educativas se han interesado mucho por los indicadores de equidad. Tambin pueden interesarse por el grado de dispersin de
los resultados en su pas. En algunos pases, los resultados pueden estar agrupados alrededor
de la media y en otros quiz haya gran nmero de alumnos con puntuaciones muy altas o muy
bajas.
Sera imposible calcular ndices de dispersin tan slo con los ndices de dificultad, basados en
el porcentaje de respuestas correctas de todos los tems. Para ello, la informacin recopilada en
la prueba tambin debe resumirse a nivel del alumno.
Para comparar los resultados de dos alumnos evaluados con dos tests diferentes, stos deben
tener exactamente la misma dificultad media. En el caso de PISA, puesto que todos los tems
incluidos en el estudio principal suelen haberse probado en un estudio piloto, los responsables
de las pruebas disponen de una cierta idea previa de las dificultades de los tems y, por tanto,
pueden asignarlos a las diferentes pruebas de modo que los tems de cada una tengan ms o
menos la misma dificultad media. Sin embargo, las dos pruebas nunca tendrn exactamente la
misma dificultad.
La distribucin de las dificultades de los tems influir en la distribucin del rendimiento de los
alumnos expresado como puntuacin directa. Por ejemplo, una prueba con tan slo tems de
dificultad media generar una distribucin de puntuaciones por alumno diferente de un test
que contenga una gran cantidad de tems difciles.
Esto tambin se complica an ms en PISA, ya que este estudio evala tres, incluso cuatro reas
de conocimiento por ciclo. Esta evaluacin mltiple reduce el nmero de tems disponibles para
cada rea de conocimiento en la prueba, y es ms fcil garantizar la comparabilidad de dos
pruebas de 60 tems que dos de, por ejemplo, 15 tems.
Si las diferentes pruebas se asignan aleatoriamente a los alumnos, puede suponerse la igualdad
de las subpoblaciones en cuanto a puntuacin media y varianza en el rendimiento de los alumnos. Dicho de otro modo,

la media de la puntuacin directa debera ser idntica para las distintas pruebas;

la varianza de las puntuaciones directas de los alumnos debera tambin ser idntica.

Si no ocurre as, eso significara que las distintas pruebas no tienen exactamente las mismas
propiedades psicomtricas. Para superar este problema se pueden tipificar las puntuaciones
directas de los alumnos en cada prueba. Como puede suponerse la igualdad de las subpoblaciones, las diferencias de los resultados se debern a diferencias en las caractersticas de las
pruebas. La tipificacin neutralizara el efecto de dichas diferencias en el rendimiento de los
alumnos.
Sin embargo, normalmente slo se realizan pruebas a una muestra de alumnos de las diferentes
subpoblaciones. Como ya se ha explicado en los dos captulos anteriores, el proceso de mues-

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

65

treo genera incertidumbre alrededor de cualquier estimacin poblacional. Por tanto, incluso si
unas pruebas distintas presentan exactamente las mismas propiedades psicomtricas y se asignan de modo aleatorio, la media y la desviacin tpica del rendimiento de los alumnos en las
distintas pruebas puede diferir ligeramente. Puesto que las caractersticas de las pruebas y la
variabilidad del muestreo se conjuntan, no puede suponerse que las puntuaciones directas de
los alumnos obtenidas con pruebas distintas sean totalmente comparables.
Tambin pueden esgrimirse otros argumentos psicomtricos contra el uso de puntuaciones
directas, basadas en el porcentaje de respuestas correctas, para evaluar el rendimiento de los
alumnos. Las puntuaciones directas se encuentran en una escala de razn en la medida en que
la interpretacin del resultado se limita al nmero de respuestas correctas. Un alumno que obtenga un 0 en esta escala no ha contestado correctamente a ninguna pregunta, pero no podra
considerarse que carece completamente de capacidades, mientras que un alumno que obtiene
un 10 ha contestado correctamente dos veces ms que uno con 5, pero no posee necesariamente
el doble de capacidad. Del mismo modo, no podra considerarse que un alumno con una puntuacin mxima posea la capacidad tambin en grado mximo (Wright y Stone, 1979).
El modelo de Rasch para los temes dicotmicos
Introduccin
Supongamos que alguien desea estimar la competencia de un saltador de altura. Podra medirla
o expresarla como su

mejor marca individual;

mejor marca individual durante una competicin oficial e internacional;

rendimiento medio durante un perodo determinado de tiempo;

rendimiento ms frecuente durante un perodo determinado de tiempo.

La figura 4.1. presenta la proporcin de saltos vlidos para dos saltadores de altura durante el
ltimo ao.
Figura 4.1. Proporcin de saltos vlidos por altura del salto

66 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Los dos atletas han logrado siempre saltar 165 centmetros. A partir de ah, la proporcin de
saltos vlidos decae progresivamente hasta que alcanza 0 para ambos saltadores. Sin embargo,
mientras que para el primer atleta dicha proporcin comienza a descender a los 170 centmetros, para el segundo slo ocurre a partir de 185 centmetros.
Estos datos pueden ilustrarse gracias a un modelo de regresin logstica. Este anlisis estadstico consiste en explicar una variable dicotmica mediante una variable continua. En este ejemplo, la variable continua explicar el xito o el fracaso de un saltador determinado segn la altura del salto. El resultado de este anlisis permitir la estimacin de la probabilidad de xito para
cada altura. En la figura 4.2 se representa la probabilidad de saltos vlidos para los dos atletas.
Figura 4.2. Probabilidad de saltos vlidos segn la altura del salto para los dos atletas

Estas dos funciones expresan la probabilidad de xito para los dos saltadores de altura. La curva punteada representa la probabilidad de saltos vlidos para el primero y la curva continua, la
probabilidad para el segundo.
Por convencin,2 el nivel de rendimiento se definira como la altura donde la probabilidad de
xito es igual a 0,5. Se trata de una convencin razonable, ya que por debajo de ese nivel, la
probabilidad de xito es menor que la de fracaso, y por encima de ese nivel ocurre a la inversa.
En este ejemplo concreto, el rendimiento de los dos saltadores es, respectivamente, 190 y 202,5.
Advirtase, a partir de la figura 4.1, que el rendimiento del primer saltador se observa directamente, mientras que para el segundo saltador no es as y debe estimarse a partir del modelo.
Una propiedad clave de este tipo de planteamiento es que la altura de la barra que hay que
superar y el rendimiento de los saltadores se expresan en la misma mtrica o escala.
El escalamiento de datos cognitivos segn el modelo de Rasch sigue el mismo principio. La
dificultad de los tems es anloga a la dificultad del salto basada en la altura de la barra. Adems, de la misma forma que un salto concreto tiene dos resultados posibles, es decir, xito o
fracaso, la respuesta de un alumno a una pregunta concreta es o bien correcta, o bien incorrecta.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

67

Por ltimo, as como el rendimiento de cada saltador se defina en el punto donde la probabilidad de xito era 0,5, la capacidad o el rendimiento del alumno se mide de la misma forma, donde la probabilidad de xito con un tem es igual a 0,5.
Una caracterstica del modelo de Rasch es que crea un continuo en el que se localizarn tanto el
rendimiento del alumno como la dificultad del tem, y una funcin probabilstica relaciona estos
dos componentes. Los estudiantes con bajo rendimiento y los tems fciles estarn situados a la
izquierda del continuo o escala, mientras que los estudiantes con alto rendimiento y los tems
difciles se situarn a la derecha. La figura 4.3 representa la probabilidad de xito (curva punteada) y la probabilidad de fracaso (curva continua) para un tem de dificultad cero.
Figura 4.3. Probabilidad de xito de un tem de dificultad cero como funcin de la capacidad
del alumno

Como se muestra en la figura 4.3, un alumno con capacidad cero tiene una probabilidad de 0,5
de xito en un tem de dificultad cero y una probabilidad de 0,5 de fracaso. Un alumno con capacidad 2 tiene una probabilidad de xito de algo ms de 0,10 y una probabilidad de algo menos de 0,90 de fracaso en el mismo tem de dificultad cero. Pero este estudiante tendr una probabilidad de 0,5 de xito en un tem de dificultad 2.
Desde un punto de vista matemtico, la probabilidad de que un estudiante i, con una capacidad
i, conteste correctamente a un tem j de dificultad j es igual a:

P (X ij = 1 | i , j ) =

exp( i j )

1 + exp( i j )

Del mismo modo, la probabilidad de fracaso es igual a:

P (X ij = 0 | i , j ) =

1 + exp( i j )

68 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Puede demostrarse fcilmente que:

P (X ij = 1 | i , j ) + P (X ij = 0 | i , j ) = 1
Dicho de otro modo, la probabilidad de xito y la probabilidad de fracaso siempre suman uno.
Las tablas 4.1 a 4.5 presentan la probabilidad de xito para distintas capacidades de los alumnos
y distintas dificultades de los tems.
Tabla 4.1. Probabilidad de xito cuando la capacidad del alumno es igual a la dificultad del
tem
Capacidad del alumno
2
1
0
1
2

Dificultad del tem


2
1
0
1
2

Probabilidad de xito
0,50
0,50
0,50
0,50
0,50

Tabla 4.2. Probabilidad de xito cuando la capacidad del alumno es 1 unidad menor que la
dificultad del tem
Capacidad del alumno
2
1
0
1
2

Dificultad del tem


1
0
1
2
3

Probabilidad de xito
0,27
0,27
0,27
0,27
0,27

Tabla 4.3. Probabilidad de xito cuando la capacidad del alumno es 1 unidad mayor que la
dificultad del tem
Capacidad del alumno
2
1
0
1
2

Dificultad del tem


3
2
1
0
3

Probabilidad de xito
0,73
0,73
0,73
0,73
0,73

Tabla 4.4. Probabilidad de xito cuando la capacidad del alumno es 2 unidades menor que la
dificultad del tem
Capacidad del alumno
2
1
0
1
2

Dificultad del tem


0
1
2
3
4

Probabilidad de xito
0,12
0,12
0,12
0,12
0,12

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

69

Tabla 4.5. Probabilidad de xito cuando la capacidad del alumno es 2 unidades mayor que la
dificultad del tem
Capacidad del alumno
2
1
0
1
2

Dificultad del tem


4
3
2
1
0

Probabilidad de xito
0,88
0,88
0,88
0,88
0,88

Debera advertirse que:

Cuando la capacidad del alumno es igual a la dificultad del tem, la probabilidad de xito
siempre ser igual a 0,50, sin que importen las posiciones en el continuo ni de la capacidad
del alumno ni de la dificultad del tem.

Si la dificultad del tem supera a la capacidad del alumno en una unidad de Rasch, denominada logit, la probabilidad de xito ser siempre igual a 0,27, sin que importe la posicin en
el continuo de la capacidad del alumno.

Si la capacidad del alumno supera a la dificultad del tem en un logit, la probabilidad de


xito ser siempre igual a 0,73, sin que importe la posicin en el continuo de la capacidad
del alumno.

Si la capacidad del alumno y la dificultad del tem estn separadas por dos unidades, las
probabilidades de xito sern de 0,12 y 0,88 respectivamente.

A partir de estas observaciones, es evidente que el nico factor que influye en la probabilidad
de xito es la distancia en el continuo de Rasch entre la capacidad del alumno y la dificultad del
tem.
Estos ejemplos tambin ilustran la simetra de la escala. Si la capacidad del alumno es un logit
menor que la dificultad del tem, la probabilidad de xito ser 0,27, que es 0,23 menor que la
probabilidad de xito cuando la capacidad y la dificultad son iguales. Si la capacidad del alumno es un logit mayor que la dificultad del tem, la probabilidad de xito ser 0,73, que es 0,23
mayor que la probabilidad de xito cuando la capacidad y la dificultad son iguales. Del mismo
modo, una diferencia de dos logit genera un cambio de 0,38.

Calibracin del tem


Por supuesto, en situaciones reales la respuesta de un alumno ser correcta o incorrecta; por
tanto, cul es el significado de una probabilidad de xito de 0,5 en trminos de respuestas correctas o incorrectas? Dicho de manera simple, puede hacerse la siguiente interpretacin:

si 100 alumnos con una capacidad de 0 tienen que responder a un tem de dificultad 0, el
modelo predecir 50 respuestas correctas y 50 incorrectas;

si un alumno con capacidad de 0 tiene que responder a 100 tems, todos ellos de dificultad

70 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

0, el modelo predecir 50 respuestas correctas y 50 incorrectas.


Como ya se ha descrito, el modelo de Rasch, aunque sea una funcin probabilstica, elabora un
continuo relativo en el que se localizan la dificultad del tem y la capacidad del alumno. En el
ejemplo de los saltadores de altura, el continuo ya existe, es decir, se trata del continuo fsico de
la altura en metros. Con datos cognitivos, es necesario construir el continuo. Por analoga, esto
consiste en construir un continuo sobre el que se pueda ubicar la altura desconocida de las barras de salto, esto es, la dificultad de los tems. Hay tres principios bsicos subyacentes en la
construccin del continuo de Rasch:

La dificultad relativa de un tem resulta de la comparacin de ese tem con todos los dems.
Supongamos que una prueba consiste en slo dos tems. Intuitivamente, el patrn de respuesta (0,0) y (1,1) donde 1 es una respuesta correcta y 0, incorrecta y donde los pares ordenados se refieren a las respuestas a los tems 1 y 2 no aporta informacin para comparar los dos tems. Las respuestas de estos modelos son idnticas. Por otra parte, las respuestas (1,0) y (0,1) son distintas y s aportan informacin en esa comparacin. Si 50 estudiantes
tienen el patrn de respuesta (0,1) y slo 10 tienen (1,0), el segundo tem es considerablemente ms fcil que el primero. De hecho, 50 alumnos acertaron en el segundo tem, mientras que fallaban el primero, y slo 10 acertaron en el primero, mientras que fallaban el segundo. Esto significa que si una persona acierta en uno de estos dos tems, la probabilidad
de xito en el segundo tem es cinco veces ms alta que la probabilidad de acertar en el primero. Por lo tanto, es ms fcil tener xito en el segundo que en el primero. Advirtase que
la dificultad relativa de los dos tems es independiente de las capacidades de los alumnos.

A medida que se determinan las dificultades mediante la comparacin de tems, se crea una
escala relativa y, por tanto, hay un nmero infinito de puntos en esa escala. En trminos generales, el proceso de superar esta condicin es comparable a la necesidad de crear puntos
de anclaje en las escalas de temperatura. Por ejemplo, Celsius fij dos puntos de referencia:
la temperatura a la que se congela el agua y la temperatura a la que hierve. Llam 0 al primer punto de referencia, 100 al segundo y, como consecuencia, defini la unidad de medida
como la centsima parte de la distancia entre los dos puntos de referencia. En el caso del
modelo de Rasch, la unidad de medida se define segn la funcin probabilstica que relaciona los parmetros de dificultad del tem y de capacidad del alumno. Por tanto, slo es
necesario definir un punto de referencia. El punto de referencia ms comn consiste en centrar las dificultades de los tems en cero. Sin embargo, pueden usarse otros puntos de referencia arbitrarios, como centrar las capacidades de los alumnos en cero.

Este continuo permite el clculo de la dificultad relativa de los tems aplicados parcialmente
a distintas subpoblaciones. Supongamos que el primer tem se aplic a todos los alumnos y
el segundo, slo a los alumnos de baja capacidad. La comparacin de tems slo se llevar a
cabo en la subpoblacin que recibi ambos tems, es decir, la poblacin de estudiantes de
baja capacidad. La dificultad relativa de los dos tems se basar en este subconjunto comn
de alumnos.

Una vez que las dificultades de los tems se han situado en el continuo de Rasch, pueden calcularse las puntuaciones de los alumnos. La lnea de la figura 4.4 representa un continuo de Rasch.
Las dificultades de los tems estn situadas por encima de esa lnea y los nmeros de tem, por

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

71

debajo. Por ejemplo, el tem 7 representa un tem difcil y el tem 17, uno fcil. Esta prueba incluye algunos tems fciles, un gran nmero de tems de dificultad media y algunos tems difciles. Los smbolos X por encima de la lnea representan la distribucin de las puntuaciones de los
alumnos.
Figura 4.4. Distribuciones de la puntuacin de los alumnos y de la dificultad de los tems en
un continuo de Rasch

Clculo de la puntuacin de un alumno


Una vez que se han situado las dificultades de los tems en la escala de Rasch, pueden calcularse
las puntuaciones de los alumnos. En una seccin previa, se mencion que la probabilidad de
que un alumno i, con una capacidad i, conteste correctamente a un tem j de dificultad j es
igual a:

P (X ij = 1 | i , j ) =

exp( i j )

1 + exp( i j )

Del mismo modo, la probabilidad de fracaso es igual a:

P (X ij = 0 | i , j ) =

1 + exp( i j )

El modelo de Rasch supone la independencia de los tems; es decir, la probabilidad de una respuesta correcta no depende de las respuestas dadas a otros tems. Como consecuencia, la probabilidad de acertar en dos tems es igual al producto de las dos probabilidades individuales de
acierto.
Consideremos una prueba de cuatro tems con las siguientes dificultades: 1, 0,5, 0,5 y 1. Existen 16 patrones posibles de respuesta. Estos patrones se presentan en la tabla 4.6.
Tabla 4.6. Posibles patrones de respuesta para una prueba de cuatro tems
Puntuacin directa
0
1
2
3
4

Patrones de respuesta
(0,0,0,0)
(1,0,0,0), (0,1,0,0), (0,0,1,0), (0,0,0,1)
(1,1,0,0), (1,0,1,0), (1,0,0,1), (0,1,1,0), (0,1,0,1), (0,0,1,1)
(1,1,1,0), (1,1,0,1), (1,0,1,1), (0,1,1,1)
(1,1,1,1)

72 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Para cualquier capacidad del alumno llamada i, es posible calcular la probabilidad de cualquier patrn de respuesta. Calculemos la probabilidad del patrn de respuesta (1,1,0,0) para tres
estudiantes con una capacidad de 1, 0 y 1.
Tabla 4.7. Probabilidad del patrn de respuesta (1,1,0,0) para tres capacidades de alumnos
i = 1

i = 0

i = 1

tem 1

1 = 1

Respuesta = 1

0,50

0,73

0,88

tem 2

2 = 0,5

Respuesta = 1

0,38

0,62

0,82

tem 3

3 = 0,5

Respuesta = 0

0,82

0,62

0,38

tem 4

4 = 1

Respuesta = 0

0,88

0,73

0,50

Probabilidad de obtener el patrn de respuesta

0,14

0,21

0,14

La probabilidad de acierto para el primer estudiante en el primer tem es igual a:

exp( 1 ( 1))
P (X ij = 1 | i , j ) = P( X 1,1 = 1 | 1, 1)
= 0,5
1 + exp( 1 ( 1))
La probabilidad de acierto para el primer estudiante en el segundo tem es igual a:

exp( 1 ( 0,5))
P (X ij = 1 | i , j ) = P( X 1, 2 = 1 | 1, 0,5)
= 0,38
1 + exp( 1 ( 0,5))
La probabilidad de fallo para el primer estudiante en el tercer tem es igual a:

1
P (X ij = 0 | i , j ) = P( X 1,3 = 0 | 1, 0,5)
= 0,82
1 + exp( 1 0,5)
La probabilidad de fallo para el primer estudiante en el cuarto tem es igual a:

1
P (X ij = 0 | i , j ) = P( X 1, 4 = 0 | 1, 1)
= 0,88
1 + exp( 1 1)
Como estos cuatro tems se consideran independientes, la probabilidad del patrn de respuesta
(1,1,0,0) para un alumno de capacidad i = 1 es igual a:
0,50 0,38 0,82 0,88 = 0,14.
Dadas las dificultades del tem, un alumno con capacidad i = 1 tiene 14 probabilidades entre
100 de responder correctamente a los tems 1 y 2 de dar una respuesta equivocada en los tems 3
y 4. Del mismo modo, un alumno con capacidad i = 0 tiene una probabilidad de 0,21 de contestar segn el mismo patrn de respuesta y un alumno con capacidad i = 1 tiene una probabilidad de 0,14.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

73

Figura 4.5. Probabilidades para el patrn de respuesta (1,1,0,0)

Este proceso puede aplicarse a una amplia gama de capacidades de alumnos y para todos los
patrones de respuesta posibles. La figura 4.5 presenta la probabilidad de observar el patrn de
respuesta (1,1,0,0) para todas las capacidades de alumnos entre 6 y +6. Como se ha demostrado, el valor ms probable corresponde a una capacidad del alumno de 0. Por tanto, el modelo
de Rasch estimar la capacidad de cualquier alumno con un patrn de respuesta (1,1,0,0) en 0.
La figura 4.6 presenta la distribucin de las probabilidades para todos los patrones de respuesta
con slo un tem correcto. Como se muestra en la tabla 4.6, hay cuatro patrones de respuesta
con un solo tem correcto: (1,0,0,0), (0,1,0,0), (0,0,1,0) y (0,0,0,1).
Figura 4.6. Probabilidades de los patrones de respuesta para una puntuacin directa de 1

La figura 4.6 muestra claramente que:

El patrn de respuesta ms probable para todos los alumnos que slo acierten un tem es

74 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

(1,0,0,0) y el patrn menos probable, (0,0,0,1). Cuando un alumno slo acierta una respuesta, se espera que la respuesta correcta sea al tem ms fcil, es decir, al nmero 1. Tambin
es inesperado que esta respuesta correcta sea al tem ms difcil, es decir, al nmero 4.

Sea cual sea el patrn de respuesta, el valor ms probable siempre corresponde al mismo
valor para la capacidad del alumno. Por ejemplo, la capacidad del alumno ms probable
para el patrn de respuesta (1,0,0,0) est alrededor de 1,25. Esta tambin es la capacidad
del alumno ms probable para los dems patrones de respuesta.

El modelo de Rasch, por tanto, proporcionar el valor 1,25 para todos los estudiantes que den
una sola respuesta correcta, sea cual sea el tem acertado.
De la misma forma, como se muestra en las figuras 4.7 y 4.8:

el patrn de respuesta ms probable con dos tems correctos es (1,1,0,0);

la capacidad del alumno ms probable siempre es la misma para cualquier patrn de respuesta que incluya dos respuestas correctas (0 en este caso);

el patrn de respuesta ms probable con tres tems correctos es (1,1,1,0);

la capacidad del alumno ms probable siempre es la misma para cualquier patrn de respuesta que incluya tres respuestas correctas (+1,25 en este caso).

Este tipo de estimacin de capacidades de Rasch suele llamarse estimacin de mxima verosimilitud. Como se muestra en estas figuras, por puntuacin directa, es decir, cero respuestas correctas, una respuesta correcta, dos respuestas correctas y as sucesivamente, el modelo de Rasch
proporcionar una nica estimacin de mxima verosimilitud.
Figura 4.7. Probabilidades de los patrones de respuesta para una puntuacin directa de 2a

En este ejemplo, puesto que la funcin de verosimilitud para el modelo de respuesta (1,0,0,1) es totalmente similar al
del modelo (0,1,1,0), estas dos lneas se superponen en la figura.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

75

Figura 4.8. Probabilidades de los patrones de respuesta para una puntuacin directa de 3

Se ha demostrado que esta estimacin de mxima verosimilitud (MLE en sus siglas en ingls)
est sesgada y se ha propuesto ponderar la contribucin de cada tem segn la informacin que
pueda proporcionar dicho tem (Warm, 1989). Por ejemplo, un tem difcil no proporciona mucha informacin para un estudiante de bajo rendimiento. Por otra parte, este tem puede aportar
ms informacin para un alumno de alto rendimiento. Por tanto, para un alumno de bajo rendimiento, los tems fciles contribuirn ms que los difciles y, de la misma forma, para un
alumno de alto rendimiento, los tems difciles contribuirn ms que los fciles. Por tanto, las
estimaciones de Warm y las estimaciones MLE son tipos similares de estimacin de la capacidad individual de los alumnos.
Puesto que la estimacin de Warm corrige el pequeo sesgo de las estimaciones de mxima
verosimilitud, suele preferirse como estimacin de la capacidad de un individuo. Por tanto, en
PISA, se calculan estimaciones de mxima verosimilitud ponderadas (WLE) aplicando pesos a
las estimaciones de mxima verosimilitud (MLE), con objeto de corregir el sesgo inherente a
ellas, siguiendo la propuesta de Warm.

Clculo de la puntuacin de un alumno para diseos incompletos


Como ya se ha dicho, PISA utiliza un diseo de cuadernillos rotado para superar las exigencias
contrapuestas de una duracin limitada de las pruebas para los alumnos y una amplia cobertura del rea evaluada. Un diseo de prueba en el que los alumnos reciben un subconjunto de los
tems se llama un diseo incompleto. Los principios para calcular la estimacin de la capacidad
individual del alumno descritos en la seccin anterior siguen siendo aplicables a los diseos

76 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

incompletos.
Supongamos que dos alumnos con capacidades de 1 y 1 tienen que responder dos de los cuatro tems presentados en la tabla 4.8. El alumno con i = 1 debe responder a los primeros dos
tems, es decir, los ms fciles, y el alumno con i = 1 debe responder a los dos ltimos, es decir,
los ms difciles. Los dos alumnos aciertan en su primer tem y fallan en el segundo.
Tabla 4.8. Probabilidad del patrn de respuesta (1,0) para dos alumnos de diferente capacidad en un diseo incompleto de tests
tem 1
1 = 1
tem 2
2 = 0,5
tem 3
3 = 0,5
tem 4
4 = 1
Patrn de respuesta

Respuesta = 1
Respuesta = 0
Respuesta = 1
Respuesta = 0

i = 1
0,50
0,62

0,31

i = 1

0,62
0,50
0,31

Ambos patrones tienen una probabilidad de 0,31 para ambas capacidades de 1 y 1. Al igual
que antes, estas probabilidades pueden calcularse para una amplia gama de capacidades del
alumno. La figura 4.9 presenta las probabilidades del patrn de respuesta (1,0) para la prueba
fcil (lnea punteada) y para la prueba difcil (lnea continua).
Figura 4.9. Probabilidad del patrn de respuesta para una prueba fcil y una difcil

Basndonos en la figura 4.9, podemos establecer que para cualquier alumno que haya acertado
un tem del test fcil, el modelo estimar la capacidad del alumno en 0,75, y que para cualquier
alumno que haya acertado un tem del test difcil, el modelo estimar la capacidad del alumno
en 0,75. Si las puntuaciones directas se usaran como estimaciones de la capacidad del alumno,
en ambos casos obtendramos 1 de 2, o 0,5.
En resumen, la puntuacin directa no tiene en cuenta la dificultad del tem y, por tanto, la interpretacin de la puntuacin directa depende de las dificultades de los tems. Por otra parte, el
modelo de Rasch usa el nmero de respuestas correctas y las dificultades de los tems aplicados

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

77

a un alumno concreto para estimar su capacidad. As pues, una puntuacin de Rasch puede
interpretarse con independencia de las dificultades de los tems. En la medida en que todos los
tems puedan ubicarse en el mismo continuo, el modelo de Rasch puede proporcionar estimaciones de la capacidad de los alumnos totalmente comparables, incluso si los alumnos fueron
evaluados con distintos subconjuntos de tems. Ntese, sin embargo, que una determinacin
vlida de la puntuacin Rasch del alumno depende de tener conocimiento exacto de las dificultades de los tems.

Condiciones ptimas para relacionar temes


Cuando se usan pruebas diferentes, deben satisfacerse algunas condiciones. En primer lugar,
los datos recogidos mediante esas pruebas deben enlanzarse. Sin ningn enlace, los datos recogidos mediante dos pruebas diferentes no pueden ubicarse en una nica escala. Normalmente,
las pruebas se relacionan haciendo que distintos alumnos contesten a tems comunes o evaluando a los mismos alumnos con ambas pruebas.
Supongamos que un investigador desea estimar el crecimiento en competencia lectora entre una
poblacin de alumnos de 2 curso y otra de 4 curso. Se elaborarn dos pruebas y ambas estarn
orientadas al grado de competencia esperado en ambas poblaciones. Para asegurar que ambas
pruebas puedan escalarse en el mismo continuo, algunos tems difciles de la prueba de 2curso
se incluirn en la de 4 curso, digamos los tems 7, 34, 19, 23 y 12.

78 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Figura 4.10. Anclaje de tems de Rasch

La figura 4.10 representa este proceso de anclaje entre tems. La parte izquierda de la figura
presenta los resultados del escalamiento de la prueba de 2 curso, con los temes centrados en
cero. Para el escalamiento de los datos de la de 4 curso, el punto de referencia ser la dificultad
en 2 curso de los tems de anclaje. Despus, la dificultad de los otros temes de 4 curso se fijar
segn este punto de referencia, como se muestra en la parte derecha de la figura 4.10.
Con este proceso de anclaje, las dificultades de los tems de los cursos 2 y 4 se situarn en un
nico continuo. Por tanto, las estimaciones de capacidad de los alumnos de 2 y 4 tambin se
situarn en el mismo continuo.
Para estimar con exactitud el aumento entre los niveles 2 y 4, el investigador garantizar que la
ubicacin de los tems de anclaje en ambas pruebas es similar.
Desde un punto de vista terico, slo es necesario un tem para relacionar dos pruebas diferentes. Sin embargo, esta situacin est lejos de ser ptima. Un diseo incompleto equilibrado presenta la mejor garanta para transmitir datos de diferentes pruebas en una nica escala. PISA

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

79

2003 adopt este sistema, en el que el conjunto de tems se dividi en 13 bloques. La asignacin
de tems a los bloques tiene en cuenta la dificultad esperada de los tems y el tiempo calculado
como necesario para responderlos. La tabla 4.9 presenta el diseo de de las pruebas de PISA
2003. Los 13 bloques de tems se denominaron de C1 a C13, respectivamente. Se elaboraron 13
cuadernillos, cada uno de ellos con cuatro partes, llamadas grupo 1 a grupo 4. Cada cuadernillo
comprenda cuatro bloques. Por ejemplo, el cuadernillo 1 se compona de los bloques 1, 2, 4 y
10.
TABLA 4.9. Diseo de las pruebas de PISA 2003
Cuadernillo 1
Cuadernillo 2
Cuadernillo 3
Cuadernillo 4
Cuadernillo 5
Cuadernillo 6
Cuadernillo 7
Cuadernillo 8
Cuadernillo 9
Cuadernillo 10
Cuadernillo 11
Cuadernillo 12
Cuadernillo 13

Grupo 1
C1
C2
C3
C4
C5
C6
C7
C8
C9
C10
C11
C12
C13

Grupo 2
C2
C3
C4
C5
C6
C7
C8
C9
C10
C11
C12
C13
C1

Grupo 3
C4
C5
C6
C7
C8
C9
C10
C11
C12
C13
C1
C2
C3

Grupo 4
C10
C11
C12
C13
C1
C2
C3
C4
C5
C6
C7
C8
C9

Con este diseo, cada bloque aparece cuatro veces, una en cada posicin. Adems, cada par de
bloques aparece slo una vez.
Este diseo debera garantizar que el proceso de enlace no se vea influido por la ubicacin respectiva de los tems de anclaje en los distintos cuadernillos.

Extensin del modelo de Rasch


Wright y Masters han generalizado el modelo original de Rasch a tems politmicos, con el
normalmente llamado modelo de crdito parcial (Wright y Masters, 1982). Mediante este modelo,
los tems pueden puntuarse como incorrectos, parcialmente correctos y correctos. Los tems
cognitivos de PISA se han calibrado segn este modelo.
Este modelo de tems politmicos tambin puede aplicarse a datos de escala tipo Likert. Por
supuesto, no hay respuestas correctas o incorrectas en tales escalas, pero los principios bsicos
son los mismos: las posibles respuestas pueden ser ordenadas. Los datos de los cuestionarios de
PISA se escalan con el modelo logstico de un parmetro para los tems politmicos.
Otros modelos de la teora de la respuesta al tem
Una distincin clsica entre modelos de la Teora de Respuesta al tem se refiere al nmero de
parmetros empleados para describir los tems. El modelo de Rasch se designa como un modelo
de parmetro nico porque las curvas caractersticas de los tems slo dependen de la dificultad

80 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

de stos. En el modelo logstico de tres parmetros, las curvas caractersticas de los tems dependen de: 1) el parmetro dificultad del tem; 2) el parmetro discriminacin del tem; y 3) lo que
puede denominarse el parmetro acierto por adivinacin. Este ltimo parmetro cubre el hecho
de que, en una prueba de eleccin mltiple, todos los alumnos tienen alguna oportunidad por
pura suerte de contestar al tem correctamente, sin que importe la dificultad de ste.
Conclusiones
El modelo de Rasch fue diseado para construir un continuo simtrico en el que puedan situarse tanto la dificultad del tem como la capacidad del alumno. Ambas quedan enlazadas mediante una funcin logstica. Con esta funcin es posible calcular la probabilidad de que un alumno
acierte en un tem.
Adems, debido a esta equiparacin probabilstica, no es necesario aplicar la batera completa
de tems a cada alumno. Si se asegura la presencia de algunos tems de anclaje, el modelo de
Rasch ser capaz de crear una escala en la que se situarn todos los tems y todos los alumnos.
Esta ltima caracterstica del modelo de Rasch constituye una de las razones principales por las
que este modelo se ha vuelto fundamental en las encuestas educativas.

Vase Measuring Student Knowledge and Skills A New Framework for Assessment (OCDE, 1999a) y The PISA 2003 Assessment Framework Mathematics, Reading, Science and Problem Solving Knowledge and Skills (OCDE, 2003b) (existe traduccin
espaola: Marcos tericos de PISA 2003: Conocimientos y destrezas en Matemticas, Lectura, Ciencias y Solucin de problemas,
Madrid: Ministerio de Educacin y Ciencia, Instituto Nacional de Evaluacin y Calidad del Sistema Educativo, 2004).
1

Las probabilidades de 0,5 fueron utilizadas pro primera vez por las teoras psicofsicas (Guilford, 1954).

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

81

Captulo 5

Los valores plausibles


Estimaciones individuales frente a estimaciones poblacionales ....................................................... 84
El significado de los valores plausibles ................................................................................................ 84
Comparacin de la eficacia de las Estimaciones de Mxima Verosimilitud de Warm, de las
Estimaciones Esperadas A Posteriori y de los Valores Plausibles para la estimacin de algunos
estadsticos poblacionales ................................................................................................................. 88
Cmo llevar a cabo anlisis con valores plausibles ............................................................................ 91
Conclusiones ............................................................................................................................................ 93

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

83

Estimaciones individuales frente a estimaciones de poblacin


Las pruebas educativas pueden tener dos propsitos principales:

Medir el conocimiento y las destrezas de determinados alumnos. Normalmente, el rendimiento de cada alumno influir en su futuro (carrera acadmica, admisin en estudios postsecundarios, etctera). Por tanto, es especialmente importante minimizar el error de medida
asociado con la estimacin de cada individuo.

Evaluar el conocimiento y las destrezas de una poblacin. El rendimiento de los individuos


no tendr impacto en su carrera acadmica ni en su vida profesional. En tal caso, el propsito de reducir el error al realizar inferencias sobre la poblacin es ms importante que el
propsito de reducir el error al nivel del individuo.

Las encuestas educativas nacionales o internacionales pertenecen a la segunda categora.


Las encuestas internacionales, como PISA, expresan el rendimiento de los alumnos mediante
valores plausibles (PV, de sus siglas en ingls).1 Este captulo explicar el significado conceptual
de los valores plausibles y la ventaja de utilizarlos al presentar los resultados. Se compararn
los estimadores individuales (como las estimaciones de mxima verosimilitud ponderada
[WLE] definidas en el captulo 4) con los valores plausibles cuando el objetivo consiste en estimar una gama de estadsticos poblacionales.
El significado de los valores plausibles
Un ejemplo tomado de las ciencias fsicas, la medida de un rea, servir para ilustrar este complejo concepto. Supongamos que el ayuntamiento de una ciudad decide imponer un nuevo
impuesto sobre inmuebles para aumentar la recaudacin. Este nuevo impuesto ser proporcional a la longitud del saln de la vivienda familiar. Unos inspectores visitarn todos los hogares
de la ciudad para medir la longitud de los salones, con cinta de medir e instrucciones de anotar
la longitud en trminos de nmeros enteros tan slo, es decir, 1 metro, 2 metros, 3 metros, 4
metros y as sucesivamente.
Los resultados de estas mediciones se muestran en la figura 5.1. Alrededor de un 3% de los salones tienen una longitud de 4 metros, algo ms del 16% tienen una longitud de 9 metros, etctera.

84 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Figura 5.1. Longitud de los salones expresada en nmeros enteros

Por supuesto, la realidad es bastante distinta, ya que la longitud es una variable continua. Con
una variable continua, las observaciones pueden tener cualquier valor entre el mnimo y el
mximo. Por otra parte, con una variable discontinua, las observaciones slo pueden tener un
nmero predefinido de valores. La figura 5.2 muestra la distribucin de la longitud de los salones segn la longitud anotada.
Figura 5.2. Longitud real segn la longitud anotada

Todos los salones con una longitud anotada de 5 metros no tienen exactamente 5 metros. De
media, tienen 5 metros de largo, pero su longitud vara alrededor de la media. La diferencia
entre la longitud anotada y la longitud real se debe al redondeo y al error de la medida. Un
inspector podra medir incorrectamente 5 metros en un determinado saln cuando en realidad

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

85

este mida 4,15 metros. Si el redondeo fuera la nica fuente de error, la longitud anotada debera
ser 4 metros. La segunda fuente de error, el error en la medida, explica el solapamiento en la
distribucin.
En este ejemplo concreto, las longitudes de los salones se distribuyen normalmente alrededor
de la media, que tambin es la longitud anotada. Si la diferencia entre la longitud y el nmero
entero ms cercano es pequea, la probabilidad de no anotar esta longitud con el nmero entero
ms cercano es muy baja. Por ejemplo, es improbable que una longitud de 4,15 metros se anote
como 5 metros o 3 metros. Sin embargo, a medida que aumenta la distancia entre la longitud
real y el nmero entero ms cercano, la probabilidad de no registrar esta longitud mediante el
entero ms cercano aumentar tambin. Por ejemplo, es probable que una longitud de 4,95 metros se anote como de 5 metros, mientras que una longitud de 4,5 se anotar tanto como de 4
metros que como de 5 metros.
La metodologa de los valores plausibles consiste en:

calcular matemticamente las distribuciones (llamadas distribuciones a posteriori o posteriores) alrededor de los valores anotados y la longitud comunicada en el ejemplo;

asignar a cada observacin un conjunto de valores aleatorios tomados a partir de las distribuciones posteriores.

Por lo tanto, los valores plausibles pueden definirse como valores aleatorios a partir de las distribuciones posteriores. En el ejemplo, a un saln de 7,154 metros que se registr como de 7
metros podra asignrsele cualquier valor de la distribucin normal alrededor de la longitud
comunicada de 7. Podra ser 7,45, 6,55 o 6,95. Por tanto, los valores plausibles no deberan utilizarse para estimaciones individuales.
Este ejemplo ficticio del campo de las ciencias fsicas puede trasladarse a las ciencias sociales.
Por ejemplo, con una prueba de 6 tems dicotmicos, una variable continua (por ejemplo, la
capacidad mental) puede ser transformada en una variable discontinua. La variable discontinua
ser la puntuacin directa del alumno o el nmero de respuestas correctas. Las nicas puntuaciones posibles son 0, 1, 2, 3, 4, 5 6.
Al contrario que la mayora de las medidas en las ciencias naturales, las medidas psicolgicas o
educativas incluyen errores considerables de medida, porque

el concepto que se mide es ms amplio;

pueden verse afectadas por la disposicin mental y fsica de los alumnos el da de la


evaluacin;

las condiciones en que se realice la prueba tambin pueden influir en los resultados.

Esto significa que existen grandes solapamientos en las distribuciones posteriores, como se ilustra en la figura 5.3.
Adems, con el ejemplo del saln, el error de medida de las distribuciones posteriores puede
considerarse independiente del saln.2 En educacin, el error de medida no siempre es independiente del nivel de rendimiento de los alumnos. Puede ser ms pequeo para los estudiantes de rendimiento medio y mayor para los que tienen rendimiento muy alto o muy bajo.
Adems, en este ejemplo particular, las distribuciones posteriores para la puntuacin 0 y la

86 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

puntuacin 6 son considerablemente asimtricas, como lo seran las distribuciones posteriores


de los salones con una longitud comunicada de 4 y 14 metros, si todos los salones menores de 4
metros se researon como de 4 y todos los mayores de 14, como de 14. Esto significa que las
distribuciones posteriores no se distribuyen normalmente, como se muestra en la figura 5.3.
Figura 5.3. Una distribucin posterior de un test de 6 temes

Generar valores plausibles en una prueba educativa consiste en obtener nmeros aleatorios a
partir de las distribuciones posteriores. Este ejemplo muestra claramente que los valores plausibles no deberan utilizarse como medida del rendimiento individual. De hecho, un alumno que
obtenga una puntuacin 0 podra recibir 3, pero tambin 1. Un alumno que obtenga una puntuacin de 6 podra recibir 3, pero tambin 1.
Se ha hecho notar que:
El mtodo ms sencillo para describir valores plausibles es decir que los valores plausibles son una representacin de la gama de capacidades que pueden suponerse razonablemente en un alumno. [...] En lugar de estimar directamente la capacidad de un
alumno, se estima una distribucin de probabilidad para . Es decir, en lugar de obtener
una estimacin puntual para de un alumno (como una estimacin WLE [de mxima
verosimilitud ponderada]), se estima un abanico de valores posibles para la magnitud
de un alumno, con una probabilidad asociada para cada uno de estos valores. Los valores plausibles son selecciones aleatorias de esta distribucin (estimada) de para un
alumno (Wu y Adams, 2002).3
Toda esta metodologa pretende elaborar un continuo a partir de una coleccin de variables
discontinuas (es decir, de las puntuaciones de las pruebas). Est pensada para evitar que se
produzcan inferencias sesgadas como resultado de medir una capacidad subyacente inobservable mediante una prueba que contiene un nmero relativamente pequeo de tems.
Por ltimo, a partir de las distribuciones posteriores tambin puede obtenerse una estimacin
individual de la capacidad del alumno. Esta estimacin individual derivada se llama estimador
esperado a posteriori (EAP). En vez de asignar un conjunto de valores aleatorios a partir de las

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

87

distribuciones posteriores, se asigna la media de estas ltimas. Por lo tanto, el EAP puede considerarse como la media de un conjunto infinito de valores plausibles para un alumno determinado.
Figura 5.4. Estimadores EAP

Puesto que slo se asigna un valor por cada distribucin posterior, el estimador EAP es tambin
una variable discontinua.4 Sin embargo, las estimaciones EAP y las estimaciones de verosimilitud ponderada (WLE) difieren, ya que las primeras requieren un supuesto de distribucin de la
poblacin, lo que no es el caso para las segundas. Adems, mientras que cualquier puntuacin
directa de una prueba determinada se asociar siempre con una nica WLE, a una determinada
puntuacin directa podr asociarse distintos valores EAP, segn las variables predictoras que se
utilicen como variables de condicionamiento.
Los investigadores que no estn acostumbrados a trabajar con valores plausibles podran considerar esta aparente aleatoriedad como una fuente de imprecisin. Pero esta impresin ser neutralizada cuando se comparen distintos tipos de estimadores Rasch (WLE, EAP y PV) de la capacidad del alumno para la estimacin de estadsticas poblacionales. Aunque la base de datos
de PISA 2003 slo incluye valores plausibles,5 la comparacin incorporar estimadores EAP
para demostrar los sesgos que aparecen cuando los analistas de datos utilizan la media de los
valores plausibles para obtener una nica puntuacin por alumno.
Comparacin de la eficacia de las Estimaciones de Mxima Verosimilitud de Warm, de las
Estimaciones Esperadas A Posteriori y de los Valores Plausibles para la estimacin de algunos
estadsticos de poblacionales6
Una comparacin entre distintos estimadores de la capacidad de los alumnos puede realizarse
sobre datos reales. Tal comparacin identificar diferencias, pero no identificar los mejores
estimadores para un estadstico poblacional concreto. Puede utilizarse una simulacin para
ilustrarlo.

88 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

La simulacin consiste en tres pasos principales:

Generacin de un conjunto de datos, que comprende una variable continua que represente
las capacidades del alumno (considerada como la variable latente), algunas variables de entorno (el gnero y un ndice de entorno social llamado HISEI), y un patrn de respuestas a
los tems con cdigo 0 para las respuestas incorrectas y 1 para las respuestas acertadas. Los
resultados presentados a continuacin se basan en una prueba ficticia de 15 tems.7

Clculo de los estimadores de capacidad del alumno, esto es, WLE, EAP y los PV8.

Estimacin de algunos parmetros poblacionales que involucran la capacidad del alumno


(es decir, la variable latente) y los diferentes estimadores de esa capacidad. Se realizar una
comparacin para:

la media, la varianza y algunos percentiles;

la correlacin;

la varianza entre centros y dentro de los centros.

El conjunto de datos contiene 5.250 alumnos distribuidos en 150 centros con 35 alumnos por
centro. La tabla 5.1 presenta la estructura del conjunto de datos simulado antes de importar los
estimadores Rasch de la capacidad del alumno.
Tabla 5.1. Estructura de los datos simulados
Centro
001
001
...
150
150

Alumno
01
02
...
34
35

Sexo
1
0

HISEI
32
45

tem 1
1
1

tem 2
1
0

0
1

62
50

0
0

0
1

...

tem 14
0
1

tem 15
0
0

1
1

1
1

La tabla 5.2 presenta la media y la varianza de la variable latente, los estimadores WLE y EAP, y
los cinco PV. Tambin se incluye la media de los cinco PV.
Tabla 5.2. Medias y varianzas de la variable latente y de los distintos estimadores de la capacidad del alumno
Variable latente
WLE
EAP
PV1
PV2
PV3
PV4
PV5
Media de los 5 estadsticos PV

Media
0,00
0,00
0,00
0,01
0,00
0,00
0,00
0,01
0,00

Varianza
1,00
1,40
0,75
0,99
0,99
1,01
1,01
0,00
1,00

La tabla 5.2 muestra que una buena estimacin de la media de la poblacin (es decir, la estimacin de la variable latente) se obtiene cualquiera que sea el tipo de variable latente usada (estimadores WLE o EAP, o valores plausibles). Puede demostrarse empricamente que ninguna de

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

89

las estimaciones difiere significativamente de la media esperada, es decir, 0,00 en este caso concreto (Wu y Adams, 2002). Adems, tambin se puede demostrar que la media de los WLE no
ser sesgada si la prueba est bien orientada, es decir, si la media de las dificultades de los tems
est alrededor de 0 en la escala de Rasch (Wu y Adams, 2002). Esto es, en una prueba bien
orientada, los alumnos obtendrn una puntuacin directa de aproximadamente un 50% de respuestas correctas. Si la prueba es demasiado fcil, la media de los WLE quedar subestimada
(esto se llama efecto techo), mientras que, si es demasiado difcil, la media de los WLE quedar
sobreestimada (esto se llama efecto suelo).
Estos ltimos resultados explican por qu la media de los WLE proporcionada en la base de
datos de PISA 2000 difiere de la media de los valores plausibles, especialmente para los pases
no pertenecientes a la OCDE. Para la subescala de reflexin en lectura, las medias obtenidas
para Canad utilizando WLE y PV son, respectivamente, 538,4 y 542,2 (es decir, muy cercanas).
En contraste, las medias obtenidas para el Per usando WLE y PV son, respectivamente, 352,2 y
322,7, que es una diferencia de aproximadamente 0,3 desviaciones tpicas. Existe sesgo cuando
se usan WLE para estimar la media, si la prueba no est bien orientada. Esta comparacin no
puede realizarse sobre la base de datos de PISA 2003, ya que slo contiene el rendimiento de los
alumnos con valores plausibles.
Para la varianza de la poblacin, la tabla 5.2 muestra que los valores plausibles dan estimaciones ms cercanas al valor esperado, mientras que los WLE lo sobreestiman y los EAP lo infraestiman. Los resultados coinciden con otros estudios de simulacin.
La tabla 5.3 presenta algunos percentiles calculados sobre los diferentes estimadores de capacidad. Por ejemplo, puesto que la varianza calculada mediante valores plausibles no est sesgada,
los percentiles basados en valores plausibles tampoco estn sesgados. Sin embargo, como las
estimaciones EAP y las varianzas de WLE estn sesgadas, los percentiles, sobre todo los percentiles extremos, tambin estarn sesgados. Estos resultados coinciden con otros estudios de simulacin ya citados.
La tabla 5.4 presenta la correlacin entre el ndice de entorno social HISEI y el gnero con las
variables latentes y los distintos estimadores de la capacidad de los alumnos. Los coeficientes de
correlacin con los WLE estn subestimados, mientras que los coeficientes de correlacin con
los estimadores EAP estn sobreestimados. Slo los coeficientes de correlacin con los valores
plausibles no presentan sesgo.9

90 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Tabla 5.3. Percentiles para la variable latente y los distintos estimadores de la capacidad del
alumno
P5

P10

P25

P50

P75

P90

P95

Variable latente

1,61

1,26

WLE

2,15

1,65

0,66

0,01

0,65

1,26

1,59

0,82

0,10

0,61

1,38

1,81

EAP

1,48

1,14

0,62

0,02

0,55

1,08

1,37

PV1
PV2

1,68

1,29

0,71

0,03

0,64

1,22

1,59

1,67

1,31

0,69

0,03

0,62

1,22

1,58

PV3

1,67

1,32

0,70

0,02

0,64

1,21

1,56

PV4

1,69

1,32

0,69

0,03

0,63

1,23

1,55

PV5
Media de los 5
estadsticos PV

1,65

1,30

0,71

0,02

0,62

1,20

1,55

1,67

1,31

0,70

0,03

0,63

1,22

1,57

Tabla 5.4. Correlacin entre HISEI y gnero con la variable latente y los distintos estimadores
de la capacidad del alumno
HISEI
0,40
0,33
0,46
0,41
0,42
0,42
0,40
0,40
0,41

Variable latente
WLE
EAP
PV1
PV2
PV3
PV4
PV5
Media de los 5 estadsticos PV

GNERO
0,16
0,13
0,17
0,15
0,15
0,13
0,15
0,14
0,14

Debera hacerse notar que ninguno de los coeficientes de regresin est sesgado para los distintos tipos de estimadores. Sin embargo, como las varianzas estn sesgadas para algunos estimadores, las varianzas residuales tambin presentarn sesgo. Por ello, el error tpico de los coeficientes de regresin estar sesgado en los casos de los estimadores WLE y EAP.
Por ltimo, la tabla 5.5 presenta las varianzas entre los centros y dentro de los centros. Las varianzas entre centros para los distintos estimadores no difieren del valor esperado de 0,33. Sin
embargo, los WLE sobreestiman la varianza dentro del centro, mientras que los EAP la subestiman. Estos resultados coinciden con otros estudios de simulacin (Monseur y Adams, 2002).
Como muestra este ejemplo, los valores plausibles proporcionan estimaciones sin sesgo.
Cmo llevar a cabo anlisis con valores plausibles
De acuerdo con lo establecido en la seccin anterior, un conjunto de valores plausibles, normalmente 5, se seleccionan para cada alumno dentro cada escala o subescala. Los estadsticos
poblacionales deberan estimarse utilizando cada valor plausible por separado. El estadstico
poblacional obtenido es, entonces, la media de los 5 estadsticos de valor plausible. Por ejemplo,

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

91

si estamos interesados en el coeficiente de correlacin entre el ndice social y el rendimiento de


lectura en PISA, deberan calcularse y, despus, promediarse cinco coeficientes de correlacin.
Tabla 5.5. Varianzas entre los centros y dentro de los centros
Varianza entre centros
Variable latente
WLE
EAP
PV1
PV2
PV3
PV4
PV5
Media de los 5 estadsticos PV

0,33
0,34
0,35
0,35
0,36
0,36
0,35
0,35
0,35

Varianza
dentro de los centros
0,62
1,02
0,38
0,61
0,60
0,61
0,61
0,61
0,61

Los analistas de datos no deberan promediar nunca los valores plausibles para cada alumno, es
decir, calcular en el conjunto de datos la media de los cinco valores plausibles a nivel del alumno y luego calcular el estadstico de inters a partir de ese valor promedio. Hacerlo as sera
equivalente a una estimacin EAP, que resulta sesgada, como se ha descrito en la seccin anterior.
Matemticamente, los anlisis secundarios con valores plausibles pueden describirse como sigue. Si es el estadstico poblacional y i es el estadstico de inters calculado sobre un valor
plausible, entonces:

1
M

i =1

, donde M es el nmero de valores plausibles.

Los valores plausibles tambin permiten calcular la incertidumbre en la estimacin de debida


a la falta de precisin en la medida por parte de la prueba. Si pudiera desarrollarse una prueba
perfecta, el error de medida sera igual a cero y los cinco estadsticos a partir de los valores
plausibles seran idnticos. Por desgracia, las pruebas perfectas no existen y no existirn nunca.
Esta varianza de la medida, llamada normalmente varianza de imputacin, es igual a:

BM =

1 M
2
(i )
M 1 i =1

Se corresponde con la varianza de los cinco estadsticos de inters obtenidos a partir de los valores plausibles. La etapa final supone combinar la varianza muestral y la varianza de imputacin, como se muestra a continuacin:

V = U + 1 +
M

BM , donde U es la varianza muestral.

En los prximos captulos, mostraremos cmo calcular varianzas muestrales y varianzas de


imputacin y cmo combinarlas, utilizando la base de datos de PISA 2003.

92 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Conclusiones
Este captulo ha estado dedicado al significado de los valores plausibles y a los pasos necesarios
cuando stos se utilizan para analizar datos. Se ha presentado una comparacin entre valores
plausibles y estimaciones alternativas de la capacidad individual para convencer a los usuarios
de los datos de PISA acerca de la superioridad de esta metodologa para obtener estimaciones
poblacionales.

La metodologa de los valores plausibles se implement por primera vez en los estudios NAEP (Beaton, 1987).

2 El error de medida ser independiente de la longitud de los salones si los inspectores utilizan un instrumento de medida que tenga al menos 15 metros de longitud (como una cinta mtrica). Si usan un metro ordinario, el error de medida
total ser proporcional a la longitud del saln.

La distribucin de probabilidad para la capacidad de un alumno puede basarse tan slo en los datos cognitivos, es
decir, en el patrn de respuesta al tem, pero tambin puede incluir informacin adicional, como el gnero, el entorno
social, etctera, del alumno. La distribucin de probabilidad queda, por tanto, condicionada por esta informacin adicional. En PISA 2000 Technical Report (OCDE, 2002c) puede encontrarse una explicacin matemtica del modelo utilizado para el escalamiento en PISA 2000.
3

4 Si se utilizan varias variables predictoras como variables de condicionamiento, el estimador EAP tiende a ser una
variable continua.
5

Los archivos de datos de PISA incluyen tanto WLE como PV.

Los estimadores EAP y los valores plausibles pueden calcularse con o sin variables predictoras. Puesto que los valores
plausibles de PISA 2000 se generaron basndose en todas las variables recogidas mediante los cuestionarios de los
alumnos, esta comparacin slo incluir PV y estimadores EAP con el uso de variables predictoras.

La generacin de datos comienza con un anlisis factorial en una matriz de correlacin cuadrada de 3 por 3. La correlacin entre la variable latente y el gnero se estableci en 0,20; la correlacin entre la variable latente y el indicador de
entorno social se estableci en 0,40 y la correlacin entre el gnero y el indicador de entorno social se estableci en 0,00.
Se toman tres variables aleatorias a partir de distribuciones normales y se combinan segn los coeficientes de regresin
factoriales para crear las tres variables de inters: lectura, sexo y entorno social. Basndose en la puntuacin de los
alumnos en la variable latente y un conjunto predefinido de 20 dificultades de tems, las probabilidades de acierto se
calculan segn el modelo de Rasch. A continuacin, estas probabilidades se comparan con la distribucin uniforme y se
recodifican en 0 y 1. Por ltimo, el gnero se recodifica en una variable dicotmica.

Los estimadores se calcularon con el programa Conquest, desarrollado por M. L. Wu, R. J. Adams y M. R. Wilson.

Los resultados de los coeficientes de correlacin de EAP y PV se observan cuando las distribuciones de probabilidad se
generan con variables de condicionamiento. Sin el condicionamiento, la correlacin con los valores plausibles quedara
subestimada.
9

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

93

Captulo 6

El clculo de errores tpicos


Introduccin ............................................................................................................................................. 96
El error tpico de estadsticos univariantes para variables numricas ............................................. 96
La macro de SPSS para calcular el error tpico de una media ......................................................... 99
El error tpico de los porcentajes ......................................................................................................... 102
El error tpico de los coeficientes de regresin .................................................................................. 105
El error tpico de los coeficientes de correlacin ............................................................................... 108
Conclusiones .......................................................................................................................................... 109

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

95

Introduccin
Como se ha mostrado en el captulo 3, es necesario utilizar replicaciones para calcular el error
tpico de cualquier estimacin poblacional. Este captulo dar ejemplos de tales clculos.
En PISA 2000 y PISA 2003, se utiliza la variante de Fay del mtodo BRR. La frmula general
para calcular las varianzas muestrales con este mtodo es:

2 =

1
2
G (1 k )

(( ) )
G

i =1

Puesto que las bases de datos de PISA incluyen 80 replicaciones y puesto que el coeficiente de
Fay se estableci en 0,5 para ambas recopilaciones de datos, la frmula anterior puede simplificarse as:

2 =

1
2
G (1 k )

(( ) )
G

i =1

1
2
80(1 0,5)

(( ) )
80

i =1

2
1 80
(i )

20 i =1

El error tpico de estadsticos univariantes para variables numricas


Para calcular la media y su respectivo error tpico, es necesario calcular primero este estadstico
ponderando los datos con el peso final del alumno, es decir, W_FSTUWT, y despus calcular
otras 80 medias, cada una de ellas ponderando los datos con una de las 80 replicaciones, es decir, de W_FSTR1 a W_FSTR80.
El cuadro 6.1 presenta la sintaxis de SPSS para calcular estas 81 medias del ndice de entorno
social (llamado HISEI) con los datos de PISA 2003 para Alemania. La tabla 6.1 presenta el estimador final de HISEI, as como los 80 estimadores replicados.
Cuadro 6.1. Sintaxis de SPSS para el clculo de 81 medias
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
Select if (cnt='DEU').
Weight by w_fstuwt.
means HISEI /CELL=mean.
Weight by w_fstr1.
means HISEI /CELL=mean.
Weight by w_fstr2.
means HISEI /CELL=mean.
.
.
.
Weight by w_fstr79.
means HISEI /CELL=mean.
Weight by w_fstr80.
means HISEI /CELL=mean.

La media que se publicar es igual a 49,33, es decir, la estimacin obtenida con el peso final de
los alumnos W_FSTUWT. Las 80 estimaciones replicadas se utilizan tan slo para calcular el
error tpico de esa media de 49,33.

96 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Tabla 6.1. Estimaciones de las medias de HISEI


Peso
Peso final
Replicacin 1
Replicacin 2
Replicacin 3
Replicacin 4
Replicacin 5
Replicacin 6
Replicacin 7
Replicacin 8
Replicacin 9
Replicacin 10
Replicacin 11
Replicacin 12
Replicacin 13
Replicacin 14
Replicacin 15
Replicacin 16
Replicacin 17
Replicacin 18
Replicacin 19
Replicacin 20
Replicacin 21
Replicacin 22
Replicacin 23
Replicacin 24
Replicacin 25
Replicacin 26
Replicacin 27
Replicacin 28
Replicacin 29
Replicacin 30
Replicacin 31
Replicacin 32
Replicacin 33
Replicacin 34
Replicacin 35
Replicacin 36
Replicacin 37
Replicacin 38
Replicacin 39
Replicacin 40

Estimacin
de la media
49,33
49,44
49,18
49,12
49,46
49,24
49,34
49,13
49,08
49,54
49,20
49,22
49,12
49,33
49,47
49,40
49,30
49,24
48,85
49,41
48,82
49,46
49,37
49,39
49,23
49,47
49,51
49,35
48,89
49,44
49,34
49,41
49,18
49,50
49,12
49,05
49,40
49,20
49,54
49,32
49,35

Peso

Estimacin
de la media

Replicacin 41
Replicacin 42
Replicacin 43
Replicacin 44
Replicacin 45
Replicacin 46
Replicacin 47
Replicacin 48
Replicacin 49
Replicacin 50
Replicacin 51
Replicacin 52
Replicacin 53
Replicacin 54
Replicacin 55
Replicacin 56
Replicacin 57
Replicacin 58
Replicacin 59
Replicacin 60
Replicacin 61
Replicacin 62
Replicacin 63
Replicacin 64
Replicacin 65
Replicacin 66
Replicacin 67
Replicacin 68
Replicacin 69
Replicacin 70
Replicacin 71
Replicacin 72
Replicacin 73
Replicacin 74
Replicacin 75
Replicacin 76
Replicacin 77
Replicacin 78
Replicacin 79
Replicacin 80

49,17
49,66
49,18
49,04
49,42
49,72
49,48
49,14
49,57
49,36
48,78
49,53
49,27
49,23
49,62
48,96
49,54
49,14
49,27
49,42
49,56
49,75
48,98
49,00
49,35
49,27
49,44
49,08
49,09
49,15
49,29
49,29
49,08
49,25
48,93
49,45
49,13
49,45
49,14
49,27

Existen tres pasos principales para calcular el error tpico:


1.

Cada estimacin replicada se comparar con la estimacin final 49,33 y la diferencia se elevar al cuadrado. Matemticamente, esto corresponde a

(( ) ) o, en este caso concreto,


2

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

97

( i )2 . Para la primera replicacin, ser igual a: (49,44 49,33)2 = 0,0140. Para la segunda replicacin, corresponde a: (49,18 49,33)2 = 0,0228. La tabla 6.2 presenta las diferencias
al cuadrado.

( ( ) )
80

2.

Se calcula la suma de las diferencias al cuadrado,

i =1

, y se divide por 20. En el

ejemplo, la suma es igual a: (0,0140 + 0,0228 + ... + 0,0354 + 0,0031) = 3,5195.


La suma dividida por 20 es, por tanto, igual a 3,5195/20 = 0,1760. Este valor representa la
varianza muestral de la estimacin de la media para HISEI.
3.

El error tpico es igual a la raz cuadrada de la varianza muestral, es decir:

( ) = (2 ) = 0,1760 = 0,4195
Esto significa que la distribucin muestral de la media de HISEI para Alemania tiene una desviacin tpica de 0,4195. Este valor tambin permite formar un intervalo de confianza alrededor
de esta media. Con una probabilidad de error de tipo I igual a 0,05, normalmente llamado , el
intervalo de confianza ser igual a:
[49,33 (1,96 0,4195) ; 49,33 + (1,96 0,4195)]
[48,51 ; 50,15]
Dicho de otra forma, hay 5 posibilidades entre 100 de que un intervalo formado de esta manera
no logre capturar la media de la poblacin. Tambin significa que la media de la poblacin alemana para HISEI es significativamente distinta de un valor de 51, por ejemplo, ya que este nmero no est incluido en el intervalo de confianza.
El captulo 9 mostrar cmo este error tpico puede utilizarse para realizar comparaciones entre
o ms pases, o entre subpoblaciones dentro de un determinado pas.

98 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Tabla 6.2. Diferencias al cuadrado entre las estimaciones replicadas y la estimacin final
Peso
Replicacin 1
Replicacin 2
Replicacin 3
Replicacin 4
Replicacin 5
Replicacin 6
Replicacin 7
Replicacin 8
Replicacin 9
Replicacin 10
Replicacin 11
Replicacin 12
Replicacin 13
Replicacin 14
Replicacin 15
Replicacin 16
Replicacin 17
Replicacin 18
Replicacin 19
Replicacin 20
Replicacin 21
Replicacin 22
Replicacin 23
Replicacin 24
Replicacin 25
Replicacin 26
Replicacin 27
Replicacin 28
Replicacin 29
Replicacin 30
Replicacin 31
Replicacin 32
Replicacin 33
Replicacin 34
Replicacin 35
Replicacin 36
Replicacin 37
Replicacin 38
Replicacin 39
Replicacin 40

Diferencia al cuadrado
Peso
0,0140
Replicacin 41
0,0228
Replicacin 42
0,0421
Replicacin 43
0,0189
Replicacin 44
0,0075
Replicacin 45
0,0002
Replicacin 46
0,0387
Replicacin 47
0,0583
Replicacin 48
0,0472
Replicacin 49
0,0167
Replicacin 50
0,0124
Replicacin 51
0,0441
Replicacin 52
0,0000
Replicacin 53
0,0205
Replicacin 54
0,0048
Replicacin 55
0,0009
Replicacin 56
0,0074
Replicacin 57
0,2264
Replicacin 58
0,0077
Replicacin 59
0,2604
Replicacin 60
0,0182
Replicacin 61
0,0016
Replicacin 62
0,0041
Replicacin 63
0,0093
Replicacin 64
0,0199
Replicacin 65
0,0344
Replicacin 66
0,0007
Replicacin 67
0,1919
Replicacin 68
0,0139
Replicacin 69
0,0001
Replicacin 70
0,0071
Replicacin 71
0,0215
Replicacin 72
0,0302
Replicacin 73
0,0411
Replicacin 74
0,0778
Replicacin 75
0,0052
Replicacin 76
0,0150
Replicacin 77
0,0445
Replicacin 78
0,0000
Replicacin 79
0,0004
Replicacin 80
Suma de las diferencias al cuadrado

Diferencia al cuadrado
0,0239
0,1090
0,0203
0,0818
0,0082
0,1514
0,0231
0,0349
0,0590
0,0014
0,3003
0,0431
0,0032
0,0086
0,0868
0,1317
0,0438
0,0354
0,0034
0,0081
0,0563
0,1761
0,1173
0,1035
0,0008
0,0030
0,0139
0,0618
0,0557
0,0324
0,0016
0,0011
0,0603
0,0052
0,1575
0,0157
0,0378
0,0155
0,0354
0,0031
3,5195

La macro de SPSS para calcular el error tpico de una media


Escribir toda la sintaxis de SPSS para calcular estas 81 medias y transferirlas a continuacin a
una hoja de clculo de Microsoft Excel para obtener finalmente el error tpico llevara mucho
tiempo. Por fortuna, las macros de SPSS simplifican los clculos iterativos. El programa ejecutar N veces las instrucciones contenidas entre la instruccin de comienzo (!do !i=1 !to n)
y la instruccin final (!doend). Adems, tambin guarda los resultados en un archivo temporal
que puede utilizarse a continuacin para calcular el error tpico.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

99

Se han escrito unas 12 macros de SPSS para simplificar los principales clculos de PISA. Estas
macros estn guardadas en sus correspondientes archivos (con la extensin .sps). El cuadro 6.2
muestra una sintaxis de SPSS donde se invoca a una macro para calcular la media y el error
tpico de la variable HISEI.
Cuadro 6.2. Sintaxis de SPSS para calcular la media de HISEI y su respectivo error tpico
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
Select if (cnt='DEU').
Save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
Include file 'C:\PISA\macros\mcr_SE_univ.sps'.
* EJECUTAR LA MACRO.
univar nrep = 80/
stat = mean/
dep = hisei/
grp = cnt/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'.

Despus de seleccionar los datos de Alemania a partir de la base de datos de alumnos de PISA
2003 y guardarlos en un archivo de datos temporal, la instruccin
Include file 'C:\PISA\macros\mcr_SE_univ.sps'.
importar y guardar en memoria, para usarlo ms tarde, un nuevo procedimiento para calcular un estadstico univariante y su error tpico. Este procedimiento se llama univar y se ejecutar cuando se invoque la macro.
Cuando se invoca la macro, el usuario debe suministrar los argumentos que aquella necesita.
NREP es el nmero de replicaciones. STAT es el estadstico que se est calculando. El estadstico
se calcula con la instruccin aggregate, lo que significa que los estadsticos mostrados en la
tabla 6.4 estn disponibles para esta macro. DEP es la variable para la que se calcula el estadstico y GRP es la variable de agrupacin. En este ejemplo, la variable de agrupacin pas (CNT)
es una constante (ya que el archivo de datos slo contiene datos de Alemania, se calcular un
solo estadstico y un solo error tpico). WGT es el peso para alumnos completo y RWGT es la
raz de los pesos replicados (la macro concatenar esta raz con los nmeros de 1 a 80: de
W_FSTR1 a W_FSTR80 en este caso). CONS es la constante que se usa al calcular la varianza
muestral. Esta constante es

1
, donde G es el nmero de replicaciones y k es el factor de
2
G (1 k )

Fay (PISA usa 0,5; vase el captulo 3 y el comienzo de este captulo). INFILE es el archivo de
datos sobre el que se ejecutar el procedimiento.
Como estos clculos iterativos podran un tiempo de ejecucin importante, el procedimiento
slo utilizar las variables necesarias.

100 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

A partir del archivo temporal de datos, esta macro calcular para cada pas la media de HISEI y
su error tpico usando el peso para alumnos final (W_FSTUWT) y los 80 pesos replicados (de
W_FSTR1 a W_FSTR80). Terminar entregando exactamente los mismos valores para la estimacin de la media y su respectivo error tpico que los obtenidos mediante las tablas 6.1 y 6.2.
La estructura del archivo de salida se presenta en la tabla 6.3.
Tabla 6.3. Estructura del archivo de salida del cuadro 6.2
CNT
DEU

STAT
49,33

SE
0,42

[donde CNT = pas, STAT = valor del estadstico y SE = valor del error tpico.]
Si el conjunto de datos no se hubiese reducido a los datos de Alemania, el nmero de filas en el
archivo de salida sera igual al nmero de pases en la base de datos.
Existen algunas restricciones, as como algunas opciones, con esta macro:

slo puede especificarse un nico archivo de datos como entrada;

pueden especificarse diversas variables de agrupacin; por ejemplo, si se necesitan los


resultados segn el gnero, las variables de grupo sern CNT y ST03Q01, es decir
grp = cnt st03q01/;

slo puede especificarse una variable numrica en el argumento STAT;

la macro no guardar el archivo de salida.

Tabla 6.4. Estadsticos disponibles con la macro UNIVARa


Estadsticos disponibles
SUM
MEAN
SD
PGT
PLT
PIN
POUT
FGT
FLT
FIN
FOUT

Significado
(Suma)
(Media)
(Desv. tpica)
(% casos > un valor)
(% casos < un valor)
(% dentro de valores)
(% fuera de valores)
(fraccin > un valor)
(fraccin < un valor)
(fraccin dentro de valores)
(fraccin fuera de valores)

El cuadro 6.3 presenta la sintaxis para el clculo de la desviacin tpica de HISEI segn el gnero del alumnado, y la tabla 6.5, la estructura del archivo de salida.

a Tambin se encuentran otros estadsticos disponibles a travs de la funcin aggregate de SPSS, como el mnimo, el
mximo, el primero, el ltimo, el nmero de observaciones, etctera. Sin embargo, no se incluyen en la tabla, o bien
porque no tiene sentido aplicar estos estadsticos a los datos de PISA, o bien porque el mtodo de Fay no puede aplicarse a estos estadsticos. Por ejemplo, puesto que el conjunto de observaciones se utiliza en cada replicacin, el valor
mnimo o mximo para una determinada variable siempre ser el mismo. Por tanto, la macro estimar un error tpico de
0, lo que naturalmente carece de sentido.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

101

Cuadro 6.3. Sintaxis de SPSS para el clculo de la desviacin tpica de HISEI y su respectivo
error tpico segn el gnero del alumnado
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
Select if cnt='DEU'.
* Seleccionar los datos que no estn perdidos es opcional.
Select if (not missing(st03q01)).
Save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
Include file 'C:\PISA\macros\mcr_SE_univ.sps'.
* EJECUTAR LA MACRO.
univar nrep = 80/
stat = sd/
dep = hisei/
grp = cnt st03q01/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'.

Tabla 6.5. Estructura del archivo de salida del cuadro 6.3


CNT
DEU
DEU

ST03Q01
1
2

STAT
16,12
16,34

SE
0,29
0,23

El error tpico de los porcentajes


Para variables como el gnero, el estadstico de inters suele ser el porcentaje por categora. El
procedimiento para estimar el error tpico es idntico al procedimiento utilizado para estimar el
error tpico de una media o una desviacin tpica, es decir, por cada categora de la variable es
necesario calcular 81 porcentajes.
El cuadro 6.4 presenta la sintaxis de SPSS para ejecutar la macro que calcular los porcentajes y
sus respectivos errores tpicos para cada categora de la variable de gnero. La estructura del
archivo de salida se presenta en la tabla 6.6.

102 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 6.4. Sintaxis de SPSS para el clculo de los porcentajes y su respectivo error tpico
para el gnero del alumnado
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
Select if cnt='DEU'.
* Seleccionar los datos que no estn perdidos es opcional.
Select if (not missing(st03q01)).
Save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
include file "C:\PISA\macros\mcr_SE_GrpPct.sps".
* EJECUTAR LA MACRO.
GRPPCT nrep = 80/
within = cnt/
grp = st03q01/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'/.

Tabla 6.6. Estructura del archivo de salida a partir del cuadro 6.4
CNT
DEU
DEU

ST03Q01
1
2

STAT
49,66
50,34

SE
1,04
1,04

La tabla 6.7 presenta las estimaciones del porcentaje de chicas para los 81 pesos y las diferencias
al cuadrado. El porcentaje de chicas que se obtendr es igual a 49,66, es decir, el porcentaje obtenido con el peso de alumnos final.
Como anteriormente, hay tres pasos principales para calcular el error tpico:
1.

Cada estimacin replicada se comparar con la estimacin final 49,66 y la diferencia se elevar al cuadrado. Matemticamente, esto corresponde a

(( ) ) . Para la primera repli2

cacin, ser igual a: (49,82 49,66)2 = 0,0256.

(( ) )
80

2.

Se calcula la suma de las diferencias al cuadrado,

i =1

, y se divide por 20. En el

ejemplo, la suma es igual a: (0,0252 + 0,1044 + ... + 0,3610 + 0,1313) = 21,4412.


La suma dividida por 20 es, por tanto, igual a 21,4412 / 20 = 1,07206. Este valor representa
la varianza muestral de la estimacin del porcentaje para las chicas.
3.

El error tpico es igual a la raz cuadrada de la varianza muestral, es decir:

( ) = (2 ) = 1,07206 = 1,035
El mismo proceso puede utilizarse para el porcentaje de los chicos. Debera advertirse que el
error tpico de los chicos es igual al de las chicas. Es ms, puede demostrarse matemticamente

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

103

que el error tpico de es igual al error tpico de 1 , es decir, (p) = (1p). Sin embargo, si se
mantienen en el archivo de datos los datos perdidos para el gnero, el error tpico del porcentaje
de los chicos puede variar ligeramente del error tpico del porcentaje de las chicas.
Al igual que con la macro para variables numricas, puede utilizarse ms de una variable de
agrupacin. En PISA 2003, la primera pregunta del cuestionario del alumnado (ST01Q01) informa del curso al que asisten los alumnos. Los quinceaeros alemanes se distribuyen entre los
cursos del 7 al 11.
El cuadro 6.5 presenta la sintaxis de SPSS y la tabla 6.8 presenta la distribucin de alumnos
segn el curso y el gnero. Los porcentajes dentro de la variable de grupo WITHIN suman
100%. En este ejemplo, los porcentajes de los alumnos de los cursos 7 a 11 dentro del gnero y
pas suman un 100%. Si within=cnt y grp=st03q01 st01q01, la suma de los porcentajes de
los diez grupos dentro del pas ser 100%.
Tabla 6.7. Porcentaje de chicas para los pesos final y replicados y las diferencias al cuadrado
Peso
Peso final
Replicacin 1
Replicacin 2
Replicacin 3
Replicacin 4
Replicacin 5
Replicacin 6
Replicacin 7
Replicacin 8
Replicacin 9
Replicacin 10
Replicacin 11
Replicacin 12
Replicacin 13
Replicacin 14
Replicacin 15
Replicacin 16
Replicacin 17
Replicacin 18
Replicacin 19
Replicacin 20
Replicacin 21
Replicacin 22
Replicacin 23
Replicacin 24
Replicacin 25
Replicacin 26
Replicacin 27
Replicacin 28
Replicacin 29
Replicacin 30
Replicacin 31
Replicacin 32
Replicacin 33

Estimacin
del porcentaje
49,66
49,82
49,98
49,44
49,32
49,39
49,06
48,59
48,85
49,06
49,72
50,05
49,31
49,29
49,47
49,90
50,82
49,11
49,51
49,79
50,75
50,24
49,79
49,87
49,37
49,50
49,82
49,92
49,55
50,22
49,16
50,51
49,98
50,67

Diferencia
al cuadrado

Peso

Estimacin
del porcentaje

Diferencia
al cuadrado

0,03
0,10
0,05
0,11
0,07
0,36
1,14
0,66
0,36
0,00
0,15
0,13
0,13
0,04
0,06
1,35
0,30
0,02
0,02
1,18
0,33
0,02
0,04
0,08
0,02
0,02
0,07
0,01
0,31
0,25
0,73
0,10
1,02

Replicacin 41
Replicacin 42
Replicacin 43
Replicacin 44
Replicacin 45
Replicacin 46
Replicacin 47
Replicacin 48
Replicacin 49
Replicacin 50
Replicacin 51
Replicacin 52
Replicacin 53
Replicacin 54
Replicacin 55
Replicacin 56
Replicacin 57
Replicacin 58
Replicacin 59
Replicacin 60
Replicacin 61
Replicacin 62
Replicacin 63
Replicacin 64
Replicacin 65
Replicacin 66
Replicacin 67
Replicacin 68
Replicacin 69
Replicacin 70
Replicacin 71
Replicacin 72
Replicacin 73

50,00
49,95
49,70
50,59
49,07
48,82
49,88
49,14
49,53
49,81
49,87
49,82
49,42
48,99
50,07
50,68
50,34
49,54
48,75
50,14
49,45
49,46
50,11
49,64
49,72
50,79
49,73
49,96
50,31
49,17
50,10
49,93
49,55

0,11
0,09
0,00
0,87
0,35
0,71
0,05
0,27
0,02
0,02
0,04
0,02
0,06
0,45
0,17
1,04
0,46
0,02
0,83
0,23
0,05
0,04
0,20
0,00
0,00
1,27
0,00
0,09
0,42
0,24
0,19
0,07
0,01

104 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Replicacin 34
Replicacin 35
Replicacin 36
Replicacin 37
Replicacin 38
Replicacin 39
Replicacin 40

49,29
48,96
49,98
50,23
48,25
49,56
49,66

0,13
0,49
0,10
0,33
1,99
0,01
0,00

Replicacin 74
49,42
Replicacin 75
49,60
Replicacin 76
49,45
Replicacin 77
49,80
Replicacin 78
49,91
Replicacin 79
49,06
Replicacin 80
50,02
Suma de las diferencias al cuadrado

0,06
0,00
0,05
0,02
0,07
0,36
0,13
21,44

Cuadro 6.5. Sintaxis de SPSS para el clculo de porcentajes de curso segn el sexo
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
Select if cnt='DEU'.
Select if (not missing(st03q01) & not missing(st01q01)).
Save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
include file "C:\PISA\macros\mcr_SE_GrpPct.sps".
* EJECUTAR LA MACRO.
GRPPCT nrep = 80/
within = cnt st03q01/
grp = st01q01/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'C:\PISA\Data2003\DEU.sav'/.

Como se muestra en la tabla 6.8, en los cursos inferiores de Alemania tiende a haber ms chicos
que chicas, y en los superiores, ms chicas que chicos.
Tabla 6.8. Estructura del archivo de salida a partir del cuadro 6.5
CNT
DEU
DEU
DEU
DEU
DEU
DEU
DEU
DEU
DEU
DEU

ST03Q01
1
1
1
1
1
2
2
2
2
2

ST01Q01
7
8
9
10
11
7
8
9
10
11

STAT
1,15
13,09
59,33
26,28
0,17
2,28
16,92
60,32
20,41
0,08

SE
0,26
0,83
1,00
1,08
0,08
0,45
1,04
1,06
0,79
0,05

El error tpico de los coeficientes de regresin


Para cualquier estadstico buscado, el clculo de la estimacin y su error tpico seguir exactamente el mismo procedimiento que los que se han descrito para la media de HISEI y para el
porcentaje de chicas. El resto de este captulo explicar el uso de otras dos macros de SPSS
desarrolladas para analizar los datos de PISA.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

105

La primera macro es para los anlisis de regresin lineal simple. Adems de los argumentos
comunes a todas las macros de SPSS descritas en este manual, es decir, 1) NREP=, 2) GRP=, 3)
W_FSTUWT=, 4) W_FSTR=, 5) CONS= y 6) INFILE=, es preciso especificar dos argumentos: la
variable dependiente y las variables independientes. Slo puede especificarse una nica variable dependiente, aunque s diversas variables independientes.
El cuadro 6.6 proporciona la sintaxis para ejecutar la macro de regresin lineal simple. En este
ejemplo, la variable dependiente es la profesin esperada del alumno cuando tenga 30 aos
(BSMJ) y las variables independientes son el ndice socioeconmico familiar (HISEI) y el gnero
del alumno despus de la recodificacin (GENDER). Despus de recodificar la variable de gnero en una variable dicotmica 0-1, la macro se importa mediante la instruccin include.
Cuadro 6.6. Sintaxis de SPSS para los anlisis de regresin (1)
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
select if (cnt='DEU' & not missing(st03q01)).
compute gender=0.
if (st03q01=1) gender=1.
save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
include file='C:\PISA\macros\mcr_SE_reg.sps'.
* EJECUTAR LA MACRO.
REGnoPV nrep = 80/
ind = hisei gender/
dep = bsmj/
grp = cnt/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'/.

La tabla 6.9 presenta la estructura del archivo de salida del anlisis de regresin.1
Tabla 6.9. Estructura del archivo de resultados a partir del cuadro 6.6
CNT
DEU
DEU
DEU

IND
b0
HISEI
gender

STAT
32,90
0,37
2,07

SE
1,29
0,03
0,62

Donde b0 es la constante (o intercepto) e HISEI y GENDER, los coeficientes de regresin (o pendientes) de las correspondientes variables. Para reestructurar los datos, de modo que cada pas
(grupo) ocupe un solo registro o fila en el archivo de salida, pueden ejecutarse las instrucciones
del cuadro 6.7 (una de las instrucciones no est disponible en las versiones de SPSS anteriores
a la versin 11). La estructura del archivo de salida se muestra en la tabla 6.10.

106 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 6.7. Sintaxis de SPSS para reestructurar los datos despus del anlisis de regresin
recode ind ('HISEI'='b1')('gender'='b2').
sort cases by cnt ind.
Casestovars /id=cnt /index=ind /groupby=index.

Tabla 6.10. Reestructuracin del archivo de salida


CNT
DEU

STAT.B0
32,90

SE.B0
1,29

STAT.B1
0,37

SE.B1
0,03

STAT.B2
2,07

SE.B2
0,62

Otras macros ms complejas, como esta para calcular el error tpico para coeficientes de regresin, a veces provocan errores que no siempre son visibles. Estos errores ocurren especialmente
cuando se ejecuta la misma macro ms de una vez dentro de la misma sesin de SPSS. Merece
la pena comprobar siempre los resultados de la macro ejecutando el anlisis fuera de la macro
con el peso total de alumnos y comprobar si los coeficientes de regresin (o cualquier otro estadstico) son correctos. Si no son los mismos, lo mejor es cerrar SPSS y, a menudo, incluso salir y
volver a entrar en el sistema operativo (Windows). Asimismo, proceder a borrar todos los archivos situados en la carpeta 'C:\Temp\' soluciona a veces el problema.
Existen dos maneras de determinar si los coeficientes de regresin son significativamente distintos de 0. El primer mtodo consiste en construir un intervalo de confianza alrededor del coeficiente de regresin estimado. El intervalo de confianza para el coeficiente de regresin GENDER de BSMJ puede calcularse para un valor de igual a 0,05 como:
[2,07 (1,96 0,62) ; 2,07 + (1,96 0,62)] = [0,85 ; 3,29]
Como el valor 0 no se incluye en este intervalo de confianza, el coeficiente de regresin es significativamente distinto de 0. Puesto que el valor 0 se asign a los chicos y el valor 1 a las chicas,
esto quiere decir que, de media, las chicas tienen expectativas profesionales significativamente
ms altas.
Otra forma de comprobar la hiptesis nula del coeficiente de regresin consiste en dividir el
coeficiente de regresin por su error tpico. Este procedimiento tipifica el coeficiente de regresin. Tambin significa que la distribucin muestral del coeficiente de regresin tipificado, bajo
la hiptesis nula, tiene una media esperada de 0 y una desviacin tpica de 1. Por lo tanto, si la
razn entre el coeficiente de regresin y su error tpico es menor que 1,96 o mayor que 1,96, se
considerar significativamente distinta de 0.
Es preciso mencionar que la sintaxis del cuadro 6.8 proporcionar distintos resultados que la del
cuadro 6.6. En este ltimo, GENDER se considera una variable explicativa, mientras que en el
cuadro 6.8 GENDER se utiliza como variable de agrupacin. En el segundo modelo, slo hay
una variable explicativa, esto es, HISEI.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

107

Cuadro 6.8. Sintaxis de SPSS para los anlisis de regresin (2)


get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
select if (cnt='DEU' & not missing(st03q01)).
compute gender=0.
if (st03q01=1) gender=1.
save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
include file='C:\PISA\macros\mcr_SE_reg.sps'.
* EJECUTAR LA MACRO.
REGnoPV nrep = 80/
ind = hisei/
dep = bsmj/
grp = cnt gender/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'/.

La tabla 6.11 presenta la estructura del archivo de salida para el segundo modelo.
Tabla 6.11. Estructura del archivo de salida a partir del cuadro 6.8
CNT
DEU
DEU
DEU
DEU

GENDER
0
0
1
1

IND
b0
HISEI
b0
HISEI

STAT
32,54
0,37
35,33
0,36

SE
1,44
0,03
1,66
0,03

El error tpico de los coeficientes de correlacin


La tabla 6.12 y el cuadro 6.9 presentan, respectivamente, la sintaxis de SPSS y la estructura del
archivo de salida para la macro dedicada al clculo de una correlacin entre dos variables. Advirtase que la macro borra del archivo de datos los casos con valores perdidos para alguna de
las dos variables, (NOTA: la versin espaola del SPSS lo denomina exclusin de casos segn
lista).

108 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 6.9. Sintaxis de SPSS para la macro de correlacin


get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
select if (cnt='DEU').
save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
include file "c:\pisa\macros\mcr_SE_cor.sps".
* EJECUTAR LA MACRO.
CORnoPV nrep = 80/
var1 = hisei/
var2 = bsmj/
grp = cnt/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'/.

Tabla 6.12. Estructura del archivo de salida a partir del cuadro 6.9
CNT
DEU

STAT
0,34

SE
0,02

Conclusiones
Este captulo ha descrito el clculo del error tpico usando los 80 pesos replicados. El procedimiento es el mismo para cualquier otro estadstico.
Adems, al mismo tiempo que se ha utilizado ejemplos, se han proporcionado las sintaxis para
ejecutar las macros de SPSS, desarrolladas con objeto de facilitar el clculo de los errores tpicos.
Sin embargo, ninguna de las macros descritas en este captulo puede ser utilizada si se incluyen
valores plausibles en los anlisis. El captulo 7 describir cmo proceder con dichas variables.

SPSS produce muchas tablas en el visor de salida cuando se replica 80 veces la regresin. Esto ralentiza el ordenador e
impide que est libre para otras tareas mientras se ejecuta la macro. SPSS 12 ha introducido un sistema de gestin de
salida (output management system, OMS) que proporciona al usuario, entre otros controles de la salida, la oportunidad de

elegir lo que imprimir. Aadiendo las instrucciones OMS/select tables warnings headings/destination
viewer=no. antes de ejecutar la macro se evitar que SPSS imprima encabezamientos, tablas, anotaciones y advertencias en el visor de salida. Esto quedar activo hasta que se desactive el OMS mediante la instruccin OMSEND.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

109

Captulo 7

Los anlisis con valores plausibles


Introduccin ........................................................................................................................................... 112
Estadsticos univariantes a partir de valores plausibles .................................................................. 112
El error tpico de los porcentajes con valores plausibles.................................................................. 117
El error tpico de los coeficientes de regresin con valores plausibles........................................... 117
El error tpico de los coeficientes de correlacin con valores plausibles ....................................... 121
Correlacin entre dos conjuntos de valores plausibles .................................................................... 121
Un mtodo abreviado incorrecto......................................................................................................... 125
Un mtodo abreviado sin sesgo........................................................................................................... 125
Conclusiones .......................................................................................................................................... 127

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

111

Introduccin
El rea de evaluacin principal en PISA 2003 fue la competencia matemtica, mientras que la
lectura, las ciencias y la solucin de problemas fueron reas secundarias. Se cre una sola escala
para cada rea secundaria, mientras que se generaron cinco para la evaluacin de las matemticas: una escala de matemticas y cuatro subescalas (espacio y forma, cambio y relaciones, cantidad, incertidumbre).
Como se describi en el captulo 5, estos datos cognitivos se escalaron con el modelo de Rasch y
el rendimiento de los alumnos se expres mediante valores plausibles. Para cada escala y subescala, se incluyeron cinco valores plausibles por alumno en las bases de datos internacionales.
Este captulo describe cmo llevar a cabo anlisis con valores plausibles (PV).
Puesto que los valores plausibles se utilizaron principalmente para comunicar el rendimiento
de los alumnos en la prueba cognitiva, este captulo slo ser til cuando se realicen anlisis
sobre datos de rendimiento y sus relaciones con caractersticas de alumnos o centros.
Estadsticos univariantes a partir de valores plausibles
El clculo de un estadstico a partir de valores plausibles consistir siempre en seis pasos, sea
cual sea el estadstico considerado.
1.

El estadstico buscado y su error tpico respectivo deben calcularse para cada valor plausible. En el captulo 6, se mencion que fueron necesarias 81 replicaciones para obtener la estimacin final y su error tpico. Por lo tanto, cualquier anlisis que involucre cinco valores
plausibles exigir 405 estimaciones. Si es preciso calcular una media, entonces se calcularn
405 medias. Las medias estimadas con el peso final se llaman

1 , 2 , 3 , 4 y 5 . A partir

de las 80 replicaciones aplicadas a cada uno de los cinco valores plausibles, se estiman cinco
varianzas muestrales, llamadas respectivamente

(2 ) , (2 ) , (2 ) , (2
1

) y ( 5 ) . Estas cinco
2

estimaciones de la media y sus respectivas varianzas muestrales se dan en la tabla 7.1.


2.

La estimacin de la media final es igual al promedio de las cinco estimaciones de la media,


es decir,

=
3.

1
(1 + 2 + 3 + 4 + 5 )
5

La varianza muestral final es igual al promedio de las cinco varianzas muestrales, es decir,

(2 ) =
4.

1 2
( 1 ) + (2 2 ) + (2 3 ) + (2 4 ) + (2 5 )
5

La varianza de imputacin, tambin llamada varianza del error de medida, se calcula como

(2prueba )

1 5
= ( i )2 . De hecho, como PISA devuelve cinco valores plausibles por es4 i =1

112 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

cala,

(2prueba ) =

1 M
1 5
2

(
)
( i )2 . Esta frmula es similar a la utiliza

i
4 i _1
M 1 i =1

da para estimar la varianza poblacional, slo que en este caso concreto, las observaciones no
se comparan con la media de la poblacin, sino que cada media PV se compara con la estimacin de la media final.
5.

La varianza muestral y la varianza de imputacin se combinan para obtener la varianza del


error final como

(2error ) = (2 ) + 1,2 (2prueba )

).

De hecho,

(2error ) = (2 ) + 1 +

6.

1 2

1 2
2
2
2
( prueba ) = ( ) + 1 + ( prueba ) = ( ) + 1,2 ( prueba ) .
M

El error tpico es igual a la raz cuadrada de la varianza del error.

Tabla 7.1. Las 405 estimaciones de la media


Peso

PV1

PV2

Final
Replicacin 1

1
1_1

2
2 _1

Replicacin 2

1_ 2

Replicacin 3
.........
.........

PV3

3
3 _1

PV4

PV5

4
4 _1

5 _1

2 _ 2

3 _ 2

4 _ 2

5 _ 2

1_ 3

2 _ 3

3 _ 3

4 _ 3

5 _ 3

.........
.........

.........
.........

.........
.........

.........
.........

.........
.........

Replicacin 80

1_ 80

2 _ 80

3 _ 80

4 _ 80

5 _ 80

Varianza
muestral

(2 )

(2

(2 )

(2

(2 )

Puede calcularse la estimacin de la media en la escala de matemticas y su correspondiente


error tpico relativos a los datos de Alemania para PISA 2003. La macro descrita en el captulo 6
y guardada en el archivo mcr_se_univ.sps puede ser utilizada sucesivamente cinco veces y
los resultados ser combinados en una hoja de clculo de Microsoft Excel. La tabla 7.2 presenta
las distintas medias de PV y sus respectivas varianzas muestrales, as como las estimaciones de
las medias en las replicaciones primera y ltima.
Tabla 7.2. Estimaciones de las medias y sus respectivas varianzas muestrales en la escala de
matemticas para Alemania
Peso
Final
Replicacin 1
.......
Replicacin 80
Varianza muestral

PV1
503,08
503,58
.......
503,18
(3,34)2

PV2
503,10
504,16
.......
503,62
(3,27) 2

PV3
502,72
503,43
.......
503,46
(3,36) 2

PV4
503,03
503,96
.......
503,30
(3,28) 2

PV5
503,00
503,94
.......
503,83
(3,32) 2

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

113

El cuadro 7.1 presenta la sintaxis SPSS para invocar y ejecutar sucesivamente la macro
mcr_se_univ.sps descrita en el captulo 6.
La estimacin de la media final para Alemania en la escala de matemticas de PISA 2003 es
igual a ( 1 = stat1, etctera, en el archivo de datos):

1
(1 + 2 + 3 + 4 + 5 ) , es decir:
5

(503,08 + 503,10 + 502,72 + 503,03 + 503,00) = 502,99


5

La varianza muestral final de la estimacin de la media para la escala de competencia matemtica es igual a ( ( 1 ) = se1, etctera, en el archivo de datos):

(2 ) =
(2 ) =

1 2
( 1 ) + (2 2 ) + (2 3 ) + (2 4 ) + (2 5 ) , es decir:
5

(3,34)2 + (3,27 )2 + (3,36)2 + (3,28)2 + (3,32)2


5

= 10,98

La varianza de imputacin es igual a:

(2prueba ) =
(2prueba )

1 5
( i )2 , es decir:

4 i =1

[(503,08 502,99)
=

+ (503,10 502,99 )2 + L + (503,00 502,99 )2 0,09


=
= 0,02
4
4

La varianza de error final es igual a:

(2error ) = (2 ) + 1,2 (2prueba )

), es decir:

(2error ) = 10,98 + (1,2 0,02 ) = 11,00


El error tpico final es, por tanto, igual a:

SE = (2error ) = 11,00 = 3,32

114 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 7.1. Sintaxis de SPSS para calcular la media en la escala de matemticas


get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
Select if (cnt='DEU').
save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
include file "c:\pisa\macros\mcr_SE_univ.sps".
* EJECUTAR LA MACRO 5 VECES.
univar nrep = 80/ stat = mean/ dep = pv1math/ grp =
wgt = w_fstuwt/ rwgt = w_fstr/ cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'.
rename vars (stat se=stat1 se1).
save outfile='c:\temp\ex1.sav' /drop=var.
univar nrep = 80/ stat = mean/ dep = pv2math/ grp =
wgt = w_fstuwt/ rwgt = w_fstr/ cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'.
rename vars (stat se=stat2 se2).
save outfile='c:\temp\ex2.sav' /drop=var.
univar nrep = 80/ stat = mean/ dep = pv3math/ grp =
wgt = w_fstuwt/ rwgt = w_fstr/ cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'.
rename vars (stat se=stat3 se3).
save outfile='c:\temp\ex3.sav' /drop=var.
univar nrep = 80/ stat = mean/ dep = pv4math/ grp =
wgt = w_fstuwt/ rwgt = w_fstr/ cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'.
rename vars (stat se=stat4 se4).
save outfile='c:\temp\ex4.sav' /drop=var.
univar nrep = 80/ stat = mean/ dep = pv5math/ grp =
wgt = w_fstuwt/ rwgt = w_fstr/ cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'.
rename vars (stat se=stat5 se5).
save outfile='c:\temp\ex5.sav' /drop=var.

cnt/

cnt/

cnt/

cnt/

cnt/

match files file='c:\temp\ex1.sav' /file='c:\temp\ex2.sav'


/file='c:\temp\ex3.sav' /file='c:\temp\ex4.sav'
/file='c:\temp\ex5.sav' /by cnt.
exe.

Puede evitarse ejecutar sucesivamente cinco veces de la macro UNIVAR y la posterior combinacin de resultados: se ha desarrollado una macro de SPSS para tratar con los valores plausibles.
Esta macro tambin calcula:

las cinco estimaciones de la media (STAT 1 a STAT5);

la estimacin final (STAT);

las cinco varianzas muestrales (VAR 1 a VAR 5);

la media de las cinco varianzas muestrales (PV_VAR);

la varianza de imputacin (PVMERR);

el error tpico final (SE) combinando la varianza muestral final y la varianza de imputacin.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

115

Cuadro 7.2. Sintaxis de SPSS para calcular simultneamente la media de los valores plausibles y su error tpico
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
Select if (cnt='DEU').
save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
include file 'c:\pisa\macros\mcr_SE_pv.sps'.
* EJECUTAR MACRO.
PV nrep = 80/
stat = mean/
dep = math/
grp = cnt/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'/.

Los argumentos son idnticos a los argumentos de la macro para estadsticos univariantes sin
valores plausibles, descritos en el captulo 6. La diferencia es la descripcin del argumento
DEP. Slo se necesita la raz de la variable (la dimensin); la macro antepondr a la raz los
prefijos pv1 a pv5. Es decir, cuando DEP=READ, la macro utilizar las variables pv1read
a pv5read. Cuando DEP=MATH1, la macro utilizar pv1math1 a pv5math1 y, por tanto, calcular los estadsticos para la primera subescala de matemticas.
La estructura del archivo de salida se presenta en la tabla 7.3.
Tabla 7.3. Estructura del archivo de salida a partir del cuadro 7.2
CNT
DEU

STAT
502,99

SE
3,32

De modo similar a las macros de SPSS descritas en el captulo anterior, puede usarse ms de
una variable de agrupacin. Por ejemplo, si se quiere determinar si la dispersin del rendimiento en matemticas es mayor para las chicas que para los chicos, puede usarse la macro PV como
a continuacin:

116 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 7.3. Sintaxis de SPSS para calcular la desviacin tpica y su error tpico en valores
plausibles segn el gnero
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
Select if (cnt='DEU' & not missing(st03q01)).
save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
include file 'c:\pisa\macros\mcr_SE_pv.sps'.
* EJECUTAR LA MACRO.
PV nrep = 80/
stat = sd/
dep = math /
grp = cnt st03q01/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'/.

La estructura del archivo de salida se presenta en la tabla 7.4.


Tabla 7.4. Estructura del archivo de salida a partir del cuadro 7.3
CNT
DEU
DEU

ST03Q01
1
2

STAT
99,29
105,05

SE
2,05
2,54

Segn la tabla 7.4, la desviacin tpica (STAT, estadstico) es mayor para los chicos que para
las chicas. Por desgracia, como se explicar en el captulo 10, estos dos errores tpicos (SE,
standard error) no pueden utilizarse para contrastar la igualdad de los dos valores de la desviacin tpica, ya que las estimaciones de la desviacin tpica para los chicos y para las chicas pueden estar correlacionadas.
El error tpico de los porcentajes con valores plausibles
La segunda macro, presentada por primera vez en el captulo 6, se desarroll para el clculo de
porcentajes y sus respectivos errores tpicos. El captulo 8 tratar de la aplicacin de esta macro
a valores plausibles; es necesario dedicar un captulo entero a este tipo de anlisis debido a las
cuestiones implicadas.
El error tpico de los coeficientes de regresin con valores plausibles
Supongamos que es necesario estimar el efecto estadstico del gnero y el contexto socioeconmico del alumno sobre el rendimiento en matemticas. Igual que para estimar una media, esta
cuestin puede solucionarse aplicando sucesivamente cinco veces la macro REGNOPV descrita
en el captulo 6.
El cuadro 7.4. presenta una sintaxis de SPSS para un enfoque as.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

117

Cuadro 7.4. Sintaxis de SPSS para calcular los coeficientes de regresin de los valores plausibles y sus errores tpicos
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
select if (cnt='DEU' & not missing(st03q01) & not missing(HISEI)).
compute gender=0.
if (st03q01=1) gender=1.
save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
include file='C:\PISA\macros\mcr_SE_reg.sps'.
* EJECUTAR LA MACRO 5 VECES.
REGnoPV nrep = 80/ ind = hisei gender/ dep = pv1math/
grp = cnt/ wgt = w_fstuwt/ rwgt = w_fstr/
cons = 0.05/ infile = 'c:\PISA\Data2003\DEU.sav'/.
RENAME VARS (STAT SE=STAT1 SE1).
save outfile='c:\temp\temp1.sav' /drop=var.
REGnoPV nrep = 80/ ind = hisei gender/ dep = pv2math/
grp = cnt/ wgt = w_fstuwt/ rwgt = w_fstr/
cons = 0.05/ infile = 'c:\PISA\Data2003\DEU.sav'/.
RENAME VARS (STAT SE=STAT2 SE2).
save outfile='c:\temp\temp2.sav' /drop=var.
REGnoPV nrep = 80/ ind = hisei gender/ dep = pv3math/
grp = cnt/ wgt = w_fstuwt/ rwgt = w_fstr/
cons = 0.05/ infile = 'c:\PISA\Data2003\DEU.sav'/.
RENAME VARS (STAT SE=STAT3 SE3).
save outfile='c:\temp\temp3.sav' /drop=var.
REGnoPV nrep = 80/ ind = hisei gender/ dep = pv4math/
grp = cnt/ wgt = w_fstuwt/ rwgt = w_fstr/
cons = 0.05/ infile = 'c:\PISA\Data2003\DEU.sav'/.
RENAME VARS (STAT SE=STAT4 SE4).
save outfile='c:\temp\temp4.sav' /drop=var.
REGnoPV nrep = 80/ ind = hisei gender/ dep = pv5math/
grp = cnt/ wgt = w_fstuwt/ rwgt = w_fstr/
cons = 0.05/ infile = 'c:\PISA\Data2003\DEU.sav'/.
RENAME VARS (STAT SE=STAT5 SE5).
save outfile='c:\temp\temp5.sav' /drop=var.
MATCH FILES file='c:\temp\temp1.sav' /file='c:\temp\temp2.sav'
file='c:\temp\temp3.sav' file='c:\temp\temp4.sav' file='c:\temp\temp5.sav'
by CNT ind.
exe.

Al igual que en el clculo de una media y su error tpico, el clculo de los coeficientes de regresin y sus respectivos errores tpicos consistir en seis pasos:
1.

Para cada valor plausible y para cada variable explicativa, se calculan los coeficientes de
regresin con el peso final y los 80 pesos replicados. Se calcularn 405 coeficientes de regresin por cada variable explicativa. La macro de SPSS REGNOPV, aplicada secuencialmente
cinco veces, producir por cada variable explicativa cinco estimaciones, llamadas

1 , K , 5 , y cinco errores tpicos, llamados ( ), K , ( ) . La tabla 7.5 muestra la expre1

sin matemtica para estas 405 estimaciones y la tabla 7.6 da algunos de los valores de los
405 coeficientes de regresin obtenidos de los datos de Alemania para la variable HISEI.

118 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

2.

La estimacin del coeficiente de regresin final es igual a =

1 + 2 + 3 + 4 + 5
5

, es

2,30 + 2,27 + 2,26 + 2,31 + 2,34


decir, para HISEI, =
= 2,30 .
5

3.

La estimacin de la varianza muestral final es igual a

(2 ) =

1 2
(1 ) + (22 ) + (23 ) + (24 ) + (25 ) ,
5

es decir, para HISEI,

(2 ) =
4.

(0,11)2 + (0,11)2 + (0,11)2 + (0,11)2 + (0,11)2

La varianza de la imputacin es igual a

(2prueba )
5.

(2prueba ) =

= 0,012

1 5 2
i , es decir, para HISEI,
4 i =1

(
2,30 2,30 )2 + (2,27 2,30 )2 + L + (2,34 2,30 )2
=
4

La varianza del error es igual a

(2error ) = (2 ) + 1,2 (2prueba )

0,0041
= 0,001
4

) , es decir, para HISEI,

(2error ) = 0,01248 + (1,2 0,0001) = 0,01368


6.

El error tpico es igual a SE

= (2error ) = 0,01368 = 0,117

Como 2,30 dividido por 0,117 es 19,66, el coeficiente de regresin para HISEI es significativamente distinto de 0.
Tabla 7.5. Las estimaciones de los 405 coeficientes de regresin
Peso

PV1

PV2

PV3

PV4

PV5

Final

Replicacin 1

1 _ 1

2 _ 1

3 _ 1

4 _ 1

5 _ 1

Replicacin 2

1 _ 2

2 _ 2

3 _ 2

4 _ 2

5 _ 2

Replicacin 3

1 _ 3

2 _ 3

3 _ 3

4 _ 3

5 _ 3

.........
.........

.........
.........

.........
.........

.........
.........

.........
.........

.........
.........

Replicacin 80

1 _ 80

2 _ 80

3 _ 80

4 _ 80

5 _ 80

Varianza
muestral

(2 )

(2 )

(2 )

(2 )

(2 )

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

119

Tabla 7.6. Estimaciones de los coeficientes de regresin de HISEI y su respectiva varianza


muestral en la escala de competencia matemtica para Alemania despus de eliminar el efecto del gnero
Peso
Final
Replicacin 1
.........
Replicacin 80
Varianza
muestral

PV1
2,30
2,31
.........
2,24

PV2
2,27
2,30
.........
2,21

PV3
2,26
2,31
.........
2,21

PV4
2,31
2,33
.........
2,23

PV5
2,34
2,35
.........
2,27

(0,11)2

(0,11)2

(0,11)2

(0,11)2

(0,11)2

Tambin se ha desarrollado una macro de SPSS para los anlisis de regresin con valores plausibles como variables dependientes. La sintaxis de SPSS se presenta en el cuadro 7.5.
Cuadro 7.5. Sintaxis de SPSS para ejecutar la macro de regresin lineal simple con valores
plausibles
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
select if (cnt='DEU' & not missing(st03q01) & not missing(HISEI)).
compute gender=0.
if (st03q01=1) gender=1.
save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
include file 'c:\pisa\macros\mcr_SE_reg_PV.sps'.
* EJECUTAR LA MACRO.
REG_PV nrep = 80/
ind = hisei gender/
dep = math/
grp = cnt/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'/.
* REESTRUCTURAR LOS DATOS (OPCIONAL).
Recode IND ('HISEI'='b1')('gender'='b2').
sort cases by cnt ind.
CASESTOVARS /ID = cnt /INDEX = ind /GROUPBY = index
/drop= stat1 stat2 stat3 stat4 stat5 var1 var2 var3 var4 var5 pv_var pvar1
pvar2 pvar3 pvar4 pvar5 pvmerr.

Adems de los argumentos comunes a todas las macros, la raz de los nombres de variables de
valores plausibles tambin debe especificarse, as como la lista de variables independientes. La
estructura del archivo de salida se presenta en la tabla 7.7.
Tabla 7.7. Estructura del archivo de salida a partir del cuadro 7.5
CNT
DEU
DEU
DEU

CLASS
b0
HISEI
gender

120 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

STAT
409,20
2,30
13,83

SE
7,22
0,117
3,56

Una visin rpida de estos resultados muestra que todos los parmetros de regresin son significativamente distintos de 0.
El error tpico de los coeficientes de correlacin con valores plausibles
Tambin se ha desarrollado una macro de SPSS para calcular la correlacin entre un conjunto
de valores plausibles y otra variable. La sintaxis de SPSS para ejecutar esta macro se presenta
en el cuadro 7.6 y la estructura del archivo de salida, en la tabla 7.8.
Cuadro 7.6. Sintaxis de SPSS para ejecutar la macro de correlacin con valores plausibles
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
select if (cnt='DEU').
save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
include file 'C:\PISA\macros\mcr_SE_cor_1PV.sps'.
* EJECUTAR LA MACRO.
COR_1PV nrep = 80/
nopv = hisei/
pv = math/
grp = cnt/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'/.

Tabla 7.8. Estructura del archivo de salida a partir del cuadro 7.6
CNT
DEU

STAT
0,39

SE
0,02

Correlacin entre dos conjuntos de valores plausibles


Quiz haya investigadores interesados en la correlacin entre las distintas reas y subreas. Por
ejemplo, algunos podran desear calcular la correlacin entre las subreas de lectura o entre las
subreas de matemticas, o entre lectura y matemticas, usando las bases de datos de PISA 2000
y PISA 2003.
Como se describe en PISA 2003 Technical Report (OCDE, 2005), la evaluacin PISA utiliz diseos de evaluacin incompletos, es decir, los alumnos deban responder a un subconjunto de la
batera de tems. Adems, mientras que todos los alumnos fueron evaluados en el rea principal, slo un subconjunto de ellos fue evaluado en las reas secundarias.
PISA 2000 slo incluan valores plausibles de alumnos para un rea secundaria si respondan a
las preguntas de esta. Por lo tanto, calcular la correlacin entre la lectura y las matemticas, por
ejemplo, utilizando la base de datos de PISA 2000, exigira trabajar con un subconjunto de alumnos.1

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

121

Para facilitar anlisis secundarios, PISA 2003 aporta valores plausibles para todas las reas y
todos los alumnos, sin considerar si stos han sido evaluados en realidad o no. Pasar por alto el
estatus de evaluacin es posible porque los datos cognitivos de PISA estn escalados segn
modelos multidimensionales.
Puesto que esto es ms fcil de ilustrar de modo grfico, supongamos que slo se evaluaron dos
subreas, concretamente espacio y forma y cantidad, ambas de matemticas. Si los materiales de
espacio y forma y cantidad se escalaran independientemente, la correlacin entre las dos subreas quedara muy subestimada. Con objeto de evitar este problema, ambos materiales se escalan juntos. El modelo elaborar una distribucin posterior en dos dimensiones, en lugar de dos
dimensiones posteriores unidimensionales como se describi en el captulo 5. La figura 7.1 presenta grficamente una distribucin normal bidimensional.
Figura 7.1. Una distribucin bidimensional

Para describir correctamente tales distribuciones, hacen falta dos medias, dos varianzas y una
correlacin. Si la correlacin es igual a 0, los dos ejes sern ortogonales. Conforme el valor absoluto de la correlacin empieza a aumentar, el ngulo formado por los dos ejes baja de 90 grados2. Dos ejes que se superpongan totalmente representaran una correlacin de 1,0 (o 1,0).
Estos distintos casos se ilustran en la figura 7.2.
Figura 7.2. Ejes para distribuciones normales bidimensionales

122 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Con un modelo bidimensional, el primer valor plausible para la subrea cantidad se obtendr al
mismo tiempo que el primer valor plausible para la subrea espacio y forma. Por cada alumno,
esto consistir en dibujar aleatoriamente un punto en el diagrama de dispersin. Las magnitudes de los dos valores plausibles sern las coordenadas del punto en los dos ejes. El mismo procedimiento se aplica a los valores plausibles segundo, tercero, cuarto y quinto.
Puesto que las reas y subreas de PISA tienen gran correlacin, como muestra el grfico de la
derecha en la figura 7.2, es muy improbable que un alumno obtenga una puntuacin alta para el
primer valor plausible en la subrea cantidad (PV1MATH4) y una puntuacin baja para el primer valor plausible en la subrea espacio y forma (PV1MATH1). Si se obtuvieran valores plausibles independientemente para estas dos subreas de matemticas, un caso as sera posible y,
por tanto, la correlacin quedara subestimada.
Puesto que cada seleccin es independiente, para calcular la correlacin entre las dos subreas
es necesario calcular la correlacin entre cada conjunto de valores plausibles:

PV1MATH1 Y PV1MATH4;

PV2MATH1 Y PV2MATH4;

PV3MATH1 Y PV3MATH4;

PV4MATH1 Y PV4MATH4;

PV5MATH1 Y PV5MATH4.

La tabla 7.9 presenta los 25 coeficientes de correlacin entre los cinco valores plausibles en las
subreas de cantidad y espacio y forma, respectivamente, para Alemania en PISA 2003.
Tabla 7.9. Correlacin entre los cinco valores plausibles para las subreas cantidad y espacio
y forma
PV1MATH1

PV2MATH1

PV3MATH1

PV4MATH1

PV5MATH1

PV1MATH4

0,90

0,83

0,84

0,84

0,83

PV2MATH4

0,83

0,90

0,84

0,84

0,83

PV3MATH4

0,84

0,83

0,90

0,84

0,83

PV4MATH4

0,83

0,83

0,84

0,90

0,83

PV5MATH4

0,83

0,83

0,84

0,84

0,90

Como se muestra en la tabla 7.9, los coeficientes de correlacin en la diagonal de la matriz cuadrada son considerablemente ms altos que los dems coeficientes. Por lo tanto, la estimacin
de la correlacin final entre estas dos subreas ser la media de los cinco coeficientes de correlacin de la diagonal.
La sintaxis de SPSS se da en el cuadro 7.7.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

123

Cuadro 7.7. Sintaxis de SPSS para el clculo de la correlacin entre cantidad y espacio y
forma
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
select if (cnt='DEU').
save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
include file 'c:\pisa\macros\mcr_SE_cor_2PV.sps'.
* EJECUTAR LA MACRO.
COR_2PV nrep = 80/
pv1 = math1/
pv2 = math4/
grp = cnt/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'/.

Las cinco estimaciones de correlacin y sus respectivos errores tpicos se dan en la tabla 7.10.
Tabla 7.10. Las cinco estimaciones de correlacin entre cantidad y forma y espacio y sus respectivas varianzas muestrales
PV1
0,8953
(0,0040)2

Correlacin
Varianza muestral

PV2
0,8964
(0,0033)2

PV3
0,8996
(0,0034)2

La estimacin de la correlacin final es igual a:

=
=

1 + 2 + 3 + 4 + 5
5

, es decir:

0,8953 + 0,8964 + L + 0,8958


= 0,8970
5

La varianza muestral final es igual a:


5

2
( )

(2 ) =

( )
2
i

i =1

, es decir:

(0,0040)2 + (0,0033)2 + L + (0,0038)2


5

= 0,000013

La varianza de imputacin (o de medida) puede calcularse como:

(2prueba ) =

1 5
(1 )2 = 0,000003
4 i =1

124 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

PV4
0,8978
(0,0037)2

PV5
0,8958
(0,0038)2

La varianza de error es igual a:

(2error ) = (2 ) + 1,2 (2prueba ) = 0,000017


El error tpico es igual a:

SE = (2error ) = 0,000017 = 0,0041


El clculo de la correlacin entre dos reas o entre una subrea y un rea podra resultar problemtico en algunos casos en las bases de datos de PISA. PISA 2000 utiliz dos modelos de
escala:

un modelo tridimensional con matemticas, lectura y ciencias;

un modelo pentadimensional con matemticas, lectura (recuperacin de la informacin,


interpretacin de los textos y reflexin) y ciencias.

PISA 2003 tambin us dos modelos de escala:

un modelo tetradimensional con matemticas, solucin de problemas, lectura y ciencias;

un modelo heptadimensional con matemticas (espacio y forma, cambio y relaciones, incertidumbre, cantidad), solucin de problemas, lectura y ciencias.

Las bases de datos de PISA deberan contener dos conjuntos de valores plausibles para cada
una de las reas secundarias. Como esto resultara demasiado confuso, slo se proporcion un
conjunto. Por tanto, los coeficientes de correlacin estn subestimados.
Esto puede confirmarse al examinar los datos. En el caso de un rea secundaria y una subescala
del rea principal, los coeficientes de correlacin en la diagonal no difieren de las dems correlaciones, puesto que estos dos conjuntos de valores plausibles se generaron mediante dos modelos distintos.
En PISA 2003, as como en PISA 2000, los valores plausibles para las reas secundarias incluidas
en las bases de datos se generaron con el rea principal como escala combinada. Esto significa
que:

puede calcularse la correlacin entre un rea secundaria y la escala combinada del rea
principal;

puede calcularse la correlacin entre dos reas secundarias;

puede calcularse la correlacin entre las subreas;

no es posible calcular la correlacin entre reas secundarias y una de las subescalas del
rea principal.

Un mtodo abreviado incorrecto


Un mtodo abreviado que contiene un grave error, comn cuando se realizan anlisis mediante
valores plausibles, implica el clculo de la media de los cinco valores plausibles, antes de seguir
analizando.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

125

En el captulo 5 se describi el estimador EAP del rendimiento del alumno. Recordemos que el
estimador EAP es igual a la media de la distribucin posterior. Por lo tanto, calcular para cada
alumno la media de los cinco valores plausibles es ms o menos igual a la estimacin EAP.
En el captulo 5, se compar la eficiencia del estimador EAP con el WLE y los PV para las estimaciones de algunos estadsticos. Se indic que el estimador EAP

subestima la desviacin tpica;

sobreestima la correlacin entre el rendimiento de los alumnos y algunas variables del


entorno;

subestima la varianza entre centros.

Por tanto, calcular la media de los cinco valores plausibles y luego calcular estadsticos a partir
de esta nueva puntuacin sesgara los resultados, como ocurre con los estimadores EAP. La
tabla 7.11 proporciona, segn el pas, la desviacin tpica en la escala de matemticas, usando el
mtodo correcto, como se describe en este captulo, y tambin el mtodo incorrecto de obtener
las medias de los cinco valores plausibles para cada alumno y, despus, calcular la desviacin
tpica segn esta nueva puntuacin. El resultado del ltimo proceso se denomina pseudo EAP.
Como se muestra en la tabla 7.11, el pseudo EAP subestima la desviacin tpica.
Tabla 7.1. Desviaciones tpicas en la escala de matemticas mediante el mtodo correcto (valores plausibles) y promediando los valores plausibles de cada alumno (pseudo EAP)

AUS
AUT
BEL
BRA
CAN
CHE
CZE
DEU
DNK
ESP
FIN
FRA
GBR
GRC
HKG
HUN
IDN
IRL
ISL
ITA
JPN

Valores
plausibles
95,42
93,09
109,88
99,72
87,11
98,38
95,94
102,59
91,32
88,47
83,68
91,70
92,26
93,83
100,19
93,51
80,51
85,26
90,36
95,69
100,54

Pseudo EAP
91,90
89,91
106,65
94,79
83,37
94,97
92,50
99,54
87,52
84,52
79,77
88,07
89,18
89,49
96,99
89,71
74,86
82,03
86,55
92,00
96,96

KOR
LIE
LUX
LVA
MAC
MEX
NLD
NOR
NZL
POL
PRT
RUS
SVK
SWE
THA
TUN
TUR
URY
USA
YUG

Valores
plausibles
92,38
99,06
91,86
87,90
86,95
85,44
92,52
92,04
98,29
90,24
87,63
92,25
93,31
94,75
81,95
81,97
104,74
99,68
95,25
84,65

Pseudo EAP
89,07
95,42
88,28
83,92
82,72
80,52
89,89
88,31
95,07
86,49
83,91
87,81
89,86
91,07
77,15
76,86
100,79
95,21
92,12
80,43

Un mtodo abreviado sin sesgo


Las tablas 7.1 y 7.5 dan, respectivamente, los 405 estimadores de las medias y de la regresin
necesarios para calcular una estimacin final de una media o de un coeficiente de regresin y

126 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

sus respectivos errores tpicos.


En promedio, analizar un valor plausible en lugar de cinco proporciona estimaciones de poblacin no sesgadas, as como varianzas muestrales no sesgadas de estas estimaciones. Sin embargo, no ser posible estimar la varianza de imputacin mediante este mtodo.
Por tanto, un mtodo abreviado sin sesgo debera consistir en:

calcular, mediante uno de los cinco valores plausibles, el estimador estadstico y su varianza
muestral utilizando el peso final de los alumnos, as como los 80 pesos replicados;

calcular el estimador estadstico usando slo el peso final de los alumnos en los otros cuatro
valores plausibles;

calcular el estimador estadstico final promediando los estimadores estadsticos de los valores plausibles;

calcular la varianza de imputacin, como ya se ha descrito;

combinar la varianza de imputacin y la varianza muestral, tambin como ya se ha descrito.

Este mtodo abreviado sin sesgo se presenta en la tabla 7.12 para la estimacin de una media y
su error tpico. Slo necesita el clculo de 85 estimaciones, en lugar de 405. La estimacin final
segn este mtodo ser igual a la obtenida gracias al procedimiento largo, pero el error tpico
quiz difiera ligeramente.
Tabla 7.12. Mtodo abreviado sin sesgo para una estimacin poblacional y su error tpico
Peso

PV1

PV2

Final

Replicacin 1

1
1_1

Replicacin 2

1_ 2

Replicacin 3

1_ 3

.........
.........

.........
.........

Replicacin 80

1_ 80

Varianza
muestral

(2 )

PV3

PV4

PV5

Conclusiones
Este captulo describe los distintos pasos para analizar datos con valores plausibles. Tambin
proporciona algunas macros de SPSS para facilitar los clculos.
Se ha llamado la atencin as mismo sobre un error frecuente que consiste en calcular la media
de los valores plausibles alumno a alumno y aadir este valor a la base de datos para utilizarlo
como la puntuacin de los alumnos en los anlisis. A diferencia de este sistema, el mtodo correcto supone que el proceso de promediar debe ocurrir siempre en la etapa final, es decir, sobre
el estadstico que se obtendr.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

127

As mismo se present la cuestin concreta de analizar dos conjuntos de valores plausibles en el


caso de una correlacin. El procedimiento aplicado puede extenderse a un anlisis de regresin
lineal.
Por ltimo, se describi un mtodo abreviado sin sesgo que resulta til para procedimientos
que llevan mucho tiempo, como los procedimientos multinivel.

Para ms informacin, vase Manual for the PISA 2000 Database (OCDE, 2002b).

Un coeficiente de correlacin puede expresarse mediante los cosenos del ngulo formado por las dos variables.

128 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Captulo 8

El uso de niveles de rendimiento


Introduccin ........................................................................................................................................... 130
Generacin de los niveles de rendimiento ......................................................................................... 130
Otros anlisis con niveles de rendimiento ......................................................................................... 136
Conclusiones .......................................................................................................................................... 140

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

129

Introduccin
Los valores para el rendimiento de los alumnos en cuanto a su competencia en lectura, matemticas y ciencias suelen considerarse como variables latentes continuas. Con objeto de facilitar la
interpretacin de las puntuaciones asignadas a los alumnos, en PISA 2000 la escala combinada
de competencia lectora y las escalas de matemticas y ciencias se disearon para que tuvieran
una puntuacin media de 500 puntos y una desviacin tpica de 100 en los pases de la OCDE
que participaron. Esto significa que aproximadamente dos tercios de los alumnos de la OCDE
obtuvieron entre 400 y 600 puntos.
En PISA 2003, se elaboraron por primera vez cinco escalas de matemticas: la escala de matemticas, la escala de espacio y forma, la escala de cambio y relaciones, la escala de cantidad y la
escala de incertidumbre, con el objetivo de alcanzar una puntuacin media de 500 puntos entre
los pases de la OCDE. Sin embargo, a diferencia de la escala de matemticas, las escalas de
lectura y ciencias de PISA 2003 se anclaron a los resultados de PISA 2000.
Con el propsito de mejorar la accesibilidad de los resultados a los responsables polticos y
educadores, se desarrollaron las escalas descritas de rendimento para las reas de evaluacin.
Puesto que estas escalas se dividen en niveles de dificultad y rendimiento, puede obtenerse una
clasificacin del rendimiento de los alumnos, as como una descripcin de las destrezas asociadas con cada nivel de rendimiento. Los niveles sucesivos se asocian con tareas de dificultad
cada vez mayor.
En PISA 2000, se definieron y publicaron cinco niveles de rendimiento en lectura en el informe
inicial Knowledge and Skills for Life: First Results for PISA 2000 (OCDE, 2001). En PISA 2003, tambin se definieron y publicaron seis niveles de rendimiento en matemticas en el informe inicial
Learning for Tomorrows World First Results from PISA 2003 (OCDE, 2004a).
Este captulo mostrar cmo se obtienen los niveles de rendimiento a partir de las bases de datos de PISA y cmo se utilizan.
Generacin de los niveles de rendimiento
Los niveles de rendimiento no se incluyen en las bases de datos, pero pueden obtenerse a partir
de los valores plausibles.
En PISA 2003, los puntos de corte que enmarcan los niveles de rendimiento en matemticas son
exactamente: 357,77; 420,07; 482,38; 544,68; 606,99 y 669,31. Mientras que algunos investigadores
quiz comprendan que pueden asignarse distintas puntuaciones posibles a cada alumno, comprender que pueden asignarse niveles distintos es ms difcil. Por lo tanto, quiz sientan la tentacin de calcular la media de los cinco valores plausibles y asignen despus a cada alumno un
nivel de rendimiento basado en esta media.
Como ya se explic en los captulos 5 y 7, tal procedimiento es similar a la asignacin de una
puntuacin EAP a cada alumno, y ahora conocemos bien los sesgos que aquejan a un estimador
semejante. Puesto que usar puntuaciones EAP subestima la desviacin tpica, la estimacin por
este medio de los porcentajes de alumnos en cada nivel de rendimiento subestimar los porcentajes en los niveles ms bajos y ms altos y sobreestimar los porcentajes de los niveles medios.

130 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Como ya se ha indicado, las encuestas educativas internacionales no pretenden estimar con


exactitud el rendimiento de los alumnos individuales; pretenden describir caractersticas de la
poblacin. Por ello, es perfectamente posible asignar a ciertos alumnos un nivel de rendimiento
distinto para diferentes valores plausibles. As, se asignarn cinco niveles plausibles de rendimiento a cada alumno segn sus cinco valores plausibles. La sintaxis de SPSS para la generacin de niveles plausibles de rendimiento en matemticas se proporciona en el cuadro 8.1.
PISA 2000 slo proporcion puntos de corte para niveles de rendimiento en lectura. Por tanto,
slo pueden generarse niveles de rendimiento en la escala combinada de competencia lectora y
en las tres subescalas.
PISA 2003 proporcion otros puntos de corte para los niveles de rendimiento en matemticas.
Por tanto, pueden generarse niveles de rendimiento en la escala de matemticas y en sus cuatro
subescalas, as como en la escala combinada de competencia lectora.
El proceso iterativo recodificar cada una de las 25 variables de valores plausibles en una nueva
variable, con siete categoras etiquetadas del 0 al 6.
Cuadro 8.1. Sintaxis de SPSS para la generacin de niveles de rendimiento
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
select if (cnt='DEU').
do repeat pv=pv1math pv2math pv3math pv4math pv5math
pv1math1 pv2math1 pv3math1 pv4math1 pv5math1
pv1math2 pv2math2 pv3math2 pv4math2 pv5math2
pv1math3 pv2math3 pv3math3 pv4math3 pv5math3
pv1math4 pv2math4 pv3math4 pv4math4 pv5math4
/lev=mlev1 to mlev5 m1lev1 to m1lev5 m2lev1 to m2lev5 m3lev1
to m3lev5 m4lev1 to m4lev5.
if
if
if
if
if
if
if

(pv<=357.77) lev=0.
(pv>357.77 and pv<=420.07) lev=1.
(pv>420.07 and pv<=482.38) lev=2.
(pv>482.38 and pv<=544.68) lev=3.
(pv>544.68 and pv<=606.99) lev=4.
(pv>606.99 and pv<=669.3) lev=5.
(pv>669.3) lev=6.

End repeat.
Formats mlev1 to mlev5 m1lev1 to m1lev5 m2lev1 to m2lev5 m3lev1 to
m3lev5 m4lev1 to m4lev5 (F1.0).
save outfile='c:\PISA\Data2003\DEU_LEV.sav'.

El clculo del porcentaje de alumnos en cada nivel de rendimiento y su respectivo error tpico
es exactamente igual al clculo de la estimacin de una media y su error tpico que se describi
en el captulo 7, es decir:

Para cada valor plausible, es preciso calcular el porcentaje de alumnos en cada nivel de
rendimiento y su respectivo error tpico. Por cada nivel de rendimiento, se obtendrn 5 estimaciones de porcentajes, llamadas

1 , 2 , 3 , 4 y 5 . A partir de las 80 replicaciones apli-

cadas a cada una de las 5 variables de los niveles de rendimiento, por cada uno se estimarn
5 varianzas muestrales, llamadas respectivamente

(2 ) , (2 ) , (2 ) , (2
1

) y ( 5 ) . Estas cinco
2

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

131

estimaciones de porcentajes y de sus respectivas varianzas muestrales se presentan en la tabla 8.1.

La estimacin de la media final es igual al promedio de las cinco estimaciones de la media,


es decir,

1
(1 + 2 + 3 + 4 + 5 ) .
5

La varianza muestral final es igual al promedio de las cinco varianzas muestrales, es decir,

(2 ) =

1 2
(1 ) + (2 2 ) + (2 3 ) + (2 4 ) + (2 5 ) .
5

La varianza de imputacin, tambin llamada varianza del error de medida, se calcula as2:

(2prueba ) =

1 5
( i )2 .
4 i =1

La varianza muestral y la varianza de la imputacin se combinan para obtener la varianza


de error final as:

(2error ) = (2 ) + 1,2 (2prueba )

).

El error tpico es igual a la raz cuadrada de la varianza de error.

Este proceso se repite para cada nivel de aptitud.


Tabla 8.1. Las 405 estimaciones de porcentajes para un determinado nivel de aptitud
Peso

MLEV PV1

MLEV PV2

MLEV PV3

MLEV PV4

MLEV PV5

Final
Replicacin 1

1
1 _ 1

2
2 _ 1

3
3 _ 1

4
4 _ 1

5 _ 1

Replicacin 2

1 _ 2

2 _ 2

3 _ 2

4 _ 2

5 _ 2

Replicacin 3

1 _ 3

2 _ 3

3 _ 3

4 _ 3

5 _ 3

.........
.........

.........
.........

.........
.........

.........
.........

.........
.........

.........
.........

Replicacin 80

1 _ 80

2 _ 80

3 _ 80

4 _ 80

5 _ 80

Varianza
muestral

(2 )

(2

(2 )

(2

(2 )

De esta forma, se estimarn 405 porcentajes por cada nivel de aptitud. Como existen siete niveles en matemticas, esto significa que se estimarn 2.835 porcentajes.
Los siete niveles de aptitud en matemticas son:
1. por debajo del nivel 1;
2. nivel 1;
3. nivel 2;
4. nivel 3;
5. nivel 4;

132 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

6.
7.

nivel 5;
nivel 6.

Al aplicar sucesivamente cinco veces la macro GRPPCT descrita en el captulo 5, se obtendrn,


segn el nivel de rendimiento, cinco estimaciones de porcentajes y cinco estimaciones de errores
tpicos que pueden combinarse para obtener la estimacin final y su error tpico.
El cuadro 8.2 presenta la sintaxis de SPSS para ejecutar sucesivamente cinco veces la macro
GRPPCT. La tabla 8.2 presenta, por cada nivel de rendimiento, las cinco estimaciones y sus respectivas varianzas muestrales.
Cuadro 8.2. Sintaxis de SPSS para calcular los porcentajes de alumnos por nivel de rendimiento en matemticas
* IMPORTAR LA MACRO.
include file 'c:\pisa\macros\mcr_SE_GrpPct.sps'.
* EJECUTAR LA MACRO 5 VECES.
GRPPCT nrep = 80/ within = cnt/ grp = mlev1/
wgt = w_fstuwt/ rwgt = w_fstr/
cons = 0.05/ infile = 'c:\PISA\Data2003\DEU_LEV.sav'/.
rename vars (stat se mlev1=stat1 se1 mlev).
save outfile='c:\temp\grppct1.sav' /drop=var.
GRPPCT nrep = 80/ within = cnt/ grp = mlev2/
wgt = w_fstuwt/ rwgt = w_fstr/
cons = 0.05/ infile = 'c:\PISA\Data2003\DEU_LEV.sav'/.
rename vars (stat se mlev2=stat2 se2 mlev).
save outfile='c:\temp\grppct2.sav' /drop=var.
GRPPCT nrep = 80/ within = cnt/ grp = mlev3/
wgt = w_fstuwt/ rwgt = w_fstr/
cons = 0.05/ infile = 'c:\PISA\Data2003\DEU_LEV.sav'/.
rename vars (stat se mlev3=stat3 se3 mlev).
save outfile='c:\temp\grppct3.sav' /drop=var.
GRPPCT nrep = 80/ within = cnt/ grp = mlev4/
wgt = w_fstuwt/ rwgt = w_fstr/
cons = 0.05/ infile = 'c:\PISA\Data2003\DEU_LEV.sav'/.
rename vars (stat se mlev4=stat4 se4 mlev).
save outfile='c:\temp\grppct4.sav' /drop=var.
GRPPCT nrep = 80/ within = cnt/ grp = mlev5/
wgt = w_fstuwt/ rwgt = w_fstr/
cons = 0.05/ infile = 'c:\PISA\Data2003\DEU_LEV.sav'/.
rename vars (stat se mlev5=stat5 se5 mlev).
save outfile='c:\temp\grppct5.sav' /drop=var.
match files file='c:\temp\grppct1.sav' /file='c:\temp\grppct2.sav'
/file='c:\temp\grppct3.sav' /file='c:\temp\grppct4.sav'
/file='c:\temp\grppct5.sav' /by mlev.
exe.

Para combinar los resultados:

se promedian las cinco estimaciones de porcentajes por nivel de rendimiento;

se promedian las cinco varianzas muestrales por nivel de rendimiento;

se calcula la varianza de imputacin comparando la estimacin final y las cinco estimaciones de valores plausibles;

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

133

la varianza muestral final y la varianza de imputacin se combinan como de costumbre


para obtener la varianza de error final;

se obtiene el error tpico extrayendo la raz cuadrada de la varianza de error.

Tabla 8.2. Estimaciones y varianzas muestrales, en Alemania, por nivel de rendimiento en


matemticas
Nivel
Por debajo
delnivel 1

PV1

PV2

PV3

PV4

PV5

9,69

9,02

9,12

9,36

8,75

(2 )

(0,79)

(0,73)

(0,75)

(0,74)

(0,71)

11,87

12,68

12,67

12,33

12,52

(0,74)

(0,74)

(0,72)

(0,71)

(0,72)

18,20

18,83

19,53

18,87

19,56

(0,80)

(0,80)

(0,86)

(0,89)

(0,88)

23,11

22,69

22,14

22,23

22,66

(2 )

(0,72)

(0,67)

(0,68)

(0,62)

(0,81)

21,05

20,95

20,30

20,85

19,91

(2 )

(0,89)

(0,93)

(0,85)

(0,82)

(0,85)

11,65

11,74

12,50

12,13

12,82

(0,65)

(0,66)

(0,70)

(0,65)

(0,73)

4,42

4,09

3,74

4,23

3,78

(0,35)

(0,38)

(0,33)

(0,37)

(0,36)

i
i

Nivel 1

Nivel 2

Nivel 3

2
( i )

2
( i )

i
i

Nivel 4

Nivel 5

Nivel 6

2
( i )

2
( i )

Los resultados finales se presentan en la tabla 8.3.


Tabla 8.3. Estimaciones finales del porcentaje de alumnos, en Alemania, por nivel de rendimiento en matemticas, y sus respectivos errores tpicos
Nivel de aptitud
Por debajo del nivel 1
Nivel 1
Nivel 2
Nivel 3
Nivel 4
Nivel 5
Nivel 6

%
9,19
12,42
19,00
22,57
20,61
12,17
4,05

ET
0,84
0,81
1,05
0,82
1,02
0,87
0,48

Se ha elaborado una macro de SPSS para calcular el porcentaje de alumnos en cada nivel de
rendimiento, as como su respectivo error tpico, con una sola ejecucin. El cuadro 8.3 presenta
la sintaxis de SPSS para ejecutar la macro y la tabla 8.4 presenta la estructura del archivo de
salida. Para la escala de matemticas, el argumento GRP se establecer como MLEV.

134 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 8.3. Sintaxis de SPSS para calcular el porcentaje de alumnos segn el nivel de rendimiento
* IMPORTAR LA MACRO.
include file 'c:\pisa\macros\mcr_SE_PctLev.sps'.
* EJECUTAR LA MACRO.
PCTLEV nrep = 80/
within = cnt/
grp = mlev/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU_LEV.sav'/.

Tabla 8.4. Estructura del archivo de salida del cuadro 8.3


CNT
DEU
DEU
DEU
DEU
DEU
DEU
DEU

MLEV
0
1
2
3
4
5
6

STAT
9,19
12,42
19,00
22,57
20,61
12,17
4,05

SE
0,84
0,81
1,05
0,82
1,02
0,87
0,48

Una vez ms, pueden utilizarse diversas variables de agrupacin. Por ejemplo, la distribucin
de alumnos entre los niveles de rendimiento segn el gnero puede obtenerse como en el cuadro 8.4.
Cuadro 8.4. Sintaxis de SPSS para calcular el porcentaje de alumnos segn nivel de rendimiento y gnero
* IMPORTAR LA MACRO.
include file 'c:\pisa\macros\mcr_SE_PctLev.sps'.
* EJECUTAR LA MACRO.
PCTLEV nrep = 80/
within = cnt st03q01/
grp = mlev/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU_LEV.sav'/.

En este caso, la suma de los porcentajes ser igual a 100 por pas y por gnero, como muestra la
tabla 8.5.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

135

Tabla 8.5. Estructura del archivo de salida a partir del cuadro 8.4
CNT
DEU
DEU
DEU
DEU
DEU
DEU
DEU
DEU
DEU
DEU
DEU
DEU
DEU
DEU

ST03Q01
1
1
1
1
1
1
1
2
2
2
2
2
2
2

MLEV
0
1
2
3
4
5
6
0
1
2
3
4
5
6

STAT
9,24
12,15
19,92
23,92
20,65
11,25
2,87
8,88
12,53
18,14
21,43
20,72
13,03
5,27

SE
1,05
1,02
1,42
1,37
1,18
0,97
0,57
1,04
0,99
1,21
0,98
1,32
1,14
0,65

Como se muestra en la tabla 8.5, el porcentaje de chicas en el nivel 6 es superior al de chicos en


el mismo nivel.
La significacin estadstica de estas diferencias no puede evaluarse con este procedimiento. En
el captulo 10 se proporcionarn ms detalles sobre esta cuestin.
Otros anlisis con niveles de rendimiento
Otro de los ndices elaborados en PISA 2003 es un ndice de autoeficacia en matemticas, denominado MATHEFF.
Para PISA 2003, es relevante analizar la relacin entre los niveles de rendimiento y la autoeficacia en matemticas, ya que probablemente existe una relacin recproca entre estos dos conceptos. Se cree que una mejor autopercepcin en matemticas aumenta el rendimiento del alumno
en esta rea, pero un aumento de este ltimo podra, a su vez, influir en la primera.
Supongamos que el estadstico de inters es la autoeficacia media por nivel de rendimiento. En
trminos estadsticos, la autoeficacia en matemticas se considera la variable dependiente y el
nivel de rendimiento, la variable independiente. No existe una macro que pueda calcular directamente la media de una variable continua por cada nivel de rendimiento. Por otra parte, la
macro UNIV descrita en el captulo 6 puede aplicarse cinco veces secuencialmente y los resultados podran combinarse en una hoja de clculo de Microsoft Excel, por ejemplo. As ser el
caso cuando los niveles de rendimiento se utilicen como variables independientes o como variables de clasificacin.
El cuadro 8.5 presenta la sintaxis de SPSS para calcular la media de la autoeficacia de los
alumnos por cada nivel de rendimiento. Las estimaciones de las medias y sus respectivos errores tpicos se presentan en la tabla 8.6.

136 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 8.5. Macro de SPSS para calcular la media de la autoeficacia en matemticas por
nivel de rendimiento
* IMPORTAR LA MACRO.
Include file 'C:\PISA\macros\mcr_SE_univ.sps'.
* EJECUTAR LA MACRO 5 VECES.
univar nrep = 80/ stat = mean/ dep = matheff/
grp = cnt mlev1/ wgt = w_fstuwt/
rwgt = w_fstr/ cons = 0.05/
infile = 'c:\PISA\Data2003\DEU_LEV.sav'.
rename vars (mlev1 stat var se=mlev stat1 var1 se1).
save outfile='c:\temp\mlev1.sav'.
univar nrep = 80/ stat = mean/ dep = matheff/
grp = cnt mlev2/ wgt = w_fstuwt/
rwgt = w_fstr/ cons = 0.05/
infile = 'c:\PISA\Data2003\DEU_LEV.sav'.
rename vars (mlev2 stat var se=mlev stat2 var2 se2).
save outfile='c:\temp\mlev2.sav'.
univar nrep = 80/ stat = mean/ dep = matheff/
grp = cnt mlev3/ wgt = w_fstuwt/
rwgt = w_fstr/ cons = 0.05/
infile = 'c:\PISA\Data2003\DEU_LEV.sav'.
rename vars (mlev3 stat var se=mlev stat3 var3 se3).
save outfile='c:\temp\mlev3.sav'.
univar nrep = 80/ stat = mean/ dep = matheff/
grp = cnt mlev4/ wgt = w_fstuwt/
rwgt = w_fstr/ cons = 0.05/
infile = 'c:\PISA\Data2003\DEU_LEV.sav'.
rename vars (mlev4 stat var se=mlev stat4 var4 se4).
save outfile='c:\temp\mlev4.sav'.
univar nrep = 80/ stat = mean/ dep = matheff/
grp = cnt mlev5/ wgt = w_fstuwt/
rwgt = w_fstr/ cons = 0.05/
infile = 'c:\PISA\Data2003\DEU_LEV.sav'.
rename vars (mlev5 stat var se=mlev stat5 var5 se5).
save outfile='c:\temp\mlev5.sav'.
match files file'c:\temp\mlev1.sav' /file='c:\temp\mlev2.sav'
/file='c:\temp\mlev3.sav' /file='c:\temp\mlev4.sav'
/file='c:\temp\mlev5.sav' /by MLEV.
exe.

Para combinar los resultados:

se promedian las cinco estimaciones de las medias por nivel de rendimiento;

se promedian las cinco varianzas muestrales por nivel de rendimiento;

se calcula la varianza de imputacin comparando la estimacin final y las cinco estimaciones de valores plausibles;

la varianza muestral final y la varianza de imputacin se combinan como de costumbre


para obtener la varianza de error final;

se obtiene el error tpico calculando la raz cuadrada de la varianza de error.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

137

Tabla 8.6. Estimaciones de las medias y sus errores tpicos para la autoeficacia en matemticas por nivel de rendimiento
Nivel
Por debajo
del nivel 1

PV1
0.68

PV2
0.70

PV3
0.74

PV4
0.72

PV5
0.77

(2 )
i

(0.06)

(0.06)

(0.06)

(0.05)

(0.06)

0.44

0.45

0.42

0.43

0.40

(2 )
i

(0.06)

(0.05)

(0.06)

(0.04)

(0.05)

0.18

0.16

0.17

0.18

0.18

(2 )
i

(0.03)

(0.03)

(0.03)

(0.03)

(0.03)

0.09

0.09

0.12

0.11

0.10

(2 )
i

(0.03)

(0.03)

(0.03)

(0.03)

(0.03)

0.43

0.45

0.41

0.45

0.44

(2 )
i

(0.03)

(0.03)

(0.03)

(0.03)

(0.03)

0.85

0.84

0.86

0.79

0.82

(2 )
i

(0.04)

(0.04)

(0.03)

(0.04)

(0.04)

1.22

1.23

1.27

1.28

1.29

(2 )

(0.05)

(0.05)

(0.06)

(0.05)

(0.07)

i
i

Nivel 1

Nivel 2

Nivel 3

Nivel 4

Nivel 5

Nivel 6

Los resultados finales se presentan en la tabla 8.7.


La sintaxis del cuadro 8.5 puede mejorarse aadiendo instrucciones que calculen la estimacin
final y su error tpico, como en el cuadro 8.6. Puesto que los resultados se han guardado en cinco archivos de datos de salida con exactamente los mismos nombres de variables, es necesario
renombrarlas antes.

138 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 8.6. Sintaxis de SPSS para calcular la media de la autoeficacia en matemticas por
nivel de rendimiento
*** CLCULO DE LA MEDIA FINAL Y DE LA VARIANZA MUESTRAL FINAL (Bm) ***.
compute stat=mean(stat1,stat2,stat3,stat4,stat5).
compute PV_var=mean(var1,var2,var3,var4,var5).
EXE.
*** CLCULO DE LA VARIANZA DE IMPUTACIN O DE MEDIDA (Bm) ***.
do repeat a=stat1 stat2 stat3 stat4 stat5 /b=pvar1 to pvar5.
compute b=(a-stat)**2.
end repeat.
compute pvmerr=.25*(sum(pvar1 to pvar5)).
*** CLCULO DEL ERROR TPICO: SQRT[V = U + (1+1/M)Bm] ***.
compute SE=sqrt(PV_var+1.2*pvmerr).
Exe.
formats stat (F8.3) se (F10.5).
list cnt mlev stat se.

Una vez que los archivos de datos de salida se fusionan segn las variables de agrupacin (en
este caso concreto, segn CNT) y segn los niveles de aptitud (MLEV):

la estimacin final se calcula promediando las cinco estimaciones;

la varianza muestral final se calcula promediando las cinco varianzas muestrales,

se calcula la varianza de imputacin;

se calcula el error tpico, combinando la varianza muestral y la varianza de imputacin, y


extrayendo la raz cuadrada.

La estructura del archivo de salida se presenta en la tabla 8.7.


Tabla 8.7. Estructura del archivo de salida a partir del cuadro 8.6
CNT
DEU
DEU
DEU
DEU
DEU
DEU
DEU

MLEV
0
1
2
3
4
5
6

STAT
0,72
0,43
0,17
0,10
0,44
0,83
1,26

SE
0,07
0,06
0,03
0,03
0,03
0,05
0,07

La tabla 8.7 muestra que una gran autoeficacia en matemticas (STAT, estadstico) se asocia
con un nivel de rendimiento ms alto (MLEV).

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

139

Conclusiones
Este captulo muestra cmo calcular el porcentaje de alumnos por cada nivel de rendimiento.
Como se ha visto, el algoritmo es similar al utilizado para otros estadsticos.
Tambin se coment la dificultad de efectuar anlisis utilizando los niveles de rendimiento como variables independientes o explicativas.

En PISA 2000, los puntos de corte que enmarcan los niveles de rendimiento en lectura son exactamente 334,7526;
407,4667; 480,1807; 552,8948 y 625,6088.
1

2 Esta frmula es una simplificacin de la frmula general proporcionada en el captulo 4. M, que representaba el nmero de valores plausibles, se ha sustituido por 5.

140 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Captulo 9

Los anlisis con las variables del centro


Introduccin ........................................................................................................................................... 142
Limitaciones de las muestras de centros en PISA ............................................................................. 143
Fusin de los archivos de datos de centros y alumnos .................................................................... 144
Anlisis de las variables del centro ..................................................................................................... 145
Conclusiones .......................................................................................................................................... 147

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

141

Introduccin
La poblacin objetivo en PISA son los alumnos de 15 aos. Se eligi esta poblacin porque, a
esta edad, en la mayora de pases de la OCDE los alumnos se acercan al final de la escolarizacin obligatoria, de modo que PISA debera poder aportar una indicacin del efecto acumulativo que sobre ellos ha tenido la educacin a lo largo de los aos. En PISA se utiliza un procedimiento de muestreo en dos etapas. Despus de definir la poblacin, se seleccionan las muestras
de centros con una probabilidad proporcional a su tamao. A continuacin, se seleccionan aleatoriamente 35 alumnos en cada centro. Como la poblacin objetivo se define por la edad, es
posible, por tanto, que los alumnos provengan de cursos diferentes.
La tabla 9.1 presenta la distribucin de los alumnos de 15 aos segn el pas y el curso en PISA
2003.
Tabla 9.1. Estimaciones del porcentaje de alumnos de 15 aos por curso y pas en PISA 2003a
AUS
AUT
BEL
BRA
CAN
CHE
CZE
DEU
DNK
ESP
FIN
FRA
GBR
GRC
HKG
HUN
IDN
IRL
ISL
ITA
JPN
KOR
LIE
LUX
LVA
MAC
MEX
NLD
NOR
NZL
POL
PRT
RUS
SVK

7
0,01
0,30
0,33
13,70
0,57
0,75
0,15
1,70
0,07
0,03
0,26
0,20

8
0,14
5,07
3,69
24,82
2,47
16,90
2,82
14,99
9,10
3,18
12,43
5,37

0,22
5,12
1,08
2,40
0,02

2,09
10,75
5,00
12,68
2,78

9
8,34
43,18
29,64
42,89
13,74
62,77
44,67
59,94
86,96
27,03
87,31
34,86
0,02
6,55
25,70
65,13
48,78
60,87

0,18

1,38

14,20

0,61
1,09
12,30
3,62
0,14

20,37
14,85
16,76
25,88
10,95
4,44

0,72
4,25
0,35
0,58

0,06
3,07
10,58
2,58
0,92

1,57
71,26
55,79
75,96
36,82
40,76
45,61
0,62
6,79
95,70
20,26
28,74
37,10

10
72,26
51,45
65,49
18,08
82,04
19,40
52,36
23,25
3,83
69,73

11
19,21

57,29
33,81
76,13
58,36
28,76
34,51
16,68
100,00
79,95
100,00
98,33
7,75
29,25
6,08
24,66
43,69
49,32
98,68
89,38
0,51
64,32
67,23
60,93

2,23
63,56
15,01
0,08
0,02
1,57
19,65

0,85
0,51
1,17
0,18

12
0,05

0,00

0,12
0,05
0,02
0,05
2,61

0,07

4,28
0,10
0,10
0,13
0,34
0,93
0,47
0,69
3,74

0,04
0,02
0,02

0,58
1,10
0,46

Los resultados se basan en la informacin proporcionada en los cuestionarios de los alumnos; por lo tanto, no estn
sesgados debido a una tasa de participacin diferencial segn los cursos.

142 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

SWE
THA
TUN
TUR
URY
USA
YUG

0,03
0,18
15,39
0,84
5,67
0,28

2,36
1,09
21,99
4,39
9,67
2,40

93,00
44,06
25,15
3,20
18,22
29,71
97,60

4,61
53,26
34,52
52,12
59,36
60,63
2,40

1,41
2,94
39,19
7,09
6,98

0,25

Especialmente en algunos pases, la mayora de la poblacin de alumnos de 15 aos tiende a


estar en un mismo curso, mientras que en otros se reparte entre varios cursos.
La poblacin objetivo de PISA puede estar repartida entre varios cursos por diversas razones:

Si el alumno no pasa un determinado examen en el curso, debe repetir este. Por ejemplo, en
algunos pases, quiz haya hasta un 30% de alumnos que ya han repetido al menos un curso.

Incluso si no se recurre a la repeticin de curso, la poblacin de alumnos de 15 aos podra


estar repartida en dos cursos en el momento de la evaluacin. Por razones logsticas, la evaluacin de PISA tiene lugar en un nico ao natural. Puesto que el perodo recomendado de
pruebas es en abril (en el hemisferio norte), la poblacin objetivo de PISA queda definida
como todos los alumnos cuya edad est entre 15 aos y tres meses y 16 aos y dos meses a
comienzos del perodo de pruebas. Si las normas de acceso a la escolarizacin obligatoria
estn basadas en aos naturales completos, la poblacin objetivo de PISA habra de asistir a
un nico curso.

Puesto que la poblacin de alumnos de 15 aos se reparte entre varios cursos en la mayora de
los pases de la OCDE, las muestras dentro de los centros slo pueden consistir en una muestra
aleatoria de alumnos. Por tanto, los alumnos que participan en PISA estudian en diferentes
cursos y, dentro de un curso determinado, en diferentes clases o grupos, dependiendo del tamao del centro. En buena parte porque la muestra de PISA no se basa en las clases, PISA 2000
y PISA 2003 no recopilaron datos de los profesores. Sin embargo, PISA s recopila datos de los
centros. Este captulo describe cmo deberan analizarse los datos de los centros y por qu.
Ya que la poblacin objetivo de PISA asiste a distintos cursos en la mayora de los pases, sera
interesante calcular la mejora media del rendimiento entre dos cursos adyacentes, de modo que
las diferencias de rendimiento entre pases puedan traducirse al efecto de un ao escolar. Sin
embargo, esto llevara sin duda a la sobreestimacin de la mejora del rendimiento: los alumnos
de 15 aos que estudian en los cursos inferiores o bien tienen peor rendimiento o bien son ms
jvenes, y los que estudian en cursos superiores o bien tienen mejor rendimiento o bien son
mayores. Por lo tanto, no pueden hacerse con seguridad comparaciones entre subpoblaciones
de distinto curso. Puede intentarse equiparar igualar a estas subpoblaciones eliminando el efecto del rendimiento mediante un conjunto de caractersticas del entorno, pero el xito sera dudoso ya que los elementos comparados no llegaran a ser realmente iguales.
Limitaciones de las muestras de centros en PISA
Como ya se ha mencionado antes, la siguiente afirmacin es vlida tanto para los estudios de
PISA como para los de la IEA:

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

143

Aunque las muestras de alumnos se seleccionaron dentro de una muestra de centros, la


muestra de centros se dise para optimizar la muestra resultante de alumnos ms que
para proporcionar una muestra ptima de centros. Por esta razn, siempre es preferible
analizar las variables de los centros como atributos de los alumnos, ms que como elementos en s mismos (Gonzalez y Kennedy, 2003).
Estas indicaciones son especialmente importantes en PISA, ya que la poblacin objetivo no se
define como un curso, sino como todos los alumnos de una edad determinada.
En algunos pases, la educacin secundaria de nivel inferior y la de nivel superior se imparten
en el mismo centro, mientras que en otros no es as: la educacin secundaria inferior y la superior se imparten en centros diferentes. En estos pases, normalmente, la transicin entre los niveles inferior y superior de la educacin secundaria tiene lugar alrededor de los 15 aos, esto es,
en la mayora de los casos, al final de la escolarizacin obligatoria. Como PISA se centra en la
poblacin de 15 aos, esto significa que una parte de la poblacin objetivo est recibiendo el
nivel superior de la educacin secundaria, mientras que la otra acude al nivel inferior. Por consiguiente, en algunos pases los jvenes de 15 aos pueden estar escolarizados en distintas instituciones educativas.
Como ya se coment en el captulo 2, los centros se seleccionan a partir del marco muestral de
centros mediante el mtodo de muestreo con probabilidades proporcionales a su tamao, es
decir, en proporcin al nmero de jvenes de 15 aos que asisten al centro. Esto podra significar, por ejemplo, que los centros con el nivel superior de secundaria a los que slo acudan
alumnos con edad superior a la de PISA, 15, no deberan quedar incluidos en el marco muestral
de centros. Del mismo modo, los centros con nivel inferior de secundaria sin alumnos de 15
aos tampoco deberan incluirse en dicho marco muestral.
De este modo, ni la poblacin de centros del nivel inferior de secundaria, ni la poblacin del
nivel superior representan a la poblacin de alumnos de 15 aos. Dicho de otro modo, la poblacin objetivo de centros en PISA no coincidir necesariamente con la red de centros dentro de
un determinado pas.
Esta ausencia de un perfecto ajuste entre la red de centros habitual del pas y la poblacin de
centros de PISA influye en cmo deberan analizarse los datos de los centros. Para evitar sesgos
en las estimaciones poblacionales, los datos de los centros deben importarse a los archivos de
datos de alumnos y deben analizarse con el peso final de alumnos. Esto significa, por ejemplo,
que no se estimar el porcentaje de centros pblicos frente al de centros privados, sino que se
estimar el porcentaje de alumnos de 15 aos que asiste a centros pblicos frente al de centros
privados. Desde el punto de vista de la pedagoga y de la poltica educativa, lo que verdaderamente importa no es el porcentaje de centros que presente tales caractersticas, sino el porcentaje
de alumnos que resulta influido por ellas, esto es, el porcentaje de alumnos que acude a un centro con tales caractersticas.
Fusin de los archivos de datos de centros y alumnos
El cuadro 9.1 proporciona la sintaxis de SPSS para fusionar el archivo de datos de alumnos y el
archivo de datos de centros. Ambos archivos deben ordenarse primero segn las variables de
identificacin, esto es, CNT, SCHOOLID y STIDSTD en el archivo de datos de alumnos y CNT

144 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

y SCHOOLID en el archivo de datos de centros. Despus, los dos archivos de datos ordenados
pueden fusionarse segn las variables de identificacin comunes, CNT y SCHOOLID.
Cuadro 9.1. Sintaxis de SPSS para fusionar el archivo de datos de alumnos y el de centros
get file 'c:\pisa\data2003\INT_schi_2003.sav'.
sort cases by subnatio schoolid.
save outfile='c:\pisa\data2003\INT_schi_2003.sav'.
get file='c:\pisa\data2003\INT_stui_2003.sav'.
sort cases by subnatio schoolid.
match files file=* /table='c:\pisa\data2003\INT_schi_2003.sav'
/by subnatio schoolid.
Select if cnt='DEU'.
Save outfile='c:\pisa\data2003\DEU_sch.sav'.

Anlisis de las variables de centros


Despus de fusionar el archivo de datos de alumnos y el de centros, los datos de los centros
pueden analizarse como cualquier variable propia de los alumnos, ya que las variables de los
centros se consideran ahora atributos de los alumnos. Sin embargo, en este caso es an ms
decisivo utilizar los pesos replicados para calcular los errores de muestreo. No hacerlo as producira inferencias totalmente engaosas.
El resto de este captulo explica los mtodos para calcular los porcentajes de alumnos segn la
ubicacin del centro y sus respectivos errores tpicos, as como el rendimiento medio de los
alumnos en la escala de matemticas segn la ubicacin del centro.
El cuadro 9.2 presenta la pregunta que apareca en el cuestionario del centro sobre el tipo de
entorno urbano en el que se encuentra ubicado.
Cuadro 9.2. Pregunta a los centros sobre su ubicacin en PISA 2003

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

145

El cuadro 9.3 proporciona la sintaxis de SPSS. Como se indic previamente, la macro de SPSS
podra consumir tiempo de ejecucin, de modo que se recomienda mantener slo las variables
indispensables para los anlisis.
Cuadro 9.3. Sintaxis de SPSS para calcular el porcentaje de alumnos y el rendimiento medio
en matemticas segn la ubicacin del centro
get file "c:\pisa\data2003\DEU_sch.sav".
select if (not missing(sc01q01)).
Save outfile='c:\pisa\data2003\DEU_sch2.sav'.
* IMPORTAR LAS MACROS.
Include file 'c:\pisa\macros\mcr_SE_GrpPct.sps'.
Include file 'C:\PISA\macros\mcr_SE_pv.sps'.
* EJECUTAR LAS MACROS.
GRPPCT nrep = 80/
within = cnt/
grp = sc01q01/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\pisa\data2003\DEU_sch2.sav'/.
save outfile='c:\temp\schoolpct.sav'.
PV nrep = 80/
stat = mean/
dep = math/
grp = cnt sc01q01/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\pisa\data2003\DEU_sch2.sav'/.
save outfile='c:\temp\schoolmean.sav'.

Las tablas 9.2 y 9.3 presentan la estructura de los archivos de datos de salida.
Tabla 9.2. Estructura del archivo de resultados schoolpct.sav
CNT
DEU
DEU
DEU
DEU
DEU

SC01Q01
1
2
3
4
5

STAT
5,04
24,61
38,76
19,53
12,06

SE
1,37
2,70
3,75
2,77
1,98

Tabla 9.3. Estructura del archivo de resultados schoolmean.sav


CNT
DEU
DEU
DEU
DEU
DEU

SC01Q01
1
2
3
4
5

146 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

STAT
489,65
507,46
496,74
510,24
507,07

SE
14,81
6,19
8,92
13,19
14,13

Recordemos que los datos de los centros se analizaron como si fueran de los alumnos y se ponderaron con el peso final de estos. Por lo tanto, los resultados deberan interpretarse as: el
5,04% de los jvenes de 15 aos acude a un centro situado en un pueblo con menos de 3.000
personas; el 25% de los alumnos acuden a un centro situado en una pequea poblacin (de
3.000 a 15.000 personas) y as sucesivamente. Los alumnos que estudian en un centro situado en
un pueblo pequeo tienen un rendimiento medio de 489,65 y as sucesivamente.
Puesto que los porcentajes para algunas categoras podran ser pequeos, el error tpico ser
grande para las estimaciones de las medias.
Todas las macros de SPSS descritas en los captulos anteriores pueden utilizarse sobre las variables de los centros, una vez que se hayan importado al archivo de datos de los alumnos.
Conclusiones
Por razones estadsticas y pedaggicas, los datos recopilados mediante el cuestionario del centro, as como las variables derivadas de este instrumento, deben analizarse a nivel de los alumnos.
Todas las macros de SPSS pueden utilizarse sin modificaciones. La interpretacin de los resultados debera establecer claramente el nivel del anlisis; por ejemplo, el porcentaje de alumnos
que acude a un centro situado en un pueblo pequeo y no el porcentaje de centros situado en
un pueblo pequeo.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

147

Captulo 10

El error tpico de una diferencia


Introduccin ........................................................................................................................................... 150
El error tpico de una diferencia sin valores plausibles.................................................................... 152
El error tpico de una diferencia con valores plausibles .................................................................. 158
Comparaciones mltiples..................................................................................................................... 161
Conclusiones .......................................................................................................................................... 162

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

149

Introduccin
Supongamos que X representa la puntuacin de los alumnos en una prueba de matemticas e Y,
la puntuacin en una prueba de ciencias de la misma muestra de alumnos. Para resumir la distribucin de las puntuaciones en ambas pruebas, se puede calcular:

( X ) , (Y ) , que representan respectivamente la media de X y la media de Y,

(2X ) , (2Y ) , que representan respectivamente la varianza de X y la varianza de Y.

Puede demostrarse que:

( X +Y ) = ( X ) + (Y ) , y
(2X +Y ) = (2X ) + (2Y ) + 2 cov( X , Y ) .
Si se calcula una puntuacin total simplemente sumando las puntuaciones de matemticas y
ciencias, entonces, segn estas dos frmulas, la media de la puntuacin total ser la suma de las
dos medias iniciales, y la varianza de la puntuacin total ser igual a la suma de la varianza de
las dos variables iniciales X e Y, ms dos veces la covarianza entre X e Y. Esta covarianza representa la relacin entre X e Y. Normalmente, los alumnos con alto rendimiento en matemticas
suelen tenerlo tambin en ciencias, por lo que en este ejemplo concreto deberamos esperar una
covarianza positiva y alta.
De modo parecido,

( X Y ) = ( X ) (Y ) , y
(2X Y ) = (2X ) + (2Y ) 2cov( X , Y ) .
Dicho de otro modo, la varianza de una diferencia es igual a la suma de las varianzas de las dos
variables iniciales menos dos veces la covarianza entre esas dos variables iniciales.
Como se describi en el captulo 3, una distribucin muestral tiene las mismas caractersticas
que cualquier distribucin, excepto que las unidades consisten en estimaciones a partir de
muestras y no en observaciones. Por lo tanto,

(2

= (2 X ) + (2 Y ) 2 cov( X , Y ) .

La varianza muestral de una diferencia es igual a la suma de las dos varianzas muestrales iniciales, menos dos veces la covarianza entre las dos distribuciones muestrales de las estimaciones.
Supongamos que queremos determinar si el rendimiento de las chicas es, en promedio, ms alto
que el de los chicos. Como para todos los anlisis estadsticos, es preciso poner a prueba la hiptesis nula. En este ejemplo concreto, consistir en calcular la diferencia entre la media del rendimiento de los chicos y la media del rendimiento de las chicas, o a la inversa. La hiptesis nula
ser:

H 0 : (chicos ) (chicas ) = 0 .

150 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Para comprobar esta hiptesis nula, debe calcularse el error tpico de esta diferencia y, despus,
compararlo con la diferencia observada. Los respectivos errores tpicos de la estimacin de la
media para los chicos y para las chicas ( ( chicos ) , ( chicas ) ) son fciles de calcular.
Qu nos dice la covarianza entre las dos variables, es decir,
positiva significa que si

(chicos ) , (chicas ) ? Una covarianza

(chicos ) aumenta, tambin lo har (chicas ) . Una covarianza igual o cer-

cana a 0 significa que a medida que

(chicos )

aumenta o disminuye,

riable. Por ltimo, una covarianza negativa significa que si

(chicos )

(chicas )

permanecer inva-

aumenta,

(chicas )

disminui-

r, y a la inversa.
Cmo se correlacionan

(chicos ) y (chicas ) ? Supongamos que, en la muestra de centros, se susti-

tuye un centro mixto donde estudian alumnos de bajo rendimiento por un centro mixto donde
estudian alumnos de alto rendimiento. La media del pas aumentar ligeramente, as como las
medias de los chicos y de las chicas. Si contina el proceso de sustitucin,

(chicos ) y (chicas )

aumentarn probablemente siguiendo un patrn similar. De hecho, en un centro mixto donde


acuden chicos con alto rendimiento tambin suelen estudiar chicas con alto rendimiento. Por lo
tanto, la covarianza entre

(chicos ) y (chicas )

ser positiva.

Supongamos ahora que los centros no son mixtos. Un centro de chicos puede sustituir a uno de
chicas en la muestra, por lo que

(chicos ) y (chicas )

cambiarn. Si el gnero se usa como variable

de estratificacin, es decir, todos los centros de chicas se asignan a un estrato determinado y


todos los centros de chicos se asignan a otro estrato determinado, entonces un centro de chicas
slo puede sustituirse por otro centro de chicas. En este caso, slo cambiar (chicas ) y, como el
cambio no afectar a

(chicos ) , el valor esperado de la covarianza entre (chicos ) y (chicas )

ser 0.

Por ltimo, una covarianza negativa significa que, si a un centro acuden chicos con alto rendimiento, en ese centro tambin estudian chicas con bajo rendimiento, o a la inversa. Esta situacin no es muy verosmil.
En resumen, el valor esperado de la covarianza ser igual a 0 si las dos submuestras son independientes. Si las dos submuestras no son independientes, el valor esperado de la covarianza
podra diferir de 0.
En PISA, as como en los estudios de la IEA, las muestras de los pases son independientes. Por
lo tanto, para cualquier comparacin entre dos pases, el valor esperado de la covarianza ser
igual a 0, de modo que el error tpico de la estimacin es:

( ) = (2 ) + (2 ) , donde es cualquier estadstico.


i

Por ejemplo, en la escala de competencia matemtica de PISA 2003, la media de Alemania es


igual a 503, con un error tpico de 3,3, y la media de Blgica es igual a 529, con un error tpico de
2,3. Por lo tanto, la diferencia entre Blgica y Alemania ser 529 503 = 26, y el error tpico de
esta diferencia es:

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

151

( ) = (2 ) + (2 ) =
i

(3,3)2 + (2,3)2

= 10,89 + 5,29 = 16,18 = 4,02 .

La diferencia dividida por su error tpico, es decir, 26 / 4,02 = 6,46, es superior a 1,96, por lo que
resulta significativa. Esto quiere decir que el rendimiento de Blgica es superior al de Alemania.
De modo similar, el porcentaje de alumnos por debajo del nivel 1 es igual a 9,2 en Alemania
(con un error tpico de 0,8) y a 7,2 en Blgica (con un error tpico de 0,6). La diferencia es igual a
9,2 7,2 = 2,0, y su error tpico es igual a:

( ) = (2 ) + (2 ) =
i

(0,6)2 + (0,8)2

= 0,36 + 0,64 = 1 = 1 .

La diferencia tipificada es igual a 2 (es decir, 2/1), por lo que tambin resulta significativa. As,
el porcentaje de alumnos por debajo del nivel 1 es mayor en Alemania que en Blgica.
Dentro de un determinado pas, cualquier submuestra se considerar independiente si la variable categrica empleada para definir las submuestras se utiliz como variable de estratificacin
explcita. Por ejemplo, puesto que Canad utiliz las provincias como variable de estratificacin
explcita, estas submuestras son independientes, y cualquier comparacin entre dos provincias
no exige la estimacin de la covarianza entre las distribuciones muestrales.
Como regla general, cualquier comparacin entre pases no exige la estimacin de la covarianza, pero se recomienda decididamente estimar la covarianza entre las distribuciones muestrales
para cualquier comparacin dentro de un pas.
Como ya se ha descrito en esta seccin, la estimacin de la covarianza entre, por ejemplo,

(chicos ) y (chicas )
de

exigira la seleccin de varias muestras y, despus, el anlisis de la variacin

(chicos ) en unin de (chicas ) . Por supuesto, tal procedimiento no es realista. As pues, como

para cualquier clculo de un error tpico en PISA, se utilizarn mtodos de replicacin que empleen los pesos replicados includos en la base de datos para estimar el error tpico de una diferencia.
El error tpico de una diferencia sin valores plausibles
Supongamos que un investigador desea comprobar si las chicas alemanas tienen expectativas
profesionales ms altas que los chicos.
Como ya se describi en el captulo 6, la macro UNIVAR de SPSS puede utilizarse para calcular las expectativas profesionales medias de chicos y de chicas, respectivamente.
El cuadro 10.1 presenta la sintaxis de SPSS para calcular la media de las expectativas profesionales a los 30 aos (BSMJ) segn el gnero del alumnado. La tabla 10.1 presenta la estructura del
archivo de salida, as como los resultados segn el gnero.

152 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 10.1. Sintaxis de SPSS para calcular la media de las expectativas profesionales segn el gnero
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
Select if cnt='DEU'.
Select if (not missing(st03q01)).
Save outfile='c:\PISA\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
Include file 'C:\PISA\macros\mcr_SE_univ.sps'.
* EJECUTAR LA MACRO.
univar nrep = 80/
stat = mean/
dep = bsmj/
grp = cnt st03q01/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'.

Tabla 10.1. Estructura del archivo de resultados a partir del cuadro 10.1
CNT
DEU
DEU

ST03Q01
1
2

STAT
53,05
50,58

SE
0,57
0,69

En promedio, la expectativa profesional es de 53,05 para las chicas y de 50,58 para los chicos.
Como los centros alemanes suelen ser mixtos y el gnero no se utiliza como una variable de
estratificacin explcita, el valor esperado de la covarianza podra diferir de 0.
Para calcular el error tpico segn el gnero, es necesario calcular la estimacin de la media para
cada uno de los 80 pesos replicados. La tabla 10.2 presenta la estimacin de la media por peso y
por gnero.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

153

Tabla 10.2. Estimaciones de la media para los pesos finales y los 80 replicados por gnero
Peso
Peso final
Replicacin 1
Replicacin 2
Replicacin 3
Replicacin 4
Replicacin 5
Replicacin 6
Replicacin 7
Replicacin 8
Replicacin 9
Replicacin 10
Replicacin 11
Replicacin 12
Replicacin 13
Replicacin 14
Replicacin 15
Replicacin 16
Replicacin 17
Replicacin 18
Replicacin 19
Replicacin 20
Replicacin 21
Replicacin 22
Replicacin 23
Replicacin 24
Replicacin 25
Replicacin 26
Replicacin 27
Replicacin 28
Replicacin 29
Replicacin 30
Replicacin 31
Replicacin 32
Replicacin 33
Replicacin 34
Replicacin 35
Replicacin 36
Replicacin 37
Replicacin 38
Replicacin 39
Replicacin 40

Estimacin
Estimacin
de la media
de la media
para las chicas para los chicos
53,05
50,58
53,29
50,69
53,16
50,53
53,16
50,45
53,30
50,70
52,79
50,28
53,14
50,76
53,04
50,36
52,97
50,11
53,28
51,37
53,01
50,55
53,26
50,70
53,16
49,86
52,81
50,94
53,21
50,71
53,39
50,23
53,06
50,46
53,34
50,48
52,71
50,42
53,18
50,87
52,82
50,44
53,36
50,74
53,15
50,72
53,24
50,65
52,68
50,51
5276
50,44
52,79
50,43
53,01
50,58
53,24
50,12
52,86
50,68
52,85
50,02
52,90
50,85
53,25
50,60
53,32
50,54
52,42
50,55
52,91
50,72
53,06
50,36
52,67
50,73
53,36
50,16
52,57
50,36
53,07
50,58

Peso

Estimacin
de la media
para las chicas

Estimacin
de la media
para los chicos

Replicacin 41
Replicacin 42
Replicacin 43
Replicacin 44
Replicacin 45
Replicacin 46
Replicacin 47
Replicacin 48
Replicacin 49
Replicacin 50
Replicacin 51
Replicacin 52
Replicacin 53
Replicacin 54
Replicacin 55
Replicacin 56
Replicacin 57
Replicacin 58
Replicacin 59
Replicacin 60
Replicacin 61
Replicacin 62
Replicacin 63
Replicacin 64
Replicacin 65
Replicacin 66
Replicacin 67
Replicacin 68
Replicacin 69
Replicacin 70
Replicacin 71
Replicacin 72
Replicacin 73
Replicacin 74
Replicacin 75
Replicacin 76
Replicacin 77
Replicacin 78
Replicacin 79
Replicacin 80

52,69
53,28
53,07
52,95
53,31
53,72
52,91
53,10
53,05
53,79
52,65
53,30
52,68
52,74
53,50
52,54
53,31
53,13
52,72
53,49
53,13
53,61
52,74
53,19
53,28
52,91
53,25
53,12
53,08
52,92
53,35
53,25
52,54
52,58
52,49
52,98
53,04
53,30
52,93
52,98

50,55
51,23
50,39
49,72
51,04
50,80
51,03
50,53
50,81
50,90
50,15
50,45
50,12
50,01
50,11
50,58
51,03
50,34
50,37
51,43
50,71
51,27
50,15
50,25
51,04
50,94
50,85
50,74
50,31
50,44
50,63
50,75
50,42
50,20
49,75
50,96
50,24
50,44
50,36
50,76

La estimacin de la diferencia final ser la diferencia entre las dos estimaciones finales, es decir:
53,05 50,58 = 2,47.
El procedimiento para estimar el error tpico final es bastante directo. Es exactamente igual al
procedimiento descrito en el captulo 6, excepto que es ahora una diferencia, no una media ni
un coeficiente de regresin. Los diferentes pasos son:

154 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

la diferencia entre las medias de las chicas y los chicos se calculan por cada rplica;

cada una de las 80 estimaciones de la diferencia se compara con la estimacin de la diferencia final y despus se eleva al cuadrado;

se calcula la suma de los cuadrados y despus se divide por 20 para obtener la varianza
muestral de la diferencia;

el error tpico es la raz cuadrada de la varianza muestral.

Estos pasos pueden resumirse as:

( ) =

2
1 80
(i ) , donde es una diferencia.

20 i =1

Concretamente:

Para la primera replicacin, la diferencia entre la estimacin de la media de las chicas y la


estimacin de la media de los chicos es igual a (53,29 50,69) = 2,60. Para la segunda replicacin, la estimacin de la diferencia ser igual a (53,16 50,53) = 2,63, y as sucesivamente
para las 80 replicaciones. Todas estas estimaciones de la diferencia se presentan en la tabla
10.3.

Cada una de las estimaciones de la diferencia replicadas se compara con la estimacin de la


diferencia final, y esta diferencia se eleva al cuadrado. Para la primera replicacin, ser
(2,60 2,47)2 = 0,0164. Para la segunda replicacin, ser (2,63 2,47)2 = 0,0258. Estas diferencias al cuadrado tambin se presentan en la tabla 10.3.

Se suman las diferencias al cuadrado. Esta suma es igual a:


(0,0164 + 0,0258 + + 0,0641) = 9,7360. La varianza muestral de la diferencia es, por tanto,
igual a:

9,7360
= 0,4868 .
20

El error tpico es igual a la raz cuadrada de 0,4868, es decir, 0,6977.

Puesto que

2,47
es mayor que 1,96, estadsticamente las expectativas profesionales de las
0,6977

chicas son superiores a las de los chicos en Alemania.


Si el investigador hubiera considerado independientes las dos submuestras alemanas, habra
obtenido para el error tpico de esta diferencia:

( ) = (2 ) + (2 ) =
i

(0,57 )2 + (0,69)2

= 0,895

En este caso concreto, la diferencia entre la estimacin sin sesgo del error tpico (es decir, 0,698)
y la estimacin sesgada del error tpico (es decir, 0,895) es bastante pequea. Como se mostrar
ms tarde en este captulo, la diferencia entre las estimaciones con y sin sesgo del error tpico
pueden ser considerables.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

155

Tabla 10.3. Estimaciones de la diferencia para los pesos finales y los 80 replicados

Peso

Peso final
Replicacin 1
Replicacin 2
Replicacin 3
Replicacin 4
Replicacin 5
Replicacin 6
Replicacin 7
Replicacin 8
Replicacin 9
Replicacin 10
Replicacin 11
Replicacin 12
Replicacin 13
Replicacin 14
Replicacin 15
Replicacin 16
Replicacin 17
Replicacin 18
Replicacin 19
Replicacin 20
Replicacin 21
Replicacin 22
Replicacin 23
Replicacin 24
Replicacin 25
Replicacin 26
Replicacin 27
Replicacin 28
Replicacin 29
Replicacin 30
Replicacin 31
Replicacin 32
Replicacin 33
Replicacin 34
Replicacin 35
Replicacin 36
Replicacin 37
Replicacin 38
Replicacin 39
Replicacin 40

Diferencia entre
Diferencia
la replicacin y
entre chicos y
las estimaciones
chicas (chicas
finales al
menos chicos)
cuadrado
2,47
2,60
0,0164
2,63
0,0258
2,72
0,0599
2,61
0,0180
2,51
0,0011
2,39
0,0067
2,68
0,0450
2,86
0,1483
1,92
0,3085
2,46
0,0002
2,57
0,0089
3,30
0,6832
1,87
0,3620
2,50
0,0009
3,16
0,4756
2,60
0,0173
2,87
0,1577
2,29
0,0327
2,31
0,0269
2,38
0,0078
2,62
0,0221
2,43
0,0014
2,59
0,0142
2,17
0,0901
2,32
0,0227
2,36
0,0132
2,43
0,0015
3,12
0,4225
2,18
0,0844
2,84
0,1333
2,06
0,1709
2,65
0,0312
2,78
0,0970
1,87
0,3611
2,19
0,0809
2,69
0,0490
1,94
0,2825
3,20
0,5355
2,21
0,0683
2,48
0,0001

Peso

Diferencia entre
Diferencia
la replicacin y
entre chicos y
las estimaciones
chicas (chicas
finales al
menos chicos)
cuadrado

Replicacin 41
2,14
Replicacin 42
2,05
Replicacin 43
2,68
Replicacin 44
3,23
Replicacin 45
2,28
Replicacin 46
2,92
Replicacin 47
1,88
Replicacin 48
2,56
Replicacin 49
2,23
Replicacin 50
2,89
Replicacin 51
2,49
Replicacin 52
2,85
Replicacin 53
2,56
Replicacin 54
2,73
Replicacin 55
3,39
Replicacin 56
1,96
Replicacin 57
2,28
Replicacin 58
2,79
Replicacin 59
2,35
Replicacin 60
2,05
Replicacin 61
2,42
Replicacin 62
2,34
Replicacin 63
2,59
Replicacin 64
2,94
Replicacin 65
2,24
Replicacin 66
1,97
Replicacin 67
2,40
Replicacin 68
2,38
Replicacin 69
2,76
Replicacin 70
2,48
Replicacin 71
2,72
Replicacin 72
2,50
Replicacin 73
2,12
Replicacin 74
2,39
Replicacin 75
2,73
Replicacin 76
2,02
Replicacin 77
2,80
Replicacin 78
2,86
Replicacin 79
2,57
Replicacin 80
2,22
Suma de las diferencias al
cuadrado

0,1079
0,1789
0,0440
0,5727
0,0373
0,2038
0,3488
0,0084
0,0567
0,1768
0,0004
0,1440
0,0072
0,0667
0,8520
0,2631
0,0351
0,1017
0,0158
0,1749
0,0027
0,0164
0,0137
0,2230
0,0539
0,2524
0,0050
0,0089
0,0848
0,0002
0,0609
0,0006
0,1217
0,0073
0,0693
0,2031
0,1058
0,1519
0,0091
0,0641
9,7360

Se ha desarrollado una macro de SPSS para el clculo de errores tpicos de las diferencias. El
cuadro 10.2 presenta la sintaxis de SPSS para ejecutar esta macro.

156 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 10.2. Sintaxis de SPSS para calcular los errores tpicos de las diferencias
* IMPORTAR LA MACRO.
include file 'C:\PISA\macros\mcr_SE_dif.sps'.
* EJECUTAR LA MACRO.
difNOpv nrep = 80/
dep = bsmj/
stat = mean/
within = cnt/
compare = st03q01/
categ = 12/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\PISA\Data2003\DEU.sav'/.

Adems de los argumentos comunes a todas las macros de SPSS, es preciso especificar otros
cuatro argumentos:

El argumento DEP informa a la macro sobre la variable numrica de la que se calcular una
media o una desviacin tpica por cada valor de una variable categrica. En el ejemplo, DEP
es igual a BSMJ.

El argumento COMPARE especifica las variables categricas en las que se basarn los contrastes.

El argumento CATEG especifica los valores de las variables categricas para las que se requieren contrastes. Como el sexo tiene slo dos categoras, llamadas 1 y 2, la afirmacin
CATEG se establece como 12/. No debera haber espacios ni otros caracteres entre las categoras del argumento CATEG y la barra (/) debera seguir directamente a la ltima categora. Si una variable categrica tiene cuatro categoras, y si estas cuatro categoras se especifican en la afirmacin CATEGORY (como CATEG = 1234/), la macro calcular el error tpico de la diferencia entre:

la categora 1 y la categora 2;

la categora 1 y la categora 3;

la categora 1 y la categora 4;

la categora 2 y la categora 3;

la categora 2 y la categora 4;

la categora 3 y la categora 4.

Esta macro tiene algunas limitaciones:

puede especificarse un mximo de 9 categoras de la variable compare;

la variable categrica compare debera definirse como numrica, por lo que las variables cadena deberan convertirse en numricas;

los valores de las categoras deberan ser de un solo dgito. Los valores de dos dgitos
deben recodificarse primero.

El argumento STAT especifica el estadstico buscado. Vase el captulo 6 [tabla 6.4] para los
estadsticos disponibles.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

157

Tabla 10.4. Estructura del archivo de resultados a partir del cuadro 10.2
CNT
DEU

STAT
2,47

SE
0,6977

Merece la pena hacer notar que, para las variables dicotmicas, el error tpico de la diferencia
tambin puede calcularse mediante un modelo de regresin.
Cuadro 10.3. Una sintaxis alternativa de SPSS para calcular el error tpico de una diferencia
para una variable dicotmica
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
select if (cnt='DEU' & not missing(st03q01)).
compute gender=0.
if (st03q01=1) gender=1.
sort cases by cnt.
save outfile='c:\pisa\Data2003\DEU.sav'.
* IMPORTAR LA MACRO.
include file='C:\PISA\macros\mcr_SE_reg.sps'.
* EJECUTAR MACRO.
REGnoPV nrep = 80/
ind = gender/
dep = bsmj/
grp = cnt/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\pisa\Data2003\DEU.sav'/.

Tabla 10.5. Estructura del archivo de salida a partir del cuadro 10.3
CNT
DEU
DEU

CLASS
b0
gender

STAT
50,58
2,47

SE
0,686
0,698

La estimacin de la diferencia y su respectivo error tpico son iguales a la estimacin del coeficiente de regresin y su error tpico. Para las variables categricas politmicas, el uso de la macro de regresin exigira la recodificacin de las variables categricas en h 1 variables dicotmicas, donde h es igual al nmero de categoras. Adems, la macro de regresin comparar
cada categora con la categora de referencia (en la tabla de arriba, el grupo de referencia son los
chicos), mientras que la macro DIFNOPV proporcionar todos los contrastes.
El error tpico de una diferencia con valores plausibles
El procedimiento para calcular el error tpico de una diferencia que implique a los valores plausibles consiste en:

Utilizar cada valor plausible y, para el peso final y los 80 pesos replicados, el estadstico
buscado, por ejemplo, una media, debe calcularse por cada valor de las variables categri-

158 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

cas.

Calcular por contraste, por valor plausible y por peso replicado la diferencia entre las dos
categoras. Habr 405 estimaciones de diferencias; la tabla 10.6 presenta su estructura.

Calcular una estimacin de diferencia final igual a la media de las cinco estimaciones de
diferencias.

Calcular, por cada valor plausible, la varianza muestral comparando la estimacin de la


diferencia final con las 80 estimaciones replicadas.

Calcular una varianza muestral final igual a la media de las cinco varianzas muestrales.

Calcular la varianza de imputacin, tambin llamada varianza del error de medida.

Combinar la varianza muestral y la varianza de imputacin para obtener la varianza de


error final.

Calcular el error tpico que ser igual a la raz cuadrada de la varianza de error.

Tabla 10.6. Estimaciones de diferencias segn el gnero y sus respectivas varianzas muestrales en la escala de matemticas
Peso
Final
Replicacin 1
.......
Replicacin 80
Varianza muestral

PV1
8,94
9,64
.......
8,56
(4,11)2

PV2
9,40
10,05
.......
8,52
(4,36)2

PV3
8,96
10,29
.......
8,85
(4,10)2

PV4
7,46
8,74
.......
7,70
(4,31)2

PV5
10,12
11,45
.......
9,84
(4,28)2

Se ha desarrollado una macro de SPSS para calcular los errores tpicos de las diferencias donde
intervengan valores plausibles. El cuadro 10.4 proporciona la sintaxis de SPSS. En este ejemplo,
se calcula el error tpico de la diferencia entre el rendimiento de los chicos y de las chicas en la
escala combinada de competencia matemtica.
Cuadro 10.4. Sintaxis de SPSS para calcular errores tpicos de las diferencias donde intervienen valores plausibles
* IMPORTAR LA MACRO.
include file 'C:\PISA\macros\mcr_SE_dif_PV.sps'.
* EJECUTAR LA MACRO.
dif_pv nrep = 80/
dep = math/
stat = mean/
within = cnt/
compare = st03q01/
categ = 12/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\pisa\Data2003\DEU.sav'/.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

159

La tabla 10.7 presenta la estructura del archivo de salida.


Tabla 10.7. Estructura del archivo de resultados a partir del cuadro 10.4
CNT
DEU

STAT
8,98

SE
4,37

Como la razn entre la estimacin de la diferencia y su respectivo error tpico es mayor que
1,96, se rechaza la hiptesis nula. As pues, la media del rendimiento de las chicas es inferior a
la del rendimiento de los chicos en Alemania. Asimismo, merece la pena destacar que estos
resultados podran obtenerse tambin mediante la macro de regresin para valores plausibles.
La tabla 10.8 proporciona las estimaciones de diferencias segn el gnero para todos los pases
de PISA 2003, as como los errores tpicos sin sesgo y los errores tpicos con sesgo.
Tabla 10.8. Diferencias segn el gnero en la escala de matemticas, con errores tpicos sin
sesgo y con sesgo
Pas
AUS
AUT
BEL
BRA
CAN
CHE
CZE
DEU
DNK
ESP
FIN
FRA
GBR
GRC
HKG
HUN
IDN
IRE
ISL
ITA
JPN

Diferencia
entre las
medias
5,34
7,57
7,51
16,26
11,17
16,63
14,97
8,98
16,58
8,86
7,41
8,51
6,66
19,40
4,06
7,79
3,34
14,81
15,41
17,83
8,42

Error tpico
no sesgado

Error tpico
sesgado

3,75
4,40
4,81
4,06
2,13
4,87
5,08
4,37
3,20
2,98
2,67
4,15
4,90
3,63
6,64
3,54
3,39
4,19
3,46
5,89
5,89

4,04
5,59
4,69
7,49
2,78
5,98
6,11
5,59
4,50
4,02
3,24
4,60
4,84
6,11
7,96
4,69
6,02
4,54
3,15
5,96
7,04

Pas
KOR
LIE
LUX
LVA
MAC
MEX
NLD
NOR
NZL
POL
PRT
RUS
SVK
SWE
THA
TUN
TUR
URY
USA
YUG

Diferencia
entre las
medias
23,41
28,84
17,17
2,81
21,26
10,90
5,12
6,22
14,48
5,59
12,25
10,12
18,66
6,53
4,02
12,17
15,13
12,09
6,25
1,21

Error tpico Error tpico


no sesgado
sesgado
6,77
10,92
2,81
3,97
5,83
3,94
4,29
3,21
3,90
3,14
3,31
4,36
3,65
3,27
4,24
2,51
6,16
4,15
2,89
4,36

6,90
9,58
2,40
5,97
5,83
5,91
5,36
4,04
4,23
4,18
5,41
6,75
5,30
4,30
5,22
4,01
10,33
5,51
4,65
6,14

En casi todos los pases, el error tpico sin sesgo es menor que el error tpico con sesgo, lo que
refleja una covarianza positiva entre las dos distribuciones muestrales. En algunos pases, la
diferencia entre los dos errores tpicos es pequea, pero es considerable en otros, como Brasil,
Grecia, Indonesia y Turqua.

160 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Comparaciones mltiples
En el captulo 3, se advirti que toda inferencia estadstica se asocia con lo que suele llamarse un
error de tipo I. Este error representa la probabilidad de rechazar equivocadamente una hiptesis
nula que sea cierta.
Supongamos que en la poblacin no hay diferencia en el rendimiento de chicos y chicas en
cuanto a competencia lectora. Se toma una muestra y se calcula la diferencia segn el gnero.
Como esta diferencia se basa en una muestra, debe calcularse un error tpico de la diferencia. Si
la diferencia tipificada, esto es, la diferencia segn el gnero dividida por su error tpico, es
menor que 1,96 o mayor que 1,96, esa diferencia se considerara significativa. De hecho, existen
5 posibilidades entre 100 de observar una diferencia tipificada menor que 1,96 o mayor que
1,96 y que la hiptesis nula siga siendo cierta. Dicho de otro modo, hay 5 posibilidades entre 100
de rechazar la hiptesis nula, cuando no existe verdadera diferencia entre gneros en la poblacin.
Si en la encuesta internacional participan 100 pases y se calcula la diferencia entre gneros para
cada uno de ellos, estadsticamente se espera que 5 de las 100 diferencias sean significativas,
aun cuando no existen verdaderas diferencias a nivel de la poblacin.
Para cada pas, el error de tipo I se establece en 0,05. Para dos pases, como los pases son muestras independientes, la probabilidad de no cometer un error de tipo I, es decir, aceptar ambas
hiptesis nulas, es ahora igual a 0,9025 (0,95 por 0,95). La tabla 10.9 presenta la tabulacin cruzada de las distintas probabilidades.
Tabla 10.9. La tabulacin cruzada de las distintas probabilidades
Pas A
Pas B

0,05
0,95

0,05
0,0025
0,0475

0,95
0,0475
0,9025

Esta cuestin estadstica se amplifica an ms para tablas de comparaciones mltiples de rendimiento. Supongamos que necesitamos comparar las medias de tres pases. Esto llevar tres
pruebas: el pas A frente al pas B, el pas A frente al pas C y el pas B frente al pas C. Por tanto,
la probabilidad de no cometer un error de tipo I es igual a:

(1 ) (1 ) (1 ) = (1 )3 .
En trminos generales, si se ponen a prueba X comparaciones, la probabilidad de no cometer un
error de tipo I es igual a:

(1 )X .
Dunn (1961) desarroll un procedimiento general que resulta apropiado para poner a prueba
un conjunto de hiptesis a priori, controlando la probabilidad de cometer un error de tipo I.
Consiste en ajustar el valor , dividindolo por el nmero de comparaciones. El resultado se
utiliza como valor crtico para cada comparacin.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

161

En el caso de tres comparaciones, el valor crtico para una = 0,05 ser, por tanto, igual a 2,24
en vez de 1,96. De hecho,

0,05
= 0,01666 .
3
Puesto que la probabilidad se reparte entre las dos colas de la distribucin muestral, se debe
encontrar la puntuacin z que corresponda a la proporcin acumulada de 0,008333. Una consulta de la funcin acumulada de la distribucin normal tipificada proporcionar el valor 2,24.
Sin embargo, el investigador an tiene que decidir cuntas comparaciones estn implicadas. En
PISA, se decidi que no se aplicara ninguna correccin del valor crtico, excepto en tablas de
comparaciones mltiples. Es ms, en muchos casos, los lectores estn sobre todo interesados en
averiguar si un valor dado en un pas determinado es distinto de un segundo valor en el mismo
pas o en otro; por ejemplo, si las mujeres de cierto pas tienen mejor rendimiento que los varones del mismo pas. Por lo tanto, como solo se lleva a cabo una prueba cada vez, no es necesario
ningn ajuste.
Por otra parte, con tablas de comparaciones mltiples, el lector est interesado en comparar el
rendimiento de un pas con todos los dems pases. Por ejemplo, si se desea comparar el rendimiento del pas 1 con los dems, tendremos las siguientes comparaciones: el pas 1 con el pas 2,
el pas 1 con el pas 3 y el pas 1 con el pas L. As pues, el ajuste se basar en L 1 comparaciones.
En PISA 2003, los informes iniciales publicaron los resultados de 40 pases y el valor crtico estuvo basado en 39 comparaciones y fue igual a 3,2272. Puesto que en PISA 2003 participaron
ms pases, este valor crtico es ligeramente ms alto que el valor crtico para PISA 20001.
Conclusiones
Este captulo ha estado dedicado al clculo de los errores tpicos de las diferencias. Despus de
una descripcin de las cuestiones estadsticas relacionadas con tales estimaciones, se han presentado los distintos pasos para calcular dichos errores tpicos. Tambin se han descrito las macros de SPSS que facilitan tales clculos.
Se ha establecido claramente que cualquier comparacin entre pases no exige la estimacin de
la covarianza, por lo que pueden usarse las macros de los captulos anteriores y pueden combinarse los errores tpicos. Sin embargo, se recomienda encarecidamente estimar la covarianza
entre las distribuciones muestrales para cualquier comparacin dentro de un pas. Para estas
estimaciones, se han introducido nuevas macros.
Por ltimo, se ha comentado la correccin del valor crtico para comparaciones mltiples.

El valor crtico en las comparaciones mltiples de PISA 2000 fue 3,144.

162 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Captulo 11

Media de la OCDE y total de la OCDE


Introduccin ........................................................................................................................................... 164
Recodificacin de la base de datos para la estimacin del total de la OCDE y de la media de
la OCDE............................................................................................................................................. 165
Duplicacin de los datos para evitar tres ejecuciones del procedimiento ..................................... 167
Comparaciones entre las estimaciones de la media de la OCDE o del total de la OCDE y la
estimacin de un pas ...................................................................................................................... 167
Conclusiones .......................................................................................................................................... 170

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

163

Introduccin
En todos los informes iniciales y temticos de PISA, la OCDE proporciona los resultados de
cada pas, pero tambin dos estimaciones agregadas adicionales: la media de la OCDE y el total
de la OCDE.
La media de la OCDE, a veces tambin llamada media de los pases, es la media de los valores de
todos los pases de la OCDE para los que existen o pueden estimarse datos. La media de la OCDE puede utilizarse para ver cmo un pas se compara en un indicador dado con un pas representativo de la OCDE. La media de la OCDE no tiene en cuenta el tamao absoluto de la poblacin en cada pas, es decir, cada pas contribuye igualmente a la media. La contribucin del pas
ms pequeo de la OCDE, Luxemburgo, es equivalente a la de uno de los mayores, Estados
Unidos.
El total de la OCDE considera a todos los pases de la OCDE una sola entidad, a la que cada pas
contribuye en proporcin al nmero de jvenes de 15 aos que estudian en sus centros. Ilustra
la comparacin de un pas con el conjunto de la OCDE.
En PISA 2003, participaron todos los pases de la OCDE, as como varios pases asociados. Sin
embargo, es posible que para un ciclo particular no haya datos disponibles para indicadores
especficos en uno o varios pases de la OCDE. Por lo tanto, los investigadores deberan tener en
cuenta que los trminos media de la OCDE y total de la OCDE se refieren a los pases incluidos en
las respectivas comparaciones para cada ciclo y para una comparacin determinada.
Para estadsticos simples como una media o un porcentaje, los estadsticos de la media de la
OCDE y el total de la OCDE y sus respectivos errores tpicos pueden calcularse matemticamente. Si participaron C pases de la OCDE, la media promedio y su respectiva varianza muestral son iguales a:
C


i =1

(2 ) =

( )
2
i

i =1

La media total de la OCDE y su respectiva varianza muestral son iguales a:


C

wi i
i =1
C

w
i =1

(2 ) =

w ( )
i =1

2
i

2
i

C
wi
i =1

donde wi es la suma de los pesos finales de los alumnos para un pas determinado.
Si bien estas frmulas pueden usarse para calcular una media o un porcentaje, no pueden utilizarse para la mayora del resto de estadsticos. stos slo pueden obtenerse directamente a partir del conjunto de datos.

164 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Recodificacin de la base de datos para la estimacin del total de la OCDE y de la media de


la OCDE
Como ya se indic en el captulo 3, la suma de los pesos finales de los alumnos por cada pas es
una estimacin de la poblacin de alumnos de 15 aos en dicho pas. Por lo tanto, el estadstico
del total de la OCDE puede obtenerse fcilmente borrando los datos de los pases asociados.
Luego, el estadstico se calcula usando la variable oecd como variable de agrupacin (la variable de la oecd es una constante, ya que los pases asociados se han borrado del archivo) en lugar del pas (CNT). El error tpico se obtiene como de costumbre, utilizando las 80 replicaciones.
El cuadro 11.1 proporciona la sintaxis de SPSS para el clculo del rendimiento en matemticas
segn el gnero para el total de la OCDE y la tabla 11.1 presenta la salida del procedimiento.
Cuadro 11.1. Sintaxis de SPSS para calcular el total de la OCDE para el rendimiento en matemticas segn el gnero
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
compute oecd=0.
if
(cnt='AUS'|cnt='AUT'|cnt='BEL'|cnt='CAN'|cnt='CZE'|cnt='DNK'|
cnt='FIN'|cnt='FRA'|cnt='DEU'|cnt='GRC'|cnt='HUN'|cnt='ISL'|
cnt='IRL'|cnt='ITA'|cnt='JPN'|cnt='KOR'|cnt='LUX'|cnt='MEX'|
cnt='NZL'|cnt='NOR'|cnt='POL'|cnt='PRT'|cnt='ESP'|cnt='SWE'|
cnt='CHE'|cnt='GBR'|cnt='USA'|cnt='NLD'|cnt='SVK'|cnt='TUR') oecd=1.
select if (oecd=1 & not missing(st03q01)).
save outfile='c:\pisa\Data2003\OECD.sav'.
* IMPORTAR LA MACRO.
include file 'c:\pisa\macros\mcr_SE_pv.sps'.
* EJECUTAR LA MACRO.
PV nrep = 80/
stat = mean/
dep = math/
grp = oecd st03q01/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\pisa\Data2003\OECD.sav'/.

Tabla 11.1. Estructura del archivo de salida a partir del cuadro 11.1
ST03Q01
1
2

STAT
483,93
494,04

SE
1,25
1,32

La media de la OCDE exige un paso adicional. Es necesario recodificar los pesos finales de los
alumnos, de modo que la suma de los pesos finales de los alumnos por cada pas sea igual a una
constante, por ejemplo 1000. Esto puede implementarse con facilidad mediante el procedimiento descrito en el cuadro 11.2.1 La tabla 11.2 presenta la salida del procedimiento. Las variables
de agrupacin son oecd y st03q01, como en el ejemplo de arriba, para calcular el total de la
OCDE y su error tpico. Los dos argumentos de pesos son diferentes. El peso total de los alumnos (w_fstuwt) se sustituye por el peso de la variable senate. Los pesos replicados se han

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

165

transformado mediante la misma transformacin lineal que el peso total de los alumnos y ahora
se llaman s_fstr1 a s_fstr80.
Cuadro 11.2. Sintaxis de SPSS para calcular la media de la OCDE para el rendimiento en
matemticas segn el gnero
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
compute oecd=0.
If
(cnt='AUS'|cnt='AUT'|cnt='BEL'|cnt='CAN'|cnt='CZE'|cnt='DNK'|
cnt='FIN'|cnt='FRA'|cnt='DEU'|cnt='GRC'|cnt='HUN'|cnt='ISL'|
cnt='IRL'|cnt='ITA'|cnt='JPN'|cnt='KOR'|cnt='LUX'|cnt='MEX'|
cnt='NZL'|cnt='NOR'|cnt='POL'|cnt='PRT'|cnt='ESP'|cnt='SWE'|
cnt='CHE'|cnt='GBR'|cnt='USA'|cnt='NLD'|cnt='SVK'|cnt='TUR') oecd=1.
select if oecd=1.
sort cases by cnt.
aggregate outfile='c:\temp\population.sav' /break=cnt /pop=sum(w_fstuwt).
match files file=* /table='c:\temp\population.sav'/by cnt.
compute senate=(w_fstuwt/pop)*1000.
define mcr ().
!do !r=1 !to 80.
compute !concat('s_fstr',!r)=(!concat('w_fstr',!r)/pop)*1000.
!doend.
!enddefine.
MCR.
save outfile='c:\pisa\Data2003\OECD.sav'.
weight by senate.
fre cnt.
*====================================================================.
* IMPORTAR LA MACRO.
include file 'c:\pisa\macros\mcr_SE_pv.sps'.
* EJECUTAR LA MACRO.
PV nrep = 80/
stat = mean/
dep = math/
grp = oecd st03q01/
wgt = senate/
rwgt = s_fstr/
cons = 0.05/
infile = 'c:\pisa\Data2003\OECD.sav'/.

Tabla 11.2. Estructura del archivo de salida a partir del cuadro 11.2
ST03Q01
1
2

STAT
494,41
505,53

SE
0,76
0,75

Merece la pena hacer notar que el error tpico es ms alto para el total de la OCDE que para la
media de la OCDE. En el caso del total de la OCDE, el 40% de los datos provienen de slo dos
pases (Estados Unidos y Japn), los cuales no tienen grandes tamaos de muestra en comparacin con otros pases de la OCDE.

166 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Duplicacin de los datos para evitar tres ejecuciones del procedimiento


Si un investigador est interesado en las estimaciones de los pases, as como en el total de la
OCDE y la media de la OCDE, se necesita ejecutar el procedimiento tres veces: una para las
estimaciones por pas, otra para la estimacin del total de la OCDE y una tercera para la estimacin de la media de la OCDE.
Con objeto de evitar tales repeticiones, es posible duplicar tres veces los datos de los pases de la
OCDE, de manera que el procedimiento proporcione directamente las estimaciones para cada
pas, as como las estimaciones del total de la OCDE y de la media de la OCDE.
El cuadro 11.3 presenta la sintaxis de SPSS para generar tales conjuntos de datos. Consiste en
los pasos siguientes:

Se calcula una nueva variable categrica, llamada oecd, que separa los pases de la OCDE
de los pases asociados. Un valor de 1 para esta variable designa a los pases de la OCDE,
mientras que un valor de 4 designa a los pases asociados. Se crea una segunda variable alfanumrica, llamada country, y cuyo contenido es igual a cnt.

Se seleccionan los casos correspondientes a los pases de la OCDE y se guardan en el archivo TEMP2. La variable oecd se fija en 2 y la variable country se fija en TOT.

En el archivo TEMP2, se calcula la suma de los pesos finales de los alumnos por cada pas
mediante el procedimiento descrito en el cuadro 11.2. Los pesos finales se transforman de
tal modo que la suma por cada pas sea igual a 1000. Se aplica la misma transformacin lineal a las 80 replicaciones. La variable cnt se fija en AVG y la variable oecd se fija en 3. Las
nuevas variables de peso sobreescriben a las antiguas. Estos datos nuevos se guardan en el
archivo TEMP3.

Despus de ordenar TEMP2 y TEMP3, los tres archivos temporales se fusionan y se guardan en un archivo final de datos de SPSS.

Las macros de SPSS presentadas en los captulos anteriores pueden aplicarse a este nuevo archivo de datos. Las variables de agrupacin son ahora oecd y country, en lugar de cnt. El
archivo de resultados consistir en 43 filas. Las primeras 30 filas sern los resultados de los pases de la OCDE. Las siguientes dos filas presentarn las estimaciones del total de la OCDE y la
media de la OCDE. Finalmente, las ltimas 11 filas presentarn las estimaciones de los pases
asociados.
Comparaciones entre las estimaciones de la media de la OCDE o del total de la OCDE y la
estimacin de un pas
Slo los pases de la OCDE que participen plenamente contribuyen a la estimacin de la media
de la OCDE y del total de la OCDE y sus respectivos errores tpicos. Por lo tanto, el valor esperado de la covarianza entre la varianza muestral de un pas y la varianza muestral agregada de
la OCDE diferirn de 0 si los valores del pas se incluyen en los valores agregados de la OCDE,
porque ninguna de las dos es independiente. De hecho, si la varianza muestral de un pas aumenta, la varianza muestral agregada de la OCDE tambin aumentar.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

167

Si un investigador quiere poner a prueba la hiptesis nula entre un pas de la OCDE y la estimacin agregada de la OCDE, debera estimarse la covarianza, como se explica en el captulo
10. Puesto que se espera que la covarianza sea positiva, la estimacin correcta del error tpico
debera ser menor que el error tpico obtenido a partir de las frmulas.
Cuadro 11.3. Sintaxis de SPSS para la creacin de un conjunto triplicado de datos que permita en una sola ejecucin calcular el total de la OCDE y la media de la OCDE
* PASES.
*------------------------.
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
compute OECD=4.
if (cnt='AUS'|cnt='AUT'|cnt='BEL'|cnt='CAN'|cnt='CZE'|cnt='DNK'|cnt='FIN'
|cnt='FRA'|cnt='DEU'|cnt='GRC'|cnt='HUN'|cnt='ISL'|cnt='IRL'|cnt='ITA'
|cnt='JPN'|cnt='KOR'|cnt='LUX'|cnt='MEX'|cnt='NZL'|cnt='NOR'|cnt='POL'
|cnt='PRT'|cnt='ESP'|cnt='SWE'|cnt='CHE'|cnt='GBR'|cnt='USA'|cnt='NLD'
|cnt='SVK'|cnt='TUR') OECD=1.
save outfile='C:\TEMP\TEMP1.SAV'.
* TOTAL DE LA OCDE.
*------------------------.
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
select if
(cnt='AUS'|cnt='AUT'|cnt='BEL'|cnt='CAN'|cnt='CZE'|cnt='DNK'|cnt='FIN'
|cnt='FRA'|cnt='DEU'|cnt='GRC'|cnt='HUN'|cnt='ISL'|cnt='IRL'|cnt='ITA'
|cnt='JPN'|cnt='KOR'|cnt='LUX'|cnt='MEX'|cnt='NZL'|cnt='NOR'|cnt='POL'
|cnt='PRT'|cnt='ESP'|cnt='SWE'|cnt='CHE'|cnt='GBR'|cnt='USA'|cnt='NLD'
|cnt='SVK'|cnt='TUR').
compute OECD=2.
COMPUTE CNT='TOT'.
save outfile='C:\TEMP\TEMP2.SAV'.
* MEDIA DE LA OCDE.
*------------------------.
get file 'C:\PISA\Data2003\INT_stui_2003.sav'.
select if
(cnt='AUS'|cnt='AUT'|cnt='BEL'|cnt='CAN'|cnt='CZE'|cnt='DNK'|cnt='FIN'
|cnt='FRA'|cnt='DEU'|cnt='GRC'|cnt='HUN'|cnt='ISL'|cnt='IRL'|cnt='ITA'
|cnt='JPN'|cnt='KOR'|cnt='LUX'|cnt='MEX'|cnt='NZL'|cnt='NOR'|cnt='POL'
|cnt='PRT'|cnt='ESP'|cnt='SWE'|cnt='CHE'|cnt='GBR'|cnt='USA'|cnt='NLD'
|cnt='SVK'|cnt='TUR').
compute OECD=3.
sort cases by cnt.
aggregate outfile='c:\temp\population.sav' /break=cnt /pop=sum(w_fstuwt).
match files file=* /table='c:\temp\population.sav'/by cnt.
compute w_fstuwt=(w_fstuwt/pop)*1000.
define mcr ().
!do !r=1 !to 80.
compute !concat('w_fstr',!r)=(!concat('w_fstr',!r)/pop)*1000.
!doend.
!enddefine.
mcr.
weight by w_fstuwt.
fre cnt.
COMPUTE CNT='AVG'.
save outfile='C:\TEMP\TEMP3.SAV'.
...

168 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

* CONCATENAR LOS ARCHIVOS TEMPORALES.


*-----------------------------------.
add files file='C:\TEMP\TEMP1.SAV' /file='C:\TEMP\TEMP2.SAV'
/file='C:\TEMP\TEMP3.SAV'.
sort cases by oecd cnt.
FORMATS oecd (f1.0).
save outfile='c:\pisa\data2003\ALL3.sav'.
cros cnt by oecd.
* IMPORTAR LA MACRO.
include file 'c:\pisa\macros\mcr_SE_pv.sps'.
* EJECUTAR LA MACRO.
PV nrep = 80/
stat = mean/
dep = math/
grp = oecd cnt/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = 'c:\pisa\data2003\ALL3.sav'/.

Puesto que los pases asociados no contribuyen en absoluto a las estimaciones agregadas de la
OCDE, no es necesario estimar la covarianza. El error tpico de la diferencia puede obtenerse
directamente a partir del error tpico del pas y el error tpico agregado.
La tabla 11.3 presenta:

el rendimiento medio de los pases en matemticas, as como la media de la OCDE y el total


de la OCDE;

el error tpico de estas estimaciones;

la diferencia entre el pas y el total de la OCDE;

el error tpico de esta diferencia, mediante la frmula proporcionada en el captulo 10, es


decir, sin una estimacin de la covarianza;

el error tpico de esta diferencia, mediante la replicacin, es decir, con una estimacin de la
covarianza;

la diferencia entre el pas y la media de la OCDE;

el error tpico de esta diferencia, mediante la replicacin, es decir, con una estimacin de la
covarianza.

Las estimaciones correctas del error tpico estn en negrita. Las diferencias entre las estimaciones con y sin sesgo para los pases de la OCDE no son muy grandes, excepto en el caso de Estados Unidos y Alemania para el total de la OCDE.
Tampoco las diferencias de los pases asociados son muy grandes. Como la covarianza esperada
para los pases asociados es 0, ninguno de los dos errores tpicos est sesgado por trmino medio. Sin embargo, se recomienda emplear el error tpico directamente obtenido con la frmula.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

169

Tabla 11.3. Medias del rendimiento de los pases en matemticas y sus respectivos errores
tpicos, diferencia de los pases con el total de la OCDE y con la media de la OCDE, y sus
respectivos errores tpicos sin y con estimacin de la covarianza
Pas
AUS
AUT
BEL
CAN
CHE
CZE
DEU
DNK
ESP
FIN
FRA
GBR
GRC
HUN
IRL
ISL
ITA
JPN
KOR
LUX
MEX
NLD
NOR
NZL
POL
PRT
SVK
SWE
TUR
USA
TOT
AVE
BRA
HKG
IDN
LIE
LVA
MAC
RUS
THA
TUN
URY
YUG

Media
524,27
505,61
529,29
532,49
526,55
516,46
502,99
514,29
485,11
544,29
510,80
508,26
444,91
490,01
502,84
515,11
465,66
534,14
542,23
493,21
385,22
537,82
495,19
523,49
490,24
466,02
498,18
509,05
423,42
482,88
489,00
500,00
356,02
550,38
360,16
535,80
483,37
527,27
468,41
416,98
358,73
422,20
436,87

ET
2,15
3,27
2,29
1,82
3,38
3,55
3,32
2,74
2,41
1,87
2,50
2,43
3,90
2,84
2,45
1,42
3,08
4,02
3,24
0,97
3,64
3,13
2,38
2,26
2,50
3,40
3,35
2,56
6,74
2,95
1,07
0,63
4,83
4,54
3,91
4,12
3,69
2,89
4,20
3,00
2,54
3,29
3,75

DIF
35,27
16,61
40,29
43,49
37,56
27,46
13,99
25,29
3,89
55,29
21,80
19,26
44,09
1,02
13,84
26,11
23,33
45,14
53,23
4,21
103,78
48,83
6,19
34,49
1,24
22,98
9,19
20,05
65,58
6,11

Total OCDE
ET sin
2,40
3,44
2,52
2,11
3,55
3,70
3,49
2,95
2,64
2,15
2,72
2,65
4,05
3,03
2,67
1,78
3,26
4,16
3,41
1,45
3,80
3,31
2,61
2,50
2,72
3,57
3,51
2,77
6,82
3,14

ET con
2,12
3,49
2,42
2,08
3,48
3,90
3,42
2,99
2,60
2,07
2,45
2,41
3,94
3,20
2,56
1,78
3,11
3,88
3,34
1,48
3,55
3,19
2,69
2,41
2,82
3,30
3,46
2,48
6,48
2,38

DIF
24,27
5,61
29,29
32,49
26,55
16,46
2,99
14,29
14,89
44,29
10,80
8,26
55,09
9,99
2,84
15,11
34,34
34,14
42,23
6,79
114,78
37,82
4,81
23,49
9,76
33,98
1,82
9,05
76,58
17,12

132,98
61,39
128,84
46,80
5,62
38,27
20,59
72,02
130,26
66,80
52,13

4,95
4,66
4,05
4,26
3,84
3,08
4,33
3,18
2,75
3,46
3,90

4,89
4,80
4,03
4,16
3,88
3,13
4,47
3,38
2,55
3,41
3,85

143,98
50,38
139,84
35,80
16,62
27,27
31,59
83,02
141,27
77,80
63,13

Media OCDE
ET sin
ET con
2,03
2,24
3,27
3,33
2,23
2,37
1,96
1,92
3,38
3,44
3,51
3,60
3,30
3,38
2,67
2,82
2,47
2,49
1,91
1,97
2,46
2,58
2,39
2,51
3,81
3,95
2,95
2,91
2,41
2,53
1,48
1,56
2,98
3,14
3,94
4,06
3,16
3,30
1,20
1,16
3,64
3,70
3,10
3,19
2,41
2,46
2,31
2,34
2,54
2,58
3,23
3,46
3,31
3,41
2,40
2,64
6,46
6,77
2,90
3,02

4,87
4,58
3,96
4,17
3,74
2,95
4,24
3,06
2,61
3,35
3,81

4,77
4,68
3,88
4,13
3,76
2,85
4,33
3,20
2,57
3,30
3,78

Conclusiones
Este captulo ha estado dedicado a los conceptos de total de la OCDE y media de la OCDE. Para
estadsticos simples como una media o un porcentaje, estas estimaciones agregadas y sus res-

170 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

pectivos errores tpicos pueden obtenerse directamente a partir de las estimaciones individuales
de los pases.
De todas formas, en la mayora de los casos, la estimacin y su error estndar slo pueden calcularse a partir de la base de datos. Se ha proporcionado la sintaxis de SPSS.
Con objeto de evitar tres ejecuciones para obtener estimaciones individuales de cada pas, as
como las estimaciones agregadas de la OCDE, tambin se ha proporcionado la sintaxis de SPSS
para crear un conjunto mayor de datos.
Por ltimo, siguiendo las cuestiones planteadas en el captulo anterior dedicado a las comparaciones, se trat acerca de cualquier comparacin que implique a un pas determinado y a una
estimacin agregada de la OCDE.

Como alternativa, tambin puede emplearse un peso de pas, CNTFAC1.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

171

Captulo 12

Las tendencias
Introduccin ........................................................................................................................................... 174
Clculo del error tpico de los indicadores de tendencias en las variables que no son de
rendimiento ...................................................................................................................................... 175
Clculo del error tpico de los indicadores de tendencias en las variables de rendimiento ....... 179
Conclusiones .......................................................................................................................................... 185

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

173

Introduccin
Los responsables de las polticas educativas y los investigadores necesitan informacin sobre
cmo cambian los indicadores con el tiempo. Cuanto ms largo sea el perodo temporal, ms
fiable ser el indicador de tendencia. Un ejemplo sera un anlisis del impacto de las reformas
en el sistema educativo, donde los responsables polticos procuraran medir los cambios en un
rea determinada para evaluar hasta qu punto han sido eficaces sus medidas. Por ejemplo, a
comienzos de la dcada de 1960, la mayora de los pases de la OCDE puso en marcha reformas
educativas para facilitar el acceso a la educacin terciaria, sobre todo mediante ayudas econmicas. Un indicador del impacto de estas reformas sera calcular el porcentaje de la poblacin
con una calificacin terciaria durante varios aos, para mostrar cmo ha evolucionado. Calcular
este indicador de tendencia es una operacin estadstica directa, puesto que la medida (es decir,
si una persona ha terminado o no estudios terciarios) es bastante objetiva y la informacin se
encuentra disponible, en la mayora de los casos, al nivel de la poblacin. Sin embargo, tales
medidas pueden estar ligeramente sesgadas, a causa, por ejemplo, de distintos grados de inmigracin durante el perodo considerado o de programas de intercambio de estudiantes, etctera.
Por supuesto, las tendencias de un indicador particular a lo largo del tiempo necesitan una interpretacin cuidadosa. Los responsables polticos deberan tambin tener en cuenta los cambios en el contexto econmico del pas, como las tasas crecientes de desempleo. Por ejemplo, un
aumento en el porcentaje de personas que hayan terminado estudios terciarios no prueba necesariamente que la reforma del sistema educativo haya sido eficaz. Adems, cuando se comparan
los indicadores de tendencias entre varios pases, es importante considerar hasta qu punto es
comparable la definicin del indicador de un pas a otro; por ejemplo, educacin terciaria podra
significar algo distinto en cada pas.
El proyecto PISA ofrece una oportunidad nica de extender el clculo de indicadores de tendencia en los resultados del sistema educativo, examinando el rendimiento de los alumnos en
lectura, matemticas y ciencias.
Para que las medidas de tendencias sean fiables, la comparabilidad de la poblacin objetivo, los
procedimientos de recogida de datos y el marco terico deben ser constantes a lo largo del
tiempo. Uno de los principales propsitos del proyecto es que puedan utilizarse los resultados
de PISA como indicadores de tendencias.
PISA 2000 y PISA 2003 utilizaron los mismos marcos tericos y los procedimientos de recogida
de datos quedaron bsicamente inalterados. En PISA 2000, la poblacin objetivo se defini como
los jvenes de 15 aos en el quinto curso o superior. En PISA 2003, se defini como los jvenes
de quince aos en el sptimo curso o superior. En PISA 2000, slo un porcentaje muy pequeo
de alumnos de 15 aos se encontraban en los cursos quinto o sexto (Austria = 0,03%, Canad = 0,03%, Repblica Checa = 0,06%, Alemania = 0,02%, Hungra = 0,59%, Letonia = 0,27%,
Portugal = 1,25% y Rusia = 0,04%). Por lo tanto, excepto para Portugal, el cambio de la poblacin de referencia no debera afectar significativamente a los indicadores de tendencias.
Otras cuestiones que deben incluirse en la interpretacin de los indicadores de tendencias son
las tasas de participacin de alumnos y centros y los ndices de cobertura. Una tasa de participacin de centros ms alta o ms baja podra explicar parcialmente las diferencias observadas.

174 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Ms all de estas precauciones preliminares, el clculo de los indicadores de tendencias en PISA


plantea dos cuestiones estadsticas:

PISA recoge datos a partir de una muestra, por lo que cualquier estadstico debe asociarse
con un error muestral. En la siguiente seccin se expondr cmo calcular dicho error muestral para un indicador de tendencia.

En la evaluacin de 2003, se incluyeron entre 20 y 30 tems por rea tomados de la evaluacin de 2000, para garantizar una equiparacin psicomtrica. Estos tems de anclaje se usaron para escalar las evaluaciones de PISA 2000 y PISA 2003 en una escala comn. Como
puede imaginarse fcilmente, si se hubieran seleccionado otros tems de anclaje se habran
obtenido resultados ligeramente distintos para los indicadores de tendencias en el rendimiento. De ah que cualquier comparacin entre dos ciclos de PISA en cuanto al rendimiento de los alumnos exija la adicin de otro componente de error: el error debido al muestreo
de tems.

Clculo del error tpico de los indicadores de tendencias en las variables que no son de rendimiento
Para cualquier pas, las muestras de PISA 2000 y PISA 2003 son independientes. Por tanto, el
error tpico de cualquier indicador de tendencia que no est relacionado con variables de rendimiento puede calcularse as:

2003 2000

2
2
) = (2003 ) + (2000 )

, donde representa cualquier estadstico.

Sin embargo, el clculo de una diferencia entre PISA 2000 y PISA 2003 y su error tpico slo son
relevantes si las dos medidas son idnticas. Por ejemplo, en las bases de datos de PISA 2000 y
PISA 2003, hay varios ndices procedentes de los cuestionarios de alumnos que tienen exactamente los mismos nombres de variables (por ejemplo, HEDRES para recursos educativos familiares, BELONG para el sentimiento de pertenencia al centro por parte del alumno, etctera).
Las preguntas utilizadas para obtener estos ndices no han cambiado, pero como el escalamiento se hizo de forma independiente en el 2000 y en el 2003, no hay garanta de que las medidas
de 2000 y 2003 sean comparables. Adems, estos ndices se tipificaron a nivel de la OCDE para
obtener una media de 0 y una desviacin tpica de 1. La tipificacin del 2000 difiere de la del
2003. Por tanto, no se recomienda calcular indicadores de tendencias a partir de los ndices de
los cuestionarios.
En el caso de los ndices de los cuestionarios de PISA, como las preguntas no se han modificado,
los conceptos subyacentes son similares. Por lo tanto, los coeficientes de correlacin entre estos
ndices y el rendimiento de los alumnos pueden compararse directamente. Ahora bien, como
los parmetros de los tems se calcularon en el 2003 sin ninguna relacin con los datos de PISA
2000, las medidas de las escalas podran ser ligeramente distintas; por ejemplo, un aumento
absoluto en el sentimiento de pertenencia podra ser simplemente un resultado del escalamiento
o de la tipificacin, sin que haya habido ningn cambio en la actitud de los alumnos. Por las
mismas razones, los coeficientes de regresin de los ndices obtenidos a partir de los datos de
los cuestionarios de los alumnos no pueden compararse entre 2000 y 2003.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

175

La variable HISEI, (Highest International Social and Economic Index, ndice internacional social y
econmico ms alto [de entre ambos padres]) satisface todas las condiciones para el clculo de
los indicadores de tendencias. De hecho, las preguntas no se cambiaron y la transformacin
utilizada en las categoras de la ISCOa en el 2000 se utiliz en el 2003 sin ninguna modificacin.
La tabla 12.1 presenta, por pas, la estimacin de la media de HISEI y de su error tpico para
PISA 2000 y PISA 2003, as como la diferencia entre las dos estimaciones, el error tpico de esta
diferencia y la diferencia tipificada, es decir, la diferencia dividida por su error tpico.
Para Alemania (DEU), las medias de HISEI en el 2000 y en el 2003 son, respectivamente, iguales
a 48,85 y 49,33. La diferencia entre estas dos recogidas de datos es, por tanto, igual a:
49,33 48,55 = 0,48.
Los errores tpicos de estas estimaciones de las medias son iguales a 0,32 y 0,42. El error tpico
de la estimacin de la diferencia es igual a:

2003 2000

2
2
2
2
) = (2003 ) + (2000 ) = (0,32) + (0,42) = 0,53 .

La diferencia tipificada, es decir, la estimacin de la diferencia dividida por su error tpico, es


igual a:

0,48
= 0,91 .
0,53
Como la diferencia tipificada est incluida en el intervalo [1,96; 1,96], la diferencia de la estimacin de la media de HISEI entre el 2000 y el 2003 no es estadsticamente distinta de 0, con un
error de tipo I de 0,05.
La tabla 12.1 muestra que la diferencia es estadsticamente distinta de 0 en 13 pases: Austria,
Blgica, Brasil, la Repblica Checa, Indonesia, Islandia, Corea, Liechtenstein, Luxemburgo,
Mxico, Tailandia, el Reino Unido y Estados Unidos.
Sera poco realista considerar estas diferencias solamente como un reflejo de los cambios sociales y econmicos en estos 13 pases. En un perodo de tres aos, pueden producirse ciertos cambios, pero no explican por s solos el tamao de los aumentos o disminuciones observados.

ISCO: International Standard Classification of Occupations (CIUO: Clasificacin Internacional Uniforme de Ocupaciones).
a

176 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Tabla 12.1. Indicadores de tendencias entre PISA 2000 y PISA 2003 para HISEI por pas

AUS
AUT
BEL
BRA
CAN
CHE
CZE
DEU
DNK
ESP
FIN
FRA
GBR
GRC
HUN
IDN
IRL
ISL
ITA
JPN
KOR
LIE
LUX
LVA
MEX
NLD
NOR
NZL
POL
PRT
RUS
SWE
THA
USA

PISA 2000
Media
ET

PISA 2003
Media
ET

52,25
49,72
48,95
43,93
52,83
49,21
48,31
48,85
49,73
44,99
50,00
48,27
51,26
47,76
49,53
36,38
48,43
52,73
47,08
50,54
42,80
47,46
44,79
50,15
42,48
50,85
53,91
52,20
46,03
43,85
49,38
50,57
33,02
52,40

52,59
47,06
50,59
40,12
52,58
49,30
50,05
49,33
49,26
44,29
50,23
48,66
49,65
46,94
48,58
33,65
48,34
53,72
46,83
49,98
46,32
50,73
48,17
50,28
40,12
51,26
54,63
51,46
44,96
43,10
49,86
50,64
36,01
54,55

(0,50)
(0,29)
(0,39)
(0,59)
(0,22)
(0,53)
(0,27)
(0,32)
(0,43)
(0,62)
(0,40)
(0,44)
(0,35)
(0,60)
(0,47)
(0,77)
(0,48)
(0,28)
(0,31)
(0,62)
(0,42)
(0,94)
(0,27)
(0,54)
(0,68)
(0,47)
(0,38)
(0,37)
(0,47)
(0,60)
(0,45)
(0,39)
(0,57)
(0,79)

(0,30)
(0,52)
(0,38)
(0,64)
(0,27)
(0,43)
(0,34)
(0,42)
(0,45)
(0,58)
(0,36)
(0,47)
(0,39)
(0,72)
(0,33)
(0,61)
(0,49)
(0,26)
(0,38)
(0,31)
(0,36)
(0,75)
(0,22)
(0,52)
(0,68)
(0,38)
(0,39)
(0,36)
(0,34)
(0,54)
(0,38)
(0,38)
(0,43)
(0,37)

Estimacin
0,34
2,66
1,65
3,81
0,25
0,09
1,74
0,48
0,47
0,70
0,23
0,39
1,61
0,83
0,95
2,73
0,09
0,99
0,24
0,56
3,52
3,27
3,38
0,13
2,37
0,42
0,72
0,74
1,07
0,75
0,49
0,07
2,99
2,15

Diferencia
ET
(0,58)
(0,59)
(0,54)
(0,87)
(0,35)
(0,68)
(0,44)
(0,53)
(0,63)
(0,85)
(0,54)
(0,64)
(0,52)
(0,93)
(0,57)
(0,98)
(0,69)
(0,38)
(0,49)
(0,69)
(0,55)
(1,21)
(0,35)
(0,75)
(0,96)
(0,61)
(0,54)
(0,51)
(0,58)
(0,81)
(0,59)
(0,55)
(0,72)
(0,87)

Diferencia
tipificada
0,59
4,49
3,05
4,39
0,73
0,13
3,98
0,91
0,75
0,83
0,42
0,61
3,07
0,88
1,65
2,77
0,13
2,62
0,50
0,80
6,36
2,71
9,76
0,18
2,46
0,68
1,33
1,45
1,85
0,92
0,82
0,12
4,18
2,47

Tambin es posible que la calidad de las muestras explique algunas de las diferencias. Puesto
que la disposicin de un alumno a participar positivamente se correlaciona con su currculo
acadmico, y como por trmino medio los alumnos con menor rendimiento proceden de contextos sociales ms bajos que los alumnos con mayor rendimiento, un aumento o una disminucin
en las tasas de participacin de los alumnos podra afectar a la media de HISEI.
Un cambio en el porcentaje de datos perdidos para la variable HISEI sera otra explicacin que
puede verificarse fcilmente. En promedio, los alumnos que no aportan el dato de la profesin
de sus padres tienen un rendimiento inferior. Por lo tanto, deberan esperarse caractersticas de
entorno social bajo de tal modo que un aumento de datos perdidos podra asociarse con un
aumento en la media de HISEI y viceversa.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

177

La tabla 12.2 proporciona los porcentajes de datos perdidos para la variable HISEI en las bases
de datos de PISA 2000 y PISA 2003. En realidad, estos resultados no confirman la hiptesis. Por
ejemplo, en Estados Unidos los porcentajes de datos perdidos eran, respectivamente, de alrededor de un 14% en el 2000 y alrededor de un 6% en el 2003; las medias de HISEI eran, respectivamente, 52,40 y 54,55. En 9 de los 13 pases donde las medias de HISEI difieren significativamente, o bien un aumento de la media de HISEI se asocia con una disminucin del porcentaje
de datos ausentes, o bien al revs. En los otros tres pases Blgica, la Repblica Checa y Mxico, la relacin es coherente con la hiptesis.
Tabla 12.2. Porcentajes de datos perdidos en la variable HISEI
PISA 2000

AUS
AUT
BEL
BRA
CAN
CHE
CZE
DEU
DNK
ESP
FIN
FRA
GBR
GRC
HUN
IDN
IRL
ISL
ITA
JPN
KOR
LIE
LUX
LVA
MEX
NLD
NOR
NZL
POL
PRT
RUS
SWE
THA
USA

ET

PISA 2003
ET

Estimacin

Diferencia
ET

4,15
2,06
5,02
7,90
3,00
3,36
1,90
3,05
7,12
4,48
1,96
6,23
5,15
4,04
3,02
6,99
3,23
2,19
2,73
62,52
7,34
5,49
9,55
5,02
8,51
3,07
2,44
3,92
6,90
3,72
3,16
2,48
10,95
14,58

(0,38)
(0,20)
(0,45)
(0,62)
(0,18)
(0,32)
(0,42)
(0,34)
(0,85)
(0,49)
(0,22)
(0,51)
(0,44)
(0,57)
(0,36)
(0,64)
(0,34)
(0,24)
(0,46)
(3,47)
(0,49)
(1,41)
(0,50)
(0,52)
(0,59)
(0,65)
(0,31)
(0,39)
(0,79)
(0,42)
(0,33)
(0,30)
(1,38)
(1,95)

7,91
3,62
6,11
8,75
12,34
3,06
5,65
9,92
2,73
3,70
1,44
4,61
7,23
5,81
5,39
8,67
4,32
2,30
2,47
11,25
2,36
3,02
3,62
3,34
5,07
7,64
3,18
14,13
2,33
2,76
2,14
2,63
5,85
5,88

(1,56)
(0,32)
(0,48)
(1,03)
(0,76)
(0,26)
(1,19)
(0,63)
(0,37)
(0,37)
(0,16)
(0,45)
(1,17)
(0,41)
(0,42)
(0,53)
(0,57)
(0,25)
(0,28)
(0,81)
(0,21)
(0,85)
(0,29)
(0,39)
(0,44)
(1,34)
(0,39)
(0,43)
(0,30)
(0,28)
(0,30)
(0,31)
(0,64)
(0,38)

3,76
1,56
1,09
0,86
9,34
0,30
3,75
6,87
4,40
0,78
0,52
1,61
2,07
1,78
2,37
1,67
1,09
0,11
0,26
51,27
4,97
2,47
5,92
1,68
3,43
4,57
0,74
10,22
4,57
0,96
1,02
0,15
5,09
8,70

(1,61)
(0,38)
(0,66)
(1,20)
(0,78)
(0,41)
(1,26)
(0,72)
(0,92)
(0,62)
(0,27)
(0,68)
(1,25)
(0,70)
(0,55)
(0,83)
(0,66)
(0,35)
(0,54)
(3,56)
(0,54)
(1,64)
(0,58)
(0,66)
(0,74)
(1,49)
(0,50)
(0,58)
(0,85)
(0,50)
(0,45)
(0,43)
(1,52)
(1,99)

Diferencia
tipificada
2,33
4,13
1,66
0,71
11,93
0,72
2,97
9,55
4,76
1,27
1,92
2,37
1,66
2,53
4,31
2,03
1,65
0,31
0,48
14,41
9,29
1,50
10,27
2,56
4,65
3,07
1,49
17,60
5,39
1,90
2,27
0,35
3,35
4,38

Este sencillo ejemplo muestra que la interpretacin de los indicadores de tendencia es bastante
complicada. La estructura social y econmica de un pas debera permanecer inalterada durante
un perodo de tres aos, de modo que no ocurran diferencias entre dos ciclos. Sin embargo,

178 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

como se ha mostrado, esta diferencia aparece como significativa en los 13 pases.


A veces, estas diferencias significativas pueden explicarse por cambios en las tasas de participacin de centros o de alumnos y en la distribucin de los datos perdidos. Por lo tanto, se recomienda llevar a cabo alguna verificacin antes de intentar interpretar las diferencias calculadas
como un verdadero cambio en las caractersticas de la poblacin.
Clculo del error tpico de los indicadores de tendencias en las variables del rendimiento
Anclaje de las escalas de rendimiento de PISA 2000 y PISA 2003
La base de datos de PISA 2000 contiene cinco valores plausibles para cada una de las siguientes
reas o subreas:

matemticas;
lectura;
- recuperacin de la informacin;
- interpretacin;
- reflexin;
ciencias.

La base de datos de PISA 2003 tambin contiene cinco valores plausibles para cada una de las
siguientes reas o subreas:

matemticas,
- espacio y forma,
- cambio y relaciones,
- incertidumbre,
- cantidad,

solucin de problemas,

lectura,

ciencias.

Los procedimientos psicomtricos utilizados para equiparar las escalas de rendimiento de PISA
2000 y PISA 2003 son distintos para las matemticas que para la lectura y las ciencias.
La lectura fue el rea principal en el 2000 y 28 de los 140 tems desarrollados para la evaluacin
del 2000 se usaron tambin en la del 2003. Los datos del 2003, por tanto, se expresaron en la
escala de lectura del 2000. Los datos de evaluacin de ciencias de 2003 tambin se expresan en la
escala de ciencias del 2000, ya que 25 de los 30 tems desarrollados para la evaluacin del 2000
se usaron en la del 2003.
A las matemticas, como rea principal, se les dedic un gran trabajo de desarrollo en PISA
2003. Adems, la evaluacin de las matemticas en el 2000 slo cubri dos de las cuatro reas de
contenido (espacio y forma y cambio y relaciones). 20 tems de los 85 utilizados en la evaluacin
de 2003 provienen de la de 2000. Debido a esta ampliacin de la evaluacin, se crey que era
inapropiado expresar las puntuaciones de matemticas de PISA 2003 en la escala de PISA 2000.
Sin embargo, para proporcionar a los pases algunos indicadores de tendencias, las subescalas
espacio y forma y cambio y relaciones de PISA 2000 se expresaron en las escalas de PISA 20031.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

179

Los pasos para el anclaje de los datos de lectura y ciencias de PISA 2003 en las escalas de PISA
2000 son:
1.

Calibracin de los datos de lectura y ciencias del 2003 para obtener los parmetros de los
tems, es decir, la dificultad relativa de los tems en la escala de Rasch.

2.

Basndose en estos parmetros de los tems, generacin de valores plausibles para lectura y
ciencias a partir de los datos de PISA 2003.

3.

Basndose en los parmetros de los tems del paso 1, pero slo en los tems de anclaje, generacin de valores plausibles para lectura y ciencias a partir de los datos de PISA 2000. En este momento, hay dos conjuntos de valores plausibles para PISA 2000: el conjunto original de
valores plausibles incluido en la base de datos de PISA 2000 y el conjunto de valores plausibles basados en los parmetros de los tems de PISA 2003. Por desgracia, la media y la desviacin tpica del nuevo conjunto de valores plausibles sern ligeramente distintas de los
valores plausibles originales de PISA 2000. Estas diferencias reflejan los cambios en la dificultad de los tems de anclaje entre 2000 y 2003. Recordemos que la media y la desviacin
tpica para la media de la OCDE se establecieron respectivamente en 500 y 100 en el 2000.
Supongamos que el nuevo conjunto de valores plausibles proporciona una media de 505 y
una desviacin tpica de 110. El nuevo conjunto de valores plausibles para los datos de PISA 2000 debe transformarse, de modo que su media y su desviacin tpica sean respectivamente iguales a 500 y 100.

4.

Este paso consiste en calcular la transformacin lineal que garantizar que la media y la
desviacin tpica del nuevo conjunto de valores plausibles a partir de los datos de PISA
2000 tenga una media de 500 y una desviacin tpica de 100. Esta transformacin lineal
puede escribirse como:

PVcal _ 2000 = + PVcal _ 2003 , con =


En el ejemplo,
5.

cal _ 2000
cal _ 2003

= (cal _ 2000 (cal _ 2003 )) .

100
= 0,909 y = (500 (0,909 505)) = 40,955 2.
110

Esta transformacin lineal se aplica a los valores plausibles de PISA 2003. Aplicada a los
valores plausibles de lectura o ciencias de PISA 2003, garantiza que el rendimiento de los
alumnos en el 2003 sea comparable al del 2000.

Como ya se indic ms atrs, con otro conjunto de tems de anclaje la transformacin lineal
habra sido distinta. Por consiguiente, existe una incertidumbre en la transformacin debida al
muestreo de los temes de anclaje, denominada error de equiparacin.
Los pasos para anclar las dos subescalas de matemticas de PISA 2000 en las subescalas de PISA
2003 son:

Calibracin de los datos de matemticas del 2003 para obtener los correspondientes parmetros de los tems de PISA 2003.

180 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Basndose en estos parmetros de los tems, generacin de los valores plausibles para PISA
2003.

Basndose en los parmetros de los tems del 2003, generacin de valores plausibles para
los datos de matemticas de PISA 2000.

Del mismo modo, la estimacin de la tendencia habra sido levemente distinta con otro conjunto
de tems de anclaje en lectura y ciencias. Por lo tanto, es importante integrar este componente de
error en el error tpico del indicador de tendencia.
Inclusin del error de equiparacin en el clculo del error tpico
Para cada tem de anclaje, tenemos dos estimaciones de parmetros del tem que se encuentran
ahora en la misma mtrica: el parmetro del tem del 2000 y el parmetro del tem del 2003.
Algunos de estos tems de anclaje muestran un aumento de la dificultad relativa, otros una
disminucin, pero por trmino medio la diferencia es igual a 0. Esto significa que algunos tems
parecen ms difciles en el 2003 que en el 2000 o viceversa.
Ya que el subconjunto de tems de anclaje puede considerarse una muestra aleatoria simple de
una poblacin infinita de tems de anclaje, el error de equiparacin puede calcularse as:

(error _ de _ equiparacin ) =

2
n

donde 2 representa la varianza de las diferencias de parmetros de los tems y n, el nmero de


tems de anclaje utilizados.
Si los parmetros de los tems procedentes de la calibracin del 2003 casaran perfectamente con
los parmetros de los tems del 2000, la dificultad relativa de los tems de anclaje no habra
cambiado. Todas las diferencias entre la dificultad relativa en el 2000 y en el 2003 seran iguales
a 0 y, por tanto, el error de equiparacin sera igual a 0.
A medida que las diferencias de los parmetros de los tems aumentan, la varianza de estas
diferencias tambin lo har, as como el error de equiparacin. Parece lgico que la incertidumbre alrededor de la tendencia sea proporcional a los cambios en los parmetros de los tems.
As mismo, la incertidumbre alrededor de los indicadores de tendencia es inversamente proporcional al nmero de tems de anclaje. Desde un punto de vista terico, slo hace falta un tem
para medir una tendencia, pero con slo un tem, la incertidumbre ser muy grande. Si el nmero de tems de anclaje aumenta, la incertidumbre disminuir.
La tabla 12.3 proporciona los parmetros de los tems centrados (es decir, las diferencias de
dificultad entre los tems) para los tems de anclaje en lectura de PISA 2000 y de PISA 2003, as
como las diferencias entre los dos conjuntos de estimaciones.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

181

Tabla 12.3. Estimaciones de los parmetros de los tems en el 2000 y el 2003 para los tems de
anclaje en lectura
Nombre del tem
R055Q01
R055Q02
R055Q03
R055Q05
R067Q01
R067Q04
R067Q05
R102Q04A
R102Q05
R102Q07
R104Q01
R104Q02
R104Q05
R111Q01
R111Q02B
R111Q06B
R219Q01T
R219Q01E
R219Q02
R220Q01
R220Q02B
R220Q04
R220Q05
R220Q06
R227Q01
R227Q02T
R227Q03
R227Q06

Delta centrado en 2003


1,28
0,63
0,27
0,69
2,08
0,25
0,18
1,53
0,87
1,42
1,47
1,44
2,17
0,19
1,54
0,89
0,59
0,10
1,13
0,86
0,14
0,10
1,39
0,34
0,40
0,16
0,46
0,56

Delta centrado en 2003


1,347
0,526
0,097
0,847
1,696
0,546
0,212
1,236
0,935
1,536
1,205
1,135
1,905
0,023
1,395
0,838
0,520
0,308
0,887
0,815
0,114
0,193
1,569
0,142
0,226
0,075
0,325
0,886

Diferencia
0,072
0,101
0,175
0,154
0,388
0,292
0,394
0,290
0,067
0,116
0,268
0,306
0,267
0,164
0,147
0,051
0,069
0,210
0,243
0,041
0,027
0,297
0,184
0,196
0,170
0,086
0,132
0,327

La varianza de la diferencia es igual a 0,047486. El error de equiparacin, por tanto, es igual a:

(error _ de _ equiparacin ) =

2
n

0,047486
= 0,041 .
28

En la escala de lectura de PISA, con una media de 500 y una desviacin tpica de 100, corresponde a 3,75.
Los errores de equiparacin entre PISA 2000 y PISA 2003 son:

lectura: 3,75;

ciencias: 3,02;

forma y espacio (matemticas): 6,01;

cambio y relaciones (matemticas): 4,84.

A partir de los tems de anclaje, se ha estimado una transformacin comn, que se aplica a todos los pases participantes. Se deduce que cualquier incertidumbre que se introduzca a travs
de la equiparacin es comn a todos los alumnos y todos los pases. As, por ejemplo, supongamos que el error de equiparacin desconocido entre PISA 2000 y PISA 2003 en lectura produ-

182 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

jo una sobreestimacin de las puntuaciones de los alumnos de dos puntos en la escala de PISA
2000. Por tanto, todas las puntuaciones de los alumnos se sobreestimaran en dos puntos. Esta
sobreestimacin influira en ciertos estadsticos, no en todos, calculados a partir de los datos de
PISA 2003. Por ejemplo, consideremos:

La media de cada pas se sobreestimara en una cantidad igual al error de equiparacin; en


nuestro ejemplo, esto son dos puntos.

El rendimiento medio de cualquier subgrupo se sobreestimara en una cantidad igual al


error de equiparacin; en nuestro ejemplo, esto son dos puntos.

La desviacin tpica de las puntuaciones de los alumnos no se vera afectada, porque la


sobreestimacin de cada alumno por un error comn no cambia la desviacin tpica.

La diferencia entre las puntuaciones medias de dos pases en PISA 2003 no resultara influida, porque la sobreestimacin de cada alumno por un error comn habra distorsionado la
media de cada pas en la misma cantidad.

La diferencia entre las puntuaciones medias de dos grupos (por ejemplo, varones y mujeres)
en PISA 2003 no resultara afectada, porque la sobreestimacin de cada alumno por un error
comn habra distorsionado la media de cada grupo en la misma cantidad.

La diferencia entre el rendimiento de un grupo de estudiantes (por ejemplo, un pas) entre


PISA 2000 y PISA 2003 cambiara, porque el error influira en la puntuacin de cada alumno
en PISA 2003.

Un cambio en la diferencia entre dos grupos de PISA 2000 a PISA 2003 no resultara afectado, porque ninguno de los componentes de esta comparacin, que son diferencias de puntuacin en el 2000 y el 2003 respectivamente, queda influido por un error comn que se
aade a todas las puntuaciones de los alumnos en PISA 2003.

En trminos generales, el error de equiparacin slo tendra que considerarse cuando se establezcan comparaciones entre los resultados de PISA 2000 y PISA 2003, y entonces, slo cuando
se comparen las medias de grupos.
El ejemplo ms obvio de una situacin en la que es necesario usar el error de equiparacin es en
la comparacin del rendimiento medio de un pas entre PISA 2000 y PISA 2003.
En PISA 2000, la media en lectura para Alemania es igual a 483,99, con un error tpico de 2,47.
En PISA 2003, la media de Alemania es igual a 491,36, y el error tpico es igual a 3,39. La diferencia entre el 2000 y el 2003 es, por tanto, igual a 491,36 483,99 = 7,37. El rendimiento promedio de los estudiantes alemanes, por tanto, ha aumentado en 7,37 puntos en la escala de lectura
de PISA 2000.
El error tpico de esta diferencia, como se ha mencionado ms arriba, est influido por el error
de equiparacin. Por consiguiente, el error tpico es igual a:

ET = (2
ET =

2000 )

+ (2

2000 )

+ (2error _ de _ equiparacin )

(2,47 )2 + (3,39)2 + (3,75)2

= 5,63

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

183

Puesto que la diferencia tipificada entre PISA 2000 y PISA 2003 (7,37/5,63) est incluida en el
intervalo [1,96; 1,96], la hiptesis nula (es decir, no hay ninguna diferencia) no se rechaza. Dicho de otro modo, el rendimiento de Alemania en lectura no ha cambiado entre 2000 y 2003.
La tabla 12.4 proporciona las estimaciones de la competencia en lectura en Alemania segn el
gnero en 2000 y 2003, con sus respectivos errores tpicos, as como las estimaciones de la diferencia y sus respectivos errores tpicos.
Tabla 12.4. Rendimiento medio en la lectura segn el gnero en Alemania
2003

2000

Chicas
Chicos
Diferencia
Chicas
Chicos
Diferencia

Rendimiento en lectura
512,93
470,80
42,13
502,20
467,55
34,65

Error tpico
3,91
4,23
4,62
3,87
3,17
5,21

Puesto que la comparacin para un pas determinado entre el 2000 y el 2003 resulta afectada por
el error de equiparacin, ocurre lo mismo en la comparacin para un subgrupo determinado
entre el 2000 y el 2003. Por lo tanto, el error tpico debe incluir el error de equiparacin.
Los indicadores de tendencia para los chicos alemanes y las chicas alemanas son, respectivamente, iguales a:

Tendenciachicas = 512,93 502,20 = 10,73


ETchicas =

(3,91)2 + (3,87 )2 + (3,75)2

= 6,66

Tendencia(chicos ) = 470,80 467,55 = 3,25


ET(chicos ) =

(4,23)2 + (3,17)2 + (3,75)2

= 6,48

Ambas diferencias no son estadsticamente distintas de 0.


Por otra parte, la diferencia segn el sexo en 2003 no se ve afectada por el error de equiparacin.
Es ms, las estimaciones de ambos subgrupos sern sobreestimadas o infraestimadas en la
misma cantidad, por lo que el clculo de la diferencia neutralizar esta diferencia. Por consiguiente, el indicador de tendencia de la diferencia segn el sexo y su error tpico ser igual a:

Tendencia(dif._gnero ) = 42,813 34,65 = 7,43


ET(dif._gnero ) =

(4,62)2 + (5,21)2

= 6,96

Esto significa que el cambio de la diferencia segn el sexo en Alemania, para la lectura, entre el
2000 y el 2003 no fue estadsticamente significativo, incluso aunque de la tabla 12.4 se deduce
que aument considerablemente.
En los informes iniciales de PISA 2000 y PISA 2003, el rendimiento de los alumnos tambin se

184 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

describe mediante niveles de aptitud (vase el captulo 8). Puesto que el error de equiparacin
afecta a la estimacin de la media del pas, los porcentajes de alumnos en cada nivel tambin
resultarn afectados. Sin embargo, una sobreestimacin o una infraestimacin de los resultados
de PISA 2003 de X puntos en la escala de PISA tendr un impacto distinto en los porcentajes de
alumnos en cada nivel de aptitud por cada pas. Si el porcentaje es pequeo, el impacto ser
pequeo. Si el porcentaje es grande, el impacto ser mayor. Habra sido demasiado complicado
proporcionar por cada pas y por cada nivel de aptitud un error de equiparacin. As pues, se
decidi no tener en cuenta el error de equiparacin para la comparacin de porcentajes de
alumnos en cada nivel de aptitud entre PISA 2000 y PISA 2003. Esto significa que los errores
tpicos de la diferencia entre el 2000 y el 2003 estn infraestimados.
Conclusiones
Este captulo ha estado dedicado al clculo del error tpico de los indicadores de tendencia. La
comparacin de cualquier variable distinta de las variables del rendimiento es bastante directa,
ya que las muestras de PISA 2000 y PISA 2003 son independientes. Sin embargo, como se ha
indicado con anterioridad, tales comparaciones slo son relevantes si las medidas de 2000 y
2003 son comparables.
La comparacin de las estimaciones de la media del rendimiento es ms compleja, puesto que
podra exigir la inclusin del error de equiparacin en el error tpico, segn el estadstico de que
se trate. Por ejemplo, la figura 2.6d en Learning for Tomorrows World First Results from PISA
2003 (OCDE, 2004a) presenta las tendencias del rendimiento promedio en espacio y forma entre
el 2000 y el 2003. El indicador de tendencia ha integrado el error de equiparacin en su error
tpico. En el mismo informe, la figura 2.6c presenta las tendencias entre 2000 y 2003 en los percentiles 5., 10., 25., 75., 90. y 95., y el error de equiparacin no estaba integrado en el error
tpico de las tendencias. En trminos generales, el informe inicial de PISA 2003 ha integrado el
error de equiparacin slo en las tablas donde se compara el rendimiento medio de un pas
entre el 2000 y el 2003.
Debido al creciente inters acerca de los indicadores de tendencia y su impacto poltico, es fundamental interpretar con precaucin los cambios significativos. stos podran deberse simplemente a una diferencia en la tasa de participacin de los centros o los alumnos o en el patrn de
los datos perdidos.

La base de datos de PISA 2000 se ha actualizado para integrar este nuevo conjunto de valores plausibles.

2 En realidad, la transformacin lineal se aplic a los valores plausibles antes de su transformacin en la escala de PISA,
con una media de 500 y una desviacin tpica de 100. Adems, se aplicaron distintas transformaciones segn el gnero
(por ejemplo, chicas, chicos y gnero ausente). Las transformaciones lineales segn el gnero son:

(1)

chicas: 2000_PV = 0,0970 + (0,8739 2003_PV);

(2)

chicos: 2000_PV = 0,0204 + (0,8823 2003_PV);

(3)

gnero ausente: 2000_PV = 0,0552 + (0,8830 2003_PV).

En ciencias, la transformacin lineal es: 2000_PV = 0,01552 + (1,0063 2003_PV).

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

185

Captulo 13

El anlisis multinivel
Introduccin ........................................................................................................................................... 188
La regresin lineal simple .................................................................................................................... 188
El anlisis de regresin lineal simple frente al de regresin multinivel ........................................ 193
El efecto fijo frente al efecto aleatorio ................................................................................................. 195
Algunos ejemplos con SPSS ............................................................................................................... 197
Limitaciones del modelo multinivel en el contexto de PISA........................................................... 217
Conclusiones .......................................................................................................................................... 219

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

187

Introduccin
Durante las ltimas dos dcadas, los datos de las encuestas sobre educacin se han analizado
cada vez ms con modelos multinivel. De hecho, puesto que los modelos de regresin lineal no
permiten tener en cuenta los efectos que puede provocar el modo en que los alumnos se asignan
a centros o a clases dentro de los centros, pueden proporcionar una representacin incompleta o
engaosa de la eficiencia de los sistemas educativos. Por ejemplo, en algunos pases, el contexto
socioeconmico de un alumno puede determinar en parte el tipo de centro al que asiste y, por
tanto, habr poca variacin en el contexto socioeconmico de los alumnos dentro de cada centro. En otros pases o sistemas, los centros pueden seleccionar alumnos procedentes de un amplio espectro de contextos socioeconmicos, pero dentro del centro el contexto socioeconmico
del alumno influye en el tipo de clase al que se lo asigna y, como resultado, en la varianza dentro del centro. Un modelo de regresin lineal que no tenga en cuenta la estructura jerrquica de
los datos no diferenciar entre estos dos sistemas.
El uso de modelos multinivel (Goldstein, 1995), tambin llamados modelos lineales jerrquicos
(Bryk y Raudenbush, 1992), reconoce el hecho de que los estudiantes estn anidados dentro de
clases y centros. La variacin relativa de la medida del resultado entre alumnos, dentro del
mismo centro y entre centros puede por tanto evaluarse.
La regresin lineal simple
Una ecuacin lineal puede representarse siempre mediante una lnea recta. Una ecuacin con
dos variables se representar en un espacio bidimensional; una ecuacin con tres variables, en
un espacio tridimensional, y as sucesivamente.
La siguiente ecuacin se representa grficamente en la figura 13.1.

Y = 5 + 4X
Puesto que todas las ecuaciones lineales se representan mediante una lnea recta, slo es necesario identificar dos puntos que pertenezcan a la lnea para poder dibujarla. Si X es igual a 1, entonces Y ser igual a 9. Si X es igual a 10, entonces Y ser igual a 45. La lnea recta con los puntos (1, 9) y (10, 45) corresponde a la ecuacin.
Figura 13.1. Representacin grfica de una ecuacin lineal

188 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

La figura 13.1 muestra la representacin grfica de la ecuacin Y = 5 + 4X. Como muestra la


figura, la lnea cruza el eje Y en 5. El punto (0, 5) se llama intercepto y da el valor de Y cuando X
es igual a 0. El factor de X o, en trminos estadsticos, el coeficiente de regresin, da la pendiente
de la lnea recta. Nos informa sobre el aumento de Y para una unidad adicional en el eje X. En el
ejemplo considerado, si X aumenta en una unidad, Y lo har en cuatro unidades.
La expresin general de una ecuacin lineal con dos variables es:
Y = a + bX, donde a es el intercepto y b, el coeficiente de regresin.
Aunque los procesos humanos pueden describirse tambin con un enfoque similar, son menos
deterministas. Representaremos grficamente la relacin que podra existir entre el entorno
socioeconmico de los alumnos (ESE) y su rendimiento acadmico.
Figura 13.2. Relacin entre el entorno socioeconmico de los alumnos y su rendimiento acadmico

Como muestra la figura 13.2, existe una relacin positiva entre el entorno socioeconmico del
alumno y el rendimiento acadmico. El rendimiento de los alumnos de entornos socioeconmicos ms altos tiende a ser mayor. Sin embargo, a diferencia de una ecuacin lineal, no todos los
puntos estn en una lnea recta, lo que significa que los alumnos de un nivel socioeconmico
bajo podran tener un buen rendimiento acadmico, y viceversa.
Los estadsticos usan un anlisis de regresin lineal para cuantificar tales relaciones. El proceso
en este ejemplo concreto es similar a una ecuacin lineal con dos variables. Consiste en calcular
una ecuacin Yi = + X i , donde Yi es el rendimiento acadmico del alumno i, y Xi es el entorno socioeconmico familiar. Esta ecuacin tambin puede representarse mediante una lnea,
recta en este caso, llamada lnea de regresin.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

189

La lnea de regresin de la figura 13.3 corresponde a la ecuacin de regresin

Yi = 250,5 + 5,5 X i . Una medida del estatus socioeconmico utilizada en PISA 2000 y PISA
2003 (Ganzeboom y otros, 1992) es el ndice HISEI o estatus profesional ms alto de ambos padres. Este ndice va desde 16 a 90, con una media de aproximadamente 50 y una desviacin
tpica de alrededor de 15. El rendimiento en matemticas tiene una media internacional de 500 y
una desviacin tpica de 100. Esta ecuacin muestra que el aumento de una unidad en la escala
de HISEI se asocia, por trmino medio, con un aumento de 5,5 puntos en la escala de matemticas de PISA.
Figura 13.3. Lnea de regresin del entorno socioeconmico en el rendimiento de los alumnos
en matemticas

Esta ecuacin de regresin tambin puede utilizarse para predecir el rendimiento en matemticas de un alumno si se conoce su entorno socioeconmico. Por ejemplo, esta ecuacin de regresin predecir para cada alumno con un valor de HISEI de 60 una puntuacin de
250,5 + (5,5 60) = 580,5. Dicho de otro modo, cualquier alumno con un HISEI de 60 tendr una
puntuacin predicha de 580,5. Sin embargo, como muestra la figura 13.3, algunos de estos
alumnos tienen un rendimiento muy cercano a esta puntuacin predicha, normalmente llamada

Yi , pero los dems tienen un rendimiento mejor o peor.


Antes de calcular la ecuacin de regresin, cada alumno de la muestra poda caracterizarse mediante su HISEI (Xi) y su rendimiento en matemticas (Yi). Ahora, tambin puede caracterizarse
a los alumnos mediante su puntuacin predicha, Yi , y mediante la diferencia entre la puntuacin observada y la puntuacin predicha, ( Yi Yi ), normalmente llamada residuo (o

190 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

i ).

Tabla 13.1. HISEI, rendimiento en matemticas, puntuacin predicha y residuo


Alumnos

HISEI

1
2
3
4
5

49
53
51
42
42

Puntuacin
observada
463
384
579
404
282

Puntuacin
predicha
520
542
531
481,5
481,5

Residuo
57
158
+48
77,5
199,5

El primer alumno tiene un valor HISEI de 49 y un rendimiento en matemticas de 463. Basndose en su entorno socioeconmico, habramos predicho una puntuacin de 520. Este alumno
tiene, por tanto, un rendimiento inferior al que se esperaba. El residuo es igual a 57. Por otra
parte, el tercer alumno tiene un rendimiento de 579 y una puntuacin esperada de 531. Este
alumno tiene un rendimiento mejor de lo esperado.
La tabla 13.1 muestra que las puntuaciones observadas, las puntuaciones predichas y las puntuaciones residuales presentan cierta variabilidad, a partir de la que pueden calcularse coeficientes de varianza. La ecuacin de regresin y la lnea de regresin estn elaboradas de tal
modo que minimizan la varianza del residuo, llamada varianza residual. Esto significa que:

la ecuacin de regresin debe incluir el punto ( x , y );

la media de la puntuacin predicha es igual a la media de la puntuacin observada


(y =

y );

la media del residuo debe ser igual a 0.

Por ltimo, un anlisis de regresin puede extenderse a diversas variables explicativas. Si se


incorporan k variables predictoras en la regresin, la ecuacin se escribir as:

Yi = + 1 X 1i + 2 X 2i + L + k X ki
Por ejemplo, el rendimiento de matemticas en la prueba de PISA puede explicarse segn el
entorno familiar del estudiante, el gnero, el tiempo que estudie en casa durante la semana, el
inters por las matemticas y as sucesivamente.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

191

Cuadro 13.1. Interpretacin de un coeficiente de regresin y de un intercepto


Un coeficiente de regresin refleja el cambio de las unidades en el eje Y (la variable dependiente; en este caso particular, el aumento en la escala de matemticas) por cada cambio de
una unidad del eje X. La interpretacin de un coeficiente de regresin depende de la unidad
de medida de la variable independiente. Por tanto, el efecto estadstico de distintas variables
independientes no puede compararse, a menos que estas variables independientes estn expresadas en las mismas unidades de medida.
Para conseguir esto, las variables independientes pueden tipificarse, de modo que las unidades de medida se conviertan en la desviacin tpica. Si todas las variables tienen una desviacin tpica de 1, los coeficientes de regresin de las distintas variables pueden compararse
directamente. Los coeficientes de regresin reflejarn el aumento en la escala matemtica de
las variables independientes por cada desviacin tpica.
Supongamos que dos variables independientes, llamadas X1 y X2, se utilizan para explicar el
rendimiento en matemticas de los alumnos en dos pases. Las tablas siguientes proporcionan
los coeficientes de regresin y la desviacin tpica de X1 y X2 antes y despus de tipificar las
variables independientes.
Antes de la tipificacin
X1
X2
Pas A
Pas B

Despus de la tipificacin
X1
X2

(x )

(x

10
5

2
1

15
7,5

3
1,5

)
Pas A
Pas B

(x )

5
5

1
1

5
5

(x

1
1

Los resultados son bastante distintos. Basndose en los coeficientes de regresin despus de la
tipificacin, parece que las dos variables independientes tienen el mismo efecto estadstico
sobre el rendimiento matemtico en ambos pases. Supongamos que X1 representa el tiempo
dedicado al estudio en casa. En el pas A, el aumento de una hora dedicada al estudio se asocia con un aumento de 10 puntos en la escala de matemticas, mientras que en el pas B, una
hora adicional se asocia con un aumento de 5 puntos. Si bien la tipificacin de las variables
permite realizar comparaciones, la interpretacin de determinado un coeficiente de regresin
se hace ms compleja, puesto que ya no se refiere a la escala de medida original.
Por tanto, no hay un nico algoritmo para solucionar este problema. Depende de la naturaleza de la variable independiente y del propsito de los anlisis.
La interpretacin del intercepto es incluso ms compleja, ya que depende de la desviacin
tpica y de la media de las variables independientes. Supongamos que HISEI se tipifica a una
media de 0 y una desviacin tpica de 1. El coeficiente de regresin reflejara el aumento en
matemticas por desviacin tpica en la escala de estatus socioeconmico. Por tanto, el intercepto representara el rendimiento de un alumno con una puntuacin HISEI transformada de
0. En un modelo con slo variables tipificadas, reflejara el rendimiento de un alumno hipottico que obtiene puntuaciones iguales a la media en todas las variables independientes.

192 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

El anlisis de regresin lineal simple frente al de regresin multinivel


La regresin lineal simple precedente ha demostrado la relacin entre el entorno socioeconmico y el rendimiento en matemticas al nivel de la poblacin, es decir, de los alumnos de 15 aos
escolarizados en una institucin educativa.
Una relacin entre el contexto socioeconmico del alumno y el rendimiento en matemticas no
implica necesariamente que los pases ms ricos tengan una media de rendimiento superior a la
de los pases en desarrollo. Adems, la relacin observada a nivel de los alumnos en los centros
no implica necesariamente que se produzca el mismo fenmeno dentro de cada centro.
Los anlisis de regresin multinivel tienen en cuenta que las unidades muestrales estn anidadas dentro de unidades ms amplias. En lugar de calcular una ecuacin de regresin sobre el
conjunto de datos entero, el anlisis de regresin multinivel calcular una ecuacin de regresin
por cada unidad ms amplia. Por tanto, un anlisis de regresin multinivel calcular una ecuacin de regresin por cada centro.
La figura 13.4 muestra cuatro grficos que destacan la distincin entre una regresin lineal y un
modelo de regresin lineal multinivel. Estos cuatro grficos representan la relacin entre los
entornos socioeconmicos de los alumnos (ESE) y sus estimaciones de rendimiento en matemticas, en distintos pases.
La lnea gruesa representa la lnea de regresin, cuando no se tiene en cuenta la estructura jerrquica de los datos. Las lneas finas representan la relacin entre estas dos varibles dentro de
determinados centros. Para cada centro, existe una lnea de regresin (una lnea fina en este
ejemplo concreto). El punto ms grande en las lneas de regresin gruesas representa el punto
con la media de X e Y como coordenadas, ( x , y ), y el punto ms pequeo en las lneas de
regresin multinivel representa el punto con la media de los centros de X e Y como coordenadas, ( xi , yi ).
El anlisis de regresin lineal simple, grficamente representado por las lneas gruesas, demuestra que la puntuacin esperada de un alumno procedente de un entorno socioeconmico ms
alto es considerablemente ms elevada que la puntuacin esperada de un alumno procedente
de un entorno socioeconmico ms bajo. La comparacin entre los cuatro grficos muestra la
similitud de la relacin entre el entorno socioeconmico y el rendimiento del alumno en cada
pas. Basndonos en anlisis de regresin lineal simples, concluiramos que la relacin entre el
entorno socioeconmico y el rendimiento del alumno es idntica en los distintos pases.
Sin embargo, los anlisis de regresin multinivel distinguen claramente la relacin entre las dos
variables en los cuatro pases.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

193

Figura 13.4. Anlisis de regresin lineal frente a anlisis de regresin multinivel

En el pas 1, las lneas de regresin multinivel son similares y cercanas a la lnea de regresin
lineal simple. Esto significa que:

En cuanto al entorno socioeconmico del alumno (eje X):


o

A los diferentes centros asisten alumnos procedentes de una amplia variedad de entornos socioeconmicos. Todas las lneas de regresin intra-centro cubren la gama completa de valores en el eje X.

En los centros se matriculan alumnos del mismo entorno socioeconmico. De hecho, las
proyecciones de los puntos pequeos en el eje X estn muy cercanas entre s.

En cuanto al rendimiento del alumno en matemticas (eje Y):


o

En cada centro, existen alumnos con bajo, medio y alto rendimiento. Todas las lneas de
regresin intra-centro cubren el eje Y.

194 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Por trmino medio, los centros tienen un nivel similar de rendimiento. De hecho, las
proyecciones de los puntos pequeos en el eje Y estn muy cercanas entre s. Tambin
significa que la varianza inter-centro es bastante pequea.

En cuanto a la relacin entre el contexto socioeconmico y el rendimiento en matemticas:


o

En cada centro existe una fuerte relacin entre el entorno socioeconmico y el rendimiento. Dentro de todos los centros, los alumnos con un nivel socioeconmico bajo tienen un rendimiento bastante inferior al de los alumnos con mayor nivel socioeconmico. La pendiente de la lnea de la regresin intra-centro indica la intensidad de la relacin.

Cada centro del pas 1 puede considerarse, por tanto, una muestra aleatoria simple de la poblacin, y cada centro refleja las relaciones que existen a nivel poblacional.
La situacin opuesta al pas 1 se representa grficamente en el pas 4. Las lneas de regresin
multinivel difieren considerablemente de la lnea de regresin lineal simple. En este caso particular, significa que:

En cuanto al entorno socioeconmico del alumno (eje X):


o

Los centros no cubren la variedad de entornos socioeconmicos que existen a nivel de


la poblacin. Al centro 1 acuden principalmente alumnos de alto nivel socioeconmico,
mientras que al centro 4 acuden alumnos de bajo nivel socieconmico.

Por lo tanto, los centros reciben alumnos de distinto entorno socioeconmico, como
mostraran las proyecciones de los puntos pequeos en el eje X. Dicho de otro modo,
existe una segregacin significativa al nivel de los centros.

En cuanto al rendimiento del alumno en matemticas (eje Y):


o

Los centros no cubren los distintos niveles de rendimiento de los alumnos que existen al
nivel de la poblacin. Al centro 1 asisten sobre todo alumnos de alto rendimiento y al
centro 4, de bajo rendimiento.

La diferencia entre el nivel medio de los centros es considerable, como muestran las
proyecciones de los puntos pequeos en el eje Y. En el pas 4, la varianza del rendimiento de los centros es, por tanto, muy importante.

En cuanto a la relacin entre el entorno socioeconmico y el rendimiento en matemticas:


o

En ningn centro existe relacin entre el entorno socioeconmico y el rendimiento.

Dentro de un centro determinado, el entorno socioeconmico del alumno no importa.


Lo que s importa es el centro al que asiste. Sin embargo, el entorno socioeconmico del
alumno decidir a qu centro acudir.

Los pases 2 y 3 presentan situaciones intermedias entre estos ejemplos extremos.


El efecto fijo frente al efecto aleatorio
En los casos examinados hasta el momento, las lneas de regresin dentro del centro eran todas
paralelas, pero los anlisis de regresin multinivel tambin permiten que la pendiente de regre-

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

195

sin sea distinta. En el primer caso, el efecto de X se considerar fijo, mientras que en el ltimo
caso, el efecto se considerar aleatorio. La figura 13.5 ilustra un caso con efecto aleatorio.
Figura 13.5. Un modelo aleatorio multinivel

Matemticamente, en el caso de una sola variable predictora, los dos modelos pueden diferenciarse de la forma siguiente:

para un efecto fijo:

Yij = j + X ij + ij

j = 00 + U 0 j

para un efecto aleatorio:

Yij = j + j X ij + ij

j = 00 + U 0 j ,
j = 10 + U1 j
El subndice i de las ecuaciones se refiere al alumno1 (tambin llamado nivel 1 en la literatura
sobre los modelos multinivel) y el subndice j se refiere al centro (o nivel 2). En una ecuacin, la
presencia del subndice j para un coeficiente de regresin significa que puede variar de un centro a otro.
El trmino

ij designa el residuo de la ecuacin, es decir, la diferencia entre la puntuacin ob-

servada Yij y la puntuacin predicha Yij . Este residuo se distribuye normalmente con una media de 0 y una varianza constante en el nivel 1 (es decir, el nivel del alumno), normalmente ex-

196 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

presada como

2.

Como muestran estas dos ecuaciones, el intercepto j se considera siempre como un efecto aleatorio. Considerar el intercepto como un parmetro fijo reducira el modelo multinivel a un anlisis de regresin lineal. El intercepto j puede dividirse en una parte fija (es decir, 00 expresa el
intercepto general y es igual a la media de los interceptos de centros j) y, en segundo lugar, en
una parte aleatoria (es decir, U0j expresa la distancia al centro desde el intercepto general). Se
asume que esta distancia al centro U0j tiene una media de 0 y una varianza de 0 .
2

El coeficiente de la primera ecuacin no tiene subndice j, lo que significa que el efecto de X no


puede variar de un centro a otro. Por lo tanto, las lneas de regresin son paralelas y el efecto de
X se considera fijo. En cambio, el coeficiente de la segunda ecuacin tiene un subndice j, lo
que significa que puede variar de un centro a otro. Las lneas de regresin ya no son paralelas y
el efecto de X se considera ahora de tipo aleatorio. Igual que antes, este coeficiente de regresin
j puede dividirse en una parte fija y otra parte aleatoria. La parte fija 10 se llama coeficiente de
regresin global y corresponde a la media de los coeficientes de regresin j. La parte aleatoria U0j
es la distancia al centro desde el coeficiente de regresin global. Tiene una media de 0 y una
varianza llamada 1 .
2

Los efectos aleatorios y los efectos fijos pueden combinarse en un nico anlisis de regresin
multinivel. Por ejemplo, en la siguiente ecuacin, se introducen en el modelo dos variables predictoras del resultado de los alumnos: una, X1, considerada fija, y otra, X2, considerada aleatoria:

Yij = j + 1 X 1ij + 2 j X 2ij


Algunos ejemplos con SPSS
Normalmente hay dos tipos de ndices relevantes en los anlisis multinivel: los coeficientes de
regresin y la descomposicin de la varianza entre los distintos niveles, es decir, el nivel de
alumnos (o nivel 1) y el nivel de centros (o nivel 2).
Los anlisis de regresin multinivel siempre informan de la varianza del residuo en los distintos
niveles la varianza entre centros y la varianza dentro del centro que no se explican por medio de las variables predictoras incluidas en el modelo.
Sin embargo, los informes cientficos suelen mostrar la varianza explicada. La conversin de la
varianza del residuo en un porcentaje de varianza explicada slo exige la comparacin de los
coeficientes de varianza de los centros y de los alumnos con sus respectivos coeficientes de varianza residual.
Ejemplo 1
La descomposicin de la varianza total puede obtenerse fcilmente con un modelo de regresin
multinivel. El siguiente modelo [designado habitualmente como modelo vaco o nulo N. del
T.]:

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

197

Yij = j + ij

j = 00 + U 0 j
proporcionar estimaciones sin sesgo de la varianza entre centros y dentro del centro. Como el
modelo de regresin no tiene variables predictoras, los interceptos de los centros, es decir, j,
sern por tanto iguales a las medias de los centros o cercanos a ellas. La varianza de U0j ser
igual a la varianza entre centros. Puesto que a cada alumno se le asignar la media de su centro
como puntuacin predicha, la varianza de ij ser igual a la varianza dentro del centro.
SPSS ofrece dos procedimientos para los anlisis multinivel: VARCOMP permite a los investigadores realizar una descomposicin multinivel de la varianza; MIXED es un procedimiento
que puede emplearse para trabajar con modelos multinivel. Los procedimientos MIXED y VARCOMP de SPSS permiten calcular modelos de regresin multinivel. Sin embargo, ambos procedimientos exigen la normalizacin de los pesos, es decir, que la suma de los pesos sea igual al
nmero de alumnos en el conjunto de datos. Si se usa la clasula BY, la normalizacin se realizar segn las categoras de la variable de agrupacin.
El cuadro 13.2 presenta la sintaxis de SPSS para esta normalizacin, as como un breve procedimiento de comprobacin.2 Advirtase que para guardar las estimaciones de la varianza en un
archivo de salida, es necesario utilizar la sub-instruccin outfile de VARCOMP (vase el
cuadro 13.3).

198 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 13.2. Normalizacin de los pesos finales de PISA 2003


GET FILE 'c:\PISA\Data2003\INT_stui_2003.sav'.
SORT CASES BY cnt schoolid stidstd.
*** CALCULAR LOS PESOS NORMALIZADOS ***.
WEIGHT OFF.
AGGREGATE OUTFILE= 'c:\temp\temp1.sav'
/BREAK = cnt
/popwgt=SUM(w_fstuwt)
/smpsize=NU.
EXEC.
MATCH FILE FILE=*
/TABLE = "c:\temp\temp1.sav"
/BY cnt.
EXEC.
COMPUTE std_wgt=(w_fstuwt/popwgt)*smpsize.
EXEC.
*** VERIFICACIN ***.
WEIGHT OFF.
FREQ cnt.
WEIGHT BY std_wgt.
FREQ cnt.
WEIGHT OFF.
SAVE OUTFILE = 'c:\temp\INT_stui_2003.sav'.

El cuadro 13.3 presenta la sintaxis de SPSS para un modelo de regresin multinivel, as como la
sintaxis de SPSS para el clculo de la correlacin intraclase.
Cuadro 13.3. Sintaxis de SPSS para un modelo de regresin multinivel: ejemplo 1
*** VARCOMP ***.
WEIGHT OFF.
SPLIT FILE BY CNT.
VARCOMP
pv1math BY schoolid
/RANDOM = schoolid
/METHOD = ML
/OUTFILE = VAREST("c:\temp\decompvar.sav")
/REGWGT = std_wgt
/INTERCEPT = INCLUDE .
SPLIT FILE OFF.
GET FILE "c:\temp\decompvar.sav".
COMPUTE rho = vc1/(vc1+vc2).
FREQ rho.
RENAME VARS (vc1 vc2 = intcept residual).
SAVE OUTFILE = "c:\temp\rho.sav"/ KEEP cnt intcept residual rho.

La sub-instruccin RANDOM define el segundo nivel de los anlisis. La primera clusula, a continuacin del nombre del procedimiento (o bien VARCOMP, o bien MIXED) especifica el modelo,

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

199

con la variable dependiente y despus las variables predictoras a continuacin de la palabra


clave WITH. El procedimiento VARCOMP tambin exige definir el segundo nivel en la clusula
del modelo utilizando la palabra clave BY (por ejemplo: pv1math BY schoolid WITH
HISEI).
En el ejemplo del cuadro 13.3, no hay variable predictora incluida en la clusula que especifica
el modelo. Por lo tanto, las varianzas residuales intra-centros e inter-centros sern iguales a las
estimaciones de las varianzas intra-centros e inter-centros. La sub-instruccin RANDOM distingue
entre variables predictoras fijas y aleatorias, como se ha explicado en la seccin anterior. Debera advertirse que, cuando se utilice el procedimiento MIXED, siempre es necesario mencionar
intercept. A continuacin de la sub-instruccin REGWGT debera ir el peso normalizado a
nivel del alumno. Con objeto de obtener resultados segn el pas, la instruccin debera ir precedida de SPLIT FILE BY (variable de agrupacin) y seguida de SPLIT FILE OFF.
El procedimiento VARCOMP permite incluir una sub-instruccin OUTFILE que a su vez permite grabar las estimaciones de la varianza en otro archivo externo. Las estimaciones de la varianza se guardarn en el archivo decompvar.sav. Otras opciones para la sub-instruccin OUTFILE en
VARCOMP son COVB (matriz de covarianza de las estimaciones de varianza) y CORB (matriz de
correlacin de las estimaciones de varianza).
La tabla 13.2 proporciona las estimaciones de la varianza entre centros y dentro de centro y la
correlacin intraclase. Estas estimaciones de la varianza se guardaron en el archivo decompvar.sav. Como se mostr en el cuadro 13.3, la correlacin intraclase3 es igual a:
2
entre
02
_ centros
=
= 2
2
entre _ centros + dentro
02 + 2
_ del _ centro

donde

2
2
2
entre
_ centros o 0 es la varianza entre centros y dentro _ del _ centro

2 , la varianza dentro

de los centros. En Australia, la varianza entre centros es igual a 1919,114 y la varianza dentro de
los centros es igual a 7169,09. La correlacin intraclase es, por tanto, el porcentaje de la varianza
total del que es responsable el centro. Refleja cmo los centros difieren en el rendimiento promedio de los alumnos. En Australia, la correlacin intraclase resulta ser igual a
1919,11/(1919,11 + 7169,09) = 0,21. La estimacin de la correlacin intraclase vara de 0,04 en
Islandia a 0,63 en los Pases Bajos.
Ejemplo 2
Los siguientes ejemplos se basan en los datos de Luxemburgo. El tamao de la muestra de centros en Luxemburgo, 29, permitir la presentacin de las estimaciones de los parmetros de
centro. En el ejemplo 2, el entorno socioeconmico del alumno, llamado HISEI, se introduce
como factor fijo.
PREPARACIN DEL ARCHIVO DE DATOS
En las bases de datos de PISA no hay datos perdidos para el peso final ni para la estimacin del
rendimiento del alumno. Sin embargo, s hay valores perdidos para variables que podran usar-

200 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

se como predictoras en un modelo de regresin multinivel. Estos datos perdidos plantean dos
cuestiones principales:

La suma de los pesos difiere ligeramente del nmero de casos que usarn los modelos de
regresin. Advirtase que los casos con valores perdidos se retiran automticamente5 de
cualquier modelo de regresin.

Las varianzas de centros y de alumnos a partir de modelos diferentes no pueden compararse, ya que los valores perdidos no siempre son aleatorios. Por ejemplo, es menos probable
que los alumnos de un contexto socioeconmico bajo respondan a las preguntas acerca de
las profesiones de ambos padres.

TABLA 13.2. Estimaciones de la varianza entre centros y dentro de los centros y de la correlacin intraclase
Pas

Varianza entre centros

AUS
AUT
BEL
BRA
CAN
CHE
CZE
DEU
DNK
ESP
FIN
FRA
GBR
GRC
HKG
HUN
IDN
IRL
ISL
ITA
JPN
KOR
LIE
LUX
LVA
MAC
MEX
NLD
NOR
NZL
POL
PRT
RUS
SVK
SWE
THA
TUN
TUR
URY

1919,11
5296,65
7328,47
4128,49
1261,58
3092,60
4972,45
6206,92
1109,45
1476,85
336,24
3822,62
1881,09
3387,52
4675,30
5688,56
2769,48
1246,70
337,56
4922,84
5387,17
3531,75
3385,41
2596,36
1750,22
1416,99
2476,01
5528,99
599,49
1740,61
1033,90
2647,70
2656,62
3734,56
986,03
2609,38
2821,00
6188,40
4457,08

Varianza dentro
de los centros
7169,09
4299,71
5738,33
5173,60
6250,12
6198,65
4557,50
4498,70
7357,14
6081,74
6664,98
4536,22
6338,25
5991,75
5298,26
4034,66
3343,87
6110,71
7849,99
4426,67
4668,82
5011,56
5154,08
5806,97
6156,52
6449,96
3916,46
3326,09
7986,58
7969,97
7151,46
5151,93
6021,44
4873,69
8199,46
4387,08
3825,36
4891,13
5858,42

rho
0,21
0,55
0,56
0,44
0,17
0,33
0,52
0,58
0,13
0,20
0,05
0,46
0,23
0,36
0,47
0,59
0,45
0,17
0,04
0,53
0,54
0,41
0,40
0,31
0,22
0,18
0,39
0,62
0,07
0,18
0,13
0,34
0,31
0,43
0,11
0,37
0,42
0,56
0,43

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

201

USA
YUG

2395,38
2646,00

6731,45
4661,59

0,26
0,36

Para evitar estos dos problemas, se recomienda borrar cualquier caso con valores perdidos para
las diferentes variables predictoras que se usarn en los modelos de regresin antes de la normalizacin de los pesos. Puesto que los siguientes ejemplos de modelos de regresin multinivel
utilizarn dos variables de los alumnos (HISEI para el contexto socioeconmico del alumno y
ST03Q01 para su gnero) y dos variables de los centros (el porcentaje de chicas en el centro,
PCGIRLS, y el tipo de centros, SCHLTYPE), los casos con valores perdidos en al menos una de
estas cuatro variables debern ser borrarados antes de normalizar los pesos.
El cuadro 13.4 presenta la sintaxis de SPSS. Consiste en:

fusionar el archivo de datos de alumnos y el archivo de datos de centros con las variables de inters;

borrar los casos en que falte al menos un dato para la variable predictora;

normalizar el peso.

Antes de borrar los casos con valores perdidos, hay 3923 registros en la base de datos de
Luxemburgo. Despus de borrar, quedan 3782. Se han borrado aproximadamente un 3,5% de
los datos. Si se borran demasiados casos, por ejemplo, ms de un 10%, o bien deberan retirarse
del anlisis las variables con demasiados datos perdidos, o bien deberan usarse mtodos de
imputacin.
EJECUTAR DE NUEVO EL MODELO MULTINIVEL NULO
Despus de borrar los casos con valores perdidos con la sintaxis del cuadro 13.4, se ejecuta el
modelo multinivel nulo, es decir, un modelo de regresin multinivel sin ninguna variable predictora del cuadro 13.3, para obtener las estimaciones de las varianzas entre centros y dentro de
los centros. Las estimaciones de las varianzas inter-centros e intra-centros, guardadas en el archivo decompvar.sav, son ahora respectivamente iguales a 2563,30 y 5734,35, en lugar de 2596,36
y 5806,97.

202 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 13.4. Sintaxis de SPSS para normalizar los pesos finales de PISA 2003 con el borrado de casos con valores perdidos en Luxemburgo
GET FILE "c:\PISA\Data2003\INT_stui_2003.sav".
SELECT IF (cnt = 'LUX').
EXEC.
SORT CASES BY cnt schoolid stidstd.
SAVE OUTFILE = "c:\temp\LUXstui2003.sav"
/KEEP cnt schoolid stidstd w_fstuwt pv1math hisei st03q01.
GET FILE "c:\PISA\Data2003\INT_schi_2003.sav".
SELECT IF (cnt = 'LUX').
EXEC.
SORT CASES BY cnt schoolid.
SAVE OUTFILE = "c:\temp\LUXsch2003.sav"
/KEEP cnt schoolid schltype pcgirls.
MATCH FILE FILE = "c:\temp\LUXstui2003.sav"/
/TABLE = "c:\temp\LUXsch2003.sav"
/BY CNT SCHOOLID.
EXEC.
COUNT nbmiss = hisei st03q01 schltype (missing).
SELECT IF (nbmiss = 0).
EXEC.
*** CALCULAR LOS PESOS NORMALIZADOS ***.
WEIGHT OFF.
AGGREGATE OUTFILE= 'c:\temp\temp1.sav'
/BREAK = cnt
/popwgt = SUM(w_fstuwt)
/smpsize = NU.
EXEC.
MATCH FILES FILE=*
/TABLE = "c:\temp\temp1.sav"
/BY cnt.
EXEC.
COMPUTE std_wgt = (w_fstuwt/popwgt)*smpsize.
EXEC.
*** VERIFICACIN ***.
WEIGHT OFF.
FREQ cnt.
WEIGHT BY std_wgt.
FREQ cnt.
WEIGHT OFF.
SAVE OUTFILE = "c:\temp\LUX2003.sav".
weight off.
MIXED pv1math
/FIXED = intercept
/PRINT = G SOLUTION
/METHOD = ML
/RANDOM = intercept | SUBJECT(schoolid)
/REGWGT = std_wgt
/SAVE = FIXPRED PRED.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

203

Calcular el modelo nulo o vaco con MIXED slo tendr un parmetro fijo 00, que es 492,36
para los datos de Luxemburgo.
Por desgracia, SPSS no produce archivos de salida con los parmetros aleatorios en las unidades de segundo nivel. Con un modelo nulo, estos parmetros aleatorios slo incluiran la distancia residual del centro U0j. La tabla 13.3 es un listado de un archivo de parmetros aleatorios
que se calcul utilizando el programa SAS. Contiene:

las variables de agrupacin usadas en el modelo, es decir, CNT;

el efecto, es decir, el intercepto o, como se mostrar ms tarde, la variable predictora


aleatoria, la estimacin;

la variable de nivel superior, es decir, SCHOOLID;

la estimacin;

el error tpico de la estimacin;

el nmero de grados de libertad (el nmero de alumnos menos el nmero de centros);

el estadstico t;

la probabilidad de que las estimaciones difieran de 0.

Por ejemplo, la distancia residual del centro 00001 del intercepto global 492,36 es slo 0,71. Esta
distancia no difiere de 0, como demuestra el estadstico t y su valor de probabilidad asociado.
Dicho de otro modo, el intercepto del centro 00001 no es significativamente distinto del intercepto global. Por otra parte, el intercepto del centro 00002 es significativamente ms alto que el
intercepto global.
FACTOR DE ENCOGIMIENTO (SHRINKAGE)
En el caso de un modelo nulo, podramos considerar que la suma del intercepto global 00 y una
determinada distancia residual de centro U0j deberan ser exactamente iguales a la media de
rendimiento del centro.
Los modelos multinivel encogen las distancias residuales de los centros. Para ilustrar este proceso de encogimiento, supongamos que tenemos un sistema educativo con 100 centros. Supongamos que las medias de rendimiento de los centros son idnticas. Dicho de otro modo, la varianza entre centros es igual a 0. Si 20 alumnos se someten a una prueba dentro de cada centro,
se espera que las estimaciones de la media del centro difieran ligeramente de las medias de los
centros.

204 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Tabla 13.3. Listado del archivo de parmetros aleatorios calculado con SAS
CNT

Efecto

SCHOOLID

Estimacin

LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX

Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto
Intercepto

00001
00002
00003
00004
00005
00006
00007
00008
00009
00010
00011
00012
00013
00014
00015
00016
00017
00018
00019
00020
00021
00022
00023
00024
00025
00026
00027
00028
00029

0,71
66,39
23,71
44,68
8,56
61,90
68,69
61,14
81,64
62,00
33,19
11,35
15,56
8,01
37,55
46,59
33,61
76,02
70,43
57,54
8,04
0,67
84,27
29,88
63,74
33,65
8,29
36,89
84,43

Error tpico
de prediccin
13,00
11,63
11,03
12,18
10,68
11,34
12,39
11,62
11,10
11,37
25,14
12,54
10,47
11,25
12,36
10,95
10,98
12,54
12,96
11,17
11,01
25,14
10,90
11,12
11,69
11,15
11,53
13,84
10,96

Grados de
libertad
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753
3753

Valor de t

Probab.

0,05
5,71
2,15
3,67
0,80
5,46
5,54
5,26
7,36
5,45
1,32
0,91
1,49
0,71
3,04
4,26
3,06
6,06
5,43
5,15
0,73
0,03
7,73
2,69
5,45
3,02
0,72
2,66
7,71

0,96
0,00
0,03
0,00
0,42
0,00
0,00
0,00
0,00
0,00
0,19
0,37
0,14
0,48
0,00
0,00
0,00
0,00
0,00
0,00
0,47
0,98
0,00
0,01
0,00
0,00
0,47
0,01
0,00

De hecho, dentro de cada centro, pueden seleccionarse para la muestra sobre todo alumnos de
alto o bajo rendimiento, de modo que la media del centro se sobreestime o se subestime, respectivamente. Conforme aumenta el nmero de alumnos seleccionados para la muestra dentro de
los centros, es ms probable que decrezca la diferencia entre la media del centro y su estimacin. Por lo tanto, el factor de encogimiento es inversamente proporcional al nmero de alumnos seleccionados dentro de los centros.
El factor de encogimiento6 es igual a:
2
n j entre
_ centros
2
2
n j entre
_ centros + dentro _ del _ centro

donde nj es el nmero de alumnos en el centro j seleccionados para la muestra (Goldstein, 1997).


La tabla 13.4 presenta, para cada centro, el rendimiento medio de matemticas, el nmero de
alumnos utilizados en el modelo de regresin multinivel, la distancia residual del intercepto
global calculada mediante el modelo de regresin multinivel nulo, como se present en la tabla
13.1, y la suma del intercepto global 00 y la distancia del centro U0j. El cuadro 13.5 muestra cmo calcular la tabla 13.4 mediante SPSS (los resultados, en el archivo de salida schoolmeans.sav).

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

205

Cuadro 13.5. Sintaxis de SPSS para un modelo de regresin multinivel: ejemplo 2 (1)
GET FILE = "c:\temp\LUX2003.sav".
weight off.
MIXED pv1math
/FIXED = intercept
/PRINT = G SOLUTION
/METHOD = ML
/RANDOM = intercept | SUBJECT(schoolid)
/REGWGT = std_wgt
/SAVE = FIXPRED PRED.
compute schresid = PRED_1 - FXPRED_1.
exec.
weight by std_wgt.
aggregate outfile = "c:\temp\schoolmeans.sav"
/break = schoolid
/schmn dep fxpred pred = mean (pv1math, schresid, FXPRED_1, PRED_1)
/nstud = nu.
exec.

Tabla 13.4. Rendimiento de los centros en matemticas, nmero de alumnos por centro y
media corregida
Centro

Media del centro

00001
00002
00003
00004
00005
00006
00007
00008
00009
00010
00011
00012
00013
00014
00015
00016
00017
00018
00019
00020
00021
00022
00023
00024
00025
00026
00027
00028
00029

493,1
560,0
468,3
446,6
483,7
555,2
421,8
554,6
575,1
429,4
535,2
480,7
508,0
500,5
530,9
445,2
458,3
414,2
419,6
550,7
500,5
491,5
577,6
522,7
557,3
458,2
483,9
453,9
406,9

Nmero de
alumnos
67
120
179
94
233
146
83
116
167
131
8
78
289
150
87
184
183
73
66
162
174
8
185
169
117
151
126
53
183

206 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Distancia U0j

00 + U0j

0,7
66,4
23,7
44,7
8,6
61,9
68,7
61,1
81,6
62,0
33,2
11,3
15,6
8,0
37,6
46,6
33,6
76,0
70,4
57,5
8,0
0,7
84,3
29,9
63,7
33,7
8,3
36,9
84,4

493,1
558,8
468,6
447,7
483,8
554,3
423,7
553,5
574,0
430,4
525,6
481,0
507,9
500,4
529,9
445,8
458,8
416,3
421,9
549,9
500,4
491,7
576,6
522,2
556,1
458,7
484,1
455,5
407,9

Como se ha mostrado, la diferencia entre la media del centro y la suma 00 + U0j es:

directamente proporcional a la distancia residual del centro; es decir, el factor de encogimiento afecta principalmente a los centros con alto o bajo rendimiento;

inversamente proporcional al nmero de alumnos observados en el centro.

INTRODUCCIN DE HISEI COMO EFECTO FIJO


Con la introduccin de la variable del alumno HISEI como efecto fijo, la ecuacin puede escribirse as:

Yij = j + 1 (HISEI )ij + ij

j = 00 + U 0 j
La sintaxis de SPSS para este modelo se presenta en el cuadro 13.6 y algunos fragmentos de la
salida de SPSS, en el cuadro 13.7.
Cuadro 13.6. Sintaxis de SPSS para un modelo de regresin multinivel: ejemplo 2 (2)
GET FILE = "c:\temp\LUX2003.sav".
weight off.
MIXED pv1math WITH hisei
/FIXED = intercept hisei
/PRINT = G SOLUTION
/METHOD = ML
/RANDOM = intercept | SUBJECT(schoolid)
/REGWGT = std_wgt.

Cuadro 13.7. Salida de SPSS (ejemplo 2)


Estimaciones de parmetros de covarianzaa,b
Parmetro
Residuo
Varianza del intercepto [unidad de
anlisis = SCHOOLID]

Estimacin
5551,5060563
1950,3945680

Error tpico
128,1500411
530,9974935

Estimaciones de efectos fijosa,b


Parmetro

Estimacin

Intercepto
HISEI

446,7649734
,9479007

a
b

Error tpico
9,2614577
,0823676

Grados de
libertad

43,341 48,239
3780,841 11,508

Sig.
,000
,000

Intervalo de confianza
del 95%
Lmite
Lmite
inferior
superior
428,0917086 465,4382383
,7864114
1,1093899

Variable dependiente: primer valor plausible en matemticas.


Residuo ponderado mediante std_wgt.

Slo se ha introducido un cambio en comparacin con la sintaxis presentada en el cuadro 13.5.


El nombre HISEI se ha aadido a la clusula que especifica el modelo.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

207

El intercepto global 00 es ahora igual a 446,76 y el coeficiente de regresin dentro de centro 1 es


igual a 0,9479. Esto significa que, dentro de un centro, un aumento de 1 unidad en la escala
HISEI se asociar con un aumento de 0,9479 en la escala de matemticas. En comparacin, el
coeficiente de regresin lineal de HISEI en el rendimiento en matemticas es igual a 2,05. La
relacin entre el contexto socioeconmico y el rendimiento del alumno en el sistema educativo
de Luxemburgo parece ser similar a la de los ejemplos hipotticos para el pas 2 o el pas 3 de la
figura 13.4.
Las estimaciones de la varianza residual entre centros y dentro del centro, llamadas respectivamente 0 y
2

2 , son iguales a 1949,09 y 5551,53.

El porcentaje de varianza explicado por la variable HISEI puede calcularse as:

1949,09
= 0,24 en el nivel de los centros y
2563,07

5551,53
= 0,03 en el nivel de los alumnos.
5734,39

Cmo puede una variable del alumno explicar alrededor de un 24% de la varianza entre centros y slo el 3% de la varianza dentro de los centros? Esto refleja principalmente la segregacin
segn el entorno socioeconmico en el centro. Algunos de los centros de Luxemburgo reciben
sobre todo alumnos de entornos socioeconmicos altos, mientras que a otros centros acuden
sobre todo alumnos de entornos socioeconmicos bajos.
La figura 13.6 proporciona una explicacin grfica de este fenmeno. La varianza entre centros,
en cualquier caso, puede representarse grficamente mediante la variabilidad de los interceptos
de los centros en el eje Y.
Advirtase que la varianza entre centros puede obtenerse mediante un modelo de regresin
multinivel nulo. En ese caso concreto, el intercepto est cercano a la proyeccin ortogonal del
promedio de rendimiento de centros sobre el eje Y, como muestran las lneas negras horizontales continuas de la figura 13.6. Como se explic en la seccin anterior, la diferencia entre la media de centros y el intercepto proviene de la aplicacin del factor de encogimiento.

208 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Figura 13.6. Representacin grfica de la reduccin de la varianza entre centros

La varianza residual entre centros puede obtenerse mediante la prolongacin de la lnea de


regresin en el eje Y, como muestran las lneas de puntos de la figura 13.6. Como puede verse,
la amplitud de los interceptos provenientes de las lneas horizontales continuas es superior a la
de los interceptos provenientes de las lneas inclinadas de puntos.
En trminos generales, una variable del alumnos influir sobre la varianza entre centros si:

los centros difieren en la media y en el rango de los alumnos en cuanto a esa variable (vanse los pases 2, 3 y 4 de la figura 13.4);

el coeficiente de regresin intra centros de esa variable es distinto de 0. El pas 4 en la figura


13.4 ilustra un caso donde usar la variable HISEI al nivel de los alumnos en el modelo no
reducir la varianza entre centros. Por otra parte, la introduccin del estatus socioeconmico del centro, es decir, la media en HISEI del centro, influir considerablemente en la varianza entre centros en el caso del pas 4.

Ejemplo 3
El ejemplo 3 es similar al ejemplo 2, excepto en que HISEI se considera ahora un efecto aleatorio. La sintaxis de SPSS se presenta en el cuadro 13.8. La ecuacin puede ahora escribirse as:

Yij = j + 1 j (HISEI ) + ij

j = 00 + U 0 j
1 j = 10 + U 1 j

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

209

Cuadro 13.8. Sintaxis de SPSS para un modelo de regresin multinivel: ejemplo 3


GET FILE = "c:\temp\LUX2003.sav".
weight off.
MIXED pv1math WITH hisei
/FIXED = intercept hisei
/PRINT = G SOLUTION
/METHOD = ML
/RANDOM = intercept hisei | SUBJECT(schoolid)
/REGWGT = std_wgt.

La variable HISEI se ha aadido a la sub-instruccin RANDOM.


El archivo de parmetros fijos contiene el intercepto global 00 y el coeficiente de regresin global de HISEI 10. Del mismo modo que los interceptos de centros, que estn divididos en dos
partes: un intercepto global y una distancia residual al centro, el coeficiente de regresin dentro
de los centros est dividido en dos partes: un coeficiente de regresin global (la parte fija, llamada 10) y una distancia residual desde el coeficiente de regresin de los centros (la parte aleatoria, llamada U1j).
El intercepto global y el coeficiente de regresin se presentan en la tabla 13.5. El intercepto global es igual a 449,59 y el coeficiente de regresin global de HISEI es igual a 0,89. Como muestran
el estadstico t y su probabilidad asociada, ambos parmetros son significativamente distintos
de 0.
Tabla 13.5. Resultados de los parmetros fijos en la salida del procedimiento
CNT

Efecto

Estimacin

LUX
LUX

Intercepto
HISEI

449,59
0,89

Error tpico
de prediccin
9,69
0,11

Valor de t

Prob.

46,39
8,17

0,00
0,00

El archivo de parmetros aleatorios lista las distancias residuales del centro:

U0j desde el intercepto 00, es decir, 449,59;

U1j desde el coeficiente de regresin 10, es decir, 0,89.

Puesto que HISEI se considera ahora un efecto aleatorio, no tiene sentido interpretar la distancia
residual del centro desde el intercepto global. La tabla 13.6 presenta la distancia residual del
centro desde el coeficiente de regresin HISEI global para los primeros 13 centros.7
Tabla 13.6. Resultados de los parmetros aleatorios calculados con SAS
CNT

Efecto

Centro

Estimacin

LUX
LUX
LUX
LUX
LUX
LUX
LUX
LUX

HISEI
HISEI
HISEI
HISEI
HISEI
HISEI
HISEI
HISEI

00001
00002
00003
00004
00005
00006
00007
00008

0,22
0,04
0,29
0,51
0,08
0,07
0,04
0,13

Error tpico
de prediccin
0,31
0,26
0,26
0,29
0,25
0,28
0,29
0,27

210 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Grados
de libertad
3724
3724
3724
3724
3724
3724
3724
3724

Valor de t

Prob.

0,71
0,15
1,13
1,75
0,31
0,26
0,13
0,49

0,48
0,88
0,26
0,08
0,76
0,79
0,90
0,62

LUX
LUX
LUX
LUX
LUX

HISEI
HISEI
HISEI
HISEI
HISEI

00009
00010
00011
00012
00013

0,29
0,17
0,07
0,04
0,82

0,25
0,26
0,34
0,28
0,22

3724
3724
3724
3724
3724

1,19
0,65
0,19
0,14
3,66

0,23
0,52
0,85
0,89
0,00

El coeficiente de regresin HISEI para el centro 00001 es igual a 0,89 + 0,22 = 1,11, pero no puede considerarse significativamente distinto del intercepto global. Entre los 13 centros presentados en la tabla 13.6, slo el centro 00013 presenta un coeficiente de regresin significativamente
distinto del coeficiente global, como muestra la probabilidad del estadsticos t. El coeficiente de
regresin HISEI es igual a 0,89 + 0,82 = 1,71 y, como muestran el estadstico t y su probabilidad,
este coeficiente de regresin intra-centro es significativamente distinto del coeficiente de regresin global.
SPSS proporciona ahora tres estimaciones de varianzas:

la varianza residual inter-centros 0 , es decir, 2147,64;

la varianza residual intra-centro

la varianza de los coeficientes de regresin de HISEI

2 , es decir, 5509,34;
12 , es decir, 0,1275. Esta tambin es la

variabilidad de la distancia residual desde el coeficiente de regresin.


En comparacin con el ejemplo 2, la varianza residual entre centros ha aumentado ligeramente
y la varianza residual dentro de los centros ha decrecido ligeramente. La reduccin de la varianza dentro de los centros no es sorprendente, ya que el efecto aleatorio slo puede llevar a un
mejor ajuste a los datos.
La figura 13.7 ayuda a comprender el aumento de la varianza residual entre centros. El coeficiente de regresin para el centro 00001 (C1) tiene una pendiente algo menos pronunciada, de
modo que la prolongacin de la lnea de regresin caer ms alta que antes sobre el eje Y. Adems, el coeficiente de regresin tiene una pendiente algo ms pronunciada en el centro 00004
(C4), de modo que la extensin de la lnea de regresin caer algo ms baja en el eje Y.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

211

FIGURA 13.7. Reduccin de la varianza residual entre centros para un modelo fijo y para uno
aleatorio

Ejemplo 4
En el ejemplo 4, el gnero del alumno, llamado ST03Q01 en la base de datos de PISA, se aade
al modelo anterior como factor fijo. La ecuacin puede escribirse as:

Yij = j + 1 j (HISEI )ij + 2 (ST 03Q01)ij

j = 00 + U 0 j
1 j = 10 + U 1 j
El cuadro 13.9 presenta la sintaxis de SPSS.
Cuadro 13.9. Sintaxis de SPSS para un modelo de regresin multinivel: ejemplo 4
GET FILE = "c:\temp\LUX2003.sav".
weight off.
MIXED pv1math WITH hisei st03q01
/FIXED = intercept hisei st03q01
/PRINT = G SOLUTION
/METHOD = ML
/RANDOM = intercept hisei | SUBJECT(schoolid)
/REGWGT = std_wgt.

Los parmetros fijos son, respectivamente, iguales a 419,68 para el intercepto global, 0,86 para el
coeficiente de regresin de HISEI global y 20,7927 para el coeficiente de gnero global.
La varianza residual entre centros

02

es igual a 2167,41 y la varianza residual dentro de centro

es igual a 5415,34. Por ltimo, la varianza del coeficiente de regresin de HISEI de centros

212 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

12

es igual a 0,1313.

Este modelo explica 1

2167,41
5415,34
= 15,3 % de la varianza entre centros y 1
= 5,6 %
2563,07
5734,39

de la varianza dentro del centro.


El coeficiente de regresin para el gnero de 20,8 refleja la diferencia segn el gnero esperada
dentro de cualquier centro, despus de eliminar el efecto de HISEI.
Cuadro 13.10. Interpretacin del coeficiente de regresin dentro del centro
La diferencia esperada segn el gnero dentro del centro puede diferir en gran medida de la
diferencia global segn el gnero, sobre todo en un sistema con muchos itinerarios tempranos.
Parece que las chicas tienden ms a elegir un itinerario acadmico, mientras que es ms probable que los chicos escojan un itinerario de formacin profesional. El coeficiente de regresin
lineal para el gnero en el rendimiento de los alumnos no tiene en cuenta esta escolarizacin
diferenciada. Si los distintos itinerarios son impartidos por distintos centros, como en Alemania, por ejemplo, un modelo de regresin multinivel tendr en cuenta esta escolarizacin diferenciada, de modo que el coeficiente de regresin multinivel de gnero ser considerablemente distinto del coeficiente de regresin lineal. La tabla siguiente proporciona los coeficientes de
regresin lineal y multinivel para el gnero a partir de los datos de PISA 2003 en Alemania.
A nivel de la poblacin, los chicos superan a las chicas en 8,9 puntos en matemticas, mientras
que las chicas superan a los chicos en 42,1 puntos en lectura. Sin embargo, dentro de un determinado centro, las diferencias esperadas en matemticas y lectura son, respectivamente,
iguales a 30,7 y 19,3.
Diferencias segn el sexo en Alemania
Coeficiente de regresin lineal simple
Coeficiente de regresin multinivel

Matemticas
8,9
30,7

Lectura
42,1
19,3

El gnero puede tambin considerarse un factor aleatorio. En ese caso, la ecuacin puede escribirse as:

Yij = j + 1 j (HISEI )ij + 2 j (ST 03Q01)ij

j = 00 + U 0 j
1 j = 10 + U 1 j
2 j = 20 + U 2 j
El cuadro 13.11 presenta la estimacin de la varianza de los parmetros aleatorios, as como las
estimaciones de los coeficientes de regresin de las partes fijas del modelo.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

213

Cuadro 13.11. Salida de SPSS (ejemplo 4)


Estimaciones de efectos fijosa,b
Parmetro

Estimacin

Intercepto
HISEI
ST03Q01

419,3613485
,8606827
21,0238222

Error tpico

Grados
de libertad
43,829
38,918
31,424

10,0172881
,1097952
3,1530028

t
41,864
7,839
6,668

Significacin
,000
,000
,000

Estimaciones de parmetros de covarianzaa,b


Parmetro
Residuo
Intercepto [unidad de anlisis = SCHOOLID]
HISEI [unidad de anlisis = SCHOOLID]
ST03Q01 [unidad de anlisis = SCHOOLID]
a
b

Varianza
Varianza
Varianza

Estimacin
5400,8730832
1904,7788816
,1348145
70,5719428

Error tpico
125,3934221
613,6594064
,0714020
56,7028751

Variable dependiente: primer valor plausible en matemticas.


Residuo ponderado mediante std_wgt.

Como se muestra en el cuadro 13.11, la variabilidad de U 2 j , es decir, la distancia residual del


centro desde el coeficiente de regresin del gneros es bastante grande. Esto indica que las diferencias segn el gnero varan de un centro a otro.
Ejemplo 5
La ltima ecuacin del ejemplo 4 fue Yij = j + 1 j (HISEI )ij + 2 j (ST 03Q 01)ij . Esta ecuacin
refleja el modelo de la variabilidad de rendimiento del alumno dentro de los centros al introducir variables predictoras del nivel de los alumnos. Sin embargo, debido al efecto de la segregacin, estas variables predictoras del nivel de los alumnos pueden explicar parte de la varianza
entre centros.
Tambin es posible introducir una variable predictora del nivel de los centros. Supongamos que
estamos interesados en el efecto del tipo de centro sobre el rendimiento medio del centro. La
ecuacin puede escribirse as:

Yij = j + 1 j (HISEI )ij + 2 j (ST 03Q01)ij + ij

j = 00 + 01 (SCHLTYPE ) j + U 0 j
1 j = 10 + U 1 j
2 j = 20 + U 2 j
Dicho de otro modo, puesto que la variable 'tipo de centro' es idntica para todos los alumnos
dentro de un centro determinado, esta variable slo influir sobre los interceptos de centro.

214 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Dados el entorno socioeconmico y la composicin segn el gnero de los centros, explica el


tipo de centro por qu algunos centros tienen mejor rendimiento del esperado y por qu en
otros centros ocurre a la inversa?
La sintaxis de SPSS se presenta en el cuadro 13.12.
Cuadro 13.12. Sintaxis de SPSS para un modelo de regresin multinivel: ejemplo 5 (1)
GET FILE = "c:\temp\LUX2003.sav".
weight off.
MIXED pv1math WITH hisei st03q01 schltype
/FIXED = intercept hisei st03q01 schltype
/PRINT = G SOLUTION
/METHOD = ML
/RANDOM = intercept hisei | SUBJECT(schoolid)
/REGWGT = std_wgt.

La tabla 13.7 presenta los resultados de los parmetros fijos.


Tabla 13.7. Parmetros fijos (ejemplo 5)
CNT

Efecto

Estimacin

LUX
LUX
LUX
LUX

Intercepto
HISEI
ST03Q01
SCHLTYPE

320,47
0,86
20,69
35,14

Error tpico
de prediccin
66,69
0,11
2,59
23,36

Grados de
libertad
27
28
3723
3723

Valor de t

Prob.

4,81
7,84
7,98
1,50

0,00
0,00
0,00
0,13

Como muestra la tabla 13.7, la variable 'tipo de centro' no es significativa. Dicho de otro modo,
no puede establecerse que los centros privados difieran de los centros pblicos una vez que se
elimina el efecto de las variables del entorno socioeconmico y del gnero de los alumnos.
Ejemplo 6
Por ltimo, el modelo puede extenderse para comprender por qu varan los coeficientes de
regresin de centro HISEI y ST03Q01. Las dos hiptesis que se pondrn a prueba son:

los coeficientes de regresin de HISEI difieren entre los centros pblicos y privados;

los coeficientes de regresin de ST03Q01 estn relacionados con el porcentaje de chicos y


chicas del centro. La ecuacin puede escribirse as:

Yij = j + 1 j (HISEI )ij + 2 j (ST 03Q01)ij + ij

j = 00 + 01 (SCHLTYPE ) j + U 0 j
1 j = 10 + 11 (SCHLTYPE ) j + U1 j
2 j = 20 + 21 (PCGIRLS ) j + U 2 j

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

215

El cuadro 13.13 presenta la sintaxis de SPSS para ejecutar este modelo. Comprobar si los coeficientes de regresin de HISEI difieren segn el tipo de centro resulta parecido a comprobar la
interaccin entre el tipo de centro y los coeficientes de regresin de HISEI. Por lo tanto, en
SPSS, el trmino hisei*schltype debe aadirse en la sub-instruccin FIXED, as como
st03q01*pcgirls. Advirtase que la especificacin del modelo que sigue al nombre del procedimiento lista schltype y pcgirls sin los trminos de interaccin.
Cuadro 13.13. Sintaxis de SPSS para un modelo de regresin multinivel: ejemplo 5 (2)
GET FILE = "c:\temp\LUX2003.sav".
weight off.
MIXED pv1math WITH hisei st03q01 schltype pcgirls
/FIXED = intercept hisei st03q01 schltype hisei*schltype st03q01*pcgirls
/PRINT = G SOLUTION
/METHOD = ML
/RANDOM = intercept hisei st03q01| SUBJECT(schoolid)
/REGWGT = std_wgt.

Cuadro 13.14. Resultados de SPSS (ejemplo 5)


Estimaciones de efectos fijosa,b
Parmetro

Estimacin

Error tpico

Intercepto
HISEI
ST03Q01
SCHLTYPE
HISEI*SCHLTYPE
ST03Q01*PCGIRLS

291,4022663
1,8607710
19,8852339
45,1271348
,3504893
2,6190012

71,2240565
,9019687
11,7315332
24,8610903
,3137546
24,8681643

Grados de
libertad
39,885
51,684
50,628
39,203
50,175
49,929

t
4,091
2,063
1,695
1,815
1,117
,105

Significacin
,000
,044
,096
,077
,269
,917

Estimaciones de parmetros de covarianzaa,b


Parmetro
Residuo
Intercepto [unidad de anlisis = SCHOOLID]
HISEI [unidad de anlisis = SCHOOLID]
ST03Q01 [unidad de anlisis = SCHOOLID]
a
b

Varianza
Varianza
Varianza

Estimacin
5397,4444256
1757,3290219
,1426724
71,0821703

Error tpico
125,3180631
578,2565538
,0735291
56,3930823

Variable dependiente: primer valor plausible en matemticas.


Residuo ponderado mediante std_wgt.

La tabla 13.8 presenta los parmetros fijos de la ecuacin. Como muestran los resultados de
SPSS en el cuadro 13.14, el coeficiente de regresin de HISEI aleatorio no se asocia significativamente con el tipo de centro.

216 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Tabla 13.8. Estimaciones de los parmetros fijos (ejemplo 6)


Efecto
Intercepto
HISEI
ST03Q01
SCHLTYPE
HISEI*SCHLTYPE
ST03Q01*PCGIRLS

Estimacin del coeficiente


291,40
1,86
19,88
45,12
0,35
2,62

Coeficiente
00
10
20
01
11
21

Tabla 13.9. Estimaciones de la varianza de los parmetros aleatorios (ejemplo 6)


Efecto
Intercepto
HISEI
ST03Q01
Residuo

Estimacin de la varianza
1757,37
0,1427
71,0154
5397,46

Coeficiente
U0j
U1j
U2j
ij

Como muestra la probabilidad obtenida, es preciso aceptar las dos hiptesis nulas; es decir, el
tipo de centro no est asociado con las pendientes de HISEI y la diferencia segn el gnero dentro de centro no est asociada con el porcentaje de chicas en el centro.
Limitaciones del modelo multinivel en el contexto de PISA
Esta seccin pretende alertar a los posibles usuarios de los datos de PISA acerca de las limitaciones o los peligros de tales modelos en el contexto de PISA.
Dichos modelos estn diseados para descomponer la varianza de alumnos en:

varianza entre centros;

varianza dentro de los centros;

varianza dentro de las clases.

Puesto que PISA selecciona por cada centro participante una muestra aleatoria de una poblacin de la misma edad de entre todos los cursos y clases, permite la descomposicin de la varianza en slo dos niveles: una varianza entre centros y una varianza dentro de los centros.
Adems, se espera que la varianza global sea mayor con una muestra de edad que con una
muestra de curso, a menos que la poblacin de la misma edad estudie en un nico curso, como
ocurre en Islandia o Japn.
Para permitir comparaciones internacionales significativas, estos tipos de indicadores exigen
una definicin comn para lo que se debe considerar un centro y una clase. Si bien no hay graves problemas para definir qu es un alumno, s hay diferencias importantes de un pas a otro
en cuanto a qu es un centro y qu es una clase.
Las encuestas internacionales sobre educacin estn sobre todo interesadas en la muestra de
alumnos, por lo que podramos considerar la muestra de centros como un paso necesario para
seleccionar una muestra eficiente de alumnos que minimice el coste de las pruebas. En este contexto, la definicin de qu es un centro o qu es una clase no plantea mayores problemas. Sin

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

217

embargo, la cada vez mayor importancia y popularidad de los anlisis multinivel exigen dedicar ms atencin a las definiciones.
PISA 2000 y PISA 2003 no dan una definicin detallada de lo que se debe considerar un centro.
Durante los procedimientos de muestreo se di prioridad a desarrollar una lista de unidades
que garantizara una cobertura completa de la poblacin escolarizada de 15 aos y que, adems,
aportara tasas de respuesta aceptables. Una vez que se seleccionaba un centro, tambin tena
que ser prctico seleccionar alrededor de 35 alumnos dentro de ese centro para someterlos a
evaluacin. De este modo, se construy el marco muestral de centros teniendo en cuenta cuestiones de cobertura de alumnos e implementacin prctica de PISA, ms que consideraciones
analticas. Por tanto, en las bases de datos de PISA, es posible que lo que se considera como
centro represente diferentes instituciones educativas que quiz no sean comparables sin tener
en cuenta alguna restriccin. Por ejemplo, en algunos pases, los centros se definen como unidades administrativas que pueden consistir en diversos edificios, no necesariamente cercanos
entre s. Otros pases utilizaron el edificio como unidad muestral de centros y, por ltimo, algunos pases definieron un centro como una rama o itinerario dentro de un edificio determinado.
Es probable que cuanto mayores sean estas agrupaciones tanto menores sern las diferencias
entre ellas y tanto mayores las diferencias dentro de ellas. En este contexto, esperaramos observar altas correlaciones intraclase en estos pases y un coeficiente de regresin dentro del centro
no significativo para el entorno socioeconmico del alumno (Kirsch y otros, 2002).
Adems de este problema de una definicin internacional de lo que debe considerarse un centro, los usuarios de los datos deben ser conscientes de las siguientes cuestiones:

La eleccin de una definicin de centro en un pas determinado puede estar dictada por la
disponibilidad de los datos. De hecho, los centros nacionales de investigacin deben incluir
en el marco muestral de centros una medida del tamao de la poblacin de alumnos de 15
aos (vase el captulo 2). Esta informacin quiz est disponible en el mbito de la unidad
administrativa, pero no en el mbito de cada edificio. En los estados federales que cuentan
con varios sistemas educativos, los datos disponibles podran diferir entre un sistema y
otro, de modo que el concepto de centro podra variar incluso dentro del mismo pas.

Por razones prcticas u operativas, el concepto de centro podra variar entre dos recogidas
de datos de PISA. Por ejemplo, algunos pases utilizaron las unidades administrativas en el
marco muestral de centros de PISA 2000 y las unidades de edificios en el marco muestral de
centros de PISA 2003. Tales cambios se implementaron para aumentar la tasa de participacin de centros. Estos cambios conceptuales influirn en los resultados de cualquier descomposicin de varianzas y tambin podran afectar a los resultados de los modelos multinivel. Cambiar de una definicin administrativa a una definicin de edificios aumentar la
correlacin intraclase y debera disminuir la pendiente del coeficiente de regresin dentro
de los centros. Si ocurren tales cambios en un pas, se recomienda vivamente no calcular
ninguna tendencia a partir de descomposiciones de las varianzas o regresiones multinivel.

Como demuestra este ejemplo, los anlisis multinivel y los anlisis de descomposicin de varianzas deben interpretarse a la luz de:

la estructura de los sistemas educativos;

218 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

la definicin de centro utilizada en el marco muestral de centros.

Dentro de las limitaciones comentadas en esta seccin, los anlisis de regresin multinivel son
sin duda adecuados y apropiados para describir cmo se asignan los alumnos a los centros y
cules son los criterios principales para tal asignacin. Sin embargo, 10, incluso 20, variables de
alumnos y centros nunca podrn captar la complejidad de un sistema educativo. Adems, PISA
est midiendo un proceso acumulativo de aproximadamente diez aos de escolarizacin. Lo
que hacemos hoy, sin duda, no puede explicar lo que somos hoy. Por consiguiente, las prcticas
pedaggicas y el entorno escolar en que los jvenes de 15 aos aprenden actualmente es incapaz
de explicar por completo el rendimiento actual de estos escolares. En este contexto, las recomendaciones sobre medidas polticas deberan realizarse e interpretarse con precaucin.
Conclusiones
Este captulo describe, en primer lugar, el concepto de anlisis multinivel y cmo realizar tales
modelos con SPSS. Empieza con el modelo ms sencillo, llamado modelo nulo, y despus aumenta progresivamente la complejidad aadiendo variables. Por ltimo, en el contexto de PISA,
se comentan cuestiones metodolgicas importantes que limitan la comparabilidad internacional
de los resultados.

1 Para mantener la consistencia con la literatura sobre regresin multinivel, los subndices i y j se han invertido en relacin con el uso que se hace de ellos en el captulo 2.

Multiplicar el peso total de alumnos W_FSTUWT por la variable CNTFAC2 produce los mismos pesos (COMPUTE
std_wgt = w_fstuwt * cntfac2) que la sintaxis del cuadro 13.2. Sin embargo, los pesos normalizados resultantes slo
deberan usarse para modelos multinivel basados en variables sin ningn valor perdido. Al calcular modelos multinivel
incluyendo variables con valores perdidos, un peso normalizado distinto debera calcularse despus de borrar todos los
casos con valores perdidos.
2

Vase tambin la tabla 4.4 del captulo 4.

Advirtase que los resultados obtenidos a partir de las sintaxis de SPSS en este captulo pueden diferir a veces de los
ejemplos del texto, que se calcularon utilizando el programa SAS. Estas desviaciones menores se deben a ciertas diferencias en los algoritmos utilizados por ambos paquetes de software estadstico.
4

5 Sin embargo, puede usarse como archivo de datos para un anlisis de regresin lineal una matriz de correlacin calculada con la opcin de exclusin de casos segn pareja.
6

Este factor de encogimiento debe asociarse a la Media Cuadrtica Esperada de los centros en un modelo ANOVA. De

hecho,

2
2
E (MS centro ) = n j entre
_ centros + dentro _ del _ centro .

Advirtase que este archivo de salida no est disponible con SPSS; los resultados se presentan aqu para servir de
ilustracin y se calcularon con SAS.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

219

Captulo 14

Otras cuestiones estadsticas


Introduccin ........................................................................................................................................... 222
Los anlisis por cuartiles ...................................................................................................................... 222
Los conceptos de riesgo relativo y de riesgo atribuible ................................................................... 226
Inestabilidad del riesgo relativo y del riesgo atribuible................................................................... 228
Clculo del riesgo relativo y del riesgo atribuible ............................................................................ 229
Conclusiones .......................................................................................................................................... 230

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

221

Introduccin
Los informes iniciales de PISA 2000 y PISA 2003 incluyeron descripciones de la relacin entre
ndices de cuestionario y rendimiento de los alumnos, mediante la divisin de los ndices de
cuestionario en cuartiles y, despus, presentando el rendimiento medio por cuartil. Los informes de PISA tambin incluan los conceptos estadsticos de riesgo relativo y de riesgo atribuible. Este captulo se dedica a estas dos cuestiones.
Los anlisis en cuartiles
Como ya se ha mencionado en el captulo 4, los ndices derivados de los datos de cuestionario
se generaron mediante un modelo de Rasch y las estimaciones de los alumnos se presentaron
mediante estimaciones de verosimilitud ponderadas (WLE). Ya se ha mencionado que una WLE es
una variable discontinua.
La tabla 14.1 presenta la distribucin del ndice de cuestionario inters y gusto por las matemticas a partir del conjunto de datos de PISA 2003 en Alemania. Esta tabla muestra claramente el
carcter discontinuo de la variable.
Para dividir un ndice de cuestionario en cuartiles, deben calcularse los percentiles 25, 50 y 75.
Estos percentiles son, respectivamente, 0,6369, 0,029 y 0,973 para el ndice inters y gusto por
las matemticas en Alemania.
Existen dos procedimientos de recodificacin posibles: menor frente a igual o mayor, o menor o
igual frente a mayor.
La sintaxis de SPSS se presenta en el cuadro 14.1.
Cuadro 14.1. Dos procedimientos para recodificar en cuartiles mediante sintaxis de SPSS
get file 'C:\PISA\Data2003\int_stui_2003.sav'.
Select if cnt = 'DEU'.
Weight by w_fstuwt.
FREQ VARIABLES = intmat /PERCENTILES= 25 50 75.
if
if
if
if

(intmat
(intmat
(intmat
(intmat

< -0.6369) q1=1.


>= -0.6369 and intmat < 0.029) q1=2.
>= 0.029 and intmat < 0.973) q1=3.
>= 0.973) q1=4.

if (intmat <= -0.6369) q2=1.


if (intmat > -0.6369 and intmat <= 0.029) q2=2.
if (intmat >
0.029 and intmat <= 0.973) q2=3.
if (intmat >
0.973) q2=4.
freq q1 q2.

Segn el procedimiento adoptado, los porcentajes de alumnos en los cuartiles inferior, segundo
tercero y superior son, respectivamente, iguales a 24,88, 21,39, 27,80 y 25,93 o 34,53, 21,60, 25,33
y 18,54.
Ninguno de estos dos procedimientos genera cuartiles que incluyan exactamente al 25% de los

222 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

alumnos. Puesto que los porcentajes de alumnos en cada cuartil pueden variar segn los pases,
no pueden llevarse a cabo comparaciones internacionales.
Tabla 14.1. Distribucin del ndice de cuestionario inters y gusto por las matemticas en
Alemania
WLE

Porcentaje

1,783
1,733
1,700
1,469
1,258
1,179
1,147
1,077
0,971
0,929
0,739
0,637
0,619
0,370
0,335
0,319
0,250
0,160
0,045
0,029
0,057
0,068
0,132
0,229
0,300
0,345
0,448
0,462

10,20
0,02
0,02
0,02
7,53
0,02
0,02
0,03
0,08
6,77
0,15
9,66
0,13
0,02
0,07
11,37
0,01
0,10
0,05
9,86
0,04
0,08
0,07
0,06
0,02
7,75
0,02
0,02

Porcentaje
acumulado
10,20
10,23
10,25
10,27
17,80
17,82
17,85
17,88
17,95
24,73
24,88
34,53
34,66
34,68
34,74
46,11
46,13
46,22
46,27
56,13
56,17
56,25
56,32
56,39
56,41
64,15
64,17
64,20

WLE

Porcentaje

0,477
0,643
0,643
0,869
0,912
0,925
0,940
0,973
1,044
1,146
1,299
1,338
1,346
1,464
1,568
1,587
1,702
1,761
1,792
1,817
1,827
1,891
2,091
2,119
2,161
2,335
2,373

0,10
0,10
9,53
0,03
0,04
0,05
0,02
7,39
0,03
0,03
5,27
0,02
0,04
0,02
0,04
4,58
0,01
0,02
0,04
0,05
0,03
4,72
0,04
0,02
0,07
0,04
3,46

Porcentaje
acumulado
64,30
64,40
73,93
73,96
74,00
74,05
74,07
81,46
81,49
81,52
86,79
86,81
86,85
86,87
86,91
91,49
91,51
91,53
91,57
91,62
91,64
96,37
96,41
96,43
96,50
96,54
100,00

Por lo tanto, es necesario distribuir a los alumnos con un WLE igual a uno de los tres percentiles
entre los dos cuartiles adyacentes. Por ejemplo, 7,39% de los alumnos obtienen una puntuacin
igual al percentil 75. Como el 74,07% de los alumnos obtienen una puntuacin inferior, es necesario seleccionar una muestra del 0,93% de los alumnos con una puntuacin igual al percentil 75
y asignarlos al tercer cuartil. El 6,46% restante se asignar al cuarto cuartil.
Este proceso aleatorio de submuestreo se puede llevar a cabo aadiendo una pequea cantidad
aleatoria al ndice. Ese ruido aleatorio generar ms categoras y, por tanto, los tres nuevos percentiles podrn dividir la variable del ndice en cuartiles que contengan exactamente un 25% de
los alumnos. El cuadro 14.2 presenta la sintaxis de SPSS para la adicin de una cantidad aleatoria, as como el clculo de los percentiles y la recodificacin en cuartiles.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

223

Cuadro 14.2. Sintaxis de SPSS para la recodificacin en cuartiles de los ndices


get file 'C:\PISA\Data2003\int_stui_2003.sav'.
Weight by w_fstuwt.
Select if cnt = 'DEU'.
Set seed = 1.
compute newindex = intmat + rv.normal(0,.01).
FREQ VARIABLES = newindex
/FORMAT=NOTABLE
/PERCENTILES = 25 50 75.
if
if
if
if

(newindex
(newindex
(newindex
(newindex

< -0.655) quart = 1.


>= -0.655 and newindex < 0.0263) quart = 2.
>= 0.0263 and newindex < 0.9622) quart = 3.
>= 0.9622) quart = 4.

freq quart.

Los resultados del procedimiento FREQUENCIES mostrar que cada cuartil contiene un 25% de
los casos.
Esta asignacin aleatoria de algunas partes de la poblacin a uno de los cuatro cuartiles aade
un componente de error al error tpico. De hecho, en nuestro ejemplo, la composicin del 0,93%
de los alumnos asignados al tercer cuartil y la composicin del 6,46% restante asignado al cuarto cuartil podra diferir entre dos ejecuciones del procedimiento (a no ser que la semilla se establezca en un entero determinado, como en el cuadro 14.2).
Para tener en cuenta este nuevo componente de error, puede implementarse el enfoque estadstico adoptado para los anlisis de valores plausibles. Por lo tanto, consistir en:

calcular para cada alumno un conjunto de cinco cuartiles plausibles;

por cada cuartil plausible, calcular el estadstico buscado y su respectiva varianza muestral
usando el peso final y los 80 replicados;

promediar las cinco estimaciones y sus respectivas varianzas muestrales;

calcular la varianza de imputacin;

combinar la varianza muestral y la varianza de imputacin para obtener la varianza de


error final.

Si la variable dependiente es un conjunto de valores plausibles, se emplear el procedimiento


descrito en el captulo 6, excepto que cada valor plausible se analizar con un cuartil plausible
distinto. El cuadro 14.3 presenta la sintaxis de SPSS para el clculo del rendimiento promedio
en matemticas por cuartil de cualquier ndice derivado de un cuestionario.

224 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 14.3. Sintaxis de SPSS para el clculo del rendimiento en matemticas por cuartil de
un ndice derivado de los cuestionarios
get file 'C:\PISA\Data2003\int_stui_2003.sav'.
Select if cnt = DEU.
Save outfile = c:\pisa\data2003\DEU.sav.
* IMPORTAR LA MACRO.
Include file C:\PISA\macros\mcr_SE_PV_WLEQRT.sps.
* EJECUTAR LA MACRO.
PVWLEQRT
nrep = 80/
stat = mean/
pv = math/
wle = intmat/
grp = cnt/
wgt = w_fstuwt/
rwgt = w_fstr/
cons = 0.05/
infile = c:\pisa\data2003\DEU.sav/.
* COMPROBAR LOS CUARTILES.
get file = 'C:\temp\quarters.sav'.
weight by w_fstuwt.
FREQUENCIES VARIABLES = intmat1 intmat2 intmat3 intmat4 intmat5
/FORMAT = NOTABLE
/PERCENTILES = 25 50 75
/ORDER = ANALYSIS.
MEANS intmat1 by quart1 /CELLS MIN MAX COUNT NPCT.
MEANS intmat2 by quart2 /CELLS MIN MAX COUNT NPCT.
MEANS intmat3 by quart3 /CELLS MIN MAX COUNT NPCT.
MEANS intmat4 by quart4 /CELLS MIN MAX COUNT NPCT.
MEANS intmat5 by quart5 /CELLS MIN MAX COUNT NPCT.
weight off.

Los diferentes pasos de este procedimiento son:


1.

A partir del ndice inicial del cuestionario, se crean cinco variables nuevas aadiendo un
nmero aleatorio.

2.

Para cada nueva variable, se calculan los percentiles 25, 50 y 75 y despus se exportan a
un archivo de datos temporal.

3.

Las cinco nuevas variables se comparan con sus respectivos percentiles y las asignaciones a
los cuartiles se guardan en cinco variables categricas (estas 10 variables nuevas se guardan
en el archivo de datos temporal C:\temp\quarters.sav).

4.

El estadstico se calcula para cada valor plausible del rendimiento en matemticas mediante
una de las cinco variables categricas nuevas.

5.

Se calculan la estimacin final y el error tpico final.

Los resultados de estos pasos se presentan en la tabla 14.2.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

225

Tabla 14.2. Puntuaciones medias y errores tpicos en la escala de matemticas para cada cuartil del ndice de inters y gusto por las matemticas
CNT
DEU
DEU
DEU
DEU

cuarto (INTMAT)
1
2
3
4

estadstico (MATH)
493
511
520
524

SE
4,90
4,01
4,67
4,69

Los conceptos de riesgo relativo y de riesgo atribuible


Riesgo relativo
La nocin de riesgo relativo es una medida de asociacin entre un factor antecedente y un factor
resultado (Cornfield, 1951). El riesgo relativo es simplemente la razn de dos riesgos, es decir, el
riesgo de observar el resultado cuando el antecedente est presente, y el riesgo de observar el
resultado cuando el antecedente no est presente. La tabla 14.3 presenta la notacin que se utilizar.
Tabla 14.3. Representaciones utilizadas en una tabla de dos variables

Medida del antecedente

p.. es igual a

Medida del resultado


S
No
Total
p11
p12
p1.
p21
p22
p2.
p.1
p.2
p..

S
No
Total

n..
, donde n.. es el nmero total de alumnos y p.. es, por tanto, igual a 1; pi. y p.j
n..

representan, respectivamente, las probabilidades marginales para cada fila y cada columna. Las
probabilidades marginales son iguales a las frecuencias marginales divididas por el nmero
total de alumnos. Por ltimo, los valores pij representan las probabilidades para cada celda y
son iguales al nmero de observaciones en una celda particular dividido por el nmero total de
observaciones.
En este documento, las convenciones para la tabla de dos variables sern las siguientes:

Las filas representan el factor antecedente con:


o la primera fila para tener el antecedente;
o la segunda fila para no tener el antecedente.

Las columnas representan el resultado con:


o la primera columna para tener el resultado;
o la segunda columna para no tener el resultado.

En estas condiciones, el riesgo relativo es igual a:

RR =

( p11 / p1. ) .
( p21 / p2. )

226 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Supongamos que un psiclogo desea analizar el riesgo de que un alumno repita curso si los
padres se han divorciado recientemente. El psiclogo selecciona una muestra aleatoria simple
de alumnos del 10 curso. En este ejemplo concreto, la variable del resultado est presente si el
chico est repitiendo el 10 curso y el factor antecedente se considera presente si los padres del
alumno se divorciaron en los dos ltimos aos. Los resultados obtenidos se presentan en las
tablas 14.4 y 14.5.
Tabla 14.4. Distribucin de cien alumnos segn estado civil de los padres y repeticin de
curso
Padres divorciados
Padres no divorciados
Total

Repeticin de curso
10
5
15

No repeticin de curso
10
75
85

Total
20
80
100

Tabla 14.5. Probabilidades segn estado civil de los padres y repeticin de curso
Padres divorciados
Padres no divorciados
Total

Repeticin de curso
0,10
0,05
0,15

No repeticin de curso
0,10
0,75
0,85

Total
0,20
0,80
1,00

El riesgo relativo, por tanto, es igual a:

RR =

( p11 / p1. ) = (0,10 / 0,20) = 0,5 = 8


( p21 / p2. ) (0,05 / 0,80) 0,0625

Esto significa que la probabilidad de repetir el 10 curso es ocho veces mayor si los padres se
han divorciado recientemente que si no es as.
Riesgo atribuible
El riesgo atribuible es igual a:

RA =

( p11 p22 ) ( p12 p21 ) .


( p.1 p2. )

En el ejemplo anterior, el riesgo atribuible es igual a:

RA =

( p11 p22 ) ( p12 p21 ) = (0,10 0,75) (0,10 0,05) = 0,583 .


( p.1 p2. )
(0,15 0,80)

El riesgo atribuible se interpreta como se indica a continuacin. Si el factor de riesgo pudiera


eliminarse, la tasa de ocurrencia de la variable resultado en la poblacin se reducira por este
coeficiente. Con la siguiente versin de la frmula, el significado del riesgo atribuible, es decir,
una reduccin del resultado si desaparece el factor de riesgo, es ms obvio.

RA =

( p.1 ) ( p21 / p2. )


( p.1 )

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

227

La expresin p.1 representa la proporcin de alumnos en la muestra entera que presentan el


resultado. La expresin (p21/p2.) representa la proporcin de alumnos que no corren riesgo (no
tienen el antecedente), pero de todos modos padecen el resultado. La diferencia entre estas dos
proporciones aporta la reduccin absoluta si el riesgo (o antecedente) se eliminase. Dividir esta
diferencia por la primera expresin transforma esta reduccin absoluta en una reduccin relativa o una reduccin expresada como una proporcin.
Estas dos frmulas proporcionan el mismo coeficiente:

RA =

( p.1 ) ( p21 / p2. ) = (0,15) (0,05 / 0,80) = 0,583


( p.1 )
0,15

Para expresar este coeficiente como un porcentaje, el coeficiente necesita ser multiplicado por
100.
Inestabilidad del riesgo relativo y del riesgo atribuible
El riesgo relativo y el riesgo atribuible se inventaron para variables dicotmicas. Pero cada vez
con ms frecuencia, estos dos coeficientes se extienden y utilizan con variables continuas. Para
aplicar los coeficientes a variables continuas, es necesario establecer un punto de corte para
cada variable y dicotomizando as las variables continuas.
Es importante reconocer que, cuando se aplican a variables dicotomizadas, los valores calculados de riesgo relativo y de riesgo atribuible dependern del valor del punto de corte escogido.
Para demostrar la influencia del punto de corte sobre los riesgos relativo y atribuible, se generaron dos variables aleatorias con una correlacin de 0,30. Estas dos variables se transformaron a
continuacin en variables dicotmicas, usando como puntos de corte los percentiles 10, 15, 20
, 25 y 30. La tabla 14.6 presenta los riesgos relativo y atribuible para estos puntos de corte.
Tabla 14.6. Riesgo relativo y riesgo atribuible para distintos puntos de corte
Percentil
10
15
20
25
30

Riesgo relativo
2,64
2,32
1,90
1,73
1,63

Riesgo atribuible
0,13
0,16
0,15
0,15
0,15

La tabla 14.6 muestra que los coeficientes de riesgo relativo y, en menor grado, de riesgo atribuible dependen del establecimiento de los puntos de corte y, por tanto, es preciso interpretar
su valor a la luz de esta observacin.
Una comparacin semejantre de los riesgos relativo y atribuible se calcul con los datos de PISA, para identificar los cambios segn la situacin de los puntos de corte. El factor antecedente
era el nivel de estudios de la madre y la variable de resultado era la puntuacin del alumno en
lectura. Una puntuacin baja en lectura (tener el resultado) se defini sucesivamente dentro
de los pases como tener puntuaciones inferiores a los percentiles 10, 15, 20, 25, 30 y 35.

228 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Los riesgos relativos para estos distintos puntos de corte son (para los pases de la OCDE) respectivamente iguales a 2,20, 1,92, 1,75, 1,62, 1,53 y 1,46. Los riesgos atribuibles son respectivamente iguales a 0,25, 0,21, 0,19, 0,17, 0,15 y 0,14.
Sin embargo, las correlaciones entre los distintos riesgos relativos y atribuibles son bastante
altas, como se muestra en la tabla 14.7.
Tabla 14.7. Correlacin entre riesgos relativos y riesgos atribuibles en el percentil 10 con los
percentiles 15, 20, 25, 30 y 35
P15
P20
P25
P30
P35

RR
0,96
0,93
0,92
0,90
0,87

RA
0,98
0,97
0,96
0,94
0,92

En PISA, se decidi utilizar el percentil 25 como punto de corte para variables continuas al
calcular los riesgos relativos y atribuibles.
Clculo del riesgo relativo y del riesgo atribuible
Segn las variables implicadas en el clculo del riesgo relativo y el riesgo atribuible, el procedimiento podra variar. De hecho, estos dos conceptos estadsticos necesitan como datos dos
variables dicotmicas, como el gnero (ST03Q01).
Sin embargo, la mayora de las variables en las bases de datos de PISA no son dicotmicas, sino
categricas o continuas.
La recodificacin de una variable categrica en dicotmica no plantea problemas especiales.
Desde un punto de vista terico, es preciso decidir el propsito de la comparacin y, como resultado, la recodificacin deseada. Por ejemplo, en PISA 2000, los niveles de estudios de los
padres se presentan mediante la clasificacin CINE (Clasificacin internacional de niveles educativos; en ingls ISCED, International Standard Classification of Education) (OCDE, 1999b). Si el
contraste se establece sobre la distincin entre estudios terciarios frente a estudios no terciarios,
entonces la variable categrica puede recodificarse en una variable dicotmica. Los alumnos
cuyos padres no tengan un ttulo de estudios terciarios se considerarn como de riesgo.
Las variables numricas tambin deben recodificarse en variables dicotmicas. Como ya se dijo
anteriormente, la OCDE ha decidido dividir las variables numricas tomando como punto de
corte el percentil 25.
En las bases de datos de PISA 2000 y PISA 2003, todas las variables numricas, excepto las escalas de rendimiento, son variables discontinuas. Para garantizar que el percentil 25 divida las
variables en dos categoras que incluyan, respectivamente, el 25% y el 75%, es necesario aadir
una cantidad aleatoria a la variable inicial, como se describi en la seccin dedicada a los anlisis en cuartiles. Se calculan cinco estimaciones de riesgo relativo o cinco de riesgo atribuible y
despus se combinan.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

229

Por ltimo, si hay implicados valores plausibles, como medidas de resultados, tambin se calcularn cinco estimaciones y se combinarn despus. Sin embargo, no es necesario aadir una
cantidad aleatoria a la variable inicial, ya que constituyen una variable continua.
Conclusiones
Este captulo se ha dedicado a algunas cuestiones estadsticas relacionadas con la forma en que
la OCDE present los resultados de PISA 2000 y PISA 2003 en los informes iniciales, sobre todo
los ndices de cuestionario en cuartiles y los riesgos relativos y atribuibles.

230 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Captulo 15

Las macros de SPSS


Introduccin ........................................................................................................................................... 232
Estructura de las macros....................................................................................................................... 232

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

231

Introduccin
Este captulo presenta la sintaxis SPSS de las macros utilizadas en los captulos anteriores.
Estas macros tambin estn disponibles en un archivo comprimido que se puede descargar del
mismo sitio web donde se descarga este manual.
Se describen doce macros, sintetizadas en la tabla 15.1. Los nombres de archivo estn en negrita
y los nombres de las macros y sus argumentos en un tipo de letra monoespaciado. Todas las
macros tienen cinco argumentos comunes:

nrep =

wgt =

rwgt =

cons =

infile =

Los restantes argumentos son propios de cada macro en particular. Estos argumentos propios
fueron ampliamente explicados en los captulos precedentes.
Estructura de las macros
Todas las macros tienen la misma estructura.

El primer paso consiste en:


- Leer los datos contenidos en el archivo especificado en INFILE y descartar las variables
que no son necesarias para el anlisis.

El segundo paso constituye la parte iterativa de la macro:


- El procedimiento SPSS que calcula el estimador se ejecuta 81 o 405 veces,
- En cada ejecucin, los resultados se graban en un archivo temporal. Los resultados parciales del replicado y de los valores plausibles pueden ser tambin combinados en un archivo.

El paso final se dedica al clculo del estadstico final y de su error tpico, es decir:
- Se calculan las diferencias al cuadrado entre el estimador final y los 80 replicados,
- Se calcula la suma de las diferencias al cuadrado y se divide por 20,
- Se calculan los estimadores finales, los estimadores de varianza muestral y, en el caso de
los valores plausibles, la variaza de imputacin o de medida.

La sintaxis SPSS se presenta a continuacin.

232 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Tabla 15.1. Sntesis de las doce macros de SPSS


Estadstico deseado
Mean, sd, sum, pgt, plt, pin, pout,
fgt, flt, fin, fout

Porcentaje

Coeficientes de regresin

Coeficientes de correlacin

Sin valores plausibles


mcr_SE_univ.sps (cap. 6)

Con valores plausibles


mcr_SE_pv.sps (cap. 7)

univar

PV

nrep = /
stat = /
dep = /
grp = /
wgt = /
rwgt = /
cons = /
infile = ''/.

nrep = /
stat = /
dep = /
grp = /
wgt = /
rwgt = /
cons = /
infile = ''/.

mcr_SE_GrpPct.sps (cap. 6)

mcr_SE_PctLev.sps (cap. 8)

GRPPCT

PCTLEV

nrep = /
within = /
grp = /
wgt = /
rwgt = /
cons = /
infile = ''/.

nrep = /
within = /
grp = /
wgt = /
rwgt = /
cons = /
infile = ''/.

mcr_SE_reg.sps (cap. 6)

mcr_SE_reg_PV.sps (cap. 7)

REGnoPV

REG_PV

nrep = /
ind = /
dep = /
grp = /
wgt = /
rwgt = /
cons = /
infile = ''/.

nrep = /
ind = /
dep = /
grp = /
wgt = /
rwgt = /
cons = /
infile = ''/.

mcr_SE_cor.sps (cap. 6)

mcr_SE_cor_1PV.sps (cap. 7)

CORnoPV

COR_1PV

nrep = /
var1 = /
var2 = /
grp = /
wgt = /
rwgt = /
cons = /
infile = ''/.

nrep = /
nopv = /
pv = /
grp = /
wgt = /
rwgt = /
cons = /
infile = ''/.

mcr_SE_cor_2PV.sps (cap. 7)
COR_2PV

Diferencias en:
mean, sd, sum, pgt, plt, pin, pout,
fgt, flt, fin, fout

Mean, sd, sum, pgt, plt, pin, pout,


fgt, flt, fin, fout, en valores
plausibles
ndices de cuartiles de WLE

nrep = /
pv1 = /
pv2 = /
grp = /
wgt = /
rwgt = /
cons = /
infile = ''/.

mcr_SE_dif.sps (cap. 10)

mcr_SE_dif_PV.sps (cap. 10)

difNOpv

dif_pv

nrep = /
dep = /
stat = /
within = /
compare = /
categ = /
wgt = /
rwgt = /
cons = /
infile = ''/.

nrep = /
dep = /
stat = /
within = /
compare = /
categ = /
wgt = /
rwgt = /
cons = /
infile = ''/.

mcr_SE_PV_WLEQRT.sps (cap. 14)


PVWLEQRT

nrep = /
stat = /
pv = /
wle = /
grp = /
wgt = /
rwgt = /
cons = /
infile = ''/.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

233

Cuadro 15.1. Sintaxis de la macro mcr_SE_univ.sps


define univar (nrep
stat
dep
grp
wgt
rwgt
cons
infile

=
=
=
=
=
=
=
=

!charend('/')/
!charend('/')/
!charend('/')/
!charend('/')/
!charend('/')/
!charend('/')/
!charend('/')/
!charend('/')).

get file !infile /keep !grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)


!dep).
*** COMPUTE ESTIMATE ***.
weight by !wgt.
aggregate outfile = !quote(!concat('c:\temp\',!stat,'_all.sav'))
/break=!grp /stat=!stat(!dep).
* REPLICATES.
!do !i= 1 !to !nrep.
weight by !concat(!rwgt,!i).
aggregate outfile = !quote(!concat('C:\temp\',!stat,'_',!dep,!i,'.sav'))
/break=!grp /statr=!stat(!dep).
!doend.
*** COMBINE RESULTS ***.
get file =!quote(!concat('C:\temp\',!stat,'_',!dep,'1.sav')).
!Do !e = 2 !to !nrep.
add files file=* /file=!quote(!concat('C:\temp\',!stat,'_',!dep,!e,'.sav')).
!Doend.
sort cases by !grp.
match files file=* /table=!quote(!concat('c:\temp\',!stat,'_all.sav')) /by
!grp.
exec.
*** COMPUTE SAMPLING VARIANCE (U) ***.
compute var=(statr-stat)**2.
save outfile = 'c:\temp\regmod.sav'.
aggregate outfile=*/ break=!grp/ stat= mean(stat)/ var=sum(var).
compute var=!cons*var.
*** COMPUTE STANDARD ERROR ***.
compute se=sqrt(var).
exec.
formats stat (f8.3)/ se (f8.3).
list cases/var= !grp stat se.
!enddefine.

234 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 15.2. Sintaxis de la macro mcr_SE_pv.sps


define PV

(nrep = !charend('/')/
stat = !charend('/')/
dep = !charend('/') /
grp = !charend('/') /
wgt = !charend('/') /
rwgt = !charend('/') /
cons = !charend('/')/
infile = !charend('/')).

get file !infile /keep !grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)


!concat(pv,1,!dep)
!concat(pv,2,!dep) !concat(pv,3,!dep) !concat(pv,4,!dep) !concat(pv,5,!dep)
.
*** COMPUTE STATISTIC ***.
weight by !wgt.
erase file='c:\temp\all.sav'.
aggregate outfile = 'c:\temp\all.sav' /break=!grp /
stat1 stat2 stat3 stat4 stat5=!stat(!concat(pv1,!dep) !concat(pv2,!dep)
!concat(pv3,!dep) !concat(pv4,!dep) !concat(pv5,!dep)).
* REPLICATES.
!do !i= 1 !to !nrep.
weight by !concat(!rwgt,!i).
erase file=!quote(!concat('c:\temp\',!dep,!i,'.sav')).
aggregate outfile = !quote(!concat('c:\temp\',!dep,!i,'.sav'))/break=!grp /
statr1 statr2 statr3 statr4 statr5=!stat(!concat(pv1,!dep) !concat(pv2,!dep) !concat(pv3,!dep) !concat(pv4,!dep) !concat(pv5,!dep)).
!doend.
*** COMBINE RESULTS ***.
get file =!quote(!concat('c:\temp\',!dep,'1','.sav')).
cache.
!Do !e = 2 !to !nrep.
add files/file=*/file=!quote(!concat('c:\temp\',!dep,!e,'.sav')).
!Doend.
sort cases by !grp.
match files file=*/table= 'c:\temp\all.sav'/by !grp.
exec.
*** COMPUTE SAMPLING VARIANCE (U) ***.
do repeat a=statr1 to statr5/
b=stat1 to stat5/
c=var1 to var5.
compute c=(a-b)**2.
end repeat.
save outfile = 'c:\temp\regmod.sav'.
aggregate outfile=*/
break=!grp/
stat1 to stat5= mean(stat1 to stat5)/
var1 to var5 = sum(var1 to var5).
do repeat a=var1 to var5.
compute a=!cons*a.
end repeat.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

235

compute pv_var=mean(var1 to var5).


*** CALCULATING MEASUREMENT VARIANCE (Bm) ***.
compute stat=mean(stat1 to stat5).
do repeat a=stat1 to stat5/b=pvar1 to pvar5.
compute b=(a-stat)**2.
end repeat.
compute pvmerr=.25*(sum(pvar1 to pvar5)).
*** COMPUTE STANDARD ERROR [V = U + (1+1/M)Bm] ***.
compute SE=sqrt(pv_var+1.2*pvmerr).
formats stat (f8.2)/ SE (f8.2).
list cases/var= !grp stat SE.
!enddefine.

236 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 15.3. Sintaxis de la macro mcr_SE_GrpPct.sps


define GRPPCT (nrep = !charend('/')/
within = !charend('/') /
grp = !charend('/') /
wgt = !charend('/') /
rwgt = !charend('/') /
cons = !charend('/')/
infile = !charend('/')).
get file !infile /keep !within !grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)).
*** COMPUTE ESTIMATE ***.
weight by !wgt.
aggregate outfile='c:\temp\temp1.sav' /break=!within /N_all=n.
aggregate outfile=* /break=!within !grp /N_grp=n.
exe.
match files file=* /table='c:\temp\temp1.sav' /by !within.
compute stat=100*(n_grp/n_all).
save outfile=!quote(!concat('c:\temp\',!grp,'.sav')).
* REPLICATES.
!do !i= 1 !to !nrep.
get file !infile /keep !within !grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)).
weight by !concat(!rwgt,!i).
aggregate outfile='c:\temp\temp2.sav' /break=!within /N_all=n.
aggregate outfile=* /break=!within !grp /N_grp=n.
exe.
match files file=* /table='c:\temp\temp2.sav' /by !within.
compute statR=100*(n_grp/n_all).
save outfile=!quote(!concat('c:\temp\',!grp,'_',!i,'.sav')).
erase file='c:\temp\temp2.sav'.
!doend.
*** COMBINE RESULTS ***.
get file =!quote(!concat('c:\temp\',!grp,'_1.sav')).
!Do !e = 2 !to !nrep.
add files file=* /file=!quote(!concat('c:\temp\',!grp,'_',!e,'.sav')).
!Doend.
sort cases by !within !grp.
match files file=* /table=!quote(!concat('c:\temp\',!grp,'.sav')) /by !within
!grp.
exec.
*** COMPUTE SAMPLING VARIANCE (U) ***.
compute var=(statr-stat)**2.
exec.
save outfile = 'c:\temp\regmod.sav'.
aggregate outfile=*/
break=!within !grp/
stat= mean(stat)/
var=sum(var).
compute var=!cons*var.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

237

*** COMPUTE STANDARD ERROR ***.


compute SE=sqrt(var).
exec.
formats stat (f8.3)/ SE (f8.3).
list cases/var= !within !grp stat SE.
!enddefine.

238 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 15.4. Sintaxis de la macro mcr_SE_PctLev.sps


define PCTLEV (nrep = !charend('/')/
within = !charend('/') /
grp = !charend('/') /
wgt = !charend('/') /
rwgt = !charend('/') /
cons = !charend('/')/
infile = !charend('/')).
*** COMPUTE ESTIMATE ***.
get file !infile /keep !within !concat(!grp,'1') !concat(!grp,'2')
!concat(!grp,'3') !concat(!grp,'4')
!concat(!grp,'5') !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)).
weight by !wgt.
aggregate outfile='c:\temp\temp10.sav' /break=!within /N_all=n.
!do !j=1 !to 5.
get file !infile /keep !within !concat(!grp,'1') !concat(!grp,'2')
!concat(!grp,'3') !concat(!grp,'4')
!concat(!grp,'5') !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)).
weight by !wgt.
aggregate outfile=* /break=!within !concat(!grp,!j) /N_grp=n.
exe.
match files file=* /table='c:\temp\temp10.sav' /by !within.
compute !concat('stat',!j)=100*(n_grp/n_all).
rename var (!concat(!grp,!j)=!grp).
save outfile=!quote(!concat('c:\temp\temp',!j,'.sav')) /keep=!within !grp
!concat('stat',!j).
!doend.
match files file='c:\temp\temp1.sav'
/file='c:\temp\temp2.sav'
/file='c:\temp\temp3.sav'
/file='c:\temp\temp4.sav'
/file='c:\temp\temp5.sav'
/by !within !grp.
save outfile='c:\temp\all.sav'.
* REPLICATES.
!do !i= 1 !to !nrep.
get file !infile /keep !within !concat(!grp,'1') !concat(!grp,'2')
!concat(!grp,'3') !concat(!grp,'4')
!concat(!grp,'5') !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)).
weight by !concat(!rwgt,!i).
erase file='c:\temp\temp20.sav'.
aggregate outfile='c:\temp\temp20.sav' /break=!within /N_all=n.
!do !j=1 !to 5.
get file !infile /keep !within !concat(!grp,'1') !concat(!grp,'2')
!concat(!grp,'3') !concat(!grp,'4')
!concat(!grp,'5') !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)).
weight by !concat(!rwgt,!i).
aggregate outfile=* /break=!within !concat(!grp,!j) /N_grp=n.
exe.
match files file=* /table='c:\temp\temp20.sav' /by !within.
compute !concat('statR',!j)=100*(n_grp/n_all).
rename var (!concat(!grp,!j)=!grp).
save outfile=!quote(!concat('c:\temp\temp',!j,'.sav')) /keep=!within !grp
!concat('statR',!j).
!doend.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

239

match files file='c:\temp\temp1.sav'


/file='c:\temp\temp2.sav'
/file='c:\temp\temp3.sav'
/file='c:\temp\temp4.sav'
/file='c:\temp\temp5.sav'
/by !within !grp.
save outfile=!quote(!concat('c:\temp\',!grp,'_',!i,'.sav')).
!doend.
*** COMBINE RESULTS ***.
get file =!quote(!concat('c:\temp\',!grp,'_1.sav')).
!Do !e = 2 !to !nrep.
add files file=* /file=!quote(!concat('c:\temp\',!grp,'_',!e,'.sav')).
!Doend.
sort cases by !within !grp.
match files file=* /table='c:\temp\all.sav' /by !within !grp.
exec.
*** COMPUTE SAMPLING VARIANCE (U) ***.
do repeat a=statr1 to statr5/
b=stat1 to stat5/
c=var1 to var5.
compute c=(a-b)**2.
end repeat.
save outfile = 'c:\temp\regmod.sav'.
aggregate outfile=*/
break=!within !grp/
stat1 to stat5= mean(stat1 to stat5)/
var1 to var5 = sum(var1 to var5).
do repeat a=var1 to var5.
compute a=!cons*a.
end repeat.
compute pv_var=mean(var1 to var5).
*** CALCULATING MEASUREMENT VARIANCE (Bm) ***.
compute stat=mean(stat1 to stat5).
do repeat a=stat1 to stat5/b=pvar1 to pvar5.
compute b=(a-stat)**2.
end repeat.
compute pvmerr=.25*(sum(pvar1 to pvar5)).
*** COMPUTE STANDARD ERROR [V = U + (1+1/M)Bm] ***.
compute SE=sqrt(pv_var+1.2*pvmerr).
formats stat (f8.2)/ SE (f8.2).
list cases/var= !within !grp stat SE.
!enddefine.

240 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 15.5. Sintaxis de la macro mcr_SE_reg.sps


define REGnoPV (nrep = !charend('/')/
ind = !charend('/') /
dep = !charend('/') /
grp = !charend('/') /
wgt = !charend('/') /
rwgt = !charend('/') /
cons = !charend('/')/
infile = !charend('/')).
get file !infile /keep !grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep) !dep
!ind).
*** COMPUTE ESTIMATE ***.
*sort cases by !grp.
split file by !grp.
weight by !wgt.
REGRESSION
/DEPENDENT !dep
/METHOD=ENTER !ind
/OUTFILE=COVB('C:\temp\coef.sav') .
get file='C:\temp\coef.sav'.
select if (rowtype_='EST').
rename var(CONST_=b0).
VARSTOCASES /MAKE stat FROM b0 !ind
/INDEX = ind(stat) /KEEP = !grp /NULL = KEEP.
erase file='c:\temp\all.sav'.
sort cases by !grp ind.
save outfile='c:\temp\all.sav'.
* REPLICATES.
!do !i=1 !to !nrep.
get file !infile /keep !grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep) !dep
!ind).
*sort cases by !grp.
split file by !grp.
weight by !concat(!rwgt,!i).
REGRESSION
/DEPENDENT !dep
/METHOD=ENTER !ind
/OUTFILE=COVB('C:\temp\coef.sav') .
get file='C:\temp\coef.sav'.
select if (rowtype_='EST').
rename var(CONST_=b0).
VARSTOCASES /MAKE statR FROM b0 !ind
/INDEX = ind(statR) /KEEP = !grp /NULL = KEEP.
save outfile=!quote(!concat('C:\temp\',!dep,!i,'.sav'))
!doend.
*** COMBINE RESULTS ***.
get file =!quote(!concat('C:\temp\',!dep,'1.sav')).
!Do !e = 2 !to !nrep.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

241

add files file=* /file=!quote(!concat('C:\temp\',!dep,!e,'.sav')).


!Doend.
sort cases by !grp ind.
match files file=* /table='c:\temp\all.sav' /by !grp ind.
exec.
*** COMPUTE SAMPLING VARIANCE (U) ***.
compute var=(statr-stat)**2.
exec.
save outfile = 'c:\temp\regmod.sav'.
aggregate outfile=*/
break=!grp IND/
stat= mean(stat)/
var=sum(var).
compute var=!cons*var.
*** COMPUTE STANDARD ERROR ***.
compute se=sqrt(var).
exec.
formats stat (f8.3)/ se (f8.3).
list cases/var= !grp ind stat se.
!enddefine.

242 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 15.6. Sintaxis de la macro mcr_SE_reg_PV.sps


define REG_PV (nrep = !charend('/')/
ind = !charend('/') /
dep = !charend('/') /
grp = !charend('/') /
wgt
= !charend('/') /
rwgt
= !charend('/') /
cons = !charend('/')/
infile = !charend('/')).
*** COMPUTE REGRESSION COEFFICIENTS ***.
!do !j=1 !to 5.
get file !infile /keep=!grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep) !IND
!concat('pv1',!dep)
!concat('pv2',!dep) !concat('pv3',!dep) !concat('pv4',!dep) !concat('pv',5,!dep) .
*sort cases by !grp.
split file by !grp.
weight by !wgt.
REGRESSION
/DEPENDENT !concat('pv',!j,!dep)
/METHOD=ENTER !ind
/OUTFILE=COVB(!quote(!concat('C:\temp\coef',!j,'.sav'))) .
get file=!quote(!concat('C:\temp\coef',!j,'.sav')).
select if (rowtype_='EST').
rename var(CONST_=b0).
VARSTOCASES /MAKE !concat('stat',!j) FROM b0 !ind
/INDEX = ind(!concat('stat',!j)) /KEEP = !grp /NULL = KEEP.
sort cases by !grp IND.
save outfile=!quote(!concat('c:\temp\temp',!J,'.sav')).
!doend.
match files file='c:\temp\temp1.sav'
/file='c:\temp\temp2.sav'
/file='c:\temp\temp3.sav'
/file='c:\temp\temp4.sav'
/file='c:\temp\temp5.sav'
/by !GRP ind.
erase file='c:\temp\all.sav'.
save outfile='c:\temp\all.sav'.
* REPLICATES.
!do !i=1 !to !nrep.
!do !j=1 !to 5.
get file !infile /keep=!grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep) !IND
!concat('pv1',!dep)
!concat('pv2',!dep) !concat('pv3',!dep) !concat('pv4',!dep) !concat('pv',5,!dep) .
*sort cases by !grp.
split file by !grp.
weight by !CONCAT(!rwgt,!i).
REGRESSION
/DEPENDENT !concat('pv',!j,!dep)

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

243

/METHOD=ENTER !ind
/OUTFILE=COVB(!quote(!concat('C:\temp\coef',!j,'.sav'))) .
get file=!quote(!concat('C:\temp\coef',!j,'.sav')).
select if (rowtype_='EST').
rename var(CONST_=b0).
VARSTOCASES /MAKE !concat('statR',!j) FROM b0 !ind
/INDEX = ind(!concat('statR',!j)) /KEEP = !grp /NULL = KEEP.
sort cases by !grp IND.
save outfile=!quote(!concat('c:\temp\temp',!J,'.sav')).
!doend.
match files file='c:\temp\temp1.sav'
/file='c:\temp\temp2.sav'
/file='c:\temp\temp3.sav'
/file='c:\temp\temp4.sav'
/file='c:\temp\temp5.sav'
/by !GRP ind.
erase file=!quote(!concat('C:\temp\',!dep,!i,'.sav')).
save outfile=!quote(!concat('C:\temp\',!dep,!i,'.sav')).
!doend.
*** COMBINE RESULTS ***.
get file =!quote(!concat('C:\temp\',!dep,'1','.sav')).
cache.
!Do !e = 2 !to !nrep.
add files/file=*/file=!quote(!concat('C:\temp\',!dep,!e,'.sav')).
!Doend.
SORT CASES BY !grp IND.
match files file=*/table= 'c:\temp\all.sav'/by !grp IND.
exec.
*** COMPUTE SAMPLING VARIANCE (U) ***.
do repeat a=statr1 to statr5/
b=stat1 to stat5/
c=var1 to var5.
compute c=(a-b)**2.
end repeat.
save outfile = 'c:\temp\regmod.sav'.
aggregate outfile=*/
break=!grp IND/
stat1 to stat5= mean(stat1 to stat5)/
var1 to var5 = sum(var1 to var5).
do repeat a=var1 to var5.
compute a=!cons*a.
end repeat.
compute pv_var=mean(var1 to var5).
*** CALCULATING MEASUREMENT VARIANCE (Bm) ***.
compute stat=mean(stat1 to stat5).
do repeat a=stat1 to stat5/b=pvar1 to pvar5.
compute b=(a-stat)**2.
end repeat.
compute pvmerr=.25*(sum(pvar1 to pvar5)).

244 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

*** COMPUTE STANDARD ERROR [V = U + (1+1/M)Bm] ***.


compute SE=sqrt(pv_var+1.2*pvmerr).
formats stat (f8.2)/ SE (f8.2).
list cases/var= !grp IND stat SE.
!enddefine.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

245

Cuadro 15.7. Sintaxis de la macro mcr_SE_cor.sps


define CORnoPV (nrep = !charend('/')/
var1 = !charend('/') /
var2 = !charend('/') /
grp = !charend('/') /
wgt = !charend('/') /
rwgt = !charend('/') /
cons = !charend('/')/
infile = !charend('/')).
get file !infile /keep !grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)
!var2 !var1.
*** COMPUTE ESTIMATE ***.
*sort cases by !grp.
split file by !grp.
weight by !wgt.
descr !var1 !var2 / stat=mean stddev /save.
compute Y=!concat('Z',!var1)*!concat('Z',!var2).
split file off.
aggregate outfile=* /break=!grp /sumY=sum(Y) /n=n.
compute stat=sumY/n.
erase file='c:\temp\all.sav'.
save outfile='c:\temp\all.sav' /keep=cnt stat.
* REPLICATES.
!do !i=1 !to !nrep.
get file !infile /keep !grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)
!var2 !var1).
*sort cases by !grp.
split file by !grp.
weight by !concat(!rwgt,!i).
descr !var1 !var2/ stat=mean stddev /save.
compute Y=!concat('Z',!var1)*!concat('Z',!var2).
split file off.
aggregate outfile=* /break=!grp /sumY=sum(Y) /n=n.
compute statR=sumY/n.
erase file=!quote(!concat('C:\temp\',!var2,!i,'.sav')).
save outfile=!quote(!concat('C:\temp\',!var2,!i,'.sav')) /keep=cnt statR.
!doend.
*** COMBINE RESULTS ***.
get file =!quote(!concat('C:\temp\',!var2,'1.sav')).
!Do !e = 2 !to !nrep.
add files file=* /file=!quote(!concat('C:\temp\',!var2,!e,'.sav')).
!Doend.
sort cases by !grp.
match files file=* /table='c:\temp\all.sav' /by !grp.
exec.
*** COMPUTE SAMPLING VARIANCE (U) ***.
compute var=(statr-stat)**2.

246 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

exec.
save outfile = 'c:\temp\regmod.sav'.
aggregate outfile=*/
break=!grp/
stat= mean(stat)/
var=sum(var).
compute var=!cons*var.
*** COMPUTE STANDARD ERROR ***.
compute SE=sqrt(var).
exec.
formats stat (f8.3)/ SE (f8.3).
list cases/var= !grp stat SE.
!enddefine.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

247

Cuadro 15.8. Sintaxis de la macro mcr_SE_cor_1PV.sps


define COR_1PV (nrep = !charend('/')/
nopv = !charend('/') /
pv = !charend('/') /
grp = !charend('/') /
wgt = !charend('/') /
rwgt = !charend('/') /
cons = !charend('/')/
infile = !charend('/')).
*** COMPUTE REGRESSION COEFFICIENTS ***.
!do !j=1 !to 5.
get file !infile /keep=!grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)
!concat('pv1',!pv)
!concat('pv2',!pv) !concat('pv3',!pv) !concat('pv4',!pv) !concat('pv',5,!pv)
!nopv.
*sort cases by !grp.
split file by !grp.
weight by !wgt.
split file layered by !grp.
!let !x=!nopv.
!let !y=!concat('pv',!j,!pv).
descr !x !y /stat=mean stddev /save.
compute P=!concat('Z',!x)*!concat('Z',!y).
split file off.
aggregate outfile=* /break=!grp /sumP=sum(P) /n=n.
compute !concat('stat',!j)=sumP/n.
save outfile=!quote(!concat('c:\temp\temp',!J,'.sav')) /keep=cnt !concat('stat',!j).
!doend.
match files file='c:\temp\temp1.sav'
/file='c:\temp\temp2.sav'
/file='c:\temp\temp3.sav'
/file='c:\temp\temp4.sav'
/file='c:\temp\temp5.sav'
/by !GRP.
erase file='c:\temp\all.sav'.
save outfile='c:\temp\all.sav'.
* REPLICATES.
!do !i=1 !to !nrep.
!do !j=1 !to 5.
get file !infile /keep=!grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)
!concat('pv1',!pv)
!concat('pv2',!pv) !concat('pv3',!pv) !concat('pv4',!pv) !concat('pv',5,!pv)
!nopv.
*sort cases by !grp.
split file by !grp.
weight by !concat(!rwgt,!i).
split file layered by !grp.

248 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

!let !x=!nopv.
!let !y=!concat('pv',!j,!pv).
descr !x !y /stat=mean stddev /save.
compute P=!concat('Z',!x)*!concat('Z',!y).
split file off.
aggregate outfile=* /break=!grp /sumP=sum(P) /n=n.
compute !concat('statR',!j)=sumP/n.
save outfile=!quote(!concat('c:\temp\temp',!J,'.sav')) /keep=cnt !concat('statR',!j).
!doend.
match files file='c:\temp\temp1.sav'
/file='c:\temp\temp2.sav'
/file='c:\temp\temp3.sav'
/file='c:\temp\temp4.sav'
/file='c:\temp\temp5.sav'
/by !GRP.
erase file=!quote(!concat('C:\temp\',!pv,!i,'.sav')).
save outfile=!quote(!concat('C:\temp\',!pv,!i,'.sav')).
!doend.
*** COMBINE RESULTS ***.
get file =!quote(!concat('C:\temp\',!pv,'1','.sav')).
cache.
!Do !e = 2 !to !nrep.
add files/file=*/file=!quote(!concat('C:\temp\',!pv,!e,'.sav')).
!Doend.
sort cases by !grp.
match files file=*/table= 'c:\temp\all.sav'/by !grp.
exec.
*** COMPUTE SAMPLING VARIANCE (U) ***.
do repeat a=statr1 to statr5/
b=stat1 to stat5/
c=var1 to var5.
compute c=(a-b)**2.
end repeat.
save outfile = 'c:\temp\regmod.sav'.
aggregate outfile=*/
break=!grp/
stat1 to stat5= mean(stat1 to stat5)/
var1 to var5 = sum(var1 to var5).
do repeat a=var1 to var5.
compute a=!cons*a.
end repeat.
compute pv_var=mean(var1 to var5).
*** CALCULATING MEASUREMENT VARIANCE (Bm) ***.
compute stat=mean(stat1 to stat5).
do repeat a=stat1 to stat5/b=pvar1 to pvar5.
compute b=(a-stat)**2.
end repeat.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

249

compute pvmerr=.25*(sum(pvar1 to pvar5)).


*** COMPUTE STANDARD ERROR [V = U + (1+1/M)Bm] ***.
compute SE=sqrt(pv_var+1.2*pvmerr).
formats stat (f8.3)/ SE (f8.1).
list cases/var= !grp stat SE.
!enddefine.

250 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 15.9. Sintaxis de la macro mcr_SE_cor_2PV.sps


define COR_2PV (nrep = !charend('/')/
pv1 = !charend('/') /
pv2 = !charend('/') /
grp = !charend('/') /
wgt = !charend('/') /
rwgt = !charend('/') /
cons = !charend('/')/
infile = !charend('/')).
*** COMPUTE REGRESSION COEFFICIENTS ***.
!do !j=1 !to 5.
get file !infile /keep=!grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)
!concat('pv1',!pv2)
!concat('pv2',!pv2) !concat('pv3',!pv2) !concat('pv4',!pv2) !concat('pv',5,!pv2)
!concat('pv1',!pv1) !concat('pv2',!pv1) !concat('pv3',!pv1) !concat('pv4',!pv1) !concat('pv',5,!pv1).
*sort cases by !grp.
split file by !grp.
weight by !wgt.
split file layered by !grp.
!let !x=!concat('pv',!j,!pv1).
!let !y=!concat('pv',!j,!pv2).
descr !x !y /stat=mean stddev /save.
compute P=!concat('Z',!x)*!concat('Z',!y).
split file off.
aggregate outfile=* /break=!grp /sumP=sum(P) /n=n.
compute !concat('stat',!j)=sumP/n.
save outfile=!quote(!concat('c:\temp\temp',!J,'.sav')) /keep=cnt !concat('stat',!j).
!doend.
match files file='c:\temp\temp1.sav'
/file='c:\temp\temp2.sav'
/file='c:\temp\temp3.sav'
/file='c:\temp\temp4.sav'
/file='c:\temp\temp5.sav'
/by !GRP.
erase file='c:\temp\all.sav'.
save outfile='c:\temp\all.sav'.
* REPLICATES.
!do !i=1 !to !nrep.
!do !j=1 !to 5.
get file !infile /keep=!grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)
!concat('pv1',!pv2)
!concat('pv2',!pv2) !concat('pv3',!pv2) !concat('pv4',!pv2) !concat('pv',5,!pv2)
!concat('pv1',!pv1) !concat('pv2',!pv1) !concat('pv3',!pv1) !concat('pv4',!pv1) !concat('pv',5,!pv1).
*sort cases by !grp.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

251

split file layered by !grp.


weight by !CONCAT(!rwgt,!i).
split file by !grp.
!let !x=!concat('pv',!j,!pv1).
!let !y=!concat('pv',!j,!pv2).
descr !x !y /stat=mean stddev /save.
compute P=!concat('Z',!x)*!concat('Z',!y).
split file off.
aggregate outfile=* /break=!grp /sumP=sum(P) /n=n.
compute !concat('statR',!j)=sumP/n.
save outfile=!quote(!concat('c:\temp\temp',!J,'.sav')) /keep=cnt !concat('statR',!j).
!doend.
match files file='c:\temp\temp1.sav'
/file='c:\temp\temp2.sav'
/file='c:\temp\temp3.sav'
/file='c:\temp\temp4.sav'
/file='c:\temp\temp5.sav'
/by !GRP.
erase file=!quote(!concat('C:\temp\',!pv2,!i,'.sav')).
save outfile=!quote(!concat('C:\temp\',!pv2,!i,'.sav')).
!doend.
*** COMBINE RESULTS ***.
get file =!quote(!concat('C:\temp\',!pv2,'1','.sav')).
cache.
!Do !e = 2 !to !nrep.
add files/file=*/file=!quote(!concat('C:\temp\',!pv2,!e,'.sav')).
!Doend.
sort cases by !grp.
match files file=*/table= 'c:\temp\all.sav'/by !grp.
exec.
*** COMPUTE SAMPLING VARIANCE (U) ***.
do repeat a=statr1 to statr5/
b=stat1 to stat5/
c=var1 to var5.
compute c=(a-b)**2.
end repeat.
save outfile = 'c:\temp\regmod.sav'.
aggregate outfile=*/
break=!grp/
stat1 to stat5= mean(stat1 to stat5)/
var1 to var5 = sum(var1 to var5).
do repeat a=var1 to var5.
compute a=!cons*a.
end repeat.
compute pv_var=mean(var1 to var5).
*** CALCULATING MEASUREMENT VARIANCE (Bm) ***.

252 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

compute stat=mean(stat1 to stat5).


do repeat a=stat1 to stat5/b=pvar1 to pvar5.
compute b=(a-stat)**2.
end repeat.
compute pvmerr=.25*(sum(pvar1 to pvar5)).
*** COMPUTE STANDARD ERROR [V = U + (1+1/M)Bm] ***.
compute SE=sqrt(pv_var+1.2*pvmerr).
formats stat (f8.3)/ SE (f8.1).
list cases/var= !grp stat SE.
!enddefine.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

253

Cuadro 15.10. Sintaxis de la macro mcr_SE_dif.sps


define difNOpv (nrep = !charend('/')/
dep = !charend('/') /
stat = !charend ('/') /
within = !charend('/') /
compare = !charend('/') /
categ = !charend ('/') /
wgt = !charend('/') /
rwgt = !charend('/') /
cons = !charend('/')/
infile = !charend('/')).
get file !infile /keep !dep !within !compare !wgt
!concat(!rwgt,1) to !concat(!rwgt,!nrep) .
*** COMPUTE ESTIMATE ***.
weight by !wgt.
aggregate outfile = *
/break=!within !compare /stat=!stat(!dep).
exe.
casestovars /id=!within /index=!compare .
!let !n=!length(!categ).
!let !m=!LENGTH(!substr(!blanks(!n),2)).
!let !var=" ".
!do !a=1 !to !m.
!let !s=!LENGTH(!concat(!blanks(!a),' ')).
!do !b=!s !to !n.
!let !d=!substr(!categ,!a,1).
!let !e=!substr(!categ,!b,1).
compute !concat('stat',!d,'_',!e)=
!concat('stat.',!d)-!concat('stat.',!e).
!let !var=!concat(!var,'stat',!d,'_',!e,' ').
!doend.
!doend.
VARSTOCASES /MAKE stat FROM !var
/INDEX = contrast(stat) /KEEP = !within /NULL = DROP.
save outile='c:\temp\all.sav'.
* REPLICATES.
!do !i= 1 !to !nrep.
get file !infile /keep !within !compare !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep) !dep).
weight by !concat(!rwgt,!i).
aggregate outfile = *
/break=!within !compare /stat=!stat(!dep).
exe.
casestovars /id=!within /index=!compare .
!let !n=!length(!categ).
!let !m=!LENGTH(!substr(!blanks(!n),2)).
!let !var=" ".
!do !a=1 !to !m.
!let !s=!LENGTH(!concat(!blanks(!a),' ')).
!do !b=!s !to !n.

254 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

!let !d=!substr(!categ,!a,1).
!let !e=!substr(!categ,!b,1).
compute !concat('stat',!d,'_',!e)=
!concat('stat.',!d)-!concat('stat.',!e).
!let !var=!concat(!var,'stat',!d,'_',!e,' ').
!doend.
!doend.
VARSTOCASES /MAKE statR FROM !var
/INDEX = contrast(statR) /KEEP = !within /NULL = DROP.
save outile=!quote(!concat('c:\temp\',!dep,!i,'.sav')).
!doend.
*** COMBINE RESULTS ***.
get file =!quote(!concat('c:\temp\',!dep,'1','.sav')).
!Do !e = 2 !to !nrep.
add files file=* /file=!quote(!concat('c:\temp\',!dep,!e,'.sav')).
!Doend.
sort cases by !within CONTRAST.
match files file=* /table='c:\temp\all.sav' /by !within CONTRAST.
exec.
*** COMPUTE SAMPLING VARIANCE (U) ***.
compute var=(statr-stat)**2.
save outfile = 'c:\temp\regmod.sav'.
aggregate outfile=*/ break=!within contrast/ stat= mean(stat)/ var=sum(var).
compute var=!cons*var.
*** COMPUTE STANDARD ERROR ***.
compute se=sqrt(var).
exec.
formats stat (f8.3)/ se (f8.3).
list cases/var= !within contrast stat se.
string contr (a3).
compute contr=substr(contrast,5,3).
casestovars /id=!within /index=contr /groupby=index /drop=contrast var.
!enddefine.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

255

Cuadro 15.11. Sintaxis de la macro mcr_SE_dif_PV.sps


define dif_pv (nrep = !charend('/')/
dep = !charend('/') /
stat = !charend ('/') /
within = !charend('/') /
compare = !charend('/') /
categ = !charend ('/') /
wgt = !charend('/') /
rwgt = !charend('/') /
cons = !charend('/')/
infile = !charend('/')).
*** COMPUTE ESTIMATE ***.
!do !j=1 !to 5.
get file !infile /keep !concat('pv1',!dep)
!concat('pv2',!dep) !concat('pv3',!dep) !concat('pv4',!dep) !concat('pv',5,!dep)
!within !compare !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep) .
weight by !wgt.
aggregate outfile = *
/break=!within !compare /stat=!stat(!concat('pv',!j,!dep)).
exe.
casestovars /id=!within /index=!compare .
!let !n=!length(!categ).
!let !m=!LENGTH(!substr(!blanks(!n),2)).
!let !var=" ".
!do !a=1 !to !m.
!let !s=!LENGTH(!concat(!blanks(!a),' ')).
!do !b=!s !to !n.
!let !d=!substr(!categ,!a,1).
!let !e=!substr(!categ,!b,1).
compute !concat('stat',!d,'_',!e)=
!concat('stat.',!d)-!concat('stat.',!e).
!let !var=!concat(!var,'stat',!d,'_',!e,' ').
!doend.
!doend.
VARSTOCASES /MAKE !concat('stat',!j) FROM !var
/INDEX = contrast(!concat('stat',!j)) /KEEP = !within /NULL = DROP.
save outfile=!quote(!concat('c:\temp\temp',!J,'.sav')).
!doend.
match files file='c:\temp\temp1.sav'
/file='c:\temp\temp2.sav'
/file='c:\temp\temp3.sav'
/file='c:\temp\temp4.sav'
/file='c:\temp\temp5.sav'
/by !within contrast.
sort cases by !within CONTRAST.
save outile='c:\temp\all.sav'.
* REPLICATES.
!do !i= 1 !to !nrep.
!do !j=1 !to 5.
get file !infile /keep !concat('pv1',!dep)
!concat('pv2',!dep) !concat('pv3',!dep) !concat('pv4',!dep) !concat('pv',5,!dep)
!within !compare !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep) .
weight by !concat(!rwgt,!i).
aggregate outfile = *
/break=!within !compare /stat=!stat(!concat('pv',!j,!dep)).
exe.
casestovars /id=!within /index=!compare .
!let !n=!length(!categ).
!let !m=!LENGTH(!substr(!blanks(!n),2)).
!let !var=" ".

256 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

!do !a=1 !to !m.


!let !s=!LENGTH(!concat(!blanks(!a),' ')).
!do !b=!s !to !n.
!let !d=!substr(!categ,!a,1).
!let !e=!substr(!categ,!b,1).
compute !concat('stat',!d,'_',!e)=
!concat('stat.',!d)-!concat('stat.',!e).
!let !var=!concat(!var,'stat',!d,'_',!e,' ').
!doend.
!doend.
VARSTOCASES /MAKE !concat('statR',!j) FROM !var
/INDEX = contrast(!concat('statR',!j)) /KEEP = !within /NULL = DROP.
save outfile=!quote(!concat('c:\temp\temp',!J,'.sav')).
!doend.
match files file='c:\temp\temp1.sav'
/file='c:\temp\temp2.sav'
/file='c:\temp\temp3.sav'
/file='c:\temp\temp4.sav'
/file='c:\temp\temp5.sav'
/by !within contrast.
save outfile=!quote(!concat('C:\temp\',!dep,!i,'.sav')).
!doend.
*** COMBINE RESULTS ***.
get file =!quote(!concat('c:\temp\',!dep,'1','.sav')).
!Do !e = 2 !to !nrep.
add files file=* /file=!quote(!concat('c:\temp\',!dep,!e,'.sav')).
!Doend.
sort cases by !within CONTRAST.
match files file=* /table='c:\temp\all.sav' /by !within CONTRAST.
exec.
*** COMPUTE SAMPLING VARIANCE (U) ***.
do repeat a=statr1 to statr5/
b=stat1 to stat5/
c=var1 to var5.
compute c=(a-b)**2.
end repeat.
save outfile = 'c:\temp\regmod.sav'.
aggregate outfile=*/
break=!within contrast/
stat1 to stat5= mean(stat1 to stat5)/
var1 to var5 = sum(var1 to var5).
do repeat a=var1 to var5.
compute a=!cons*a.
end repeat.
compute pv_var=mean(var1 to var5).
*** CALCULATING MEASUREMENT VARIANCE (Bm) ***.
compute stat=mean(stat1 to stat5).
do repeat a=stat1 to stat5/b=pvar1 to pvar5.
compute b=(a-stat)**2.
end repeat.
compute pvmerr=.25*(sum(pvar1 to pvar5)).
*** COMPUTE STANDARD ERROR [V = U + (1+1/M)Bm] ***.
compute SE=sqrt(pv_var+1.2*pvmerr).

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

257

formats stat (f8.2)/ SE (f8.2).


string contr (a3).
compute contr=substr(contrast,5,3).
list cases/var= !within contr stat SE.
save outfile='c:\temp\temp.sav' .
get file='c:\temp\temp.sav'/keep=!within contr stat se.
casestovars /id=!within /index=contr /groupby=index.
!enddefine.

258 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

Cuadro 15.12. Sintaxis de la macro mcr_SE_PV_WLEQRT.sps


define PVWLEQRT

(nrep = !charend('/')
/stat = !charend('/')
/pv = !charend('/')
/WLE = !charend('/')
/grp = !charend('/')
/wgt = !charend('/')
/rwgt = !charend('/')
/cons = !charend('/')
/infile = !charend('/')).

get file=!infile /keep=!grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep)


!concat(pv,1,!pv)
!concat(pv,2,!pv) !concat(pv,3,!pv) !concat(pv,4,!pv) !concat(pv,5,!pv)
!wle.
select if not missing (!wle).
means !wle /cell=mean min max.
* COMPUTE CUMULATIVE COUNT WITHIN COUNTRIES.
*----------------------------------------------.
sort cases by cnt.
autorecode cnt /into cnt# /print.
!do !s=1 !to 5.
set seed = !s.
!let !v=!concat(!wle,!s).
!let !c=!concat('cumfreq',!s).
compute !v=!wle+rv.normal(0,.01).
sort cases by cnt# !v.
do if ($casenum=1 or lag(cnt#) <> cnt#).
compute !c=w_fstuwt.
else if (cnt#=lag(cnt#)).
compute !c=w_fstuwt + lag(!c).
end if.
sort cases by cnt.
!doend.
save outfile='C:\temp\temp.sav'.
* DEFINE CUTSCORES.
*----------------------------------------------.
weight by w_fstuwt.
aggregate outfile=* /break=cnt /total=max(cumfreq1).
compute cut25=total/(100/25).
compute cut50=total/(100/50).
compute cut75=total/(100/75).
match files file='C:\temp\temp.sav'
/table=*
/by cnt.
exe.
* CREATE PERCENTILE GROUPS.
*--------------------------------------.
do repeat c=cumfreq1 cumfreq2 cumfreq3 cumfreq4 cumfreq5 /q=quart1 quart2
quart3 quart4 quart5.
if (c<cut25) q=1.
if (c>=cut25 & c<cut50) q=2.
if (c>=cut50 & c<cut75) q=3.
if (c>=cut75) q=4.
formats q (f1.0).

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

259

end repeat.
save outfile='C:\temp\quarters.sav'.
*** COMPUTE STATISTIC ***.
!do !j=1 !to 5.
get file='C:\temp\quarters.sav' /keep !grp !wgt
!concat(!rwgt,1) to !concat(!rwgt,!nrep) !concat(pv,1,!pv)
!concat(pv,2,!pv) !concat(pv,3,!pv) !concat(pv,4,!pv) !concat(pv,5,!pv)
quart1 quart2 quart3 quart4 quart5.
weight by !wgt.
rename var (!concat('quart',!j)=quart).
erase file=!quote(!concat('C:\temp\temp',!j,'.sav')).
aggregate outfile = !quote(!concat('C:\temp\temp',!j,'.sav')) /break=!grp
quart
/!concat('stat',!j)=!stat(!concat('pv',!j,!pv)).
!doend.
match files file='C:\temp\temp1.sav'
/file='C:\temp\temp2.sav'
/file='C:\temp\temp3.sav'
/file='C:\temp\temp4.sav'
/file='C:\temp\temp5.sav'
/by !grp quart.
erase file='C:\temp\all.sav'.
save outfile='C:\temp\all.sav'.
* REPLICATES.
!do !i= 1 !to !nrep.
!do !j=1 !to 5.
get file='C:\temp\quarters.sav' /keep !grp !wgt !concat(!rwgt,1) to !concat(!rwgt,!nrep) !concat(pv,1,!pv)
!concat(pv,2,!pv) !concat(pv,3,!pv) !concat(pv,4,!pv) !concat(pv,5,!pv)
quart1 quart2 quart3 quart4 quart5.
weight by !concat(!rwgt,!i).
rename var (!concat('quart',!j)=quart).
sort cases by!grp quart.
erase file=!quote(!concat('C:\temp\temp',!j,'.sav')).
aggregate outfile = !quote(!concat('C:\temp\temp',!j,'.sav')) /break=!grp
quart
/!concat('statR',!j)=!stat(!concat('pv',!j,!pv)).
!doend.
match files file='C:\temp\temp1.sav'
/file='C:\temp\temp2.sav'
/file='C:\temp\temp3.sav'
/file='C:\temp\temp4.sav'
/file='C:\temp\temp5.sav'
/by !grp quart.
erase file=!quote(!concat('C:\temp\',!pv,!i,'.sav')).
save outfile = !quote(!concat('C:\temp\',!pv,!i,'.sav')).
!doend.
*** COMBINE RESULTS ***.
get file =!quote(!concat('C:\temp\',!pv,'1','.sav')).
cache.
!Do !e = 2 !to !nrep.
add files/file=*/file=!quote(!concat('C:\temp\',!pv,!e,'.sav')).
!Doend.
sort cases by !grp quart.

260 Manual de anlisis de datos de PISA 2003: usuarios de SPSS

match files file=*/table= 'C:\temp\all.sav'/by !grp quart.


exec.
*** COMPUTE SAMPLING VARIANCE (U) ***.
do repeat a=statr1 to statr5/
b=stat1 to stat5/
c=var1 to var5.
compute c=(a-b)**2.
end repeat.
save outfile = 'C:\temp\regmod.sav'.
aggregate outfile=*/
break=!grp quart/
stat1 to stat5= mean(stat1 to stat5)/
var1 to var5 = sum(var1 to var5).
do repeat a=var1 to var5.
compute a=!cons*a.
end repeat.
compute pv_var=mean(var1 to var5).
*** CALCULATING MEASUREMENT VARIANCE (Bm) ***.
compute stat=mean(stat1 to stat5).
do repeat a=stat1 to stat5/b=pvar1 to pvar5.
compute b=(a-stat)**2.
end repeat.
compute pvmerr=.25*(sum(pvar1 to pvar5)).
*** COMPUTE STANDARD ERROR [V = U + (1+1/M)Bm] ***.
compute SE=sqrt(pv_var+1.2*pvmerr).
formats stat (f8.2)/ SE (f8.2).
list cases/var= !grp quart stat SE.
!enddefine.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

261

Referencias bibliogrficas
Baumert, J., S. Gruehn, S. Heyn, O. Kller y K.U. Schnabel (1997), Bildungsverlufe und Psychosoziale Entwicklung im Jugendalter (BIJU): Dokumentation - Band 1, Max-Planck-Institut fr Bildungsforschung, Berlin.
Baumert, J., S. Heyn y O. Kller (1994), Das Kieler Lernstrategien-Inventar (KSI), Institut fr die Pdagogik
der Naturwissenschaften an der Universitt Kiel, Kiel.
Beaton A.E., I.V.S. Mullis, M.O. Martin, E.J. Gonzalez, D.L. Kelly y T.A. Smith (1997), Mathematics
Achievement in the Middle School Years: IEAs Third International Mathematics and Science Study (TIMSS), Boston College, Chestnut Hill.
Beaton, A.E. (1987), The NAEP 1983-1984 Technical Report, Educational Testing Service, Princeton.
Beaton, A.E. (1988), The NAEP 1985-86 Reading Anomaly: A Technical Report, Educational Testing Service,
National Assessment of Educational Progress, Princeton.
Bloom, B.S. (1979), Caractristiques individuelles et apprentissage scolaire, ditions Labor, Bruxelles.
Bryk, A.S. y S.W. Raudenbush (1992), Hierarchical Linear Models in Social and Behavioral Research: Applications and Data Analysis Methods, Sage Publications, Beverly Hills.
Cornfield, J. (1951), A Method for Estimating Comparative Rates from Clinical Data. Applications to
Cancer of the Lung, Breast, and Cervix, Journal of the National Cancer Institute Vol. 11, Oxford University
Press, Oxford, pp. 1269-1275.
Dunn, O.J. (1961), Multiple Comparisons among Means, Journal of the American Statistical Association,
Vol. 56, American Statistical Association, Alexandria, pp. 52-64.
Eignor, D., C. Taylor, I. Kirsch y J. Jamieson (1998), Development of a Scale for Assessing the Level of
Computer Familiarity of TOEFL Students, TOEFL Research Report No. 60, Educational Testing Service,
Princeton.
Ganzeboom, H.B.G., P. de Graaf y D. J. Treiman, con J. de Leeuw, (1992), A Standard International
Socioeconomic Index of Occupational Status, Social Science Research, Vol. 21(1), Academic Press, New
York, pp. 1-56.
Goldstein, H. (1995), Multilevel Statistical Models, segunda edicin, Edward Arnold, London.
Goldstein, H. (1997), Methods in School Effectiveness Research, School Effectiveness and School Improvement, 8, Swets & Zeitlinger, Lisse, The Netherlands, pp. 369-395.
Gonzalez, E.J. y A.M. Kennedy (2003), PIRLS 2001 User Guide for the International Database, Boston College,
Chestnut Hill. Guilford, J.P. (1954), Psychometric Methods, MacGraw Hill, New York.
Husen, T. (1967), International Study of Achievement in Mathematics: a Comparison of Twelve Countries, Almqvist & Wiksells, Uppsala.
Judkins, D.R. (1990), Fays Method of Variance Estimation, Journal of Official Statistics, Vol. 6, No. 3,
Statistics Sweden, Stockholm, pp. 223-239.
Kish, L. y M.R. Frankel (1974), Inference from Complex Sample, Journal of the Royal Statistical Society
(B), 36, p. 1-37. Royal Statistical Society, London.
Kish, L. (1987), Statistical Design for Research, John Wiley & Sons, New York.
Marsh, H. W., R.J. Shavelson y B.M. Byrne (1992), A Multidimensional, Hierarchical Self-concept, en R.
P. Lipka and T. M. Brinthaupt (eds.), Studying the Self: Self-Perspectives across the Life-Span, State University
of New York Press, Albany.
Monseur, C. y R.J. Adams (2002) Plausible Values: How to Deal with Their Limitations, artculo presentado en el International Objective Measurement Workshop, New Orleans, 6-7 April.
OECD (Organisation for Economic Co-operation and Development) (1998), Education at a Glance OECD
Indicators, OECD, Paris.

Manual de anlisis de datos de PISA 2003: usuarios de SPSS

263

OECD (1999a), Measuring Student Knowledge and Skills A New Framework for Assessment, OECD, Paris.
OECD (1999b), Classifying Educational Programmes Manual for ISCED-97 Implementation in OECD Countries, OECD, Paris.
OECD (2001), Knowledge and Skills for Life First Results from PISA 2000, OECD, Paris.
OECD (2002a), Programme for International Student Assessment Manual for the PISA 2000 Database, OECD,
Paris.
OECD (2002b), Sample Tasks from the PISA 2000 Assessment Reading, Mathematical and Scientific Literacy,
OECD, Paris.
OECD (2002c), Programme for International Student Assessment PISA 2000 Technical Report, OECD, Paris.
OECD (2002d), Reading for Change: Performance and Engagement across Countries, OECD, Paris.
OECD (2003a), Literacy Skills for the World of Tomorrow Further Results from PISA 2000, OECD, Paris.
OECD (2003b), The PISA 2003 Assessment Framework Mathematics, Reading, Science and Problem Solving
Knowledge and Skills, OECD, Paris.
OECD (2004a), Learning for Tomorrows World First Results from PISA 2003, OECD, Paris.
OECD (2004b), Problem Solving for Tomorrows World First Measures of Cross-Curricular Competencies from
PISA 2003, OECD, Paris.
OECD (2005), PISA 2003 Technical Report, OECD, Paris.
Owens, L. y J. Barnes (1992), Learning Preferences Scales, Australian Council for Educational Research,
Camberwell.
Rust, K. y S. Krawchuk (2002), Replicate Variance Estimation Methods for International Surveys of Student
Achievement, International Conference on Improving Surveys, Copenhagen.
Rust, K.F. y J.N.K. Rao (1996), Variance Estimation for Complex Surveys Using Replication Techniques,
Statistical Methods in Medical Research, Vol. 5, Hodder Arnold, London, pp. 283-310.
Rust, K.F. (1996), TIMSS 1995 working paper.
Warm, T.A. (1989), Weighted Likelihood Estimation of Ability in Item Response Theory, Psychometrika,
Vol. 54(3), Psychometric Society, Williamsburg, Va., etc., pp. 427-450.
Westat (2000), WesVar complex samples 4.0 [programa de ordenador]. Westat. Rockville.
Wright, B.D. y M.H. Stone (1979), Best Test Design: Rasch Measurement, MESA Press, Chicago.
Wu, M. y R.J. Adams (2002), Plausible Values Why They Are Important, artculo presentado en el
International Objective Measurement Workshop, New Orleans, 6-7 April.
Wu, M.L., R.J. Adams y M.R. Wilson (1997), Conquest: Multi-Aspect Test Software [programa de ordenador], Australian Council for Educational Research, Camberwell.

264 Manual de anlisis de datos de PISA 2003: usuarios de SPSS