Documentos de Académico
Documentos de Profesional
Documentos de Cultura
913-931
EL MOMENTO DE LA
METAEVALUACIN EDUCATIVA?
Consideraciones sobre epistemologa, mtodo, control y finalidad
MIGUEL NGEL SANTOS GUERRA / TIBURCIO MORENO OLIVOS
Miguel ngel Santos es catedrtico de Didctica y organizacin escolar de la Universidad de Mlaga, campus
de Teatinos 29071, Mlaga, Espaa. CE: arrebol@uma.es
Tiburcio Moreno es investigador del Centro de Investigacin en Ciencias y Desarrollo de la Educacin
(CINCIDE) de la Universidad Autnoma del Estado de Hidalgo, Mxico. CE: morenoo@uaeh.reduaeh.mx
913
Santos y Moreno
Las ideas que se aplican a la evaluacin son trasladables a la metaevaluacin. No es, pues, un proceso esencialmente tcnico sino que tiene
naturaleza poltica y tica. Desde la primera y exclusiva acepcin, se tratara de un proceso mecnico, aparentemente riguroso, consistente en
aplicar esquemas o principios y criterios de rigor, lo cual supondra despojar a la evaluacin de sus componentes esenciales: a quin sirve, a quin
trata de beneficiar.
Muchas preguntas que se formulan respecto de la evaluacin han de ser
planteadas en un metanlisis coherente, concienzudo y fundamentado. Se
puede aplicar un tipo de metaevaluacin a una evaluacin que se ha basado en criterios radicalmente diferentes. As, se vern reflejados los abusos,
las contradicciones, los problemas y los desajustes.
No se trata, pues, de concluir, al estilo de las investigaciones experimentales, si existe o no validez, sino de avivar la reflexin para generar
comprensin rica y relevante sobre los programas evaluados. Esto convierte a la evaluacin no tanto en una tarea de expertos cuanto en un proceso
democrtico de discusin.
No basta interrogarse sobre la calidad de los datos que se recogen en el
informe o sobre el rigor de los mtodos que se han aplicado para extraer
informacin, sino que es preciso preguntarse por la naturaleza de la iniciativa, por la finalidad del proceso, por las reglas ticas que lo han inspirado, por la utilizacin que se ha hecho de la informacin, por el control
democrtico de los informes, por las secuelas que la evaluacin ha dejado.
Plantear seis contextos bsicos de exploracin que permiten analizar ideas
en el marco concreto y temporal de su desarrollo. Aunque todos estn
interconectados, seguir su cronologa evolutiva.
1) Contexto de constitucin
915
Santos y Moreno
El informe ha de ser entregado a sus destinatarios de forma rpida, cmoda y directa. Al decir directa nos referimos a que tenga carcter democrtico y no est jerarquizada. No es bueno entregar el informe slo
al director de una institucin o al responsable del programa. Las condiciones de la negociacin han de ser razonables en cuanto al tiempo y a
las formas de discusin. Las actitudes del evaluador permitirn descubrir si se trata de una negociacin real o de un simulacro.
Cuestiones
Analiza las motivaciones, las intenciones, las actitudes, las presiones, los
cambios y las vicisitudes que han manifestado los protagonistas durante
el proceso de evaluacin. En el contexto de valoracin se tiene en cuenta el
cmo se ha realizado todo el proceso. Por protagonistas me refiero,
fundamentalmente, a los patrocinadores de la evaluacin, los evaluadores
y los evaluados. La evaluacin puede tener diversas influencias nacidas
de actitudes espurias, que es necesario poner de manifiesto, ya que pueden adulterar el sentido y el significado de todo el proceso.
Revista Mexicana de Investigacin Educativa
917
Santos y Moreno
Cuestiones
En sentido amplio dice House (1994) entiendo por validez la cualidad de merecer reconocimiento. Ahora bien, cada modelo de evaluacin
hace una interpretacin de lo que ha de entenderse por validez. House
habla de ocho tipos o modelos de evaluacin. Cuatro son calificados de
objetivistas por su epistemologa, y son los enfoques del anlisis de sistemas, de objetivos, de decisin y la evaluacin que prescinde de objetivos.
En mayor o menor grado, todos basan su explicacin de validez en mtodos explcitos.
Las peculiaridades genricas de estos cuatro modelos de evaluacin podran sintetizarse en las siguientes:
919
Santos y Moreno
Cada uno de los modelos tiene ciertas exigencias para garantiar la validez.
La tarea del metaevaluador consiste en analizar todos estos presupuestos,
es decir, que deber tomar en cuenta el modelo de evaluacin utilizado y,
adems, ir ms all para poner sobre el tapete sus limitaciones. La forma
de pensar y de actuar del evaluador tienen que ir acompaadas de rigor en
la manera de recoger la informacin al igual que de consistencia en el anlisis de los datos. No basta una intencin noble y sincera, ni un compromiso con los valores de la sociedad. Es necesario el rigor en la manera
de acercarse a la realidad, de escuchar lo que dice y de interpretarlo de forma rigurosa y creble. Existen, desde nuestra perspectiva, cinco modos de
responder a esta cuestin, aunque no todos son de la misma naturaleza ni
tienen la misma importancia para solucionar el problema epistemolgico
y metodolgico:
Criterios de rigor
cia es nica, irrepetible, situada en un contexto peculiar, sometida a expectativas e influencias diversas, etctera. Lo anterior no quiere decir
que la evaluacin cualitativa tenga menores exigencias o que sea menos
rigurosa que la cuantitativa. Cada una tiene su peculiaridad y su problemtica. As como las pruebas de la validez parecen ms claras y definitivas en la evaluacin cuantitativa, no es menos cierto que hay que poner
en cuestin el rigor de la medicin en fenmenos difcilmente cuantificables
y aislables.
La aparentemente ms rigurosa forma de comprobar la validez en las
evaluaciones cuantitativas, no es de ningn modo absoluta e indiscutible. Es exclusivamente estocstica, se basa en la probabilidad. Hemos de
remitirnos a Guba (1981) para plantear esta cuestin ya que su artculo,
alejado ya en el tiempo, sigue siendo un punto de referencia. Dice Guba
que no existen criterios absolutos que garanticen el rigor, pero que podemos tener indicadores de su presencia. Una de las preocupaciones ms
importantes respecto de cualquier evaluacin son los criterios de credibilidad. Tienen calidad los datos, gozan de rigor las conclusiones? Sin
estas preguntas, todo el edificio se viene abajo.
El contagio de la ms arraigada y difundida investigacin experimental
ha pesado, y sigue hacindolo, sobre las concepciones del diseo, del desarrollo y de los criterios de validez interna. Por eso se buscan criterios de
parecida naturaleza (y a veces con la misma terminologa) a los de la investigacin cuantitativa. Es un error, ya que la tipologa de los procesos es
diferente.
No hay un criterio absoluto de credibilidad. Ninguno de ellos constituye una segura e inequvoca prueba de rigor. Lo cual no quiere decir que
no sea necesario preguntarse por los indicadores que dan fiabilidad a la
indagacin.
Juicio crtico de expertos
El metaevaluador se dirige a los evaluadores, pero tambin al patrocinador y a las diversas audiencias de la evaluacin. Es importante elegir
cuidadosamente al metaevaluador, ya que su independencia as como
las garantas de independencia que ofrece, son el fundamento de un
trabajo riguroso.
Puede elegirse a una persona afn al paradigma de la evaluacin realizada o bien a alguien que se halle situado en posiciones diferentes. TenRevista Mexicana de Investigacin Educativa
921
Santos y Moreno
dra dudosa eficacia elegir a alguien poco sensible al modelo de evaluacin con el que se ha trabajado. La eleccin puede realizarla el patrocinador en connivencia con los evaluadores o bien alguna de estas partes
de forma independiente.
Es obvio que el metaevaluador realizar el trabajo desde la ptica de
su peculiar visin de lo que ha ser un proceso de evaluacin. Debera
explicitar en su informe cules son los presupuestos de los que parte.
Adems, ha de disponer de toda la documentacin escrita de la evaluacin: documentos de negociacin, informes, cuadernos de campo, etctera. Y puede entrevistar a las personas que hayan participado en la
evaluacin.
Conviene tener en cuenta que la evaluacin es todo el proceso, no
nicamente el informe final. Por eso es necesario seguir las pistas de
revisin disponibles. O, mejor an, comenzar el proceso de metaevaluacin
de forma paralela a la evaluacin misma. El metaevaluador hace juicios,
pero tambin plantea sugerencias y preguntas (Angulo, 1993). Ese tipo
de enfoque ayuda a los evaluadores tanto descubrir las limitaciones como
a mejorar su trabajo; pone un espejo (Santos Guerra, 1995) para que los
evaluadores puedan ver con ms precisin cul ha sido su manera de
proceder. Mediante ese espejo que el metaevaluador (dada su condicin de independiente y dado el tiempo de que dispone para hacer el
trabajo) coloca de forma precisa el evaluador puede verse de manera
ms rigurosa.
Opinin de los protagonistas
Aunque cualquier experiencia, programa, institucin o actividad de carcter educativo son diferentes a otros, existen hallazgos de la investigacin
que pueden servir de referentes para el contraste. Lo cual no significa que,
si los resultados de una evaluacin difieren de lo previamente descubierto,
haya de considerarse sta poco rigurosa. Puede servir para avivar la reflexin y revisar de forma concienzuda todo el proceso.
En relacin con el soporte sobre el cul establecer los juicios de valor,
algunos autores recomiendan la utilizacin de indicadores de rendimiento
(De Miguel, 1995). Entienden por tales, los datos empricos ya sean
cuantitativos o cualitativos recogidos de forma sistemtica en relacin
con ciertas metas o procesos que nos permiten estimar la productividad
y/o funcionalidad de un sistema. El procedimiento de los indicadores
trata de dar sistematicidad a la recoleccin y credibilidad a los resultados. La formulacin de los indicadores encierra una gran dificultad pero,
sobre todo, el problema reside en el establecimiento de una doble correspondencia: la que se pretende conseguir entre los indicadores y los
programas y la que su atribuye al programa concreto con los indicadores
formulados.
Si se tiene en cuenta que cada programa es nico e irrepetible, ser
difcil establecer algunos indicadores genricos. La evaluacin de los programas a travs de la comprobacin de los objetivos o la consecucin de
indicadores deja al margen preguntas de gran calado: Y si los objetivos
estaban mal planteados? Si se consiguen de forma inmoral? Si se logran
de manera excesivamente costosa? Si se impide que los protagonistas proRevista Mexicana de Investigacin Educativa
923
Santos y Moreno
pongan sus propios objetivos? Por qu no se han conseguido los objetivos? Podran haberse planteado otros mejores (ms razonables, ms justos)? Si se han producido efectos secundarios negativos? Para qu sirven
esos objetivos? Han existido medios suficientes para alcanzarlos? Otros
problemas intrnsecos a la utilizacin de indicadores radican en los criterios de seleccin de los mismos, en su aplicacin y en la interpretacin de
la informacin que aportan.
El control democrtico de las evaluaciones
Cuando la evaluacin se convierte en un juego que comparten sigilosamente los patrocinadores y los evaluadores, existen pocas garantas de credibilidad. Por eso resulta imprescindible que los informes se hagan pblicos.
Son los ciudadanos los que, en definitiva, tienen el control del proceso.
Conocen no slo los contenidos de los informes sino las caractersticas
que ha tenido todo el proceso.
La devolucin de informes a los protagonistas, la negociacin de los
mismos y la difusin del texto final a los ciudadanos es una parte fundamental del control democrtico de la evaluacin. Esta seguridad salvaguarda a priori de muchos abusos y, a posteriori , es un excelente medio
para conocer y mejorar la prctica evaluadora. Cuando los evaluadores
utilizan un lenguaje indescifrable para los evaluados y para las diversas
audiencias interesadas por la educacin, estn robando el conocimiento
a los ciudadanos. La evaluacin se convierte as en un mecanismo de
poder que utilizan a su antojo los que pueden y los que saben.
El control democrtico de la evaluacin no slo se centra en el anlisis
de una experiencia aislada sino en el nivel macro de la cuestin. Los aspectos centrales sobre los que plantea el control podran sintetizarse en
las siguientes: qu evaluaciones se hacen?, quin decide que se realicen?,
por qu en ese momento preciso?, qu finalidades las inspiran?, qu
principios ticos las guan?, qu rigor tienen?, a quin se encargan? cmo
y con quin se negocian?, para qu se utilizan?, quin las conoce?, qu
efectos producen?, cunto cuestan?, quin tiene el control?
Mientras ms amplia sea la extensin de los ciudadanos, ms democrtica ser la metaevaluacin. McDonald, en 1997, preguntaba en una
sesin de trabajo celebrada en la Universidad de Mlaga: Quin decide,
conoce, opina y utiliza la evaluacin? La respuesta a esta cuestin se aproxima
a las exigencias democrticas cuando es del siguiente tipo: todos. En la
924
925
Santos y Moreno
927
Santos y Moreno
De acuerdo con Guba, la dependencia es la estabilidad de los datos obtenidos en la investigacin. La estabilidad est amenazada por la naturaleza
cambiante de los fenmenos que se estudian en el campo de la educacin
y de los mismos cambios que sufren los conocimientos y estados de nimo
del investigador, que es el principal instrumento de la exploracin y del
anlisis. La dependencia exige la rastreabilidad, es decir la posibilidad
de explicar cmo se han producido los cambios, de justificar por qu se
han modificado las decisiones y por qu se ha variado la utilizacin de los
instrumentos que se haba previsto o que se estaba realizando.
La tica en la evaluacin
institucionalizacin de la enseanza y promueve (o admite) uno de evaluacin coherente, que no la contradiga. Por eso es necesaria la reflexin
tica, ya que la evaluacin puede convertirse en un elemento de transformacin y de mejora del modelo hegemnico. La evaluacin ha de poner
de manifiesto las limitaciones ticas de los modelos imperantes para hacerlo avanzar hacia otras frmulas ms positivas.
La educacin no es un fenmeno asptico. La forma de organizar las
escuelas tiene mucho que ver con la justicia social. Tampoco lo es la
evaluacin de los procesos educativos, sea cualquiera el mbito y la temporalidad de los mismos. La tica que se exige a la evaluacin ha de
presidir tambin la metaevaluacin. Hasta dnde ha de llegar esta exigencia?, quin evala a los metaevaluadores? Si se establecieran comisiones de garanta de la tica, quin ejercera el control democrtico
sobre ellas?
No siempre se plantea la evaluacin siguiendo estos criterios. Cuando
se pretende medir los resultados de las experiencias y de los centros escolares a travs de pruebas estandarizadas con el fin de hacer una clasificacin segn la posicin en la escala y se conceden luego recursos siguiendo
esa clasificacin, se est utilizando la evaluacin al servicio de la injusticia y de la desigualdad. Por muy rigurosas y precisas que sean las pruebas, no se evita el desajuste moral. Se est dando a los que ms tienen
(cultura, dinero, poder) todava ms a travs de un instrumento que parece neutral y asptico. Es una trampa terrible que algunos defienden de
forma ingenua y muchos de manera interesada.
El aprendizaje en la evaluacin
La metaevaluacin implica que comprendamos cmo aprenden las personas a partir de la actividad de evaluacin. Despus de todo, slo en el
acto del aprendizaje se garantiza el valor de la evaluacin. La evaluacin
permite construir un conocimiento que se cimenta en los datos recogidos durante la exploracin y el trabajo que los evaluadores realizan con
los mismos. Aunque la finalidad fundamental sea la mejora, lo cierto es
que la evaluacin aporta un caudal de nuevos conocimientos al acervo
de saber sobre la educacin.
Una fuente de informacin y de conocimiento es el proceso mismo de
la evaluacin. Se aprende, a travs de la evaluacin, cmo se debe plantear, negociar, explorar, redactar informes, aplicar resultados, etctera.
Revista Mexicana de Investigacin Educativa
929
Santos y Moreno
930
931