Está en la página 1de 31

La evaluacin de la ciencia y la tecnologa

Indicadores del sistema nacional de


ciencia y tecnologa

Mario Albornoz

1. La evaluacin en ciencia y tecnologa

El problema de la asignacin de valor a los conocimientos cientficos ha sido una


cuestin siempre presente, a partir de la primera institucionalizacin de las
comunidades cientficas en el siglo XVII. Muy tempranamente, la Royal Society debi
desarrollar metodologas y criterios que le permitieran seleccionar los trabajos
cientficos que seran publicados, y establecer un orden de prelacin entre ellos. Los
primeros socilogos de la ciencia, como Robert Merton, Joseph Ben David y Derek de
Solla Price describieron los mecanismos por los cuales la comunidad cientfica se
autorregulara mediante la asignacin y reconocimiento de valor a la actividad de sus
miembros y a los reultados de su trabajo.
Esta dimensin del proceso de evaluacin remite exclusivamente a la calidad y
relevancia terica de los resultados de la investigacin. Sin embargo, a partir de la
atencin prestada por los gobiernos a la ciencia (proceso que en gran escala se
desarroll a partir de la segunda guerra mundial) otras finalidades sociales, propias de
la lgica de los intereses pblicos, han tornado ms complejo el proceso de
evaluacin, introduciendo en l nuevos criterios y actores. Las decisiones relativas a
las lneas de investigacin que habrn de ser financiadas y desarrolladas, as como los
campos del saber que sern explorados tienen ahora que ver con otras dimensiones,
tales como la pertinencia o relevancia social, o la correspondencia con un sistema de
prioridades polticas. En el campo de la tecnologa, obviamente, los criterios de utilidad
y eficiencia ocupan un lugar central en el proceso evaluador. Estos rasgos han
convertido a la evaluacin en un ncleo central de las polticas y en la gestin de la
ciencia y tecnologa.
La evaluacin en ciencia y tecnologa, del mismo modo que la evaluacin de las
instituciones de educacin superior, est en el centro de un debate que ha adquirido
ciertos ribetes tericos por cuanto hay quienes sealan que este proceso en la
actualidad redefine los roles tradicionales del Estado y otros actores sociales. Hay
quienes ven en estas tendencias el surgimiento de una nueva tica, asociada al
desarrollo de la calidad, la eficiencia y el desempeo.
La evaluacin tiene la finalidad de garantizar determinadas normas y valores
acadmicos, tratando de asegurar que se alcancen niveles bsicos de rendimiento,

con resultados satisfactorios acordes a la inversin y los gastos realizados. Se trata de


racionalizar la aplicacin de recursos que, de por s, son escasos, tomando conciencia
de la responsabilidad pblica de las instituciones de cumplir con sus objetivos. Los
fines de la evaluacin suelen expresar el propsito de mejorar los programas y las
instituciones, facilitando la asignacin de recursos. Un rgimen eficaz de evaluacin
debera combinar la capacidad institucional de lograr las metas propuestas, el
funcionamiento efectivo de la organizacin y constatar la medida en que se satisfacen
estndares de la institucin. La evaluacin debera orientarse de manera que
posibilitara verificar la efectividad del funcionamiento de una institucin o programa,
buscando tambin que se aseguren ciertos estndares definidos por la propia
comunidad cientfica, enfatizando el nivel de los posgrados o de la investigacin. En
cualquier caso, es muy recomendable que los fines de la evaluacin sean
consensuados entre los usuarios, los realizadores de la evaluacin y los evaluados,
como condicin bsica para lograr la legitimidad social de la evaluacin.
La importancia adquirida por la evaluacin se deriva, tanto de las finalidades explcitas
enunciadas, como tambin de otras que estn implcitas. Segn la OCDE, algunas de
las ms importantes finalidades explcitas de la evaluacin en ciencia y tecnologa son
las de otorgar financiamiento, acreditar grupos, apoyar la evaluacin institucional
global, determinar capacidades, identificar vacancias. Las finalidades implcitas, por su
parte, tienen que ver con la consolidacin de la comunidad cientfica y la puesta en
prctica de su sistema de valores, roles y reconocimientos internos.
El auge de una cultura de la evaluacin y rendicin de cuentas es creciente, en la
medida en que el conocimiento cientfico es percibido como un valor estratgico. Esto
tambin es debido a la necesidad de justificar la asignacin de recursos pblicos. La
naturaleza fluida de estos acontecimientos ha forzado tambin la necesidad de
reconceptualizar el modo en que los conocimientos son creados, atesorados,
difundidos y aplicados. El clsico modelo lineal concebido como un gradiente entre la
investigacin bsica y el desarrollo tecnolgico se encuentra hoy profundamente
cuestionado, as como el propio concepto de ciencia y, consiguientemente, el perfil
de los actores involucrados. De una estilizacin de la comunidad cientfica entendida
como repblica de la ciencia se ha mudado actualmente a conceptos y definiciones
ms abiertos, en los que queda involucrada una diversidad de actores. Esta tendencia
tambin enfatiza la evaluacin de resultados mediante procedimientos en los que
intervengan actores no cientficos. Hay que advertir, en este sentido, que desde el
punto de vista de la comunidad cientfica esto implica una prdida de control no
aceptable por cuanto abrira las puertas a la mediocridad, ya que con el argumento del
inters econmico y social el mtodo inducira a la aprobacin de proyectos de
investigacin de escaso mrito cientfico.
Desde hace algo ms de una dcada la innovacin ha ocupado el centro de las
polticas orientadas a impulsar las transformaciones econmicas y sociales sobre la
base de insumos cognitivos. La teora de la innovacin especialmente en su
desarrollo ms reciente hacia la teora de los sistemas sociales de innovacin- plantea
desafos, no slo en lo referido a la educacin, sino tambin en lo que respecta a la
creacin de nuevos conocimientos tericos o aplicados. Ello dibuja un escenario en el
que las universidades deben desempear un papel dotado de gran protagonismo, lo
que implica necesariamente que la universidad asuma responsabilidades nuevas,
desarrolle capacidades originales y se involucre de un modo diferente al de pocas
anteriores en el tejido social.
Algunos de los cambios que ms recientemente se estn produciendo en las formas
organizativas de la investigacin cientfica y tecnolgica son explicados por el trnsito

Evaluacin e indicadores / Pgina

hacia un nuevo modo de produccin de conocimiento, que ocurrira a escala mundial;


esto es, un nuevo formato de investigacin, con nuevos criterios y nuevos actores. Tal
proceso evolucionara hacia la prctica de la investigacin transdisciplinaria, cuya
caracterstica consiste en privilegiar el problema a resolver, como principio organizador
del conocimiento. 1
En el modo tradicional se ha sealado- predominaban la organizacin disciplinaria del
conocimiento, la autonoma en el ejercicio de la actividad acadmica y la orientacin
fundamentalmente bsica de la investigacin, alejada de consideraciones prcticas o
econmicas relativas a la utilidad o aplicabilidad del conocimiento. El nuevo modo de
produccin del conocimiento se caracterizara, en cambio, por los siguientes rasgos:
se trata de conocimiento producido a partir del contexto de aplicacin, tiene carcter
transdisciplinario, presupone una gran heterogeneidad organizacional y requiere un
sistema de amplia base social para el control de la calidad.
En este nuevo marco, en el que se ha pasado a un modo que involucra mltiples
dimensiones y actores, el proceso de evaluacin se ve afectado radicalmente. En
efecto, la evaluacin debe ahora contemplar esta multiplicidad, tomando en
consideracin ya no solamente la calidad del conocimiento en s, sino tambin su
relevancia social y la inclusin de otros actores.
Tradicionalmente, la evaluacin en ciencia y tecnologa estaba centrada en
parmetros y criterios de calidad en una matriz disciplinaria, a los que se aaden
ahora criterios de relevancia social o pertinencia. En tal sentido, mientras
anteriormente se estimaba la capacidad cientfica de una institucin en este caso, la
universidad- en funcin de su acervo de conocimientos, su posicin relativa a la
frontera de las disciplinas y el nivel cientfico de sus investigadores, hoy se toma en
cuenta, adems de todo ello, el modo de inclusin en estructuras sociales de cierta
complejidad.
Asimismo, los enfoques actuales de evaluacin en ciencia y tecnologa toman en
cuenta muy especialmente los procesos de decisin que conducen a la apertura de
campos, lneas y proyectos de investigacin, ya que tales procesos ponen de
manifiesto la tendencia preponderante hacia uno u otro de los modos de produccin
del conocimiento. De acuerdo con esto, el mtodo de evaluacin tradicional, basado
en el juicio de los pares, est siendo revisado en los sistemas de evaluacin de la I+D
de los pases ms avanzados, tendiendo a la inclusin de los no pares en el proceso.

1.1. El proceso de evaluacin


La organizacin de los procesos de evaluacin ha exigido implementar procedimientos
que se sustentan en diversos criterios que reflejan la tensin entre las dimensiones
ms vinculadas con la autoregulacin de la comunidad cientfica y las ms utilitarias
que prevalecen en la mirada de los gobiernos o los actores econmicos. En algunos
casos, los procedimientos estn basados en el juicio de pares acadmicos y, en otros,
en la participacin de diversos actores, as como en la aplicacin de criterios
desarrollados conforme a propsitos institucionales. Asimismo, es frecuente impulsar
procedimientos de autoevaluacin, complementarios de las evaluaciones externas.
1 GIBBONS, M. et al.; La nueva produccin del conocimiento; Pomares-Corredor, Barcelona,
1997.

Evaluacin e indicadores / Pgina

A partir de la dcada de los setenta se fueron desarrollando criterios homogeneizados


a nivel internacional para evaluar la productividad en el trabajo cientfico; muchos de
estos parmetros surgieron vinculados al caso de la fsica y se fueron generalizando a
todas las reas de investigacin. La crtica fundamental a estos criterios se basa en
que los mismos no siempre reconocen las diferentes tradiciones disciplinares, ni las
diversas formas de tratamiento de los objetos de estudio, as como de los mecanismos
de difusin de los conocimientos y la vinculacin con el medio socio-econmico de las
disciplinas humansticas, sociales, naturales, tecnolgicas. La "cientometra" puede
considerarse como un elemento auxiliar en esta evaluacin. La literatura especfica
habla de evaluacin de investigacin, realizada por la aplicacin de indicadores de
produccin, productividad e impacto de las publicaciones, teniendo en cuenta la
participacin en revistas internacionales de prestigio con referato.
En un informe ya clsico, la OCDE sealaba que en el proceso de evaluacin de
actividades de ciencia y tecnologa hay varios aspectos a considerar; entre ellos, el
campo de la evaluacin, los criterios en los que se apoya y la organizacin mediante la
cual se lleva a cabo. Estos aspectos son interdependientes. A ellos es posible agregar
un quinto aspecto, al que se podra denominar como aspecto contextual, en el que se
incluyen aquellos elementos de tipo social e institucional que inciden tanto en el
proceso de I+D como en su evaluacin.

1.1.1. El campo de la evaluacin


El campo de la evaluacin predetermina a los dems y remite a la idea de que los
criterios aplicados y los mtodos a utilizar difieren segn el tipo de investigacin de
que se trate, el objeto o unidad de anlisis y el momento del proceso de investigacin
en que se produce el acto evaluador.
Tipo de investigacin
Por tipo de investigacin se entiende la distincin tradicional entre la investigacin
bsica, la investigacin aplicada y el desarrollo experimental, agrupados habitualmente
en la expresin investigacin y desarrollo (I+D). Una definicin standard de cada uno
de ellos est contenida en el manual de Frascati, de la OCDE. A estos tipos se suele
agregar el de investigacin estratgica, que remite a aquella investigacin que tiene
el formato de la bsica, pero que apunta hacia un objetivo de aplicacin a medio y
largo plazo. La investigacin universitaria puede constituir un tipo propio cuando se
trata de investigacin de apoyo a la docencia y en tal caso los parmetros que se
aplican para su evaluacin son especficos.
Cada uno de estos tipos de I+D tiene propsitos distintos; tambin tiene una cultura
propia y concierne a actores diferentes. La evaluacin de la I+D debe tomar en cuenta
a todos ellos. Esto genera cierta dificultad cuando se trata de evaluar programas
complejos, ya que ellos suelen contener una amalgama de tipos de investigacin.
Cabe sealar adems que en la configuracin del tipo de investigacin incide
tambin el tipo de disciplina de que se trate, ya sea que pertenezca al campo de las
ciencias exactas, las ciencias sociales o el desarrollo experimental de tipo ingenieril.
Las herramientas de la evaluacin varan tambin segn un tipo u otro de disciplina.
La prctica de las instituciones gestoras de actividades cientficas y tecnolgicas
establece que tanto los programas de investigacin bsica como aplicada deben ser
evaluados regularmente. Un informe sobre los procesos de evaluacin realizado por
las academias nacionales de ciencia e ingeniera, de los Estados Unidos, sealaba

Evaluacin e indicadores / Pgina

que en el caso de la investigacin aplicada, los resultados prcticos pueden ser


documentados y los progresos realizados pueden ser medidos concretamente en
forma anual. Sin embargo, los resultados prcticos de la investigacin bsica no
pueden ser identificados mientras la investigacin est en progreso, por lo se deben
buscar los caminos que permitan medir la calidad de la investigacin2.
En la bsqueda de un modelo analtico ms flexible que el del Manual Frascati, se ha
sugerido la distincin entre investigacin disciplinaria, investigacin transversal e
investigacin instrumental. La primera est enmarcada en las preocupaciones
especficas de la disciplina. La segunda es la que se encuentra en el trnsito de
construccin de un nuevo campo de conocimiento mediante la interaccin de ms de
una disciplina, como la bioqumica en su momento, la biologa molecular, algunos
campos nuevos de las neurociencias que combinan psicologa cognitiva, biologa
molecular y gentica, entre otros. La constitucin de un nuevo campo supone
procesos de cambio de paradigma, intereses cognitivos opuestos, estrategias de
subversin ms que de acatamiento a paradigmas vigentes, o encuadramiento en las
lneas y temas predominantes. La investigacin instrumental se corresponde con el
denominado nuevo modo de produccin de conocimiento cientfico.
La evaluacin en cada uno de estos modelos debe ser resuelta de un modo diferente.
Un ejemplo de esto puede ser el de los comienzos de la biologa molecular, cuando la
mayora de los miembros del campo bioqumico consideraban a aqulla solamente
como un conjunto de tcnicas novedosas para tratar problemas y objetos definidos,
ms que como un nuevo campo, con sus propios objetos y problemas. En un proceso
de evaluacin esta distincin poda implicar la diferencia entre proyectos con
relevancia o sin relevancia cientfica. La evaluacin de la investigacin instrumental
supone una complejidad cognitiva quiz menor al tipo anterior y una complejidad
valorativa y social mayor. Desde el punto de vista cognitivo admite la combinacin
sumatoria de perspectivas disciplinares en la evaluacin de calidad. Pero se agregan
nuevos otros valores sobre el producto del conocimiento, tales como la utilidad social,
la tica del objeto y del proceso, el riesgo e incertidumbre, la tensin entre distribucin
y exclusin, la oportunidad poltica y la rentabilidad econmica (individual y social).
Objeto o unidad de anlisis
La determinacin del objeto o unidad de anlisis en el proceso de evaluacin es un
aspecto fundamental, ya que los mtodos varan si se trata de evaluar investigadores
aislados o grupos. Tambin difieren los procedimientos, en relacin con su grado de
complejidad, si la evaluacin se refiere a proyectos, disciplinas o dominios completos
del conocimiento. La evaluacin de las popias instituciones cientficas constituye
asimismo un caso aparte, ya que en su desarrollo es preciso tener en cuenta criterios
relativos a la calidad de la I+D junto a criterios de racionalidad organizativa. Otro caso
especial es el de la evaluacin de programas en cuya ejecucin corresponde a
numerosas instituciones, especialmente si algunas de ellas no pertenecen o
pertenecen slo tangencialmente al mbito de la ciencia y la tecnologa. La literatura
que da cuenta de las experiencias de evaluacin enfatiza la necesidad de distinguir en
forma muy precisa estos niveles y destaca la utilidad de mtodos que ayuden a definir

Evaluating Federal Research Programs, National Academy Press, Washington, 1999. Informe
del Commitee on Science, Enginnering and Public Policy (COSEPUP), dependiente de la
National Academy of Science, la National Academy Enginnering y el Institute of Medicin de los
Estados Unidos.

Evaluacin e indicadores / Pgina

la unidad de anlisis. Un enfoque temprano en Amrica Latina distingua entre los


niveles de la propia unidad de I+D, las lneas de investigacin y los proyectos3.
El momento
Los mtodos de evaluacin difieren tambin con relacin al momento del proceso de
I+D sobre el que se aplican. El caso ms generalizado es el de la evaluacin ex ante,
que se realiza en forma previa a la decisin acerca de la eventual aprobacin de la
actividad y de su financiamiento. La evaluacin ex ante est adems ligada a las
polticas y a las prioridades establecidas. La evaluacin que se realiza durante el
desarrollo del proceso de I+D suele ser denominada como intermedia y
generalmente est vinculada con las etapas previstas en los proyectos. Esta
evaluacin es interactiva con la programacin y no debe ser confundida con el
concepto ms gerencial de seguimiento o monitoreo ya que, mientras estos ltimos
se centran sobre los aspectos de corte administrativo, tales como la utilizacin correcta
de los recursos y la certificacin de etapas alcanzadas, la primera remite a resultados
cientficos parciales. Cuando la evaluacin se lleva a cabo al final de los procesos de
I+D de que se trate, se la denomina como ex post. La evaluacin ex post trata de los
resultados, aplicacin de los recursos e impacto. Tiene un fin prospectivo tal como la
reorientacin de la programacin. En tal sentido, puede ser inmediata o a plazo
diferido y puede referirse a los resultados propiamente dichos o a su impacto en el
contexto social.

1.1.2. Criterios de evaluacin


Los criterios de evaluacin se establecen en funcin del tipo de investigacin y, en
trminos generales, se refieren tanto al inters cientfico como al inters econmico
social. Es bastante obvio que se requiere emplear diferentes criterios valorativos si la
cuestin a evaluar es el valor cientfico de un trabajo o su inters econmico o social.
Sin embargo, en forma creciente la actividad cientfica asocia ambas dimensiones y es
susceptible, por lo tanto, de diferentes miradas evaluadoras, ajustadas a criterios
diferentes. La eleccin de los criterios est relacionada con el momento de la
evaluacin, dado que en un caso se trata de medir propsitos y, en el otro, resultados
e impactos.
1.1.2.1. Criterios para la evaluacin ex ante
Algunos de los criterios de uso ms corriente para la evaluacin ex ante son los que
remiten a la calidad o mrito cientfico, los recursos y financiamiento, la coherencia
interna y la pertinencia econmica o social.
Criterios de mrito cientfico
Remiten a determinar la significacin y calidad de la propuesta para el dominio
cientfico de que se trate (originalidad, inters, factibilidad cientfica), la aptitud del
investigador para realizar la investigacin: Tiene el equipo de investigacin las
aptitudes y experiencia necesarias para desarrollar el trabajo previsto? Estos criterios
contemplan tambin la incidencia sobre otros mbitos cientficos o tecnolgicos, el
aporte del trabajo para la ciencia en general y su incidencia sobre la infraestructura o
base cientfica y tecnolgica).
Criterios de coherencia
3

Aroz, Alberto y Kamenetzku, Mario; Proyectos de Inversin en Ciencia y Tecnologa; Centro


de Investigaciones en Administracin Pblica, Buenos Aires, 1975.

Evaluacin e indicadores / Pgina

Estos criterios remiten a la factibilidad de un proyecto desde el punto de vista de su


adecuacin a los propsitos enunciados; esto es, si el proyecto responde a los
objetivos propuestos y si su articulacin es correcta. La adecuacin a los propsitos
hace referencia a cmo se hace la investigacin. Se debe mirar si la capacidad
acreditada de los investigadores, los mtodos propuestos y los recursos solicitados
son apropiados para alcanzar los propsitos de un proyecto. Los criterios de
coherencia responden a preguntas tales como si son claros y razonablemente
comprensibles los propsitos de la investigacin, si el acceso a la informacin est
asegurado y si el presupuesto y el cronograma son realistas.
Criterios sobre recursos y financiamiento
Los criterios sobre recursos y financiamiento remiten a la factibilidad tcnica y
econmica; esto es: si los recursos disponibles y solicitados son proporcionales a los
objetivos del proyecto. Se ha sealado que las carctersticas propias de las
actividades cientficas y tecnolgicas hacen que sea muy difcil aplicar los mtodos
corrientes de costo beneficio para la evaluacin de inversiones destinadas a llevar a
cabo esas actividades.4 Este conjunto de criterios incluye uno sobre optimizacin de
recursos, o de recursos versus recursos. Esto quiere decir que corresponde
determinar si en un escenario de limitacin de recursos y de competencia por ellos la
asignacin propuesta es la ms razonable y adecuada. Este criterio es de naturaleza
mixta, ya que por una parte contiene un juicio tcnico, pero en buena medida se
superpone con un criterio poltico. Otros criterios pertenecientes a este rubro son los
de justificacin del financiamiento pblico, especialmente cuando se trata de
investigacin orientada a la tecnologa ya que sus resultados son apropiables por
empresas determinadas y el Criterio de complementariedad, que remite a la
necesidad de evaluar si el financiamiento debe ser completo, adicional, o incremental.
Algunos criterios de uso frecuente
Mrito cientfico

Recursos y financiamiento

Originalidad o novedad del enfoque


Importancia del tema
Desarrollos tericos
Antecedentes y status actual del grupo de
investigacin

Presupuesto solicitado y disponible


Apoyo organizativo
Equipamiento necesario
Optimizacin de recursos
Justificacin del financiamiento pblico
Criterio de complementariedad

Coherencia
Claridad de propsitos
Acceso a la informacin
Diseo del proyecto
Adecuacin de la metodologa
Conocimiento del campo de investigacin
Probabilidad de xito en el logro de
resultados

Pertinencia
Valor econmico de los resultados
Adecuacin a prioridades
Desarrollo de capacidades o experiencia
Resultados potenciales
Planes de diseminacin de los conocimientos
Aplicaciones prcticas
Utilidad potencial

Criterios de pertinencia
Estos criterios determinan la relacin de las investigaciones con objetivos econmicos
y sociales, as como tambin con objetivos institucionales. Cuando la poltica cientfica
contiene prioridades definidas explcitamente, la pertinencia se refiere a la adecuacin
a ellas. Si bien los criterios de pertinencia se corresponden mayormente con la
investigacin aplicada y el desarrollo experimental, tambin se toman en cuenta
cuando se trata de investigacin estratgica. En este caso se considera la utilidad
4

Aroz, A. y Kametzky, M., ya citados.

Evaluacin e indicadores / Pgina

potencial, si bien la complejidad de este criterio, por cuanto depende de variables a un


futuro no prximo plantea la necesidad de una evaluacin continua.
Una estrategia utilizada para evaluar en forma anticipativa el inters de un proyecto de
investigacin es la de ponderar el conocimiento agregado. La idea de conocimiento
agregado remite a los resultados de la investigacin y podra ser formulada bajo la
pregunta Qu conocimiento nuevo aporta el proyecto en relacin con algn nivel de
acumulacin, ya sea de tipo acadmico o de aplicacin? En este aspecto, el juicio
debe ser relativo a determinar en qu medida y por qu vas el conocimiento generado
por el proyecto puede agregarse al stock de los conocimientos existentes.
1.1.2.2. Criterios para la evaluacin ex post
En trminos generales, los criterios de evaluacin ex post son similares a los de la
evaluacin ex ante en lo que se refiere a la calidad o mrito cientfico. El resto de los
criterios es reemplazado por otros que juzgan el resultado y su eventual impacto en el
contexto econmico y social, o sobre la estructura institucional.
Evaluacin de resultados
En la evaluacin de resultados criterio de cumplimiento de objetivos y metas es el de
uso ms corriente (implica una comparacin de los resultados con los objetivos y las
metas propuestas originalmente). Adems del cumplimiento, se suele aplicar el criterio
de calidad de los resultados (que, como se ha dicho, es de naturaleza similar al de la
evaluacin ex ante). A ellos se aade el criterio de eficiencia en el desarrollo de los
trabajos.
Evaluacin de impactos
La evaluacin de impactos no debe ser confundida con la evaluacin de resultados.
Los impactos trascienden al proyecto o la programacin. Remiten a contextos externos
al proyecto: organizacin en la que se lleva a cabo, medio social prximo o remoto,
niveles de actividad econmica, niveles educativos, cultura e ndices de salud, entre
otros. La evaluacin de impactos est menos normalizada en razn de las mltiples
dimensiones en las que ellos se producen, as como el hecho de que con frecuencia
son imprevisibles y no siempre resulta fcil establecer las causalidades: es decir, si tal
fenmeno puede ser legtimamente considerado como un impacto de cierto programa,
o si de debe a otras causas. Por este motivo, la evaluacin de impactos requiere una
dosis adicional de meticulosidad en el anlisis.

1.3. Organizacin de la evaluacin


La organizacin de la evaluacin es la delimitacin de responsabilidades de quienes
tendrn a su cargo llevarla a cabo. La organizacin de la evaluacin est relacionada
con la eleccin de la estructura con la que se llevar a cabo (en la que se integran los
pares y el personal tcnico de apoyo al proceso evaluador), la modalidad, el perfil de
los evaluadores y el grado de institucionalizacin de la estructura responsable de la
evaluacin.
La evaluacin requiere consenso acerca del campo, los fines y los criterios. La
evaluacin es una tarea colectiva. De all, la importancia de la seleccin del equipo
que tendr a su cargo la evaluacin (imparcialidad no cuestionada). La legitimidad
social de los rbitros es una cuestin fundamental de la que depende. En temas de
cierta complejidad o en comunidades cientficas pequeas la idoneidad y legitimidad
de los evaluadores plantea dificultades. Frecuentemente se apela a evaluadores

Evaluacin e indicadores / Pgina

extranjeros cuando no existe un par reconocido en la comunidad local, o cuando se


requiere una opinin muy especializada y no comprometida con intereses en juego.
Sin embargo, este recurso debe ser empleado con precauciones porque los pares
extranjeros algunas veces opinan a con desconocimiento del contexto, entendido
como las limitaciones o prioridades locales. En el caso de evaluaciones mixtas como,
por ejemplo, en la integracin de paneles con cientficos e industriales se presentan a
veces dificultades de dilogo que ataen al lenguaje, la lgica y el papel que se espera
que desempeen unos y otros.
Otros aspectos relativos a la organizacin tienen que ver con las modalidades de
evaluacin como, por ejemplo, si sta queda sometida a la libre actuacin de los
pares, o si ellos debern ajustarse a directivas precisas, con un gradiente de
formalizacin que incluye desde el diseo de los instructivos o formularios, hasta los
procedimientos a seguir. La posicin del evaluador en el sistema de toma de
decisiones es tambin un tema importante en lo relativo a la organizacin. El
evaluador puede desempear un papel excepcional, cuando se lo convoca ad hoc
para la evaluacin de un proyecto, o permanente, cuando se constituye una comisin
que se pronuncia sobre la totalidad de los casos durante un perodo de tiempo. El
sistema tradicional empleado por el CONICET ha sido de este ltimo tipo. En algunos
casos, la situacin es intermediaria, cuando se combinan ambas modalidades. El
sistema de evaluacin del FONCYT y el actual sistema del CONICET son de este tipo.
El problema de la profesionalizacin de la evaluacin y su legitimacin social a veces
es resuelto con la creacin de instancias evaluadoras permanentes dotadas de
independencia respecto a los tomadores de decisin. El ejemplo ms extremo de este
modelo es el de la Agencia Nacional de Evaluacin y Prospectiva de Espaa.

1.2. Mtodos de evaluacin


El mtodo ms efectivo para evaluar programas de I+D es la revisin por expertos, la
cual incluye revisin de la calidad, basada en el juicio de pares investigadores, revisin
de la relevancia (pertinencia) y punto de referencia (benchmarking). En trminos
generales, los mtodos de evaluacin de la I+D se basan en:
a) opiniones de otros cientficos de igual o mayor reconocimiento profesional que los
sujetos evaluados (juicio de pares),
b) juicios de valor de expertos en aplicaciones y desarrollos tecnolgicos, as como
usuarios de los resultados de la I+D,
c) indicadores objetivos (por ejemplo, la bibliometra) y
d) una combinacin de estos sistemas.
Es importante sealar que la multiplicidad de criterios implica necesariamente la
multiplicidad de actores ya que, del mismo modo que los no cientficos estn
incapacitados para opinar acerca de la calidad cientfica de una propuesta, los pares
cientficos no son, de por s, los adecuados para opinar acerca de la utilidad de ellos.
Ahora bien, el mtodo mixto tiene el problema de que requiere una definicin acerca
del papel de los actores y del peso relativo de los criterios de evaluacin. Esto plantea
la necesidad de otros modelos organizativos de la evaluacin distintos a los
tradicionales, que se integran exclusivamente por miembros reconocidos de la
comunidad cientfica: los pares. Los nuevos modelos organizativos difieren
fundamentalmente en que la constitucin de los comits es heterognea por la
inclusin de otros actores. Todo esto lleva al concepto de complejidad (multiplicidad de

Evaluacin e indicadores / Pgina

perspectivas legtimas, no linealidad, emergencia de los problemas, organizacin,


multiplicidad de escalas, incertidumbre).
Mtodos utilizados para evaluar I+D
Mtodos
Pros
Contras
Cuatitativo.
Las mediciones son slo
Anlisis Bibliomtrico
til sobre bases agregadas
para evaluar calidad de
ciertos programas y campos.

Tasa
de
econmico

Revisin por pares

retorno Cuantitativo.
Muestra los beneficios
econmicos de la I+D

Mtodo de fcil comprensin.


Permite evaluar la calidad de
la investigacin y a veces
otros factores. Una parte
importante de los programas
financiados con fondos
federales evalan la calidad
con este mtodo.

cuantitativas. No es til en
todos los programas y
campos. Las comparaciones
entre campos y pases son
difciles. Pueden ser
artificialmente influenciados.
Mide slo beneficios
financieros, no beneficios
sociales (tales como el
mejoramiento de la calidad
de la salud). El tiempo
transcurrido entre la I+D y el
beneficio econmicos es
frecuentemente largo.
No es til en todos los
programas y campos.
Se focaliza principalmente
sobre la calidad de la
investigacin. Otros
elementos son secundarios.
Generalmente sirve para
evaluar proyectos, no
programas. Gran diversidad
entre las diferentes agencias.
Reparos contra el uso de
redes de viejos. Los
resultados dependen de que
se involucre gente de la alto
nivel en el proceso evaluador.
Casos aislados, no
comparables entre
programas. Focalizar la
evaluacin sobre casos
puede acarrear dificultades
para evaluar los beneficios de
una programacin.

Permite comprender los


efectos de los factores
institucionales, tcnicos y
organizacionales que influyen
en el proceso de I+D.
Ilustra acerca de todos los
tipos de beneficio del proceso
de investigacin.
til para identificar vnculos
No es til para evaluacin de
Anlisis retrospectivo
entre programas de I+D e
corto plazo, debido a que el
innovaciones en perodos
intervalo entre la I+D y sus
largos de inversin en I+D.
resultados prcticos es largo.
Provee
una
herramienta
de
Puede ser focalizado sobre
Punto
de
referencia
comparacin
entre
pases
y
campos, no sobre
(benchmarking)
programas.
programaciones.
Fuente: Evaluating Federal Research Programs; National Academy Press; Washington, 1999.

Estudio de casos

La inclusin de nuevos actores en los procesos de investigacin cientfica implica una


autntica democratizacin del conocimiento. En muchos casos ahora se hace
necesario incluir a quienes pueden opinar sobre aspectos de su inters (problemas
tales como enfermedades, polucin y preservacin ambiental, pero tambin opresin,
discriminacin y explotacin). Adicionalmente, cierta parte del conocimiento se
presenta en nuevos contextos (comunidades indgenas o mtodos teraputicos

Evaluacin e indicadores / Pgina

10

tradicionales, por ejemplo). En este sentido, se puede afirmar que la ciencia moderna
est renovando su localizacin social en un contexto enriquecido. La tendencia actual
es hacia el diseo de procesos de evaluacin que combinen diversos mtodos. En
general, se puede establecer la siguiente tipologa:
Juicio de pares directo: Evaluacin realizada por especialistas de la misma
disciplina. Evala el valor cientfico.
Juicio de pares modificado: Evaluacin de pares con la inclusin de otros
actores, en forma adaptada a la necesidad de ampliar los criterios a considerar.
Juicio de pares indirecto: Evaluacin realizada en base a la utilizacin de
opiniones de pares emitidas inicialmente con otros propsitos.
Juicio Indirecto: Evaluacin realizada mediante la utilizacin de indicadores
bibliomtricos (publicaciones, frecuencia de citas, calidad de citas y citas asociadas) y
otros indicadores que tomen cuenta premios, congresos y financiamientos obtenidos
para I+D anteriormente, entre otros.
Todos los mtodos tienen ventajas y desventajas que deben ser tomadas en cuenta
en el diseo del proceso de evaluacin. En el juicio de pares existe un cierto peligro de
subjetividad (prejuicios o intereses) y en el juicio indirecto el peligro de una pseudoobjetividad en posible estmulo a ciertas disfuncionalidades tales como la compulsin a
la publicacin (publish or perish). En algunas disciplinas la legitimacin del juicio de
pares es muy escasa o negativa, dadas las tradiciones en materia de difusin de los
conocimientos, la que no siempre se produce por medio de revistas acreditadas en las
bases de datos sobre las que se elaboran los indicadores.

1.2.1. El juicio de los pares como mtodo de evaluacin


Los fines, los mtodos y los criterios de la evaluacin deben estar apoyados en un alto
grado de consenso entre los evaluados, los evaluadores y quienes demandan la
evaluacin. Tradicionalmente, el consenso est establecido alrededor de la validez del
mtodo de evaluacin por pares, dado que ste expresa el punto de vista de la
comunidad cientfica. La evaluacin por pares permite construir consenso entre los
investigadores con respecto a qu se debe investigar, cmo debe ser hecha la
investigacin, en qu marco institucional y de recursos, y quines son los que estn en
condiciones de hacerlo.
1.2.1.1. Ventajas y dificultades de la evaluacin por pares
En 1990 el Comit Asesor de los Consejos de Investigacin de Inglaterra encarg a
una comisin el estudio de las ventajas e inconvenientes del juicio de pares, en razn
de que se registraban muchas crticas acerca de su funcionamiento, por parte de un
importante sector de la comunidad cientfica. El documento elaborado es conocido
como Informe Boden sobre la Evaluacin por Pares y la defina como: un sistema
por el cual la excelencia intelectual o importancia de una pieza de trabajo es juzgada
por investigadores que trabajan en el mismo campo, o en un campo prximo.
Afirmaba tambin que no existen alternativas prcticas al juicio de los pares para la
evaluacin de la investigacin bsica. Sin embargo, propuso una lista de requisitos
necesarios que deben ser cubiertos por cualquier sistema basado en pares. Estos
requisitos cubren aspectos tales como la eleccin de los pares, la transparencia en sus
prcticas y la retroalimentacin en sus decisiones.

Evaluacin e indicadores / Pgina

11

El juicio de los pares puede ser considerado como central para la funcin de una
comunidad acadmica cuyo trabajo est sometido a los comentarios y a la crtica de
los pares acadmicos como una obligacin profesional (Informe Boden sobre la
evaluacin por pares, 1990).
La prctica de la revisin por pares o evaluacin por pares es una forma de
autorregulacin de la comunidad cientfica. Si bien es cierto que la autorregulacin
tiene amplias races en las estructuras profesionales, en este caso se produce la
particularidad de que sus consecuencias (en trminos de aprobacin o desaprobacin
de proyectos) comprometen al Gobierno en decisiones de financiamiento. Se ha
observado que en un mundo en el que la autorregulacin est siendo crecientemente
puesta en tela de juicio, basar el proceso de evaluacin sobre ella es una posicin de
dbil defensa. Sin embargo, el gobierno ingls, como sostn financiero de la ciencia
bsica, ha reconocido esta capacidad a la evaluacin por pares ya en 1918, al haber
adoptado lo que se conoce como el Principio Haldane surgido de las
recomendaciones formuladas por el Comit del mismo nombre.
El nivel cientfico y tecnolgico de todas las propuestas de investigacin
recomendadas para su apoyo por parte del estado est garantizado por la asistencia
constante de un Consejo Asesor integrado por un pequeo nmero de eminentes
cientficos con un coordinador administrativo. (Informe Haldane, 1918)
Tambin las empresas y las instituciones privadas que financian y apoyan la I+D han
profesado idntico respeto por el juicio de los pares. Sin embargo, el mtodo de la
revisin o evaluacin por pares ha comenzado a ser revisado y discutido en forma
creciente. A lo largo del debate suscitado, no obstante, el juicio de pares como mtodo
de evaluacin no fue invalidado, si bien varios aspectos de su aplicacin prctica
merecen revisin. En realidad, los cientficos no pueden cuestionarlo porque hacerlo
sera poner en tela de juicio su propio protagonismo. Muy por el contrario, slo
reclaman el derecho de que sus juicios sean reconocidos como verdaderos. El debate,
por lo tanto, ha estado centrado en algunos aspectos operativos y conceptuales. Por
ejemplo, en la descripcin de las prcticas de investigacin de los Consejos de
Investigacin abundan los trminos como excelencia, calidad y originalidad, pero
no se definen criterios que puedan hacerlos operacionales. Esto significara que los
pares reconocen esos atributos pero no pueden anticipar qu es lo que buscan cuando
se abocan a una evaluacin.
En 1993, el Libro Blanco de la Ciencia, la Ingeniera y la Tecnologa reabri la
discusin bajo la perspectiva de la relacin entre el juicio de los pares y la poltica
cientfica del gobierno. Se afirmaba:
En el futuro, las decisiones acerca de las prioridades para el financiamiento deben
estar ms claramente orientadas hacia el encuentro con las necesidades del pas y
con el fortalecimiento de la capacidad nacional para generar riqueza. (Libro Blanco de
la Ciencia, la Ingeniera y la Tecnologa, 1993)
Este punto de vista caus preocupacin en la comunidad cientfica, en el sentido de
que la primaca de la opinin de los pares fuera desafiada. Sin embargo, muchos
sectores acadmicos haban comenzado a ser crticos por lo que perciban como un
sesgo conservador en la evaluacin por pares que favorecen las formas de
investigacin familiares y seguras, frente a las innovadoras y riesgosas. En efecto,
desde el punto de vista de la relacin de la ciencia con la sociedad, el mtodo de
evaluacin por pares es congruente con lo que se conoce como el modelo lineal,
segn el cual el conocimiento se transfiere a la sociedad a partir de la investigacin

Evaluacin e indicadores / Pgina

12

bsica, pasando por la aplicada y por el desarrollo experimental. Desde un punto de


vista vinculado con tecnologa, este modelo es tambin conocido como visin
ofertista ya que su aplicacin econmica y social se basa en la oferta de
conocimientos generados por la comunidad cientfica.
Tanto la visin ofertista como el modelo lineal han sido puestos en tela de juicio
durante los ltimos aos. Tambin el papel excluyente de la comunidad cientfica
aparece cuestionado por la emergencia de nuevas formas de produccin del
conocimiento cientfico. Estas transformaciones afectan a los procesos de evaluacin y
al juicio de pares como mtodo fundamental.
En la literatura sobre metodologas de evaluacin se contrapone a veces la evaluacin
por pares y la evaluacin de mrito. Esta ltima excede el concepto de mrito
cientfico y es definida en funcin de criterios tales como la Oportunidad representada
por los conocimientos a adquirir, su Permeabilidad o capacidad de penetracin en
distintos campos, la Aplicabilidad a problemas concretos y la Explotabilidad de los
resultados. Pero si tericamente se distinguen, en la prctica no siempre es fcil
hacerlo. En la investigacin acadmica la evaluacin por pares en oposicin al
mrito- juega el papel casi exclusivo, pero la observacin demuestra que se utilizan
criterios cada vez ms amplios; por ejemplo, en los impresos que los Consejos
ingleses envan a los evaluadores se requiere su opinin acerca de la aplicabilidad del
proyecto. En la evaluacin de proyectos de ingeniera ambos tipos de criterio tienen
igual importancia. En cambio, en la investigacin orientada por criterios estratgicos la
evaluacin de mrito tiene ms importancia que la evaluacin por pares.
1.2.1.2. Crisis del sistema de pares
A pesar de su consenso bsico originario, el mtodo de la evaluacin por pares est
siendo revisado y discutido en forma creciente. La evaluacin basada en el juicio de
pares corresponde al modelo de la investigacin acadmica disciplinaria. Sin embargo,
el consenso disciplinario no es el nico factor de estructuracin de la actividad
cientfica y por lo tanto el consenso disciplinario no es el nico marco de relaciones
sociales en que se construye el conocimiento.
Desde una ptica ms vinculada con el conocimiento tecnolgico, muchas voces
cuestionan la pertinencia del juicio de pares para evaluar los proyectos orientados al
desarrollo tecnolgico y la innovacin. Desde una visin no lineal y ms interactiva de
la ciencia tambin se reclaman otros procedimientos de evaluacin.
En 1966 Derek de Solla Price mostraba que la ciencia se haba expandido de un modo
exponencial en los tres siglos anteriores, pero que, de seguir con tal tendencia, en cien
aos ms habra dos cientficos por cada mujer, hombre, nio o perro en la
poblacin.5 Efectivamente, la tasa de crecimiento se detuvo y la competencia por los
recursos se volvi ms dura, sometiendo a presin al juicio de pares como mtodo de
base para la asignacin de recursos.
La creciente limitacin de recursos est produciendo una elevacin en el rango
mnimo de selectividad en el financiamiento de proyectos. Por ello se requieren
distinciones cada vez ms finas entre propuestas que son, ms o menos, igualmente
meritorias. Esto conduce a que se produzca un agobio insoportable sobre el sistema
del juicio de pares. Esto ha conducido a una crisis en el sistema de juicio de pares
(Informe Boden sobre la evaluacin por pares, 1990).
5

PRICE, Derek de Solla (1973), Hacia una ciencia de la ciencia, Editorial Ariel, Barcelona.

Evaluacin e indicadores / Pgina

13

Las principales objeciones que se le formulan remiten tanto a los factores internos
como a los externos. Ellas son:
Sobreexigencia. La creciente limitacin de recursos est produciendo una
elevacin en el rango mnimo de selectividad en el financiamiento de proyectos. Por
ello se requieren distinciones cada vez ms finas entre propuestas que son, ms o
menos, igualmente meritorias. Esto conduce a que se produzcan decisiones arbitrarias
en el establecimiento de los rdenes de prioridad.
Fatiga. En conexin con el problema anterior, el incremento de los objetos a evaluar
(proyectos, artculos, informes de investigadores y grupos) genera gran presin sobre
los evaluadores, reduce su espritu de colaboracin y afecta la calidad de su trabajo.
Corrupcin. El sistema tiene cierta vulnerabilidad frente a la corrupcin, derivada del
hecho de que generalmente las personas ms calificadas para juzgar el mrito de un
investigador son, precisamente, sus ms cercanos competidores. Con cierta
frecuencia se recogen en la literatura denuncias sobre plagio y aprovechamiento
indebido de informacin obtenida durante el proceso de evaluacin.
Imprecisin. En la descripcin de las prcticas de evaluacin abundan los trminos
como excelencia, calidad y originalidad, pero a menudo no se definen criterios que
puedan hacerlos operacionales. Esto significa que los pares reconocen esos atributos
pero no pueden anticipar qu es lo que buscan cuando se abocan a una evaluacin, lo
cual es un serio problema para el establecimiento de reglas de juego crebles. Segn
la experiencia de la National Science Foundation, los jueces convergen en los
extremos (proyectos excelentes o muy malos), pero divergen en los casos intermedios,
en los que la aplicacin de criterios netos de excelencia, calidad y originalidad es
ms compleja.
Sesgo conservador. La evaluacin por pares suele privilegiar las concepciones
tradicionales sobre las innovadoras. Fomenta la ciencia normal, frente a la revolucin
de los paradigmas. Favorece las formas de investigacin familiares y seguras, frente a
las innovadoras y riesgosas. Con frecuencia, la evaluacin est contaminada por
prejuicios (por ejemplo, frente a proyectos poco ortodoxos).
Imparcialidad. En comunidades cientficas pequeas o en la evaluacin de
proyectos que requieren grandes inversiones, los jueces frecuentemente son parte y
su imparcialidad se ve afectada. En comunidades cientficas pequeas, adems, el
secreto con respecto al nombre de los evaluadores es relativo y puede dar lugar, o
bien a juicios de compromiso, o bien a arbitrariedades e impunidad.
Lmites frente a la heterogeneidad. En el marco de las polticas de estmulo a
la vinculacin, los procesos de evaluacin ataen a proyectos que incluyen
esencialmente aspectos econmicos y tecnolgicos. En estos proyectos prevalece la
evaluacin de resultados e impactos. El mtodo de evaluacin exclusivamente a cargo
de pares no resulta adecuado porque en l participan solamente los cientficos. La
evaluacin de proyectos correspondientes al modo 2 no puede quedar limitada al
juicio de los pares, ya que stos son incapaces de dar cuenta de la heterogeneidad de
actores y aspectos cientficos y no cientficos- involucrados6.

Gibbons M. et al. Ya citado.

Evaluacin e indicadores / Pgina

14

Cuando los proyectos se enmarcan en las prioridades de la poltica cientfica, se


platean inmediatamente los problemas de la interdisciplina y a la aplicacin de los
criterios no acadmicos en la evaluacin (tales como los criterios de prioridad poltica).

1.2.1.3. El papel de los no pares


Una de las preocupaciones acerca del mtodo de juicio de pares se centra en el papel
que el equipo administrativo (en oposicin a los investigadores activos) puede
desempear en el proceso de evaluacin. En los organismos cientficos de corte
tradicional, este papel es casi nulo y se reduce a los procedimientos administrativos
ms bsicos. En cambio, a medida que las decisiones relativas a la ciencia han sido
reconocidas como ms complejas se fue haciendo necesario incluir nuevos actores en
el proceso. El papel de los equipos de apoyo a la evaluacin ha ido transformndose
en consonancia con ello, adquiriendo un perfil ms tcnico y desempeando un
protagonismo mayor.
Un ejemplo de esto surge de la experiencia del Engineering and Physical Sciences
Research Council (EPSRC) de Inglaterra. En este Consejo, la clave del proceso de
evaluacin es el rea de programacin. Hay diecisis reas de programacin, cada
una de ellas gestionada por un administrador de programa, quien es un empleado a
tiempo completo del EPSRC. El sistema empleado por el FONCyT en Argentina tiene
rasgos comunes con este modelo. En l, el administrador de programa tiene formacin
cientfica pero no es considerado un par por los investigadores que solicitan
financiamiento. Sin embargo, el administrador de programa es responsable ante la
Direccin Ejecutiva por el logro de los objetivos que se asignan a su rea de
programacin.
El procedimiento adoptado por el EPSRC es uno de los que ha suscitado ms
comentarios. Lo ms caracterstico de este modelo es el papel de los administradores
de programa ya que, si bien stos no estn directamente involucrados en formular los
juicios de valor (el acto de la evaluacin), tienen una gran influencia en la totalidad del
proceso. El papel que se asigna al administrador de programa en la elaboracin de la
prouesta de financiamiento es considerado excesivo por muchos de los que opinan;
por este motivo, los defensores del procedimiento argumentan que en ningn caso se
violenta la decisin de los jueces.
En el Biotechnology and Biological Sciences Research Council (BBRC), el
procedimiento es parecido pero no existe la figura del administrador de programa. En
su lugar, funcionan comits temticos. Sin embargo, se ha propuesto incorporar
administradores de programa con la funcin de seleccionar los pares de una base de
datos, en consulta con los miembros del comit temtico. En el Welcome Trust
(institucin que financia investigacin mdica), miembros senior pueden seleccionar
los pares y actuar como adjuntos al Presidente de los comits que otorgan
financiamiento. Los no pares, por lo tanto, habitualmente desempean una variedad
de papeles en la conduccin de los procesos de revisin por pares.
Se ha sealado que el nuevo sistema de administradores de programa y, en general,
el mayor protagonismo desempeado por los no pares tiene ventajas por cuanto
resuelve problemas de eficiencia y ejecutividad en el proceso de evaluacin, al tiempo
que facilita la consideracin de aquellos proyectos con mltiples dimensiones. Sin
embargo, genera nuevos problemas que deben ser atendidos. En general, este
mtodo puede resultar muy til si:
a) El administrador de programa (o figura equivalente) acierta en buscar
asesoramiento de expertos al constituir el panel;

Evaluacin e indicadores / Pgina

15

b) los nombres de los miembros del panel son de dominio pblico;


c) hay cierta continuidad en los paneles, para que los criterios sean consistentes y no
mudables (la rpida rotacin puede crear desconcierto en los solicitantes);
d) los investigadores tienen confianza en la transparencia, en particular cuando se
eligen pares adicionales para aclarar, completar o corregir las primeras
evaluaciones cuando se perciben incongruencias.
En la National Science Foundation se emplea un sistema de este tipo y, como garanta
para neutralizar posibles arbitrariedades, se realiza un monitoreo constante del
proceso de evaluacin mediante comits visitantes. Esto equivale a realizar una
evaluacin de la evaluacin, prctica cuya generalizacin resulta muy recomendable.

1.3. La autoevaluacin
En el desarrollo de un proceso de evaluacin institucional, la etapa previa de
autoevaluacin suele ser un elemento de gran importancia, ya que permite la
participacin plena de los actores y favorece la internalizacin de los resultados. La
autoevaluacin no sustituye el juicio evaluador de los rbitros externos, sino que est
referida a aspectos complementarios. Lo propio de la autoevaluacin es abordar el
examen de ciertos aspectos que iluminen aquellos rasgos del funcionamiento de la
institucin que inciden sobre la calidad, orientacin, utilidad social y racionalidad
institucional de la investigacin cientfica y tecnolgica desarrollada.

1.3.1. Enfoque de la autoevaluacin


El proceso de autoevaluacin cubre objetivos especficos dentro de la evaluacin
institucional. Se trata de un ejercicio de participacin y de toma de conciencia por
parte de los actores involucrados; esto es, tanto los propios investigadores y
tecnlogos, como los responsables de la gestin de la I+D y su transferencia, as
como las autoridades que en cada nivel de la organizacin participan del proceso de
toma de decisiones en esta materia.
No es un cometido a priori necesario de la autoevaluacin la obtencin de la
informacin bsica, tal como los listados de grupos, proyectos, recursos (incluyendo
los obtenidos de otras fuentes, como las agencias nacionales, la cooperacin
internacional y la contratacin por terceros) y resultados (tales como publicaciones,
patentes, convenios, y desarrollos). Es deseable que la informacin requerida para el
anlisis de los ejes de la autoevaluacin, particularmente aquella dirigida a la
elaboracin de indicadores, sea generada previamente como insumo a partir de bases
de datos institucionales y de un conjunto de indicadores bsicos. En cambio, es un
cometido de la autoevaluacin el anlisis grupal de aquellos indicadores comparativos
del desempeo del grupo frente a otros de la misma institucin o externos a ella. Lo
que distingue al proceso de autoevaluacin no es la produccin de informacin
objetiva, sino la expresin de las valoraciones subjetivas y de la percepcin que los
actores tienen de los procesos que los involucran.
Ser materia propia de la autoevaluacin la capacidad de produccin y transferencia
del conocimiento cientfico en aquellos ejes que denotan principalmente el sistema de
relaciones interno en la prctica de la investigacin, la toma de decisiones, la gestin

Evaluacin e indicadores / Pgina

16

de la I+D y la vinculacin con actores externos a la institucin evaluada. En la tradicin


de la poltica cientfica contempornea se mencionan cuatro cuestiones centrales que
determinan la eficacia y utilidad social de un sistema de investigacin cientfica y
tecnolgica, tanto sea en la escala de un pas o de una institucin:
a) la orientacin de la investigacin en funcin de determinados objetivos de
naturaleza cientfica o de utilizacin social,
b) la efectiva transferencia del acervo de conocimientos para su aplicacin por
parte de actores sociales, econmicos y polticos,
c) los instrumentos y procedimientos ms apropiados para gestionar y
estimular la produccin de conocimientos, as como su transferencia,
d) el estmulo de las vocaciones cientficas y la formacin de jvenes
investigadores.
Un concepto central de este enfoque es el del acervo de conocimientos, entendido
como el conjunto de las capacidades cognitivas de la institucin y su aptitud para dar
respuesta a determinadas demandas sociales. Este concepto no es esttico y no se
trata de un inventario de conocimientos disponibles. El concepto es dinmico y
complejo, ya que contiene elementos referidos a la calidad de los conocimientos
producidos, a su proximidad relativa con respecto al horizonte alcanzado por la
disciplina cientfica o la rama tecnolgica de que se trate, a la idoneidad de los
investigadores y tecnlogos que se desempean en ella, a las diversas lneas de
investigacin y su relacin entre s, y a la prctica de la investigacin interdisciplinaria.
Incluye tambin, como variable prxima, el sistema de relaciones de los grupos de la
institucin con la comunidad cientfica y los centros tecnolgicos de alto nivel, en el
pas y en el exterior.
Es conveniente que la autoevaluacin est centrada sobre aquellos aspectos que, por
sus caractersticas, son adecuados a la naturaleza y alcances de la autoevaluacin
como reflexin participativa. Tales aspectos son los referidos a la percepcin de los
actores involucrados acerca de la capacidad de investigacin, del proceso de toma de
decisiones, de la demanda y de las estrategias seguidas en el contexto de los
intereses (de los propios investigadores y de la institucin) y los condicionamientos
externos. Asimismo, es necesario prestar atencin a la perspectiva de los actores
acerca de la vinculacin de la investigacin con la formacin de cientficos y
tecnlogos. Finalmente, el ejercicio se presta al anlisis de las fortalezas y debilidades,
tanto de los propios grupos de investigacin cientfica y tecnolgica, como de la
institucin en su conjunto.
1.1.3.2. Ejercicio de la autoevaluacin
El ejercicio de la autoevaluacin consiste normalmente en una serie de reuniones
abiertas a la participacin de los investigadores, tecnlogos y gestores de la
investigacin. Es recomendable que las reuniones se lleven a cabo en crculos de
inclusin creciente. Las reuniones debern tener el formato ms adecuado a la
naturaleza de las cuestiones a considerar, as como a las caractersticas de la
institucin en proceso de evaluacin. En las reuniones de autoevaluacin se suele
presentar como insumo para el debate la informacin producida en la etapa previa,
referida a proyectos, tamao y composicin de los grupos, normativas e indicadores.
El trabajo de los grupos tiene como objetivo manifestar la perspectiva de los
participantes con relacin a los ejes de la capacidad cientfica y tecnolgica, la
insercin social y el proceso de toma de decisiones.
El ejercicio de autoevaluacin consistir en un examen de las prcticas frecuentes de
investigacin en la institucin, tratando de determinar las tendencias predominantes en

Evaluacin e indicadores / Pgina

17

materia de la constitucin de equipos interdisciplinarios, particularmente en el abordaje


de ciertos problemas que por sus caractersticas as lo demandaran. Debe ser objeto
de la autoevaluacin el anlisis de las barreras que obstaculizan la investigacin
interdisciplinaria, las que frecuentemente tienen origen en la estructura burocrtica de
la investigacin, en la cultura de la institucin y en los sistemas que premian y castigan
la labor de los investigadores.
a) Estimacin de la capacidad cientfica y tecnolgica
La evaluacin de la capacidad cientfica y tecnolgica de una institucin implica la
realizacin de un juicio de valor en funcin de la capacidad y articulacin de los
grupos, su produccin y la prctica de la investigacin interdisciplinaria. Este eje se
ajusta en gran medida a procedimientos de evaluacin externa, ya que la estimacin
de varios de los criterios mencionados requiere la intervencin de pares evaluadores.
Adems de las opiniones cualitativas, se suelen utilizar indicadores cuantitativos y
ciertas pautas normativas relacionadas con el tamao y estructura ptimos de los
grupos. Esta informacin, en caso de existir, debera estar a disposicin de quienes
participan en las reuniones de autoevaluacin con el objeto de que puedan expresar
sus valoraciones con relacin a dicho material.
El campo de la autoevaluacin en este eje es el de la opinin de los actores
involucrados acerca de la informacin disponible, mencionada anteriormente, as como
la discusin de estrategias deseables que tiendan a consolidar o corregir los aspectos
de fortalezas y debilidades del grupo que hayan sido sealados. Otros campos son
especialmente propicios a la autoevaluacin, tales como el relativo a la vinculacin
interna y externa del propio grupo. En este sentido, el proceso de autoevaluacin debe
ser un elemento que favorezca la autoconciencia y cohesin de los grupos. Otro
aspecto especialmente propicio a la autoevaluacin es el mapa de los grupos, en
trminos de cobertura de temticas afines y complementarias, as como su articulacin
en la prctica.
El abordaje de problemas complejos requiere en forma creciente la prctica de la
investigacin interdisciplinaria, no slo entre disciplinas afines, sino tambin entre
campos cognitivos distantes como resultado de la especializacin e institucionalizacin
disciplinaria. El abordaje de determinados problemas de gran importancia para la
sociedad reclama un esfuerzo conjunto por parte de disciplinas de los campos de las
ciencias exactas, sociales y humanidades. En este sentido, la prctica de la
investigacin interdisciplinaria puede ser tomada como un indicador de la madurez de
un sistema cientfico y de su capacidad para dar respuesta a problemas de cierta
envergadura que surjan en el entorno social, en sentido amplio. A la inversa, la
prctica exclusiva de la investigacin orientada por problemas de las propias
disciplinas puede ser un factor limitante de la capacidad de respuesta de la institucin
de I+D frente a problemas surgidos en la compleja relacin de la sociedad con la
naturaleza.
b) Estimacin de la insercin social
En este eje, los criterios tradicionalmente usados son la importancia social del tema,
su valor econmico, el desarrollo de capacidades o experiencia, los resultados
potencialmente aplicables y la probabilidad de xito en el logro de resultados, adems
de los planes de diseminacin de los conocimientos y la transferencia a aplicaciones
prcticas. El eje se ajusta tanto a procesos de evaluacin externa como a la
autoevaluacin. Se suelen utilizar tambin indicadores cuantitativos, tales como el
nmero de patentes registradas, el nmero de convenios de investigacin contratada,
la transferencia de conocimientos y de tecnologa, y los recursos externos generados,

Evaluacin e indicadores / Pgina

18

entre otros. La pertinencia o relevancia social de los proyectos de I+D puede surgir de
la aplicacin de prioridades establecidas en alguna instancia de poltica cientfica, o
bien de la demanda de agentes externos a la institucin. Esta informacin debe ser un
insumo a disposicin de los participantes en las reuniones de autoevaluacin.
Frecuentemente, la relevancia social de la investigacin es determinada casi
exclusivamente a partir de percepciones de los propios grupos involucrados acerca de
lo que es socialmente relevante. En este caso, la percepcin del grupo puede
corresponderse con la realidad o no, en cuyo caso la efectiva transferencia hacia
potenciales usuarios se vera dificultada y eventualmente no se concretara. El juicio
acerca de esta dimensin es propio de la autoevaluacin y est estrechamente
vinculado con el anlisis de los procesos de toma de decisin. Es conveniente que en
el proceso de autoevaluacin se discuta acerca del ajuste en la previsin del posible
inters o impacto social, as como de la existencia, en los planes de trabajo, de
actividades de difusin social de los conocimientos adquiridos.
c) Proceso de toma de decisiones
Los enfoques actuales de la evaluacin en ciencia y tecnologa toman en cuenta muy
especialmente los procesos de decisin que conducen a la apertura de campos, lneas
y proyectos de investigacin. Este eje ofrece pocas dimensiones apropiadas para la
aplicacin de indicadores cuantitativos y pautas normativas establecidas a priori. Para
evaluar en forma adecuada la capacidad cientfica en el marco de la evaluacin
institucional es necesario analizar cmo funciona en la prctica el proceso de toma de
decisiones en materia de investigacin cientfica y tecnolgica. Tal anlisis merece un
abordaje desde mltiples niveles:
a) El primero remite a la instancia de decisin en la estructura de gobierno de la
institucin as como los criterios tomados en cuenta.
b) El segundo nivel de abordaje analiza las relaciones de la institucin con los
organismos del sistema de ciencia y tecnologa, a partir de sus propios
espacios de actuacin en particular los mecanismos de coordinacin del
sistema- bajo la perspectiva de identificar cmo las lneas de I+D son
influenciadas o determinadas por tales organismos.
c) El tercer nivel examina el grado de participacin de diferentes actores sociales
en la definicin de la estrategia de I+D adoptada por la institucin y el modo en
que son tomadas en cuenta las demandas surgidas del entorno social.
Como resultado del anlisis en los tres niveles mencionados es posible describir el
proceso de toma decisiones en materia de la estrategia institucional de I+D,
predicando acerca de su eventual coherencia, integracin y articulacin con otros
componentes o mbitos de decisin.

1.4. Indicadores del sistema nacional de ciencia y


tecnologa
Podemos definir a los indicadores como representaciones cuantitativas de los
procesos y parmetros que definen el estado y las dinmicas de los sistemas de
ciencia y tecnologa. Los indicadores constituyen un elemento de diagnstico y, por lo
tanto, los ms aptos son aquellos que resultan ser ms funcionales al tipo de
diagnstico y evaluacin que se pretende realizar. La construccin de indicadores de

Evaluacin e indicadores / Pgina

19

ciencia y tecnologa conlleva, en forma inherente, una reflexin acerca del proceso
social mediante el cual son generadas aquellas actividades de las que stos dan
cuenta. En otras palabras, la cuestin de los indicadores remite al desempeo de
actores sociales concretos, en un determinado contexto, desde la perspectiva
internacional de formular diagnsticos orientados a la toma de decisiones, la gestin y
la evaluacin.

1.4.1. Niveles de Indicadores


Siguiendo una propuesta sistemtica de Christopher Freeman (1982), uno de los
expertos que orient los primeros pasos de la OCDE en materia de indicadores de
ciencia y tecnologa, hay cuatro niveles de indicadores, que difieren unos de otros por
su grado de generalidad y por sus propsitos. Para analizar el proceso de produccin
de indicadores de ciencia y tecnologa es necesario diferenciar estos distintos niveles
en la recoleccin, procesamiento y utilizacin de la informacin estadstica.
a) El primer nivel est vinculado con la gestin de instituciones y remite a la
produccin de una variedad de indicadores parciales, elaborados generalmente
para propsitos locales de monitoreo interno, presupuesto y planificacin. En este
caso, no es imprescindible que los indicadores estn normalizados, aunque s es
importante que las metodologas garanticen la obtencin de informacin confiable.
b) El segundo nivel se refiere a estudios puntuales sobre la situacin de un rea
determinada, pero abarcando la totalidad del sistema cientfico. En este caso
suelen no requerirse series histricas, ya que en general se trabaja con cortes
temporales, pero s resulta vital la normalizacin a efectos de poder realizar
estudios comparativos.
c) El tercer nivel es el de la incorporacin oficial de un cierto set de indicadores en
algn relevamiento estadstico regular del gobierno, contando con definiciones y
conceptos estandarizados y series histricas nacionales.
d) El cuarto nivel corresponde a la comparacin entre pases, estandarizadas y
armonizadas por organizaciones internacionales o regionales que establecen las
tcnicas y metodologas estadsticas adecuadas.
El esquema permite contar con un sistema interactivo de indicadores, dotado de
muchos flujos de informacin y retroalimentacin entre todos los niveles. En este caso,
los niveles crticos no son siempre los ms altos, sino el nivel uno y dos, donde se
produce el primer paso en la recoleccin de datos y que suelen ser los principales
abastecedores de los niveles 3 y 4. Por ese motivo resultan vitales las capacidades
instaladas en las instituciones (universidades, empresas y organismos de ciencia y
tecnologa) para el relevamiento y procesamiento primario de la informacin cientfica
y tecnolgica.
Un requisito fundamental para que los indicadores construidos a nivel nacional tengan
una mxima utilidad es la posibilidad de compararlos internacionalmente. Esa es la
nica manera en que los analistas y encargados de la poltica cientfica pueden
ubicarse en el contexto de los dems pases y evaluar el impacto de sus decisiones en
comparacin con otros pases y fijarse metas en funcin de los resultados obtenidos
por los dems pases.

Evaluacin e indicadores / Pgina

20

Los procesos de armonizacin de metodologas y clasificaciones son indispensables


para lograr la comparabilidad internacional. Slo de esta manera se puede asegurar
que todos los pases estn hablando en un mismo idioma al publicar sus indicadores
y que han calculado la informacin utilizando mecanismos equivalentes. Para lograr
esto se recurre a organizaciones internacionales especializadas en la medicin de las
actividades cientficas y tecnolgicas, que luego de un trabajo de estudio y reflexin
dejan plasmadas las pautas y recomendaciones en la publicacin de manuales
metodolgicos.
Ya desde los aos cincuenta, la National Science Foundation (NSF) de Estados
Unidos comenz a elaborar indicadores a escala nacional, con un alto nivel de detalle.
La actividad de la NSF tuvo una gran repercusin en otros pases industrializados
como el Reino Unido, Canad, Holanda y Francia, que comenzaron a realizar sus
propias mediciones. Sin embargo, las diferencias en los mtodos y conceptos hicieron
muy difciles las comparaciones internacionales. Las diferencias en los datos as
recogidos ponan en evidencia la necesidad de normalizacin en este campo como ya
se hizo para las estadsticas econmicas.
Esta comprobacin dio lugar a que la Organizacin para la Cooperacin y Desarrollo
Econmico (OCDE) impulsara una estandarizacin que se tradujo en la elaboracin
del "Manual de Frascati", cuya primera versin fue elaborada durante 1961 y 1962,
publicada un ao ms tarde y revisada posteriormente varias veces, la ltima en 2002.
Siguiendo a Freeman nuevamente, se trataba del primer logro de nivel 4. Ms tarde,
Por otra parte, se abordaron otros aspectos de la medicin de las actividades
cientficas y tecnolgicas, orientadas a resultados e impactos econmicos, como
puede verse en los manuales de Patentes, Manual de Oslo para la medicin de
indicadores de innovacin, el Manual de Canberra para la medicin de los recursos
humanos para la ciencia y la tecnologa, y el manual para la medicin de la Balanza de
Pagos Tecnolgica, entre otros.
La UNESCO dispone desde 1965 de un sistema de obtencin y anlisis de datos de
ciencia y tecnologa, y publica desde 1969 su Statistical Yearbook. Posee una base de
datos que comprende los recursos humanos y financieros en I+D de aproximadamente
ochenta pases. El desarrollo metodolgico alcanzado por la UNESCO se plasmo en
varias "guas": la "Gua provisional para el establecimiento de estadsticas de la
ciencia" (1968), la "Gua para el inventario del potencial cientfico y tecnolgico
nacional" (1969) y la "Gua para la recogida de datos estadsticos sobre Ciencia y
Tecnologa" (1977). En 1978 la UNESCO adopto su "Recomendacin referente a la
normalizacin internacional de las estadsticas sobre Ciencia y Tecnologa",
documento que tuvo en cuenta la experiencia aportada por otras organizaciones, como
la OEA y la OCDE. Con este documento se alcanz una reconciliacin" entre ambas
metodologas.
Muchas veces el mbito regional tiene una fuerte impronta en la necesidad de obtener
indicadores comparativos. Un caso paradigmtico es el del trabajo realizado por la
Comisin Europea con su servicio de estadsticas Eurostat. En el escenario
internacional, por tanto, la reflexin acerca de indicadores de ciencia y tecnologa est
estrechamente vinculada a las caractersticas propias de los pases de mayor
desarrollo relativo. En Iberoamrica, la organizacin encargada de la tarea de recopilar
y normalizar la informacin estadstica regional es la Red Iberoamericana de
Indicadores de Ciencia y Tecnologa (RICYT), creada en 1995 por el Programa
CYTED y que ha recibido tambin el apoyo de la Organizacin de Estados Americanos
(OEA). Desde entonces se ha hecho un importante trabajo para fortalecer los sistemas

Evaluacin e indicadores / Pgina

21

de informacin de los pases iberoamericanos y repensar las metodologas a partir de


las caractersticas propias de la regin.

1.4.2. Tipos de Indicadores


Los indicadores se distinguen por el tipo de actividad cientfica y tecnolgica de que
dan cuenta y por el aspecto especfico que indican dentro de cada proceso. Los
indicadores evolucionan en el tiempo en la misma medida en que lo hace la
comprensin de los procesos de produccin, difusin y aplicacin del conocimiento.
Dicho de otro modo, expresan las distintas visiones que en cada momento se tienen
de la relacin entre la ciencia, la tecnologa y la sociedad.
Los primeros indicadores desarrollados sistemticamente fueron, a propuesta de la
UNESCO, los indicadores de actividades cientficas y tecnolgicas (ACT). Este tipo de
indicadores proporcionaba una primera forma de distincin entre la investigacin y
desarrollo (I+D) y otras actividades centrales en el proceso de difusin del
conocimiento. Posteriormente, la OCDE canaliz un importante esfuerzo de
normalizacin de indicadores centrados estrictamente en la I+D. Los indicadores de
I+D, que actualmente son muy utilizados, en su origen reflejaban el modelo lineal, es
decir una concepcin del modo de produccin y difusin del conocimiento cientfico y
tecnolgico que pone el acento en la oferta de conocimientos generados en las
instituciones de investigacin. En la dcada de los noventa, las polticas relativas al
cambio tecnolgico adoptaron el enfoque de los sistemas de innovacin, centrados en
la actividad de los agentes productores. Este nuevo enfoque demand otro tipo de
indicadores: los indicadores de innovacin.
Las teoras del capital humano dieron lugar a la necesidad de disponer de
indicadores de recursos humanos
que permitieran disear polticas eficaces
tendientes a la consolidacin de la capacidad cientfica de cada pas. Otros aspectos
de la gestin del conocimiento han dado lugar a diferentes tipos de indicadores, tales
como los de balanza de pagos tecnolgicos y comercio internacional de bienes con
alto contenido tecnolgico. Cada uno de estos tipos de indicadores ha dado lugar a
una norma internacional en la medida que se iban alcanzando acuerdos relativos a las
formas comparables de medirlos. La otra dimensin que permite diferenciar los tipos
de indicadores se refiere a los aspectos del proceso que iluminan. En este sentido,
dentro de los indicadores de I+D se distinguen los indicadores de insumo y los de
producto, cada uno con su detalle. Algunos de estos indicadores detallados han
alcanzado un gran nivel de desarrollo y sofisticacin, como es el caso de los
indicadores bibliomtricos.

1.4.3. Actividades Cientficas y Tecnolgicas (ACT)


Conviene examinar qu pasa con los indicadores en relacin con los tres segmentos
que componen las actividades cientficas y tecnolgicas (ACT) segn la definicin de
la UNESCO (UNESCO, 1978), seguida en este punto por la OCDE en su Manual de
Frascati (OCDE, 2002). Las ACT, segn esta fuente, son aquellas actividades
sistemticas, estrechamente relacionadas con la generacin, produccin, difusin y
aplicacin del conocimiento cientfico y tcnico en todos los campos de la ciencia y la
tecnologa. Incluyen actividades tales como I+D, la enseanza y la formacin
cientfico-tcnica y los servicios cientficos y tcnicos". A continuacin analizaremos
cada una de ellas por separado.

Evaluacin e indicadores / Pgina

22

La investigacin y desarrollo (I+D)


Para el anlisis de la I+D el Manual de Frascati adopta la distincin entre investigacin
bsica, aplicada y desarrollo experimental adoptada originalmente por la UNESCO. La
definicin de tales categoras en el manual de la OCDE es la siguiente:
a) La investigacin bsica consiste en trabajos experimentales o tericos que se
emprenden principalmente para obtener nuevos conocimientos acerca de los
fundamentos de los fenmenos y hechos observables, sin pensar en darles
ninguna aplicacin o utilizacin determinada.
b) La investigacin aplicada consiste tambin en trabajos originales realizados
para adquirir nuevos conocimientos; sin embargo, est dirigida
fundamentalmente hacia un objetivo prctico especfico.
c) El desarrollo experimental consiste en trabajos sistemticos que aprovechan
los conocimientos existentes obtenidos de la investigacin y/o la experiencia
prctica, y est dirigido a la produccin de nuevos materiales, productos o
dispositivos; a la puesta en marcha de nuevos procesos, sistemas y servicios,
o a la mejora sustancial de los ya existentes.
Enseanza y formacin
La Clasificacin Internacional Tipo para la Educacin (ISCED) de la UNESCO define
las actividades educativas incluidas en las ACT como aquellas "de nivel superior
especializado no universitario, de enseanza y formacin superiores tendientes a la
obtencin de un ttulo universitario, de formacin y de perfeccionamiento
posuniversitario, y de formacin permanente organizada de cientficos e ingenieros".
Con relacin a este tipo de ACT, la National Science Foundation desde hace aos
construye indicadores muy detallados y que resultan de gran inters para los analistas
de poltica cientfica. La publicacin Science and Engineering Indicators (NSF, 2004)
contiene indicadores tales como la "participacin por grupo etario de en la graduacin
en ciencias e ingeniera, por tipo de ciencia y por pas". En este caso, el universo se
restringe solo a un grupo de pases asiticos, europeos y los tres de Amrica del
Norte.
Otro de los indicadores que presenta es la ratio de graduados en ciencia e ingeniera
sobre el total de graduados, tambin para el mismo conjunto de pases. Las
estadsticas nacionales norteamericanas ofrecidas por la publicacin contienen con
minucioso detalle el nmero de alumnos por nivel (grado o posgrado), sexo, origen,
carcter tnico, nivel de graduacin, tipo de establecimiento y otros criterios
clasificatorios. El nico indicador de esta serie que refleja la existencia de los pases
sudamericanos es el que recoge la informacin de los "doctorandos extranjeros que
planean permanecer en los Estados Unidos". En este caso, se ofrecen datos de
doctorandos de Argentina, Brasil, Chile, Colombia y Per. Es interesante sealar que
el Science Indicators incluye (en primer trmino) entre los factores que determinan la
capacidad cientfica y tecnolgica de los Estados Unidos el desempeo en ciencia y
tecnologa de los jvenes en la escuela secundaria y que -dicho sea de paso- detecta
una mejora en la parte mas baja de la distribucin, que atribuye a las polticas
tendientes a mejorar las capacidades bsicas de enseanza.
Servicios cientficos y tecnolgicos
Los servicios cientficos y tecnolgicos son definidos por la UNESCO como aquellos
"que contribuyen a la creacin, difusin y aplicacin del conocimiento cientfico y

Evaluacin e indicadores / Pgina

23

tcnico". Los divide en nueve apartados a los fines estadsticos y de construccin de


indicadores:
a) Bibliotecas y centros de informacin
b) Museos de ciencia y tecnologa
c) Traduccin y publicacin de documentacin de ciencia y tecnologa
d) Trazados e informes (geolgicos e hidrolgicos, entre otros)
e) Anlisis prospectivos
f) Obtencin de datos socioeconmicos
g) Normalizacin y control de calidad
h) Asesoramiento en temas agrcolas e industriales
i) Patentes y licencias.
Sobre algunos de estos servicios existen estadsticas generales de fcil acceso, como
es el caso de las patentes y licencias, utilizadas como indicadores de output y de
innovacin y competitividad. Otras estadsticas de servicios son menos conocidas y
son producidas por organismos sectoriales. Christopher Freeman propona incluir
entre los servicios cientficos y tecnolgicos el diseo", y argumentaba que esto
habra de ser especialmente interesante para pases semiindustrializados, como
muchos latinoamericanos, en los que gran parte del cambio tecnolgico ha provenido
en mayor medida del diseo y adaptacin de procesos productivos importados que de
la I+D.

1.4.5. Indicadores de I+D


Los grupos de indicadores ms comnmente desarrollados en casi todas las
metodologas adoptadas internacionalmente tienen que ver con el concepto de
"produccin" y, en el fondo, reflejan la matriz insumo-producto. Este es el enfoque
que sustenta el Manual Frascati de la OCDE. En el primer grupo podemos encontrar,
bsicamente, los indicadores de recursos humanos y recursos financieros; mientras
que el segundo grupo est formado, principalmente, por indicadores de publicaciones
y patentes.
El sistema de indicadores del Manual Frascati

INSUMO

PRODUCTO

Recursos
Humanos

Publicaciones

Recursos
Financiero
s

Sistema
cientficoy
tecnolgico
Patentes

REALIMENTACIN

Evaluacin e indicadores / Pgina

24

De esta manera, la produccin de conocimiento es vista como un sistema secuencial


en el cual las actividades de ciencia y tecnologa reciben insumos y expelen productos.
Sin embargo, existen limitaciones en la informacin que aportan los indicadores
basados en este esquema, marcadamente simplificado. Las crticas ms fuertes
apuntan a que el sistema cientfico y tecnolgico aparece como una caja negra, en
dnde el proceso principal de produccin del conocimiento no puede medirse y solo se
pueden observar los extremos visibles del proceso.
Ms all de estas limitaciones, este modelo es el ms difundido a nivel internacional y
a l responden todos los indicadores internacionalmente comparables que se
construyen, tanto en los pases desarrollados como en los que estn en vas de
desarrollo. Algunos de los indicadores de ciencia y tecnologa ms comnmente
utilizados para realizar comparaciones internacionales son los siguientes.
Indicadores de "input"
Los indicadores de insumo o input apuntan a medir los recursos que ingresan al
sistema cientfico y tecnolgico. Con fines estadsticos se miden dos inputs: los gastos
realizados y el personal empleado en esas actividades. Estos insumos se miden
habitualmente con una base anual (monto gastado en I+D durante un ao y cantidad
de personas empleadas en I+D en un ao).
Ambas series de estadsticas presentan ventajas e inconvenientes, por lo que es
necesario recurrir a las dos para obtener una representacin correcta de los esfuerzos
realizados en I+D. Resulta interesante observar como la relacin entre recursos
humanos y financieros vara fuertemente, incluso dentro de una misma regin,
sealando claramente los estilos de poltica cientfica sostenidos por cada uno de
ellos.
Los indicadores de insumo generalmente construidos internacionalmente pueden
agruparse en dos familias principales:
a) Recursos financieros (la comparacin internacional de estos datos se ve
dificultada por las diferencias de los niveles de precios entre pases y a lo largo
del tiempo, que las tasas de cambio no pueden reflejar completamente).
b) Recursos humanos (generalmente se miden de dos maneras diferentes:
personas fsicas y equivalencia a jornada completa EJC-).7
7

La distincin entre la medicin en personas fsicas y EJC es de central importancia en la


medicin de los recursos humanos en I+D. El Manual de Frascati de la OCDE dice lo siguiente
al respecto: Aunque las series de datos que miden el nmero de personas dedicado a I+D, y
en especial los investigadores, tienen muchos usos importantes, no substituyen a las series
basadas en el nmero de personal en equivalencia a jornada completa. Estas ultimas
constituyen una medida real del volumen de I+D. La I+D puede ser la funcin principal de
algunas personas (por ejemplo, los trabajadores de un laboratorio de I+D) o puede constituir
una funcin secundaria (por ejemplo, en el caso de los miembros de un centro de diseo y
ensayo). Tambin puede ser una actividad que ocupe una porcin significativa del tiempo de
trabajo (por ejemplo, los profesores universitarios o los estudiantes de postgrado). Si
nicamente se tuviera en cuenta a aquellas personas que tienen la I+D como funcin principal
se producira una subestimacin del esfuerzo dedicado a la I+D; si, por el contrario, se
contabilizaran todas aquellas personas que dedican algn tiempo a la I+D, se estara
sobreestimando dicho esfuerzo. El nmero de personas dedicadas a I+D tambin se debe
expresar, por tanto, en equivalencia a jornada completa de actividades de I+D. Un EJC debe
considerarse como una persona/ao.

Evaluacin e indicadores / Pgina

25

Indicadores de "output"
La medicin del output o resultado de los esfuerzos en ciencia y tecnologa es
imprescindible para evaluar productividad pero, su aplicacin resulta controvertida,
especialmente en lo que se refiere a la utilizacin de los "artculos publicados en
revistas con referato".8 El nivel de la polmica sobre si los indicadores de output
realmente dan cuenta de los resultados de las actividades cientficas y tecnolgicas es
tal que en la publicacin de "Los Principales Indicadores en Ciencia y Tecnologa" de
la OCDE (OCDE 2004) se reconoce que "no existen medidas directas de resultados de
la ciencia y la tecnologa, sino solo indicadores aproximativos sobre datos recogidos
para otros propsitos.
Los indicadores de resultado generalmente construidos internacionalmente pueden
agruparse en tres familias principales:
a) Actividad innovadora (incluyendo innovacin y estadsticas de patentes)
b) Impacto de la ciencia y la tenologa en la economa (incluyendo comercio
internacional y tecnologa, balanza de pagos tecnolgica y relacin entre
tecnologa y productividad)
c) Indicadores de la produccin cientfica (incluyendo anlisis bibliomtricos e
ndices de citaciones).

1.4.6. Nuevos indicadores


Sin embargo, la evolucin de la poltica cientfica no solo requiere de informacin
confiable sobre insumos y resultados del sistema cientfico y tecnolgico, sino que
tambin surgen nuevos aspectos relacionados con esta materia que requieren ser
medidos para apuntalar la toma de decisiones.
En la actualidad, nuevas familias de indicadores estn surgiendo en la bsqueda de
abordar temticas hasta ahora no cubiertas por los indicadores de ciencia y tecnologa
comnmente relevados. A continuacin se describen algunas de las lneas de
investigacin sobre las que se est trabajando a nivel mundial y regional, dando una
breve descripcin de las temticas abordadas y de los avances alcanzados hasta el
momento.
Sociedad de la informacin
La reciente revolucin en el campo de las tecnologas de la informacin y las
comunicaciones (TICs) ha abierto un proceso de profundos cambios polticos,
8

La validez de los indicadores bibliomtricos se basa en la premisa de que las publicaciones


son un resultado esencial de la actividad cientfica. Por un lado revisten un papel decisivo en la
difusin de los nuevos conocimientos, y por lo tanto en el progreso acumulativo de la ciencia.
Por otra parte, la publicacin en revistas cientficas (en especial aquellas con referato) es un
elemento clave en el sistema de recompensas de la actividad cientfica, tanto en lo relativo al
reconocimiento de la comunidad, como un aspecto de gran importancia para la evaluacin de
resultados. Sin embargo, los indicadores bibliomtricos tiene ciertas limitaciones como mtodo
de medicin de la produccin cientfica. En primer lugar, la investigacin tiene diversos
aspectos que no pueden ser captados por los estudios bibliomtricos. Siguiendo a Isabel
Gmez Caridad y Mara Bordons (1997), la investigacin incluye, adems de la cientfica
expresada en la publicacin de resultados, tareas de carcter tecnolgico, docente y social. La
bibliometra solo puede abordar la faceta cientfica, mientras que el resto de las actividades
deben ser estudiadas por otro tipo de indicadores.

Evaluacin e indicadores / Pgina

26

culturales y econmicos. La marcha de este proceso, conducente hacia la llamada


sociedad de la informacin, ha despertado un gran inters en los crculos polticos,
periodsticos, empresariales y acadmicos. La necesidad de contar con informacin
fidedigna en este campo se ha vuelto un imperativo, por lo que desde distintos
abordajes se est avanzando en la construccin de indicadores que den cuenta de
este fenmeno.
Percepcin pblica de la ciencia y la tecnologa
La percepcin que la sociedad tiene sobre el desarrollo de la ciencia y la tecnologa es
un objeto estratgico para las polticas pblicas, ya que involucra imgenes,
valoraciones y actitudes que el pblico asume sobre el rumbo y el impacto de la
ciencia y la tecnologa en mbitos diversos de la vida cotidiana. Existe una conciencia
pblica creciente respecto a la necesidad de intervenir en el rumbo del avance de la
ciencia y la tecnologa, de manera que estas actividades dependern cada vez ms
del grado de apropiacin de estos temas y la forma en que se integren a la cultura
ciudadana. En ese sentido, se estn realizando esfuerzos para mejorara conceptual y
metodolgicamente los instrumentos que intentan evaluar la percepcin de la ciencia
en la sociedad.
Impacto social de la ciencia y la tecnologa
Existen problemas que afectan la calidad de vida de poblacin mundial que an no
han sido abordados o no han tenido una respuesta efectiva por parte de la comunidad
cientfica internacional. Entre estos problemas cabe destacar los que afectan a la salud
humana, al hbitat y el medio ambiente, a la identidad y diversidad cultural, a la
situacin de grupos sociales vulnerables en general y a la defensa de derechos
humanos universales. En los ltimos aos ha cobrado fuerza la apelacin a un nuevo
contrato entre ciencia y sociedad, como modo de construir un compromiso explcito
entre el sistema cientfico y tecnolgico y las demandas sociales. Los indicadores de
impacto social de la ciencia y la tecnologa apuntan a medir esa incidencia de la
actividad cientfica en distintas reas de la sociedad, tanto en sus aspectos positivos
como negativos.
Movilidad y migracin de recursos humanos
La magnitud y composicin de los stocks y flujos de recursos humanos en ciencia y
tecnologa aparece cada vez ms como un factor crtico en la transicin a las
economas basadas en el conocimiento, en la adquisicin o el mantenimiento de
niveles de competitividad de las economas nacionales y en el desarrollo de una
sociedad equitativa. Este conjunto de procesos requiere un conocimiento ms preciso
y detallado de las principales dimensiones relativas a los recursos humanos altamente
calificados, en materia de educacin y de formacin, de ocupacin, y de movilidad
interna e internacional. Particular inters merecen algunos segmentos especficos de
los recursos humanos altamente calificados, ligados ms directamente con las
capacidades de innovacin.
Internacionalizacin de la ciencia
La dimensin internacional en las actividades de investigacin cientfica y desarrollo
tecnolgico muestra un peso creciente en el escenario mundial. Este proceso se
expresa en la movilidad e intercambio de investigadores, las copublicaciones
cientficas, las alianzas y consorcios tecnolgicos, las redes en sus mltiples
modalidades, los procesos de transferencia y el comercio de productos de alta

Evaluacin e indicadores / Pgina

27

tecnologa, as como los flujos de financiacin de la ciencia y la tecnologa. De esta


manera, la internacionalizacin se percibe como una va para la mejora de la calidad
de las actividades cientfico-tcnicas, la creacin y fortalecimiento de capacidades, la
proyeccin de los resultados y la consecucin de mayores sinergias en el entramado
internacional de dependencias. La incidencia de la dimensin internacional est
modificando los patrones de organizacin y ejecucin de la investigacin y, por este
motivo, se est intentando disponer de un sistema integrado de indicadores que
contemple sus mltiples manifestaciones.

1.4.7. Usuarios
La necesidad de indicadores de ciencia y tecnologa proviene de usuarios distintos,
que muchas veces son tambin productores de informacin, y que requieren distintas
caractersticas en los datos para amoldarlos a sus objetivos. Se suele sealar la
existencia de tres tipos distintos de usos de la informacin cientfica y tecnolgica. El
primero es el uso en la toma de decisiones, en cualquiera de los niveles
mencionados. Desde mximo funcionario gubernamental en el rea cientfica y
tecnolgica, hasta los directores de las instituciones pblicas y privadas del sistema
cientfico y tecnolgico, utilizan los indicadores para reducir la incertidumbre en la toma
de decisiones. En general, los datos se refieren a lo que est sucediendo con los
recursos comprometidos y las actividades realizadas, as como a la capacidad de
satisfacer los objetivos fijados.
En segundo lugar el uso de la informacin estadstica en la investigacin y el
anlisis de las polticas cientficas, tecnolgicas y de innovacin. En este caso,
los investigadores requieren de indicadores para comprobar sus modelos tericos y
verificar el funcionamiento real del sistema de ciencia y tecnologa. Por ltimo, el uso
de la informacin para el pblico en general, como por ejemplo en artculos en
medios masivos de comunicacin. La disponibilidad de indicadores de ciencia y
tecnologa precisos y atrayentes para su divulgacin general contribuye a fomentar el
debate pblico sobre la importancia de la ciencia y la tecnologa y a alentar la
participacin pblica en estos temas.

1.4.8. Indicadores en pases en desarrollo


Desde algunas perspectivas se seala que los indicadores creados en los pases
desarrollados no se adaptaran a la realidad de los pases en desarrollo, no tanto
porque las fuentes de informacin sean menos confiables, sino por cuanto el esfuerzo
en ciencia y tecnologa de estos pases no debe ser comparado con el desempeo de
los industrializados, sino con el grado de cumplimiento de los fines y objetivos que
establezca su propia poltica de desarrollo. Se sugiere, en su reemplazo, la
exploracin de indicadores ms relacionados con la adopcin de tecnologas
apropiadas. Tambin Christopher Freeman cuestionaba la utilidad de indicadores tipo
OCDE para los pases en desarrollo, si bien su argumento estaba ms relacionado
con el tipo de industrializacin que en ellos se llev a cabo. En su opinin, para estos
pases no son tan interesantes los indicadores de I+D, por cuanto esta tiene poca
relevancia para el desarrollo. Ms bien afirmaba- deberan interesarles los
indicadores relativos a los servicios cientficos y tecnolgicos. Extremando el
argumento, Freeman afirmaba que la elaboracin del Manual de Frascati fue en
cierta medida una oportunidad perdida, porque se abra limitado el esfuerzo a la I+D, y
no se abra tomado en cuenta suficientemente a las otras ACT. La perspectiva

Evaluacin e indicadores / Pgina

28

adoptada reflej exclusivamente el inters de los pases industrializados, porque los


pases en vas de desarrollo no tenan sistemas desarrollados de I+D.
Si extrapolramos el pensamiento de Jean Jacques Salomon (1994) podramos,
quizs, hacer una advertencia obvia: si bien no todos los pases en desarrollo son
iguales, en principio lo ms interesante para todos ellos debera ser la utilizacin de
indicadores relativos al desarrollo de la educacin superior, como expresin de la
madurez que alcance su sistema tcnico, entendido como la capacidad social de
incorporar el cambio tecnolgico. La UNCTAD (1991) coincide, en lneas generales,
con las posiciones anteriores. Los recursos destinados a producir conocimiento (I+D)
constituyen la parte de las ACT que se registran como insumos. Por lo tanto, en el
caso de los pases en desarrollo resulta til adoptar una definicin amplia de los
elementos de insumo, que incluya, adems de las actividades en investigacin y
desarrollo, la tecnologa transferida y el esfuerzo interno en trminos de formacin de
recursos humanos o inversiones en maquinaria y equipo. En aparente coincidencia
con las posiciones presentadas por Salomon, define la tecnologa no solamente en
funcin del equipo fsico y del soporte lgico, sino tambin del desarrollo de las
aptitudes fsicas para dominarla.
No parece razonable que los pases en desarrollo prescindan de realizar un esfuerzo
de reflexin similar al que han llevado a cabo los industrializados. Por el contrario,
deben tratar de establecer los indicadores ms apropiados para su poltica y para los
desafos y posibilidades que realmente le corresponden. Una de las metas de la
RICYT ha sido la adopcin de metodologas homogneas por parte de pases de la
regin, basadas en las caractersticas propias de los pases en desarrollo y no la copia
mimtica de las metodologas creadas para los pases industrializados. La magnitud
de este desafo aumenta debido a la heterogeneidad de los sistemas estadsticos de
los distintos pases de la regin y discontinuidad de los trabajos realizados hasta el
momento en la materia.
Como se dijo anteriormente, la construccin de indicadores debe ser apropiada a los
procesos distintivos de creacin del conocimiento dentro de un sistema cientfico
particular. Es por lo tanto necesaria una discusin previa sobre qu y cmo medir
las actividades cientficas y tecnolgicas, considerando y buscando reflejar los
procesos sociales mediante los cuales son generadas las actividades de las que se
pretende dar cuenta. Para disponer de indicadores actualizados, confiables y aptos
para su comparacin en el plano internacional se requiere algo ms que la
organizacin de servicios de estadsticas de la ciencia (por ms que estos sean
imprescindibles) y la adopcin de frmulas que resultaron exitosas en otros pases, ya
que las caractersticas propias de cada pas o regin cuestionan la utilidad de los
indicadores concebidos en funcin de los rasgos propios de los pases desarrollados,
que tienen una mayor tradicin en la materia.
Es necesario, por lo tanto, llevar a cabo una reflexin acerca de los rasgos
idiosincrsicos de la regin para adecuar a ellos ciertos indicadores
internacionalmente utilizados para establecer comparaciones, pero hay que abordar,
adems, la tarea de construir aquellos otros que permitan un mejor diseo y aplicacin
de las polticas pblicas en esta materia. En ese sentido, la solucin al problema no
puede provenir de una transposicin mimtica de los indicadores utilizados en los
pases industrializados. En el propio Manual de Frascati de la OCDE se hace la
salvedad de que se refiere especficamente a la medicin de I+D y a las necesidades
de los estados miembros de la OCDE, dotados de sistemas econmicos y cientficos
bastante similares, que los distinguen de los estados no miembros.

Evaluacin e indicadores / Pgina

29

Eplogo
El recorrido realizado por distintos aspectos de los procesos de evaluacin en ciencia
y tecnologa, as como las crticas que despierta su aplicacin concreta, en
determinados contextos histricos e institucionales, pone en evidencia al mismo
tiempo la importancia que ocupan para la toma de decisin. Esto ubica el problema en
un campo heterogneo, en el que confluyen distintas lgicas: la de los propios
cientficos con su idea de calidad y excelencia y la de otros actores sociales que
representan distintos intereses polticos, econmicos y sociales. El valor creciente de
la evaluacin como orientadora de polticas e instrumento de gestin est ligado a la
capacidad social de instalar una cultura adecuada su prctica. Esta cultura es
necesariamente plural, ya que requiere la convivencia y articulacin de lgicas y
sistemas de intereses diferentes. En ello radica, al mismo tiempo, su complejidad y su
riqueza.
En cuanto a los indicadores que den cuenta de los sistemas de ciencia, tecnologa e
innovacin en Iberoamrica, hay una doble tarea que debe ser llevada a cabo: por una
parte, la construccin de fuentes de informacin objetivas y confiables, que permitan la
construccin de indicadores ajustados a normativas internacionales, con el propsito
de garantizar la comparabilidad. Por otra parte, no es posible renunciar a la bsqueda
de indicadores ms adecuados a la realidad de los sistemas cientfico, tecnolgico y
productivo en la regin, tomando en cuenta la nitma relacin que el problema de las
capacidades cientfica y tecnolgica tienen con el sistema educativo, en la medida que
el gran escollo a resolver por los pases iberomaricanos es la disponibilidad de capital
humano; esto es, profesionales, cientficos y tecnlogos con alto nivel de formacin, y
en nmero suficiente, para permitir a los pases ingresar bien pertrechados al
escenario de nuevas oportunidades y nuevas amenazas que caracteriza a la sociedad
del conocmiento.

Evaluacin e indicadores / Pgina

30

Bibliografa
BARRE, Rmi (1997), 'La produccin de indicadores para la poltica de investigacin e
innovacin: organizacin y contexto institucional', en: El Universo de la Medicin. La
perspectiva de la ciencia y la tecnologa, RICYT COLCIENCIAS - Tercer Mundo,
Bogot.
COMMITEE ON SCIENCE, ENGINNERING, AND PUBLIC POLICY (1999), Evaluating
Federal Research Programs, National Academy Press, Washington.
FLAMENT, Michel (1993), 'Evaluacin multicriterio de proyectos en cienca y
tecnologa', en: Estrategias, Planificacin y Gestin de Ciencia y Tecnologa, Nueva
Sociedad, Caracas.
GMEZ CARIDAD, Isabel y BORDON GANGAS, Mara (1997), 'Limitaciones en el uso
de los indicadores bibliomtricos para la evaluacin cientfica', en: Poltica Cientfica N
46, Madrid.
LPEZ, Andrs y LUGONES, Gustavo (1997), 'El proceso de innovacin tecnolgica
en Amrica Latina en los aos noventa. Criterios para la definicin de indicadores', en:
Redes N 9, Editorial de la UNQ, Buenos Aires, p. 13.
OCDE (1993), La medicin de las actividades cientficas y tcnicas / Manual de
Frascati, OCDE, Pars.
OCDE (1996), Manual de Oslo, OCDE, Paris.
OSZLAK, Oscar y ODONNELL, Guillermo, 'Estado y polticas estatales en Amrica
Latina: hacia una estrategia de investigacin', en: Redes N 4, Editorial de la UNQ,
Buenos Aires, 1995.
SALOMON, Jean Jacques (1994), 'Tecnologa, diseo de polticas, desarrollo', en:
Redes N 1, Editorial de la UNQ, Buenos Aires, p. 9.
UNCTAD (1991), Los indicadores tecnolgicos y los pases en desarrollo,
UNCTAD/ITP/TEC/19, GINEBRA.
VELHO, Lea, 'Indicadores Cientficos: Aspectos Tericos y Metodolgicos', en:
Eduardo Martnez (compilador),Interrelaciones entre la Ciencia, la Tecnologa y el
Desarrollo: Teoras y Metodologas, UNESCO Nueva Sociedad, Caracas, 1993.

Evaluacin e indicadores / Pgina

31

También podría gustarte