Documentos de Académico
Documentos de Profesional
Documentos de Cultura
77
78
Metodologa observacional
Coeficientes de fiabilidad
79
Coeficientes de fiabilidad
Existe una amplia variedad de mtodos para computar la fiabilidad de datos nominales.
La eleccin del mtodo constituye una labor cuidadosa por parte del investigador ya que
determinar la confianza de las conclusiones obtenidas. Partiendo de la idea de que la
fiabilidad es una medida de la similitud de los registros observacionales realizados en
un momento determinado, se van a tratar diferentes coeficientes junto con sus
caractersticas ms destacadas.
Si dos observadores observan una misma conducta, los datos obtenidos pueden ser
representados por medio de una tabla de doble entrada con j filas y k columnas. Los
cdigos recogen informacin no ordinal. En la Figura 27 se representa en una matriz
2 2 las posibilidades de acuerdo / no acuerdo entre ambos observadores. En dicha
matriz se observa el registro realizado por cada observador como presencia (conducta
presente) o ausencia (conducta ausente) del cdigo que se est analizando. Vamos a
suponer que el investigador desea analizar la fiabilidad entre observadores al codificar
la presencia o ausencia de una determinada variable o conducta.
La celdilla A representa la frecuencia con que los dos observadores estn de acuerdo
en registrar presencia del cdigo que recoge la variable objeto de estudio.
La celdilla D representa el acuerdo de ausencia del cdigo o no ocurrencia.
79
80
Metodologa observacional
Conducta
presente
Observador 2
Conducta
ausente
NO ACUERDO
Conducta
presente
P2
Conducta
ausente
A2
ACUERDO
P1
Frecuencia total de observacin del cdigo
A1
N=A+B+C+D
P1=A+B
P2=A+C
A1=C+D
A2=B+D
El porcentaje de acuerdo (Kent y Foster, 1977) recibe diversos nombres segn los
autores. Hartmann (1977) lo denomina acuerdo en porcentajes, Hawkins y Dotson
80
Coeficientes de fiabilidad
81
(1975) lo califican como acuerdo intervalo por intervalo, Repp, Roberts, Slack, Repp
y Berkler (1976) le asignan el trmino de acuerdo exacto, House, House y Campbell
(1981) le suscriben el trmino de acuerdo total y Kelly (1977) lo distingue con la
calificacin de fiabilidad punto por punto.
La utilizacin del porcentaje de acuerdo ha sido criticada dado que su valor est inflado
por el acuerdo entre los observadores producido por el mero azar. La problemtica del
aumento de su valor por el azar se endurece cuando la ocurrencia de las conductas o
cdigos de observacin es extremadamente alta o extremadamente baja. En este sentido,
cuando una determinada conducta o cdigo es infrecuente, la fiabilidad por acuerdo
puede dar lugar a altos valores de los coeficientes debido al acuerdo por azar de la no
ocurrencia o ausencia de dicha conducta. Si los anlisis estn basados sobre la
frecuencia con la que la conducta foco ocurre, una alta fiabilidad al registrar la ausencia
de dicha conducta no es especialmente relevante.
Una solucin a este ltimo punto consiste en aplicar ndices de porcentaje de acuerdo
que valoren en concreto la presencia del cdigo o su ausencia. Ambos ndices de
acuerdo solamente son aplicables cuando hay dos observadores.
El porcentaje de acuerdo de presencia de cdigo se utiliza cuando la presencia de la
conducta es baja:
P% = A + BA + C 100
[2]
[3]
A+B+C B+C+D
X% =
100
2
[4]
81
82
Metodologa observacional
k=
po pe
1 pe
[5]
donde
po es la proporcin de acuerdo observado realmente, estara indicado por el porcentaje de
acuerdo mencionado anteriormente:
A+D
N
[6]
(A + B) (A + C) (B + D) (C + D)
+
N2
N2
[7]
Los coeficientes anteriores a kappa estn de hecho inflados por el acuerdo producido
por azar entre los observadores que registran presencia y/o ausencia de conductas.
El cmputo corregido del acuerdo por azar sobre la presencia de la conducta implica
multiplicar (A + B) por (A + C) y dividir el producto por el total (N). El acuerdo por azar
sobre la ausencia de la conducta se determina multiplicando (B + D) por (C + D) y
dividiendo el producto por el total (A + B + C + D).
As, en la frmula de kappa el numerador indica la diferencia entre el acuerdo
observado real y el esperado por azar, mientras que el denominador recoge la diferencia
posible total entre el acuerdo observado y el esperado por azar. A partir de esta frmula
podemos desarrollar la siguiente expresin:
A (A + B) (A + C) + D (B + D) (C + D)
A + B + C + D
A+B+C+D
k=
(A
+
B)
(A
+
C)
A
+ B + C + D (B + D) (C + D)
A + B + C + D
A+B+C+D
[8]
Coeficientes de fiabilidad
83
[9]
El rango de valores que puede alcanzar el coeficiente kappa oscila entre +1 y -1. Un
kappa positivo indica que los observadores estn de acuerdo ms frecuentemente que lo
que se podra esperar por azar. Si el valor es de 1 entonces el acuerdo es absoluto.
Cuando kappa es igual a cero, el acuerdo entre los observadores no est ms all del que
se puede esperar por azar.
Resultados negativos de kappa indican que el desacuerdo entre los observadores es ms
frecuente de lo que se puede esperar por azar. Si el valor es de -1, entonces el
desacuerdo entre los observadores es total.
Gelfand y Hartmann (1975) consideran que 0.60 es el valor mnimo aceptable de
kappa como acuerdo entre los observadores. Landis y Koch (1977) sealan que un
valor de 0.80 indica una fiabilidad buena y Bakeman y Gottman (1986) consideran
con preocupacin valores de kappa menores a 0.70. Fleiss (1981) caracteriza como
regulares los valores que se hallan entre 0.40 y 0.60, buenos los que se
encuentran entre 0.60 y 0.75 y excelentes por encima de 0.75. Otros autores han
descrito la distribucin de muestreo del coeficiente kappa, determinando tambin qu
valores de kappa difieren significativamente de cero (Hubert, 1977).
Existen variaciones de este estadstico que pueden ser empleados como medidas de
fiabilidad tanto para la presencia como para la ausencia del cdigo simplemente
sustrayendo la correccin de acuerdo por azar del numerador y denominador.
En el caso del estudio de la fiabilidad cuando el cdigo est presente la formula es la
siguiente:
(A + B) (A + C)
A+B+C
(A + B) (A + C)
B+C+A
A+B+C
A
kpresencia =
[10]
mientras que cuando se trata de analizar la fiabilidad para ausencia de cdigo la frmula
sera:
(B + D) (C + D)
B+C+D
(B + D) (C + D)
B+C+D
B+C+D
D
kausencia =
[11]
ADBC
(A + B) (C + D) (A + C) (B + D)
[12]
84
Metodologa observacional
= 22 AA + BB + CC
[13]
[14]
84
Coeficientes de fiabilidad
85
1= presencia/0= ausencia
REGISTROS
Observador 1
Observador 2
Intervalos
ACUERDO PRESENCIA
ACUERDO AUSENCIA
ACUERDO AUSENCIA
ACUERDO AUSENCIA
NO ACUERDO
NO ACUERDO
ACUERDO PRESENCIA
ACUERDO AUSENCIA
10
ACUERDO AUSENCIA
NO ACUERDO
Figura 28 Resultados obtenidos por dos observadores tras una sesin de observacin
de diez intervalos
Realicemos a continuacin la tabla de contingencia 2 2 representando las frecuencias
de acuerdos y desacuerdos (vase Figura 29). Se han registrado en la tabla las letras A,
B, C y D para facilitar al lector el clculo de los diferentes coeficientes.
Observador 1
Conducta
presente
Conducta
presente
Observador 2
Conducta
ausente
2
2
Conducta
ausente
A
7
N=10
P%
AU%
X%
kpresencia
kausencia
70%
40%
62.5%
51.25%
0.348
-0.153
-0.091
0.143
0.356
0.667
86
Metodologa observacional
X% =
100 =
2
2
5
2+2+1+2+1+5
=
100 = 51.25%
2
5. El coeficiente kappa de Cohen:
A (A + B) (A + C) + D (B + D) (C + D)
A + B + C + D
A+B+C+D
k=
=
(A
+
B)
(A
+
C)
A
+ B + C + D (B + D) (C + D)
A + B + C + D
A+B+C+D
2 (2 + 2) (2 + 1) + 5 (2 + 5) (1 + 5)
2+2+1+5 2+2+1+5
=
=
2 (2 + 2) (2 + 1) + 2 + 1 + 5 (2 + 5) (1 + 5)
2+2+1+5
2+2+1+5
6. El coeficiente kappa de Cohen para presencia de conducta:
(A + B) (A + C)
A+B+C
=
(A + B) (A + C)
B+C+A
A+B+C
A
kpresencia =
(2 + 2) (2 + 1)
2+2+1
=
= -0.153
(2 + 2) (2 + 1)
2+1+2
2+2+1
2
kausencia =
(2 + 5) (1 + 5)
2+1+5
=
= -0.091
(2 + 5) (1 + 5)
2+1+5
2+1+5
5
ADBC
(A + B) (C + D) (A + C) (B + D)
86
0.348
Coeficientes de fiabilidad
87
2521
=
(2 + 2) (1 + 5) (2 + 1) (2 + 5)
0.356
9. El coeficiente lambda:
21
=
2 2 + 2 + 1
0.143
2521
Q = AA DD + BB CC = 2 5 + 2 1 =
0.667
= 22 AA + BB +CC =
22
Observando los resultados obtenidos se puede concluir que existe un 70% de acuerdo
entre los dos observadores respecto a la presencia y ausencia del cdigo estudiado,
siendo mayor el acuerdo cuando se trata de codificar ausencia del cdigo o conducta
(62.5%). El acuerdo medio es del 51.25%. Sin embargo cuando calculamos el
coeficiente kappa de Cohen (1960) y el posible acuerdo por azar es tenido en cuenta, las
conclusiones se modifican.
El valor de kappa obtenido al analizar la codificacin registrada por cada observador es
de 0.348, resultado considerado por los diferentes investigadores como bajo, no
acercndose ni al valor mnimo aceptable de acuerdo de 0.60 propuesto por Gelfand y
Hartmann (1975), siendo categorizado en todo caso como acuerdo regular (Fleiss,
1981) al rozar al valor de 0.40. Si analizamos este coeficiente para la codificacin de
presencia y de ausencia de conducta independientemente, la interpretacin de los
resultados es an ms dramtica ya que el signo negativo indica que el desacuerdo entre
los observadores es ms frecuente de lo que se puede esperar por azar.
87