Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Aguayo - MetodosEstadisticos Ensayos Biologicos y Microbiologia
Aguayo - MetodosEstadisticos Ensayos Biologicos y Microbiologia
2010
3841MetodosEstadisticos correguido.indd 3
22/4/10 10:44:43
DIRECCIN ISP
EDICIN GENERAL
COMUNICACIONES Y RR. PP. ISP
DISEO Y DIAGRAMACIN
CLAUDIO MATEOS S.
IMPRESO EN CHILE POR
GRFICA LOM
3841MetodosEstadisticos correguido.indd 4
22/4/10 10:44:43
PRESENTACIN
Este libro es una especie de caja de herramientas, una tool box segn el sentido del
humor anglosajn. La seleccin de mtodos escogidos por el autor lo muestra, no
slo como un estadstico sino adems, como un hombre que ha trabajado muchos
aos en laboratorios de microbiologa y de pruebas de potencia de inmunobiolgicos.
Esta combinacin de disciplinas, explicadas, deliberadamente, sin usar elegantes ni
ininteligibles formalismos matemticos, hace que este libro sea comprendido por el
lector, ayudado por los programas computacionales que acompaan a la mayora de
los temas.
El captulo 1 en el que han sido includos el ndice de Dispersin de Fisher, el Nmero
ms Probable y el anlisis de recuentos en Petris, facilita la obtencin del tamao de
muestras para pruebas de esterilidad de productos farmacuticos y tambin permite
efectuar clculos de recuentos sin tener que usar viejas tablas.
El captulo 2 puede ser un deleite para los que trabajan en ensayos biolgicos de
potencia de vacunas, sueros antivenenos de reptiles y arcnidos, puesto que los
programas comentados por el autor permiten entender a los lectores las intrincadas
penumbras de los Probits y Logits. El ltimo captulo se refiere a tcnicas de empleo
menos frecuente, pero no menos importantes, como es el caso de los estimadores
robustos y de los ensayos de antibiticos y de mutagenicidad.
Por alguna misteriosa razn, el autor coloc el Trimmed S-K en un apndice en vez
de ponerlo en el captulo 2, y no quiso agregar temas como Slope Ratio o usos
de mtodos Bayesianos, talvez porque ello habra exigido un excesivo nmero de
pginas.
En resumen, este libro fue escrito para todos los profesionales que trabajan con
alguno de los mtodos descritos en l, no slo en el ISP sino en todos los institutos
similares de Latinoamrica.
Dra. Ingrid Heitmann Ghigliotto
Directora
Instituto de Salud Pblica de Chile
3841MetodosEstadisticos correguido.indd 5
22/4/10 10:44:43
3841MetodosEstadisticos correguido.indd 6
22/4/10 10:44:43
PRLOGO
Este libro est dirigido a profesionales especializados en microbiologa o que efectan pruebas de potencia de vacunas, antisueros; determinaciones de dosis efectivas de toxinas, virus o de insecticidas de uso agrcola, pero que no necesariamente
tienen gran experiencia en el uso de mtodos estadsticos. Precisamente por eso,
el autor ha preferido abundar en ejemplos numricos de todas esas y otras reas,
antes que exponer demostraciones que suelen resultar oscuras o atemorizantes
para personas no estadsticas. El interesado en estas ltimas puede consultarlas en
las referencias bibliogrficas que se listan al final del texto.
Se crey indispensable presentar varios programas computacionales para efectuar
clculos que son iterativos y tediosos. Deliberadamente, esos programas han sido
escritos en el lenguaje BASIC de la calculadora programable CASIO FX-880P, debido a que en esa forma parecen ms amigables y menos hermticos. La excepcin
es el programa de potencia de vacunas que, por su longitud, fue escrito en Quick
Basic. Se tuvo en cuenta que cualquier profesional de Informtica los puede traducir
fcilmente a Visual Basic, C++ u otro lenguaje. El autor consider tambin, que no
siempre las instituciones pueden disponer libremente de fondos para comprar un
software del tipo requerido para operar estos programas. El BASIC de CASIO
carece de comandos especficos para las calculadoras en que opera, lo que facilita
el trabajo de traduccin de los programas a otros lenguajes informticos como el
VBA de la Microsoft.
En fin, este libro puede ser til para organismos como: el Instituto de Salud Pblica
de Chile, los laboratorios del Servicio Agrcola y Ganadero; SEREMIS, los laboratorios de los Servicios de Salud; plantas productoras de vacunas de uso veterinario,
laboratorios destinados al control de potencia de vacunas de uso humano, y otros
anlogos, tanto pblicos como privados, chilenos y extranjeros, incluyendo aquellos
que, perteneciendo a diferentes firmas de la Industria Farmacutica, estn destinados al control interno de calidad.
Luis Rodrguez Aguayo
Instituto de Salud Pblica de Chile
Santiago de Chile
vii
3841MetodosEstadisticos correguido.indd 7
22/4/10 10:44:43
3841MetodosEstadisticos correguido.indd 8
22/4/10 10:44:43
NDICE DE CONTENIDOS
Presentacin
Prlogo
vii
Captulo 1
1
La Distribucin de Poisson
1.1
1.2
16
1.3
20
12
23
1.5
26
Captulo 2
2.1
35
37
38
43
2.1.4 Probits
49
2.2
55
2.3
58
Captulo 3
3.1
73
3.2
77
3.3
Media Robusta
79
ix
3841MetodosEstadisticos correguido.indd 9
22/4/10 10:44:43
3.4
83
87
88
88
3.5
90
3.6
93
3.7
98
Apndice 1
A.1
101
ndice de Materias
107
Referencias
109
3841MetodosEstadisticos correguido.indd 10
22/4/10 10:44:43
EJEMPLO 2:
Usando los datos del ejemplo1.Cul es la probabilidad de detectar POR LO
MENOS una ampolla contaminada?.
EJEMPLO
3: 3:
EJEMPLO
Con los mismos datos, Cul es la probabilidad de detectar por lo menos tres
Con los mismos datos, cul es la probabilidad de detectar por lo menos tres ampoampollas
contaminadas?
llas
contaminadas?
& e '0.01*20 (0.01 * 20) 0 e '0.01*20 (.01 * 20)1 e '0.01*20 (0.01 * 20) 2 #
+
+
P( X ( 3) = 1 ' $
! = 0.00115
0!
1!
2!
%
"
Del
concluye
que que
con una
de tan de
slotan
20 slo
unidades,
hay un hay un
Delejemplo
ejemplo1 se
1 se
concluye
con muestra
una muestra
20 unidades,
81.87
%
de
probabilidades
de
NO
detectar
una
contaminacin
que
est
presente,
lo
81.87 % de probabilidades de NO detectar una contaminacin que est presente,
lo
que es un grave riesgo para la salud si esta situacin afecta a un producto farmacutico.
Si bien las ltimas ediciones de la Farmacopea de Estados Unidos -que son oficiales
en Chile-, indican el uso de una muestra de 20 unidades (ampollas, frascos, etc.)
para las pruebas de esterilidad que el Control Nacional pueda efectuar en muestras
de productos farmacuticos, eso no es obligatorio para las Unidades de Control de
Calidad de las empresas productoras. De hecho, stas debieran calcular un tamao
de muestra que combine una probabilidad alta de deteccin con costo bajo de la
prueba de control, como forma de protegerse contra un eventual rechazo del producto por parte de Control Nacional.
EJEMPLO 4:
Sabemos ya, que la probabilidad de detectar por lo menos una ampolla contaminada
es:
1 e p*n
Si ecuacionamos la expresin anterior a (P) que es el nivel de confianza de deteccin, tendremos:
1 e p*n = P
De donde:
e n* p = 1 P
Tomando logaritmos naturales (ln) a ambos miembros, obtenemos:
n * p = ln(1 p)
3
3841MetodosEstadisticos correguido.indd 3
22/4/10 10:44:45
1 ! e ! p*n = P
Tomando logaritmos
logaritmos naturales
naturales (ln)
(ln) aa ambos
ambos miembros,
miembros, obtenemos:
obtenemos:
Tomando
De donde:
ln(11!! pp))
!! nn** pp == ln(
! n* p
e
ln(
nnn***ppp===!!ln(
ln(11=
1!!PP1
P))) ! P
De donde:
Tomando
logaritmos naturales (ln) a ambos miembros, obtenemos:
De donde:
donde:
De
! n* p!
ln(
!!
p))P
!=ln(
ln(
1
!
P))
1
ln(
1 1
P
n
=
n
=
n=
p
p
n * p = ! ln(p1 ! P)
Que
es
la expresin
expresin
requerida.
Con
valores
numricos (p
(p ==
Que
la
requerida.
valores
Que es la expresin requerida.
Cones
valores
numricos (p
= 0.01), (PCon
=.80)
obtene-numricos
obtenemos:
obtenemos:
mos:
De donde:
ln(11""..80
80))
""ln(
161
ampollas
!!1
161
!
ln(
!ampollas
P)
01
n =00..01
nn ==
EJEMPLO 5:
EJEMPLO
Qu tamao
de muestra
deberemos
tomar(ps
Que es la5: expresin
requerida.
Con valores
numricos
""ln(
11""0.80
.5))
ln(
n n= =
!
70, ampollas
ampollas
! 161
00.01
.01
ha sido usado(Dannacher
en virologa (Henderson,1
El mismo procedimiento ha El
sidomismo
usado procedimiento
en virologa (Henderson,1952)
al,1970)
et al,1970)
para
verificarenla ausencia de vi
et al., 1970) (Anderson et al.,et1970)
para (Anderson
verificar la ausencia
de virus
infectante
muestras de vacunas contra muestras
la Fiebre Aftosa
despus de
la inactivacin
conAftosa
formal- despus de la
de vacunas
contra
la Fiebre
dehido. Tambin puede consultarse
(Gard, S.1960)
parapuede
otros casos
de inactivacin
formaldehido.
Tambin
consultarse
(Gard, S.1960) para
de virus por medios qumicos.
inactivacin de virus por medios qumicos.
Sobre muestreo para pruebas de esterilidad, ver (Rodrguez L.1983).
Cuando hemos mencionado el contorno de los datos poissonianos, nos referamos al aspecto grfico de ellos.
La figura
1 es una
buena formaelde contorno
hacer visible de
la los datos po
Cuando
hemos
mencionado
distribucin de Poisson. Es relativamente
fcil
graficar grfico
una distribucin
Poissoniana;
referamos al
aspecto
de ellos.
La figura 1 es una buena
primero se establece que =visible
1, y luego
se determinan
probabilidades
de que X
la distribucin
delas
Poisson.
Es relativamente
fcil graficar
sea: 0, 1, 2, 3, 4..n.
Poissoniana; primero se establece que = 1, y luego se
probabilidades
de que Xp(2)
sea
: 0 , 1 ,p(3)=0.06131,
2 , 3 , 4..n.
De esa manera resultan: p(0) =
0.36788, p(1) = 0.36788,
= 0.18394,
p(4) = 0.01533, p(5) = 0.00307, etc.
De esa manera resultan: p(0)
3841MetodosEstadisticos correguido.indd 4
FIGURA 1 :
22/4/10 10:44:47
FIGURA 1 :
FIGURA 1
La imagen de la izquierda muestra el caso tpico de la distribucin de Poisson; pueden verse espacios vacos y zonas con mayor concentracin de partculas. Adems,
se observa en la parte superior la caracterstica fundamental que consiste en que, la
media es igual a la varianza:
2 =
La imagen del centro corresponde a lo que en la prctica microbiolgica no ocurre
jams; que la distribucin de bacterias o virus sea absolutamente homognea por
unidad de volumen.
Finalmente, a la derecha, se observa el caso que puede estudiarse mejor con la
distribucin binomial negativa caracterizada por una varianza mayor que la media.
Esto es:
2 >
La demostracin de igualdad entre media y varianza de la distribucin de Poisson
se puede obtener haciendo uso de la llamada, Funcin Generatriz de Momentos
(fgm).
Si escribimos la distribucin de Poisson:
3841MetodosEstadisticos correguido.indd 5
22/4/10 10:44:47
! >
(fgm).
x Poisson:
Si escribimos la distribucin
e # de
x!
"
x =0
probabilidades
x!
Que#representa
la sumaede las
resultantes para X, desde cero
x
e
#
x
!
=0
x
hasta infinito para un cierto valor de . Esta suma es igual a 1.
x =0
Que
representa la
lasuma
sumadedelaslas
probabilidades
resultantes
para
X, desde
Que representa
probabilidades
resultantes
para
X, desde
cero cero
hasta
tx es
xa 1.
t
x
"!
# suma
#
hasta
infinito
para
un
cierto
valor
de
.
Esta
igual
infinito para un cierto valor de tx
. Esta suma es igual a 1.
"!
t
e e !
(e ! )
=e $
= e e ! "!
x"!! # (e t ! ) x x =0 e ! "x!!
e tx e "x!=!0 x
Mx(t ) = E (e ) = $
#
Mx(t ) = E (e tx ) = $
=e
x!
x =0
x!
x =0
=e
et " !"
" ( (eett !
11) )
e
e
"=
(e =
!1e
)
=e
t
Obteniendo
primerade
derivada
de la fgm, tenemos:
Obteniendo
la primeraladerivada
la fgm, tenemos:
Obteniendo la primera derivada de la fgm, tenemos:
d ( fgm)
t " (e
t e e
d ( fgm)
t =
" ( e"
!1)
= "e e
dt
dt
!1)
Donde, evaluando
en t=0,
resulta E(x), es decir el valor esperado, o en otras palapalabras,
la media:
bras, la media:
0
Derivando
vez la fgm, tenemos:
Derivando por
segunda por
vez segunda
la fgm, tenemos:
d 2 ( fgm)
t
t ! ( e t "1)
! ( e t "1)
t
=
!
.
e
!
.
e
e
+
e
!
.
e
dt 2
Evaluando
para t = 0, obtenemos:
Evaluando para
t = 0, obtenemos:
0 ( e 0 01)
0 ! ( e "1)
!.e.e!.e.eee
0
( e 0 01)
! ( e "1)
++ee
V ( X ) = E ( X 2 ) ! E 2 ( X6 )
3841MetodosEstadisticos correguido.indd 6
22/4/10 10:44:49
V (X ) = 2 + . 2 =
V ( X ) = E( X 2 ) E 2 ( X )
obtena de:
" = V ( X ) = E( X ) ! E ( X ) = E( X ) ! E( X ) * E( X
= V ( X ) = E( X 2 ) E 2 ( X ) = E( X 2 ) E( X ) * E( X )
2
V ( NX ) = N 2V ( X )
V ( NX ) = E7 ( N 2 X 2 ) ! E ( NX ) * E ( NX )
3841MetodosEstadisticos correguido.indd 7
22/4/10 10:44:50
V ( NXPor
) =qu?.
N 2VVeamos
( X ) lo que ocurre si usamos la expresin de la varia
ms arriba, en la que incluiremos ahora la constante N.
2
2
Mtodos estadsticos en microbiologa y ensayos biolgicos
V ( NX ) = 2E ( N 22X 2 ) ! E ( NX ) * E ( NX )
N E ( X ) ! NE ( X ) * NE ( X )
N 2 E (Que
X 2 )se!puede
NE ( Xescribir:
) * NE ( X )
Que se puede escribir:
) ! N 2E2 (X )
N 2 E( X 2 ) N 2 E 2 ( X )
2 por factoracin, resulta:
cual,
N 2 EExpresin
( X 2 ) !deNla2 E
(X )
N escribir:
E( X
Que se puede
N E( X ) ! E ( X )
V ( NX ) = N V ( X )
Sx =
S
n
Expresin muy conocida por los que estiman un intervalo de confianza-de la media
aritmtica, por ejemplo-. Ella, adems de ser llamada Desviacin Estndar de la Media, recibe el nombre de Error Estndar, aunque, con mordacidad, algunos estadsticos dicen que tal nombre es inadecuado porque no es ni error ni estndar.
En el caso de los recuentos de bacterias, levaduras, etc., el error estndar se puede
escribir como se muestra a continuacin, precisamente porque ya sabemos que la
varianza es igual a la media (por lo menos en teora).
3841MetodosEstadisticos correguido.indd 8
22/4/10 10:44:51
Sx =
X
n
X
n
EJEMPLO 8:
Tenemos 5 recuentos de colonias bacterianas por cada medio de cu
x
tras la prueba
es decidir cul de los medios es ms sensible (mayo
colonias) dado que la suspensin bacteriana es la misma.
S =
EJEMPLO 8:
Medio A: 87 , 80 , 77 , 90 , 85
Tenemos 5 recuentos de colonias bacterianas por cada medio de cultivo. La idea tras
Medio B: 80 , 70 , 68 , 70 , 65
la prueba es decidir cul de los medios es ms sensible (mayor nmero de colonias)
dado que la suspensin bacteriana es la misma.
La prueba
de significacin(dcima)
la siguiente
Existe alguna evidencia basada
en estos
pocos valores de que eles
Medio
A es ms(Detre y White,19
sensible?
X1 ! X 2
X1 X 2
X! X
Z = n1 1 n 2 2
X1 X 2
Donde Z indica
la expresin tiene
n1 que n
2
La prueba de significacin
es la siguiente (Detre y White,1970).
Z (dcima)
=
Z=
83.8 ! 70.6
= 2.3754
83.8 70.6
+
5
5
3841MetodosEstadisticos correguido.indd 9
22/4/10 10:44:51
Veremos
Figura22 loloque
quesignifica
significa
el nmero
2.3754
obtenido
con la frmula
Veremosen
en la
la Figura
el nmero
2.3754
obtenido
con la frmula
dedeDetre
Detreyy White.
White.
FIGURA 2
FIGURA 2
C UR VA NOR MAL
CURVA NORMAL
FRACCION
.22
0
-2.3754
2.3754
z
La figura N 2 ha sido hecha en el paquete estadstico Stata 6.0, con los siguientes
comandos:
.set obs 500
.set seed 12345
.generate z = invnorm(uniform( ))
.graph z,bin(10) norm xlab(-2.3754,0,2.3754) xline(-2.3754,-1.96,1.96,2.3754)
12
t1(CURVA NORMAL) l2(FRACCIN)
Con esto, se generaron 500 nmeros aleatorios normales (seudoaleatorios por proceder de un algoritmo computacional), distribuidos en 10 barras de un histograma
con la curva normal superpuesta (Rabe - Hesketh y Everitt, 2000).
Pueden observarse en esa misma figura, cuatro lneas verticales; las dos internas
corresponden a las condiciones del problema, es decir: -1.96 y 1.96, entre las cuales el rea bajo la curva normal es 0.95 (95%), dejando una cola a cada lado de
10
3841MetodosEstadisticos correguido.indd 10
22/4/10 10:44:52
la regin central con tamao 0.025 (ambas, sumadas dan el 0.05 impuesto por las
condiciones del problema). Todo valor Z mayor que el que hemos adoptado en este
caso: 1.96 o menor que 1.96 permite no aceptar la hiptesis H0 y aceptar, por lo
tanto, la hiptesis alternativa H1: ambas medias son diferentes entre ellas. Ese es
precisamente el caso actual en que hemos obtenido el valor Z = 2.3754. Considerando que la media del grupo A es ms alta, podemos decidir que tenemos evidencia
muestral suficiente para continuar usando el Medio de Cultivo A por su aparente
mayor sensibilidad diagnstica.
Las dos verticales en la figura 2, corresponden al rea de la curva normal comprendida entre: -2.3754 y 2.3754 es decir: 0.98247, (98.247%) con dos colas que
sumadas, dan un valor (p)=0.01753. Este ltimo valor es la probabilidad de que la
diferencia observada entre las dos medias se hubiese debido al mero azar. Aunque
los datos tienden a tomar la forma de la curva normal, no logran ajustarse a ella
exactamente, y por aqu y por all, pueden verse pequeos desajustes que son esas
rugosidades o desalios a los que se refera Ernest Nagel.
La determinacin del tamao del rea de la curva normal entre: -Z y +Z, se puede
hacer empleando tablas estadsticas o bien usando un programa computacional. El
siguiente programa est escrito en lenguaje BASIC para calculadora CASIO FX - 880
P, que es fcilmente traducible a Quick Basic, Visual Basic; C++, etc.
PROGRAMA 1
REAS BAJO LA CURVA NORMAL
500 CLEAR:CLS
505 INPUT LIMITE IZQUIERDO;A,LIMITE DERECHO;B:C=32: G=A
508 GOSUB 600:I=W
510 D=(B-A)/C:O=C/2
520 G=G+D:GOSUB 600:I=I+W*4
530 G=G+D:GOSUB 600:I=I+W*2
540 O=O-1:IF O<>0 THEN 520
550 G=B:GOSUB 600:I=I-W
560 PX=D*I/3
570 CLS:PRINT Area Bajo la Curva=;INT(100000*PX+0.5)/100000
580 PRINT Area por fuera de la Curva=; 1-INT(100000*PX+0.5)/100000
585 PRINT Ordenada en Z=; INT(100000*W+0.5)/ 100000
590 END
600 W=(EXP(-0.5*G*G)) / SQR(2* 3.141592654)
610 RETURN
Con los datos del Ejemplo 8, tenemos:
LMITE IZQUIERDO? 2.3754 <enter>
LMITE DERECHO? 2.3754 <enter>
rea Bajo la Curva = 0.98247
11
3841MetodosEstadisticos correguido.indd 11
22/4/10 10:44:52
Z =
120 100
= 1.348
120 + 100
Por lo que sabemos, a partir del ejemplo 8 concluimos que, para fines prcticos, las
dos placas pueden considerarse iguales.
Con el Programa 1, obtenemos: rea por fuera de la Curva(p)= 0.17766, que es
mucho mayor que el 0.05 exigido por el enunciado del problema.
( n 1) S 2
n21
2
12
3841MetodosEstadisticos correguido.indd 12
22/4/10 10:44:52
n !1
$2
! X i2 ( &
! XX
i
n
n
2
i
Xi
i
n
X
n! X i2
n X i2
i
"
X i $ # (2n"1) 2
i !
!i X i Xi i X i ( n1)
i
i
EJEMPLO 10:
Usemos los recuentos obtenidos con el medio A en el ejemplo 8.
EJEMPLO 10:
87 , 80 , 77 , 90 , 85
n = 5 recuentos
quehomogneos
los recuentos
sondehomogneos
Demostrar que losDemostrar
recuentos son
(libres
outliers). (libres de outliers ).
!X
= 87 + 80 + 77 + 90 + 85 = 419
!X
2
i
= 87 2 + 80 2 + 77 2 + 90 2 + 85 2 = 35223
H0
= La
media es igual a la varianza.
H0 = La media es
igual
a la varianza.
H1 = La varianza es mayor que la media.
5 * 35223
! 419 = 1.322
419
13
3841MetodosEstadisticos correguido.indd 13
5 * 35223
419 = 1.322
419
Este resultado debe cotejarse con los valores de Ji cuadrado de la siguiente tabla,
con grados de libertad iguales al nmero de recuentos 1, y con = 0.05 segn
el uso recomendado por la Organizacin Mundial de la Salud en varios manuales
sobre Rabia o vacuna contra tuberculosis (BCG). La tabla 1 est diseada slo para
hasta 10 recuentos; si fuese necesario, deber consultarse una tabla estndar de
Ji cuadrado.
TABLA 1
Nmero de Recuentos(n)
10
Ji cuadrado
3.84
5.99
7.81
9.49
11.07
12.59
14.07
15.51
16.92
14
3841MetodosEstadisticos correguido.indd 14
22/4/10 10:44:54
*n'
P( X = x) = (( %% p x q n " x
) x&
* n ' x n" x
!
P
* ( X != 'x) = (( %% p xq n " x
si, p = , q = (1 " %, ) x &
n
) n&
!
* ! ' n" x
si, pn=" x ,+q1)= !(1x "
n(n " 1)(n " 2)....(
* %!, '
n
) x (1n"& %
x
x!
n ) n&
nn""cambiando
xx
n
xx
x!
por
n(n " 1)(n " 2)....(n " x + 1) !n * ! '" x
n(n " 1)(n " 2)...(n " x + 1) ! x * ! ' xx*(1 "! '%
K=
x!
(1 " %n (1) " n%&
cambian
cambian
x! ) n & ) n &
nx
nn
""xx
xx
n(n " 1)(n " 2)...(n " x + 1) ! * ! ' * ! '
lim n$# K
K=
(1 " % (1 " %
x! ) n & ) n &
n xx
x
!
= e "!
lim nn$$## K
x!
xx
""!! !
=e
n
x
* ! x'!
n n $ # (1 " % = e " !
Lim
n&
)
nn
n
* !'
1"
= e ""!!
Nota:
Lim nn$
Nota:
$#
# ( para%estimar el tamao de la muestra en prueba
demostrado
tiene
importancia
1
=
LimLo
n&
n
de esterilidad
tambin puede usarse la distribuci
n dado que, en )ese caso,
cambiandoNota:
x! por
Nota:
binomial.
Lo
tiene
importancia
para
el
Lo demostrado
demostrado
tiene
importancia
para estimar
estimar
el tamao
tamao de
de la
la mue
mue
Lo demostrado tiene importancia
para estimar
el tamao
de la muestra
en pruebas
de
esterilidad
dado
que,
en
ese
caso,
tambin
puede
usarse
de
esterilidad
dado
que,
en
ese
caso,
tambin
puede
usarse
de esterilidad
dado que,
EJEMPLO
12:en ese caso, tambin puede usarse la distribucin binobinomial.
binomial.
mial.
Con los datos del
ejemplo 4, la binomial se usa de la siguiente manera:
EJEMPLO 12:
EJEMPLO
EJEMPLO 12:
12:
Log10 (4,1Con
! Plos
) datos
del
4,
se usa de la siguiente man
Con
los
datos
del ejemplo
ejemplo
4, la
la binomial
binomial
Con los datos
la binomial
se usa
de
la siguiente
manera: se usa de la siguiente man
n del
= ejemplo
Log10 (1 ! p )
Log10
(1 ! P )
10
n=
Log10 (1 " .8) Log10
(1 ! p )
n=
! 16110, ampollas
Log10 (1 " .01)
Log10
(1 " .8)
10
n=
! 161, ampollas
Tal como se vio en elLog
ejemplo
4..01)
(
1
"
10
10
1.2.-
Tal
como
en
Tal4.probable
como se
se vio
vio
en el
el ejemplo
ejemplo 4.
4.
Tal como se El
vio nmero
en el ejemplo
ms
(NMP).
1.2.1.2.Estimaciones de
de Concentracin
Concentracin de
de Microorganismos:
Microorganismos:
EJEMPLO
13: Estimaciones
El
nmero
ms
probable
(NMP).
El
nmero
ms
probable
(NMP).
15
Se disponen 12 tubos de cultivo con un medio lquido en una gradilla. Los
primeros son sembrados, cada uno, con 10 ml de la muestra. Los 4 siguientes s
13:
EJEMPLO
13: cada uno, y los 4 ltimos son sembrados con 0.
siembran con 1EJEMPLO
ml de muestra
Se
disponen
12
de
un
lquido
una
3841MetodosEstadisticos correguido.indd 15
22/4/10
10:44:55
Seladisponen
12 tubos
tubos
de cultivo
cultivo
con
un medio
medio
lquido
entiemp
una
ml. Despus de
incubacin,
por
ejemplo,
a 35con
grados
Celsius
por
elen
Se disponen 12 tubos de cultivo con un medio lquido en una gradilla. Los 4 primeros son sembrados, cada uno, con 10 ml de la muestra. Los 4 siguientes se
siembran con 1 ml de muestra cada uno, y los 4 ltimos son sembrados con 0.1 ml.
Despus de la incubacin, por ejemplo, a 35 grados Celsius por el tiempo indicade opacidad
que
indica
bacteriana
(tubosdepositivos).
En
do porpresencia
Normaspresencia
oficiales,
los
son
examinados
por presencia
detubos
opacidad
quemultiplicacin
indicavisualmente
multiplicacin
bacteriana
(tubos positivos
este
ejemplo,
los
resultados
fueron
los
siguientes:
opacidad que indica
multiplicacin
bacteriana (tubos
En este ejemplo, los
este ejemplo,
los resultados
fueronpositivos).
los siguientes:
resultados fueron los siguientes:
Inculo(ml)
Tubos Positivos
Tubos
Inculo(ml)
Tubos Positivos
10
+
+
+
+
Inculo(ml)
Tubos
Tubos
Positivos
10
+ + + +
1 10 1
+ + + + + ++ + + +
0.1 1 0.1
+
+++
+
0.1
Sembrados
Tubos Sembrados
4
4 Sembrados
4
4
4
4
4
4
Cul esCul
la concentracin
de microorganismos
por ml en
la ml
muestra
original?original?
es la concentracin
de microorganismos
por
en la muestra
La respuesta
puede obtenerse
mediante
la siguiente expresin : (Hurley y Roscoe,
La respuesta
puede obtenerse
n
nmediante la siguiente expresin : (Hurley y Ros
1983) (Best,
1990).
1983) (Best, 1990).
i pi
= i ni
i X
n
n
#ni pi i#=1i 1pi e n i =1
=!
#
nlai siguiente
=
# i ni expresin: (Hurley y Roscoe,
!
i!
#
La respuesta
puede
obtenerse
mediante
!
iX
X
#
i
"i =e1 1 " e i =1 i =1
i =1 1
1983) (Best,
1990).
i
ni
pi
10 ml
1 ml
0.1 ml
tubos positivos
i = volumen
(ml) por (ml)
tubopor tubo
:
10: ml
i = volumen
ni
=
Nmero
de
tubos
por
dilucin
=
Nmero
de tubosde
por
dilucin
: 4
ni = Nmero
tubos
por dilucin
pi = tubos
positivos
:
4:
pi = tubos positivos
n
1 mlml 0.1
ml 0.1 ml
10
1 ml
4
4
4
4
44
4 4
3
1
4
3
1
i =1
i =1
desarrollando
el algoritmo,
tenemos:
Ahora,Ahora,
desarrollando
algoritmo,
tenemos:
Ahora,eldesarrollando
el algoritmo,
tenemos:
40 40
3
0.1 0.1
3
+
+
= 44.4
+
!10 X !10 X + !1 X
.1 X ! 0.1 X = 44.4
1 ! e 1 ! e 1 ! e 1 ! e !11X! e !10!
e
Donde el
quid del
problema
consisteconsiste
en darleen
valores
por tanteo
X hasta
el q
Donde
el quid
del problema
darle valores
poratanteo
a Xque
hasta
miembromiembro
de la izquierda
sea
igual
a
44.4.
Intentar
encontrar
el
valor
de
X
por
de la izquierda sea igual a 44.4. Intentar encontrar el valor de X
lgebra,lgebra,
es empresa
sin destino.
es empresa
sin destino.
16
Supongamos
que empezamos
con X = con
0.5, XMiembro
Izquierdo
= 49.95 =muy
Supongamos
que empezamos
= 0.5, Miembro
Izquierdo
49.95alto!
muy a
Con X =Con
1.2, XMiembro
Izquierdo
= 45.18,=todava
alto.
= 1.2, Miembro
Izquierdo
45.18, todava
alto.
3841MetodosEstadisticos correguido.indd 16
22/4/10 10:44:56
Donde el quid del problema consiste en darle valores por tanteo a X hasta que el
miembro de la izquierda sea igual a 44.4. Intentar encontrar el valor de X por lgebra, es empresa sin destino.
Supongamos que empezamos con X = 0.5, Miembro Izquierdo = 49.95 muy alto!
Con X = 1.2, Miembro Izquierdo = 45.18, todava alto.
Con X = 1.62, Miembro Izquierdo = 44.4 = igual al miembro de la derecha.
Por lo tanto, X = 1.62 es el Nmero Ms Probable (NMP) de bacterias /ml de muestra.
Todo esto es tan laborioso que, evidentemente se requiere una herramienta computacional para alcanzar la estimacin buscada.
Se sabe que el NMP es un mtodo poco preciso. La mayora de los microbilogos
prefiere usar las viejas tablas de Halvorson y Ziegler que datan de 1933 y que tienen
varios defectos: dan 3 grupos de 5 tubos cada uno, o bien 3 grupos de 10 tubos cada
uno; no dan intervalo de confianza y no sirven para otras combinaciones de tubos.
Si durante la ejecucin de la prueba se quebrase algn tubo, habra que hacer todo
de nuevo porque las tablas no dan otra alternativa. Sin embargo el mtodo recin
presentado es de uso general aunque demasiado laborioso para hacerlo a mano.
Cuando se desea comparar dos NMPs entre ellos, es indispensable calcular los intervalos de confianza, aunque las comparaciones no siempre sean correctas superponiendo intervalos. Los algoritmos para este clculo han sido modificados varias veces
a lo largo de la historia desde 1915. En 1990 se public un trabajo (Best, 1990), que
parece definitivo respecto de este tema, y que permite declarar improbables algunos resultados. El algoritmo de Best puede aplicarse mediante el siguiente programa
en BASIC para calculadora CASIO FX - 880P.
PROGRAMA 2
NMERO MS PROBABLE (Best)
6000 CLEAR: CLS
6010 INPUT No.de Grupos ; K
6015 DIM X(K, 3 )
6020 FOR I= 1 TO K
6030 PRINT Dosis, ml (; i;);: INPUT X(I, 1)
6040 PRINT No. Tubos Sembrados(; I; );: INPUT X(I, 2 )
6050 PRINT No.Tubos Positivos(; I; );:INPUT PP: X(I; 3)= X(I, 2)-PP
6060 NEXT I
6065 T1=0: T2=0
6070 FOR I=1 TO K
6080 T1=T1+ (X(I,2)-2*X(I, 3))* X(I, 1)
6090 T2=T2+(X(I, 2)- X(I, 3))* (X(I, 1))^2
17
3841MetodosEstadisticos correguido.indd 17
22/4/10 10:44:56
6100 NEXT I
6110 L=ABS(T1 / T2): PRINT Lambda inicial;L
6120 GOSUB 8115
6130 L=L-A1/B1
7111 JK=L
7112 FOR J=L TO 1000
7115 S=0
7120 FOR I=1 TO K
7130 B=(X(I, 2)-X(I, 3))*X(I, 1)*EXP(-L*X(I, 1)): C=(1-EXP(-L*X(I, 1)))
7135 D=X(I, 3)*X(I, 1)
7140 A=B/C-D
7150 S=S+A
7160 NEXT I
7170 PRINT ;S;
7180 IF ABS(S) <=2E-9 THEN 7400 ELSE 7240
7240 GOSUB 8115
7250 L=ABS(L+A1/B1)
7300 NEXT J
7400 CLS:PRINT Nmero Ms Probable=;L
7410 JI=0
7415 FOR I=1 TO K
7420 EI=X(I, 2)*EXP(-L*X(I, 1))
7422 IF EI=0 THEN EI= 1.2E-37
7425 JI=JI+(X(I, 3)-EI)^2*(1/EI+(X(I, 2)-EI^-1)
7430 NEXT I
7440 GOSUB 8200
7450 PRINT JI Cuadrado=;JI; con gl=;K-1,P0=;1-P0
7460 GOSUB 8115
7470 CG=LOG(L):DG=1.96/(SQR(B1)*L)
7480 LS=EXP(CG+DG):LI=EXP(CG-DG)
7500 PRINT Lmite Superior de Confianza del NMP=;LS
7510 PRINT Lmite Inferior de Confianza del NMP=;LI
8000 END
8115 A1=0: B1=0
8120 FOR I=1 TO K
8125 A1=A1+((X(I,2)-X(I, 3))*X(I, 1))/ (1-EXP(-L*X(I, 1)))-X(I, 2)*X(I, 1)
8130 B1=B1+((X(I, 2)-X(I, 3))*X(I, 1)^2*EXP(-L*X(I, 1)))
/ (1-EXP(-L*X(I, 1)))^2
8135 NEXT I
8150 RETURN
8200 K1=K-1:H=JI
8320 W1=H/2: K1=K1/2
8330 WK=K1+1
8340 GOSUB 8470
8350 G2=0
18
3841MetodosEstadisticos correguido.indd 18
22/4/10 10:44:56
8360 AK=EXP(K1*LOG(W1)-G1-W1)
8370 IF AK=0 THEN 8460
8380 T=1:G2=1: K0=K1
8400 K0=K0+1
8410 T=T*W1 / K0
8420 G2=G2+T
8430 IF (T / G2)>1E-6 THEN 8400
8440 P0=G2*AK
8460 RETURN
8470 G1=0
8480 WK=WK-1
8490 IF WK<=0 THEN 8520
8500 G1=G1*LOG(WK)
8510 GOTO 8480
8520 IF WK=0 THEN 8540
8530 G1=G1+0.5723649429
8540 RETURN
(Nota: LOG es Log base 10)
Con los datos del ejemplo 13, este programa entrega los siguientes resultados:
Nmero Ms Probable = 1.626796043
Ji cuadrado = 0.3849744874, (el modelo se ajusta bien a los datos)
Con gl = 2, P0 = 0.8249048425
Lmite Sup. de Confianza del NMP = 4.698160711
Lmite Inf. de Confianza del NMP = 0.5632981774
Por supuesto, que la exactitud lograda con un programa computacional es mayor
que la que se podra conseguir hacindolo todo a mano.
EJEMPLO 14:
Con los mismos volmenes de inculo usados en el ejemplo 13, pero empleando
grupos de nmero diferente de tubos, se obtuvieron los siguientes resultados:
10 (+) de 10 sembrados, 6(+) de 8 sembrados, y 2(+) de 9 sembrados.
Con estos datos, las tablas de NMP resultan intiles. Calcule el NMP con el programa
2.
Nmero Ms Probable =1.589084169
Ji cuadrado = 0.5108049756
19
3841MetodosEstadisticos correguido.indd 19
22/4/10 10:44:57
Con gl = 2
P0 = 0.7746046667
Lmite Sup. de Confianza del NMP = 3.355145516
Lmite Inf. de Confianza del NMP = 0.7526315876
EJEMPLO 15:
Casi todo igual al ejemplo 14, excepto que en la ltima dosis hay 5 (+) de 9 sembrados.
El programa 2 no entrega resultados por falta de convergencia. Los valores observados son improbables, y por lo tanto cabe concluir que la causa fue una tcnica
defectuosa de laboratorio; seguramente debi agregarse una dilucin ms.
Recuentos(R)
No.Placas (N)
Suma(R)
N*d
-4
690
-5
1/10
80 85 93
258
0.3
-6
1/100
20 18 15 24
77
0.04
-7
1/1000
45634
22
0.005
TOTAL
1047
4.345
20
3841MetodosEstadisticos correguido.indd 20
22/4/10 10:44:57
1047
EJEMPLO
m = 16:
In!culo
= 241x10 4 = 2.41x10 6 UFC / vol. de Inculo
Calcular la 4
concentracin
bacteriana (m) y sus lmites de confianza 95% con los
.345
datos de la tabla 2.
L.Superior (95%) = 241 + 1.96 2 / 2 + 1.96 x 241 + 1.96 2 / 4 = 273
1047
6 2
(95x10
%)4 == 241
1.96
/ 2 !/ 1vol
.96. de
x In!culo
241 + 1.96 2 / 4 = 212
m = L.Inferior
2.41+x10
UFC
= 241
4.345
Es decir : 2.12 x10 6 y 2.732x10 6 UFC / vol. de In!culo
Inculo
L.Superior (95%) = 241 + 1.96 / 2 + 1.96 x 241 + 1.96 2 / 4 = 273
Ntese
se se
ha ha
multiplicado
todotodo
por 10
a 4, con
signo
porque porque
Nteseque
que
multiplicado
porelevado
10 elevado
a 4,
conpositivo
signo positivo
2
L.Inferior
(95
%)de
241
.96de
/concentracin
2sino
x microbiana.
241 + 1.96As2 microbiana.
/mismo,
4 = 212
= dilucin
+ 1sino
! 1.96
ya
hablamos
advirtase
yanono
hablamos
de dilucin
de concentracin
As
mismo,
que
el ttulo (m)
y6elsuttulo
intervalo
de
confianza
estn
expresados
el volumen
de por el
advirtase
que
(m)
y6 su
intervalo
de In!culo
confianza por
estn
expresados
Es decir
: 2que,
.12en
x10
y 2.73es
x10
UFC
/ vol
.de
inculo
la
prctica
pequeo
(0.1
ml
0.2
ml
por
placa),
de
modo
que
volumen de inculo que, en la prctica es pequeo (0.1 ml 0.2 ml por placa), de
para expresarlo en colonias por ml, basta con una sencilla operacin aritmtica.Nmodo que para expresarlo en colonias por ml, basta con una sencilla operacin
teseque
quese
losha
lmites
de confianza
han
calculados
la expresin
de Pearson.
Ntese
multiplicado
todo
porsido
10de
elevado
acon
4, con
porque
aritmtica.Ntese
que los
lmites
confianza
hansigno
sidopositivo
calculados
con la
2
2
)
( X hablamos
ya no
de
dilucin
sino
de
concentracin
microbiana.
As
mismo,
+ Z / 2 Z X + Z / 4
2
2
expresin
Pearson.(
+ Zintervalo
/ 2 Z de
X +confianza
Z / 4 ) estn expresados por el
advirtase
que de
el ttulo
(m) yX su
Este
tipo
de
clculo
se
puede
resolver
rpidamente
con ml
el con
siguiente
en de en
Estedetipo
de clculo
selapuede
resolver
rpidamente
el siguiente
programa
volumen
inculo
que, en
prctica
es pequeo
(0.1
0.2
mlprograma
por placa),
BASIC
para
calculadora
CASIO
FX
880
P.
paraexpresarlo
calculadora
FX por
- 880
modoBASIC
que para
enCASIO
colonias
ml,P.basta con una sencilla operacin
aritmtica.Ntese que los lmites PROGRAMA
de confianza
han sido calculados con la
3
PROGRAMA 3
2
2
expresin
de Pearson.( X + Z / 2 Z X + Z / 4 )
UFC (Unidades Formadoras de Colonias)
Este tipo
clculo
30 de
CLEAR:
CLS se puede resolver rpidamente con el siguiente programa en
BASIC para
calculadora
CASIO
FX -N880 P.
60 PRINT
No. de Diluciones
;: INPUT
22
63 A=0: B=0
PROGRAMA 3
21
22
3841MetodosEstadisticos correguido.indd 21
22/4/10 10:44:58
( X ! )2 / = a
Donde : a = Ji 2 con " = 0.05 y 1 grado de libertad
4 si esa es la
Cuando el programa pide la dosis inicial, sta debe teclearse:
!4
si esa es la
primeraCuando
dosis. el programa pide la dosis inicial, sta debe teclearse:
primera dosis.
1E 1E
22
3841MetodosEstadisticos correguido.indd 22
23
22/4/10 10:44:59
1.4.- Determinacin del nmero de partculas virales que originan una placa ltica.
uis Rodrguez
guayo
Todas las evidencias disponibles indican al hecho que Luna
coloniaAbacteriana
no
siempre es el resultado de la multiplicacin de una bacteria. Una colonia puede
originarse tambin a partir de un conglomerado de bacterias. De modo que aplicar
1.4.
Determinacin
delcomo
nmero
de partculas
mecanicamente
un mtodo
el sugerido
para un casovirales
particular (Reid et al,
1949originan
) puede llevar
a cometer
que
una
placa errores
ltica de interpretacin.
Todas
las evidencias
indican
al hecho de que
una colonia
bacteriana
En general,
si se disponibles
grafican las
concentraciones
microbianas
contra
el nmero de
no siempre es el resultado de la multiplicacin de una bacteria. Una colonia puede
colonias se pueden detectar los siguientes casos: si cada colonia es causada por
originarse tambin a partir de un conglomerado de bacterias. De modo que aplicar
una bacteria , resultar una linea recta . Si dos bacterias forman una colonia,
mecnicamente un mtodo como el sugerido para un caso particular (Reid et al,
resultar una curva cuadrtica ; con tres colonias ser un curva cbica etc
1949) puede llevar a cometer errores de interpretacin.
Lo mismo se observa con las pruebas en que los virus son multiplicados en cultivos
celulares bajo una capa de gel (AGAROSA) con el medio de cultivo correspondiente.
Kalbfleisch
Sprott viral,
fue tan
desarrollado
virusdel
cuyo
SiEl
unamtodo
clula esde
infectada
por unaypartcula
pronto comopara
las clulas
rea ttulo es
calculado
por
el
procedimiento
de
generacin
de
placas
lticas
en
cultivos
vecina sean infectadas, se formar una placa de lisis celular visible a ojo desnudo. celulares
bajo gel.
El mtodo de Kalbfleisch y Sprott fue desarrollado para virus cuyo ttulo es calculado
por
procedimiento
placas lticasdeterminar
en cultivos celulares
gel.
Enel estos
casos, de
es generacin
y ha sidodeimportante
cuantas bajo
partculas
virales
En estos casos, es y ha sido importante determinar cuntas partculas virales producen un rea de lisis.
Sean:
Sean:
K=nmero de diluciones.
K=nmero de diluciones
DD=factor
dilucin.
DD=factor
dede
dilucin
H=nmero
dede
partculas
de virus
(Ejemplo:
1) 1)
H=nmero
partculas
de virus
(Ejemplo:
" = DD ! H
Sean K diluciones con n placas de Petri cada una. El nmero de reas lticas se
Sean K diluciones con n placas de Petri cada una. El nmero de reas lticas se
suman a travs de las n placas pertenecientes a una determinada dilucin
suman a travs de las n placas pertenecientes a una determinada dilucin obteninobtenindose
dose
el valor Y. el valor Y.
EJEMPLO 17:
EJEMPLO 17:
Sean
K=3
diluciones
con con
n0= n0=
n1= n1=
n2= n2=
2 placas
y recuentos
sumados:
Y0= 122,
Sean
K=3
diluciones
2 placas
y recuentos
sumados
: Y0= 122
Y1= 10, Y2=2. El factor de dilucin es: 3.16227766, conocido como de medio logaY1= 10 Y2=2. El factor de dilucin es: 3.16227766, conocido como de medio
ritmo porque el antilogaritmo de 0.5 es, precisamente, 3.16227766.
23
24
3841MetodosEstadisticos correguido.indd 23
22/4/10 10:44:59
El algoritmo
es elElsiguiente:
El algoritmo
es el siguiente:
algoritmo
es el siguiente:
X = Y0 +XY1=+YY02 ++Y......
+2 Y+K ...... + YK
1 +Y
T = Y1 + T2Y=2 Y+1 3+Y32Y+2.....
+ 3+Y3KY
+ .....
K + KYK
K
B = n0 +Bn1=( n+0 n+2(n12(++nn3(2(3 2++...n+3(n3K (+ ...
+ nK( K
3
A = n1( +A2=nn2(1(2 + 23n23( 32 + ...
3n+3(Kn
+K (...K+ Kn K ( K
K 2
2
K
D = n1( D
+ 2=2 n12( 2+ +2 23n2 2n(3(2 3++3...
n+3(K3 2+n...
K (+ K n K (
XA'$ XA $
'
) e DD )
S = !% T S! = !%"T(log
! e DD
"(log
B &#
B #
&
(log e DD
)2 e DD )2
2 (log
()
II = X DB
II =! XA DB ! A2
B
2
B2
los
de datos
Kalbfleisch
y Sprott,
verificar
H= 2virapartculas
Usando
los
de Kalbfleisch
yvamos
Sprott,a
a si
verificar
si H= 2 partculas
UsandoUsando
los datos
dedatos
Kalbfleisch
y Sprott,
vamos
a verificar
si vamos
H=
2 partculas
virales: virales:
les:
" = (3"
.16227766
) !2 = 0).!12 = 0.1
= (3.16227766
X = 122 +
+ 2 =+134
X10
10 + 2 = 134
= 122
T = 10 + T
2(=
2)10
= 14
+ 2(2) = 14
B = 2 + 2B(0=.1)2++22((00..11))2+=22(0.22
.1) 2 = 2.22
A = 2(0.1A))=+ 22(20(.01.))1)+2 2=2 0(0.24
.1) 2 = 0.24
D = 2(0.1D) +=82((00.1
.1))2 +=80(0.28
.1) 2 = 0.28
134( * 0.24
134
% * 0.24 %
(
S = !&14S!= !&14 ! #(1.1512925
= 0.5601
) = 0.5601
#(1.)1512925
2
'
' .22 $ 2.22 $
2
2
1.1512925
2 1.1512925
II = 134(II
0.28
* 2.(22
) ! 0.24 2 )2
! 0*.24
= 202.32 = 20.32
0.28
2.22
= 134
2.22
2.22
S 0.5601
S 0.5601
DELTA =DELTA
" = = " = == 0.0275639
= 0.0275639
I
20.32
I
20.32
H2 = H H
+"
2 ++0"
.0275639
= 2.0275639
2=H
= 2 + 0.0275639
= 2.0275639
Lim.Sup.
Sup.(Lim
H ).Sup
= H.(2H+)1=
.96
H/2 +II1.=
II = 2.462297229
962/.462297229
Lm.
Lim.Inf.
Inf .(Lim
H ) .=InfH.(2H!)1=
.96H/2 !II1.=
II = 1.592813624
961./592813624
Lm.
Se debe iterar
usando
, substituyndolo
en :
Se debe
iterarH2
usando
H2 , substituyndolo
en :
! = (3.16227766
) 2.027555426
= 0.0968763
! = (3.16227766
)242.027555426
= 0.0968763
3841MetodosEstadisticos correguido.indd 24
22/4/10 10:45:00
25
3841MetodosEstadisticos correguido.indd 25
22/4/10 10:45:00
=
=
=
=
=
=
=
0.56
20.32587917
0.02755542632
2.027555426
2.462297229
1.592813624
0.1242315215 (El modelo de 2 partculas se ajusta bin a los datos )
DELTA
Nuevo H
Lm. Sup.
Lm. Inf.
Z
=
=
=
=
=
0.0004837581873
2.028039185
2.470304856
1.585773513
0.1242619656
Como se ve, el DELTA se ha achicado, y por eso, el valor H no ha variado mucho. Con
estos datos, no cabe duda que 2 partculas virales parecen vinculadas a la formacin
de las reas de lisis celular.
26
3841MetodosEstadisticos correguido.indd 26
22/4/10 10:45:01
e = p,
e = p,
! " = log e p
= log e p
" = ! log e p
= log e p
loglog
= log e ! e
( log
e (" elog
e p)
e p ) = log
Cuando esta expresin
seaesta
igualexpresin
a cero, entonces
=1,a ycero,
por loentonces
tanto:
Cuando
sea igual
=1 , y por lo tanto :
EJEMPLO 18:
TABLA 3
TIEMPO.
TIEMPO. Minutos
Minutos
Nmero de muestras negativas
Numero
p
de
ln(-ln p)
muestras
negativas
p
ln(-ln p)
3841MetodosEstadisticos correguido.indd 27
TABLA 3
15 15
0
0
-
18
21
18
3
11
0.2
0.533
0.733
+0.476
-0.4642
-1.169
0
-
21 27
24
33
13
14
15
0.867
0.933
-1.947
-2.668
0.2
0.533
+0.476
-0.4642
27
3024
11
0.733
-1.169
27
30
13
14
0.867
0.933
-1.947
-2.668
22/4/10 10:45:01
Este es el resultado
de Saunders yLo
Fleming
(citado)
que sin una
embargo
una
aproximacin.
correcto
es aplicar
serieesdeslo
iteraciones
por el m
aproximacin. Lo correcto
es
aplicar
una
serie
de
iteraciones
por
el
mtodo
de
mxima
mxima verosimilitud conocido como: mtodo loglog de Mather. Par
verosimilitud conocido
como: mtodo
Mather.
Paraesperados
esto, debemos
debemos
obtenerloglog
todosdelos
valores
de obtener
Y, efectuando : Y=5.0
todos los valores esperados
de
Y,
efectuando:
Y=5.0679863-0.2593078*TIEMPO.
0.2593078*TIEMPO.
La nueva regresin ser ponderada, esto es, con factores de peso. Para obtener los
La nueva
regresin ser
ponderada,
es , con
factores
pesos y la nueva variable
independiente
o predictiva
(Yw), esto
deberemos
calcular
los de peso. Para
siguientes valores:los pesos y la nueva variable independiente o predictiva (Yw), deberemos
P = eY e = EXP( EXP(Y )
P = e !e =
(Y ))
P EXP(! EXP
2
(log e P2 )
W =
P1 P
(log e P )
W =
1! P
( p P)
Yw = Y +
( p ! P)
Yw = Y + ( P * log e P )
( P * log e P )
3841MetodosEstadisticos correguido.indd 28
P
0.028
0.2
0.533
0.733
Y
1.1774
0.4
-0.377
-1.1542
P
0.03893
0.225
0.5036
0.7296
W
0.427
0.646
0.477
0.268
Yw
1.4855
0.4745
-0.462
22/4/10 -1.169
10:45:02
TABLA 4
P
Yw
0.0
1.1774
0.03893
0.427
1.4855
0.2
0.4
0.225
0.646
0.4745
0.533
-0.377
0.5036
0.477
-0.462
0.733
-1.1542
0.7296
0.268
-1.169
0.867
-1.9314
0.865
0.1348
-1.947
0.933
-2.7086
0.936
0.064
-2.66
1.0
-3.4858
0.97
0.03
-4.5
Despus de estos laboriosos clculos, se efectua una nueva regresin con la siguientes variables:
(TIEMPO, Yw, W)
Los nuevos valores esperados se colocarn en la columna Y; se volvern a calcular:
P, W, y nuevamente otra Yw hasta que dos valores sucesivos de pendiente se diferencien por una cantidad muy pequea. Slo entonces se estimar el TIEMPO dado
que Y=0.
Semejante cantidad de operaciones es tpica de la estadstica en microbiologa y
ensayos biolgicos. El siguiente programa computacional en BASIC para calculadora
CASIO FX -880P ofrece la alternativa de decidir si se debe realizar una iteracin o
no.
PROGRAMA 5
810 CLEAR:CLS
815 PRINT DECAE <exe>
820 INPUT No.de Observaciones; N: DIM X(N, 9): A=0: B=0: C=0: D=0: E=0: F=0: KK=0
830 FOR I= 1 TO N
840 PRINT TIEMPO(; I; );: INPUT X( I, 1 )
850 PRINT NEGATIVOS(; I; );: INPUT X( I, 2 )
860 PRINT TOTAL(; I; );: INPUT X( I, 3 )
870 X(I, 4)=X(I, 2)/ X(I, 3)
880 IF X(I, 4)=0 OR X(I, 4)=1 THEN 910 ELSE 895
895 X(I, 5)=LN(-LN(X(I, 4))): F=F+1
900 A=A+X(I, 1): B=B+ X(I, 5): C=C + X(I, 1)^2: D=D+ X(I, 5)^2: E=E+ X(I, 1)* X(I, 5)
910 NEXT I
920 MX=A/F: MY=B/F: SX=C-A^2/F: SY= D-B^2/F: SXY=E=A*B/F
930 BB=SXY/SX: AA=MY-BB*MX
935 PRINT Pendiente Preliminar=; BB,Intercepto Preliminar=; AA
940 FOR I=1 TO N
950 X(I, 6)=BB*X(I, 1)+AA
29
3841MetodosEstadisticos correguido.indd 29
22/4/10 10:45:02
960 NEXT I
970 PRINT BB=; BB, AA=; AA:KK=KK+1
971 IF KK=1 THEN 980 ELSE IF KK>1 THEN 972
972 TIEMPO=(0-AA)/ BB: PRINT TIEMPO CUANDO Y=0 =; TIEMPO
973 SE= SQR(1/ G)
974 LS=TIEMPO+1.96*SE: LI=TIEMPO-1.96*SE
975 PRINT Lim.Superior=; LS, Lim.Inferior=; LI
980 A1=0: B1=0:C1=0: D1=0: E1=0: G=0
985 FOR I= 1 TO N
990 X(I, 7)=EXP(-EXP(X(I, 6)))
1000 X(I, 8)=X(I, 7)/(1-X(I, 7))*(LN(X(I, 7)))^2
1010 X(I, 9)=X(I, 6)+(X(I, 4)-X(I, 7))/(X(I, 7)*LN(X(I, 7)))
1020 NEXT I
1030 FOR I=1 TO N
1040 A1=A1+X(I, 1)*X(I, 8): B1=B1+X(I, 9)*X(I, 8)
1050 C1=C1+X(I, 1)^2*X(I, 8): D1=D1+X(I, 9)^2 *X(I, 8)
1060 E1=E1+X(I, 1)*X(I, 9)*X(I, 8): G=G+ X(I, 8)
1070 NEXT I
1080 MX=A1/G:MY=B1/G: SX=C1-A1^2/G: SY=D1-B1^2/G
1090 SXY=E1-A1*B1/G: BB=SXY/SX: AA=MY-BB*MX
1094 PRINT OTRA ITERACIN (S)(N);: INPUT K$
1095 IF K$=S THEN 940 ELSE 1110
1110 END
Empleando las 7 observaciones de la tabla 4, y el programa 5, tenemos:
No de Observaciones? 7
Tiempo ? 15
Negativos? 0
Total?15
:
:
Tiempo? 33
Negativos? 15
Total? 15
Pend.Prelim.= -0.2593077831
Interc.Prelim.= 5.067986291
Otra It.(S)(N)? S
BB= -0.2924488803
AA= 5.783526508
TIEMPO / Y=0 = 19.776
LS= 21.15
LI= 18.4
Otra It.(S)(N)? S
BB= -0.3
30
3841MetodosEstadisticos correguido.indd 30
22/4/10 10:45:02
AA= 5.96883
TIEMPO/Y=0 = 19.836
LS= 21.275
LI= 18.397
Otra It.(S)(N)? S
BB=-0.32
AA= 5.99
TIEMPO/Y=0 = 19.843
LS= 21.3
LI= 18.385
Otra Iteracin.(S)(N)? N
No parece necesario continuar. El tiempo para que quede 1 bacteria viva es de
19.84 minutos, que no es muy diferente del obtenido de la regresin no ponderada,
(19.54). Esta reducida diferencia se debe a que Saunders y Fleming presentaron un
ejemplo artificial.
En la prctica, la diferencia puede ser muy importante y eso hace necesario usar un
nmero grande de iteraciones hasta obtener convergencia satisfactoria.
Sin duda existe siempre el peligro de usar un modelo inadecuado; eso obliga al
investigador a no usar mtodos estadsticos mecnicamente ni procedimientos que,
se sabe, son aproximados.
El mismo programa 5 puede usarse con recuentos celulares, trocando la variable
TIEMPO por los recuentos de clulas.
Este ltimo caso se denomina: Anlisis de Dilucin Lmite (COPE Cytokines Online
Pathfinder Encyclopedia).
Supongamos que consideramos el nmero de clulas troncales hematopoyticas
(Stem Cells) existentes en una preparacin de mdula sea. No sera posible estimar el verdadero nmero de stem cells si emplesemos el recuento de colonias que
crecieron como ya vimos que se haca con bacterias. La razn es que, cada stem cell
dar origen a mltiples tipos de clulas progenitoras, las cuales, a su vez originarn
varias colonias cuyo recuento final no nos informar sobre el nmero original de
stem cells que haba en el cultivo. El procedimiento usa varias diluciones de la suspensin celular, cada una de las cuales es sembrada en varias cavidades de las 96
que poseen las microplacas de tipo estndar. Despus de un perodo de incubacin
adecuado, se encontrarn en cada grupo de dilucin, cavidades con y sin colonias.
Si se grafican: el nmero de clulas que se sembr por dilucin, contra el logaritmo
negativo de la proporcin de cavidades SIN colonias, se puede obtener una recta
que pasa por el origen de las coordenadas, y en ella es posible interpolar el nmero
original de clulas, de las cuales el 37% NO tiene colonias. Esto, como ya vimos,
es:
31
3841MetodosEstadisticos correguido.indd 31
22/4/10 10:45:03
e "1 ! 0.37
Por qu hay que usar las frecuencias de cavidades negativas? Si hubisemos usado
Por qu hay que usar las frecuencias de cavidades nega
las positivas, nunca habramos sabido si una o ms clulas precursoras en una caviusado las positivas, nunca habramos sabido si una o ms c
dad eran responsables por una respuesta positiva.
EJEMPLO 19:
EJEMPLO 19:
publicado e
(copewithcytokines.de/cope.cgi?3735) aunque, para este
Cul es la concentracin de clulas
que permite
asegurar que, en ella hay por lo
ligeramente
modificados.
menos una clula troncal (Stem cell)?.
Cul
es 5la concentracin de clulas que permite asegurar q
Tabla
menos una clula troncal (Stem cell)?.
Concentracin celular
N Cavidades Negativas
N Cavidades Sembradas
20000
24
40000
18
60000
18
80000
18
100000
18
32
3841MetodosEstadisticos correguido.indd 32
22/4/10 10:45:03
Otra It.(S)(N)? S
BB= 0.000012228383
AA= -0.28455963
Tiempo/ Y=0 = 23270 clulas
LS= 23271 clulas
LI= 23269 clulas
Otra It.(S)(N)? S
BB= 0.00001222171
AA= -0.28414062
Tiempo/ Y=0 =23249 clulas
LS= 23250 clulas
LI= 23248 clulas
Otra It.(S)(N)? N
Sembrando alrededor de 23 250 clulas tendremos una buena probabilidad de aislar
una stem cell con las caractersticas de inters.
33
3841MetodosEstadisticos correguido.indd 33
22/4/10 10:45:03
3841MetodosEstadisticos correguido.indd 34
22/4/10 10:45:03
Inoculados
Da
1
Da
2
Da
3
Da
4
P
muertes
P*(1-P)
1/10
20
20/20
1/20
20
13/20
0.2275
1/40
18
6/18
0.2222
1/80
24
1/24
0.03993
Con un nmero muy grande de dosis se obtiene una curva sigmodea al graficar la
proporcin de animales positivos contra la dosis expresada logartmicamente. Esa
35
3841MetodosEstadisticos correguido.indd 35
22/4/10 10:45:03
FIGURA 4
1
0.9
0.8
0.7
0.6
0.5
0.4
0.3
0.2
0.1
0
0
Logdosis
Puede advertirse que hay una parte central de la curva, a la cual se podra ajustar
una lnea recta. Los extremos son aplanados, y en ellas el paso de una dosis a otra
Puede
advertirse
que haydeuna
parte central
de la curva,que
a lael cual
ajustar
muestra
poco aumento
la respuesta
P. Considerando
50% se
de podra
positividad
unase
lnea
recta.
Los
extremos
son
aplanados
,
y
en
ellas
el
paso
de
una
dosis
produce en el centro del segmento ms recto de la sigmoidea, es intuitivamente a
otra,deseable
muestra
pocolaaumento
la respuesta
P. de
Considerando
que elDe50%
estimar
dosis que de
gener
esa respuesta
50% de positividad.
ah de
positividad
produce
centro
del segmento
ms con
recto
la sigmoidea,
lo que sese
conoce
comoen
DEel50%,
y la necesidad
de trabajar
losde
logaritmos
de las es
intuitivamente
estimar
la ladosis
esa asimtrica
respuestay de
dosis puestodeseable
que, de otra
manera,
curvaque
seragener
fuertemente
por 50%
ello, de
positividad.
Depara
ah lo
que se conoce
como DE 50%, y la necesidad de trabajar con
inadecuada
la estimacin
requerida.
los logaritmos de las dosis puesto que, de otra manera, la curva sera fuertemente
Generalmente,
las dosis
se diluyen:
dela
2 en
2, de 5 enrequerida.
5; de 10 en 10, segn un facasimtrica
y por ello,
inadecuada
para
estimacin
Existen muchos mtodos para estimar la DE 50 como: Reed-Muench, DragstedEl de Reed-Muench ha sido usado con porfa por los virlogos pese a que los esBehrens; Spearman-Karber(S-K), Probits, Logits; Transformacin Angular, y otros
tadsticos lo han criticado severamente y no lo recomiendan (Finney,D.,1971) y
de ms reciente desarrollo: Weybits , Aranda-Ordaz ,etc. (Morgan,B.,1992).
tambin Govindarajulu (Govindarajulu, Z.,1988) quien hasta lo declara ineficiente
junto con el Dragsted-Behrens que le est muy relacionado. Todos estos autores
El de
Reed-Muench
usado con porfa mtodo
por los no-paramtrico
virlogos pesebastante
a que los
destacan
la calidadha
delsido
Spearman-Karber(S-K),
estadsticos
robusto. lo han criticado severamente y no lo recomiendan, (Finney,D.,1971)y
22/4/10 10:45:04
Los mtodos: Probit, Logit y Transformacin Angular han sido empleados profusamente en ensayos biolgicos, y son recomendados por la Organizacin Mundial de
la Salud (OMS. Serie de Informes Tcnicos 800).
Berkson
(Berkson,J.,1957),
talvez
por
la mismaporrazn
Los autoresJoseph
citados tienen
una buena
opinin del mtodo
Logit
desarrollado
Jo- que tienen lo
usuarios
de la regresin
de tanta
importancia
en usuarios
Epidemiologa.
seph Berkson
(Berkson,J.,1957),
talvezlogstica
por la misma
razn
que tienen los
de la regresin logstica de tanta importancia en Epidemiologa.
2.1.1.- El Mtodo de Spearman-Karber.
Si las
Xi dosis
estn muydeespaciadas,
desea
modo
que PQ sea
Si las Xi dosis
no estn
muyno
espaciadas,
modo que PQ
prcticamente
ceropracticamente ce
fueradedel
delos
XiNi, yindividuos
todos losson
Ni iguales,
indivduos
son iguales,
la suma d
fuera del rango
Xi,rango
y todos
entonces:
la sumaentonces:
de
los
Pi
y
la
suma
de
lo
productos
XiPi
pueden
ser
reemplazados
por
las
integrale
los Pi y la suma de los productos XiPi pueden ser reemplazados por las integrales
adecuadas
usando
la
frmula
de
Euler-MacLaurin.
Por
ejemplo,
si
Xi
es
la
i-sim
adecuadas usando la frmula de Euler-MacLaurin. Por ejemplo, si Xi es la i-sima
dosis,
D
es
el
factor
de
dilucin,
y
Ri
de
Ni
indivduos
responden
a
la
Xi
dosis
(
dosis, D es el factor de dilucin, y Ri de Ni individuos responden a la Xi dosis (i=
1,..,K),
entoces:
1,..,K), entonces:
P = 1 + e # $ ( x# )
#1
] , = #% / $
Xk
= DE 50 =
Xi +D / 2
= X K + D / 2 " D ! Pi , factorizando :
i =1
K
Donde: Xk=Donde:Xk=
Log10 de la Log10
dosis ms
genera 100%
de genera
positividad
o de positividad
de concentrada
la dosis msque
concentrada
que
100%
casi 100%. casi 100%.
D= Log10 del factor de dilucin que en este caso es 2 (Log10(2)=0.30103)
P= Proporcin de Positivos/Inoculados.
= Constante.
P=Proporcin de Positivos/Inoculados.
!=Constante.
EJEMPLO 20:
Con los datos de la Tabla 6, tenemos:
37
Log10(DE50)=Log10(1/10)-Log10(2)*(20/20+13/20+6/18+1/24-0.5)
3841MetodosEstadisticos correguido.indd 37
22/4/10 10:45:05
EJEMPLO 20:
Con los datos de la Tabla 6, tenemos:
Log10(DE50)=Log10(1/10)-Log10(2)*(20/20+13/20+6/18+1/24-0.5)
Log10(DE50)= -1- 0.30103*( 2.025- 0.5)= - 1.45907075
De donde, tomando antilog, resulta: DE50= 0.03475 mL = 1/28.8 como dilucin.
Tambin es posible obtener el error estndar de la DE50 mediante la siguiente expresin:
PQ
PP
QQ"
"
SE"
=D
i
SESE= =DD i i
n ! 1 con los valores: P*Q de la Tabla 6, obtenemos:
, donde,
n n! 1! 1 , donde, con los valores: P*Q de la Tabla 6, obtenemos:
, donde, con los valores: P*Q de la Tabla 6, obtenemos:
0.2275 0.2222 0.03993
SE = 0.30103
*
+ 0.003993
+
= 0.04926
0.02275
.02222
.2275+ 019
.2222
.03993
SESE= =0.030103
*
+
=
0
.
04926
17
23
.30103 * 19
+ 17
+ 23
= 0.04926
19
17
23
Este es el error estndar del logaritmo de la DE50, por lo tanto, para calcular lo
Este
es
el
error
estndar
logaritmo
la laDE50,
lo lo
tanto,
para
calcular
loslos
lmites
deestndar
confianza(95%)
deberemos
hacer:
EsteEste
es eleserror
estndar
del del
logaritmo
de
lade
DE50,
por
lo por
tanto,
para
calcular
loscalcular
el
error
del
logaritmo
de
DE50,
por
tanto,
para
lmites
de
confianza(95%)
deberemos
hacer:
lmites
de confianza
(95%) deberemos
hacer: hacer:
lmites
de confianza(95%)
deberemos
+1.96*0.04926 )
Lm.
Sup.
Lim.Sup
= 10 ( !+11..45907075
= 0.0434
( !1..45907075
96*0.04926 )
( !1.45907075+1.96*0.04926=
) 0.0434
Lim
.
Sup
.
=
10
Lim.Sup
. =Inf.
10
0.0434
!1.96*0=
.04926
)
Lm.
Lim.Inf
= 10 ( !!11..45907075
= 0.02782
( !1..45907075
96*0.04926 )
( !1.45907075!1.96*0.04926=
) 0.02782
Lim
.
Inf
.
=
10
Lim.InfEn. =el 10
0.02782
Apndice 1 se presenta el =
mtodo
Spearman Karber Trimmed ,
el el
Apndice
se
presenta
el el
mtodo
Spearman
Karber
Trimmed
, ,
EnEn
elEn
Apndice
1 se1presenta
el mtodo
Spearman
KarberTrimmed,
Apndice
1 se
presenta
mtodo
Spearman
Karber
Trimmed
2.1.2.
El Mtodo
Logit
2.1.2.
El Mtodo
Logit.
2.1.2.
ElEl
Mtodo
Logit.
2.1.2.
Mtodo
Logit.como veremos, dos usos diferentes; el primero de ellos es
El programa
6 tiene,
El
programa
6 Mtodo
tiene, como
veremos,el dos
usosScore
diferentes;
el El
primero de ellos
para estimar la DE50 por el
Logit mediante
llamado:
Method.
El
programa
6
tiene,
como
veremos,
dos
usos
diferentes;
el
primero
de
ellos
para
estimar
la
DE50
por
el
Mtodo
Logit
mediante
el
llamado:
Score
Method.
segundo
tiene que6 ver
con como
la estimacin
del valor
D, quediferentes;
es el tiempo
minutosde
El programa
tiene,
veremos,
dos usos
el en
primero
elloses
es
para
estimar
la
DE50
por
el
Mtodo
Logit
mediante
el
llamado:
Score
Method.
El
segundo
tiene
que
ver
con
la
estimacin
del
valor
D
que
es,
el
tiempo
en para
que una
concentracin
esporas
termorresistentes
es reducida
en una
unidadMethod.enElminut
estimar
la DE50de
por
el Mtodo
Logit mediante
el llamado:
Score
segundo
tiene
que
ver
con
la la
deldel
valor
D
que
es,es,
el el
tiempo
enen
minutos
entiene
que
una
concentracin
de esporas
termorresistentes
es
reducida
en una unida
logartmica
cuando
est
sometida
aestimacin
una
temperatura
muy
alta
en
un
autoclave.
Esto
segundo
que
ver
con
estimacin
valor
D
que
tiempo
minutos
en
que
una
concentracin
de
esporas
termorresistentes
es
reducida
en
una
unidad
logartmica
cuando
est
sometida
a
una
temperatura
muy
alta
en
un autoclav
es, en
porque
ejemplo,
bajar desde, digamos:
cien mil
esporas a diez mil
un tiempo
una concentracin
de esporas
termorresistentes
esen
reducida
en t,una unidad
logartmica
cuando
est
sometida
a
una
temperatura
muy
alta
en
un
autoclave.
estando
a 180
EstoC.
es, porest
ejemplo,
bajara desde,
digamos: cien
a diez mil en u
logartmica
cuando
sometida
una temperatura
muy mil
altaesporas
en un autoclave.
Esto
es,
por
ejemplo,
bajar
desde,
digamos:
cien
mil
esporas
a
diez
mil
tiempo
t
,
estando
a
180
C.
Esto es,
por ejemplo,
bajar
desde, digamos:
cien
mil esporas
a diez
milenenunun
Eltiempo
ncleo
de
clculo
del
score
fue
desarrollado
por
Byron
Morgan
(citado)
para
vet , testando
a 180
C.C.
tiempo
, estando
a 180
rificar
la calidad
del ajuste
del modelo
a los datos (lneas 1160 a 1420). El resto del
El
ncleo
de
clculo
del score fu desarrollado por Byron Morgan (citado) pa
programa ha sido agregado por el autor de este librito para calcular una DE50 con
ElEl
ncleo
dede
clculo
deldel
score
fu
desarrollado
por
(citado)
para
verificar
del
del
a
losByron
datos,(lineas
1160
a 1420).
ncleo
clculo
fu
desarrollado
por
ByronMorgan
Morgan
(citado)
paraEl res
lmites
de confianza,
ylaelcalidad
valor
Dscore
paraajuste
estudios
demodelo
inactivacin
trmica.
El
programa
verificar
la
calidad
del
ajuste
del
modelo
a
los
datos,(lineas
1160
a
1420).
El
resto
programa
sido del
agregado
el autor
de este 1160
librito apara
calcular
una DE5
verificardel
la calidad
delha
ajuste
modelopor
a los
datos,(lineas
1420).
El resto
deldel
programa
ha
sido
agregado
por
el
autor
de
este
librito
para
calcular
una
DE50
con
lmites
de
confianza,
y
el
valor
D
para
estudios
de
inactivacin
trmica.
programa ha sido agregado por el autor de este librito para calcular una DE50
con
dedeconfianza,
dede
inactivacin
programa
7 que yseyeldetalla
posteriormente,
da
exactamente
eltrmica.
mismoElresultad
conlmites
lmites
confianza,
elvalor
valorD
Dpara
paraestudios
estudios
inactivacintrmica.
El
programa
7 7que
da procedimiento
exactamente
pero
permite
explicar
como
programa
quesesedetalla
detallaposteriormente,
posteriormente,
exactamenteeliterativo.
elmismo
mismoresultado,
resultado,
38funciona elda
pero
permite
explicar
como
funciona
el el
procedimiento
iterativo.
pero
permite
explicar
como
funciona
procedimiento
iterativo.
PROGRAMA 6:
PROGRAMA
6:
PROGRAMA
3841MetodosEstadisticos
correguido.indd 38 6:
22/4/10 10:45:06
39
3841MetodosEstadisticos correguido.indd 39
22/4/10 10:45:06
1450 L=0
1460 CLS: FOR I=1 TO K
1470 PRINT Dosis(;I; ); X(I), :Frecuencia Observada:; R(I); :F.Esperada=; Q(I)
1480 C1=C1+(R(I)-Q(I)*N(I))*(R(I)-Q(I)*R(I)) / (Q(I)*N(I))
1490 L=L-(R(I)*LN(Q(I))-(N(I)-R(I))*LN(1-Q(I))
1500 NEXT I
1510 CLS: PRINT Ji cuadrado de Ajuste=; C1
1520 PRINT Logaritmo de Verosimilitud=; L
1522 PRINT Intercepto=; A, Pendiente=; B
1523 PRINT LOG10 DE50%=; -A/B, DE 50%=; 10^(-A/B)
1524 PRINT Valor D=; (-A/B) / QWE
1530 XX(1,1)= B1: XX(1,2)=B2: XX(2,1)=B2: XX(2,2 )=B4: BB(1,1)=A: BB(2,1)=B
1540 FOR I=1 TO 2
1545 FOR J=1 TO 1
1550 S=0
1555 FOR V=1 TO 2
1560 S=S+XX(I,V)*BB(V,J)
1565 NEXT V
1570 XY(I,J)=S
1575 NEXT J
1577 NEXT I
1580 MY=XY(1,1) / XX(1,1): SX=XX(2,2)-(XX(1,2))^2 / XX(1,1)
1585 SE= (1/XX(1,1)+(MY/B)^2 / SX)/B^2: SEX=SQR(SE): PRINT Error Estndar de la Potencia=;
INT(SEX*10000000+0.5)/10000000
1590 LS=10^((-A/B)+1.96*SEX): LI=10^((-A/B)-1.96*SEX)
1595 PRINT LS=, LS, LI=; LI
1600 PRINT Lim.Sup. del Valor D=; LOG(LS)/QWE
1610 PRINT Lim.Inf. del Valor D=; LOG(LI)/QWE
1617 END
EJEMPLO 21:
Supongamos los siguientes datos de titulacin de virus rbico:
TABLA 7
Log10(DOSIS)
Muertos
Inoculados
-4
-5
-6
-7
10
10
10
11
10
Nmero de Dosis? 4
N Esporas/Ampolla? 1000,(Cualquier nmero si slo se desea calcular DE50)
40
3841MetodosEstadisticos correguido.indd 40
22/4/10 10:45:06
Las dosis se entrarn como estn escritas en la tabla porque son logaritmos, y por
ello, ya se encuentran a una distancia igual entre ellas.
Dosis(1)? -4
Dosis(2)? 5
Dosis(3)? 6
Dosis(4)? 7
Posit. (1)? 10
Inocul.(1)? 10
:
:
Inocul.(4)
Ji cuadrado: 0.1303760973
Log Verosimilitud= 15.80890593
Intercepto= 11.77
Pendiente= 2.03991489
Log10 DE50= -5.76992, que se expresa como: 5,76992
DE50= 0.00000169855
Valor D= - 1.77498, (Slo interesa cuando se trabaja con inactivacin de esporas)
Lim.Sup.= 0.00000458, log10= -5.34,( 5.34, con signo(+))
Lim Inf.= 0.00000063, log10= -6,2, ( 6.2 )
L.Sup.de D= -1.6425
L.Inf. de D= -1.90746
A continuacin, usaremos el programa 6 con los datos de la tabla 6. Dado que
las dosis estn expresadas en valores aritmticos, deberemos obtener sus loga
ritmos decimales antes de teclear las observaciones en el computador. Una nota
de advertencia: Si las dosis estn expresadas aritmticamente como por
ejemplo: 3, 4, 5, 6, etc., no se deben transformar a logaritmos, puesto que
ya estn separadas por una distancia igual y constante. Esa transformacin es indispensable cuando las dosis son crecientes, como ocurre, por
ejemplo, en la serie: 1/10, 1/20, 1/40, en la cual cada dosis est dos veces
ms diluida que la anterior (factor de dilucin=2), o en otro caso como:
1000, 200, 40, 8 en la que cada dosis est cinco veces ms diluida que la
anterior (factor de dilucin=5).
Dosis(1)? 1.0
Dosis(2)? 1.301
Dosis(3)? 1.602
Dosis(4)? 1.903
Positivos(1)? 20
Inocul(1)? 20
:
:
Incul(4)? 24
41
3841MetodosEstadisticos correguido.indd 41
22/4/10 10:45:07
Ji cuadrado= 0.4986
Log Verosimilitud= 30.03
Intercepto= 9.872
Pendiente= 6.775
Log10 de la DE50= -1.457
DE50= 0.0349, (Comprese con la DE50 obtenida con el mtodo S-K )
:
Lim.Sup.de la DE50= 0.0434
Lim.Inf.de la DE50= 0.028
Puede verse la extraordinaria concordancia de estos resultados con los obtenidos
con el mtodo de Spearman y Karber(S-K). Sin embargo, no siempre se cumple
esta situacin. La Organizacin Mundial de la Salud tiene razn al preferir el mtodo
Logit, puesto que hay casos en que las proporciones (positivos / Inoculados) no
son estrictamente decrecientes como se puede ver en la Tabla 8, y en esos casos el
mtodo S-K debe corregirse con un procedimiento llamado ABERS, que se explicar
a continuacin.
EJEMPLO 22:
TABLA 8
Antes del ABERS
Dosis
Inoculados
Vivos
Inoculados
Vivos
0.1667
12
0.0833
12
0.0833
16
0.333
0.3333
32
0.667
0.6667
64
0.667
0.6667
128
1.0
12
11
0.9167
256
0.833
12
11
0.9167
42
3841MetodosEstadisticos correguido.indd 42
22/4/10 10:45:07
ri ! ri +1
ri ri +1 , Donde r denota la variable de inters (vivos en este caso), y n denota
ni + ni +1
ni + ni +1 , Donde r denota la variable de inters (vivos en este caso), y n denota
los inculados.
los inoculados.
Cada vez que el P desciende en vez de seguir aumentando como se ve entre las
Cada vez que el P desciende en vez de seguir aumentando, como se ve entre las
dosis 128 y 256, se suman los vivos , y el valor resultante se divide por la suma de
dosis 128 y 256, se suman los vivos, y el valor resultante se divide por la suma de
los inculados:
los inoculados:
6 + 5 11
= , despus se substituyen los datos originales otorgando 11 vivos a cada
6 + 6 12 , despus se substituyen los datos originales otorgando 11 vivos a cada
dilucin,y 12
y 12
inoculados
a una
cada
de las
dosis involucradas,
como puede
dilucin,
inoculados
a cada
de una
las dosis
involucradas,
como puede verse
en
la ltima
columna
la derecha
de derecha
la tabla 8.de la tabla 8.
verse
en las
ltimaacolumna
a la
El procedimiento se aplica luego a todos los casos similares.
No.de Ampollas
Expuestas (n)
No.de Ampollas
Sin Crecimiento(r)
18 minutos
20
20
20
22
20
24
20
26
20
15
28
20
19
30 (Uk)
20
20
32
20
20
41
Supongamos que las 120 ampollas fueron llenadas con 1 milln de esporas cada
una. Las esporas pertenecen a un microorganismo termorresistente (B. stearothermophylus). Se colocan todas las 120 ampollas en un bao de glicerina a una temperatura semejante a la de un autoclave, y luego se retiran 20 de ellas cada 2 minutos;
se enfran rapidamente, se siembran individualmente en un medio de cultivo adecuado, y despus de algunos das se anota el nmero de ampollas que no generaron
crecimiento (esporas muertas).
43
3841MetodosEstadisticos correguido.indd 43
22/4/10 10:45:08
TABLA 10
Dosis
Inoculados
Muertos
P(proporcin)
1.00
0.875
0.375
0.375
0.25
0.00
0.00
Ntese que las dosis estn a distancia constante y que por eso no es necesaria la
transformacin logartmica
PROGRAMA 7
1210 CLEAR: CLS
1215 PRINT LOGIT <exe>
1220 INPUT No.Observaciones; N: DIM X(N, 9): A=0: B=0: C=0: D=0: E=0: F=0: PP=0: PX=0
1230 FOR I= 1 TO N
1240 PRINT DOSIS(; I; );: INPUT X(I,1 )
1250 PRINT POSITIVOS(; I; );: INPUT X(I, 2 )
1260 PRINT INOCULADOS(; I; );: X(I, 3 )
1270 X(I, 4)=X(I,2) / X(I,3): Q=1-X(I,4): PP=PP+ X(I,4):PX=PX+X(I,4)*X(I,1)
44
3841MetodosEstadisticos correguido.indd 44
22/4/10 10:45:08
45
3841MetodosEstadisticos correguido.indd 45
22/4/10 10:45:08
Se dar con el mayor detalle posible todo el desarrollo del mtodo debido a que ste
no se explica con claridad en la literatura disponible.
Para empezar, se obtienen: La pendiente y el intercepto de una lnea de regresin
simple. La variable predictiva (independiente) es X(I,1) = Logaritmo decimal de la
i =1
Xw
= A=A + X(I,1)*X(I,8), y
i =1
X
i =1
2
w
P =C=C+X(I,7).
i =1
46
3841MetodosEstadisticos correguido.indd 46
22/4/10 10:45:08
!X
i =1
2
w
i =1
i =1
n
P =C=C+X(I,7) .
La suma no ponderada de P es:
Luis Rodrguez Aguayo2
Pw = D=D+X(I,7)^2
La suma
ponderada de los cuadrados de P es :
i =1
i =1
! P = D=D+X(I,7)^2*X(I,8).
La suma ponderada de los cuadrados de P es: P = D=D+X(I,7)^2*X(I,8).
Finalmente, la suma de productos cruzados es:
i =1
i =1
2
w
2
w
Finalmente,
la suma de productos
cruzados es:
Finalmente, la suma de ponderar.
productos cruzados es:
ponderar.
! XP
i =1
! XP
=E=E+X(
i =1
=E=E+X(I,1)*X(I,7)
sin
=E=E+X(I,1)*X(I,7) sin
ponderar.
(! X
nn
X
((
X ww ))22 de X:
Se debe calcular la suma
de cuadrados
!
nn
, =SXw,
Se debe calcular la suma de cuadrados de X:
! XX ww22 " ii==11nn
Se debe calcular la suma de cuadrados de X: ii==11
, =SXw,
lnea1390.
w
w
!X
2
w
"
i =1
i =1
n
!
i =1
ii==11
lnea1390.
!b =
SX
(
PX " E )" (A * ( PP " C ) )
!b =
PP " C " !b * A
SX
!a =
G
PP " C " !b * A
G= w, es el factor de ponderacin definido en la lnea 1350 o 1355 de
!a =
G= w, G
es el factor de ponderacin
en la
1355
del programa
Todos losdefinido
smbolos
: Alnea
, C 1350
, E y G
, pertenecen
a 7.
la primera iteraci
G= w, es el factor de ponderacin
definido
en la de
lnea
1350 o 1355
del programa 7.
PX y PP
provienen
la ecuacin
preliminar.
los smbolos:
a laa primera
iteracin
ponderada;
PX y
Todos Todos
los smbolos
: A , A,
C ,C,EE yy G,
G ,pertenecen
pertenecen
la primera
iteracin
ponderada;
PP
provienen
de
la
ecuacin
preliminar.
PX y PP provienen de la ecuacin
preliminar. mencionados se denominan: DA y DB respect
Los diferenciales
suma:se denominan: DA y DB respectivamente. Las sumas:
Los diferenciales mencionados
Los diferenciales mencionados se denominan: DA y DB respectivamente. La
los ydos
estimadores
intercepto
y pendiente
de la de : intercepto y
suma: AA+DA y BB+DB hacen crecer
AA+DA
BB+DB
hacende:
crecer
los dos
estimadores
regresin ponderada del la
segundo
paso
de
operacin,
y
con
ellos
se
regresa
a
la
lnea
regresin ponderada del segundo paso de operacin,
y con ellos se
1337
para
calcular
nuevos:
valores
P,
nuevos
pesos
(w);
y
nuevos
diferenciales
-cada
AA+DA y BB+DB hacen crecer
dos estimadores
de : nuevos:
interceptovalores
y pendiente
de
lnealos1337
para calcular
P, nuevos
pesos (w
vez ms
pequeos del
quesegundo
harn que,
finalmente,
dos sucesivas
de pen-la
la regresin
ponderada
paso
de operacin,
con estimaciones
ellos se
regresa
diferenciales-cada
vez ms ypequeos
que
harn aque,
finalmente, d
diente opara
intercepto
sean nuevos:
prcticamente
iguales.
esepesos
momento,
al responder
lnea 1337
calcular
valores
P, Llegado
nuevos
(w);
y prcticamente
nuevos
estimaciones
de pendiente
o intercepto
sean
iguales.
con
N
al
pedido
de
otra
iteracin,
el
programa
7
ir
de
nuevo
a
la
lnea
1337,
donde
diferenciales-cada vez ms momento,
pequeos al
queresponder
harn que,
finalmente,
dos
sucesivas
con
N
al
pedido
de
otra
iteracin,
el
progr
la ltima iteracin tomar en cuenta el nmero de individuos por dosis para terminar
estimaciones
de pendiente o intercepto sean prcticamente iguales. Llegado ese
mostrando la DE 50= -A/B y sus lmites de confianza.
momento, al responder con N al pedido de otra iteracin, el programa 7 ir de
45
47
3841MetodosEstadisticos correguido.indd 47
22/4/10 10:45:09
#
&
2
1 $ 1
&Y #
SCx =
+ $ ! / SX ! , donde b es la pendiente dosis-repuesta y (Wi) es
2 $
!
b ' Wi % b "
!"
$% i
, donde b es la pendiente dosis-repuesta y (W )
i
el el
factor
paracada
cadanivel
nivel
K dosis.
La sumatoria
es
factordedeponderacin
ponderacin para
dede
las las
K dosis.
La sumatoria
de Wi, de
estWi , est
declarada
como
G=G+X(I,8)
en
la
lnea
1358
del
programa
Logit.
declarada como G=G+X(I,8) en la lnea 1358 del programa Logit.
EJEMPLO
24: 24:
EJEMPLO
Usando los datos de la tabla 10 que fueran presentados por Berkson en 1957, y
Usandoel los
datos 7,
decalcular
la tabla
10 que
presentados por Berkson en 1957, y
usando
programa
la dosis
letalfueran
50% (DE50).
BB=1.20004023
AA= -7.972286217
OTRA ITERACIN(S)(N)? S
3841MetodosEstadisticos correguido.indd 48
48
22/4/10 10:45:10
OTRA ITERACIN(S)(N)? S
BB= 1.204448388
AA= -8.002913303
OTRA ITERACIN(S)(N)? S
BB= 1.204448389
AA= -8.002913307
OTRA ITERACIN(S)(N)? N
DE50= 6.644463459, con lmites de confianza: (5.98; 7.31), que es el resultado
correcto. En 1957, sin instrumentos computacionales de alta precisin, y valindose
de tablas y grficos, Berkson obtuvo:
BB=1.2043, AA= -8.002 y DE50= 6.6445, partiendo de una ecuacin inicial estimada grficamente: BB=1.04 y AA= -6.94. NOTA: Si las dosis hubiesen sido
transformadas a logaritmos, tendramos que obtener el antilogaritmo del
valor de DE50 que entrega este programa.
Como puede observarse en el presente ejemplo, no es importante la estimacin del
comienzo, dado que las iteraciones conducen con certeza a los valores correctos.
El programa 7 puede automatizarse agregando rdenes para detenerse cuando
la diferencia entre dos sucesivas pendientes sea menor o igual a, por ejemplo:
0.00000001.
Resultados similares pueden obtenerse usando el paquete estadstico Stata 6.0 o
7.0.
Empleando las propiedades del Modelo Lineal General podemos usar los siguientes
comandos:
.glm r dosis, family(binomial n) link(logit)
Obteniendo: BB= 1.20448, AA= -8.002913 y DE50=-(AA) / BB = 6.6444653.
Estos resultados pueden compararse con los obtenidos por los programas 6 y 7 y
comprobar que hay una aceptable concordancia entre ellos. Debe agregarse que,
pese al frecuente uso de este mtodo, nunca ha habido un acuerdo internacional
sobre el nmero ptimo de iteraciones que deben aplicarse a un conjunto determinado de datos. La idea de permitir al usuario del programa decidir si desea o no
una nueva iteracin, concede la posibilidad de observar la marcha del proceso de
convergencia hasta su culminacin. Este criterio se aplic a casi todos los otros programas descritos en el presente libro.
2.1.4. Probits
Un mtodo similar al Logit, aunque ms antiguo (1934), es el de Probits debido al
estadstico norteamericano Chester Bliss (Finney, D.,1972)(Bliss,1938, 1945,1951).
49
3841MetodosEstadisticos correguido.indd 49
22/4/10 10:45:10
El desarrollo del anlisis probit fue consecuencia directa de un mtodo propuesto por
J.H.Gaddum (Gaddum,1933), el que ahora es conocido como mtodo Normit, y que
cay definitivamente en el olvido. En la puesta a punto del mtodo Probit, particip
hasta Sir Ronald Fisher.
Un probit se obtiene sumando el valor 5 al Z de la Curva Normal Estndar, dada
una cierta probabilidad p=Positivos / Inoculados. Este problema es conocido como:
curva normal inversa. l no tiene solucin analtica, y puede resolverse mediante
un mtodo numrico. Entre los muchos existentes, el de Derenzo (Derenzo,1977)
(Morgan,1992) es el preferido. Para empezar, mostraremos el algoritmo de Derenzo:
Sea P la probabilidad de morir originada por (Muertos/Inoculados). Por ejemplo:
P=28 / 30.
Con P= 28/30, (28 vivos de 30 inoculados)= 0.9333, tenemos:
C7=SGN(0.5-P), donde SGN toma los valores: -1, cero +1 segn signo de (0.5-P)
C7= -1
C8= 2.014403146
C8= 2.252737759
Probit (C8)= 6.5012
Z= 5.5012
Entrando el valor P= 0.9333 en el programa 8, obtendremos los valores de su Probit
y su Z, tal como se acaban de mostrar.
PROGRAMA 8
1000 CLS:CLEAR:INPUT P; P
1010 C7=SGN(0.5-P)
1020 C8= -LN(1-C7+2*C7*P)
1030 C8=((4+C8+100)*C8+205)*C8*C8 / (((2*C8+56)*C8+192)*C8+131)
1040 C8=5-C7*SQR(C8)
Las lneas 1000 - 1040 muestran el algoritmo de Derenzo que, a partir de una
proporcin P, obtiene directamente el Probit = (Z+5), declarado como C8 en el
programa.
1045 Z=C8-5, Este es el valor Z de la abscisa de la curva normal.
1047 PRINT PROBIT=; C8
1048 PRINT Z=; Z
1050 END
Este pequeo programa forma parte de aquel que ejecuta el mtodo PROBIT ms
abajo.
50
3841MetodosEstadisticos correguido.indd 50
22/4/10 10:45:10
n! 2
Luis Rodrguez
Aguayo
El factor de ponderacin(w) es :
, donde : ! es la ordenada
(funcin
de
PQ
densidad) en la abscisa Z de la Curva
n! 2 Normal . Z=Probit 5. En este caso Z=
El
factor
de
ponderacin(w)
es
:
donde : es
la ordenada
! laesordenada
6.5012-5=
1.5012.
El factor
de ponderacin(w) es:
,, donde:
(funcin(funcin
de densi-de
PQ
dad) en
lalaabscisa
Z de
Normal.
Z=Probit
5. En este
6.5012-5=
abscisa
Z la
deCurva
la Curva
Normal
. Z=Probit
5.caso
En Z=
este
caso Z=
Sidensidad)
usamos
elenprograma
1, tendremos:
1.5012.
6.5012-5= 1.5012.
Si usamos el programa 1, tendremos:
Area bajo
la curva(entre: y 1.5009) = 0.9333
Si usamos el programa 1, tendremos:
ni " i2 ni i2
en el
punto Z =es0.12934
, donde:
la ordenada en Z de la curva normal estandarizada
wOrdenada
=
(Pi (w1 !=P(iP))i (1 Pi )) , donde: es la ordenada en Z de la curva normal estandarizada
2cada dosis , i=1,2,...,K dosis.
N(0; 1) para
i
ni "1)
N(0;
i para cada dosisi, i=1,2,...,K dosis.
, donde: es la ordenada en Z de la curva normal estandarizada
w=
(Pi (1 ! Pi ))
30 * 0.12934 2
N(0;
1)
para
cada
dosis
,
i=1,2,...,K
dosis.
= 8.061945691 ,, para
Segn Segn
estosestos
datos,
para
la corresdosis
la dosis
datos,i w =
0
.
9333
* 0.0667
pondiente.
correspondiente.
30 * 0.12934 2
factores
de ponderacin
w = (w) se usan en =las8.iteraciones
061945691ponderadas
SegnEstos
estos
datos,
, para de
la manedosis
0(w)
.9333
0Logit.
.0667en las iteraciones ponderadas de
ra anloga
ya vista con el
mtodo
Estos factores
dea la
ponderacin
se* usan
correspondiente.
manera
anloga a la ya vista con el mtodo Logit.
PROGRAMA 9
Estos Elfactores
de ponderacin (w) se usan en las iteraciones ponderadas de
PROGRAMA
9 PROBIT
Mtodo
manera
anloga
a la ya vista con el mtodo Logit.
El Mtodo PROBIT
CLEAR: CLS
10 CLEAR:10CLS
PRINT
9 PROBIT<exe>
12PROGRAMA
PRINT 12
PROBIT<exe>
15
PRINT
NMERO
OBSERVACIONES;:INPUT;:INPUT
N
El
Mtodo
PROBIT
15 PRINT NMERO
DE DE
OBSERVACIONES
N
17
PRINT
Quiere
usar
Logaritmo
Decimal
de
las
Dosis
(S)(N);: (S)(N)
INPUT FR$
10
CLEAR:
CLS
17 PRINT Quiere usar Logaritmo Decimal de las Dosis
; : INPUT FR$
20PROBIT<exe>
DIM A(N, 12)
12
PRINT
20 DIM A(N, 12)
30 FOR I=1 TO N DE OBSERVACIONES ;:INPUT N
PRINT
3015FOR
I=1 NMERO
TO N
PRINT DOSIS(;
I; );: INPUT X:A(I,1)=X
PRINT40
Quiere
usar
Decimal
de las Dosis (S)(N) ; : INPUT FR$
4017PRINT
DOSIS(;
I ; )Logaritmo
;: INPUT X
:A(I,1)=X
41
IF
FR$=
S
THEN
42 ELSE 44
A(N,
12)
4120IFDIM
FR$=
S
THEN
42
ELSE
44
42 A(I, 1)=LOG(X): GOTO 50 (En computador es: LOG(X)/LOG10)
FOR
I=1
TO N
4230A(I
, 1)=LOG(X):
44 A( I, 1)=X GOTO 50 (En computador es: LOG(X)/LOG10)
40
PRINT
DOSIS(;
I ; ) ;: INPUT X :A(I,1)=X
44 A( I , 1)=X
50 PRINT POSITIVOS(; I; );: INPUT R: A(I,2)=R
41
IF
FR$=
S
THEN
42
44
50 PRINT 60
POSITIVOS(
; I ;ELSE
)I; );:
;: INPUT
R :A(I,
A(I,2)=R
PRINT INOCULADOS(;
INPUT NN:
3)=NN
42
A(I
,
1)=LOG(X):
GOTO
50
(En
computador
es:, LOG(X)/LOG10)
60 PRINT 70
INOCULADOS(
;
I
;
)
;:
INPUT
NN
: A(I
3)=NN
A(I, 4)= A(I,2)/A(I,3), calcula P=r/n
A(, I4)=
, 1)=X
7044A(I
A(I,2)/A(I,3),
calcula
P=r/n
80 NEXT I
PRINT
; I ;FF=0
) ;: INPUT R : A(I,2)=R
8050NEXT
I85POSITIVOS(
A=0:B=0:C=0:D=0: E=0:
60
PRINT
INOCULADOS(
;
I ; ) ;: INPUT NN : A(I , 3)=NN
85 A=0:B=0:C=0:D=0:
90 FOR I=1 TO N E=0: FF=0
70
A(I
,
4)=
A(I,2)/A(I,3),
calcula
P=r/n
92 TO
IF A(I,4)=0
ELSE FF=FF+1
90 FOR I=1
N OR A(I,4)=1 THEN 120
80
NEXT
I
95 C7=SGN(0.5-A(I,4))
92 IF A(I,4)=0
OR A(I,4)=1 THEN 120 ELSE FF=FF+1
A=0:B=0:C=0:D=0: E=0: FF=0
9585C7=SGN(0.5-A(I,4))
90 C8=
FOR -LN(1-C7+2*C7*A(I,4)),
I=1 TO N
100
en un computador, LN es: LOG, el logaritmo
92 IF A(I,4)=0 OR A(I,4)=1 THEN 120 ELSE FF=FF+1
natural.
51
95 C8=((4*C8+100)*C8+205)*C8*C8/(((2*C8+56)*C8+192)*C8+131)
C7=SGN(0.5-A(I,4))
105
100A(I,5)=
C8= -LN(1-C7+2*C7*A(I,4)),
encorrespondiente
un computador, alLN
es: segn
LOG, el
logaritmo
110
5-C7*SQR(C8), el probit
p=r/n
Derenzo.
natural.
115 A=A+ A(I,1):
B=B+
3841MetodosEstadisticos
correguido.indd
51 A(I,1)^2: C=C+ A(I, 5): D=D+ A(I,5)^2: E=E+ A(I,1)*A(I,5)
22/4/10
10:45:12
52
3841MetodosEstadisticos correguido.indd 52
22/4/10 10:45:12
La lnea 305 evala el ajuste lineal mediante Ji2; los que procuren efectuar un test de
razn de varianzas (F), encontrarn que la varianza residual es: cero.
53
3841MetodosEstadisticos correguido.indd 53
22/4/10 10:45:12
El valor Probit que se pide en la lnea 285, ser 5 para obtener DE50. Para otras
DEs, tenemos la siguiente lista: 5.8417(DE80), 6.2816(DE90), 6.645(DE95) y
7.3265(DE99). Es muy frecuente que, en las pruebas de eficacia de insecticidas, se
desee saber qu dosis garantizar la muerte del 99% de las moscas (DE99) o la
del 99.99%(Probit=8.719).
En pases exportadores de frutas, la amenaza de infestacin (no se diga infeccin
tratndose de moscas, tiburones, escorpiones, etc.), por la llamada Mosca de la
Fruta exige el empleo de insecticidas con una alta DE conocida y garantizada por
el proveedor.
Los insecticidas y pesticidas contaminan el ambiente y no dan certeza a los agricultores de que ganarn la guerra contra los depredadores de sus cultivos, pero encontrar
seres vivos capaces de predar a todos los predadores (control biolgico), es algo
de lento desarrollo, y entretanto, habr que seguir usando insecticidas hasta que la
ciencia diga que ya no es necesario.
Supongamos que queremos determinar la DE95 de un insecticida. Usamos, por
ejemplo: cinco dosis decrecientes del insecticida, aplicando cada una de ellas a
un frasco que contiene 300 moscas, y colocamos un frasco (control negativo) con
otras 300 moscas sin insecticida. Sabemos que y eso ocurre por causas difciles
de identificar, que algunas moscas morirn aunque no estn expuestas; tambin
habr algunas moscas que lograrn sobrevivir a concentraciones muy altas de un
insecticida. Si no fuera as, ya habramos extinguido a todos los insectos, pero ellos
an estn florecientes. La vida se defiende.
Veamos la siguiente tabla:
TABLA 11
Dosis
Control
1 mg
2 mg
3 mg
4 mg
5 mg
r
n
P
P*
18
40
95
200
276
300
300
300
300
300
300
300
0.06
0.133
0.317
0.67
0.92
1.00
0.00
0.078
0.27
0.65
0.915
1.00
Puede observarse en el grupo control, que murieron 18 moscas del total de 300
(P=0.06). Es lgico suponer que, en los otros grupos, no todas las muertes se puedan imputar a la accin de la dosis correspondiente de insecticida. As, es necesario
corregir las proporciones de muertos en los grupos tratados. Para ese propsito se
emplea la frmula de Abbott (Fall,1998 Entomology 128 Section 001 02. Bioassay).
La frmula es la siguiente:
54
3841MetodosEstadisticos correguido.indd 54
22/4/10 10:45:12
(P=0.06). Es lgico suponer que, en los otros grupos, no todas las muertes se
puedan imputar a la accin de la dosis correspondiente de insecticida. As, es
necesario corregir las proporciones de muertos en los grupos tratados. Para ese
propsito se emplea la frmula de Abbott (Fall,1998 Entomology 128 Section 001
Luis Rodrguez Aguayo
02. Bioassay). La frmula es la siguiente :
*
PP!CC
PP* == 1 ! C, , donde C es la proporcin de muertes en el grupo control. Ejemplo:
1 C donde C es la proporcin de muertes en el grupo control. Ejemplo:
P* =
0.133 ! 0.06
= 0.078 , ltima lnea y tercera columna desde la izquierda de la
1 ! 0.06
, ltima lnea y tercera columna desde la izquierda de
latabla
tabla.
SiSimultiplicamos
cadacada
P* porP*
cada
el nmero de
multiplicamos
por(n=300),
cada estableceremos
(n=300), estableceremos
elsobrenmero de
vivientes
que
usaremos
para
el
anlisis
Probit.
Los
datos
finales
se
muestran
sobrevivientes que usaremos para el anlisis Probit. Los datos finalesen
selamuestran
siguiente
tabla.
en la siguiente tabla.
TABLA 12
TABLA N 12 0 mg
r
n
1 mg
2 mg
0 mg
3 mg
0
23.4 1 mg 2 mg
81
r
0
23.4
81
300
300
300 195
n 300 300 300 300
3 mg
4 mg
4 mg 5 mg
195
274.5
274.5 300300
300
300
300
5 mg
300
300
52
Para esos casos se recomienda el uso del llamado Trimmed Spearman Karber
(TSK); una modificacin del mtodo no paramtrico ya descrito en este captulo.
El TSK ser explicado en el Apndice 1.
55
3841MetodosEstadisticos correguido.indd 55
22/4/10 10:45:13
TABLA 13
P
W(pesos)
0.1
-1.2816
0.342176
0.16
-0.9946
0.44036
0.2
-0.8417
0.4898
0.25
-0.6746
0.53849
0.3
-0.5244
0.5757
0.35
-0.3853
0.60307
0.4
-0.2532
0.62197
0.45
-0.1255
0.633
0.5
0.0
0.63662
0.55
0.1255
0.633
0.6
0.2532
0.62197
0.65
0.3853
0.60307
0.7
0.5244
0.5757
0.75
0.6746
0.53849
0.8
0.8417
0.4898
0.84
0.9946
0.44036
0.9
1.2816
0.342176
Donde lo pesos (w) han sido calculados sin incluir (n) en el numerador, suponiendo
que todas la dosis tienen el mismo nmero de individuos.
Tomando la media de la columna W(pesos), tenemos: 0.5368 cuyo recproco es:
1.86286.
Si usamos la forma aproximada del ancho del intervalo de confianza (L):
2*Z
1/ w
L = 2 * Z * 1 / w , donde Z= 1.96 y BB = la pendiente de una prueba anterior.
L = BB * N , donde Z= 1.96 y BB = la pendiente de una prueba anterior.
BB
N , donde Z= 1.96 y BB = la pendiente de una prueba anterior.
Si substituimos los valores que conocemos hasta aqu, tenemos:
Si
loslos
valores
queque
conocemos
hastahasta
aqu, tenemos:
Sisubstituimos
substituimos
valores
conocemos
aqu, tenemos:
2 * 1.96 1.86286
L = 2 * 1.96 1.86286 , donde si conocemos BB, por ejemplo: 1.2
L = BB
, donde si conocemos BB, por ejemplo: 1.2
N
, donde si conocemos BB, por ejemplo: 1.2
BB
N
yy sisise
el el
lmite
superior
de confianza
95% sea
120%
(1.2) de(1.2)
la DE50,
sepide
pideque
que
lmite
superior
de confianza
95%elsea
el 120%
de la DE50,
y si se pide
que el
lmite
superior
de confianza
95%N:sea el 120% (1.2) de la DE50,
tenemos,
despus
de
resolver
la
expresin
anterior
para
tenemos, despus de resolver la expresin anterior para N:
28.6254519
28.6254519
= 48 animales para el total de dosis. Por lo
N=
N = 1.2 22 [log (1.2) ! log (1 / 1.2)]22 = 48 animales para el total de dosis. Por lo
10
1.2 [log10
10 (1.2) ! log 10 (1 / 1.2) ]
3841MetodosEstadisticos correguido.indd 56
2 * 1.96 1.86286
2*Z
1/ w
, donde
conocemos
BB, por
ejemplo:
LL==
*
, donde Z= 1.96
y BB = lasipendiente
de una prueba
anterior.
N
BB BB N
1.2
BB
28.6254519
yN
si se
120% (1.2) de
la DE50,
= sea
48 elanimales
para
el
= pide2que el lmite superior de confianza 295%
tenemos,
la expresin
para N:
1.2despus
log de(1resolver
.2) ! log
(1 / 1.anterior
2)
10
tanto, si se van a usar 4 dosis, cada una de ellas tendr 12 animales inoculados.
Ntese
que la descrito
expresin
entre
corchetes
del denominador
es L al cuadrado.
El
es es
una
excelente
aproximacin
(DeArmon
and Lincoln,
1959) 1959)
Elmtodo
mtodo
descrito
una
excelente
aproximacin
(DeArmon
and Lincoln,
pero
sus
autores
subestimaron
la
media
de
los
valores
w,
obteniendo
un
numepero
sus
autores
la (DeArmon
media and
de Lincoln,
los valores
w, obteniendo un
El mtodo
descrito
es una subestimaron
excelente aproximacin
1959)
rador
= 39
que
resulta
en un
Nen
innecesariamente
grande.
La grande.
forma
descrita
aqu descrita
pero
sus
autores
subestimaron
la media
de N
losinnecesariamente
valores w,
obteniendo
un
numerador
= 39
que resulta
un
La forma
numerador = 39aque
resulta
en un N innecesariamente
grande. La
forma
descrita
corresponde
una
modificacin
del
mtodo
original
que
permite
satisfacer
bien
los
aqucorresponde
corresponde
a una modificacin
del que
mtodo
aqu
una modificacin
del mtodo original
permiteoriginal
satisfacer que permite satisfacer
requisitos
de la aOMS.
binloslos
requisitos
de la
bin
requisitos
de la OMS.
OMS.
En
elcaso
casodede
prueba
de potencia
con una
vacuna yde
referencia
y una vacuna
En el
unauna
prueba
de potencia
con una vacuna
de referencia
una
vacuna
En el caso
una prueba
dedepotencia
desconocida,
la
expresin
aproximada
es: una vacuna de referencia y una vacuna
desconocida
, lade
expresin
aproximada
L es: de L con
BB
S
x
A partir de esta ltima expresin,
el numerador
es: 58 , y suponiendo una
Apendiente
partir de
esta
ltima
expresin,
el numerador
es: 58,
suponiendo
una pendiente
(BB)
yindicado
lmites
de confianza
200%
y 50%,
un y
valor
de N:
significado
para el : caso
de
unaobtenemos
sola preparacin.
(BB) y lmites de confianza: 200% y 50%, obtenemos un valor de N:
58
N =partir2 de esta ltima 2expresin,
, con BB =1.32
obtendramos N
92 , y suponiendo una
A
el numerador
es:= 58
BB [log10 (258
) ! log10 (1 / 2)]
pendiente
N
= 2 (BB) y lmites de2 confianza : 200% y 50%, obtenemos un valor de N:
animales
vacuna,
30 animales por cada dosis de vacuna.
BB por
{log
(2) -92/3
logdosis=
()}
2
10
N=
= 92
En el caso
depruebas
la vacunas
contradetos
convulsiva,
cada yvacuna
tienePara
tres dosis
frecuente
en las
de potencia
vacunas
antipertussis
antirrbicas.
decrecientes
de
la
respectiva
preparacin.
Por
eso,
cada
dosis
tendra
30
ratones
estas ltimas debieran usarse unos 23 animales por dosis de vacuna.
54 intervalo de conEn
general
podemos
decir
para
reducirde
a lapotencia.
mitad el ancho
del
lmites:
200%
y 50%
delque,
valor
central
El valor
1.32 para la pendiente,
fianza,
deberamos
aumentar
en cuatro
veces
animales.
Por otro
lado,
es muy
frecuente
en las
pruebas
deel nmero
potenciade de
vacunas
antipertussis
y
un
intervalo
de
confianza
de
ancho
cero
slo
se
conseguira
con
infinitos
animales.
antirrbicas. Para estas ltimas debieran usarse unos 23 animales por dosis de
vacuna.
Los
mtodos in vitro no son recomendados an por la OMS para determinar potencia
en las vacunas como: anticoqueluche, antitetnica o antidiftrica, porque solamente
los ensayos en ratones o cobayos pueden medir proteccin; los otros slo miden
presencia del antgeno pero no su capacidad de inducir respuesta inmune. Un caso
dramtico es el rechazo por parte de la OMS, de la glicoprotena del virus rbico,
que pareca ser un excelente reemplazante de las pruebas de potencia de vacunas
antirrbicas en animales (WHO.TRS 822,1992). En esos casos las reducciones del
54
57
3841MetodosEstadisticos correguido.indd 57
22/4/10 10:45:16
solamente los ensayos en ratones o cobayos pueden medir proteccin; los otros
slo miden presencia del antgeno pero no su capacidad de inducir respuesta
inmune. Un caso dramtico es el rechazo por parte de la OMS, de la glicoprotena
del virus rbico, que pareca ser un excelente reemplazante de las pruebas de
potencia
de vacunas
antirrbicas
en animales
M
todos estadsticos
en microbiologa
y ensayos
biolgicos (WHO.TRS 822,1992). En esos
casos las reducciones del nmero de animales por prueba slo consiguen llevar
los lmites del intervalo de confianza ms all de los aceptados por la OMS. Habr
nmero
de animales
por pruebadesarrollen
slo consiguen
llevar
lmites
del intervalo
de
que esperar
que los cientficos
mtodos
in los
vitro,
capaces
de garantizar
confianza
ms
all
de
los
aceptados
por
la
OMS.
Habr
que
esperar
que
los
cientuna buena estimacin de potencia. Uno de los problemas para alcanzar esa meta
ficos
mtodos ainlos
vitro,
capaces de garantizar
buena estimacin
de
es el desarrollen
tratar de convencer
investigadores
de no usaruna
la correlacin
de Pearson
potencia.
Uno
de los problemas
para alcanzar
esa meta
es ensayos
el tratar in
devitro,
convencer
para medir
concordancia
entre pruebas
en animales
y los
ya que
aesa
los mala
investigadores
de no usarunla verdadero
correlacindogma
de Pearson
medir concordancia
prctica constituye
en lapara
actualidad.
Supongamos
entre
pruebas entres
animales
los observaciones:
ensayos in vitro, ya
esa(2;
mala
prctica
constitulos siguientes
pares y de
(1; que
100),
200),
(3; 300);
con
ye
un verdadero
dogmaseenobtendr
la actualidad.
Supongamos
los siguientes
pares de =
cualquier
calculadora
un coeficiente
de correlacin
(r) tres
de Pearson
observaciones:
(1;puede
100), verse,
(2; 200),
300);
con cualquier
calculadora
se obtendr
1.0 pero, como
hay(3;
una
enorme
discordancia
de medida
entre los
un
coeficiente
correlacin
Pearson no
= 1.0
como
puede
verse,
hay una
miembros
de de
cada
par. El r(r)dedePearson
fuepero,
hecho
para
medir
concordancia
enorme
medida entre los miembros de cada par. El r de Pearson no
(Altman discordancia
D. and BlanddeJ.,1983).
fue hecho para medir concordancia (Altman D. and Bland J.,1983).
2.3.- 2.3.
Potencia
de vacunas
antisueros.
Potencia
deo vacunas
o antisueros
Las determinaciones
determinaciones de
de potencia
potenciade
deuna
unavacuna
vacunase
sepueden
puedendefinir
definircomo:
como:
Las
Potencia =
DE 50.Vacuna de Referencia
Re ferencia
* UI / Dosis[Vac
. de
Re ferencia ]
Vac.
de Referencia
Problema
DE 50.Vacuna Pr
oblema
Donde
Donde DE50
DE50 es
es la
la dosis
dosis efectiva
efectiva50%,
50%,es
esdecir
deciraquella
aquellaque
queprotegi
protegialal50%
50%de
delos
los
animales
y
UI/Dosis
(Vacuna
de
Referencia)
son
las
Unidades
Internacionales
animales y UI/Dosis (Vacuna de Referencia) son las Unidades Internacionalesque
que
la
la OMS
OMS oo la
la Autoridad
Autoridad Nacional
Nacionalde
deControl
Controlde
deCalidad
Calidadde
deun
unpas
pasleleotorgaron
otorgarona alala
Vacuna
de
Referencia.
Vacuna de Referencia.
La potencia se puede estimar usando el programa 6, combinando los valores de las
La potencia se puede estimar usando el programa 6, combinando los valores de
sumas
de cuadrados:
Sx, Sy,
pendiente
e intercepto
y otros y
las sumas
de cuadrados:
Sx,Sxy,
Sy etc.,
Sxy para
etc., obtener
para obtener
pendiente
e intercepto
valores
intermedios
que
conducen
a
la
expresin
de
la
potencia.
Debe
recalcarse
otros valores intermedios que conducen a la expresin de la potencia. Debe
aqu,
que tendremos
lneas dedos
regresin,
una
para la ,vacuna
de referencia
recalcarse
aqu , quedos
tendremos
lneas de
regresin
una para
la vacuna yde
otra
para
la
vacuna
problema.
Estas
lneas
deben
ser,
digamos,
estadsticamente
referencia y otra para la vacuna problema. Estas lneas deben ser ,digamos,
paralelas.
La falta deparalelas.
paralelismo
conducir
a repetir
la prueba
entera
puestola
estadsticamente
La puede
falta de
paralelismo
puede
conducir
a repetir
que,
en
ese
caso,
la
potencia
es
considerada
inconfiable.
La
falta
de
paralelismo
prueba entera puesto que, en ese caso, la potencia es considerada inconfiable.esLa
puesta
prueba mediante
una dcima
como
se denominan
las pruebas
de signififalta deaparalelismo
es puesta
a prueba
mediante
una dcima-como
se denominan
cacin,
de
Ji
cuadrado
con
grados
de
libertad
=
No.
de
vacunas
1.
las pruebas de significacin -, de Ji cuadrado con grados de libertad = No. de
vacunas 1.
Por su parte, la dcima de falta de linealidad de las lneas de regresin de cada vacuna tiene grados de libertad = Suma del nmero de dosis de ambas vacunas-4.
Las combinaciones que se indican a continuacin llevan sufijos: (s) para la vacuna
de referencia y (u) para la vacuna problema. Usando en primer lugar el programa 9
(PROBIT) con la vacuna de referencia, y luego con la vacuna problema, obtendre-55
mos todas las sumas de cuadrados que se requieren para los clculos de potencia.
58
3841MetodosEstadisticos correguido.indd 58
22/4/10 10:45:16
vacuna
tiene gradosque
de libertad
= Suma
del nmerollevan
de dosis
de ambas
Las
combinaciones
se indican
a continuacin
sufijos:
(s) paravacunas-4.
la vacuna
vacuna
tiene grados
de libertad
= Suma
del
nmeroade
dosis
de ambas
vacunas-4.
Las que
combinaciones
se indican
continuacin
sufijos:
(s) para la
Las
combinaciones
sevacuna
indicanproblema.
aque
continuacin
llevan
sufijos:lugar
(s)llevan
para
la
vacuna
de
referencia
y
(u)
para
la
Usando
en
primer
el
programa
9
Las combinaciones
que se indican
a continuacin
llevan
sufijos:
(s) para
la vacuna
de
referencia
y
(u)
para
la
vacuna
problema.
Usando
en
primer
lugar
de
referencia
y (u)
para
la vacuna
problema. Usando
encon
primer
lugar
el programa
9 el pro
(PROBIT)
con
la
vacuna
de
referencia,
y
luego
la
vacuna
problema,
de referencia y (u)
para la vacuna
problema.
Usando
en primery lugar
el programa
9
(PROBIT)
con
la
vacuna
de
referencia,
luego
con
la
vacuna
p
(PROBIT)
con
la las
vacuna
y luego
con la para
vacuna
problema,
obtendremos
todas
sumasde
dereferencia,
cuadrados que
se requieren
los clculos
de
(PROBIT) con
la vacuna
de
referencia,
y de
luego
con laque
vacuna
problema,
obtendremos
todas
las
sumas
cuadrados
se
requieren
para
los
cl
obtendremos
todas las sumas de cuadrados que se requieren
para los
clculos de
Luis Rodrguez
Aguayo
potencia.
obtendremos todas
las sumas de cuadrados que se requieren para los clculos de
potencia.
potencia.
potencia.
= SX + SXSX = SX + SX
! SX
SX
= SX + !
SX
!
SX
= SY
SX ++sy
SX
!
SY
=
! SY = SY + sy!
SY = SY + sy
!
SY
=
SY
+
sy
!
= SXY + SXY
! SXY
SXY = SXY + SXY
SXY = SXY !
+ SXY
!
SXY
=
SXY
+
SXY
!
SW = Vacuna.de
)
SW. Re= ferencia
Vacuna.(depesos
. Re
ferencia
( pesos)
Referencia
s
s
s
SWs
SW
SWus
SWu
SWu
s
s
s
s
s
s
u
u
u
u
u
u
u
u
u
s
= Vacuna.de. Re
ferencia( pesos)
=
.oblema
Re ferencia
( pesos
)
= Vacuna
Vacuna..de
Pr
( pesos
)oblema
Problema
. Pr
( pesos)
u = Vacuna
= Vacuna.SW
Pr oblema
( pesos
)
= Vacuna. Pr oblema( pesos)
La pendiente comn
es la combinacin:
La(bc)
pendiente
(bc) es la combinacin:
La pendiente comn
(bc)
es lacomn
combinacin:
bc =
bc
bc =
=
Lascada
pendientes
cada lnea
Las pendientes de
lnea dede
regresin
son:de regresin son:
Las
pendientes
de
cada
lnea
de
regresin
Las pendientes de cada lnea de regresin son: son:
SXYs
SXYs
bs = SXY
s
=
b
SXY
s
s
bbs =
SX
SX s
s = SX s
SX ss
1
1
ErrorEst!ndar
=
SEb
=
s dar =1
ErrorEst!n
SEb
=
1
s
ErrorEst!n
dar
s
Error
Estndar
ErrorEst!n
dar =
= SEb
SEbss =
= SX
SX s
SX
SX ss
SXYu
SXYu
bu = SXY
u b =
SXY
bbu =
SX u u
SX u
u = SX u
SX uu
1
1
ErrorEst!ndar
SEb
=
=
u dar =1
ErrorEst!n
SEb
=
1
u
ErrorEst!n
dar
SEb
=
=
Error Estndar
u
ErrorEst!n
dar = SEbuu = SX
SX u
SX
SX u
u
59
3841MetodosEstadisticos correguido.indd 59
56
56
56
22/4/10 10:45:19
!
!
!
(Ys ! Yu )2
1
1
1
+
+
SM = 1
(Y ! Y )2
1
1
S M = b1C SW
1 s + SW
1 u + (YBssC22!!Ytuu 22)
S M = bC SWs + SWu + BC2 ! t 2
grados
deblibertad.
SWs SWu
BC ! t
C
grados de libertad.
2
grados de libertad.
grados
de libertad.
Con
estos
elementos podemos calcular los lmites de confianza con la expresin
Con estos elementos podemos calcular los lmites de confianza con la expresin
(Bliss,1945),
que corresponde
a la
frmula
delmites
Fieller
(Finney,1971):
Con
estos
podemos
calcular
de
confianza con la expresin
(Bliss,1945), elementos
que corresponde
a la frmula
de los
Fieller
(Finney,1971):
Con estos elementos
podemosa la
calcular
losdelmites
confianza con la expresin
(Bliss,1945),
que corresponde
frmula
Fieller de
(Finney,1971):
(Bliss,1945), que corresponde a la frmula de Fieller 2(Finney,1971):
2
BBCC2
22
22
C
=
C
=
,
donde:
2
2 2BC2 2 2
M
M , donde:
2
B
B
C
=
B
!t t
2
M , donde: C 2 = CC2 C 2
B
C2 ! t 2
M , donde:
C 2 es un evaluador del empinamiento
de
la
pendiente
de regresin comn. En
B
2
C !t
es un evaluador
del (citado),
empinamiento
de lacon
pendiente
de regresin
comn. En la
laCnomenclatura
de Finney
es denotado
(g). La relacin
entre ambas
2
nomenclatura
Finney
(citado), es denotado
con (g).deLaregresin
relacin comn.
entre ambas
del empinamiento
de la pendiente
En la
C 2 es un evaluador
expresiones
es lade
siguiente:
del empinamiento
de la pendiente
En la
C es un evaluador
expresiones
esde
la siguiente:
nomenclatura
Finney
(citado), es denotado
con (g).deLaregresin
relacin comn.
entre ambas
1
nomenclaturaesde
Finney (citado), es denotado con (g). La relacin entre ambas
la siguiente:
gexpresiones
= 1 2
expresiones
es
la
siguiente:
1
C , Finney recomienda disear el experimento de forma tal que g sea
g = 1 ! 0.1,
, Finney recomienda disear el experimento de forma tal que, g sea
2
menor deC1
e idealmente menor que 0.05.
g = 1 ! 12 , Finney recomienda disear el experimento de forma tal que, g sea
menor
e idealmente
menordisear
que 0.05.
C 20.1,
g = 1 !de
, Finney
recomienda
el experimento de forma tal que, g sea
C 0.1, e idealmente menor que 0.05.
menor de
menor
de 0.1,10e idealmente
menor
que
0.05. efectua una estimacin de potencia
El
programa
que se detalla
ms
adelante,
con
lmites
de
confianza
95%,
estimaciones
de desvos
de paralelismo
y de
El programa 10 que se detalla ms adelante, efectua
una estimacin
de potencia
El
programa
10
que
se
detalla
ms
adelante,
efectua
una
estimacin
de
potencia
linealidad;
segn la 95%,
versin
de Finney y de
el error
estndar
de la pendiente
con lmitesvalor
de g
confianza
estimaciones
desvos
de paralelismo
y de
60
con
lmitesvalor
de confianza
estimaciones
desvos
de paralelismo
y de
comn.
linealidad;
g segn la 95%,
versin
de Finney yde
el error
estndar
de la pendiente
linealidad; valor g segn la versin de Finney y el error estndar de la pendiente
comn.
comn.
C
C ** M
M tt **C
C ** SS
C * M t *C * S
C * M t *C * S
3841MetodosEstadisticos correguido.indd 60
22/4/10 10:45:21
OMS:
OMS:
que
que se
se
muestra
muestra despus
despus del
del listado
listado del
del programa;
programa; relacionado
relacionado con
con la
la vacuna
vacuna :: Pertussis
Pertussis 99El
anlisis sees
realiza
por una
los tres
mtodos recomendados
por la verse
OMS: transforma002-00-9,
slo
simulacin.
En
l
puede
que
se
usaron
002-00-9,
es slo una
simulacin.
En
l
puede verse
que se usaron
cin
angular (A), mtodo
probit (P)
y mtodo
logit
(L). El ejemplo
queincluye
se muestra
aproximadamente
30
ratones
por
dosis
de
vacuna.
El
listado
:: las
aproximadamente
30
ratones
por
dosis
de
vacuna.
El
listado
incluye
las dosis
dosis ,,
despus
del listado del
programa;
relacionado
con la
vacuna:
Pertussis
9-002-00-9,
los
sobrevivientes,
y
los
inoculados
;
adems
se
incluye
el
valor
en
UI/
0.5
ml
de la
losslo
sobrevivientes,
y losEninoculados
; adems
se usaron
incluyeaproximadamente
el valor en UI/ 0.5
es
una
simulacin.
l puede verse
que se
30 ml de la
vacuna
de
referencia.
vacuna de referencia.
ratones por dosis de vacuna. El listado incluye: las dosis, los sobrevivientes, y los
inoculados; adems se incluye el valor en UI/ 0.5 ml de la vacuna de referencia.
La
La potencia
potencia (P)
(P) por
por probit
probit es:
es: 5.5
5.5 UI/
UI/ dosis
dosis de
de 0.5
0.5 ml
ml de
de inyeccin,
inyeccin, redondeando
redondeando
cifras.
La
potencia
(P)
por
probit
es:
5.5
UI/
dosis
de
0.5
ml
de
inyeccin,
redondeando
cifras.
La
cifras.
La pendiente
pendiente probit
probit es
es :: 1.878465,
1.878465, con
con g=0.058;
g=0.058; dcima
dcima de
de desvos
desvos de
de
paralelismo=
0.02
(excelente);
y
linealidad
=
7.67
con
2
grados
de
libertad;
esta
paralelismo=
0.02
(excelente);
y
linealidad
=
7.67
con
2
grados
de
libertad;
esta
La
pendiente
probit es: un
1.878465, con
g=0.058;
dcima
de desvos
de paralelismo=
ltima
no
de
rechazo
de
la
prueba
aunque
,de
hecho,
ltima
no constituye
constituye
un motivo
motivo
de
rechazo
de
lalibertad;
pruebaesta
aunque
,de
hecho, indica
indica
0.02
(excelente);
y
linealidad
=
7.67
con
2
grados
de
ltima
no
constique
la
alineacin
de
las
observaciones
con
respecto
a
la
lnea
de
regresin,
no es
que
la
alineacin
de
las
observaciones
con
respecto
a
la
lnea
de
regresin,
tuye
un
motivo de rechazo de la prueba, aunque,de hecho, indica que la alineacin no es
muy
buena.
muy buena.
de las observaciones con respecto a la lnea de regresin, no es muy buena.
Si
verificamos
cumplimiento
de
las
de
OMS
sobre
lmites
Si
cumplimiento
de las
de la OMS
Si verificamos
verificamoselel
el
cumplimiento
de recomendaciones
las recomendaciones
recomendaciones
de la
lasobre
OMSlmites
sobrede
lmites de
de
confianza,
tenemos:
confianza,
tenemos:
confianza, tenemos:
1
1..51886
51886 * 100 = 174.29% , que es menor que 200%
* 100 = 174.29% , que es menor que 200%
0
.
871438
0.871438
, que es menor que 200%
0
0..4958631
4958631 * 100 = 56.9% , que es mayor que 50%
* 100 = 56.9% , que es mayor que 50%
0
0..871438
871438
, que es mayor que 50%
Con
todos
resultados
prueba
Con
estosestos
resultados
podemos podemos
concluir que,concluir
la prueba que,
cumplela
Con todos
todos
estos
resultados
podemos
concluir
que,
lasatisfactoriaprueba cumple
cumple
satisfactoriamente
los
requisitos
importantes
de
un
bun
diseo,
yy que
la
mente
los requisitos importantes
de un
buen diseo,de
y que
vacuna
problema
pasa
satisfactoriamente
los requisitos
importantes
un la
bun
diseo,
que
la vacuna
vacuna
problema
pasa
el
de
su
valor
supera
el
ensayo de
potencia
dado que
valor 5.5 dado
superaque,
el valor
aceptable:
problema
pasa
el ensayo
ensayo
desupotencia
potencia
dado
que,
su mnimo
valor 5.5
5.5
supera4 el
el valor
valor
mnimo
aceptable:
4
UI/
dosis
establecido
por
El
Comit
de
Expertos
en
Ensayos
UI/
dosis
establecido
por
El
Comit
de
Expertos
en
Ensayos
Biolgicos
de
la
OMS
mnimo aceptable: 4 UI/ dosis establecido por El Comit de Expertos en Ensayos
Biolgicos
de
OMS
(WHO,TRS
Biolgicos 800,
de la
la1990).
OMS (WHO,TRS
(WHO,TRS 800,
800, 1990).
1990).
El
escrito
en en
MicrosoftQuick
BasicBasic
comocomo
versin
autoejecutable.
El programa
programa1010fue
fue
escrito
MicrosoftQuick
versin
autoejecutable.
La
idea
de
emplear
tres
mtodos
mencionados
para
la
La
loslos
tres
mtodos
mencionados
para analizar
la potencia
de una de
La idea
ideade
deemplear
emplear
los
tres
mtodos
mencionados
para analizar
analizar
la potencia
potencia
de una
una
vacuna,
puede
aadir
ms
seguridad
a
la
hora
de
estimar
una
potencia
vacuna,
puede
aadir
ms
seguridad
a
la
hora
de
estimar
una
potencia
peligrosavacuna, puede aadir ms seguridad a la hora de estimar una potencia
peligrosamente
al
crtico
mente
cercana al cercana
valor crtico
de aprobacin.
peligrosamente
cercana
al valor
valor
crtico de
de aprobacin.
aprobacin.
Se
puede comentar
que no existe no
un programa probit
estandarizado internacionalSe
Se puede
puede comentar
comentar que
que no existe
existe un
un programa
programa probit
probit estandarizado
estandarizado
mente;
existen
muchos
programas
de
uso
oficial
en
sus
pases
de origen,
y no pases
es
internacionalmente;
existen
muchos
programas
de
uso
oficial
en
sus
internacionalmente;
existen
muchos
programas
de
uso
oficial
en
sus
pases de
de
inusitado
que
den
resultados
que
no
son
exactamente
iguales
entre
ellos,
dado
que
origen,
y
no
es
inusitado
que
den
resultados
que
no
son
exactamente
iguales
entre
origen,
y
no
es
inusitado
que
den
resultados
que
no
son
exactamente
iguales
entre
no
se ha acordado
el nmero
ideal de iteraciones
para obtener
los estimadores obtener
ellos,
ellos, dado
dado que
que no
no se
se ha
ha acordado
acordado el
el nmero
nmero ideal
ideal de
de iteraciones
iteraciones para
para obtener
requeridos.
los
los estimadores
estimadores requeridos.
requeridos.
Como
Como autocrtica
autocrtica puedo
puedo denunciar
denunciar que
que el
el programa
programa 10
10 usa
usa una
una de
de las
las ltimas
ltimas
iteraciones
efectuadas
por
el
mtodo
Logit
para
iniciar
las
correspondientes
61
iteraciones efectuadas por el mtodo Logit para iniciar las correspondientes al
al
mtodo
mtodo Probit;
Probit; esto
esto no
no es
es muy
muy elegante
elegante pero
pero hasta
hasta ha
ha sido
sido sugerido
sugerido por
por algunos
algunos
autores
autores (Cornfield
(Cornfield y
y Mantel.1950),
Mantel.1950), que
que llegaron
llegaron a
a recomendar
recomendar el
el uso
uso del
del Spearman
Spearman
3841MetodosEstadisticos
correguido.indd
61
22/4/10 10:45:22
-- Karber
para
obtener
el
primer
ciclo
de
clculos
requeridos
por
el
anlisis
Karber para obtener el primer ciclo de clculos requeridos por el anlisis Probit.
Probit.
Como autocrtica puedo denunciar que el programa 10 usa una de las ltimas iteraciones efectuadas por el mtodo Logit para iniciar las correspondientes al mtodo
Probit; esto no es muy elegante pero hasta ha sido sugerido por algunos autores
(Cornfield y Mantel.1950), que llegaron a recomendar el uso del Spearman - Karber
para obtener el primer ciclo de clculos requeridos por el anlisis Probit.
PROGRAMA 10
DECLARE SUB max ( )
DECLARE SUB calc ( )
CLS
COLOR 7, 1
CLEAR
PRINT EL PROGRAMA: NGULO, CALCULA POTENCIA DE VACUNAS POR TRES MTODOS:
PRINT PROBIT; LOGIT Y TRANSFORMACION ANGULAR -RECOMENDADOS POR OMS-,
PRINT TAL COMO FUERON CREADOS POR:C.BLISS Y R. FISHER(1934-35),J. BERKSON (194449)
PRINT Y POR LILA KNUDSEN Y JACK CURTIS (1947) RESPECTIVAMENTE.
PRINT PARA LOGITS Y PROBITS SE USO UN ALGORITMO DE MAXIMA VEROSIMILITUD DE
PRINT B.J.T. MORGAN (SCORE METHOD) (1992).
PRINT: PRINT Esta versin es de Luis Rodrguez-Aguayo.E-mail: lrodrig@ispch.cl
62
3841MetodosEstadisticos correguido.indd 62
22/4/10 10:45:23
63
3841MetodosEstadisticos correguido.indd 63
22/4/10 10:45:23
64
3841MetodosEstadisticos correguido.indd 64
22/4/10 10:45:23
END SELECT
K%(k) = a (k, 2): s%(k) = a (k, 3)
NEXT k
af = 1
tt = mc
q =q1
CALL calc
Mx1 = m1: my1 = m2
Sx1 = t1
Sy1 = t2
Sxy1 = t3
Jk = yy
Kk = n
CALL max
la2 = 0
lb2 = 0
lc2 = 0
ld2 = 0
le2 = 0
lf2 = 0
pa2 = 0
pb2 = 0
pc2 = 0
pd2 = 0
pe2 = 0
pf2 = 0
FOR i = jk TO KK
lxx = b (i, 1): 1yy = LOG(q (i) / (1 q (i)))
lww = q (i) * (1)) * a (i, 3)
c77 = SGN(.5 q (i))
c88 = -LOG(1 c77 + 2 * c77 * q (i))
ptt = ((4 * c88 + 100) * c88 + 205) * c88 * c88 / (((2 * c88 +56) * c88 + 192)
* c88 + 131)
c99 = 5 c77 * SQR(ptt)
pzz = c99 5
pfii = 1 / SQR(2 * 3.141592654) * exp(-.5 * (pzz * pzz))
pwkk = c99 1 / pfii * (q (i) (a (i, 2) / a (i, 3)))
pww = a (i, 3) * (pfii * pfii) / (q (i) * (1 q (i)))
la2 = la2 + lxx * lww
lb2 = lb2 + lyy * lww
lc2 = lc2 + lxx *lyy * lww
ld2 = ld2 + lxx * lxx *lww
le2 = le2 + lyy * lyy * lww
lf2 = lf2 + lww
pa2 =pa2 + lxx * pww
65
3841MetodosEstadisticos correguido.indd 65
22/4/10 10:45:23
66
3841MetodosEstadisticos correguido.indd 66
22/4/10 10:45:23
67
3841MetodosEstadisticos correguido.indd 67
22/4/10 10:45:23
PRINT -------------------------------------------------------------------------------
PRINT DOSIS; SPC(6); SOBREV:; SPC(2); VACUNADOS ; SPC(1);m SE50 (A)=; INT(e
D1 * 100+.5) / 100; SPC(1); (L)=; INT(led1 * 100 +.5) / 100; SPC(1); (P)=
; INT(ped1 * 100 +.5) / 100
FOR i = 1 TO mc
PRINT a (i, 1); TAB(12); k%(i); TAB(23); s (i)
NEXT i
PRINT
PRINT V.PROBLEMA=; vac$; SPC(2); Protocolo=; prot$; SPC(2); Responsable=;
lra
PRINT -------------------------------------------------------------------------------
PRINT DOSIS; SPC(6); SPC(2); VACUNADOS; DE50(A)=; INT(e
D2 * 10000 +.5) / 10000; (L)=; INT(led2 * 10000 +.5) / 10000; SPC(1)
; (P)=; INT(ped2 * 10000 +.5) / 10000
FOR i = yy TO n
PRINT a (i, 1); TAB(12); k (i); TAB(23); s (i)
NEXT i
PRINT -------------------------------------------------------------------------
PRINT POTENCIA(A)= ; pot; (; li; ;; ls; ); U.I./ 0.5 ml=; pot * ui
PRINT POTENCIAL(L):; lpot; (; lli; ;; lls; ); UI/0.5 ml=; lpot * ui
PRINT POTENCIAL(P):; ppot; (; pli; ;; pls; ); UI/0.5 ml=; ppot * ui
PRINT Pendiente(A)=; bc / 19.59; (L)=; lsl; (P)=; psl
PRINT Se(pendiente(P)=; psb; ,; g(P)=; INT(pg * 10000 +.5) / 10000; S p
Ot=; INT(pspot * 10000 +.5) / 10000
PRINT Desvos de Paralelismo=; ppar; con:1 g.libertd
PRINT Otra vacuna (s)(n);: INPUT sw$
SELECT CASE sw$
CASE IS = s
CLS
GOTO test
CASE IS = n
PRINT
END SELECT
END
SUB calc
SHARED b ()
SHARED q,af, tt, t1, t2, t3, w1, w2, m1, m2, n
g1 = 0
g2 = 0
FOR i = af TO tt
g1 = g1 +b (i. 1) * b (i, 3)
g2 = g2 + b (i, 2) * b (i, 3)
NEXT i
m1 = g1 / q
m2 = g2 / g
68
3841MetodosEstadisticos correguido.indd 68
22/4/10 10:45:23
t1 = 0
t2 = 0
t3 = 0
FOR i = af TO tt
w1 = b (i, 1) m1
w2 = b (i, 2) m2
t1 = t1 + (w1 * w1) * b (i, 3)
t2 = t2 + (w2 * w2) * b (i, 3)
t3 = t3 + (W1 * w2)* b (i, 3)
NEXT i
END SUB
SUB max
SHARED b (), a (), P (), q ()
SHARED ao, bo, mc, n, yy, jk, kk, i
Ao = 1: bo= 0
DO
LET d11 = 0
LET d22 = 0
LET B11 = 0
LET b22 = 0
LET b44 = 0
LET c44 = 0
LET c22 = 0
FOR i = jk TO kk
A11 = EXP(-ao)
P (i) = 1 / (1 + a11 * EXP(-bo * b (i, 1)))
z = a (i, 2) a (i, 3) * P (i)
d11 = d11 + z
d22 = d22 + z * b (i, 1)
q (i) = P (i)
P (i) = P (i) * (1 P (i)) * a (i, 3)
b11 = b11 + P (i)
b22 = b22 + P (i) * b (i, 1)
b44 = b44 + P (i) * (b (i, 1)) ^ 2
NEXT i
w = b11 * b44 - b22 * b22
c11 = b44 / w
c22 = -b22 / w
c44 = b11 / w
a0 = a0 + c11 * d11 + c22 * d22
b0 = b0 + c22 * d11 + c44 * d22
IF q (jk) >=.999999 THEN EXIT DO
LOOP UNTIL (ABS(d11) <.00001)
END SUB
DATOS(V.PATRON) 60 UI por 0.5 mal; (A)Angulo (L)logit (P)Probit
69
3841MetodosEstadisticos correguido.indd 69
22/4/10 10:45:23
------------------------------------------------------------------------------------DOSIS
SOBREV: VACUNADOS DE50(A)=.01 (L)=.01 (P)=.01
.04 14
14
.02 10
13
.01 4
12
.005 1
14
V.PROBLEMA=Test.9-125-01-9 Protocolo=Test 000254 Responsabilidad=LRA
---------------------------------------------------------------------------------------DOSIS
SOBREV: VACUNADOS DE50(A)=.012 (L)=.0118 (P)=.0118
.04 11
12
.02 10
14
.01 6
13
.005 2
14
----------------------------------------------------------------------------------POTENCIA(A}=.9511936 (.6534711, 1.370755 ) U.I./ 0.5 ml= 57.07161
POTENCIA(L): 1.043974 (.6426728, 1.719148 ) UI/0.5 ml=62.63842
POTENCIA(P): 1.021612 (.6490658, 1.611374 ) UI/0.5 ml= 61.29671
Pendiente(A)= 3.563082 (L) 5.295885 (P)= 3.176738
Se (pendiente(P)=.5187308,g(P)=.1024
Desvios de Paralelismo= 1.719548 con:1 g.libertad
Linealidad= 2.203226 con: 4 g.libertad
Otra vacuna (s) (n)?
Datos(V.PATRON) 6.3 UI por 0.5 ml; (A)ngulo (L)Logit (P)Probit
--------------------------------------------------------------------------DOSIS
SOBREV: VACUNADOS DE50(A)=.01 (L)=.02 (P)=.01
.1
30
30
.02 13
29
.004 6
30
V.PROBLEMA =Pert.9-002-00-9 Protocolo=Pert. 000211 Responsable=LRA
----------------------------------------------------------------------------------------DOSIS
SOBREV: VACUNADOS DE50(A)=.0164 (L)=.0175 (P)=.017
.1
28
29
.02 14
31
.004 5
30
-----------------------------------------------------------------------------------------POTENCIA(A)=.7819685 (.4871446, 1.234808 ) U.I./0.5 mL= 4.926402
POTENCIA(L):.8815936 (.4858211, 1.567723 ) UI/0.5 mL= 5.55404
POTENCIA(P):.871438 (.4958631, 1.51886 )UI/0.5 mL= 5.49006
Pendiente(A)= 2.165344 (L)= 3.178618 (P)= 1.878465
Se(pendiente(P)=.2264558, g(P)=.0558
Desvo de Paralelismo= 2.026612E-02 con:1 g.libertad
Linealidad= 7.671425 con: 2 g.libertad
Otra vacuna (s) (n)?
70
3841MetodosEstadisticos correguido.indd 70
22/4/10 10:45:23
71
3841MetodosEstadisticos correguido.indd 71
22/4/10 10:45:23
3841MetodosEstadisticos correguido.indd 72
22/4/10 10:45:23
CAPTULO 3
Nunca,
CAPTULO
3 la inferencia estadstica puede
reducirse a un conjunto
de reglas
de puede
Nunca, la fijo
inferencia
estadstica
reducirse
a un conjunto
fijo de reglas de
aplicacin rutinaria
a cualquier
problema.
aplicacin rutinaria a cualquier problema.
Toda circunstancia
siempre aunque
Toda circunstancia siempre aunque
sea por poco,
de otras.
seadifiere
por poco-,
difiere de otras.
Julian Simon.
Julian Simon.
Se
debe considerar que el primer propsito de la transformacin es aproximar el
Microorganismos
contorno de los datos a la distribucin de la Curva Normal, como se observa en
Se figura
debe considerar
que elque,
primer
propsito de
la transformacin
es aproximar
la
2, y conseguir
al aumentar
el tamao
de la media
no crezcaeltambin
contorno
de
los
datos
a
la
distribucin
de
la
Curva
Normal,
como
se
observa
en la
la varianza; un fenmeno indeseable que se conoce como heterocedasticidad
que
figura
2,
y
conseguir
que,
al
aumentar
el
tamao
de
la
media
no
crezca
tambin
ocurre con los recuentos de colonias bacterianas, en los cuales, al crecer lala media
varianza;
un fenmeno
indeseable
que se conoce
heterocedasticidad
que ocu- entre
crece
tambin
la varianza.
Es importante
quecomo
no haya
diferencia significativa
rre
con
los
recuentos
de
colonias
bacterianas,
en
los
cuales,
al
crecer
la
media
las varianzas de los grupos que se comparan, como ocurre en un crece
Anlisis de
tambin la varianza.
Es importante
que anolahaya
diferencia significativa
entrelelas
va- perder
Varianza;
este mtodo
es sensible
heterocedasticidad,
la que
hace
rianzas
de
los
grupos
que
se
comparan,
como
ocurre
en
un
Anlisis
de
Varianza;
este
confiabilidad.
mtodo es sensible a la heterocedasticidad, la que le hace perder confiabilidad.
Algunas
delas
lastransformaciones
transformaciones
usadas
Algunas de
usadas
son: son:
3.1.1). Log 10 ( X + 1) , donde 1 es indispensable si algn recuento es cero, pero
3.1.1).
, donde 1 es indispensable si algn recuento es cero, pero
ignorable
encaso
caso
contrario.
ignorable en
contrario.
3.1.2).
XX
3.1.3).
XX ++ 00..55
X + 3/8
3.1.4).
de Ascombe
(Das y(Das
Giri.1979),
muy
3.1.4).
llamadaTransformacin
Transformacin
de Ascombe
y Giri.1979),
muy
X + 3 / 8 ,, llamada
recomendada
por
sus
propiedades
estabilizantes
de
la
varianza,
y
por
mantener
esas
recomendada por sus propiedades estabilizantes de la varianza, y por mantener
propiedades con recuentos pequeos.
esas
propiedades con recuentos pequeos.
3.1.5).
3.1.5). X +
(Zar.
1996)
(Zar. 1996)
todas
estasestas
opciones,
en la prctica
se usa
la transformacin
No obstante
obstante
todas
opciones,
en la
prctica
se usa lalogartmica
transformacin
de recuentos microbiolgicos
para estudios(3.1.1)
colaborativos,
estanlogartmica
de recuentos (3.1.1)
microbiolgicos
para ensayos
estudiosdecolaborativos,
darizacin de
de mtodos
diagnsticos
valoracin diagnsticos
externa de calidad.
ensayos
estandarizacin
deo mtodos
o valoracin externa de
calidad.
Debe recalcarse que no basta transformar logartmicamente los recuentos para que
los datos as obtenidos pertenezcan a una distribucin lognormal. De hecho hay
Debe
recalcarse
que no
logaritmicamente
recuentos
para
datos as
transformados,
quebasta
no se transformar
ajustan a la distribucin
lognormallos
porque,
haque
los
datos
as
obtenidos
pertenezcan
a
una
distribucin
lognormal.
De
hecho
biendo tenido una marcada asimetra derecha antes de la transformacin, adquieren
hay
datos
as transformados,
que
seSe
ajustan
la distribucin
fuerte
asimetra
izquierda despus
deno
ella.
aceptaaque
los datos de lognormal
contaminan-porque ,
habiendo
tenido
una
marcada
asimetra
derecha
antes
de
transformacin,
tes industriales suelen tener una distribucin lognormal pero, eso no es la
un dogma
y,
adquieren
fuerte
asimetra
izquierda
despus
de
ella.
Se
acepta
que
los datos de
centficamente tal afirmacin debe ser comprobada mediante los mtodos de explocontaminantes
industriales
tener
distribucin
lognormal
eso no es
racin de datos contenidos
en suelen
la mayora
de una
los paquetes
estadsticos.
Los pero,
mtodos
estadsticos tienen, con frecuencia, exigencias en cuanto al tipo de distribucin de
los datos a los que aquellos deben aplicarse y, muchas de las mentiras que, injustamente, se le atribuyen a la estadstica, proceden de la liviandad con que se ignoran
68
dichas exigencias. Por otra parte, se puede mentir con cualquier disciplina; basta con
que se la use mal.
Supongamos la siguiente serie de recuentos bacterianos:
2, 4, 1100, 5, 2, 13, 1700, 8, 0, 79, 79, 950, 2, 8, 79, 0, 460, 26, 0, 13
Si calculamos la media aritmtica y la desviacin estndar de estos 20 recuentos,
obtendremos:
X = 226.5
S = 470.608
Segn lo observado en la figura N 1, si la varianza (S2) es mayor que la media,
entonces, la distribucin de los datos no podra considerarse poisoniana. Si deseamos emplear alguna dcima paramtrica, como el test de t, deberamos pensar en
usar alguna transformacin; ya sea la de raz cuadrada o la logartmica, y luego
observar cul de ellas aproxima mejor los datos a una distribucin normal. Esto
puede hacerse con un paquete estadstico como Statgraphics 5.0, como se muestra
a continuacin.
El primer grfico emplea los datos sin transformacin alguna.
74
3841MetodosEstadisticos correguido.indd 74
22/4/10 10:45:25
cumulative
cumulativepercent
percent
FIGURA N 5
Normal
Normal Probability
Probability Plot
Plot
99,9
99,9
99
99
95
95
80
80
50
50
20
20
5
5
1
1
0,1
0,1 0
0
300
300
600
600
900
900
1200
1200
Recuentos
Recuentos
1500
1500
1800
1800
cumulative
cumulativepercent
percent
Normal
Normal Probability
Probability Plot
Plot
99,9
99,9
99
99
95
95
80
80
50
50
20
20
5
5
1
1
0,1
0,1 0
0
10
10
20
20
30
30
SQRTREC
SQRTREC
40
40
50
50
finalmente,con
con
logaritmos
datos: FIGURA N7
YY
loslos
logaritmos
dede
loslos
datos:
Yfinalmente,
finalmente, con
los
logaritmos
de
los
datos: FIGURA N7
75
3841MetodosEstadisticos correguido.indd 75
22/4/10 10:45:26
cumulative percent
FIGURA N7
LOGREC
Donde puede observarse que slo la transformacin logartmica (LOGREC) consigue
un ajuste
recuentos a lalogartmica
distribucin(LOGREC)
normal,
Donde
puederazonablemente
observarse quebueno
slo de
la los
transformacin
consigue unporajuste
razonablemente
bueno de que
los recuentos
a la distribucin
representada
la lnea
recta. Puede constatarse
la transformacin
por raz
normal, (SQRTREC),
representada recomendada
por la lnea recta.
constatarse
que la transformacin
cuadrada
para Puede
recuentos
de tipo poissoniano,
se compor casi
raz tan
cuadrada
(SQRTREC),
recuentos de
poissoniano,
porta
mal como
los datos recomendada
originales sin para
transformacin,
al tipo
menos
en este
se particular.
comporta casi tan mal como los datos originales sin transformacin, al menos
caso
en este caso particular.
El modelo logartmico, sin ser perfecto, nos permitir calcular un intervalo de conEl modelo
logartmico,
sin ser perfecto,
nos de
permitir
unidea
intervalo
fianza
con cierto
nivel de confianza,
que encierra
alguna calcular
manera la
de unade
confianza
con
cierto
nivel
de
confianza,
que
encierra
de
alguna
manera
la
idea de
prediccin.
una prediccin.
En otras palabras, hemos hecho que el modelo se ajuste al contorno de los datos.
En otras palabras, hemos hecho que el modelo se ajuste al contorno de los
datos.
Tomando los logaritmos naturales de los recuentos (Ln(Recuentos)) podemos obtenerTomando
la media los
y la logaritmos
desviacin estndar
naturalesde
deellos:
los recuentos (Ln(Recuentos)) podemos
obtener la media y la desviacin estndar de ellos:
Media(Ln(Recuentos)) = 3.42115, cuyo antilogaritmo es la Media Geomtrica =
30.6
Media(Ln(Recuentos)) = 3.42115, cuyo antilogaritmo es la Media Geomtrica =
30.6
Desviacin Estndar(Ln(Recuentos)) = 2.31374
Desviacin Estndar(Ln(Recuentos)) = 2.31374
Con estos estimadores podemos calcular el intervalo de confianza con las siguienestos estimadores podemos calcular el intervalo de confianza con las
tesCon
expresiones:
siguientes expresiones:
76
3841MetodosEstadisticos correguido.indd 76
22/4/10 10:45:27
Lm.
Superior = e
L.Superior
( 3.42115+1.96*
Lm.
Lim.Inferior
Inferior = e
2.31374
)
17
( 3.42115!1.96*
= 91.93
2.31374
)
17
= 10.19
El intervalo
geomtrico
de confianza 95% quedar constituido por:
(10.19, 91.93) con
media geomtrica:
30.6
(10.19, 91.93) con media geomtrica: 30.6
3.2. Programas
de Evaluacin Externa de Calidad
3.2.- Programas de Evaluacin Externa de Calidad
(PEEC) y Colaborativos.
Estudios Colaborativos
(PEEC)
Estu
Un estudio colaborativo es aquel en que una misma muestra, cuidadosamente hoUn estudio colaborativo es aquel en que una misma muestra, cuidadosam
mogeneizada, es analizada por varios laboratorios, generalmente ms de 8, y en el
homogeneizada, es analizada por varios laboratorios, generalmente ms de
que cada uno de ellos efecta el anlisis usando rigurosamente el mismo mtodo
enevaluacin
el que cada
unodede
ellos la
efectua
elpuede
anlisis
rigurosamente el m
analtico. En una
externa
calidad,
muestra
ser usando
idntica para
mtodo
analtico.
En
una
evaluacin
externa
de
calidad,
la muestra puede
todos los laboratorios; pero stos, no necesariamente usarn el mismo mtodo anaidntica
para
todos
los
laboratorios;
pero
stos,
no
necesariamente
usar
ltico.
RECUENTO
RECUENTO
410
18
380
600
19
560
894
20
660
748
21
750
TABLA N 12:300
580
370
710
570
10
390
11
460
N
1
2
3
4
5
77
3841MetodosEstadisticos correguido.indd 77
22
RECUENTO
23
24
25
26
27
28
410
600
894
748
300
620
800
RECUENTO
18
380
19
560
20
660
21
750
22
620
350
510
690
740
420
580
23
800
370
24
350
710
25
510
570
26
10
390
27
690
22/4/10 10:45:28
740
12
460
13
630
12
460
Mtodos estadsticos en microbiologa
y
ensayos
biolgicos
14
810
13
630
12
13
15
14
460
16
15
340
810
540
340
17
16630
530
540
29
30
29
600
30
29
31
30
620
600
700
620
32
31
33
32
460
700
600
4400
460
34
33
620
700
4400
14
31
700
17810
530
34
700
Puede verse
que
la
observacin
nN
33,
es
aparentemente
un
outlier,
es decir,
15
340
32
460
un valor que no parece formar parte del grupo de 34 observaciones que
16
540
33
4400
Puede verse
la observacin
nN 33, es aparentemente
un outlier,
es decir,
aparecen
en laque
tabla
un valor17que no parece formar
parte
del
grupo
de
34
observaciones
que
530
34
700
N 12.
aparecen en la tabla
Puede
la observacin nN 33, es aparentemente un outlier, es decir, un
N 12.verse que no
Ciertamente,
es fcil eliminar una observacin extrema. Algunos
valor que no parece formar parte del grupo de 34 observaciones que aparecen en
investigadores
usan el criterio de emplear el score Z:
la
tabla 14.
Ciertamente,
no es fcil eliminar una observacin extrema. Algunos
investigadores es
usan eleliminar
criteriouna
de emplear
el score
Z:Algunos investigadores
Ciertamente,
observacin
extrema.
Z = ( X i ! Xno
) / S ,fcil
donde S= Desviacin
Estndar
de las
observaciones.
usan el criterio de emplear el score Z:
1). restantes
La media
mediaaritmtica
aritmtica
en casos
como
de la
tabla
Nresultar
12, se
1)
La
nono
es es
robusta,
y enycasos
como
el de en
laeltabla
14,
se ver
las
observaciones
y robusta,
la media
hasta
el punto
que
pueden
ver
arrastrada
en
direccin
al
outlier,
agrandando
la
distancia
existente
arrastrada
direccin
al outlier, agrandando
la distancia
existente
entrerecuentos
las entre
valores
Z muyenaltos
que perjudicarn
a laboratorios
que no
generaron
las
restantes
observaciones
y
la
media
hasta
el
punto
en
que
pueden
restantes observaciones y la media hasta el punto en que pueden resultar va-resultar
extremos.
valores
altosque
queperjudicarn
perjudicarn
a laboratorios
quegeneraron
no generaron
recuentos
lores ZZ muy
muy altos
a laboratorios
que no
recuentos
extremos.
extremos.
2) El mximo valor Z que puede resultar de un grupo de recuentos, depende de
2) El(n),
mximo
valor
Z que puede resultar
de un
grupo
de recuentos,
depende de
el nmero
de observaciones.
Ese mximo
puede
calcularse
con la siguiente
(n), expresin:
el nmero de observaciones. Ese mximo puede calcularse con la siguiente
2) El mximo valor Z que puede resultar de un grupo de recuentos, depende de
expresin:
(n), el nmero de observaciones. Ese mximo puede calcularse con la siguiente
& n ' 1#
expresin:
Z (n) = $
!
n 1"#
%& n '
=
Z
(
n
)
$
Si tenemos 10 observaciones, el mximo nZ !ser:
%
"
Si tenemos
10
observaciones,
el mximo Z ser:
'
10
1
&
#
Si tenemos
10 observaciones,
el mximo Z ser:
Z
(10 ) = $
! = 2.846 , con lo que no se podr eliminar un valor extremo por
%&1010
"
' 1#
, con lo que no se podr eliminar un valor extremo por
Z (10 ) = que
.846se
$ 10
! =si2uno
grande
apega al criterio de rechazar con un Z 3.0.
% sea,
"
, con lo que no se podr eliminar un valor extremo por
grande
quesea,
sea,
si uno
sevalor
apega
al criterio
rechazar
un Z 3.0.
grande
si uno
se
al extremo,
criterio
de rechazar
con uncon
Z estndar
3.0.
3).
Si que
uno
elimina
elapega
lade desviacin
se achicar
inmediatmente,
puede
aparecer
otro outlier
inesperado
que
es la segunda
3)
elimina
ely valor
extremo,
laextremo,
desviacin
estndar
se achicar
inmediatmen3).Si uno
Si observacin
uno
elimina
el
valor
la
desviacin
estndar
se achicar
mayor
del
grupo
original.
te,
y puede aparecer
outlier
inesperado
que es la segunda
mayor
observacin
inmediatmente,
y otro
puede
aparecer
otro outlier
inesperado
que
es la segunda
del
grupoobservacin
original.
mayor
del grupo original.
3.3.-
3.3.-
Media Robusta
78
3841MetodosEstadisticos correguido.indd 78
22/4/10 10:45:30
Se han desarrollado varios mtodos para evitar uno o ms de estos problemas. Aqu
trataremos slo el caso de la media robusta.
Los mtodos robustos suponen que los datos tienen una distribucin aproximadamente normal, unimodal y simtrica,Los
pero mtodos
contaminada
con valores
extremos (outrobustos
suponen
que los datos tien
liers). Estos mtodos pueden dar resultados
inconfiablesnormal,
si los datos
son multimoaproximadamente
unimodal
y simtrica, pero con
dales o marcadamente asimtricos, extremos
o si una gran
proporcinEstos
de ellos
son idnticos
(outliers).
mtodos
pueden dar resultad
en valor numrico. Los estadsticos datos
robustos
proveen
una alternativa
para describir asimtricos, o s
son
multimodales
o marcadamente
la parte buena del total de observaciones,
requieran
identificacin
de ellos sin
sonque
idnticos
enuna
valor
numrico.deLos estadsticos
outliers a priori.
alternativa para describir la parte buena del total de o
requieran
unarobustos
identificacin
de outliers
a priori.
Existen varios mtodos para obtener
estimadores
(Lowthian
and Thompson, 2001) (Hogg, Ruberg and Yuh, 1990). De ellos, los dos primeros autores, sumivarios
obtener
nistran una excelente descripcin delExisten
mtodo de
Hubermtodos
destinado apara
calcular
media yestimadores rob
Thompson,
2001)
(Hogg,
Ruberg
and
1990). De e
desviacin estndar robustas. La siguiente tabla presenta 24 datos tomados de Yuh,
los
autores,
suministran
una
excelente
descripcin
del mtodo
archivos de la Royal Society of Chemistry UK.
Observacin
2.2
TABLA N 13
Observacin
13
3.4
Observacin
N
N Observacin
2
2.2.
14
1
2.2 3.4
13
3.4
3
2.4
15
2
2.2.3.4
14
3.4
4
2.4
16
3.5
3
2.4
15
3.4
5
2.5
17
4
2.4 3.6
16
3.5
5
2.5 3.7
17
3.6
6
2.7
18
6
2.7
18
3.7
7
2.8
19
3.7
7
2.8 3.7
19
3.7
8
2.9
20
8
2.9
20
3.7
9
3.03
21
3.7
9
3.03
21
3.7
10
3.03
22
3.77
10
3.03
22
3.77
11
3.1
23
5.28
11
3.1
23
5.28
12
3.37
24
28.95
12
3.37
24
28.95
En ordenadas
la tabla Nde13,
las observaciones
En la tabla 15, las observaciones estn
menor
a mayor, y puedeestn
verseordenadas de m
verse
que hay
muy alto
en un extremo de l
que hay un valor muy alto (28.95) en
un extremo
deun
la valor
lista, seguido
de(28.95)
otro (5.28)
(5.28)de
que
estar fuera
del rango de las res
que tambin parece estar fuera del rango
las tambin
restantes parece
observaciones.
Con estos
Con estos datos tendramos:
datos tendramos:
X = 4.28
S = 5.2974
22/4/10 10:45:31
X = 4.28
S = 5.2974
La desviacin estndar (S) es mayor que la media, y sta ltima est desplazada
La desviacin
estndar
(S) es mayor
media, y sta ltima
a un
lugar situado
entreque
laslaobservaciones
22 y est
23. desplazada
ste es una caso tpico que
un lugar situado
entre
las
observaciones
22
y
23.
ste
es
un
caso
tpico
que requiere
requiere estimadores robustos.
estimadores robustos.
Para
empezar, hacemos :
Para empezar,
hacemos:
Toda observacin
mayor que U=12.2261
es el caso
de la
que caso
vale 28.95),
observacin
mayor
que(Ese
U=12.2261
(Ese
es
de la que vale 28.95),
-3.6661, Toda
tomarn
este ltimo
valor.
En
este ejemplo
lasel dos
observaciones
tomar
el nuevo
valor:
12.2261.
Por
su parte,
aquellas
que sean
menores
que
L=menores que L=
-3.6661,
tomarn
este
ltimo
valor.
En
este
ejemplo
las
dos
observaciones
tomar
el
nuevo
valor
:
12.2261.
Por
su
parte,
aquellas
que
sean
menorestomarn
valen 2.2
cada
una,
deEn
manera
que nolassufrirn
modificaciones.
-3.6661,
este
ltimo
valor.
este
ejemplo
dos
observaciones
menores
menores valen 2.2 cada una, de manera que no sufrirn modificaciones.
valen 2.2 cada una, de manera que no sufrirn modificaciones.
Calculando
la cuyo
media
y28.95
la desviacin
estndar
del denuevo
conjunto
Calculando
la media
y la
desviacin
estndar
del nuevo
conjunto
observaciones
observaciones
valor
ha
sido substituido
por 12.2261,
obtenemos:
observaciones
cuyo
valor
28.95
ha
sido
substituido
por
12.2261,
obtenemos:
cuyo valor 28.95 ha sido substituido por 12.2261, obtenemos:
X = 3.5836
X = 3.5836
S = 1.95975
S = 1.95975
Con estos datos podemos repetir el clculo de U y L:
Con
datos
podemos
repetir
el clculo
de U ydeL:U y L:
Conestos
estos
datos
podemos
repetir
el clculo
extremas
iterativo,
winsorizacin.
El
siguientemediante
programa el
enproceso
BASIC para
CASIO se
FX denomina
880 P permite
obtener estimadores
robustos
por
el
mtodo
recin
descrito
que
ha
sido
recomendado
analistasobtener
El siguiente programa en BASIC para CASIO FX 880 para
P permite
El
siguiente
programa
en
BASIC
para
CASIO
FX
880
P
permite
obtener
qumicos.
estimadores robustos por el mtodo recin descrito que ha sido recomendado
estimadores
por el mtodo recin descrito que ha sido recomendado
para analistasrobustos
qumicos.
para analistas qumicos.
PROGRAMA N
PROGRAMA
N
ESTIMADORES
ESTIMADORES
11
11
ROBUSTOS
ROBUSTOS
10 CLEAR:CLS
10
CLEAR:CLS
20 PRINT
ROBUSTOS(ARITMTICA)
20
PRINT
80 ;: INPUT N
25 PRINT ROBUSTOS(ARITMTICA)
Nmero de Observaciones
25
PRINT
Nmero
de
Observaciones
;: INPUT N
30 DIM X(N)
30
DIM X(N)
35 A=0:
B=0
35
A=0:
B=0
3841MetodosEstadisticos
correguido.indd
80 N
40 FOR
I=1 TO
22/4/10 10:45:33
74
PROGRAMA 11
ESTIMADORES ROBUSTOS
10 CLEAR:CLS
20 PRINT ROBUSTOS(ARITMTICA)
25 PRINT Nmero de Observaciones;: INPUT N
30 DIM X(N)
35 A=0: B=0
40 FOR I=1 TO N
50 PRINT X(;I;)=;:INPUT X(I)
60 A=A+X(I): B=B+X(I)^2
70 NEXT I
80 MX=A/N: S=SQR((B-A*A/N)/ (N-1)): PRINT Media=; MX, S=; S
90 SS= 1.134*S: PRINT S*1.134=; SS
95 U=MX+1.5*S: L=MX-1.5*S: PRINT U=; U, L=; L
97 A=0: B=0
100 FOR I=1 TO N
110 IF X(I) >U THEN X(I)=U ELSE 120
120 IF X(I) <L THEN X(I)=L ELSE 130
130 IF X(I)<U OR X(I)>L THEN X(I)=X(I)
135 A=A+X(I): B=B+X(I)^2
140 NEXT I
150 GOTO 80
160 END
Usando este programa con los datos de la tabla 15, resultan las siguientes estimaciones por iteracin:
TABLA 16
Iteracin
1
2
3
4
5
6
7
8
9
10
11
12
13
Media
4.28042
3.5836
3.346
3.2522
3.2129
3.2063
3.2052
3.205
3.205
3.205
3.205
3.205
3.205
S
5.2974
1.95975
0.9537
0.6905
0.6029
0.5646
0.5489
0.54266
0.54
0.5392
0.53883
0.53868
0.53863
S*
6.0
2.22
1.0815
0.783
0.6837
0.6403
0.6225
0.61537
0.61257
0.61147
0.61104
0.6109
0.6108
U
12.2265
6.5232
4.77655
4.288
4.1172
4.05326
4.02861
4.019
4.0153
4.01382
4.01325
4.013
4.01294
L
-3.6657
0.64398
1.91538
2.2164
2.3085
2.3594
2.3818
2.391
2.39473
2.3962
2.39675
2.39697
2.39706
81
3841MetodosEstadisticos correguido.indd 81
22/4/10 10:45:33
82
3841MetodosEstadisticos correguido.indd 82
22/4/10 10:45:33
Z=
[X i X R ]
SR
, donde:Xi es el valor de cada observacin original; X R es la media robusta y SR es la desviacin estndar robusta. Lowthian y Thompson sugieren
eliminar aquellas observaciones que generen Z2.5.
Una vez que esa eliminacin ha sido realizada, se deben obtener nuevos estimadores robustos con los cuales se evala la calidad diagnstica de cada laboratorio
participante con sus respectivos scores Z. Uno de los programas ms importantes
en control externo de calidad es FEPAS (FOOD EXAMINATION PERFORMANCE
ASSESSMENT) del Reino Unido.UK (FEPAS. 1998). Algunos laboratorios de Chile
participan en ese programa, En l, se indica el uso de estimadores robustos tal
como se acaba de describir, para establecer el Valor de Consenso que es el promedio de los resultados de todos los laboratorios participantes. Los scores Z, se
grafican como distancias entre cada laboratorio y la media robusta (de consenso);
cuando un laboratorio genera un Z 3, se entiende que ha tenido un pobre desempeo analtico.
Un caso enteramente diferente es aquel en que el Laboratorio de Referencia que
organiza y dirige el estudio de control de calidad, establece un Valor Asignado al
analito que se distribuye a los laboratorios participantes para ser analizado. En ese
caso, el valor asignado reemplazar a la media o a la media robusta en el clculo de
los valores Z. Es obvio que el problema ser elegir una desviacin estndar para el
denominador en la expresin de este clculo. Se puede usar una S asignada, tomada
de algn estudio anterior, o la obtenida por el Laboratorio de Referencia despus de
mltiples determinaciones en su propio laboratorio.
83
3841MetodosEstadisticos correguido.indd 83
22/4/10 10:45:34
TABLA 17
Laboratorios
Diagnstico Previo
Muestras
POSITIVAS
NEGATIVAS
Sj
S 2j
16
25
84
3841MetodosEstadisticos correguido.indd 84
22/4/10 10:45:34
TABLA N 16:
Laboratorios
Muestras 1
3 Luis
4 Rodrguez
5 6 ASguayo
S2
j
1
1
1
0
1
0
1
5
1
116
125
116
116
136
1150
7
42
53
44
45
66
Ti
327
36
25
49
25
49
188
Ti
Ti
Ti 2
1
1
0
1
1
1
1
6
0
1
1
1
0
1
1
5
0
0
0
1
0
0
1
2
1
1
1
1
1
1
1
7
4
5
4
5
4
4
6
32
16
25
16
25
16
16
36
150
36 25 49 25 4 49 188
Ti muestra
Ti sumas
La filalas
muestra
las sumas de aciertos por laboratorio; la suma de esas suma
de aciertos por laboratorio; la suma de esas sumas
es=32. Puede observarse que el laboratorio 5, Ttiene
= slo 2 aciertos ( Ti = 2),
es=32. Puede observarse que el laboratorio 5, tiene slo 2 aciertos ( i 2), y puede
puede pensarse que es unS outlier. Por su parte S j , presenta la suma de lo
La fila
tambin=32.
2
j
Ti y S contienen
Ti y de S j , respectivamente. El total de la
2 cuadrados de:
2
los
S
T
y
contienen
los
cuadrados de: Ti y de S j , respectivamente. El total de
j
i
2
S 2j
T
i
2
fila
es 188,
columna
, es
150, ambas
S 2j ,en
filay Tlai de
esla188,
y la de la
columna
esnegrilla.
150, ambas en negrilla.
2
Sabiendo queSabiendo
tenemos: Lque
= 6tenemos:
laboratorios,
calcular podemos
el estadstico
Q con el
la estadstico Q co
L =podemos
6 laboratorios,
calcular
siguiente expresin:
la siguiente expresin:
Q=
(L ! 1)(Ti 2 ! (Ti )2 / L )
(S ! S / L )
(6 ! 1)(188 ! 32 / 6)= 12.38095238
Q=
j
2
j
(32 ! 150 / 6)
La Hiptesis de
es: Tde
=TNulidad
=,......,=TL,es:
y laTHiptesis
Alternativa
expre- Alternativa pued
La Nulidad
Hiptesis
Hiptesis
1 =T2 =,......
,=TL, y lapuede
1
2
sarse como: Hay
por lo menos
expresarse
como:una diferencia
Sabiendo que Q se distribuye aproximadamente Ji2, con (L-1) grados de libertad, y
Hay por lo menos una diferencia.
especificando = 0.05, obtenemos un p= 0.03 que nos sugiere que hay por lo menos un laboratorio que no tuvo la misma eficiencia diagnstica que sus pares.
El siguiente programa en BASIC para calculadora CASIO FX-880P calcula el estadstico Q:
85
3841MetodosEstadisticos correguido.indd 85
22/4/10 10:45:36
PROGRAMA 12
Q de COCHRAN
350 CLEAR: CLS
355 PRINT Q COCHRAN
360 INPUT NMERO DE LABORATORIOS; L
370 INPUT NMERO DE MUESTRAS(BLOQUES); N
380 DIM A(N,L): A=0: B=0: A1=0: B1=0
390 FOR I=1 TO N
400 FOR J=1 TO L
410 PRINT Muestra(;I; , Laborat.; J; );: INPUT A(I,J)
412 NEXT J, I
413 FOR I=1 TO N
414 FOR J=1 TO L
420 A(I, 0)= A(I, 0)+ A(I,J): A(0, J)= A(0, J)+ A(I,J)
430 NEXT J
440 NEXT I
450 FOR I=1 TO N: A=A+A(I,0): B=B+ A(I,0)^2: NEXT I
455 FOR J=1 TO L:A1=A1+ A(0,J): B1=B1+ A(0,J)^2: NEXT J
460 PRINT Sj=; A, Sj2=; B, Ti=; A1, Ti2=; B1
470 Q=(l-1)*(B1-A1^2/L)/ (A-B/L)
480 PRINT Q COCHRAN=;Q; con G.L.(;L-1; )
485 GOSUB 1000
487 CLS: P=1-J*K*L: PRINT p=; P
490 END
1000 V=L-1: W=Q
1760 IF V=0 THEN GOTO 350
1770 R=1
1800 FOR I=V TO 2 STEP-2
1810 R=R*I: NEXT I
1830 K=W^(INT((V+1)/2))*EXP(-W/2)/ R
1840 IF INT(V/2)= V/2 THEN 1870
1850 J=SQR(2/W/3.14159
1860 GOTO 1880
1870 J=1
1880 L=1: M=1
1900 V=V+2: M=M*W/V
1920 IF M<0.0000001 THEN 1950
1930 L=L+M
1940 GOTO 1900
1950 RETURN
Usando este programa con los datos de la tabla 16, se obtiene Q=12.38095238 con
G.L.=5, y p=0.029925, como fue calculado anteriormente en forma manual.
86
3841MetodosEstadisticos correguido.indd 86
22/4/10 10:45:36
En la subrutina contenida entre las lneas: 1000 y 1950, se calcula el valor p del Q
de Cochran.
En la subrutina contenida entre las lneas: 1000 y 1950, se calcula el valor p del
3.4.1.
Verificacin de la presencia de Outliers
Q de Cochran.
Como se sospecha que el laboratorio 5 puede ser un outlier, se aplicar otra dci-
3.4.1.- ma
Verificacin
de la
de es
outliers.
para constatar
quepresencia
esa sospecha
efectiva. Para eso, dividiremos los laborato-
rios en dos grupos: el primero formado en este caso, por slo el laboratorio 5, y
se constituido
sospecha por
queelelresto
laboratorio
5, puede ser un outlier, se aplicar otra
elComo
segundo
de los laboratorios.
dcima para constatar que esa sospecha es efectiva. Para eso, dividiremos los
Datos
requeridos
grupo
outlier
5):
laboratorios
endel
dos
grupos:
el (Laboratorio
primero formado
en este caso-, por slo el
y el
segundo constituido por el resto de los laboratorios.
Tlaboratorio
=2, la suma5,de
aciertos.
1
requeridos
del grupo outlier (Laboratorio 5):
LDatos
= 1, slo
un laboratorio.
1
ST==2,
7, nmero
analizadas por el laboratorio 5.
la sumadedemuestras
aciertos.
1
= 1,
un laboratorio.
RL11=
T1 slo
/ (L1S)=
2/(1*7)= 0.286
Datos
requeridos
grupo formado
R1 = T
2/(1*7)=
0.286 por los cinco laboratorios restantes.
1 / (L1S)=del
T2= 6+5+7+5+7= 30, la suma de aciertos del grupo.
Datos requeridos del grupo formado por los cinco laboratorios restantes.
= 5,
6+5+7+5+7=
30, la suma de aciertos del grupo.
LT2 2=
nmero de laboratorios.
L2 = 5, nmero de laboratorios.
SS==7,7,nmero
muestras
analizadas
por cada
laboratorio.
nmerodede
muestras
analizadas
por cada
laboratorio.
R
=
T
/(L
S)=
30
/
(5*7)
=
0.857
2
2
2
R = T /(L S)= 30 / (5*7) = 0.857
2
La
porpor
F. McClure
para comparar
ambas ambas
proporciones
es:
Ladcima
dcimaindicada
indicada
F. McClure
para comparar
proporciones
es:
Q1 =
Q1 =
(LS
! S 2j
= 9.524
3841MetodosEstadisticos correguido.indd 87
22/4/10 10:45:37
Q3 =
(L S S )
j
2
j
Para poder substituir valores en esta expresin, debemos entender la simbologa que
sePara
expone
a continuacin:
poder
substituir valores en esta expresin, debemos entender la simbologa
se exponeiniciales.
a contiuacin:
L=que
6 laboratorios
L 2=
restantes
despus de eliminar el n 5.
L=5 6laboratorios
laboratorios
iniciales.
T eliminar
restantes
5.
LT= 5=laboratorios
184, es la suma
de los despus
valores dede
la tablael
16,nexcluyendo
el del out2
2 i2
lier.
!T
2
i2
900.
(T
!
S S de la tabla 16.
= 150, es la suma de la columna
!S S = 150,
es la suma de la columna
de la tabla 16.
2 2
j j
2
j
2
j
Q3 nos
Q3 nos
Con
estos
datos,
Con
estos
datos,
da: da:
Q3 =
p=0.582
3841MetodosEstadisticos correguido.indd 88
22/4/10 10:45:39
Respuestas
Laboratorio
Porcin
Positiva
20
m = 20
17
a = 17
80
m = 20
59
a = 59
2
1717
!aa ==17
==0.85
00.85.85
2
0
m
20
m
! 20
Sensibilid
Sensibilidad
Sensibilidadad( (pp+ +) )==
"a a !(
("aa))/ L/ L
2
Error
Estndar
Error
Est!ndar( p( +p)+ )==
(L(L!1)1)
mm2 L2 L
5959!17172 2/ 5/ 5
ErrorEstn
dar
(
p
)
=
ErrorEst!ndar ( +p + ) = 16 * 5 + 4 ==0.006124
.06124
16 * 5 +
*4
Los lmites aproximados de confianza se pueden calcular usando t
=2.7764,
=0.025; (4)
Los lmites
aproximados de confianza, se pueden calcular usando
t=0.025;
resultando:
=2.7764,
resultando:
(4)
Para el clculo de la Especificidad se debe construir otra tabla con la porcin negativa de la tabla 17.
0
0
0
1
0
0
1
0
0
0
0
0
0
0
0
Porcin
3
3
89 3
3
3
3
2
3
2
3
Negativa
m = 15
a = 13
22/4/10 10:45:41
m
Respuestas
Laboratorio Respuestas
10
20
31
40
6
3
4
6
0
0
0
0
0 0
0 0
1
0
0
0
1
0
0
0
Porcin
0
3 0
3 0
0
3
0
3
32
33
32
33
3
3
2
3
2
3
Porcin
Negativa
Negativa
15 ! m = 15 ! a = 13
m = 15
13
a =13
! m = 45 ! a = 35
45
m = 45
35
a = 35
2
! a 13 = 0.867
Especificidad ( p " ) = a =13
13
Especificidad ( p ) = ! m = 15 = 0.867
15
m 15
Error
ErrorEstndar
Est!ndar(( pp! )) ==
aa)) // LL
" aa ! ((
"
0.85
2
2
2
2
2
m
m 2 LL((LL !11))
3535 !131322 // 55
ErrorEstn
dar
(
p
)
=
= 0.08165
ErrorEst!ndar ( p! ) =
99 ** 55 ++ 44 = 0.08165
Los lmites de confianza resultantes son:0.8672.7764+0.08165; (0.64; 1.0), aproximadamente.
ejemplooriginal
original del
del trabajo
trabajo de
laboratorios,
cinco
muestras
ElElejemplo
de McClure
McCluretena
tena1515
laboratorios,
cinco
muestras
positivas
y
cinco
negativas.
Se
remite
al
lector
a
ese
trabajo
para
la
demostracin
positivas y cinco negativas. Se remite al lector a ese trabajo para la demostracin
que elelnmero
ptimo
de laboratorios
y muestras
ser: Lm2debe
362. ser
dedeque,
nmero
ptimo
de laboratorios
y positivas
muestrasdebe
positivas
2
Para
el
presente
ejemplo,
con
L=7,
y
m=4,
tenemos:
112,
un
nmero
insuficiente
:Lm 362. Para el presente ejemplo, con L=7 , y m=4, tenemos: 112 , un nmero
para valorar un mtodo analtico de manera confiable. Con los datos de McClure,
resulta: 15*52= 375.
83
3841MetodosEstadisticos correguido.indd 90
22/4/10 10:45:42
Esta prueba fue desarrollada en los aos 70 por Bruce Ames y se ha popularizado
por ser ingeniosa, confiable y comparativamente barata.
La prueba consiste en usar una cepa de Salmonella typhimurium TA 98 que no
crece en un medio de cultivo, a menos que se le agregue a ste el aminocido Histidina. Las substancias como los hidrocarburos mencionados inducen mutaciones
de un tipo tal que la bacteria se torna capaz de crecer an en ausencia de Histidina.
Habitualmente se agrega un inductor metablico llamado S9, aislado de hgados de
roedores. El S9 magnifica la tasa de mutacin. Sin embargo, hay substancias que
pueden inducir altas tasas de mutacin en ausencia total de S9; stas son las de
mayor peligrosidad.
Esencialmente, el procedimiento es el siguiente:
Se agregan entre 107-108 clulas de Salmonella a placas Petri que contienen medio
de cultivo con trazas de histidina, para permitir un muy limitado crecimiento de la
bacteria; la substancia mutagnica y S9, si se considera adecuado. Las placas se
cultivan por dos o tres das a 37C. Slo las mutantes continuarn multiplicndose
hasta que sus colonias sean visibles a simple vista (Kirkland, 1989). El diseo habitual de la prueba incluye un control negativo, un control positivo, y cinco concentraciones del mutgeno en duplicado o triplicado. Las diluciones van separadas por
factores de dilucin 2; 3; 4 5.
El anlisis estadstico ha generado controversias. Uno de ellos, por ser no paramtrico, parece contar con ms preferencias (Wahrendorf et al., 1985), precisamente por
usar menos presuposiciones en cuanto al tipo de distribucin que pueda subyacer
en las observaciones.
Un ejemplo se muestra en la siguiente tabla:
TABLA 21
Dosis
Recuentos
Rangos
Suma de Rangos
Suma Acumulada
S(R)
Lj
129
128
6.5
17.5
17.5
12.5
30
15
45
119
0.5
128
6.5
0.5
116
0.5
121
1.7
127
1.7
142
1.7
112
3.8
165
14
91
3841MetodosEstadisticos correguido.indd 91
22/4/10 10:45:42
152
11
3.8
159
12
178
15
149
10
163
13
37
82
38
L=174.5
1%
37
79
147
32
73
140
235
29
85
184
340
74
170
322
543
54
155
334
5%
14
40
87
159
34
80
150
252
33
93
199
363
79
182
342
574
60
168
357
92
3841MetodosEstadisticos correguido.indd 92
22/4/10 10:45:42
614
133
307
581
979
87
247
530
973
128
360
772
1418
652
143
326
614
1030
96
265
563
1026
139
385
816
1487
La columna: Diseo, presenta el nmero de diluciones del mutgeno, y los replicados de uso ms frecuente.
Dimetro mm
Problema.
S1
S2
S3
T1
T2
T3
1.25
2.5
5.0
1.25
2.5
5.0
10
12
11
12
11
13
10
12
10
14
12
11
12
12
13
10
14
11
13
Suma
32
52
65
31
53
62
93
3841MetodosEstadisticos correguido.indd 93
22/4/10 10:45:42
Las dosis: 1.25 2.5 5.0 son crecientes por un factor de dilucin: 2.
Las sumas que aparecen en la lnea inferior de la tabla n 21, se multiplican por
cada lnea de factores de la siguiente tabla de coeficientes ortogonales.
TABLA 24
Varianzas
EFECTOS
S1
S2
S3
T1
T2
T3
fx2
Rx
(Rx)2/fx2
-1
-1
-1
30
-3
(-3)2/30=0.3
Regresin
-1
-1
20
64
642/20=204.8
Falta de Paralelismo
-1
-1
20
-2
(-2)2/20=0.2
Curvatura
-2
-2
60
-20
(-20)2/60=6.67
Curvaturas Opuestas
-1
-1
-2
60
-6
(-6)2/60=0.6
32
52
65
31
53
62
de Respuestas (R)
94
3841MetodosEstadisticos correguido.indd 94
22/4/10 10:45:43
PROGRAMA 13
LNEAS PARALELAS
400 CLEAR: CLS
405 PRINT Lneas Paralelas<exe>
410 INPUT Nmero de Bloques; N
420 DIM A(N,7): A=0: B=0
430 FOR I=1 TO N
440 FOR J= 1 TO 6
450 IF J<4 THEN W$=Patrn: ELSE W$=Problema:
455 PRINT A(; I; ,; J;); W$;: INPUT A(I, J): GOSUB 1000
460 A(0,J)=A(0,J)+A(I,J): A(I,0)=A(I,0)+A(I,J)
470 NEXT J
475 NEXT I
480 S1=A(0,1): S2=A(0,2): S3=A(0,3): T1=A(0,4): T2=A(0,5): T3=A(0,6)
S1, S2, S3 son las tres dosis del Patrn; T1,T2 y T3 son las dosis de la preparacin Problema.
485 PRINT Fact.Dilucin;: INPUT FD: II=LOG(FD)
En computador: II=LOG(FD)/LOG(10), porque en CASIO, LOG es logaritmo decimal, en cambio, en los computadores, LOG es logaritmo natural.
490 SS T=B-A*A/(6*N): FC=A^2/(6*N)
492 PRINT SC total=; SST
495 PRE= (-S1-S2-S3+T1+T2+T3)^2/ (6*N): REG=(-S1+S3-T1+S3)^2 / (4*N): PAR=(S1-S3T1+T3)^2/(4*N): CUA=((S1-2*S2+S3+T1-2*T2+T3)^2 / (12*N): OP=(-S1+2*S2-S3+T1-2*T2+T3)^2
/ (12*N)
En la lnea 495 se efectan las multiplicaciones de los coeficientes ortogonales por
los totales de las respuestas por dosis. REG= suma de cuadrados de regresin, etc.
497 PRINT SC prep.=; PRE, SC regresin=; REG, SC paralelismo=; PAR, SC cuadrticas=;
CUA, SC curvas opuestas=; OP
500 BB=(S3-S1+T3-T1)/(4*N*II): MS=(S1+S2+S3)/3: MT=(T1+T2+T3)/3: MM=(T1+T2+T3-S1-S2S3) / (S3-S1+T3-T1)*(4*II/3)
510 CO=0: FOR I=1 TO N
520 CO=CO+(A(I,0)^2): NEXT I
530 COB=CO/6-FC: BLO=COB/(N-1)
540 SSE=SST-COB-(PRE+REG+PAR+CUA+OP): TRA=(PRE+REG+PAR+CUA+OP): GL= 5*(N-1): SS2=
SSE/GL
SS2 es la varianza residual (S2).
95
3841MetodosEstadisticos correguido.indd 95
22/4/10 10:45:43
96
3841MetodosEstadisticos correguido.indd 96
22/4/10 10:45:43
GL
2.1314
15
2.086
20
2.0595
25
2.0423
30
2.0301
35
2.0211
40
10
2.0141
45
11
2.0086
50
12
2.004
55
97
3841MetodosEstadisticos correguido.indd 97
22/4/10 10:45:43
98
3841MetodosEstadisticos correguido.indd 98
22/4/10 10:45:43
ambos grupos, ellos siguen siendo una muestra, y como tal, tiene una variacin
implcita que puede generar desagradables sorpresas en eventuales repeticiones
posteriores del ensayo.
El mtodo estadstico es comparativamente simple (Orenstein,W.A. et al., 1985)
(Hightower, A.W. et al, 1988).
La tabla siguiente, presenta un ejemplo.
TABLA 26
Casos
No Casos
Vacunados
4 (a)
41996 (b)
42000
No Vacunados
21 (c)
41979 (d)
42000
Lmites
Limites
Limites =
= ee
Lmites
Limites
Limites =
= ee
lnln R
RR11..9696
11! ARV
ARV 11! ARU
ARU
++
aa
cc
!11..6581
658111..9696
11!00..000095238
000095238 11!00..0005
0005
++
44
2121
Los
Relativo
son:son
0.555
y 0.0654.
Loslmites
lmitesdel
delRiesgo
Riesgo
Relativo
: 0.555
y 0.0654.
En cuanto a los lmites de la eficacia, ellos se calculan:
Limite
Superior de
= 1-0.0654
0.9346,
(93.46%)
Es
desilusionante
quelaelPotencia
lmite inferior
nos diga =que
la vacuna
no es tan buena como
sugera la potencia de 80.95%. De ah la importancia de no olvidar jams el clculo
Es intervalo
desilusionante
que el lmite inferior nos diga que la vacuna no es tan buena
del
de confianza.
como sugera la potencia de 80.95%. De ah la importancia de no olvidar jams el
clculo del intervalo de confianza.
99
3841MetodosEstadisticos correguido.indd 99
22/4/10 10:45:44
22/4/10 10:45:44
APNDICE 1
15.54
20.47
27.92
35.98
55.52
N Peces en el ensayo
20
20
20
19
20
No Peces muertos
20
Proporcin de muertes
0.0
0.05
0.0
0.158
1.00
Si usamos el programa Probit, transformando las concentraciones a logaritmos, obtendremos los siguientes resultados:
DE 50 = 40.48 mg/L, con lmites de confianza 95%: (40.44 a 41.25 ). Adems, tenemos un Ji2 con 3 grados de libertad = 52.125, que es un valor enorme que supera
largamente el valor crtico ( 7.8147 para = 0.05 ), por lo que tendramos fuertes
razones para sospechar que los datos no pudieron ser ajustados a un modelo lineal,
y que el mtodo Probit ha fallado lastimosamente.
Si observamos los datos de la tabla 27, veremos que hay oscilaciones de positividad-negatividad, y una fuerte cada de la proporcin de muertes; desde 1.00 a 0.158
para las dos concentraciones del extremo derecho de la tabla 27.
Por otra parte, las dosis estn separadas por distancias variables; un verdadero
desastre.
Este ejemplo no es el resultado de errores de administracin de las dosis o fallas de
laboratorio o investigadores. Todo procede de caractersticas de los individuos experimentales; del estado de la naturaleza, de una extraa distribucin de la tolerancia
de algunos peces a ciertos txicos, virus y vacunas.
101
22/4/10 10:45:44
En vista de que, tanto Probit como Logit dan resultados inconfiables, los investigadores probaron con el mtodo de Spearman-Karber confiando en su reconocida
robustez, pero ste tambin mostr algn grado de sensibilidad a tanta dificultad.
Hamilton y colaboradores (Hamilton, Russo and Thurston, 1977), desarrollaron un
mtodo que usa el ABERS ( Ver Captulo 2 ) y un podado o recortado de los extremos
ms influyentes.
Veamos ahora el procedimiento llamado: Spearman-Karber Recortado (TSK).
La siguiente tabla resume los pasos que deben seguirse para llegar a calcular una
DE 50 ms confiable.
TABLA 28
Grupo
Concentracin
Mg/L
15.54
20.47
27.92
35.98
55.52
Xi
2.7434
3.019
3.3293
3.583
4.0167
No de Peces
ni
20
20
20
19
20
No de Muertos
pi
20
Prop. De Muertes
0.0
0.0
0.05
0.0
0.159
1.00
Loge Concentracin
Los siguientes pasos usarn los logaritmos naturales de las dosis y las proporciones
~
p que han sidoHamilton
corregidaspropuso
como seutilizar
muestra
la filadenominado
inferior de la tabla
25. debe ser escogido ent
unenvalor
, que
y 0.5.
Si se
escoge
= 0, tenemos
el Spearman-Karber
Si usamos
Hamilton propuso
utilizar
un valor
denominado
, que debe
ser escogido entreclsico.
0y
valor
: 0.05,
0.1,el0.2
etc., resulta el clsico.
TSK. Si usamos otro valor:
0.5. Si se escoge
= 0,
tenemos
Spearman-Karber
0.05, 0.1, 0.2 etc., resulta el TSK.
Veamos el caso con = 0.
Usaremos la expresin general de clculo de la DE50 debido a que las dosis estn
separadas
por
distancias
se vi
separadas por estn
distancias
desiguales.
Como
se vio endesiguales.
el captulo 2,Como
empleamos
la en el captulo
empleamos
la
frmula
desarrollada
para
el
caso
particular,
en que las distan
frmula desarrollada para el caso particular, en que las distancias entre dosis estn
entre
dosis,
estn
igualadas
por
transformacin
logartmica.
igualadas por transformacin logartmica.
La frmula general,
vlida para
todos vlida
los casos
es:todos los casos es:
La frmula
general,
para
Log e DE 50 = !
(X
j "1
Log e DE 50 =
+
+ Xj)
"~
p j "1 )
(3.3293 + 3.583)(0102
(3.583 + 4.0167 )(1.0 ! 0.158) = 3.731
.158 ! 0.025)+
2
DE 50 = e 3.7312 = 41.73mg / L
(~p
22/4/10 10:45:45
Log e DE 50 = !
(X
j "1
Log e DE 50 =
+
+ Xj)
(~p
"~
p j "1 )
2
DE 50 = e 3.7312 = 41.73mg / L
Si uno mira cuidadosamente la tabla 25, no debera tener dificultades para calcular
Si uno mira cuidadosamente la tabla 25, no debera tener dificultades para
la DE50.
calcular la DE50.
Veamos ahora cmo se recorta el S-K.
Veamos ahora como se recorta el S-K.
Casi siempre conviene empezar con = 0.1, pero puede ser conveniente usar otro
Casi siempre conviene empezar con = 0.1, pero puede ser conveniente usar
valor.
otro valor.
Ese valor: ( 0.1), significa que recortaremos simtricamente las probabilidades de
muerte
en un 0.1),
10% en
cada extremo.
Ese valor:(
significa
que recortaremos simtricamente, las probabilidades
de muerte en un 10% en cada extremo.
Para ver el efecto del podado, tenemos que graficar los logaritmos de las dosis, y
~
p corregidos,
losPara
como
ve en el grfico
siguiente:
ver el efecto
delsepodado,
tenemos
que graficar los logaritmos de las
p corregidos, como se ve en el grfico siguiente:
dosis, y los ~
FIGURA N 8
FIGURA N 8 :
1
0.9
0.8
0.7
0.6
0.5
0.4
0.3
0.2
0.1
0
94
p:0.1 , X:3.4724
p:0.158 , X:3.583
Logdosis
Podemos observar que, las abscisas trazadas a nivel p: 0.1 y 0.9 cortan la lnea que
une las observaciones en dos lugares. En el primero de ellos, a la probabilidad = 0.1,
le corresponde
un logaritmo
= abscisas
3.4724 (leyendo
en la
abscisa).
En ely segundo,
a la
Podemos
observar
que, las
trazadas
a nivel
p : 0.1
0.9 cortan
la lnea
~
(
p )
P=
(1 2 )
Con ella, calcularemos los P definitivos como sigue.
P3 =
= 0.0
)
! 0.2valores
Si tabulamos(1estos
P, y sus respectivos logaritmos, tenemos:
TABLA 29 logaritmos, tenemos:
Si tabulamos estos valores P, y sus respectivos
TABLA No 27 :
Loge
Log
e
3.9652
3.9652
3.583
3.583
3.4724
3.4724
Pi
1.0
0.0725
0.0
Pi
1.0
0.0725
0.0
Empleando
finalmente
general,tenemos:
tenemos:
Empleando
finalmentelalafrmula
frmula general,
Log e DE 50 =
DE 50 = e
3.7562
2
= 42.79mg / L
Pese a que, Hamilton y colaboradores postulan que el TSK funciona bin en todos
los casos, hay algunos ejemplos en la literatura (Sanathanan, Gade and
104
Shipkowitz, 1987), que muestran varias excepciones.
Por otra parte, la varianza de la DE50 obtenida por el TSK es slo aproximada, y
en las excepciones mencionadas, no fue posible calcularla.
22/4/10 10:45:47
Pese a que Hamilton y colaboradores postulan que el TSK funciona bien en todos
los casos, hay algunos ejemplos en la literatura (Sanathanan, Gade and Shipkowitz,
1987) que muestran varias excepciones.
Por otra parte, la varianza de la DE 50 obtenida por el TSK es slo aproximada, y en
las excepciones mencionadas no fue posible calcularla.
Como esa varianza se pueden obtener expresiones que demandan gran paciencia
y laboriosidad, que no sern incluidas en este libro; sobre todo, atendiendo a las
crticas de Sanathanan y colaboradores.
El TSK es usado con frecuencia, pues permite obtener la DE50 en situaciones difciles, aunque se debe reconocer que la necesidad de usar un buen mtodo grfico es
un pesado obstculo.
Es posible eliminar el procedimiento grfico recin descrito, empleando el mtodo
que se expone a continuacin.
Para calcular el valor de los logaritmos de las dosis correspondientes a los puntos de
corte resultantes del a = 0.1 que elegimos: 0.1 y 0.9 (ver figura 8), determinaremos:
la pendiente y el intercepto de cada recta que una dos puntos sucesivos.
Podemos tabular un resumen de los puntos que usaremos, tomndolos de la tabla
N 28.
TABLA 30
~
p
Loge
1.0
4.0167
2
3
0.158
3.5830
0.025
3.3293
La pendiente (b) de la recta que une los dos primeros puntos, es:
b=
105
22/4/10 10:45:47
tabla 29.
Procediendo de igual manera con la recta que une los puntos: (0.158, 3.583) y
(0.025, 3.3293), obtendremos: 3.4724, tal como se ve en la tabla N 27.
Despus, el procedimiento contina con el clculo de los P definitivos, con la frmula
general, y culmina con la estimacin de la DE 50, como ya fue descrito antes.
106
22/4/10 10:45:47
NDICE DE MATERIAS
Abbott (2.1)
AMES (3.5)
Berkson, J.
Colaborativo Cualitativo, estudio
DE 50
DE 95
DE 90
DE 99
Dispersin, Indice
D, Valor
Fisher, R. Sir
Homogeneidad Intragrupos
Hamilton, M.A. (A.1)
Insecticidas
Karber, Spearman-Karber
, Podado (TSK)
Lneas Paralelas
Logit
Logit, Programa
Mather, k
Mutagenicidad (3.5)
Media (Poisson) (1)
(Robusta) (3.3)
Programa
Nmero ptimo De Animales (2.2)
Nmero Ms Probable (NMP) (1.2)
NMP Programa (1.2)
ptimo, Nmero De Animales (2.2)
Outliers (3.4.1)
Programa. reas Bajo C. Normal
Nmero Ms Probable
Unidades Formadoras de Colonias
Nmero Partculas Por Placa
Diluciones Lmite
Logit
Algoritmo Derenzo
Probit
Potencia de Vacunas
Estimadores Robustos
54
90
37
83
36
54
54
54
12
43
12
88
82
54-55
37
101
58 y 93
38-39
39-40
28
90
5
79
81
55
16-20
17-19
55
78
11-12
17-19
21-22
25
31
44-45
50-52
51-53
62-70
81
107
22/4/10 10:45:47
Q Cochran
Lneas Paralelas
86
95-96
58
1
55
84
21-22
97
92
52
Potencia
Poisson
Probits
Q Cochran
Recuentos
T Student, Tabla Parcial
Wahrendorf (Tabla)
Z, valor
108
22/4/10 10:45:47
REFERENCIAS
Altman, D.G. and Bland J.M. (1983). Measurement in Medicine: The Analysis
of Method Comparison Studies. The Statistician 32:317.
Best, D.J. (1990). Optimal Determination of Most Probable Numbers. International Journal of Food Microbiology 11:159-166.
Bi, J. and D. Ennis (1998). Sensory Thresholds: Concepts and Methods. J.
Sensory Studies 13:133-148.
Bianchi, R.A. y Susana Malkisher (1982). Aspectos Estadsticos de los Ensayos Diagnsticos In Vitro. Acta Bioqumica Clnica Latinoamericana. Vol. XVI
(1):45-80.
Bliss, C. (1945). Confidence Limits for Biological Assays. Biometrics 1(5):5765.
Bliss, C. (1951). Statistical Methods in Vitamin Research, in Vitamin Method.
Edit. by P. Gyrgy. Vol. II. Academic Press Inc. New York.
Bliss, C. (1938) The Determination of The Dosage Mortality Curve From Small
Numbers. Quart. J. Pharmacy and Pharmacology 11:192-216.
Biol. of Water Pollution. www.uis.edu/ jenkins/bwp/bwplab2.txt.
Bryan, W.R. (1957) Interpretation of Host Response in Quantitative Studies in
Animal Viruses. Annals of the New York Academy of Sciences 69:698-728.
Burleson, J.A. et al (1993). Use of Logistic Regression in Comparing Multiple
Limiting Dilution Analysies of Antigen-Reactive T Cells. J. Inmunol. Methods
159:47-52.
Cornfield, J. and N. Mantel (1950). Some New Aspects of the Aplication of
Maximum Likelihood to the Calculation of the Dosage Response Curve. J.
American Statistical Association 45(250):181-210.
Das, M.N. and N.C. Giri (1979). Design and Analysis of experiments. Wiley Eastern Limited. New Delhi.
Derenzo, L. (1977). Mathematical computing (31): 214.
Detre, K. And White, C. (1970). The Comparison of the Two Poisson- Distributed Observations. Biometrics 26:851-854.
109
22/4/10 10:45:48
Hogg, R.V., S.J. Ruberg and L.Yuh (1990). Robust Data Analysis, in Statistical Methodology in the Pharmaceutical Sciences. Donald Berry. Editor. Marcel
Dekker Inc.. New York.
Hurley, M.A. and M.E. Roscoe (1983). Automated Statistical Analysis of Microbial Enumeration by Dilution Series. Journal of Applied Bacteriology 55:159164.
Ibelgaufs, Hort (1999). Limiting Dilution Analysis. Www.copewithcytokines.de/
cope.cgi?3735.
Jarvis, B. (1989). Statistical Aspects of the Microbiological Analysis Of Foods.
Elsevier, Amsterdam.
Kalbfleisch, J.G. and D.A. Sprott (1974) Statistical Analysis of Data Bearing
on the Number of Particle Required to form a Plaque. J. Hygiene, Cambridge
73:27-34.
110
22/4/10 10:45:48
Knudsen, Lila and J. Curtis (1947). The Use of the Angular Transformation in
Biological Assays. J. American Statistical Association 42:282-296.
Macken, C. (1999). Design and Analysis of Serial Dilution Assays with Small
Sample Sizes. J. Inmunol. Methods 222:13-29.
Match 120. The Logistic Function. http://cerebro.xu.edu/match/match120/01f/
logistic.pdf.
Mather, K. (1971). Anlisis Estadstico en Biologa. Ed. Paraninfo. Madrid. Pp.
311-325.
Mead R. And R.N. Curnow (1983). Statistical Methods In Agriculture And Experimental Biology, Chapman Hall. London. Pp. 267-273.
Mather, K. (1949) The Analysis of Extintion Time Data in Biossay. Biometrics
5:127-147.
Morgan, B.J.T. (1992). Analysis of Quantal Response Data. Chapman And
Hall, London. pp 303-317.
Mc Clure, F.D. (1990). Design and Analysis of Qualitative Collaborative Studies:
Minimum Collaborative Program. J.Assoc. Official Anal. Chem. 73(6):953-960.
Montana State University. The Trimmed Spearman-Karber Method. www.cee.
odu.edu/mbin/lc50/dos/lc50_manual.pdf.
Orestein, W. et al. (1985). Field Evaluation of Vaccine Efficacy. Bulletin of the
World Health Organization 63(6):1055-1068.
Pea Snchez De Rivera, D. (1995). Estadstica, Modelos y Mtodos 2. Modelos Lineales Series Temporales. 2 Edicin. Alianza Universidad Textos. Madrid. Pp:502-510.
Perry, W.L.M. (1950). The Design of Toxicity Test. Special Reports Series N
270. Medical Research Council. Published by His MajestyS Stationery Office.
London.
Pollard, J.H. A Handbook of Numerical and Statistical Techniques (1977). Cambridge Univ. Press. Cambridge.
111
22/4/10 10:45:48
112
22/4/10 10:45:48