INFORME DE LABORATORIO

CALIFICADO N° 4 DE MATEMÁTICA
Y ESTADÍSTICA APLICADA
PROCESOS QUÍMICOS Y METALÚRGICOS

REALIZADO POR:
Paucar Espejo, Guadalupe
Chinchay Casas, Ángel
Rivas Ruíz, Bryan

Día de realización : 12/11/2018

SECCIÓN: C1-03-A

PROFESOR: Iván Gonzales

 INFORME DE LABORATORIO Página : 1 de 12
TECSUP 2018
PFR- C1 Matemática y Estadística Aplicada

I. OBJETIVOS

-Determinar la precisión, en base a la repetibilidad y reproducibilidad , de una serie

de pruebas realizadas por diferentes analistas .

-Evaluar la aceptabilidad de un análisis en base al porcentaje de recuperación

utilizando el criterio de la AOAC y el criterio de student.

-Determinar la mayor precisión de diferentes medidas.

1
 INFORME DE LABORATORIO Página : 2 de 12
TECSUP 2018
PFR- C1 Matemática y Estadística Aplicada

II. FUNDAMENTO TEÓRICO

Exactitud:
Indica cuán cerca está una medición del valor real de la cantidad medida. El manual del
Codex Alimentarius define la exactitud como el grado de concordancia entre el resultado
de un ensayo y el valor de referencia. Cuando se aplica a un método de ensayo, el término
“exactitud” se refiere a una combinación de veracidad y precisión.
Precisión de medida:
Es la proximidad existente entre las indicaciones o los valores medidos obtenidos en
mediciones repetidas de un mismo objeto, o de objetos similares, bajo condiciones
específicas.

Figura 1.Relación entre precisión y exactitud.

Repetibilidad
La repetibilidad puede ser expresada cuantitativamente en términos de la dispersión
característica de los resultados. Se define como la proximidad de concordancia entre los
resultados de mediciones sucesivas del mismo mensurando bajo las mismas condiciones
de medición. Estas condiciones son llamadas condiciones de repetibilidad.
Las condiciones de repetibilidad incluyen: el mismo procedimiento de medición, el
mismo observador, el mismo instrumento de medición, utilizado bajo las mismas
condiciones, el mismo lugar, repetición en un período corto de tiempo.

2
 INFORME DE LABORATORIO Página : 3 de 12
TECSUP 2018
PFR- C1 Matemática y Estadística Aplicada

Figura 2.Representación gráfica del concepto de

repetibilidad.
Reproducibilidad
La reproducibilidad se define como la proximidad de concordancia entre los resultados
de mediciones sucesivas del mismo mensurando bajo condiciones de medición que
cambian . Las condiciones que cambian pueden ser el principio de medición, el método
de medición, el observador, el instrumento de medición, el patrón de referencia, el lugar,
las condiciones de uso, el tiempo.

Figura 3.Representación gráfica del concepto de

reproducibilidad.

El Coeficiente de variación
El coeficiente de variación, CV, es un cociente entre el desvío estándar y la media de los
datos, expresado en porcentaje. Este coeficiente permite comparar la variabilidad de
diferentes muestras de una población o la variabilidad entre variables diferentes. En
general un CV menor al 10 %, dice que los datos tienen poca variabilidad, que es lo mismo
que decir que los valores observados son en general, cercanos al valor medio.
𝑆
𝐶𝑉 = 𝑋*100

S= desviación estándar
X=promedio de los datos.

Recuperación

Se define como la fracción de la sustancia agregada a la muestra (muestra fortificada)

antes de someterse a análisis, al ser analizadas muestras fortificadas y sin fortificar.
Permite ver el rendimiento de un método analítico referente al proceso de extracción y la
cantidad del analito existente en la muestra original. Por lo cual, la recuperación esta
intrínsecamente relacionada a las características de la matriz de la muestra. Se recomienda
realizar a lo menos 6 mediciones de cada uno en lo posible en tres niveles.

3
 INFORME DE LABORATORIO Página : 4 de 12
TECSUP 2018
PFR- C1 Matemática y Estadística Aplicada

Para evaluar la recuperación, se deberá realizar prueba t , en la cual el t calc y el tcrit ( para
determinar si hay diferencia estadísticamente significativa), en el caso que haya los
resultados reportados deberán ser corregidos.
Si el tcalc ≤ tcrit , no es necesario ninguna corrección.
El Criterio de aceptación en base al valor obtenido para el porcentaje de recuperación
puede utilizarse los criterios de AOAC.

Coeficiente de variación de Horwitz

Es el coeficiente de variación definido a través de la ecuación obtenida de un estudio

estadístico, después de reunir una serie de datos (provenientes de 150 ensayos de
interlaboratorios organizados por AOAC), se observó que el coeficiente de variación de
los valores medios dados por los diferentes laboratorios aumentaba a medida que
disminuía la concentración del analito.

CVh = 2(1−0.5 logC)

Donde:
CVh = Coeficiente de variación de Horwitz
C= concentración del analito

Prueba t-Student
En esta prueba se puede comparar las medias de dos grupos de datos y determinar si entre
estos parámetros las diferencias son estadísticamente significativas. En la prueba t , se
procede a determinar el valor t de student calculado, obtenido de la experiencia analítica,
y este valor posteriormente se compara con el llamado valor crítico, obteniéndose este
valor critico de la tabla de t-student para un determinado porcentaje de confiabilidad
(normalmente se utiliza el 95% de confianza, es decir, un valor α de 0,05). Si no existen
diferencias significativas entre 2 grupos, el t calculado debería ser inferior al t critico (o
conocido también como t de tabla).

Nivel de significancia(Alfa α): Este nivel de significación se utiliza para calcular el nivel
de confianza que es igual a 100%(1-α).
En caso de evaluar la recuperación, se deberá realizar prueba t , en el cual el t calculado
se halla con la siguiente ecuación:

[100−%𝑅]
tcal=
𝑆∗√𝑛
Donde:
tcal= t calculado u observado
R=recuperación
S=desviación estándar
n= número de lecturas

4
 INFORME DE LABORATORIO Página : 5 de 12
TECSUP 2018
PFR- C1 Matemática y Estadística Aplicada

III. DESARROLLO
PROBLEMA 1
1. Se realizó pruebas de un patrón con una concentración de hierro en 10 ppm,
según:
Tabla 1
Datos de las mediciones por réplica de cada analista.
Nombre Joseph Jaime Miguel
Replica 1 9,90 10,02 9,90
Replica 2 9,95 10,10 10,00
Replica 3 9,95 9,98 10,15

a) Determinar si tienen precisión (repetibilidad r y reproducibilidad R),

considere que S2 = Sr2 + SR2 y el C.V Horwitz/3.

Para determinar la precisión es necesario que se halle la desviación estándar, el

promedio y el coeficiente de variación(%).

Tabla 2
Cálculos para el análisis de repetibilidad.
Análisis de Repetibilidad
Sr 0.03 0.06 0.13
Media 9.93 10.03 10.02
Sr (%) 0.29 0.61 1.26
Promedio Sr(%) 0.72

Tabla 3
Cálculos para el análisis de reproducibilidad

Análisis de Reproducibilidad

SR Media SR (%)

0.05 9.99 0.54

En el dato del problema se indica que se debe considerar :

𝑆2 = 𝑆𝑟2 + 𝑆𝑅2

Hallando S:
𝑆2 = 𝑆𝑟2 + 𝑆𝑅2
𝑆 = √𝑆𝑟 2 + 𝑆𝑅 2
𝑆 = √0.722 + 0.542
5
 INFORME DE LABORATORIO Página : 6 de 12
TECSUP 2018
PFR- C1 Matemática y Estadística Aplicada

𝑆 = 0.90

Hallando el coeficiente de variación de Horwitz, considerando la concentración :

10
10 𝑝𝑝𝑚 = 6 = 10 ∗ 10−6
10
Reemplazando en la fórmula:
−6 )
21−0.5log(10∗10
C. Vh = =3.77
3

Comparando la desviación estándar (S) de todas las pruebas con el coeficiente de

Horwitz:
0.90 ≤ 3.77

Al ser menor que el coeficiente de Horwitz, se considera que los analistas tienen precisión
en sus mediciones.

b) ¿Qué analista es más preciso?

Analizando en la repetibilidad de cada analista

Tabla 4
Relación de los datos con los términos de repetibilidad

Nombre Joseph Jaime Miguel

Replica 1 9.9 10.02 9.9
Replica 2 9.95 10.1 10
Replica 3 9.95 9.98 10.15
Sr 0.03 0.06 0.13
Media 9.93 10.03 10.02
Sr (%) 0.29 0.61 1.26
Promedio
0.72
Sr(%)

El coeficiente de variación en el analista Joseph es menor que en los otros analistas, por
lo tanto, se puede decir que este analista es el más preciso.

6
 INFORME DE LABORATORIO Página : 7 de 12
TECSUP 2018
PFR- C1 Matemática y Estadística Aplicada

PROBLEMA 2

2. Se utilizó fortifico una muestra de carne de marisco a una concentración 15 mg/100g

de Cadmio y se analizó por fotometría de absorción atómica.

Tabla 5
Datos del porcentaje de recuperación en 6 lecturas

Recuperación(%)
99,30
93,3
86,00
106,00
93,30
85,30

Evaluar la aceptabilidad(exactitud) del análisis según:

a) Criterio de la AOAC 80%-110% de recuperación.
Para saber si la recuperación es aceptable sacamos el promedio de las 6 lecturas :
Promedio = 93,87%
De acuerdo con tabla de AOAC (según el dato de aceptación de 80%-110%),sí
sería aceptable para el nivel medido en los datos analizados.
b) Criterio de student al 95%

El promedio obtenido del porcentaje de recuperación es de: %R = 93,9}

El promedio del porcentaje de recuperación es:93.90
La desviación estándar del %R, S%R=7.90

Tabla 6
Términos necesarios para hallar el t calculado

X (media) 93,90
N (número de
mediciones) 6,00
S(desviación
estándar) 7,91
t calculado 0,32

[100−%R]
tcal=
S∗√n

7
 INFORME DE LABORATORIO Página : 8 de 12
TECSUP 2018
PFR- C1 Matemática y Estadística Aplicada

Para hallar el t calculado:

(100−93,9)
𝑡(𝑐𝑎𝑙) = =0.315
7,90∗√6

El t calculado es de 0.315
Para determinar el t crítico para grados de libertad de ν= n-1 (es decir de 6- 1=5), 2
colas y un valor α =0,05; se extrae de tabla t-student. Como se consideran 2 colas
α/2=0.025

Figura 4. Hallando el t calculado

en la tabla de distribución

El t crítico es 2.571
Comparando:

tcalc < tcrit

ya que
0,315 < 2,571

8
 INFORME DE LABORATORIO Página : 9 de 12
TECSUP 2018
PFR- C1 Matemática y Estadística Aplicada

Entonces, no hay diferencias estadísticamente significativas, por lo tanto, no es

necesario ninguna corrección.

PROBLEMA 3

Determinar cuál de las siguientes medidas es más precisa A= 3.27 ± 0.03 mm, B=4
10 ± 3 Km

Para la determinación del valor más preciso se considera como de desviación estándar las
incertidumbres de ambas medidas y como media los números reales medidos.

S = desviación estándar ; M = media

A = 3.27 ± 0.03 mm → S = 0.03 y M = 3.27

𝑆
Númer 𝐶. 𝑉 = ∗ 100
Incertidumbre 𝑀
o real
medido
0.03
𝐶. 𝑉 = ∗ 100 = 0.92 %
3.27

B = 410 ± 3 Km → S = 3 y M = 410
𝑆
𝐶. 𝑉 = ∗ 100
𝑀
3
𝐶. 𝑉 = ∗ 100 = 0.73 % Menor coeficiente
410
IV. RESULTADOS de variación
PREGUNTA 1.

a) Las mediciones de los 3 analistas tienen precisión.

b) El analista Joseph es el más preciso.

PREGUNTA 2.
a) Según el criterio de la AOAC los porcentajes de recuperación son aceptables; es
decir, 93,87 % se encuentra entre 80-100%
b) Se obtuvo un t calculado tiene un valor de 0.315 y el t crítico 2,571 y según el
criterio de student al 95% los porcentajes de recuperación son aceptables .

PREGUNTA 3.

a) El coeficiente de variación de A (3,27±0,03 mm) es de 0,92 y el de B(410±3km)

es de 0,73 .Por lo tanto, la medida más precisa es 410 ± 3 km, al tener un menor
coeficiente de variación (0.73 %).

9
 INFORME DE LABORATORIO Página : 10 de 12
TECSUP 2018
PFR- C1 Matemática y Estadística Aplicada

IV. CONCLUSIONES

Conclusión 1
En el primer problema se logró determinar si las mediciones de cada analista tenían
precisión mediante el análisis de la repetibilidad y la reproducibilidad para comparar la
desviación estándar con el coeficiente de variación de Horwitz y este último se utiliza
como valor límite para el criterio de aceptabilidad.

Conclusión 2
En el segundo problema, al evaluar la aceptabilidad del análisis a través de su porcentaje
de recuperación se obtuvo que era aceptable con el criterio de la AOAC, comparando los
porcentajes aceptables con el promedio de los datos , y el criterio de student , comparando
el t calculado con el t crítico, de donde se puede deducir si hay una diferencia
estadísticamente significativa para aceptar o rechazar mediciones.

Conclusión 3
En el tercer problema de logró determinar la medida más precisa mediante el cálculo y
comparación del coeficiente de variación de las dos medidas.

V. RECOMENDACIONES

-Se recomienda el uso de Excel para realizar los cálculos correspondientes en cada
problema.

-Para tener un mayor entendimiento de los criterios de la AOAC se recomienda

revisar fuentes como : “Los métodos oficiales de análisis de AOAC International”.

- Revisar el Codex Alimentarius para familiarizarse con los criterios y definiciones

establecidas para alimentos.

10
 INFORME DE LABORATORIO Página : 11 de 12
TECSUP 2018
PFR- C1 Matemática y Estadística Aplicada

VI. BIBLIOGRAFÍA

LA REPETIBILIDAD Y REPRODUCIBILIDAD EN EL ASEGURAMIENTO DE LA

CALIDAD DE LOS PROCESOS DE MEDICIÓN, recuperado el 17 de noviembre del
2018 del sitio web:
http://www.redalyc.org/pdf/4455/445543770014.pdf

VALIDACIÓN DE MÉTODOS Y DETERMINACIÓN DE LA INCERTIDUMBRE

DE LA MEDICIÓN: “ASPECTOS GENERALES SOBRE LA VALIDACIÓN DE
MÉTODOS”, recuperado el 18 de noviembre del 2018 del sitio web:
http://www.ispch.cl/sites/default/files/documento/2010/12/guia_tecnica_1_validacion_d
e_metodos.pdf

CRITERIOS E INDICADORES PARA EVALUAR LA CALIDAD DEL ANÁLISIS

DOCUMENTAL DE CONTENIDO, recuperado el 18 de noviembre del 2018 del sitio
web: http://www.scielo.br/pdf/ci/v31n1/a06v31n1.pdf

11