Cp-Lb-Io-052 Evaluar Linealidad y Proebas Desempeño Inicial

Código: CP-LB-IO-052
NIVEL: Clasificación: 1
Fecha de Revisión: 20.abr.2010
Instrucción Operativa Fecha de Emisión: 22.abr.2010
GAS Y PETROQUÍMICA BÁSICA
Fecha Prox. Rev.: 21.abr.2012
Edo. de Rev.: 5
Hoja: 1 de 26
NOMBRE: EVALUAR LA LINEALIDAD Y PRUEBAS DE DESEMPEÑO INICIAL.
APLICACION [X] [X] DO [X] CALIDAD [X] GA/SAA [X] SCL [X] SO
SECCION DE FIRMAS DE AUTORIZACION
ELABORO REVISO
JUAN PABLO HERNANEZ ALONSO ING. RAÚL CARRILLO HERNANDEZ

PROBADOR ANALITICO ING. DE LABORATORIO Y DE SEGURIDAD
APROBO
ING. NOE MARTINEZ CASTILLO

JEFE DE ASEGURAMIENTO DE LA
CALIDAD DEL PRODUCTO
SECCION DE CAMBIOS
INICIALES Y FECHA
HOJA No. REV. No. DESCRIPCIÓN
REVISO APROBO
TODAS 02 CAMBIO DE FORMATO POR MIGRACIÓN A LA HERRAMIENTA DOS GHC 22.Ene 04 JGH 22.Ene 04
TODAS 03 POR VENCIMIENTO, CICLOS DE REVISION Y POR NMC 22.Jul.06 SSM 24.Jul.06
CAMBIO DE PUESTOS DE TRABAJO
TODAS 04 POR CICLOS DE REVISION Y POR CAMBIO DE PUESTOS RCH 23.Abr.08 NMC 25.Abr.08
DE TRABAJO
TODAS 05 POR CICLOS DE REVISION Y POR CAMBIO DE PUESTOS RCH 21.Abr.10 NMC 22.Abr.10
DE TRABAJO
Información Reservada
SP-PE-241/ FORMATO 01
“En PGPB la más alta prioridad es la seguridad de nuestros trabajadores, nuestros clientes, nuestros vecinos y el medio ambiente.”
Edo. de Rev.: 5
Hoja: 2 de 26
FUNDAMENTO LEGAL: LFTAIPG Art. 13 Fracc. I y III y Art. 14 Fracc. I, Ley de la Propiedad Industrial Art. 82 párrafo uno y dos y
Art. 83, LGCDI Lineamiento Décimo Octavo Fracc. V , inciso e
FECHA DE CLASIFICACIÓN: 22.Abril.2010 PERIODO DE RESERVA: 12 años NO. DE FOJAS: 25
NOMBRE Y RUBRICA DE QUIEN CLASIFICA LA INFORMACIÓN: Persona que elaboró la Instrucción Operativa
SECCIÓN DE FIRMAS DE ELABORACIÓN
ELABORO
GRUPO DE TRABAJO PARA INSTRUCCIÓN OPERATIVA
ING. NOE MARTINEZ CASTILLO ING. RAÚL CARRILLO HERNANDEZ

JEFE DE ASEGURAMIENTO DE LA CALIDAD ING. DE LABORATORIO Y DE SEGURIDAD
APOLINAR LOPEZ SANTOS SR. OLIVER WILSON BONFIL

PROBADOR ANALITICO PROBADOR ANALITICO
SRA. MARIA EUGENIA LASTRA MARTINEZ SR. RAUL ANTONIO HERNANDEZ

PROBADOR ANALITICO PROBADOR ANALITICO
Edo. de Rev.: 5
Hoja: 3 de 26
1. Objetivo
Aplicar el procedimiento para evaluar la linealidad de las curvas de calibración y pruebas

de desempeño del laboratorio de ecología.
2. Alcance
Este documento aplica a todo el personal que tiene la responsabilidad de evaluar la

linealidad en las curvas de calibración y realizar pruebas de desempeño en el laboratorio.
3. Requisitos
3.1 Para la aplicación de esta instrucción operativa se requiere:
3.1.1 Ser probador analítico.
3.1.2 Conocer y aplicar la instrucción operativa para muestreo y análisis de aguas

residuales en áreas de efluentes, CP-LB-IO-035.
3.1.3 Conocer y aplicar la instrucción operativa para determinar fósforo total CP-LB-IO-
038.
3.1.4 Conocer y aplicar la instrucción operativa para realizar la curva de calibración para
fósforo total CP-LB-IO-047.
4. Definiciones
4.1 Linealidad
Linealidad de un sistema o método analítico es la habilidad que asegura que los
resultados obtenidos directamente o por medio matemáticos son proporcionales a la
concentración de la sustancia dentro de un intervalo determinado.
4.2 Media aritmética

Es el valor medio que representa el total de ciertos datos o valores.
4.3 Desviación estándar de la regresión
Edo. de Rev.: 5
Hoja: 4 de 26
Es el grado de desviación que tienen en promedio un grupo de valores, con respecto

a la suma de cuadrados de la regresión y a los grados de libertad.
4.4 Pendiente (M)

Es la distancia vertical dividida por la distancia horizontal entre dos puntos
cualesquiera de la recta, lo que corresponde a la tasa de cambio a lo largo de la línea
de regresión.
4.5 Ordenada (B)

La intersección de una línea con y, generalmente designada como b, es el valor de y
en el punto de intersección de la línea con el eje y.
4.6 Grados de libertad (GLER)

Es el número de elementos que se pueden elegir libremente; o al número de
variables que pueden variar libremente; o al número de variables independientes.
4.7 Suma de cuadrados de regresión (SCR)

Es la medida de la variación total de un conjunto de datos.
4.8 Suma de cuadrados del error de regresión (SCER)

Es el que mide la variación entre las muestras individuales.
4.9 Blanco
Agua reactivo o matriz equivalente a la que no se aplica ninguna parte del
procedimiento analítico y sirve para evaluar la señal de fondo.
4.10 Análisis de blanco analítico

Es el someter una alícuota de agua/reactivo a todo el proceso de análisis por el cual
pasa una muestra real. El análisis de blancos se debe realizar en forma periódica o
con cada lote de muestras según lo requiera el método.
4.11 Desviación estándar de la ordenada al origen (SB)

Es el grado de desviación que tiene un grupo de valores con respecto a su origen.
4.12 Muestra de control de calidad para prueba de desempeño del laboratorio (PDL)
Muestra de aseguramiento de control de calidad. Se prepara fortificando agua
reactivo con los analíticos de interés y se procesa como cualquier muestra. Esta sirve
para demostrar que el procedimiento esta en control y permite diferenciar el
funcionamiento del laboratorio con respecto al desarrollo del método.
4.13 Desviación estándar de la pendiente (SM)

Es el grado de desviación que tiene un grupo de valores con respecto a la
pendiente.
Edo. de Rev.: 5
Hoja: 5 de 26
4.14 Distribución “t” de student:

Devuelve la probabilidad de una variable aleatoria siguiendo una distribución “t” de
student. Se utiliza para la comprobación de pruebas de hipótesis cuando el tamaño
de la muestra es pequeño.
4.15 Coeficiente de correlación (R).

Se usa para determinar la relación entre dos propiedades.
4.16 Coeficiente de determinación (R2)

El coeficiente de determinación r2 se puede interpretar como la proporción de la
varianza de y, que puede atribuirse a la varianza de x.
4.17 Intervalo de confianza

Es un rango en cualquiera de los lados de la media de una muestra o el intervalo con
puntos extremos de dos cantidades.
4.18 Limite de detección del método (LDM)

Es la mínima concentración de un analito o sustancia en una muestra, la cual puede
ser detectada pero no necesariamente cuantificada bajo las condiciones de
operación establecidas.
4.19 Limite de cuantificación del método (LCM)

Es la menor concentración de un analíto o sustancia en una muestra que puede ser
determinada con precisión y exactitud aceptables bajo las condiciones de operación
establecidas. Se ha determinado que el valor de este límite es el promedio de la
señal del blanco mas diez veces la desviación estándar del blanco.
4.20 Exactitud
Proximidad de concordancia entre el resultado de una medición y un valor verdadero
de la magnitud particular sujeta a medición.
4.21 Precisión
Es el grado de concordancia entre resultados analíticos individuales cuando el
procedimiento analítico se aplica repetidamente a diferentes alícuotas o porciones de
una muestra de una muestra homogénea. Usualmente se expresa en términos del
intervalo de confianza o incertidumbre.
4.22 Repetibilidad
Es el grado de concordancia obtenido entre determinaciones independientes
realizadas bajo las mismas condiciones operativas (analista, tiempo, equipo, reactivo,
etc.)
Edo. de Rev.: 5
Hoja: 6 de 26
4.23 Reproducibilidad
Es la proximidad de concordancia entre los resultados de mediciones del mismo
mensurado.
4.24 Sesgo
Es una medición del error sistemático y es la desviación persistente negativa o
positiva del valor promedio obtenido con el método, con respecto al valor
convencional verdadero del analito.
4.25 Instrucción operativa

Complemento formal de una instrucción genérica que describe la forma detallada de
llevar a cabo una actividad específica, con la opción de complementarla con un
flujograma de actividades.
4.26 Bitácora de pruebas de desempeño

Cuaderno de laboratorio debidamente foliado e identificado donde los analistas
anotan procedimiento y cálculo de la prueba de desempeño.
5. Frecuencias
5.1 De Ejecución
Este procedimiento se aplica cada vez que se tenga la necesidad de verificar la
linealidad en una curva de calibración y efectuar una prueba de desempeño.
5.2 De Revisión del Documento

Cada dos años o antes si es requerido.
5.3 De Ciclos de trabajo

Los ciclos de trabajo se realizan al evaluar la etapa de calidad del proceso de
disciplina operativa en los procedimientos mínimo una vez al año.
6. Documentos de referencia
 Libro: Estadística. Autor: Murray r. Spiecel. Editorial: Mc-Graw Hill.

 Libro: Elementos Modernos de Estadística Empresarial. Autor: John E. Freund.
 Elaboración y Emisión de Documentos del Sistema Integral de Gestión de Calidad,
Seguridad, Salud y Protección Ambiental (SP-PE-241).
Edo. de Rev.: 5
Hoja: 7 de 26
7. Seguridad, Salud y Protección Ambiental
7.1 Seguridad.
7.1.1 Equipo de protección personal que debe usar el personal que realice esta
actividad.
 Pantalón y camisa de algodón manga larga.
 Botas de cuero
 Protectores oculares
7.1.2 Cumplir con las medidas de seguridad establecidas en las instrucciones

operativas específicas en la preparación de curvas de calibración.
7.2 Salud.
7.2.1 Es necesario que el área donde se realiza los cálculos estadísticos tenga buena
ventilación e iluminación.
7.2.2 Es necesario que conozca las recomendaciones de seguridad señaladas en las

instrucciones operativas para cada prueba del área de ecología.
7.3 Protección Ambiental.
Evite derramar sustancias químicas utilizadas en la elaboración de las curvas de

calibración y pruebas al suelo, agua y emitir vapores tóxicos a la atmósfera para evitar
la contaminación del aire, suelo y agua.
8. Responsabilidades
8.1 Del Ingeniero de laboratorio y de seguridad

La implantación de esta instrucción operativa.
8.2 Del Jefe de Aseguramiento de la Calidad del Producto

Supervisar el uso y cumplimiento de los lineamientos de esta instrucción operativa.
8.3 De los probadores analíticos

El uso y aplicación de esta instrucción operativa al realizar la actividad.
Edo. de Rev.: 5
Hoja: 8 de 26
9. Desarrollo
9.1 Procedimiento para determinar la linealidad en pruebas espectrofotométricas.
9.1.1 Correr la curva de calibración de fósforo total de acuerdo a la instrucción

operativa CP-LB-IO-047, efectuar (por triplicado) tres lecturas para cada muestra
patrón.
9.1.2 Tabular dichos datos obtenidos de las curvas del fósforo total. Mediante una tabla
en la cual intervendrán los factores å C, å U, å CU, å C2, åU2.
9.1.1 Determinar la media aritmética de X o Y, usar la siguiente fórmula:
X=
∑ Χ
Y=
∑ Y
Ν Ν
Donde:
SC = Sumatoria total de la variable x, (concentración del patrón)
SY = Sumatoria total de la variable y, (absorbancia medida)
N = Número total de muestras.
9.1.2 Determinar el cálculo de la pendiente, usar la siguiente ecuación:
N ( ∑ ΧΥ )−( ∑ Χ )( ∑ Υ )
M= 2
N ( ∑ Χ ) −( ∑ Χ )
2
Donde:
N = Número total de muestras
SCy = Sumatoria total resultante de la multiplicación de X y Y.
SX = Sumatoria total de la variable x
SY = Sumatoria total de la variable y.
SX2 = Sumatoria total de la variable x cuadrada
Edo. de Rev.: 5
Hoja: 9 de 26
9.1.5 Determinar el cálculo de la ordenada al origen, usar la siguiente fórmula:
B=
∑ Υ −( M ) ( ∑ Χ )
N
Donde:
M = Pendiente de la recta
SX = Sumatoria total de la variable X
SY = Sumatoria total de la variable Y
9.1.6 Determinar la suma de cuadrados de regresión, usar la siguiente

fórmula:
SCR =( M ) ( ∑ ΧΥ ) + ( B ) ( ∑ Υ )−( ∑ Υ ) / N
2
Donde:
SXY = Sumatoria total resultante de la multiplicación de X y Y.
B = Ordenada al origen
SY = Sumatoria total de la variable Y
9.1.7 Determinar el cálculo de la desviación estándar de la regresión, usar la siguiente

fórmula:
1
2
SΥ / Χ=( SCER/GLER )
Donde:
SCER = suma de cuadrados del error de regresión
GLER = grados de libertad (N-2)
9.1.1 Determinar el cálculo de la desviación estándar de la ordenada al origen, usar la

siguiente fórmula:
[ ]
1 /2
Χ2
SB = SΥ / Χ 1 / N +
(∑ ) −( ∑
2
Χ) N
2
Χ
Edo. de Rev.: 5
Hoja: 10 de 26
Donde:
SY/X = Desviación estándar de la regresión
2
SX = Sumatoria total de la variable x cuadrada
X = Media aritmética de la variable X
9.1.9 Determinar el intervalo de confianza de la ordenada al origen, usar la siguiente

ecuación:
Donde:
T = Distribución de t student (ver tabla anexo 2)
T
IC ( B )=B± Χ SB
√N
Donde:
B = Ordenada al origen
T = Distribución de T student
SB = Desviación estándar de la ordenada al origen
9.1.10 Determinar la desviación estándar de la pendiente, usar la siguiente fórmula:
[ ]
1
1 2
SM =SΥ / Χ 1/N +
(∑ ) (∑ ) / N
Χ 2
− Χ 2
Donde:
SY/X = Desviación estándar de la regresión
SX =
2
Sumatoria total de la variable X cuadrada
Edo. de Rev.: 5
Hoja: 11 de 26
9.1.11 Determinar la variancia de x, usar la siguiente fórmula:
SΧ =
1
N −1 [∑ 2
Χ −
1
N
( ∑ Χ)
2
]
Donde:
SX2 = Sumatoria total de la variable X cuadrada
9.1.12 Determinar el intervalo de confianza de la pendiente, usar la siguiente fórmula:
IC ( M )=M ±T ( ) SM
SX
Donde:
T = Distribución de T student (N-2)
SM = Desviación estándar de la pendiente
SX = Variancia de X
9.1.13 Determinar el coeficiente de correlación, usar la siguiente fórmula:
Donde:
åX2 = Sumatoria total de la variable X cuadrada.
åC = Sumatoria total de la variable X
åY2 = Sumatoria total de la variable Y cuadrada.
åY = Sumatoria total de la variable Y
åCU = Sumatoria total resultante de la multiplicación de X Y
Edo. de Rev.: 5
Hoja: 12 de 26
9.1.14 Determinar el coeficiente de determinación, usar la siguiente fórmula:

R2 = (R)2
Donde:
R = Coeficiente de correlación
9.1.15 Criterio de aceptación de la linealidad de la curva de acuerdo a los valores

estadísticos calculados y con base a una estimación deseada del intervalo de
confianza.
Coeficiente de correlación R ³ 0.99
Coeficiente de determinación R2 ³ 0.98
Cumpla con el intervalo de confianza ³ 95.0 %
9.2. Determinar la prueba de desempeño
9.2.1 Linealidad del método para pruebas espectrofotométricas.
9.2.2 Preparar mínimo 4 soluciones de muestra real adicionada de patrones de

concentraciones conocidas, preparándolas por triplicado cada una y de manera
independiente (aplica para fósforo total).
9.2.3 Las concentraciones de las soluciones deben ser las adecuadas para que, dé
acuerdo al método a evaluar, las concentraciones de las soluciones a analizar se
encuentren dentro del intervalo de la linealidad del sistema (curva de calibración).
9.2.4 La evaluación del método se lleva a cabo por un mismo analista en las mismas
condiciones de operación. Con la absorbancia leída en el espectrofotómetro
obtener los resultados en concentración utilizando la ecuación de la recta de la
curva de calibración para determinar el fósforo total.
9.2.5 Tabular los resultados de la manera siguiente:
Concentración Concentración
Adicionada (X) Recuperada (Y)
X11, X12,….,X1N Y11, Y12, ….,Y1N

X21, X22,….,X2N Y21, Y22,,….,Y2N
XT1, XT2,….,XTN YT1, YT2,….,YTN
T es igual al número de cantidades adicionadas.

N es igual al numero de replicas (concentración recuperada) por cada
concentración adicionada.
Edo. de Rev.: 5
Hoja: 13 de 26
9.2.6 Determinar el coeficiente de correlación, usar la siguiente fórmula:
Donde:
2
åX = Sumatoria total de la variable X cuadrada.
åC = Sumatoria total de la variable X
åY2 = Sumatoria total de la variable Y cuadrada.
åY = Sumatoria total de la variable Y
åCU = Sumatoria total resultante de la multiplicación de X Y
åC = X11+X12 +…+ X1N +X21+X22 + …+ X2N + Xi1+ Xi2+…+ XiN
åX2 = (X11)2 +(X12)2 +…+ (X1N)2 + (X21)2 + (X22)2 + …+(X2N)2 +
(Xi1)2+ (Xi2)2 +…+(XiN) 2
åY = Y11+Y12+…+Y1N+Y21+Y22+ …+Y2N+ Yi1+Yi2+…+YiN
åY2 = (Y11)2 +(Y12)2 +…+(Y1N)2 + (Y21)2 + (Y22) 2+ …+ (Y2N)2+ (Yi1)2+
(Yi2)2 +…+ (YiN)2
åCU = X11 Y11+ X12 Y12 +…+ X1N Y1N + X21 Y21+ X22 Y22+ …+X2N
Y2N + Xi1 Yi1+ Xi2 Yi2 +…+ XiN YiN
9.2.7 Criterio de aceptación:

Coeficiente de correlación R ³ 0.99
Coeficiente de determinación R2 ³ 0.98
Si los valores calculados para R y R 2 no cumplen con los valores teóricos
señalados investigar la causa y repetir la prueba hasta su aprobación.
9.3 Determinación del sesgo
9.3.1 Preparar mínimo 4 soluciones de muestra real (efluentes norte o sur) y agregar
concentraciones diferentes de estándar patrón a un volumen de un litro de agua
residual.
9.3.2 A la muestra con el estándar patrón adicionado realizarle 7 análisis para cada
una de las soluciones preparadas. Determinar la concentración de acuerdo al
procedimiento de análisis, para las pruebas espectrofotométricas con las
Edo. de Rev.: 5
Hoja: 14 de 26
absorbancias obtenida utilice la ecuación de la recta de la curva de calibración y

calcule la concentración presente del analito en cuestión.
9.3.3 Analizar una muestra real (agua residual) sin adición de estándar patrón para
restar la concentración determinada de las muestras con adiciones conocidas.
Nota: se pueden utilizar estos datos para el cálculo de la linealidad del método si el
rango de concentración en estudio es el mismo.
9.3.4 Tabular los resultados de la manera siguiente:
Concentración Concentración
Adicionada(X) Recuperada (Y)
C1 X11, X12, …..,X1N

C2 X21, X22,,….,X2N
Ck Xk1, Xk2,……..,XkN
k= Número de alícuota con diferente concentración de solución patrón.

n= Número de replicas de cada concentración (7 para este caso).
9.3.5 Calcular la media de recuperación obtenida, para cada valor de concentración de

las muestras:
`X= åX/N
9.3.6 Calcular la desviación estándar para cada valor de concentración (C).
S = Ö å(X-`X) 2 / N-1
å(X-`X) 2 = (X1 – `X )2 + (X2 – `X )2 + ….+ (Xk- `X)2.
9.3.7 Calcular la desviación estándar de la media (S`X) para cada valor promedio de
concentración obtenida:
S`X = (S / ÖN)
9.3.8 Obtener el valor ± sesgo para los diferentes valores de concentración (mediante
la diferencia de la concentración adicionada c y la concentración promedio
obtenida `x).
Edo. de Rev.: 5
Hoja: 15 de 26
9.3.9 Calcular el ± sesgo y el porcentaje de ± sesgo, con las siguientes formulas:
± SESGO = C - `X
± SESGO = (C - `X)(100) / C
9.3.10 Determinar el valor experimental de “t” de student para cada una de las
concentraciones de la manera siguiente:
T = (C - `X) / S`X
9.3.11 De la tabla de distribución de student obtener el valor critico de “t” para una
prueba de doble cola con n-1 grados de libertad a un nivel del 5 % de significancia
(ver tabla de distribución “t” student anexo 1)
9.3.12 Criterio de aceptación del valor del sesgo para cada concentración.
Cuando el valor de “t” experimental es mayor de “t” de tablas si tiene significancia.
Cuando el valor de “t” experimental es menor de “t” de tablas no hay significancia.
En la concentración donde el sesgo calculado tenga significancia investigar la

causa y repetir la prueba.
9.4 Procedimiento para evaluar la exactitud del método al 100%.
9.4.1 Calculo del porcentaje de recuperado.
9.4.1.1 Con los datos obtenidos de sesgo calcular el porcentaje de recuperado (r)
mediante la siguiente ecuación:
R = (X / C) 100
9.4.1.2 Determinar el valor del por ciento de recuperado para cada una de las 7
replicas de cada concentración y tabularlo:
R11, R12, …, R1n

. . .
Rk1, Rk2, …, Rkn
Donde:
k = numero de concentraciones.
n = numero de replicas para cada concentración.
Edo. de Rev.: 5
Hoja: 16 de 26
9. 4.1.3 Calcular la desviación estándar para cada grupo de 7 replicas de cada

concentración.
S = Ö å(R-`R) 2 / N-1
9.4.1.4Calcular la media aritmética de la variable R usar la siguiente fórmula:
`R = å R / N
Donde:
åR = Sumatoria del porciento de recuperado (R)de cada grupo
N = Numero de replicas para cada concentración (igual a 7).
å(R-`R) 2 = (R11-`R) 2 + (R12-`R) 2 + (R13-`R) 2 + …. + (R1n-`R) 2
9.4.1.5 Calcular el coeficiente de variación CV o desviación estándar relativa para

cada concentración.
% CV = (S /`R) 100
9.5 Criterios de aceptación:
9.5.1 Valores limites a cumplir en la aplicación de los métodos:
Métodos % recuperado R CV
Titulometricos (80 – 120) £3%

y gravimétricos
Espectrofotométricos (90 – 110) £ 3%
9.5.2 La media aritmética del por ciento recuperado debe ser estadísticamente igual al
100 % o estar dentro del intervalo de confianza para este por ciento para que el
método se considere exacto.
9.5.3 Calculo del intervalo de confianza para el porcentaje recuperado.
I C (R) = `R ± t S / Ö N
Edo. de Rev.: 5
Hoja: 17 de 26
9.5.4 De la tabla de “t” student (anexo 1) obtener el valor critico de “t” para una prueba
de doble cola con grados de libertad (n – 1) a un nivel de significancia (a) del 5
%.
9.5.5 Criterios de aceptación del valor del porciento de recuperado:
Prueba de hipótesis para la media.

Hipótesis nula H0 : `R = 100 %
Hipótesis alterna Hi : `R ¹ 100 %
Si “t” experimental < “t” de tablas(n-1 y 0.975); H0 no se rechaza y el método se

puede considerar exacto con un a = 5%
Si “t” experimental > “t” de tablas(n-1 y 0.975 ) ; H0 se rechaza y el método se

puede considerar no exacto con un a = 5%
9.6 Determinar la precisión (reproducibilidad entre 2 días)
9.6.1 Preparar muestras reales de efluente sur o norte adicionadas de analito y

analizar por triplicado en el primer día y lo mismo para el segundo día.
9.6.2 Para el caso de muestras que el tiempo de conservación sea menos de 20 hrs.
realizar 7 repeticiones en un solo día bajo las mismas condiciones (mismo
analista y concentración).
9.6.3 Para las pruebas:

Espectrofotométricas, leer la absorbancia y determinar la concentración utilizando
la ecuación de la recata obtenida de la curva de calibración.
Titulometricos y gravimétricos determinar la concentración a como lo establecen
los procedimientos de prueba.
9.6.4 Usar los valores en absorbancia o en concentración para realizar los cálculos,
registrar los resultados.
y1 + y2 + y3 + … + yn
9.6.5 La media aritmética de la variable medida absorbancia o concentración.
Y= å Y / n
Edo. de Rev.: 5
Hoja: 18 de 26
åY = Y1 + Y2 + Y3 + …..+ Yn
n = número total de repeticiones.
9.6.6 Calcular la desviación estándar mediante la siguiente fórmula:
S = Ö å(y-`y) 2 / N-1
å(y-`y) 2 = (y11-`y) 2 + (y12-`y) 2 + (y13-`y) 2 + … + (y1n-`y) 2
9.6.7 Calcular el porciento del coeficiente de variación (%CV)
% CV = ( S /`Y ) 100
9.6.8 Criterio de aceptación de la precisión.
CV £ 3 %. Si no se cumple con este criterio investigar la causa y repetir la

prueba.
9.7 Determinar el límite de detección del método (LMD)
9.7.1 Para métodos espectrofotométricos.
9.7.1.1 Preparar soluciones de muestra real del efluente norte o sur adicionadas de
patrón conocidos mínimo 4 concentraciones diferentes procurar que la
concentración más pequeña proporcione una respuesta cercana al blanco
reactivo.
9.7.1.2 Preparar una muestra real sin adicionar patrón y realizar la prueba
correspondiente.
9.7.1.3 Analizar cada una de las muestras por triplicado de cada concentración de
acuerdo al procedimiento de prueba y restar el valor de la propiedad medida
de la muestra real sin analito a cada una de las muestras con adición de
patrón y obtener el valor correspondiente.
9.7.1.4 Tabular dichos datos como sigue:
Edo. de Rev.: 5
Hoja: 19 de 26
Concentración X1 X2 X3 X4
Y11 Y21 Y31 Y41

Y12 Y22 Y32 Y42
Y13 Y23 Y33 Y43
Absorbancia . . . .
. . . .
Y1N Y2N Y3N Y4N
Sumas SY1 SY2 SY3 SY4
9.7.1.5 Obtener la suma total de los resultados individuales elevados al cuadrado.
SY2 =Y112 + Y122 + ... + Y1N2 + Y212 + Y222 + ... Y2N2 + ... + Y312 + Y322+
….. + Y3N2 + Y412 + Y422 + ... + Y4N2
9.7.1.6 Calcular la desviación estándar grupal (Sg), usando la siguiente fórmula:
Sg = Ö [( SY2 ) - í (SY1 ) 2 /n1 + (SY2 ) 2 /n2 + (SY3 ) 2 /n3 + (SY4 ) 2 /n4 ý ] / N-K
Donde:
N = Número total de los valores de la absorbancia (Y) medida.
K = Número de grupos (4 concentraciones diferentes).
n = Número de replicas por cada concentración.
9.7.1.7 La concentración del límite de detección se calcula mediante la siguiente

formula.
Concentración = m x t x Sg / Ö n
Donde:
n = Número de replicas por cada concentración.
t = Se obtiene de la tabla de distribución “t” student de una cola, a N-K
grados de libertad y con un 95% probable de confianza.
m = Al valor de la pendiente de la curva de calibración.
9.7.2 Para métodos no espectrofotométricos.
9.7.2.1 Prepara 10 blancos reactivos y analizar una sola medición

independientemente, de acuerdo al procedimiento del método de prueba a
evaluar.
9.7.2.2 Calcular el valor medio del blanco de acuerdo a la siguiente fórmula:
Edo. de Rev.: 5
Hoja: 20 de 26
XBCO = å X / n
åX = X1 + X2 + X3 + … + Xn (suma de los datos obtenidos de cada blanco)
n = Número de análisis realizado (10 blancos reactivos).
9.7.2.3 Calcular la desviación estándar de los resultados de los blancos reactivos

de la manera siguiente.
S = Ö å(X-`XBCO) 2 / N-1
å(X-`XBCO) 2 = (X1-`X) 2 + (X2-`X) 2 + (X3-`X) 2 + …. + (Xn-`X) 2

9.7.2.4 Calcular el límite de detección con la formula siguiente.
LD = `XBCO + 3 (S)
Los datos reportarlo en unidades de concentración
9.8 Calculo del límite de cuantificación para método espectrofotométrico
9.8.1 Preparar 10 blancos de reactivos y analizar una sola medición

independientemente; de acuerdo al procedimiento del método de prueba a
evaluar (fósforo total).
9.8.2 Leer la absorbancia de cada blanco y mediante la ecuación de la recta de la curva

de calibración correspondiente obtener los resultados de concentración.
9.8.3 Calcular el valor medio del blanco de acuerdo a la siguiente formula.
`xbco = å x / n
åx = x1 + x2 + x3 + …..+ xn (suma de los datos obtenido de cada blanco)
n = numero de análisis realizado (10 blancos reactivos).
9.8.4 Calcular la desviación estándar de los resultados de los blancos reactivos de la

manera siguiente.
s = Ö å(x-`xbco) 2 / n-1
å(x-`xbco) 2 = (x1-`x) 2 + (x2-`x) 2 + (x3-`x) 2 + …. + (xn-`x) 2
Edo. de Rev.: 5
Hoja: 21 de 26
9.8.5 Calcular el límite de cuantificación con la formula siguiente.
LC = `Xbco + 10 (S)
9.9 Para métodos Titulometricos y gravimétricos
9.9.1 Preparar 10 blancos de reactivos y analizar una sola medición

independientemente; de acuerdo al procedimiento del método de prueba a
evaluar (nitrógeno total, grasas y aceites, sólidos suspendidos totales).
9.9.2 Utilizar las formulas correspondiente en cada prueba y obtener los datos en
unidades de concentración de los blancos reactivos cuando se tenga resultados
en ml o gramos.
9.9.3 Calcular el valor medio del blanco de acuerdo a la siguiente fórmula:
xbco = å x / n
åx = x1 + x2 + x3 + ….+ xn (suma de los datos obtenido de cada blanco)
n = Número de análisis realizado (10 blancos reactivos).
9.9.4 Calcular la desviación estándar de los resultados de los blancos reactivos de la

manera siguiente.
S = Ö å(X-`XBCO) 2 / n-1
å(X-`XBCO) 2 = (X1-`X) 2 + (X2-`X) 2 + (X3-`X) 2 + …. + (Xn-`X) 2
9.9.5 Calcular el límite de cuantificación de acuerdo a la siguiente formula.
LC = `XBCO + 10 (S)
9.10 Los cálculos se realizan en programa de computadora (Excel).
10. Cuestionario
Se presenta en el anexo 3 el cuestionario de evaluación con la finalidad de facilitar el

entrenamiento y autoevaluar el aprovechamiento.
Edo. de Rev.: 5
Hoja: 22 de 26
11. Registros
Bitácora de prueba de desempeño
12. Anexos
Anexo 1, Tabla de “t” de student de doble cola.
Anexo 2, Tabla de “t” de student de una cola.
Anexo 3 “Cuestionario de evaluación” (SP-PE-245 / FORMATO 01).
Anexo 1
Tabla de “t” de student (Prueba de dos colas)
Edo. de Rev.: 5
Hoja: 23 de 26
NUMERO DE VALOR CRITICO

OBSERVACION GRADOS DE DE t (a = 0.05)
ES LIBERTAD
2 1 12.706
3 2 4.303
4 3 3.182
5 4 2.776
6 5 2.571
Edo. de Rev.: 5
Hoja: 24 de 26
7 6 2.447
8 7 2.365
9 8 2.306
10 9 2.262
12 11 2.201
14 13 2.160
16 15 2.131
18 17 2.110
20 19 2.093
22 21 2.080
24 23 2.069
26 25 2.060
28 27 2.052
30 29 2.045
¥ ¥ 1.960
Anexo 2
Tabla de “t” Student (Prueba de una cola).
Grados de Nivel De Probalidad

libertad 0.10 0.05 0.01
1 3.078 6.314 31.821
2 1.886 2.920 6.965
3 1.638 2.353 4.541
4 1.533 2.132 3.747
5 1.476 2.015 3.365
6 1.440 1.943 3.142
7 1.415 1.895 2.998
Edo. de Rev.: 5
Hoja: 25 de 26
8 1.397 1.860 2.896

9 1.383 1.833 2.821
10 1.372 1.812 2.764
12 1.356 1.782 2.681
14 1.345 1.761 2.624
16 1.337 1.746 2.583
18 1.330 1.734 2.552
20 1.325 1.725 2.528
25 1.316 1.708 2.485
30 1.310 1.697 2.457
¥ 1.282 1.645 2.326
Anexo 3
Cuestionario de Evaluación.
Edo. de Rev.: 5
Hoja: 26 de 26

Cp-Lb-Io-052 Evaluar Linealidad y Proebas Desempeño Inicial

Cargado por

Información del documento

Título original

Derechos de autor

Formatos disponibles

Compartir este documento

Compartir o incrustar documentos

Opciones para compartir

¿Le pareció útil este documento?

¿Este contenido es inapropiado?

Copyright:

Formatos disponibles

Cp-Lb-Io-052 Evaluar Linealidad y Proebas Desempeño Inicial

Cargado por

Copyright:

Formatos disponibles

Código: CP-LB-IO-052

SECCION DE FIRMAS DE AUTORIZACION

JUAN PABLO HERNANEZ ALONSO ING. RAÚL CARRILLO HERNANDEZ

ING. NOE MARTINEZ CASTILLO

SECCIÓN DE FIRMAS DE ELABORACIÓN

GRUPO DE TRABAJO PARA INSTRUCCIÓN OPERATIVA

ING. NOE MARTINEZ CASTILLO ING. RAÚL CARRILLO HERNANDEZ

APOLINAR LOPEZ SANTOS SR. OLIVER WILSON BONFIL

SRA. MARIA EUGENIA LASTRA MARTINEZ SR. RAUL ANTONIO HERNANDEZ

Aplicar el procedimiento para evaluar la linealidad de las curvas de calibración y pruebas

Este documento aplica a todo el personal que tiene la responsabilidad de evaluar la

3.1 Para la aplicación de esta instrucción operativa se requiere:

3.1.1 Ser probador analítico.

3.1.2 Conocer y aplicar la instrucción operativa para muestreo y análisis de aguas

4.2 Media aritmética

4.3 Desviación estándar de la regresión

Es el grado de desviación que tienen en promedio un grupo de valores, con respecto

4.4 Pendiente (M)

4.5 Ordenada (B)

4.6 Grados de libertad (GLER)

4.7 Suma de cuadrados de regresión (SCR)

4.8 Suma de cuadrados del error de regresión (SCER)

4.10 Análisis de blanco analítico

4.11 Desviación estándar de la ordenada al origen (SB)

4.13 Desviación estándar de la pendiente (SM)

4.14 Distribución “t” de student:

4.15 Coeficiente de correlación (R).

4.16 Coeficiente de determinación (R2)

4.17 Intervalo de confianza

4.18 Limite de detección del método (LDM)

4.19 Limite de cuantificación del método (LCM)

4.25 Instrucción operativa

4.26 Bitácora de pruebas de desempeño

5.2 De Revisión del Documento

5.3 De Ciclos de trabajo

 Libro: Estadística. Autor: Murray r. Spiecel. Editorial: Mc-Graw Hill.

7. Seguridad, Salud y Protección Ambiental

7.1.2 Cumplir con las medidas de seguridad establecidas en las instrucciones

7.2.2 Es necesario que conozca las recomendaciones de seguridad señaladas en las

7.3 Protección Ambiental.

Evite derramar sustancias químicas utilizadas en la elaboración de las curvas de

8.1 Del Ingeniero de laboratorio y de seguridad

8.2 Del Jefe de Aseguramiento de la Calidad del Producto

8.3 De los probadores analíticos

9.1 Procedimiento para determinar la linealidad en pruebas espectrofotométricas.

9.1.1 Correr la curva de calibración de fósforo total de acuerdo a la instrucción

9.1.1 Determinar la media aritmética de X o Y, usar la siguiente fórmula:

9.1.2 Determinar el cálculo de la pendiente, usar la siguiente ecuación:

9.1.5 Determinar el cálculo de la ordenada al origen, usar la siguiente fórmula:

9.1.6 Determinar la suma de cuadrados de regresión, usar la siguiente

9.1.7 Determinar el cálculo de la desviación estándar de la regresión, usar la siguiente

9.1.1 Determinar el cálculo de la desviación estándar de la ordenada al origen, usar la

9.1.9 Determinar el intervalo de confianza de la ordenada al origen, usar la siguiente

9.1.10 Determinar la desviación estándar de la pendiente, usar la siguiente fórmula:

9.1.11 Determinar la variancia de x, usar la siguiente fórmula:

9.1.12 Determinar el intervalo de confianza de la pendiente, usar la siguiente fórmula:

9.1.13 Determinar el coeficiente de correlación, usar la siguiente fórmula:

9.1.14 Determinar el coeficiente de determinación, usar la siguiente fórmula:

9.1.15 Criterio de aceptación de la linealidad de la curva de acuerdo a los valores

9.2. Determinar la prueba de desempeño

9.2.1 Linealidad del método para pruebas espectrofotométricas.

9.2.2 Preparar mínimo 4 soluciones de muestra real adicionada de patrones de

9.2.5 Tabular los resultados de la manera siguiente: