GUÍA: TRATAMIENTO DE DATOS EXPERIMENTALES

Nombre: Cristina Javiera Imiguala Ramos

1.- Los resultados del análisis en ppm de Pb en una muestra son los siguientes:

0,752; 0,756; 0,752; 0,751; 0,760.

Calcule:

a) Desviación estándar

0.752+ 0.756+0.752+0.751+0.760
X́ =
5
X́ =0.754

( 0.752−0.754 )2 + ( 0.756−0.754 )2 +(0.752−0.754)2 +( 0.751−0.754)2

S=
√ 5−1
S=0.00
2.- Los resultados de la Tabla 1 corresponden a las absorbancias obtenidas con un
espectrofotómetro, de 50 replicados de disoluciones color rojo producidas al tratar muestras
acuosas idénticas que contienen 10 ppm de Fe (III) con exceso de tiocianato.

Calcule:

a) Evalúe el rechazo de algún (os) dato (s)

Para que un dato sea rechazado necesariamente este debe ser más de 4 veces el valor
promedio de los otros, por ende en este caso no se rechaza ningún dato.
 b) Error absoluto

X́ =
∑ Adsorbancia A
50
X́ =0.4818 0.482
Ea = X́ −X t
Ea =0.482−0.482

Ea =0.000

c) Error relativo

X́− X t
Error relativo= ∗100 %
Xt
0.4818−4.482
Error relativo= ∗100 %
0.482
Error relativo=−0.033 %

d) Error aleatorio para:

a) el segundo dato de la Tabla 1

Er =X 2 − X́
Er =0.480−0.482

Er =−0.002

b) la media de las tres primeras entradas de la Tabla 1

0.488+0.480+0.486
X́ 1,2,3 =
3
X́ 1,2,3 =0.485
Er =0.485−0.485

Er =0.003

e) Error sistemático para el segundo dato de la tabla 1

Eabsoluto =Ealeatorio + Esistemático

E s=0.000−(−0.002 )
E s=0.002

Error sistemática para las tres primeras entradas de la tabla 1

E s=0.000−0.003

E s=−0.003

f) La media

X́ =
∑ Adsorbancia A
50
X́ =0.4818 0.482

g) La desviación estándar
Aplicando la fórmula ( X − X́ )2 a los datos de la tabla 1

1 3,795E-05 11 3,386E-06 21 1,032E-04 31 9,986E-06 41 1,731E-05

2 3,386E-06 12 5,127E-05 22 4,666E-06 32 2,343E-05 42 2,560E-08
3 1,731E-05 13 1,475E-05 23 7,056E-07 33 3,411E-05 43 2,343E-05
4 7,815E-05 14 1,175E-04 24 2,663E-05 34 1,346E-06 44 2,343E-05
5 4,679E-05 15 2,560E-08 25 1,475E-05 35 3,411E-05 45 1,731E-05
6 2,560E-08 16 1,346E-06 26 1,346E-06 36 6,659E-05 46 1,475E-05
7 1,731E-05 17 3,795E-05 27 2,560E-08 37 3,795E-05 47 1,346E-06
8 2,560E-08 18 4,679E-05 28 8,391E-05 38 1,175E-04 48 3,386E-06
9 7,056E-07 19 3,386E-06 29 7,056E-07 39 1,731E-05 49 1,346E-06
10 6,659E-05 20 1,479E-04 30 1,649E-04 40 1,475E-05 50 8,066E-06

h) La varianza

S2=
∑ (X− X́)2
n−1

S2=0.000

i) El coeficiente de variación

S
CV = ∗100 %
X́
0.0056
CV = ∗100 %
0.4818
CV =1.16 %
3.- La Tabla 2, indica el contenido de mercurio de siete peces procedentes del río Missisipi
determinado mediante un método basado en la absorción de radiación por el mercurio elemental
gaseoso.

a) Calcule la estimación ponderada de la desviación estándar del método.

Promedio ejemplar 1:

1.80+ 1.58+ 1.64

X́ =
3
X́ =1.67
Promedio ejemplar 2:

0.96+0.98+1.02+1.10
X́ =
4
X́ =1.02
Promedio ejemplar 3:

3.13+ 3.35
X́ =
2
X́ =3.24
Promedio ejemplar 4:

2.06 +1.93+2.12+2.16+1.89+1.95
X́ =
6
X́ =2.02
Promedio ejemplar 5:
 0.57+0.58+0.64 +0.49
X́ =
4
X́ =0.57
Promedio ejemplar 6:

2.35+ 2.44+2.70+2.48+ 2.44

X́ =
5
X́ =2.48
Promedio ejemplar 7:

1.11 +1.15+1.22+ 1.02

X́ =
4
X́ =1.13
Aplicando la fórmula ( X − X́ )2 a los datos de la tabla 2, donde X́ corresponde al promedio de cada
ejemplar:

Ejemplar Muestra ( X − X́ )2 Ejemplar Muestra ( X − X́ )2 Ejemplar Muestra ( X − X́ )2

1 1 0,02 4 11 0,01 6 21 0,00
1 2 0,01 4 12 0,01 6 22 0,05
1 3 0,00 4 13 0,02 6 23 0,00
2 4 0,00 4 14 0,02 6 24 0,00
2 5 0,00 4 15 0,00 7 25 0,00
2 6 0,00 5 16 0,00 7 26 0,00
2 7 0,01 5 17 0,00 7 27 0,01
3 8 0,01 5 18 0,00 7 28 0,01
3 9 0,01 5 19 0,01
4 10 0,00 6 20 0,02

∑ ( X− X́)2
S=
√ 28−7
S=0.10
4.- A partir de la Tabla 3:
*Datos obtenidos del ejercicio anterior:

Muestra Nº de muestras Promedio Desv est ponderada

1 3 1,67 0,10
2 4 1,02
3 2 3,24
4 6 2,02
5 4 0,57
6 5 2,48
7 4 1,13

a) Calcule los límites de confianza del 50 por 100 y 95 por 100 para el valor de la media para
la muestra 1 de la Tabla 2.
- Nivel de confianza 50 %:

z∗σ
LC=X ±
√N
0.67∗0.1
LC=1.67 ±
3
LC=1.67 ± 0.04
- Nivel de confianza 95 %:

1.96∗0.1
LC=1.67 ±
3
LC=1.67 ± 0.12
G
b) Calcule los límites de confianza del 68 por 100 y 96 por 100 para el valor de la media para
la muestra 4 de la Tabla 2.
- Nivel de confianza 68 %:

1.00∗0.1
LC=2.02±
6
LC=2.02± 0.0 .4
- Nivel de confianza 96 %:

2.00∗0.1
LC=2.02±
6
LC=2.02± 0.08
G
 c) Calcule los límites de confianza del 80 por 100 y 99 por 100 para el valor de la media para
la muestra 6 de la Tabla 2.
- Nivel de confianza 80 %:

1.29∗0.1
LC=2.48 ±
5
LC=2.48 ±0.0 .6
- Nivel de confianza 99 %:

2.58∗0.1
LC=2.48 ±
5
LC=2.48 ±0.12

d) Calcule los límites de confianza del 90 por 100 y 99,7 por 100 para el valor de la media
para la muestra 7 de la Tabla 2.
- Nivel de confianza 90 %:

1.64∗0.1
LC=1.13 ±
4
LC=1.13 ±0.12
- Nivel de confianza 99,7 %:

3.00∗0.1
LC=1.13 ±
4
LC=1.13 ±0.15
5.- Emplear los datos de la Tabla 4 para determinar cuál de los tres materiales volumétricos
emplearía para obtener resultados: a) más reproducibles b) más exactos Explique para cada caso
los posibles errores asociados al método.

Aplicando la fórmula ( X − X́ )2 a los datos de la tabla 4:

Muestra Material 1 Material 2 Material 3

1 0,00002 0,00016 0,04000
2 0,00003 0,00001 0,64000
3 0,00003 0,00031 0,25000
4 0,00002 0,00001 0,01000

Material volumétrico 1:

9.86+9.87+ 9.87+9.86
X́ =
4
X́ =9.8 7

∑ ( X− X́)2
S=
√ 4−1
S=0.01
0.01
(
ncerteza porcentual= 0.01−
9.87)∗100 %

Incerteza porcentual=0.5 2
Precisión=100 %−0.52 %
Precisión=99.4 8 %
|9.87−10|
Error porcentual= ∗100 %
10
Error porcentual=1.35 %
Exactitud=100 %−1.35 %
Exactitud=98.65 %
Material volumétrico 2:

9.98+9.99+10.01+9.99
X́ =
4
X́ =9.99

∑ ( X− X́)2
S=
√ 4−1
S=0.01
0.01
Incerteza porcentual= 0.01− ( )
9.99
∗100 %

Incerteza porcentual=1.13
Precisión=100 %−1.13 %
Precisión=98.87 %
|9.99−10|
Error porcentual= ∗100 %
10
Error porcentual=0.08 %
Exactitud=100 %−0.08 %
Exactitud=99.93 %

Material volumétrico 3:

9.50+10.50+9.20+ 9.60
X́ =
4
X́ =9.70

∑ ( X− X́)2
S=
√ 4−1
S=0.56
0.56
(
Incerteza porcentual= 0.56−
9.70)∗100 %

Incerteza porcentual=50.21
Precisión=100 %−50.21 %
Precisión=49.79 %
|9.70−10|
Error porcentual= ∗100 %
10
Error porcentual=3.00 %
Exactitud=100 %−3.00 %
Exactitud=97.00 %
6.- La Tabla 5, indica las Áreas correspondientes a cada concentración de Metil-Metsulfurón
(MMS) obtenidas por diferentes analistas a partir de HPLC. Las muestras fueron medidas en
duplicado.
La Tabla 6 indica los valores obtenidos a partir de un ajuste lineal de los datos de la curva de
calibración (Tabla 5) para cada set de datos.

A partir de estos valores, calcule:

a) La concentración para cada set de datos

Set 1:

( 38286−−11499.3 )
Concentración1−1=
59230.1
Concentración1−1=0.8405

( 38948−−11499.3 )
Concentración1−2=
59230.1
Concentración1−2=0.8517

( 108746−−11499.3 )
Concentración2−1=
59230.1
Concentración2−1=2.0301
 ( 112899−−11499.3 )
Concentración2−2=
59230.1
Concentración2−2=2.1003

( 116139−−11499.3 )
Concentración3−1=
59230.1
Concentración3−1=2.9991

( 177239−−11499.3 )
Concentración3−2=
59230.1
Concentración3−2=3.1865

( 235850−−11499.3 )
Concentración4 −1 =
59230.1
Concentración4 −1 =4.1761

( 242741−−11499.3 )
Concentración4 −2 =
59230.1
Concentración4 −2 =4.2924

( 263529−−11499.3 )
Concentración5−1=
59230.1
Concentración5−1=4.6434

( 277533−−11499.3 )
Concentración5−2=
59230.1
Concentración5−2=4.8798

Set 2:

( 57480−−2010.75 )
Concentración1−1=
55747.35
Concentración1−1=1.0671

( 58828−−2010.75 )
Concentración1−2=
55747.35
Concentración1−2=1.0913

( 107332−−2010.75 )
Concentración2−1=
55747.35
Concentración2−1=1.9614

( 106383−−2010.75 )
Concentración2−2=
55747.35
Concentración2−2=1.9444

( 159392−−2010.75 )
Concentración3−1=
55747.35
Concentración3−1=2.8953

( 161081−−2010.75 )
Concentración3−2=
55747.35
Concentración3−2=2.9256

( 219929−−2010.75 )
Concentración4 −1 =
55747.35
Concentración4 −1 =3.9812

( 222427−−2010.75 )
Concentración4 −2 =
55747.35
Concentración4 −2 =4.0260

( 279018−−2010.75 )
Concentración5−1=
55747.35
Concentración5−1=5.0411

( 280443−−2010.75 )
Concentración5−2=
55747.35
Concentración5−2=5.0667
 Set 3:

( 63492−4795.70 )
Concentración1−1=
53588.30
Concentración1−1=1.0953

( 56880−4795.70 )
Concentración1−2=
53588.30
Concentración1−2=0.9719

( 107352−4795.70 )
Concentración2−1=
53588.30
Concentración2−1=1.9138

( 104137−4795.70 )
Concentración2−2=
53588.30
Concentración2−2=1.9444

( 178941−4795.70 )
Concentración3−1=
53588.30
Concentración3−1=3.2497

( 163867−4795.70 )
Concentración3−2=
53588.30
Concentración3−2=2.9684

( 231107−4795.70 )
Concentración4 −1 =
53588.30
Concentración4 −1 =4.2231

( 206768−4795.70 )
Concentración4 −2 =
53588.30
Concentración4 −2 =3.7690

( 264529−4795.70 )
Concentración5−1=
53588.30
Concentración5−1=4.8468

( 278533−4795.70 )
Concentración5−2=
53588.30
Concentración5−2=5.1082

Set 4:

( 52132−5880.95 )
Concentración1−1=
52990.55
Concentración1−1=0.8728

( 55186−5880.95 )
Concentración1−2=
52990.55
Concentración1−2=0.9304

( 122103−5880.95 )
Concentración2−1=
52990.55
Concentración2−1=2.1933

( 131042−5880.95 )
Concentración2−2=
52990.55
Concentración2−2=2.3620

( 144794−5880.95 )
Concentración3−1=
52990.55
Concentración3−1=2.6215

( 164537−5880.95 )
Concentración3−2=
52990.55
Concentración3−2=2.9940

( 206103−5880.95 )
Concentración4 −1 =
52990.55
Concentración4 −1 =3.7784
 ( 223769−5880.95 )
Concentración4 −2 =
52990.55
Concentración4 −2 =4.1118

( 274828−5880.95 )
Concentración5−1=
52990.55
Concentración5−1=5.0754

( 274032−5880.95 )
Concentración5−2=
52990.55
Concentración51−2=5.0604

Set 5:

( 63569−8088.45 )
Concentración1−1=
57088.35
Concentración1−1=0.9718

( 67882−8088.45 )
Concentración1−2=
57088.35
Concentración1−2=1.0474

( 113972−8088.45 )
Concentración2−1=
57088.35
Concentración2−1=1.8547

( 127451−8088.45 )
Concentración2−2=
57088.35
Concentración2−2=2.0908

( 173795−8088.45 )
Concentración3−1=
57088.35
Concentración3−1=2.9026
 ( 179187−8088.45 )
Concentración3−2=
57088.35
Concentración3−2=2.9971

( 241370−8088.45 )
Concentración4 −1 =
57088.35
Concentración4 −1 =4.0863

( 247896−8088.45 )
Concentración4 −2 =
57088.35
Concentración4 −2 =4.2006

( 287641−8088.45 )
Concentración5−1=
57088.35
Concentración5−1=4.8968

( 290772−8088.45 )
Concentración5−2=
57088.35
Concentración5−2=4.9517

Set 6:

( 53653−−7933.80 )
Concentración1−1=
58253.90
Concentración1−1=1.0572

( 51028−−7933.80 )
Concentración1−2=
58253.90
Concentración1−2=1.0122

( 107901−−7933.80 )
Concentración2−1=
58253.90
Concentración2−1=1.9884

( 105717−−7933.80 )
Concentración2−2=
58253.90
Concentración2−2=1.9510

( 157941−−7933.80 )
Concentración3−1=
58253.90
Concentración3−1=2.8474

( 161628−−7933.80 )
Concentración3−2=
58253.90
Concentración3−2=2.9107

( 228813−−7933.80 )
Concentración4 −1 =
58253.90
Concentración4 −1 =4.0641

( 243951−−7933.80 )
Concentración4 −2 =
58253.90
Concentración4 −2 =4.3239

( 280805−−7933.80 )
Concentración5−1=
58253.90
Concentración5−1=4.9566

( 276842−−7933.80 )
Concentración5−2=
58253.90
Concentración5−2=4.8885

b) Los parámetros de calidad analítica

Set 1:

3∗4786.29 ( 10−2)
LOD=
66290.2
∗
√
(10−1)
LOD=0.2042
 10∗4786.29 (10−2)
LOQ=
66290.2
∗
√
( 10−1)
LOD=0.6807

4786.29
S=
66290.2
LOD=0.0722

Set 2:

3∗3996.45 (10−2)
LOD=
55747.35
∗
√
(10−1)
LOD=0.2028

10∗3996.45 (10−2)
LOQ=
55747.35
∗
√
(10−1)
LOD=0.6759

3996.45
S=
55747.35
LOD=0.0717

Set 3:

3∗9288 (10−2)
LOD= ∗
√
53588.3 (10−1)
LOD=0.4902

10∗9288 (10−2)
LOQ=
53588.3 √
∗
(10−1)
LOD=1.6342
 9288
S=
53588.3
LOD=0.1733

Set 4:

3∗1190.36 (10−2)
LOD=
52990.55 √
∗
(10−1)
LOD=0.6352

10∗1190.36 ( 10−2)
LOQ=
52990.55
∗
√( 10−1)
LOD=2.1177

1190.36
S=
52990.55
LOD=0.2246

Set 5:

3∗6464.05 (10−2)
LOD=
57088.35 √
∗
(10−1)
LOD=0.3203

10∗6464.05 (10−2)
LOQ=
57088.35
∗
√
(10−1)
LOD=1.0675

6464.05
S=
57088.35
LOD=0.1132
 Set 6:

3∗8252.13 (10−2)
LOD=
58253.9
∗
√(10−1)
LOD=0.4007

10∗8252.13 (10−2)
LOQ=
58253.9 √
∗
(10−1)
LOD=1.3356

8252.13
S=
58253.9
LOD=0.1417
 c) La pendiente de la recta (manual)

xiyi 1 xiyi 2 xiyi 3 xiyi 4 xiyi 5

38286 57480 63492 52132 63569
38948 58828 56880 55186 67882
217492 214664 214704 244206 227944
225798 212766 208274 262084 254902
498417 478176 536823 434382 521385
531717 483243 491601 493611 537561
943400 879716 924428 824412 965480
970964 889708 827072 895076 991584
1317645 1395090 1322645 1374140 1438205
1387665 1402215 1392665 1370160 1453860

La suma de estos valores para cada set:

Set 1 Set 2 Set 3 Set 4 Set 5 Set 6

6170332 6071886 6038584 6005389 6522372 6169915

La suma de los valores de la tabla 5 para cada set:

Set 1 Set 2 Set 3 Set 4 Set 5 Set 6

1661910 1652313 1655606 1648526 1793535 1668279

Para obtener Sxy en cada set:

Set 1:

( 1661910∗30)
S xy =6170332−
10
S xy =1184602

Set 2:

(1652313∗30)
S xy =6071886−
10
S xy =1114947

Set 3:

(1655606∗30)
S xy =6038584−
10
S xy =1071766

Set 4:
 (1648526∗30)
S xy =6005389−
10
S xy =1059811

Set 5:

( 1793535∗30)
S xy =6522372−
10
S xy =1141767

Set 6:

(1668279∗30)
S xy =6169915−
10
S xy =1165078

El cuadrado de los valores de concentración/ µg mL-1 :

concentración/ µg mL-1 Xi2

1 1
1 1
2 4
2 4
3 9
3 9
4 16
4 16
5 25
5 25

La suma y posterior cuadrado de estos valores es:

∑xi2 (∑xi)2
110 900

Ahora S:

900
S xx =110−
10
S xx =20
El valor de la pendiente para cada set:

Set 1:

1184602
m=
20
m=59230.10
Set 2:

1114947
m=
20
m=55747.35
Set 3:

1071766
m=
20
m=53588.30
Set 4:

1059811
m=
20
m=52990.55
Set 5:

1141767
m=
20
m=57088.35
Set 6:

1165078
m=
20
m=58253.90

d) La ordenada en el origen (manual)

Al calcular el promedio para cada set se tiene:

Set 1 Set 2 Set 3 Set 4 Set 5 Set 6

166191 165231,3 165560,6 164852,6 179353,5 166827,9

Ya obtenidos estos valores se puede calcular la ordenada del origen para cada set:

Set 1:
b=166191−(59230.10∗3)
b=−11499.30
Set 2:

b=165231.3−(55747.35∗3)
b=−2010.75
Set 3:

b=165560.6−(53588.30∗3)
b=4795.70
Set 4:

b=164852−(52990.55∗3)
b=5880.95
Set 5:

b=179353.5−(57088.35∗3)
b=8088.45
Set 6:

b=166827.9−(58253.90∗3)
b=−7933.80

e) Desviación estándar de la regresión (manual)

Antes se debe elevar cada valor del área de la tabla 5 al cuadrado, donde se obtiene:

(Área Set
(Área Set 1)^2 (Área Set 2)^2 (Área Set 3)^2 (Área Set 4)^2 5)^2 (Área Set 6)^2
1465817796 3303950400 4031234064 2717745424 4041017761 2878644409
1516946704 3460733584 3235334400 3045494596 4607965924 2603856784
11825692516 11520158224 11524451904 14909142609 12989616784 11642625801
12746184201 11317342689 10844514769 17172005764 16243757401 11176084089
27602167321 25405809664 32019881481 20965302436 30204702025 24945359481
31413663121 25947088561 26852393689 27072424369 32107980969 26123610384
55625222500 48368765041 53410445449 42478446609 58259476900 52355388969
58923193081 49473770329 42753005824 50072565361 61452426816 59512090401
69447533841 77851044324 69975591841 75530429584 82737344881 78851448025
77024566089 78648276249 77580632089 75093537024 84548355984 76641492964
La suma de estos valores para cada set:

3,47591E+11 3,35297E+11 3,32227E+11 3,29057E+11 3,87193E+11 3,46731E+11

Luego se puede obtener el valor de Syy para cada set:

Set 1:

11( 2.76194 x 1012)

S yy =3.47591 x 10 −
10
S yy =71396502360

Set 2:

(273014 x 10 12)
S yy =3.35297 x 1011 −
10
S yy =62283114068

Set 3:

(2.74103 x 1012 )
S xy =3.32227 x 1011 −
10
S yy =58124362786

Set 4:

11(3.71764 x 1012 )
S yy =3.29057 x 10 −
10
S yy =57293296508

Set 5:

(3.21677 x 1012 )
S yy =3.87193 x 1011 −
10
S yy =65515865823

Set 6:

(2.78315 x 1011 )
S xy =3.46731 x 1011 −
10
S yy =68415119123

Con lo anterior se obtiene Sy para cada set:

Set 1:
 2
71396502360−( 59230.10 ) ∗20
Sr =
√ 10−2
Sr =12411.7255

Set 2:
2
62283114068−( 55747.35 ) ∗20
Sr =
√ 10−2
Sr =3996.4582

Set 3:
2
58124362786−( 53588.30 ) ∗20
Sr =
√ 10−2
Sr =9288.7354

Set 4:
2
57293296508−( 552990.55 ) ∗20
Sr =
√ 10−2
Sr =11902.3565

Set 5:

2
65515865823−( 57088.35 ) ∗20
Sr =
√ 10−2
Sr =6464.0516

Set 6:
2
68415119123−( 58253.90 ) ∗20
Sr =
√ 10−2
Sr =8252.1347

f) Desviación estándar de la pendiente (manual)

Set 1:

12411.7255
Sm =
√ 20
Sr =2755.3462
Set 2:

3996.4582
Sm =
√ 20
Sr =893.6352

Set 3:

9288.7354
Sm =
√20
Sr =2077.0244

Set 4:

11902.3565
Sm =
√ 20
Sr =2661.4478

Set 5:

6464.0516
Sm =
√20
Sr =1445.4059

Set 6:

8252.1347
Sm =
√20
Sr =1845.2334

g) Desviación estándar de la ordenada (manual)

Set 1:

110
Sb =12411.7255−
√ ( 10∗110 )−900
Sb =9204.7820

Set 2:

110
Sb =3996.4582−
√ ( 10∗110 ) −900
Sb =2963.8528
Set 3:

110
Sb =9288.7354−
√ ( 10∗110 )−900
Sb =6888.7106

Set 4:

110
Sb =11902.3565−
√ ( 10∗110 )−900
Sb =8827.0238

Set 5:

110
Sb =6464.0516−
√ ( 10∗110 )−900
Sb =4793.8690

Set 6:

110
Sb =8252.1347−
√ ( 10∗110 )−900
Sb =6119.9469

h) La desviación estándar para cada duplicado (manual)

Set 1 Set 2 Set 3 Set 4 Set 5 Set 6

1 0,0079 0,0171 0,0872 0,0408 0,0534 0,0319
2 0,0496 0,0120 0,0424 0,1193 0,1670 0,0265
3 0,1325 0,0214 0,1989 0,2635 0,0668 0,0448
4 0,0823 0,0317 0,3212 0,2357 0,0808 0,1838
5 0,1672 0,0181 0,1848 0,0106 0,0388 0,0481

i) Indique qué curva de calibración utilizaría para determinar la concentración de una muestra
problema del pesticida MMS

Se utilizarían los datos del set 2 para determinar la concentración de la muestra problema.