Evaluacin de condicin fuera de especificacin

Descripcin: Microscopio
Marca: Z
Tipo: Dig
No. De identificacin:
63

Fecha de elaboracin:
Reporte:

Resultados de Calibracin
Informe de calibracin No. 615A
Valor Nominal
eje X
0
1
2
3
4
5
6
7
8
9

COEFICIENTE DE CORRELACIN LINEA

r
0.9994

Error
instrumental
(-)
0.04
0.07
0.11
0.14
0.18
0.22
0.26
0.29
0.33

El coeficiente "r" de los datos proporciona

calibracin, muestra una correlacin posit
indica que el comportamimento es lineal,
hacer un modelo matematico lineal de co
del error del instrumento, para saber la af
medidas tomadas.

0.35

0.3

0.25

0.2

Error instrumental promedio, mm

Error instrumental
Linear (Error instrumental)

0.15

0.1

0.05

0
0

9 10

0.1

0.05

0
0

9 10

Valor Nominal, mm

Elaboro:

Reviso:

e especificacin.

echa de elaboracin:

6/10/2015

Correlacion Lineal

DE CORRELACIN LINEAL DE KARL PEARSON

de los datos proporcionados en el informe de

stra una correlacin positiva muy alta, lo que
mportamimento es lineal, por lo tanto podemos
matematico lineal de comportamiento ajustado
umento, para saber la afectacin de en las
s.

Error instrumental
Linear (Error instrumental)

Valor Significado
-1 Correlacin negativa grande y perfecta
-0,9 a -0,99 Correlacin negativa muy alta
-0,7 a -0,89 Correlacin negativa alta
-0,4 a -0,69 Correlacin negativa moderada
-0,2 a -0,39 Correlacin negativa baja
-0,01 a -0,19 Correlacin negativa muy baja
0 Correlacin nula
0,01 a 0,19 Correlacin positiva muy baja
0,2 a 0,39 Correlacin positiva baja
0,4 a 0,69 Correlacin positiva moderada
0,7 a 0,89 Correlacin positiva alta
0,9 a 0,99 Correlacin positiva muy alta
1 Correlacin positiva grande y perfecta

RECTA DE MEJOR AJUSTE USANDO CUADRADOS MINIMO

Valor nominal X
n
1
2
3
4
5
6
7
8
9
Sumas

Error Instrumental
Xi

yi

xi*yi

1
2
3
4
5
6
7
8
9
45

0.04
0.07
0.11
0.14
0.18
0.22
0.26
0.29
0.33
1.64

0.04
0.14
0.33
0.56
0.9
1.32
1.82
2.32
2.97
10.4

Formulas:
PENDIENTE

ORDENADA AL ORIGEN
n

n * xi y i
1

xi * y i
1

n * x i2 ( x i ) 2

n
1

n * x ( x i ) 2
2
i

0.036

x i2 * y i x i * x i y i
1

0.001

DATOS. RECTA DE AJUSTE POR CUADRADOS MINIMOS DADA POR EXC

0.35
0.3
0.25
0.2
0.15
0.1
0.05
0

f(x) = 0.0366666667x - 0.0011111111

Column D

Linear (Column D
0

10

GRAFICO USANDO LOS VALORES DE m y b OBTENIDOS EN LA TE

Prediccin lineal del valor

Resultado medido, Error instrumental
mm
ajustado, mm
0.1
0.4
0.6

0.005
0.016
0.023

Resultado ajustado,
mm
0.105
0.416
0.623

0.8
1
1.2
1.4
1.6
1.8
2
2.2

0.030
0.037
0.045
0.052
0.059
0.066
0.074
0.081

0.830
1.037
1.245
1.452
1.659
1.866
2.074
2.281

Conclusin:
De acuerdo a la tabla de arriba, la tendencia es positiva, es decir el resultado ajustado es
mayor al resultado medido, por lo tanto el microscopio 63 se puede seguir utilizando, ya que
las mediciones ajustadas no son menores a las medidas tomadas..

CUADRADOS MINIMOS
xi2
1
4
9
16
25
36
49
64
81
285

AL ORIGEN
n

xi * xi yi
1

( x i ) 2
1

MINIMOS DADA POR EXCEL

Column D
Linear (Column D)
10

OBTENIDOS EN LA TEORIA

RECTA DE CUADRADOS MINIMOS USANDO SU ECUACION

y=0,036*x+0,001

y=0,036*x+0,001

3.000

2.000

1.000

0.000
0

10 mm

10 mm

Xi

yi

xi*yi

xi2

1
2
3
4
5

1
2
3
4
5

0.04
0.07
0.11
0.14
0.18

0.04
0.14
0.33
0.56
0.9

1
4
9
16
25

15

0.54

1.97

55

=
m=

0.035

b=

0.003