Precisión

En general, el error probable en cualquier medición es la mitad de la división más

pequeña del instrumento de medida. De modo que la precisión de la medición
depende de la precisión con que está graduado el instrumento. Es importante tener
en cuenta que la precisión se refiere al tamaño de la división más pequeña de la
escala; no tiene nada que ver con la exactitud (corrección) de las graduaciones. En
otras palabras, decir que un instrumento es más preciso que otro no implica que el
instrumento menos preciso está mal fabricado. En efecto, es posible disponer de un
instrumento con una precisión aparente muy elevada, pero sí ha sido calibrado con
poco cuidado las medidas que se tomen con él resultan imprecisas.

Desde el punto de vista matemático, la precisión de un número resultante de

mediciones depende de la cantidad de lugares decimales; o sea que un gran
número de lugares decimales significa un error probable más pequeño. En 2,3 cm el
error probable es 0,05 cm, ya que está en realidad entre 2,5 y 2,35. En 1,45 hay un
error probable mucho más pequeño, de 0,025 cm. Si sumamos 2,3 + 1,45 y
obtenemos la respuesta en centésimos, la respuesta 3,75 estaría dada con una
precisión de centésimos; pero esto no es cierto, puesto que hay un error probable
de 0,05 en uno de los sumandos. Además, 2,30 parecería ajustado al milésimo,
pero en este ejemplo su precisión es sólo de décimos.

Resulta evidente que la precisión de una suma no es mayor que la del sumando
menos exacto. Puede demostrarse también que la precisión de una diferencia no es
mayor que la del número de menor exactitud.

Para sumar o sustraer números de diferentes órdenes, todos los números deben
redondearse al orden del número de menor precisión. En el ejemplo anterior, 1,45
deberá redondearse a décimos: es decir, 1,4.

Esta regla se aplica también a los decimales periódicos. Visto que es posible
redondear un decimal periódico a cualquier punto deseado, el grado de precisión
deberá estar determinado y todos los decimales periódicos serán redondeados a
ese nivel. Entonces, para sumar los decimales originados por 1/3, 2/3 y 5/12,
corregidos a la milésima, primero se redondea cada decimal a la milésima y luego
se suma en la siguiente forma:

0,333

0,667

0,417

-------
1,417

Cuando se emplea una fracción común para registrar el resultado de una medición,
el denominador de la fracción indica el grado de precisión. Por ejemplo, una regla
marcada en setenta y cuatro avos de pulgada tiene divisiones mucho más pequeñas
que otra marcada en cuartos de pulgadas. Por tanto, una medida de 3 4/64
pulgadas es de mayor precisión que una medida de 3 1 /4 pulgadas, aun cuando las
dos fracciones fueran numéricamente iguales. Recuerde que una medida de 3 4/64
pulgadas contiene un error probable de un medio de un sesenta y cuatro avo de
pulgada solamente. Por otro lado, si la división más pequeña de la regla es un
cuarto de pulgada, entonces una medición de 3 1/4 pulgadas contiene un error
probable de un octavo de pulgada.

Exactitud

Aun cuando un número pudiera ser muy preciso, lo que indica que se midió con un
instrumento que posee divisiones muy poco espaciadas, podría no ser muy exacto.
La exactitud de una medición depende del tamaño relativo del error probable
cuando se lo compara con la cantidad medida. Por ejemplo, pueden medirse los 50
metros de alcance de una pistola con cuidado suficiente para corregir al centímetro.
Dado que hay 5000 cm en 50 metros, esta medida está comprendida entre 4999,5
cm y 5000,5 cm. Cuando se lo compara con el total de 5000 cm, el error probable de
0,05 cm no es muy grande.

Por otro lado, puede medirse un trozo de caño con mayor precisión y determinar
que mide 3,2 metros de largo. El error probable aquí es 0,05 cm, y esta medida es
más precisa que el alcance de la pistola mencionada antes. Para comparar la
exactitud de las dos medidas, observamos que 0,05 cm de un total de 3,2 metros es
lo mismo que 0,5 cm de un total de 32 metros. Comparando esto con el número
obtenido en el otro ejemplo (0,5 cm de 5000) concluimos que la medición más
exacta es en realidad la menos precisa de las mediciones consideradas.

Es importante tener en cuenta que la localización de la coma decimal no concierne a

la exactitud del número. Por ejemplo, 1,25 pesos representa exactamente la misma
cantidad de dinero que 125 centavos. Estas son formas de igual modo precisas de
representar la misma cantidad, independientemente del hecho de que la coma
decimal esté colocada de otra manera.