Determinar el número apropiado de cifras significativas para informar en análisis de mínimos cuadrados

Tengo la tarea de ajustar un conjunto de datos a una línea usando Excel ESTIMACION.LINEAL Rutina de ajuste por mínimos cuadrados. los datos son yo y metro valores, que se supone que siguen la relación:

yo = yo 0 + gramo k metro

...dónde gramo , k , y yo 0 son algunas constantes

Usando ESTIMACION.LINEAL , obtengo valores estimados para gramo / k (la pendiente) y yo 0 (el y -intersección), reportada a un número absurdo de cifras significativas, además de incertidumbres tanto en esos valores como en el metro valores.

supongamos que yo 0 se encuentra que es 3.6857142... ± 0.222953... , gramo / k ser 0.00607143... ± 0.003742... , y la incertidumbre en el metro valores para ser ± 0.24250267... , donde el metro Los valores se informan a 1 cifra significativa (por ejemplo 500 ).

¿A cuántas cifras significativas redondeo cada uno de estos valores?


En los cursos de física de pregrado, me han dicho muchas cosas contradictorias sobre el redondeo y con cuántas cifras significativas se debe informar una medición.

Según tengo entendido, se redondearía la incertidumbre en yo 0 a una sola cifra significativa (es decir, a 0.2 ), luego redondear yo 0 al mismo lugar decimal que esta incertidumbre (es decir, a 3.7 ), y lo mismo para gramo / k . No estoy seguro de la incertidumbre en metro , sin embargo. ¿Debe redondearse también a una cifra significativa?

Sin embargo, también me han dicho que lo contrario es cierto (es decir, que primero se debe redondear la medición/valor estimado a una sola cifra significativa y luego redondear la incertidumbre en consecuencia).

¿Cuál, si alguno, es el más apropiado? Además, ¿por qué?

¿Qué significa la incertidumbre en los valores m informados en la salida? Pensé que m es la variable independiente.
Ejemplo para yo 0 ,- redondear a un primer dígito decimal incierto, es decir, dígito para el cual existe un dígito de error mayor que cero. Entonces yo 0 = 3.7 ± 0.2

Respuestas (2)

La fuente más autorizada sobre cómo estimar e informar la incertidumbre de la medición es la publicación del BIPM: Evaluación de los datos de medición: guía para la expresión de la incertidumbre en la medición . En la sección 7.2.6 dice

Los valores numéricos de la estimación y y su incertidumbre estándar uc(y) o incertidumbre expandida U no deben darse con un número excesivo de dígitos. Por lo general, es suficiente citar uc(y) y U [así como las incertidumbres estándar u(xi) de las estimaciones de entrada xi] hasta dos dígitos significativos como máximo , aunque en algunos casos puede ser necesario retener dígitos adicionales para evitar redondear -apagado de errores en cálculos posteriores.

(énfasis añadido)

Entonces, la recomendación es usar típicamente dos dígitos para informar su incertidumbre. Entonces, no tiene ningún sentido informar su medición con mayor precisión. Así tu yo 0 se reportaría como 3.69(22)

Un solo dígito para la incertidumbre sería demasiado impreciso. Si lo reportó como 3.7(2), entonces tendría que cambiar su precisión en un 50% para que cambie su reporte. Eso es demasiado grueso.

De todos modos, definitivamente decide primero la cantidad de dígitos para informar de su error, luego eso determina cuántos dígitos conservar para la medición.

Si realmente quisiera ser riguroso, podría tomar el original ( X , y ) variables (que representan sus puntos de datos), y usando las fórmulas de regresión para α y β aquí https://en.m.wikipedia.org/wiki/Ordinary_least_squares#Simple_linear_regression_model

calcule las incertidumbres a través de las fórmulas aquí https://en.m.wikipedia.org/wiki/Propagation_of_uncertainty#Example_formulae

Luego puede usar las incertidumbres de los puntos de datos originales para encontrar las incertidumbres en su pendiente e intersección.

El álgebra y el cálculo son un poco tediosos, pero eso te dará la respuesta más verdadera. Y será útil comparar esa respuesta con la práctica recomendada de 2 sig figs citada en la otra respuesta.