Coeficientes de calibración ADC y front-end de la resistencia de escala del voltímetro

Esta es una respuesta tardía, pero aquí hay algo que puede usar para determinar sus coeficientes de calibración. Como @NickJohnson ya ha escrito, se puede usar una función lineal para convertir los valores preparados por el ADC en valores "verdaderos". Por lo tanto, permítanme cambiar el nombre de los parámetros:

$$V_\text{true}=C_\text{gain}\cdot V_\text{read}+C_\text{offset}$$

La forma más sencilla de calcular los coeficientes es realizar dos mediciones, una en el extremo inferior y la otra en el extremo superior del rango ADC. (Pero asegúrese de que no está midiendo en los límites, es decir, mida a 0,1 V y 4,9 V para un rango de 0-5 V). Los coeficientes son

$$C_\text{gain}=\frac{V_\text{true}^\text{high}-V_\text{true}^\text{low}}{V_\text{read}^\text{high}-V_\text{read}^\text{low}}$$

$$C_\text{offset}=V_\text{true}^\text{low}-C_\text{gain}\cdot V_\text{read}^\text{low}$$

Usando el primer y último conjunto de números de tu comentario, obtengo$C_\text{gain}=1.11303$y$C_\text{offset}=-0.469206$

Pero, ¿es esa la máxima precisión que puedes conseguir? Aquí hay una gráfica que muestra el residuo: la diferencia entre los valores calculados por la fórmula a partir de los valores leídos y los valores verdaderos. El primer y último valor tienen residuo cero, ya que se han utilizado para calcular los coeficientes. ¡Pero para los otros puntos, el valor calculado es hasta 16 mV (o 0,65 %) demasiado bajo!

---

Ahora, tomemos en cuenta todos sus valores medidos. mi resultado es$C_\text{gain}=1.11224$y$C_\text{offset}=-0.456815$, que difiere un poco de los valores anteriores.

Aquí está la trama de nuevo. El primer punto tiene un error de 12 mV o 1,2 %, pero los otros tienen un error de aproximadamente -5 mV... -8 mV o hasta un 0,2 %.

¿Cómo se hace? En Excel, simplemente puede dibujar sus valores como "gráfico xy". Asegúrese de que los valores leídos estén en el eje x y los valores verdaderos en el eje y. haciendo clic derecho en el diagrama, puede dibujar una "línea de mejor ajuste" o similar (no sé el término en inglés) y mostrar los parámetros.

Yo mismo amo gnuplot para tales tareas. Para usarlo, cree un archivo de texto simple con sus datos:

1 1.320
2 2.207
3 3.105
4 4.000
5 4.902
6 5.805
7 6.707
8 7.605
9 8.500
10 9.406

en gnuplot, hacer

    # Solo cosméticos
    tecla no configurada
    establecer ytics sin espejo
    establecer y2tics

    establecer xlabel "V_{leer}"
    establecer ylabel "Residuo V_{verdadero} - f(V_{leer}) [V]" tc rgb "rojo"
    establecer y2label "Residuo (V_{verdadero}-f(V_{leer})) / V_{leer} [%]" tc rgb "azul"



    # Ahora, defina la función, ajústela a los datos y grafique todo

    f(x)=m*x+b

    ajustar f(x) "adc.csv" a través de m, b

    plot "adc.csv" u 1:($2-f($1)) w lp pt 7, "adc.csv" u 1:(($2-f($1))/$2*100) ejes x1y2 w lp pt 7 lt 3

Al ejecutar el fitcomando, obtiene muchos resultados, lo que resulta en

Conjunto final de parámetros Error estándar asintótico
======================= ==========================

m = 1.11224 +/- 0.0007126 (0.06407%)
b = -0.456815 +/- 0.004237 (0.9275%)

cual es el resultado

Además:

• medir tantos puntos como sea posible
• medir cada punto varias veces
• si una función lineal no coincide bien con sus datos, considere usar una función no lineal.

18k/2k le dará exactamente el 10%, que es lo que dice que necesita, aunque la resistencia total a tierra de 20k es un poco baja, dependiendo de su ADC y si está usando o no un amplificador de búfer. Dices que tus intentos "están fallando", pero no qué problemas estás teniendo, por lo que es difícil ofrecer más consejos que eso.

Los errores de ADC generalmente se modelan como error de compensación y error de ganancia. Su divisor de resistencia no creará ningún error de compensación, pero creará un error de ganancia, según la precisión de las resistencias.

La forma estándar de lidiar con esto es almacenar un coeficiente de calibración para compensación y uno para ganancia, y aplicarlos así:

Vout = Vin * Cgain + Coffset

Esto se aplica a todas las medidas, no solo a las pequeñas. Puede establecer la escala permitida de estas compensaciones en cualquier cosa que parezca razonable dados los errores que es probable que vea en su diseño.