MetAs

Apasionados por la Metrología Centro de Metrología

Metrólogos Asociados

A B C D E F G H I J K L M N O P Q
1 Linealidad
2
3 Observado experimental
{yi xi} 0.5
4

Variable dependiente y .
Respuesta y versus estímulo x (observado-experimental) LINEALIDAD
5 0.100 0.100 Independiente (mejor línea recta)
6 0.200 0.300
Mínimos cuadrados
7 0.200 0.600
0.4 Cruce por cero
8 0.400 0.900
9
Respuesta y versus estímulo x (0...100 % intervalo)
10 Puntos finales ("end-point") Extremos ('terminal')
11 {yi xi} Pendiente (modelo) teórica
0.3 Puntos finales ('end-point')
12 0.100 0.100
13 0.400 0.900
14
15 0…100% intervalo
0.2
16 {yi xi}
17 0.030 0.000
18 0.100 0.100
19 0.200 0.300
0.1
20 0.200 0.600
21 0.400 0.900
22 0.470 1.000
23
0.0
24 Extremos (límites, "terminal")
25 {yi xi}
26 0.030 0.000
27 0.470 1.000 -0.1
28 0% 100%
Variable independiente x
29 Pendiente (modelo) teórica
30 {yi xi}
31 0.000 0.000
32 0.000 1.000
33

458862331.xlsx Linealidades 1/22

MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

A B C D E F
1 Curva de ajuste (regresión lineal), método de mínimos cuadrados (con algebra matricial en Excel)
2
3 Resultados de la Calibración
4 Puntos Error E Indicación I
5 N {yi xi}
6 1 0.100 0.000
7 2 0.200 3.000
8 3 0.200 6.000
9 4 0.400 9.000
10 SUMA 0.900 18.000
11
12
13 Modelo: yi » p(xi) = a0 + a1·xi
14
15
Matriz de Variable Dependiente
16
(vector)
17 grado
{y}
18 m
19 0 Sy 0.900
20 1 Sy·x 5.400
21
22
Matriz de Variable Independiente
23
(cuadrada)
24 [X]
25 i-j 0 1
26 0 4.000 18.000
27 1 18.000 126.000
28
29
Matriz de Varianza-Covarianza
30
(cuadrada simétrica)
31 Inversa [C] = [C]T = [X]-1
32 i-j 0 1
33 0 0.700 -0.100
34 1 -0.100 0.022
35
36
Matriz de Coeficientes Incertidumbre Estándar
37
(vector) de los Coeficientes

458862331.xlsx Mínimos Cuadrados 2/22

MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

A B C D E F
38 {a} = {y} ·[C] = {y} ·[X]
T T -1 uai =
39 a0 0.090 ±0.049
40 a1 0.0300 ±0.0088
41
42
Incertidumbre Estándar de la Curva de Ajuste en
43
el Intervalo (xmin…xmax)
Desviación
44 Valor Estimado Error Residual
Estándar er
45 p(xi) er ser
46 0.090 -0.010 ±0.059
47 0.180 -0.020
48 0.270 0.070
49 0.360 -0.040
50
51

458862331.xlsx Mínimos Cuadrados 3/22

MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

A B C D E F
Valor Independiente Incertidumbre Estándar
52
(interpolar o extrapolar) Valor Estimado
53 xmin xmax xi up(xi) = ser · [{x}[C]{x}T]½
54 0 9 3.6 ±0.031
55
56
Matriz de Valor Independiente
57
(vector)
58 {x}T {{x}·[C]}T
59 1 1.000 Err:509
60 xi Err:509 Err:509
61
62
63 Cuadro de Intervalos de Confianza @ k = t95,5%(N-m-1) = tp(v)
Valor Incertidumbre Incertidumbre Límite Inferior de
64 Valor Estimado
Independiente Estándar Expandida Confianza
65 p(xi) » yixi u(xi) U(xi) p(xi) - U(xi)
66 -2 0.030 ±0.065 ±0.294 -0.264
67 0 0.090 ±0.049 ±0.222 -0.132
68 1 0.120 ±0.043 ±0.195 -0.075
69 3 0.180 ±0.032 ±0.145 0.035
70 6 0.270 ±0.032 ±0.145 0.125
71 9 0.360 ±0.049 ±0.222 0.138
72 20 0.690 ±0.140 ±0.634 0.056
73 Nota: los resultados se muestran con cifras significativas adicionales, para fines de validación de cálculo
Variable dependiente y .

74
75
76
77
78 Curva de Ajuste: Mínimos Cuadrados, Interpolación, Extrapolació
79 1.6
Respuesta y versus estímulo x
80 1.4 Linealidad en el Intervalo (estimación)
81 ±U (intervalo de confianza)
1.2
82 Uinferior
1.0
83
84 0.8
85 0.6 f(x) = 0.03x + 0.09
86 0.4
87
0.2
88
0.0
89
-0.2
-0.4
458862331.xlsx -2 0 2
Mínimos 4
Cuadrados 6 8 10 4/22 12
Variable independiente x
 0.6 f(x) = 0.03x + 0.09
0.4
MetAs 0.2 Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados
0.0
A B C D E F
90 -0.2
91 -0.4
-2 0 2 4 6 8 10 12
92
93 Variable independiente x
94

458862331.xlsx Mínimos Cuadrados 5/22

 MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

G H I J
nimos cuadrados (con algebra matricial
1 en Excel)
2
3
4
5
6
7
8
9
10
11
12
13
14
15

16

17
18
19
20
21
22

23

24
25
26
27
28
29

30

31
32
33
34
35
36
Incertidumbre Estándar
37
de los Coeficientes

458862331.xlsx Mínimos Cuadrados 6/22

MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

G H I J
38 ser · (Cii)½
±0.049
39
±0.0088
40
41
42

43

44

45
46
47
48
49
50
51

458862331.xlsx Mínimos Cuadrados 7/22

 MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

G H I J
Incertidumbre Estándar
52
Valor Estimado
up(xi) = s53
er
· [{x}[C]{x}T]½
±0.031
54 Err:508
55
56

57

58
59
60
61
62
63 4.53
Límite Superior de
64
Confianza Observaciones
65 p(xi) + U(xi)
66 0.324 extrapolado
67 0.312 estimación experimental
68 0.315 interpolado
69 0.325 estimación experimental
70 0.415 estimación experimental
71 0.582 estimación experimental
72 1.324 extrapolado
ativas adicionales, para fines de validación
73 de cálculos
74
75
76
77
78
: Mínimos Cuadrados, Interpolación, Extrapolación
79
ulo x
80
o (estimación)
za) 81
82
83
84
85
86
87
88
89

6 8
458862331.xlsx 10 12 14 Mínimos Cuadrados
16 18 20 8/22
Variable independiente x
 MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

G H I J
90
91
6 8 10 12 14 16 18 20
92
Variable independiente x93
94

458862331.xlsx Mínimos Cuadrados 9/22

MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

A B C D E F G H I J K L M N O P
1
2
Incertidumbr
3 Puntos N Error E Lectura L Polinomio
eU {Y}
4 6 y x Uy m
5 1 0.30 4/22/2005 0.30 0 S(y) 1.19126
6 2 0.40 5/25/2004 0.30 1 S(y·x) 45117.19773
7 3 0.20 5/31/2003 0.30 2 S(y·x²) 1709140796
8 4 0.08 6/26/2002 0.30 3 S(y·x³) 6.47608E+13
9 5 0.09 5/5/2001 0.02 4 S(y·x^4) 2.45439E+18
10 6 0.12 5/15/2000 0.15 5 S(y·x^5) 9.30403E+22
11 7 6 S(y·x^6) 3.52771E+27
12 8 7 S(y·x^7) 1.33785E+32
13 9 8 S(y·x^8) 5.07472E+36
14 10 9 S(y·x^9) 1.92534E+41
15 SUMA 1.19126 225478 m 1
16
17 Matriz {X} Matriz
18 m 0 1 2 3 4 5 6 7 8 9 m
19 0 6 225478 8475695370 3.18687131E+14 1.19859228E+19 4.50916247E+23 1.6968264E+28 6.38698185E+32 2.40475188E+37 9.056507E+41 0
20 1 225478 8475695370 3.18687131E+14 1.19859228E+19 4.50916247E+23 1.6968264E+28 6.38698185E+32 2.40475188E+37 9.056507E+41 3.41166636E+46 1
21 2 8475695370 3.18687131E+14 1.19859228E+19 4.50916247E+23 1.6968264E+28 6.38698185E+32 2.40475188E+37 9.056507E+41 3.41166636E+46 1.28554481E+51 2
22 3 3.18687131E+14 1.19859228E+19 4.50916247E+23 1.6968264E+28 6.38698185E+32 2.40475188E+37 9.056507E+41 3.41166636E+46 1.28554481E+51 4.8453166E+55 3
23 4 1.19859228E+19 4.50916247E+23 1.6968264E+28 6.38698185E+32 2.40475188E+37 9.056507E+41 3.41166636E+46 1.28554481E+51 4.8453166E+55 1.82671491E+60 4
24 5 4.50916247E+23 1.6968264E+28 6.38698185E+32 2.40475188E+37 9.056507E+41 3.41166636E+46 1.28554481E+51 4.8453166E+55 1.82671491E+60 6.88862317E+64 5
25 6 1.6968264E+28 6.38698185E+32 2.40475188E+37 9.056507E+41 3.41166636E+46 1.28554481E+51 4.8453166E+55 1.82671491E+60 6.88862317E+64 2.59840267E+69 6
26 7 6.38698185E+32 2.40475188E+37 9.056507E+41 3.41166636E+46 1.28554481E+51 4.8453166E+55 1.82671491E+60 6.88862317E+64 2.59840267E+69 9.80374826E+73 7
27 8 2.40475188E+37 9.056507E+41 3.41166636E+46 1.28554481E+51 4.8453166E+55 1.82671491E+60 6.88862317E+64 2.59840267E+69 9.80374826E+73 3.69988982E+78 8
28 9 9.056507E+41 3.41166636E+46 1.28554481E+51 4.8453166E+55 1.82671491E+60 6.88862317E+64 2.59840267E+69 9.80374826E+73 3.69988982E+78 1.39667582E+83 9
29 Inversa {C} = {X}-¹ Inversa
30 i-j 1 2 3 4 5 6 7 8 9 10 j-i
31 1 612.2404652905 -0.0162873664 1
32 2 -0.0162873664 4.334090162E-07 2
33 3 3
34 4 4
35 5 5
36 6 6
37 7 7
38 8 8
39 9 9
40 10 10
41
42 Error x? (min) 36,661
Desv Est. Er
P(x) residual
43 Ser x? (max) 38,464
Er
44 0.332707518 0.032707518 ±0.086 x? 4/22/2005 x? ux? Ux?
45 0.282339057 -0.117660943 ux? ±0.061 1/1/2011 0.172 0.344 0.648 0.304 0.992
46 0.227722653 0.027722653 1/1/2009 0.131 0.262 0.538 0.276 0.800
47 0.176292206 0.098982206 1/1/2007 0.092 0.184 0.427 0.243 0.611
48 0.113028205 0.019418205 4/22/2005 0.061 0.122 0.333 0.211 0.455
49 0.059170362 -0.061169638 5/25/2004 0.047 0.094 0.282 0.188 0.376
50 5/31/2003 0.037 0.074 0.228 0.154 0.302
51 6/26/2002 0.036 0.072 0.176 0.104 0.248
52 5/5/2001 0.047 0.094 0.113 0.019 0.207
53 5/15/2000 0.063 0.126 0.059 -0.067 0.185
54
55 {a} =
Coeficientes {Y}·{C} = ua {x?}T {{x?}·{C}}T {x?}T
56 {Y}·{X}-¹
57 a0 -5.5 ±2.1 1 Err:509 1 y = 1,517E-04x - 5,503E+00
58 a1 1.52E-04 5.7E-05 x? Err:509 Err:509
59 a2 0 ±0.000 x?² Err:509 Err:509
60 a3 0 ±0.000 x?³ Err:509 Err:509
61 a4 0 ±0.000 x?^4 Err:509 Err:509
62 a5 0 ±0.000 x?^5 Err:509 Err:509
63 a6 0 ±0.000 x?^6 Err:509 Err:509
64 a7 0 ±0.000 x?^7 Err:509 Err:509
65 a8 0 ±0.000 x?^8 Err:509 Err:509
66 a9 0 ±0.000 x?^9 Err:509 Err:509
67
Error de ajuste en g

68
69
70 Carta de control: Masa M1 de 20 kg, EMP = ±1,0 g
71
72 1.2
73 Error de Ajuste ± Incertidumbre
74 Instrumental
1.0
75 Regresión lineal (predicción)
76 ±U Estabilidad (predicción)
77 0.8
78
79
80 0.6
81
82
0.4
83
84
85 0.2
86
87
88 0.0
89
90 Fecha (aaaa-mm) 1/1/2000 36526
-0.2
91 1/1/2011 40544
2000/01 2001/01 2002/01 2003/01 2004/01 2005/01 2006/01 2007/01 2008/01 2009/01 2010/01 2011/01
92
93 30.5000
94
95

458862331.xlsx Análisis_Intervalo 10/22

 Número de lectura Lectura del termómetro Temperatura de referencia Corrección observada Corrección predicha
k tk t0 (t - t0) bk = tr,k - tk b(tk)
# ºC ºC (t-to)/ºC bk / ºC b(tk) / ºC
1 21.521 20.000 1.521 -0.171 -0.1679
2 22.012 2.012 -0.169 -0.1668
3 22.512 2.512 -0.166 -0.1657
4 23.003 3.003 -0.159 -0.1646
5 23.507 3.507 -0.164 -0.1635
6 23.999 3.999 -0.165 -0.1625
7 24.513 4.513 -0.156 -0.1614
8 25.002 5.002 -0.157 -0.1603
9 25.503 5.503 -0.159 -0.1592
10 26.010 6.010 -0.161 -0.1581
11 26.511 6.511 -0.160 -0.1570
r(y1, y2)

-0.145-0.930

-0.15

Intersección eje -0.1712

-0.155
Pendiente 0.00218 Column F
f(x) = 0.0021826977x - 0.1712037901
Linear (Column F)
Error típico XY 0.0035 -0.16

-0.165

-0.17

-0.16788 -0.175
1 2 3 4 5
Resumen

Estadísticas de la regresión
Coeficiente de correlación múltiple 0.7366479116
Coeficiente de determinación R^2 0.5426501457
R^2 ajustado 0.4918334952
Error típico 0.0035
Observaciones 11

ANÁLISIS DE VARIANZA
Grados de libertad Suma de cuadrados Promedio de los cuadrados F Valor crítico de F
Regresión 1 0.0001306307 0.0001306307 10.6785894109 0.0097166488
Residuos 9 0.0001100966 0.000012233
Total 10 0.0002407273

Coeficientes Error típico Estadístico t Probabilidad Inferior 95%

Intercepción -0.1712 0.0029 -59.5 5.395226487454E-13 -0.1777
(t-to)/ºC 0.00218 0.00067 3.3 0.0097166488 0.00067

Correlación 0.7366479116

(t-to)/ºC bk / ºC
(t-to)/ºC 1
bk / ºC 0.7366479116 1

0.7366479116
 Diferencia entre
corrección
observada y
predicha
bk - b(tk)
bk-b(tk) / ºC
-0.0031
-0.0022
-0.0003
0.0056
-0.0005
-0.0025
0.0054
0.0033
0.0002
-0.0029
-0.0030

5 6 7
Superior 95% Inferior 95,45% Superior 95,45%
-0.1647 -0.1779 -0.1645
0.00369 0.00063 0.00373
MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

A B C D E
2 Curva de ajuste (regresión lineal), método de mínimos cuadrados (con algebra matr
3

4 Resultados de la Calibración
5 Puntos Corrección bk Indicación I
6 N {yi xi}
7 1 -0.171 -2.488
8 2 -0.169 -1.997
9 3 -0.166 -1.497
10 4 -0.159 -1.006
11 5 -0.164 -0.502
12 6 -0.165 -0.010
13 7 -0.156 0.505
14 8 -0.157 0.993
15 9 -0.159 1.495
16 10 -0.161 2.002
17 11 -0.160 2.503
18 SUMA -1.787 -0.001
19
20
21 Modelo: yi » p(xi) = a0 + a1·xi
22
23
Matriz de Variable Dependiente
24
(vector)
25 grado
{y}
26 m
27 0 Sy -1.787
28 1 Sy·x 0.060
29
30
Matriz de Variable Independiente
31
(cuadrada)
32 [X]
33 i-j 0 1
34 0 11.000 -0.001
35 1 -0.001 27.419
36
37
Matriz de Varianza-Covarianza
38
(cuadrada simétrica)

458862331.xlsx Mínimos Cuadrados GUM H.3 17/22

MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

A B C D E
39 Inversa [C] = [C] = [X]
T -1

40 i-j 0 1
41 0 0.091 0.000
42 1 0.000 0.036
43
44
Matriz de Coeficientes
45
(vector)
46 {a} = {y}T·[C] = {y}T·[X]-1
47 a0 -0.1625
48 a1 0.00218
49
50
Incertidumbre Estándar de la Curva de Ajuste en
51
el Intervalo (xmin…xmax)
Desviación
52 Valor Estimado Error Residual
Estándar er
53 p(xi) er ser
54 -0.1679 0.0031 ±0.0035
55 -0.1668 0.0022
56 -0.1657 0.0003
57 -0.1646 -0.0056
58 -0.1635 0.0005
59 -0.1625 0.0025
60 -0.1614 -0.0054
61 -0.1603 -0.0033
62 -0.1592 -0.0002
63 -0.1581 0.0029
64 -0.1570 0.0030
65
66
Valor Independiente
67
(interpolar o extrapolar)
68 xmin xmax xi, (tk - to)
69 -2.488 2.503 5.992
70
71
Matriz de Valor Independiente
72
(vector)
73 {x}T {{x}·[C]}T
74 1 1.000 Err:509

458862331.xlsx Mínimos Cuadrados GUM H.3 18/22

MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

A B C D E
75 xi Err:509 Err:509
76
77
78 Cuadro de Intervalos de Confianza @ k = t95,5%(N-m-1) = tp(v)
Valor Incertidumbre Incertidumbre
79 Valor Estimado
Independiente Estándar Expandida
80 tk p(xi) » yi
xi u(xi) U(xi)
81 15 -9.009 -0.1821 ±0.0061 ±0.0142
82 21.521 -2.488 -0.1679 ±0.0020 ±0.0046
83 24.0085 0.0000 -0.1625 ±0.0011 ±0.0026
84 25.002 0.993 -0.1603 ±0.0012 ±0.0028
85 26.511 2.503 -0.1570 ±0.0020 ±0.0046
86 30 5.992 -0.1494 ±0.0041 ±0.0095
87 Nota: los resultados se muestran con cifras significativas adicionales, para fines de valid
Variable dependiente y .

88
89
90
91
92 Curva de Ajuste: Mínimos Cuadrados, Interpolación
93 -0.14
94
95 -0.15
f(x) = 0.0021826977x - 0.1624544462
96
97 -0.16
98
99 -0.17
100
101 -0.18
102
103 -0.19
104
105 -0.2
-10 -8 -6 -4 -2 0
106
107 Variable independiente x
108

458862331.xlsx Mínimos Cuadrados GUM H.3 19/22

 MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

F G H I
odo de mínimos cuadrados2 (con algebra matricial en Excel)
3

4 Lectura del Temperatura de

termómetro referencia
5 tk t0
6 ºC ºC
7 21.521 24.0085
8 22.012
9 22.512
10 23.003
11 23.507
12 23.999
13 24.513
14 25.002
15 25.503
16 26.010
17 26.511
18
19
20
21
22
23

24

25
26
27
28
29
30

31

32
33
34
35
36
37

38

458862331.xlsx Mínimos Cuadrados GUM H.3 20/22

MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

F G H I
39
40
41
42
43
44
Incertidumbre Estándar
45
de los Coeficientes
46 uai = ser · (Cii)½
47 ±0.0011
48 ±0.00067
49
50

51

52

53
54
55
56
57
58
59
60
61
62
63
64
65
66
Incertidumbre Estándar
67
Valor Estimado
68 up(xi) = ser · [{x}[C]{x}T]½
69 ±0.0041
70
71

72

73
74

458862331.xlsx Mínimos Cuadrados GUM H.3 21/22

 MetAs
Apasionados por la Metrología Centro de Metrología
Metrólogos Asociados

F G H I
75
76
77
onfianza @ k = t95,5%(N-m-1)
78 = tp(v) 2.32
Límite Inferior de Límite Superior de
79
Confianza Confianza Observaciones
80 p(xi) - U(xi) p(xi) + U(xi)
81 -0.1963 -0.1680 extrapolado
82 -0.1725 -0.1632 estimación experimental
83 -0.1650 -0.1599 interpolado
84 -0.1631 -0.1575 estimación experimental
85 -0.1616 -0.1524 estimación experimental
86 -0.1589 -0.1399 extrapolado
ras significativas adicionales,
87 para fines de validación de cálculos
88
89
90
91
92
de Ajuste: Mínimos Cuadrados, Interpolación, Extrapolación
93
94
95
7x - 0.1624544462
96
97
98
99
100
101
102 Respuesta y versus estímulo x
Linealidad en el Intervalo (estimación)
103 ±U (intervalo de confianza)
104 Uinferior
105
6 -4 -2 0 2 4 6 8
106
Variable
107independiente x
108

458862331.xlsx Mínimos Cuadrados GUM H.3 22/22