Mínimos cuadrados

Los mínimos cuadrados se presentan como una aplicación de las matrices, donde a través de
operaciones básicas se obtiene el ajuste de datos a una recta o a un polinomio de grado n.

El propósito de los mínimos cuadrados es lograr que la distancia de los puntos a una recta sea la
mínima posible, en este caso, crear un vector que ajuste la mínima distancia entre los datos reales de b
y y.

En este caso, la línea gris es el conjunto de puntos que forman una recta cuya distancia a todos los
puntos marcados es la mínima posible.

Podemos ver que el vector b está proyectado en la matriz A. y-b forma un ángulo de 90º con el vector y.

Tenemos las siguientes fórmulas para calcular el vector b:

 b = (ATA)-1 AT y

y = a1x + a 0 para un ajuste de primer orden (línea recta)

y = a2x2 + a1x + a 0 para un ajuste de segundo orden

Entonces, las matrices de b para ambos casos serían, respectivamente:

b=

a0
a1
Primer orden


a0
b= a1 Segundo orden
a2

Ejemplos

El ejemplo de la clase fue el siguiente:

I.
En un experimento de laboratorio se midió el porcentaje de concentración de sal contra la densidad de
la solución y se obtuvieron los siguientes datos:

% 0 1 3 5 7
ρ 0.99 1 1.01 1.0 18 1.0 26

Donde la fila de valores de densidad (ρ) será nuestra matriz y


0.99
1
y= 1.01
1.018
1.026

Hay que obtener el ajuste lineal y el ajuste cuadrático. Usaremos la fórmula b = (ATA)-1 AT y .

1. Comenzamos por crear la matriz A para el ajuste lineal o de primer orden. En la primer columna
se colocan únicamente números 1, correspondientes al número de valores en y que se tengan.
En la segunda columna se escriben los valores de x.


A= 1 0
1 1
1 3
1 5
1 7
 2. Luego obtenemos la matriz transpuesta de A, o sea AT

AT =  1 1 1 1 1
0 1 3 5 7 
3. Después se hace la multiplicación de ATA


1 0
1 1
ATA =  1 1 1 1 1
0 1 3 5 7  1
1
3
5
=
 5 16
16 84 
1 7

4. Ahora obtenemos la inversa de la matriz del paso 3

(ATA)-1 =
−16 
84 −16
5  det = 164 ,

entonces (ATA)-1 =
1
164  84 −16
−16 5 
5. Procedemos entonces a multiplicar esta inversa por la transpuesta que se obtuvo en el paso 2, o
sea (ATA)-1 AT

(ATA)-1 AT =  84 −16
−16 5   1 1 1 1 1
0 1 3 5 7   =
84 68 36 4 −28
−16 −11 −1 9 19  1
164

6. Sólo falta obtener el producto de esta última matriz por la matriz y


0.99
1
(ATA)-1 AT y =  84 68 36 4 −28
−16 −11 −1 9 19  1.01
1.018
= 162.8640
0.8060 
1
164
1.026

Ya que calculamos b, podemos predecir valores para ρ de la siguiente manera:

0.8060 162.8640
ρ= 164 % + 164

donde el % es el porcentaje de concentración de sal para el cual queremos conocer la densidad, por
ejemplo, para 4:

0.8060 162.8640
ρ= 164 (4) + = 1.0127
164
Ahora se hará el ajuste cuadrático, comenzando con la creación de la matriz A. Del mismo modo que
en el procedimiento anterior, la primer columna está constituida únicamente con números 1; la cantidad
de unos corresponde a la cantidad de valores que tengamos en y. En la segunda columna se escriben los
valores de x, y en la tercera columna se escriben esos mismo valores al cuadrado, o sea:

 
1 0 0
1 1 1
A= 1 3 9
1 5 25
1 7 49

Después obtenemos la transpuesta de la matriz A:

T
A =
 1 1 1 1 1
0 1 3 5 7
0 1 9 25 49 
Multiplicamos la matriz A por su transpuesta:

 
5 16 84
ATA = 16 84 496
84 496 3108

Después calculamos la inversa de la matriz del paso anterior, y luego multiplicamos esa inversa por la
transpuesta de la matriz A:

  
0.7462 −0.3997 0.0436 1 1 1 1 1
T -1
(A A) A = T
−0.3997 0.4205 −0.0563 0 1 3 5 7
0.0436 −0.0563 0.0081 0 1 9 25 49

 
0.7462 0.3901 −0.0605 −0.1623 0.0847
= −0.3997 −0.0355 0.3551 0.2953 −0.2149
0.0436 −0.0046 −0.0524 −0.0354 0.0464

Por último hay que hacer el producto de la matriz pasada por la matriz y:


0.99

 
0.7462 0.3901 −0.0605 −0.1623 0.0847 1
(ATA)-1 AT y = −0.3997 −0.0355 0.3551 0.2953 −0.2149 1.01
0.0436 −0.0046 −0.0524 −0.0354 0.0464 1.018
1.026

 
0.9894
= 0.0076
−0.0028
Con esta matriz ahora podemos calcular el valor de densidad que deseemos de la siguiente manera:

ρ = -0.0028 % + 0.0076 + 0.9894

donde sustituiremos el valor del porcentaje para el cual queremos obtener la densidad, por el símbolo
de %. Por ejemplo, para 1:

ρ = -0.0028(1) + 0.0076 + 0.9894 = 0.9942

Las ecuaciones que calculamos para b, son las que corresponden a los puntos que formarían la recta
mencionada al principio de la clase.
Cuando sacamos valores de densidad con números que están entre el rango de valores que tenemos
originalmente (o sea, entre 0 y 7 en este caso), se llama interpolar. Si empleamos valores fuera de este
rango, estaremos extrapolando.

Ahora resolveré la tarea, que es un problema como el pasado pero con los datos que siguen:

II.

% 10 15 20 25 30
ρ 1.0 38 1.06 1.08 1.12 1.28

Recordemos que la fila de valores de ρ será nuestra matriz y.


1.038
1.06
y= 1.08
1.12
1.28

Comencemos con el ajuste lineal creando la matriz A:


1 10
1 15
A= 1
1
20
25
AT =  1 1 1 1 1
10 15 20 25 30 
1 30


1 10
1 15
ATA =  1 1 1 1 1
10 15 20 25 30  1
1
20
25
=  5 100
100 2250 
1 30
 (ATA)-1 =
1
1250 
2250 −100
−100 5  
=
1.8 −0.08
−0.08 0.0040 
(ATA)-1 AT =  1.8 −0.08
−0.08 0.0040   1 1 1 1 1
10 15 20 25 30   =
1 0.6 0.2 −0.2 −0.6
−0.04 −0.02 0 0.02 0.04 


1.038
1.06
b = (ATA)-1 AT y =  1 0.6 0.2 −0.2 −0.6
−0.04 −0.02 0 0.02 0.04  1.08
1.12
= 0.8980
0.0109 
1.28

Entonces, ρ = 0.0109 % + 0.8980 para el ajuste lineal.

Por otro lado, para el ajuste cuadrático:

 
1 10 100

 
1 15 225 1 1 1 1 1
A= 1 20 400 AT = 10 15 20 25 30
1 25 625 100 225 400 625 900
1 30 900

 
1 10 100

   
1 1 1 1 1 1 15 225 5 100 2 250
T
A A= 10 15 20 25 30 1 20 400 = 100 2 250 55 000
100 225 400 625 900 1 25 625 2 250 55000 1421 250
1 30 900

 
15.8 −1.68 0.04
(ATA)-1 = −1.68 0.1869 −0.0046
0.04 −0.0046 0.0001

  
15.8 −1.68 0.04 1 1 1 1 1
(ATA)-1 AT = −1.68 0.1869 −0.0046 10 15 20 25 30
0.04 −0.0046 0.0001 100 225 400 625 900

 
3 −0.4 −1.8 −1.2 1.4
= −0.2760 0.0885 0.2180 0.1175 −0.2130
0.004 −0.065 −0.0120 −0.0125 −0.0080


1.038

 
3 −0.4 −1.8 −1.2 1.4 1.06
b = (ATA)-1 AT y = −0.2760 0.0885 0.2180 0.1175 −0.2130 1.08
0.004 −0.065 −0.0120 −0.0125 −0.0080 1.12
1.28
  
1.1940
= −0.0983
−0.1019

Así, ρ = -0.1019 % -0.0983 + 1.1940

III.

Realizar el ajuste cuadrático y lineal de los siguientes valores:

X Y
0 0.5
1 0.2
2 2.5
3 2
4 4
5 3.5

Tenemos que encontrar las ecuaciones que nos permitan trazar la línea negra que se ve en el dibujo.

Lineal

 
0.5 1 0
0.2 1 1
y=
2.5
2
, A=
1
1
2
3
, AT =  1 1 1 1 1 1
0 1 2 3 4 5  , ATA =  6 15
15 55 
4 1 4
3,5 1 5
 (ATA)-1 =
1
105  55 −15
−15 6  =
0.5238 −0.1429
−0.1429 0.0571 
(ATA)-1 AT = 0.5238 −0.1429
−0.1429 0.0571   1 1 1 1 1 1
0 1 2 3 4 5  =

 0.5238 0.3809 0.2380 0.0951 −0.0478 −0.1907

−0.1429 −0.0858 −0.0287 0.0284 0.0855 0.1426 


0.5
0.2
b = (ATA)-1 AT y = 0.5238 0.3809 0.2380 0.0951 −0.0478 −0.1907
−0.1429 −0.0858 −0.0287 0.0284 0.0855 0.1426  2.5
2
4
3,5

= 0.2646
0.7375 

entonces, y = 0.7375 x + 0.2646

Cuadrática

 
1 0 0
1 1 1

   
1 1 1 1 1 1 6 15 55
1 2 4
A= , AT = 0 1 2 3 4 5 , ATA = 15 55 225
1 3 9
0 1 4 9 16 25 55 225 979
1 4 16
1 5 25

 
0.8214 −0.5893 0.0893
T
(A A) = -1
−0.5893 0.7268 −0.1339
0.0893 −0.1339 0.0268

  
0.8214 −0.5893 0.0893 1 1 1 1 1 1
T
(A A) A = -1 T
−0.5893 0.7268 −0.1339 0 1 2 3 4 5
0.0893 −0.1339 0.0268 0 1 4 9 16 25

 
0.8214 0.3214 0 −0.1428 −0.1070 0.1074
= −0.5893 0.0036 0.3287 0.3860 0.1755 −0.3028
0.0893 −0.0178 −0.0713 −0.0712 −0.0175 0.0898
 
0.5
0.2

 
0.8214 0.3214 0 −0.1428 −0.1070 0.1074
2.5
b = (ATA)-1 AT y = −0.5893 0.0036 0.3287 0.3860 0.1755 −0.3028
2
0.0893 −0.0178 −0.0713 −0.0712 −0.0175 0.0898
4
3,5

 
0.1373
= 0.9420
−0.0353

entonces, y = -0.0353 x2 +0.9420 x1 +0.1373

IV.

En un experimento de solubilidad vs temperatura se registraron los siguientes datos:

T (ºC) 4.33 9.33 30.33 38.66 42 65.5

Gramos de 21.2 31.6 45.6 61.3 106 136.5
KNO3 / 100
mL de agua

Determinar el ajuste lineal y cuadrático.

Ajuste lineal:

  
21.2 1 4.33
31.6 1 9.33
y=
45.6
61.3
, A=
1
1
30.33
38.66
, AT =  1 1 1 1 1 1
4.33 9.33 30.33 38.66 42 65.5 
106 1 42
136.5 1 65.5

ATA =  6 190.15
190.15 8574.55 
(ATA)-1 =
1
15157.05  6 190.15
190.15 8574.55  
=
0.5657 −0.0125
−0.0125 0.0004 
(ATA)-1 AT = 0.5657 −0.0125
−0.0125 0.0004   1 1 1 1 1 1
4.33 9.33 30.33 38.66 42 65.5 
=  0.5116 0.4491 0.1866 0.0825 0.0407 −0.2531
−0.0108 0.0088 −0.0004 0.0030 0.0043 0.0137 
 
21.2
31.6
b = (ATA)-1 AT y =  0.5116 0.4491 0.1866 0.0825 0.0407 −0.2531
−0.0108 0.0088 −0.0004 0.0030 0.0043 0.0137  45.6
61.3
106
136.5

= 8.3697
1.9845 

Entonces, solubilidad = 1.9845 (T) + 8.3697

Ahora tenemos que hacer el ajuste cuadrático.

 
1 4.33 18.7489
1 9.33 87.0489
1 30.33 919.9089
A= ,
1 38.66 1494.5956
1 42 1764
1 65.5 4290.25

AT =
 1
4.33
1
9.33
1
30.33
1
38.66
1
42
1
65.5
18.7489 87.0489 919.9089 1494.5956 1764 4290.25 
ATA =
 6
190.5
190.5 8574.5523
8574.5523 441674.6268
8574.5523 441674.6268 24605918.48 
T
(A A) = -1
 1.064593 −0.060246 0.000710
−0.060246 0.004959 −0. 000068
0.000710 −0.000068 0.000001 
T
(A A) A = -1 T
0.82 0.56 −0.11 −0.2 −0.21 0.16
−0.04 −0.02 0.03 0.03 0.03 −0.03
0 0 0 0 0 0 


21.2
31.6
(ATA)-1 AT y =
 0.82

0
0.56 −0.11 −0.2 −0.21 0.16
−0.04 −0.02 0.03 0.03 0.03 −0.03
0 0 0 0 0  45.6
61.3
106
136.5
  
17.55
= −12.83
0

Entonces, la solubilidad = 0 T2 -12.83 T1 +17.55

Espero que esta información les haya sido útil.

El tercer ejemplo fue de datos inventados. La información del cuarto ejemplo fue sacada de una
práctica de laboratorio.