Mtodo de Mnimos Cuadrados:

es una tcnica de anlisis numrico encuadrada dentro de la optimizacin matemtica, en la que,

dados un conjunto de pares ordenados: (variable independiente, variable dependiente) y una
familia de funciones, se intenta encontrar la funcin, dentro de dicha familia, que mejor se aproxime
a los datos (un "mejor ajuste"), de acuerdo con el criterio de mnimo error cuadrtico.
En su forma ms simple, intenta minimizar la suma de cuadrados de las diferencias ordenadas
(llamadas residuos) entre los puntos generados por la funcin y los correspondientes en los datos.
Especficamente, se llama mnimos cuadrados promedio (LMS) cuando el nmero de datos
medidos es 1 y se usa el mtodo de descenso por gradiente para minimizar el residuo cuadrado.
Se puede demostrar que LMS minimiza el residuo cuadrado esperado, con el mnimo de
operaciones (por iteracin), pero requiere un gran nmero de iteraciones para converger.
El mtodo de mnimos cuadrados tambin es un mtodo de extrapolacin para encontrar la curva
que mejor se ajuste a una coleccin de puntos. Se le conoce tambin bajo el nombre de Regresin.
Con el tiempo se le han dado otros nombres como Lineal o Cuadrtica dependiendo de la curva
que se desea aproximar. Para este caso en particular, se comenzara con la regresin lineal. Luego
se generalizara para cualquier curva que se desee.
Caso de una recta:
Se comenzara asumiendo que se tiene una cantidad n de puntos en el plano. Cada punto tendr
una coordenada xi y una coordenada yi. Se quiere aproximar la tendencia de estos mediante una
recta de la forma:

Se intentara hacer que todos los puntos pasen por la recta, por lo que se tendr n ecuaciones de
una recta expresadas de la siguiente forma:

Donde yi es una aproximacin de la coordenada en y de cada punto. Esto se puede reescribir de

forma matricial de la siguiente manera:

Que, reescribindolo, es lo mismo que:

La matriz que contiene a los xi se la ha identificado como A, al vector de incgnitas (a y b) como x y

al vector que contiene a las yi como v. Pero para todo xi habr un yi diferente de yi ya que la recta
no pasara realmente por todos los puntos. Entonces se cuenta con cierto error para cada punto:

El error se medir en forma de distancias entre yi y yi. Ntese que en este caso se utilizara la
forma vista con anterioridad. El error para cada xi estar dado por:

Y entonces, el error total en todo el mtodo se puede expresar de la siguiente forma:

La razn por la cual el error total " y el error ei se escriben elevados al cuadrado se vera a
continuacin. Ahora, si se reescribe el error de forma vectorial, se obtiene un vector e de la forma
siguiente:

Si se calcula la norma del vector de error en la ecuacin anterior, se obtiene lo siguiente:

Generalizacin:
En esta seccin se intentara generalizar el concepto que se vio en la seccin anterior. Para ello se
considerara que la curva que describe la tendencia de la coleccin de puntos es un polinomio P de
grado m. Entonces la ecuacin ser la siguiente:

Entonces las n ecuaciones para los puntos dados se vern de la siguiente forma:

Lo cual, de forma matricial, se puede representar as:

Ahora, se proceder a ver el error generalizado a polinomios. Para ello la ecuacin principal ser
de la forma:

Entonces el error, al igual que en la seccin anterior, se puede expresar en forma vectorial as:

Entonces el error total se puede expresar de la siguiente forma:

Trabajo de Anlisis Numrico

Mtodo de Mnimos Cuadrados

Presentado a:
MANUEL IGNACIO CUADRADO MORAD

Presentado por:
Josymar Garca Acevedo
2072769

Universidad Industrial de Santander

Bucaramanga
2012