DERIVACIÓN ALGEBRAICA DE LOS MÍNIMOS CUADRADOS

Se parte de indicar que una observación a un valor estimado tiene un error i-ésimo (e_i) dentro de que dicho valor en coordenadas “x” y “y” se expresa:

y_i = α + βx_i + e_i      así el error i-ésimo es:       e_i = y_i - α - βx_i

El interés es minimizar el error a cero (0) por lo que se deben sumar el total de los errores de una forma que exprese la desviación absoluta promedio del valor estimado expresado como:

y_i = α + βx_i  como dato estimado, y como función   y =  + x

Las observaciones que quedan por encima de la recta observada tienen un residual positivo. Las observaciones que quedan por debajo de la recta dan un residual negativo. Si esta recta pasa geométricamente a la misma distancia existente entre las observaciones que están por encima y las que están por debajo de ella, entonces la suma de de los residuales (e_i) positivos es igual a la suma de residuales negativos (e_i) negativos:

∑ e_i (+) = ∑ e_i(-)   o como: ∑ e_i (+) + ∑ e_i (-) = 0

Para evitar que se cancelen los residuales positivos con los negativos nos valemos de un truco matemático de elevar al cuadrado cada residual, así los valores positivos resultan en positivos. Con ello ya podemos proceder a sumar el valor absoluto de los residuales:

∑ e_i² = ∑ (y_i -  - x_i)² donde el gorrito (^) sobre la α y la β indican “a estimar”.

Ahora, deseando minimizar el valor de la función de los errores obtenidos, se aplica el cálculo infinitesimal donde la primera derivada de la función igualada a cero, para la derivada parcial de   y la derivada parcial de  dan los valores críticos de la función:

∑ e_i²   por lo que

∑ e_i²      (2) (-1) ∑ (y_i –  – x_i)

                                                       --------   =  -----------------------------

                                                                              (2) (-1)

(aplicando la regla de la cadena).

 Se iguala a cero (0) y se despeja :

∑ (y_i -  - x_i) = 0

∑y_i – n - n = 0 (siendo que ∑ z_i = n)

                                      n - n - n  

        ----------------------------    =  0    …  –  –  = 0 …  = -  

                                              n

Se procede ahora bajo el mismo procedimiento a obtener :

                                                        ∑e_i² 

---------   =   (2) (-x_i) ∑(y_i--x_i) = 0

 ∑ x_iy_i -  ∑x_i-∑x_i² = 0

∑ x_iy_i = ∑x_i+∑x_i²      (siendo que ∑ z_i = n)

∑ x_iy_i = n+∑x_i²    sustituyendo  se tiene

∑ x_iy_i = (-)n+∑x_i²

∑ x_iy_i = n-n²+∑x_i²

∑ x_iy_i - n=∑x_i²-n²

∑ x_iy_i - n= (∑x_i²-n²)

              ∑x_iy_i-n                     con ello tenemos  y  de la

 = -----------------                   ecuación regresiva y_i =  + x_i

              ∑x_i² - n²