Minimos cuadrados

El procedimiento mas objetivo para ajustar una recta a un conjunto de datos presentados en

un diagrama de dispersión se conoce como "el método de los mínimos cuadrados". La recta

resultante presenta dos características importantes:

1. Es nula la suma de las desviaciones verticales de los puntos a partir de la recta de ajuste

∑ (Yｰ - Y) = 0.

2. Es mínima la suma de los cuadrados de dichas desviaciones. Ninguna otra recta daría

una suma menor de las desviaciones elevadas al cuadrado ∑ (Yｰ - Y)² → 0

(mínima).

El procedimiento consiste entonces en minimizar los residuos al cuadrado Ci²

Re emplazando nos queda

La obtención de los valores de a y b que minimizan esta función es un problema que se puede resolver recurriendo a la derivación parcial de la función en términos de a y b: llamemos G a la función que se va a minimizar:

 

Tomemos las derivadas parciales de G respecto de a y b que son las incógnitas y las igualamos a cero; de esta forma se obtienen dos ecuaciones llamadas ecuaciones normales del modelo que pueden ser resueltas por cualquier método ya sea igualación o matrices para obtener los valores de a y b.

Derivamos parcialmente la ecuación respecto de a

  Primera ecuación normal

Derivamos parcialmente la ecuación respecto de b

  Segunda ecuación normal

Los valores de a y b se obtienen resolviendo el sistema de ecuaciones resultante. Veamos el siguiente ejemplo:

En un estudio económico se desea saber la relación entre el nivel de instrucción de las personas y el ingreso.

EJEMPLO 1

Se toma una muestra aleatoria de 8 ciudades de una región geográfica de 13 departamentos y se determina por los datos del censo el porcentaje de graduados en educación superior y la mediana del ingreso de cada ciudad, los resultados son los siguientes:  

CIUDAD : 1 2 3 4 5 6 7 8

% de (X)

Graduados : 7.2 6.7 17.0 12.5 6.3 23.9 6.0 10.2

Ingreso (Y)

Mediana : 4.2 4.9 7.0 6.2 3.8 7.6 4.4 5.4 (0000)

Tenemos las ecuaciones normales

∑y = na + b∑x

∑xy = a∑x + b∑x²

Debemos encontrar los términos de las ecuaciones

∑y, ∑x, ∑xy, ∑ x² Por tanto procedemos de la siguiente forma:

Y	X	XY	X²
4.2	7.2	30.24	51.84
4.9	6.7	32.83	44.89
7.0	17.0	119.00	289.00
6.2	12.5	77.50	156.25
3.8	6.3	23.94	39.69
7.6	23.9	181.64	571.21
4.4	6.0	26.40	36.00
5.4	10.2	55.08	104.04
43.5	89.8	546.63	1292.92

Sustituyendo en las ecuaciones los resultados obtenidos tenemos: 43.50 = 8a + 89.8b

546.63 = 89.8a + 1292.92b

multiplicamos la primera ecuación por (-89.8) y la segunda por (8) así:

43.50 = 8a + 89.8b (-89.8) 546.63 = 89.8a + 1292.92b (8)

-3906.30 = -718.4a - 8064.04b 4373.04 = 718.4a + 10343.36b

466.74 = -0- 2279.32b

Este valor de b lo reemplazamos en cualquiera de las ecuaciones para obtener a así:

Reemplazando b = 0.20477 en la primera ecuación normal

43.5 = 8a + 89.8 (0.20477) 43.5 = 8a + 18.3880 43.5 - 18.3880 = 8a 25.1120 = 8a

Tenemos entonces que los coeficientes de regresión son : a = 3.139 y b = 0.20477. Por tanto la ecuación de regresión nos queda:

Significa entonces que por cada incremento en una unidad en X el valor de se aumenta en 0.20477

Esta ecuación permite estimar el valor de para cualquier valor de X, por ejemplo: Una ciudad que tiene un porcentaje de graduados a nivel superior del 28% la mediana de ingreso para la ciudad será:

Los valores a y b también se pueden obtener de la siguiente forma: partiendo de las ecuaciones normales tenemos:

Si dividimos todos los términos de la ecuación (1) entre n nos queda:

Tenemos entonces que el primer termino es el segundo termino es la incógnita a y el tercer termino es la incógnita b multiplicada por por tanto nos queda:

  entonces

Reemplazando a en la ecuación (2) tenemos

a = 5.4375 – 0.20477 (11.2250) = 5.4375 – 2.2985 = 3.139

Se debe tener presente la diferencia entre el valor de obtenido con la ecuación de regresión y el valor de Y observado. Mientras es una estimación y su bondad en la estimación depende de lo estrecha que sea la relación entre las dos variables que se estudian; Yｰ es el valor efectivo, verdadero obtenido mediante la observación del investigador. En el ejemplo Yｰ es el valor mediano del ingreso que obtuvo el investigador

utilizando todos los ingresos observados en cada ciudad y es el valor estimado con base en el modelo lineal utilizado para obtener la ecuación de regresión

Los valores estimados y observados pueden no ser iguales por ejemplo la primera ciudad tiene un ingreso mediano observado de Yｰ = 4.2 al reemplazar en la ecuación el porcentaje

de graduados obtenemos un estimado de

Gráficamente lo anterior se puede mostrar así:

Claramente se observa en la gráfica que hay una diferencia entre el valor efectivo de Yｰ y el valor estimado; esta diferencia se conoce como error en la estimación, este error se puede medir.