Regresión lineal y cuadrática, calculada a mano

Objetivos

1. Ajustar a mano la recta de mínimos cuadrados de seis puntos.
2. Comprobar que la recta pasa por el punto medio (x̄, ȳ).
3. No confundir esa pendiente con la de los extremos.
4. Ajustar una parábola a una nube pequeña y valorar en el dibujo si pinta mejor que la recta.
5. Separar asociación y causa.

Explicación

La recta que minimiza errores verticales

Con n parejas, la recta ŷ = a + bx de y sobre x usa

b = S_xy / S_xx    a = ȳ − b x̄

donde S_xx = Σx² − (Σx)²/n, S_xy = Σxy − (Σx)(Σy)/n y ȳ, x̄ son las medias. No es «la recta que une el primer punto con el último».

S_xx junta, en una sola suma, cómo de separados están los x respecto de su media. S_xy junta si los y grandes van con los x grandes. La pendiente es el cociente de esas dos sumas, no el cociente de un solo salto entre el primer punto y el último. El término a se calcula después, a propósito, para que la recta pase por (x̄, ȳ). Si a estuviera mal, esa comprobación fallaría aunque b estuviera bien. Y al revés: una recta que pasa por la media puede tener una pendiente que no es la de mínimos cuadrados. Por eso hacen falta las dos letras, y las dos comprobaciones.

El residuo de un punto es y − ŷ, en vertical, no la distancia oblicua al trazo. Mínimos cuadrados minimiza la suma de los cuadrados de esos residuos verticales. Por eso el punto (6, 8) puede quedar por encima y la recta seguir siendo la buena para el conjunto: el criterio no es «pasar por todos», es dejar pequeña esa suma de cuadrados. Con término independiente libre, los residuos de la recta ajustada suman 0. Es una comprobación global, distinta de mirar un solo punto.

Ejemplo 1 · Seis pares de calibración, ya reducidos

Un sensor se compara con un patrón. Para hacer la cuenta a mano dividimos entre 100 las dos columnas brutas (están en el apartado de la placa y aquí, reducidas):

1. n = 6, Σx = 21, Σy = 28. x̄ = 21/6
   21/6 = 7/2. ȳ = 28/6 = 14/3.
2. 1 + 4 = 5
   5 + 9 = 14
   14 + 16 = 30
   30 + 25 = 55
   55 + 36 = 91
   Σx² = 91.
   441 / 6 = 147/2
   S_xx = 91 − 147/2 = 35/2.
3. 2 + 6 = 8
   8 + 12 = 20
   20 + 20 = 40
   40 + 30 = 70
   70 + 48 = 118
   Σxy = 118. S_xy =
   21 · 28 = 588
   588 / 6 = 98
   118 − 98 = 20.
4. 35 / 2 = 35/2
   20 / 35/2 = 8/7
   b = 8/7.
5. 14 / 3 = 14/3
   8 / 7 = 8/7
   7 / 2 = 7/2
   8 / 7 = 8/7
   8 / 7 = 8/7
   8/7 · 7 = 8
   8 / 2 = 4
   14 / 3 = 14/3
   14/3 − 4 = 2/3
   a = 2/3.

Recta: ŷ = (8/7) x + 2/3.

Ejemplo 2 · Comprobar la recta en el centro y en x = 6

En el punto medio debe cumplirse ŷ = ȳ:

8 / 7 = 8/7
7 / 2 = 7/2
8 / 7 = 8/7
8 / 7 = 8/7
8/7 · 7 = 8
8 / 2 = 4
2 / 3 = 2/3
4 + 2/3 = 14/3, que es exactamente ȳ. La recta pasa por (7/2, 14/3).

En x = 6, que es el patrón más alto: ŷ = (8/7)·6 + 2/3 =48 / 7 = 48/7
2 / 3 = 2/3
48/7 + 2/3 = 158/21.

158/21 es 7 y 11/21, aproximadamente 7,52. El dato real es y = 8. El residuo es 8 − 158/21 = 10/21. La recta no persigue ese punto: persigue el conjunto.

Ejemplo 3 · Tres puntos distintos: los residuos suman 0

Nube distinta de los seis pares de la calibración, para ver el mismo fenómeno sin adelantar el reto. El reto pide el residuo en x = 3 de aquellos seis pares; aquí no se calcula. Los puntos de este ejemplo son (0, 1), (1, 2) y (2, 2).

1. Paso 1. Puntos (0, 1), (1, 2) y (2, 2). n = 3
   Σx = 0 + 1 + 2
   0 + 1 = 1
   1 + 2 = 3
   Σy = 1 + 2 + 2
   1 + 2 = 3
   3 + 2 = 5
   x̄ = 3 / 3 = 1
   ȳ = 5 / 3
   Σx² = 0 + 1 + 4
   0 + 1 = 1
   1 + 4 = 5
   (Σx)² / n = 9 / 3
   9 / 3 = 3
   S_xx = 5 − 3 = 2
   Σxy = 0·1 + 1·2 + 2·2
   0 · 1 = 0
   1 · 2 = 2
   2 · 2 = 4
   0 + 2 = 2
   2 + 4 = 6
   (Σx)(Σy) / n = (3 · 5) / 3
   3 · 5 = 15
   15 / 3 = 5
   S_xy = 6 − 5 = 1
   b = 1 / 2 = 1/2
   a = 5/3 − (1/2) · 1
   5 / 3 = 5/3
   1 / 2 = 1/2
   5/3 − 1/2 = 7/6
   Recta: ŷ = (1/2) x + 7/6.
2. Paso 2. En x = 0, ŷ = 7/6 y el residuo es 1 − 7/6 = −1/6.
   En x = 1:
   (1/2) · 1 = 1/2
   1/2 + 7/6 = 10/6
   10/6 = 5/3
   El residuo es 2 − 5/3 = 1/3.
   En x = 2, ŷ = 1 + 7/6 = 13/6 y el residuo es 2 − 13/6 = −1/6.
3. Paso 3. Suma: (−1) / 6 = −1/6
   2 / 6 = 1/3
   −1/6 + 1/3 = 1/6
   (−1) / 6 = −1/6
   1/6 + −1/6 = 0. Y la recta pasa por la media:
   1 / 2 = 1/2
   1/2 · 1 = 1/2
   7 / 6 = 7/6
   1/2 + 7/6 = 5/3 = 10/6 = 5/3 = ȳ. Los cuadrados de los residuos suman
   1 + 4 = 5
   5 + 1 = 6
   6 / 36 = 6/36 = 1/6, que no es 0: hay desajuste vertical aunque las desviaciones con signo se cancelen.

El 1/6 de suma de cuadrados y el 0 de suma de residuos no se contradicen. Uno ignora el signo; el otro no. En la calibración de seis puntos pasa el mismo tipo de cosa —el punto (6, 8) deja residuo 10/21, ya visto—, pero la suma firmada de esos seis residuos no se cierra en esta página: falta el dato del reto.

Comprobación cruzada · la ordenada 7/6 no se puede cambiar

Si se deja la pendiente 1/2 y se prueba a = 1 en vez de 7/6, la recta ŷ = (1/2) x + 1 pasa por (0, 1) y por (2, 2), y en x = 1 da 1,5, no 2. Residuos: 0, 1/2 y 0. Suman 1/2, no 0. No está centrada. La fórmula a = ȳ − b x̄ es la que obliga a esa suma nula; un a «que pase por dos puntos» puede dejar fuera al tercero y descompensar el total. Aquí 7/6 − 1 = 1/6: ese sexto es justo lo que reparte el residuo del punto medio entre los tres.

Valor absoluto, cuadrado y un punto de fuera

En los tres puntos (0, 1), (1, 2) y (2, 2) los residuos son −1/6, 1/3 y −1/6. La suma con signo es 0. La suma de valores absolutos es 1/6 + 2/6 + 1/6 = 4/6 = 2/3. La suma de cuadrados es 1/6. Tres preguntas, tres números, la misma nube. En x = 4, que no es un dato, la recta predice
1 / 2 = 1/2
1/2 · 4 = 2
7 / 6 = 7/6
2 + 7/6 = 19/6. No hay residuo que calcular: no hay y observado. Predecir fuera de la nube no comprueba el ajuste; solo alarga la recta. La comprobación sigue siendo la de dentro: media 5/3 y residuos que suman 0.

19/6 es 3 + 1/6. Está más allá de x = 2, el último dato, a una unidad de x y media unidad de y por la pendiente 1/2, y además el 7/6 de ordenada ya iba incluido: desde el punto (2, 13/6) de la recta, no desde el dato (2, 2), se avanza.
13 / 6 = 13/6
1 / 2 = 1/2
1 / 2 = 1/2
1/2 · 2 = 1
13/6 + 1 = 19/6. El dato (2, 2) = 12/6 queda 1/6 por debajo de la recta, así que no sirve de origen para extrapolar si lo que se quiere es la recta y no el último punto.

Ejemplo 4 · Una parábola, con la cuenta hecha

Otra nube, de cuatro puntos, distinta de la calibración y distinta del ejemplo 3: (0, 1), (1, 3), (2, 9) y (3, 19). Se pide el ajuste ŷ = a + bx + cx² y, al lado, la recta, para ver cuál pinta la nube.

Recta, para contrastar.
n = 4
Σx = 6
Σy = 32
x̄ = 3/2
ȳ = 8. Σx² = 14
(Σx)² / n = 36 / 4 = 9
S_xx = 14 − 9 = 5.
0 + 3 = 3
3 + 18 = 21
21 + 57 = 78
Σxy = 78, S_xy =
6 · 32 = 192
192 / 4 = 48
78 − 48 = 30. b = 30/5 = 6 y a = 3 / 2 = 3/2
6 · 3 = 18
18 / 2 = 9
8 − 9 = −1. Recta: ŷ = −1 + 6x. Residuos:
en x = 0
1 − (−1) = 2;
en x = 1
3 − 5 = −2;
en x = 2
9 − 11 = −2;
en x = 3
19 − 17 = 2. Suman 0. La suma de cuadrados es 4 + 4 = 8
8 + 4 = 12
12 + 4 = 16.

Parábola. ŷ = a + bx + cx². Las ecuaciones normales, con Σx³ = 0 + 1 + 8 + 27
0 + 1 = 1
1 + 8 = 9
9 + 27 = 36
Σx⁴ = 0 + 1 + 16 + 81
0 + 1 = 1
1 + 16 = 17
17 + 81 = 98
Σx²y = 0 + 3 + 36 + 171
0 + 3 = 3
3 + 36 = 39
39 + 171 = 210, son:

1. 4a + 6b + 14c = 32, que se divide entre 2: 2a + 3b + 7c = 16.
2. 6a + 14b + 36c = 78, que se divide entre 2: 3a + 7b + 18c = 39.
3. 14a + 36b + 98c = 210, que se divide entre 2: 7a + 18b + 49c = 105.

Se elimina a entre las dos primeras: 3·(2a + 3b + 7c) − 2·(3a + 7b + 18c) = 3·16 − 2·39. Queda −5b − 15c = −30, o sea b + 3c = 6 y b = 6 − 3c. De la primera, a = (16 − 3b − 7c)/2. Con ese b: a = (16 − 18 + 9c − 7c)/2
(16 − 18 + 9c − 7c)/2 = c − 1. En la tercera: 7(c − 1) + 18(6 − 3c) + 49c = 105. Eso es 7c − 7 + 108 − 54c + 49c = 105, luego 2c + 101 = 105, 2c = 4 y c = 2. Entonces a = 1 y b = 0. Parábola: ŷ = 1 + 2x².

Comprobación en los cuatro puntos: 2 · 0 = 0
1 + 0 = 1
2 · 1 = 2
1 + 2 = 3
2 · 4 = 8
1 + 8 = 9
2 · 9 = 18
1 + 18 = 19. Los residuos son 0 y la suma de cuadrados es 0, no 16. La parábola pinta esta nube mejor que la recta: los puntos suben cada vez más deprisa y la recta se queda corta en los extremos y larga en el centro. No se fuerza una cuadrática si los residuos de la recta ya son pequeños. En la calibración de seis puntos la nube es casi recta y el residuo gordo es 10/21: ahí la recta viene a cuento y una parábola no aporta. Aquí la suma de cuadrados pasa de 16 a 0, y el dibujo lo enseña. No se calcula un coeficiente r: esta comparación es la de los residuos y la del gráfico.

Error típico

Tomar solo los extremos:
8 − 2 = 6
6 − 1 = 5
6 / 5 = 6/5. Y 6/5 ≠ 8/7, porque 6·7 = 42 y 5·8 = 40. Esa pendiente no es la de mínimos cuadrados.

Tampoco la lectura «causa» el patrón. Aquí alguien fija el patrón y el sensor responde. Que la nube suba junta no dice cuál manda. Correlación no es causalidad: la recta describe la nube, no el mecanismo.

Tu desarrollo

Escribe aquí los pasos, con unidades o fracciones. Puedes borrar el rótulo y usar el hueco como papel.

Comprueba

// Arduino Uno o Nano. Calibrar: anotas el patrón real y lees A0.
// La lección no lee la placa: usa la tabla declarada de seis pares.
const int pin = A0;
void setup() {
  Serial.begin(9600);
}
void loop() {
  int lectura = analogRead(pin); // 0..1023
  Serial.println(lectura);
  delay(1000);
}

Cierre

Con los seis pares, b = 8/7 y a = 2/3. La recta pasa por la media (7/2, 14/3) y en x = 6 predice 158/21, no el 8 del dato. La pendiente de los extremos, 6/5, es otra recta. Que la nube suba no dice quién causa a quién. En (0, 1), (1, 3), (2, 9) y (3, 19) la parábola 1 + 2x² deja residuos 0 y la recta −1 + 6x deja suma de cuadrados 16: ahí la parábola pinta mejor. Si los residuos de la recta ya son pequeños, no se fuerza la cuadrática.