REGRESIN MLTIPLE

1. Modelos de regresin mltiple:

Modelo general y b0 b1 x1 b2 x 2
2. Estimacin de parmetros
X=
1
0.79
7.8
1.82
1
0.65
8
8.84
1
0.81
9.03
5.12
1
0.74
6.56
5.43
1
0.22
5.9
1.42
1
0.23
8.4
1.09
1
0.25
12
1.15
1
0.26
4.8
8.53
1
0.41
10.8
6.11
1
0.55
10.4
1.6
1
0.47
10.8
1.04
1
0.59
7.9
1.02
1
0.47
4.3
1.11
1
0.5
10.8
0.62
1
0.52
3.8
1.69
1
0.47
4.1
1.22
1
0.42
4.5
2.13
1
0.37
6.1
1.47
y=
0.68
0.85
0.66
0.5
1.86
2.33
2.17
1.83
1.68
2.05
1.83
1.84
1.87
1.82
1.85
1.75
1.51
1.38

bk x k
30
25
35
40
30
30
25
25
10
30
30
35
30
35
30
20
30
20

12.4
11.4
10.7
11.6
11.3
10.7
11.1
12.8
13.3
13.3
14.1
13.4
13.5
13.3
14.4
14.1
15.3
14

X'X=
18
8.72
135.99
51.41
510
230.7

8.72
135.99
51.41
4.7968
66.365
26.616
66.365
1149.5
382.41
26.616
382.41
269.12
256.1
3841.9
1388.7
111.52
1720.4
639.59

X' y =
28.46
12.438
217.59
69.167
791.25
367.7
b=(X'X)-1X' y =
1.1858
-2.3524
0.044719
-0.04593
0.0082322
0.085432
Modelo de regresin ajustado es

510
230.7
256.1
111.52
3841.9
1720.4
1388.7
639.59
15250
6500.5
6500.5
2989.6

Y* = 1.1858 - 2.3524x1 + 0.044719x2 - 0.04593x3 + 0.0082322x4 + 0.085432x5

La matriz de covarianza de b es:
Cov (b) = 2 (XX)-1
2 = (yy bXy)/(n - p) = 0.083374
n=18;
p = 5 + 1;
3. Intervalos de confianza
Construiremos un intervalo de confianza de 95% respecto a:
b0 = 1.1858; elemento de la diagonal de (XX)-1 C0 = 15.619; 2 = 0.083374, entonces t0.025; 12 de la
tabla es 2.179
C = inv(X'*X)
C=
15.619
1.5815
-0.2425
-0.2509 -0.11489 -0.82122
1.5815
2.6034 -0.035191 -0.075599 -0.040558 -0.094545
-0.2425 -0.035191 0.010536 0.0033754 0.0012989 0.010417
-0.2509 -0.075599 0.0033754 0.012702 0.0025207 0.012041
-0.11489 -0.040558 0.0012989 0.0025207 0.0021398 0.0044397
-0.82122 -0.094545 0.010417 0.012041 0.0044397 0.049009
C0 = 15.619
-1.3007 b0 3.6724
C1 = 2.6034
-3.3676 b1 -1.3372
C2 = 0.010536 -0.019862 b2 0.1093
C3 = 0.012702
-0.11684 b3 0.024981
C4 = 0.0021398
-0.020872 b4 0.037336
C5 = 0.049009
-0.053855 b5 0.22472

b0 = 1.1858;
b1 = -2.3524
b2 = 0.044719
b3 = -0.04593
b4 = 0.0082322
b5 = 0.085432
4.

Prueba de hiptesis en la regresin lineal mltiple

a. Prueba de significacin de regresin
Esta prueba es para determinar si hay una relacin lineal entre la variable dependiente y y
un subconjunto de las variables independientes X. Las hiptesis apropiadas son:
H0: b1 = b2 = . = bk = 0
H1 : b j 0
El rechazo de H0: bj = 0 implica que al menos una de las variables independientes X
contribuye significativamente al modelo.
SYY = SSR + SSE
SSE = y y bX y

SSR = bX y -

i 1

>> SSR = 3.9728

SYY = y y -

i 1

Syy = 5.0567

y
i

i 1

= 28.462 / 18 = 809.97

n
>> SSE=Syy - SSR = 1.0839
Fuente de
variacin
Regresin
Error o
residuo
Total

Anlisis de varianza para la significacin de la regresin en la regresin mltiple

Suma de
Grados de libertad
Media cuadrtica
F
cuadrados
SSR = 3.9728
k=5
MSR = SSR / k = 0.79456
MSR / MSE =
8.7971
MSE = SSE / (n-k-1)=
SSE =1.0839
nk1=18-5-1=12
0.090321
Syy = 5.0567
n-1 = 17

De la tabla F, k, n-k-1 =F0.05, 5, 12 = 3.11. Debido que F calculado es mayor que 3.11, entonces las
variables se relacionan entre si. Sin embargo, la relacin encontrada no es necesariamente
apropiada para predecir como se relacionan entre si las variables. Se requiere pruebas
adicionales de la suficiencia del modelo.
b. Pruebas de coeficientes individuales de regresin
Estas pruebas son tiles en la determinacin del valor de cada una de las variables
independientes en el modelo de regresin. El modelo podra ser mas eficaz con la inclusin
de variables adicionales, o quiz con la omisin de una o mas variables ya en el modelo.
Las hiptesis para probar la significacin de cualquier coeficiente de regresin individual
son:
H0 : b j = 0
H1 : b j 0
Si H0: bj = 0 no se rechaza, entonces esto indica que xj puede ser eliminada del modelo.

bj

2 C jj

Donde Cjj es el elemento de la diagonal de (XX)-1 correspondiente a bj.

C0 = 15.619
C1 = 2.6034
C2 = 0.010536
C3 = 0.012702
C4 = 0.0021398
C5 = 0.049009
ti-1=b(i)/(sqrt(MSE*C(i,i)))
La hiptesis nula se rechaza si | t | > t/2, n-k-1
t0 = 0.99841
no significativo
t1= - 4.8511
significativo
t2= 1.4496
no significativo
t3= - 1.356
no significativo
t4= 0.59216
no significativo
t5= 1.2841
no significativo
t/2, n-k-1 = t0.025, 12 = 2.179
Puesto que t1 > t0.025, 12, rechazamos H0: b1 = 0 y concluimos que la variable x1 contribuye de
manera significativa al modelo.
Coeficiente
b0
b1
b2
b3
b4
b5
5.

valor
1.1858
-2.3524
0.044719
-0.04593
0.0082322
0.085432

Variable
X1
X2
X3
X4
X5

Test t
0.99841
- 4.8511
1.4496
- 1.356
0.59216
1.2841

Medidas de adecuacin del modelo

Coeficiente de determinacin mltiple
Es una medida del grado de reduccin en la variabilidad de y obtenida mediante el empleo
de las variables regresivas X
R2 = SSR / SYY= 1 SSE / SYY = 3.9728 / 5.0567 = 0.78566 = 78. 6%