UNIVERSIDAD TÉCNICA DEL NORTE

FACULTAD DE CIENCIAS ADMINISTRATIVAS Y

ECONÓMICAS
CARRERA DE ECONOMÍA
ECONOMETRÍA II

RESUMEN CLASE #3 “Teoría de la regresión múltiple I”

 Nombre: Daysi Pavón
Curso: Sexto semestre
Fecha: 12-02-2021

Docente: Eco. Francisco Rosales

Ibarra, 2021

El modelo lineal de regresión múltiple y el estimador MCO en forma matricial

Modelo de Regresión múltiple poblacional 𝑌𝑖 =𝛽 0 +𝛽 1𝑋1𝑖 +𝛽 2𝑋2𝑖 +⋯+𝛽 𝑋𝑘𝑖 +𝑢 𝑖,𝑖=1, … ,𝑛

𝑘

Por otro lado, las n ecuaciones resultante

de este modelo en forma matricial puede
representarse de la siguiente manera:

Usando 𝒀=𝑿𝜷+𝑼

IMPORTANTE
Otra manera de representar el MRL múltiple es:

𝑌𝑖 =𝛽 0 +𝛽 1 𝑋1𝑖 +𝛽 2 𝑋2𝑖
+⋯+𝛽 𝑘 𝑋 𝑘𝑖 +𝑢

donde 𝑿𝑖′ es el traspuesto de 𝑿𝑖

𝑌𝑖 =𝑿 𝑖′𝜷+𝑢 𝑖
 Los supuestos ampliados de mínimos cuadrados para el modelo de regresión múltiple
tomando en cuenta que 𝑌𝑖 =𝑿 𝑖′𝜷+𝑢 𝑖 i = 1….n son:

1. E(u i / X i)=0  El supuesto número cuatro

2. (Xi, YI), i = 1..n son i.i.d a partir de su implica que la columna de X no
distribución conjunta. puede tener combinación lineal
3. ui y Xi tienen momentos de cuarto orden con otras columnas.
finitos y distintos de 0.  En el supuesto 5 al nos indica que
4. X tiene rango completo de columnas; es decir, al ser el error homocedástico es
no existe multicolinealidad perfecta. útil para estudiar la eficiencia de
5. Var (ui/Xi) = σ2u Homocedasticidad. MCO.
6. ui dado Xi tiene distribución condicional  En el supuesto 6 al tener los
normal. errores con distribución normal es
útil para calcular la distribución
Supuesto 1 y 2: E(ui / 𝑿 )=𝟎n donde 𝟎n es vector n x 1 de ceros.
Implicaciones de estos
supuestos para el vector de Supuesto 1,2 y 5: Var (ui/Xi) = σ2u 𝑰n, donde 𝑰n es la matriz
errores ui identidad 𝑛×𝑛
Supuesto 1,2,5 y 6: la distribución condicional de ui dado 𝑿 es
𝑁(𝟎𝑛,𝜎u 2𝑰n)
Estimador MCO
n
^
β1, ^
β 1 ,… β^1=argmin bo, b1,…bk ∑ ( Y i−b0 −b1 X 1 i−…−b k X ki )2
i=1

Solución

n n
∂ 2 ❑
∑ ( Y i−b0 −b1 X 1 i−…−b k X ki ) −2 ∑ ( Y i−b0−b 1 X 1i−…−bk X ki )
∂ b0 i=1 i=1

Mientras que para j=1,..,k

n n
∂
∑ ( Y −b −b X −…−b k X ki )2−2 ∑ ( Y i−b0−b 1 X 1i−…−bk X ki )❑
∂ b j i=1 i 0 1 1 i i=1

Siendo b = ¿ ¿)´

el vector de la derivada es -2X´(Y - Xb)

MCO es: −2 X ´ ( Y − X β^ ) =0k +1 -> ^β=( X ´ X )−1 X ´ Y X ´ X  tiene inversa

Para derivar ^β es importante el teorema central del límite

 Distribución asintótica del estimador MCO y del estadístico t

Normalidad asintótica de ^β

^β=(X ' X )−1 X ' X =( X ' X )−1 X ' ( Xβ+U ) =β+ ( X ' X )−1 X ' U

^β=β + ( X ' X )−1 X ' U

−1 ❑
X'X X'U
√ n ( ^β−β )= ( n )( √n )
Demostración

❑ n
X'X 1
( n ) = ∑ X i X i ´ ->P E( X ¿ ¿ i X i ´ ) ¿
n i=1
❑ n
X'U 1
( ) √n
= ∑ X u ->d N ¿ ¿
n i=1 i i

Resultado: √ n ( ^β−β )-->d N ¿ ¿Var ( X ¿ ¿i ui) ¿ ¿ ¿

Errores estándar heterocedásticos – robustos

Estimación de ∑ ❑ sustituyendo los momentos de esperanza por momentos muestrales.

√ nβ

n −1 n n −1
^¿ 1 1
∑ n (
∑ Xi X i´ ) ∑ u^ 2 X X ´ 1 ∑ X X ´
n−k −1 i=1 i i i n i=1 i i( )
^
√n β i=1

^
∑ ¿∑
√n ^β √n ^β
^
^β : n−1 ∑
√ n ^β

Intervalos de confianza para una combinación lineal de

elementos de 𝜷 (𝒅 ′𝜷)

√ n ( d ´ ^β−d ´ β ) → d N (0k+1 , d ' ∑ d )

√ n ^β
−1 d ' ∑ ❑√ n ^β d
√
d ' β ± 1,96 n
 Intervalo de
confianza del 95%
Distribución asintótica del estimador MCO y del estadístico t

Hipótesis conjuntas en notación matricial

Rβ=r
r es un vector no aleatorio q x 1
k=3
β1 + 2β2 = 1  R= (0,1,2,0), r = 1
β1 = β 2 = β 3 = 0

Distribución asintótica del estadístico F

√ n ( R ^β−Rβ ) → d N 0k+1 R ∑ R'

( √ n ^β )
√ n ( R ^β−r ) → d N (0k+1 R ∑ R ') bajo Ho
√ n ^β

F=( R ^β−r ) ' ¿ ¿ ¿

F → d X 2q bajo Ho

Representación matricial de los estadísticos de regresión MCO

Px y Mx son simétricas e ídem potentes

Y^ = X ^β=Px Y
^ =Y −Y^ =MxY =MxU
U
 Errores estándar validos solo bajo homocedasticidad

Var (β│X) es
Var (β│X) = su2 (X’X)-1

√ ^(^
ES ( β^j) = ( Var β │ X ) ) j +1, j +1

Distribución exacta del estadístico t con errores normales

β j−β j ,0
t= t t n−k−1 bajo Ho
ES ( β j )

Distribución exacta del estadístico −1 ' −1 ( R ^

β−r )
( R ^β−rF) (con
R ( Xerrores
X ) Rnormales
' '
)
q
F= 2
su^

F=F q ,n−k−1 bajo Ho

IMPORTANTE

BIBLIOGRAFÍA

Hualde, J. (2021). SESIÓN 2: Teoría de regresión múltiple I. CAF.