Regresión Lineal
Es un método para estudiar los efectos y magnitudes de los
efectos de más de una VI sobre una VD, usa principios de
correlación y regresión. Se estudia de qué forma las
puntuaciones de Y “regresan hacia” las puntuaciones de
X. Este permite evaluar en qué medida la VI predice y
explica a la VD. Este usa una función lineal (modelo de
regresión): Y’=a+bX+e. Y’ es la VD y lo que está después
del igual es la VI. En concreto hay dos objetivos:
predicción (función lineal) y explicación (¿Cuánto se
explica?). La diferencia entre lineal simple y múltiple es
la cantidad VIs, esta última es una extensión de la simple.
La N mínima es 100, aunque depende de la cantidad de
VIs. Ya con 400 sujetos esta técnica es estable. Usa un
diseño prospectivo único.
Componentes
Coeficie
¿Qué es?
nte
Es el punto donde la
Intercepto (a)
línea de regresión se
intercepta o se corta con
el eje Y. Cobra sentido
No estandarizados
con la unidad de medida
de las variables.
Es la inclinación de la
línea de regresión, y tiene
Pendiente (b)
el mismo signo que la
correlación. Viene en
unidades de Y en función
de X
Expresa el peso relativo
de la variable en la
Beta (β)
regresión se interpreta
como un coeficiente de
asociación (-1 a 1)
Es una medida indirecta
Diferencia entre
de precisión, mientras
Error (ε)
Estandarizados
menor sea, mayor
precisión habrá. La Y no
está explicada por las
VIs.
Correlación múltiple,
La correlación
toma valores entre 0 y 1.
NO se interpreta el signo,
solo el monto, magnitud
R
entre un compuesto de
lineal de la VI y
los mínimos cuadrados
de X1 y X2, e Y
Es la proporción de varianza explicada de la
VD a partir de la mejor combinación lineal
R2
de las VIs en el modelo.
Supuestos Teóricos
1. En la línea de regresión, a cada puntaje de X hay
una distribución normal de Y.
2. La media de esa distribución es Y’, y su
desviación es ε.
3. Hay homocedasticidad en la distribución de Y’, la
distancia entre los grupos es más o menos igual.
4. Supone una distribución bivariada (X, Y).
Supuestos Prácticos
1. La variable predicha y predictora son cuantitativas
(métricas).
2. La distribución de la VD es normal. Este supuesto
se puede violar ya que este método es robusto ante
la no normalidad, una forma de solución en
aumentando la N. Se justifica por el teorema del
Interpretación límite central.
3. Modelo aditivo: S2TOTAL = S2REGRESIÓN + S2ERROR.
Es el valor que 4. No Multicolinealidad: la multicolinealidad es
asume la
cuando las VIs están altamente correlacionadas
variable (intercorrelación entre las VIs de al menos r > .70,
predicha, si la lo que indica que la VI comparte varianza con
variable otras VIs). Que haya correlación no implica
predictora fuese multicolinealidad. Ello conduce a estimadores
cero. inestables de los coeficientes de regresión y
dificultades en su interpretación. Se evalúa
Indica el
cambio que se mediante:
- Tolerancia (indica el % no explicado) debe
espera en Y con
ser menor a <.60 para que haya
el cambio de
multicolinealidad. Mide la variación no
una unidad en
explicada de una VI por las otras VIs del
X
modelo [0-1].
Expresa la - VIF (inverso de la tolerancia; 1/tolerancia)
relación entre X debe ser mayor a > 1.60 para que haya
e Y,
multicolinealidad. Es el índice de la inflación
controlando el de varianza.
efecto de las 5. Relación lineal entre VIs y VD (coeficiente de
otras VIs del correlación o gráfico de dispersión).
modelo 6. No deben existir errores de especificación: no se
excluyen VIs relevantes, no se incluyen VIs
irrelevantes.
el puntaje
7. Homocedasticidad: las puntuaciones
predicho y el
correspondientes de Y tienen una S2 igual para
obtenido
todas las puntuaciones. Levene.
(Residuales)
Supuestos de los Errores o Residuales
Estos NO se pueden violar en la VD. Son aleatorios y su
múltiple de la
media es 0.
mejor
1. La media de los errores es cero. Esto se verifica en
combinación
la media de los residuos.
2. Los errores se distribuyen normalmente. Se
la VD
verifica el máximo y el mínimo de los residuales,
estos han de coincidir. También se puede
comprobar con el gráfico de residuales, ya que
puede que los extremos sean datos atípicos, y si
 son pocos pues será una distribución normal.
Tiene un rango estandarizado de ±2 desviaciones.
3. No hay correlación entre los errores. Se verifica
con la prueba de Durbin-Watson, este coeficiente
comprende valores entre 0 y 4. No hay correlación
de errores entre 1.5 y 2.5. Si tiende a 0
(correlación +), si tiende a 4 (correlación -).
4. Homocedasticidad en los errores, es decir, que
exista la misma distancia entre los puntos de X e
Y (que tengan la misma desviación). Ello se
evalúa con el grafico de residuales. Se trazan
varias líneas paralelas, y si el mayor grueso se
encuentra en las paralelas con aproximadamente la
misma longitud, pues habrá homocedasticidad.
Soluciones a las violaciones en los Supuestos
- Si no hay normalidad o linealidad: transformar los
datos.
- Eliminar puntos extremos de los errores.
- Multicolinealidad: escoger la variable más
relevante, o hacer variables compuestas por AF, o
usar las 2 variables en regresiones distintas, o
puntajes sumados. Hacer dos análisis: 1 dejando
las v. se compara con otro donde se elimine 1 v.
Interpretaciones
Correlaciones
1. Correlaciones de Pearson: magnitud, criterio,
signo, significancia (al 5 %) e interpretación sin
causalidad (a mayor X, mayor/menor Y).
2. Correlación de V. Dummys: magnitud, criterio,
signo, significancia (al 5 %). Para la interpretación
es necesario conocer quién es 1 y quien 0. Por
ejemplo, si hombre es 1 y la correlación positiva
entonces: los hombres tienden a tener puntajes
más altos en la X. Si es una correlación negativa,
se hace con las mujeres.
3. Correlación múltiple (R): magnitud, criterio,
significancia (al 5 % con la prueba F). Esta
aumenta a medida que aumentan las V.
4. Coeficiente de determinación múltiple (R2): El
(monto en %) de las variaciones de la VD se
puede atribuir a la mejor combinación lineal de las
VIs. Su significancia se debe a la propiedad
aditiva, donde R2 = SCREGRESIÓN/ SCTOTAL. (Enlace
con el ANOVA).
5. Coeficiente de determinación múltiple
ajustado: se utiliza porque la R2 esta
sobrestimado. Aumenta al introducir VIs y cuando
la N es baja.
6. Significancia del modelo: se evalúa a partir de la
F y su p valor. Si se rechaza el modelo, significa
que al menos una v. predictora funciona en el
modelo.
Tabla de Coeficientes de Regresión
1. Intercepto (Constante o a): no se interpreta.
2. Pendiente (B o b): cuando VI aumenta en una
unidad, la VD aumenta (monto y significancia).
3. Beta (β): magnitud, signo, significancia,
interpretación (a mayor X, mayor/menor Y). En
esta hay un discurso de causalidad: se va de la VI
a la VD (Si X1, X2, …, Xk, entonces Y).
También, se pueden hacer comparaciones: la
variable que tiene un mayor poder predictivo
sobre la VD es la VI (mayor monto) que la VI
(menor monto).
4. Efectos que se pueden detectar con beta:
- Explicación: Si β disminuye con respecto a r
(espuria). r sign. Y Beta no sign.
- Supresión Si β aumenta o cambia de signo con
respecto a r. Para que se considere supresora debe
aumentar bastante. Ejemplo: rxy=.2, rxy,z=.7. O
rxy=.2, rxy,z=-.3. r no sign, y beta sign.
- No hay efecto: Si β es más o menos igual con
respecto a r. Cuando beta no es sign y r no sign, y
viceversa.
Método Introducir o Enter
Este método incluye todas las variables sean estas
significativas o no. Si a nivel teórico se proponen
correlaciones se hace la regresión sin verificar esta
correlación. Posibles objetivos: explorar o confirmar una
hipótesis de investigación según la teoría previa.
Stepwise (Paso a Paso, Pasos Sucesivos)
Se construye el modelo incorporando o eliminando 1 a 1
las VI según su significancia estadística (criterio de
inclusión). Se controla la multicolinealidad. Proporciona
un modelo parsimonioso. Aquí todas las V. son
significativas. Puede contribuir a un error tipo I, ya que
cada modelo se acumula ese error tipo I. Tiene problemas
de replicabilidad, ya que puede arrojar modelos distintos.
La entrada en las v. es en orden jerárquico. Venyaja: se
puede ver la contribución de las variables en onjunto y la
contribución independiente de cada paso. Se analiza el
último modelo. Objetivos: establecer cuáles v. explican la
VD (no tiene teoría o hipótesis clara), hacer un modelo
más eficiente cuando tienes muchas variables
determinando cuales son importantes.
Hacia adelante o Forward
Entra 1 a 1 las variables, la primera variable considerada
para entrar a la ecuación es la que presenta la t de Student
más alta. R2 va aumentando con la introducción de cada
variable.
Hacia atrás o Backward
Se van eliminando sucesivamente las variables (1 a 1) que
no satisfacen el criterio de significancia. Al final los
modelos definitivos son iguales y contienen solo aquellas
variables significativas. Se usa generalmente cuando hay
muchas variables o cuando no hay hipótesis claras acerca
de la relación entre las variables. Asegura linealidad y
controla multicolinealidad.
Interpretar Stepwise
Cambio en R2 o ΔR2: cuanto explica cada variable
introducida, y cuál es su F y p valor asociada.
Modelo total: la significancia y la F en el modelo total se
evalúa en el último modelo que aparece en el ANOVA.
Jerárquico
Se van ingresando las VIs según la teoría o criterio del
investigador (importancia teórica). El orden de los bloques
o etapas, donde en cada una de ellas no hay límites en las
VIs que se puedan introducir. Se usa para evaluar variables
moderadoras (pueden ser métricas, es decir, evalúa
interacción) en diseños prospectivos de grupo único y para
controlar efectos de variables. Las variables introducidas
en la primera etapa usualmente son variables de control o
sociodemográficas. Usa un método de control estadístico,
y esa varianza se resta a la total. Es decir, la introducción
de variables se da por una teoría o por un control
estadístico. En cada etapa puede entrar 1 o más variables,
no necesariamente por orden de importancia. Pueden
entrar variables significativas o no.
Interpretación
Cambio en R2: se puede evaluar cual es la variable más
importante en el modelo. Se ve el último modelo y solo se
analizan las variables significativas.
Consideraciones en Stepwise y Jerárquica
En los dos últimos, las variables se introducen por etapas y
por tanto es importante observar la cantidad relativa de la
S2 de la VD que es explicada al introducir las variables, R 2
va incrementando, cambia según el orden en el cual las
variables entran en la ecuación de regresión.