Documentos de Académico
Documentos de Profesional
Documentos de Cultura
07 de septiembre de 2020
Contenidos
Transformaciones
Definición
Una Serie de Tiempo es un conjunto de observaciones {Xt } reg-
istrada en un instante especifico t.
Si estas observaciones son registradas durante conjunto discreto de
tiempos T , entonces la Serie de Tiempo se dice del tipo discreta.
Mientras que si se registran continuamente durante un intervalo de
tiempo, entonces la Series de Tiempo es del tipo continua.
Ejemplos de Series de Tiempo
Earthquakes
30
25
20
15
10
Jun−14 Jul−14 Aug−14 Sep−14 Oct−14 Nov−14 Dec−14 Jan−15 Feb−15 Mar−15 Apr−15 May−15 Jun−15 Jul−15 Aug−15
Time
Ejemplos de Series de Tiempo
Demanda Electrica
30000
25000
20000
15000
10000
5000
2005 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015
Time
Ejemplos de Series de Tiempo
Ventas
The Australian red wine sales, Jan. '80 ... Jul. '95
4000
3000
2000
1000
1980 1981 1982 1983 1984 1985 1986 1987 1988 1989 1990 1991 1992 1993 1994 1995 1996
Year
Ejemplos de Series de Tiempo
Transporte Aéreo
700
600
500
400
300
200
100
1948 1949 1950 1951 1952 1953 1954 1955 1956 1957 1958 1959 1960 1961 1962
Time
Ejemplos de Series de Tiempo
Contaminación
10
1954 1955 1956 1957 1958 1959 1960 1961 1962 1963 1964 1965 1966 1967 1968 1969 1970 1971 1972 1973 1974
Time
Ejemplos de Series de Tiempo
Climatologı́a - Anillos de Crecimientos
2.0
1.5
1.0
0.5
0.0
Year
Ejemplos de Series de Tiempo
Paleoclimatologı́a - Sedimentos
Log Stalagmite Layer Thickness From Shihua Cave, China, from 665 BC to 1985 AD
−750 −500 −250 0 250 500 750 1000 1250 1500 1750 2000
Year
Ejemplos de Series de Tiempo
Macroeconomı́a
Imacec (2003−2014)
150
100
50
2003 2004 2005 2006 2007 2008 2009 2010 2011 2012 2013 2014
Year
Ejemplos de Series de Tiempo
Macroeconomı́a
350
300
250
200
150
1999 2000 2001 2002 2003 2004 2005 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015
Year
Ejemplos de Series de Tiempo
Economı́a
200
150
100
50
1984 1986 1988 1990 1992 1994 1996 1998 2000 2002 2004 2006 2008 2010 2012
Year
Ejemplos de Series de Tiempo
All-Start Baseball Games, 1933-1995
2
● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ●
1
0
−1
● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ●
−2
●
11
●
●
●
●
● ● ●
10
●
●
● ●
●
●
● ●
(Thousands)
●
●
● ●
●
● ● ●
● ● ● ●
●
9
● ● ●
● ●
●
● ● ● ●
● ● ●
●
● ●
● ●
●
● ● ● ●
● ●
● ● ●
8
●
● ● ●
● ● ● ●
● ●
●
●
7
● ●
●
● ● ● ●
● ●
●
●
●
● ● ● ●
●● ●
● ●
● ● ● ●
● ● ● ●
1
● ● ● ● ●
● ● ● ● ●
● ●
● ● ●
● ●
● ● ● ●
● ● ●
●
● ● ●● ● ● ●
● ● ● ●
● ● ● ● ● ● ●● ●
● ●●● ● ● ● ●●
● ● ●
● ●
● ●
● ● ● ● ●
● ● ●● ● ●
0
● ● ●
●
● ● ● ●
● ● ● ● ●
● ● ● ●
● ● ●
● ● ● ●
●
●
● ●● ● ●
● ●● ●
● ● ●
● ● ●
● ●
● ● ● ● ●
● ●
●
●● ●
● ● ● ●
● ● ●
−1
● ● ●
● ●
● ● ● ● ●
●
●● ● ● ●
● ● ●
● ●
●● ●
●
● ●
●
●
●●
●
−2
5 10 15 20
Ejemplos de Series de Tiempo
Población de U.S.A cada diez años, 1790-1990
250
●
200
●
150
●
(Millions)
●
●
●
100
●
50
●
●
●
●
●
● ●
● ●
0
●
6.0
● ●
●
5.5
● ●
●
●
5.0
● ●
●
●
●
4.5
●
●
●
4.0
●
●
●
● ●
● ●
●
3.5
●
● ●
●
Los ejemplos recién vistos son una muy pequeña muestra de la mul-
titud de series de tiempo encontradas en los campos de la ingenierı́a,
la ciencia, la sociologı́a, y la economı́a.
En este curso estudiaremos técnicas para hacer inferencias de dichas
series. Eso si, primero es necesario establecer un modelo de prob-
abilidad hipotético que represente el comportamiento de los datos.
Luego de haber elegido una familia de modelos, es posible calcular
los parámetros y comprobar la bondad de ajuste de este. La idea de
utilizar el el modelo es mejorar nuestra comprensión sobre como se
genera la serie.
El modelo puede ser utilizado simplemente para proporcionar una
descripción del comportamiento de los datos (Tendencia y Compo-
nentes Estacionales), como también para la predicción del futuro o
pasado.
Algunos Modelos Simples de Series de Tiempo
para t = 1, 2, . . . y k = 0, 1, . . .
Algunos Modelos Simples de Series de Tiempo
Caso Normal
En el caso particular de que todos los conjuntos tengan distribución
normal multivariada, las propiedades de segundo orden de Xt deter-
minan completamente las propiedades de la distribución conjunta,
por tanto, entregan una completa caracterización probabilı́stica de
la secuencia.
En general al observar el segundo orden de una serie perderemos
información, sin embargo, la teorı́a de minimizar el error cuadrático
medio de una predicción lineal depende sólo de las propiedades de
segundo orden. Esta justificación es suficiente para el uso las carac-
terı́sticas de segundo orden en modelos de series de tiempo.
Algunos Modelos Simples de Series de Tiempo
Modelos de Media Cero
Ruido
Quizás el modelo más simple para una serie temporal es aquella
en la que no hay ninguna tendencia o componente estacional y en
el que las observaciones son variables aleatorias independientes e
idénticamente distribuidas de media cero. Llamaremos a una se-
cuencia X1 ,. . . , Xn con estas caracterı́sticas como un Ruido.
Por independencia la función de distribución acumulada de esta se-
cuencia es de la forma:
n
Y
P(X1 ≤ x1 , . . . , Xn ≤ xn ) = P(Xi ≤ xi )
i=1
Algunos Modelos Simples de Series de Tiempo
Modelos de Media Cero
Ruido
lo que implica que no existe dependencia entre las observaciones, es
decir,
Proceso Binario
Un ejemplo de Ruido i.i.d. serı́a una secuencia de variables aleatorias
i.i.d Xt , t = 1, 2, . . . con
Paseo Aleatorio
Sean X1 ,. . . , Xt una secuencia de variables aleatorias i.i.d de media
cero (por ejemplo el caso binario) y definamos la siguiente secuencia
de variables aleatorias
St = X1 + X2 + · · · + Xt , para t = 1, 2, . . .,
donde S0 = 0 y St − St−1 = Xt .
Algunos Modelos Simples de Series de Tiempo
Modelos de Media Cero
●●● ●
●●●●●● ●● ●●● ●
●● ●● ●● ● ●●●●● ●●
15
●●●● ●● ● ● ● ●●
● ● ● ● ●●● ●● ●
●● ●● ●● ●●
● ●●●● ●● ●
● ●● ●●●●●
10
●●● ●● ●
●● ● ●●●
●●●● ●
●● ●
● ● ●●
● ● ●●●●●
5
●● ●● ● ●●● ● ●
● ● ● ● ●●● ●● ●●● ●
●● ● ●● ● ● ●● ● ●● ● ●●● ●
●●● ●●● ● ● ● ● ● ●
●●● ●●●●●
● ● ●
●● ●● ●●●● ● ● ● ●●● ● ●● ●●●●●● ●●● ● ●●● ● ●● ● ●● ●●● ● ●●●●● ●●● ●●● ●● ●●● ●●● ● ●●●● ● ●●● ●●●● ● ● ● ●●● ●●●● ● ●●● ●● ● ● ● ●●●● ●● ● ● ● ●●●● ● ●●
1
0
−1
Tendencia
Consideremos la siguiente representación para una serie de tiempo
Xt
Xt = mt + Yt ,
donde mt corresponde a la componente Tendencia e Yt una secuen-
cia de media cero.
Un polinomio de orden k para mt serı́a
mt = β0 + β1 t + · · · + βk t k
●
200
●
150
●
(Millions)
●
●
●
100
●
50
●
●
●
●
●
● ●
● ●
0
●
●
● ●
●
●
581
●
● ● ●
● ●
● ●● ●
●●
580
● ● ● ●
● ● ●
● ●● ● ●
● ●
● ● ● ●
● ●
● ● ● ● ●
●● ●
●
●●
579
●● ● ● ●
●●
● ●
● ●
● ● ● ●
●
● ● ●
● ● ●
● ● ●
578
● ●
● ●
● ● ●
●
●
●
● ●
●
577
●● ●●● ●
●● ●
●
576
● ●
●
2
●
●
● ● ●
●
● ● ●
● ●
●
●
●●
1
● ●
● ● ●●
● ● ●
● ● ●
● ●
●
● ● ● ●
● ● ● ●
● ● ● ● ●
●
●
0
● ●
● ● ●
● ● ●
● ● ● ●
●
● ● ●
●● ●●
●● ● ●
●
●
−1
● ●
●
● ● ● ●
● ● ●
●
●
● ●
●
● ●●
●
−2
●
●●
●
11
●
●
●
●
● ● ●
10
●
●
● ●
●
●
● ●
(Thousands)
●
●
● ●
●
● ● ●
● ● ● ●
●
9
● ● ●
● ●
●
● ● ● ●
● ● ●
●
● ●
● ●
●
● ● ● ●
● ●
● ● ●
8
●
● ● ●
● ● ● ●
● ●
●
●
7
● ●
●
donde
1, si el periodo t corresponde a estación j, j = 1, . . . , d
Dj,t = ,
0, en otro caso
st = αj , j = 1, . . . , d
Algunos Modelos Simples de Series de Tiempo
Modelos con Tendencia y Estacionalidad
●
11
●
●
●
●
● ● ●
10
●
●
● ●
●
●
● ●
(Thousands)
●
●
● ●
●
● ● ●
● ● ● ●
●
9
● ● ●
● ●
●
● ● ● ●
● ● ●
●
● ●
● ●
●
● ● ● ●
● ●
● ● ●
8
●
● ● ●
● ● ● ●
● ●
●
●
7
● ●
●
● ●
●
●
●
●● ●
● ●
1
● ●
●
● ● ●●
●
●
● ● ● ●
● ●
● ● ●
● ●
● ● ● ●
● ● ● ● ●
●
● ● ● ● ● ● ●●
0
● ● ●
● ● ● ●
● ●
● ● ● ●
● ● ●
●● ●
● ● ● ●
● ●
● ●
● ●● ● ● ●
●
● ●
● ● ●
● ●
−1
● ●
● ●
●
●
●
−2
Time
Transformaciones
Xt
250
200
150
100
Time
f(Xt) = log(Xt)
200.2
200.1
200.0
199.9
199.8
Time
Transformaciones
Obtener Normalidad
Xt
100
80
60
40
20
0
10 20 30 40 50 60 70
f(Xt) = log(Xt)
150
100
50
0
log(x)
Transformaciones
Familia de transformaciones Box-Cox
Var(Xt ) = Ω(µ)
µ = E (Xt )
95%
−1620
−1625
log−Likelihood
−1630
−1635
λ
Transformaciones
Familia de transformaciones Box-Cox
Ejemplo: Ventas mensuales de Vino Tinto en Australia, Ene’80 -
Jul’95.
Xt = AustraliaRedWinet Yt = (Xtλ − 1) λ
4000
● ●
120
●
●
● ●
● ● ●
●
3000
● ●
● ●
100
●●● ● ●
● ● ● ●
● ● ● ● ● ●
● ● ● ● ● ● ●
●●● ● ● ●
● ●
●
● ● ●●● ●● ● ● ●●● ●● ●
● ● ●●
●
●
●
● ● ● ● ●● ●● ●● ●● ● ● ●
●
● ● ● ●● ● ● ●
● ● ● ● ● ●●● ●
●
●
● ● ●● ● ● ●●● ●● ● ● ●● ● ● ●
●
●● ● ● ●● ● ●● ● ● ●
80
2000
● ● ● ● ●●
● ●●
●●
● ●● ●● ● ● ●
●
●● ● ●●
● ● ● ●● ● ●● ●● ●●● ● ●● ●
● ●●● ● ● ● ● ●
● ●● ● ● ● ●
● ●● ● ●● ● ● ●● ● ● ●
● ● ●● ● ● ● ● ● ●●
● ● ● ● ●
●● ● ●● ●● ●●● ●● ●● ● ● ●
● ●
●● ●
● ●● ● ● ●
● ● ●
● ● ● ● ●
● ●● ● ● ● ● ●●● ●● ●
●● ●●● ●●● ● ● ● ● ●
60
● ● ● ● ●● ● ● ● ●
● ● ●
● ●●● ● ● ●● ● ● ● ● ● ●● ● ●
500 1000
● ● ● ●
● ● ●●● ●● ●●● ● ● ● ● ● ●
●●● ● ● ● ● ● ● ● ● ●
● ●● ● ● ● ● ● ●
● ● ● ● ● ●
● ● ● ●
●● ●
●
● ● ●
● ●
● ●
40
1980 1985 1990 1995 1980 1985 1990 1995
Time Time
Histograma Xt Histograma Yt
6e−04
0.030
4e−04
0.020
Density
Density
2e−04
0.010
0e+00
0.000
Definición
Una serie de tiempo {Xt } es estacionaria en el sentido débil (2do
orden) si
I µX (t) es independiente de t.
I γX (t + k, t) es independiente de t para un k dado.
Definición
Una serie de tiempo {Xt } es estrictamente estacionaria si los vec-
tores aleatorios (X1 , . . . , Xn ) y (Xk , . . . , Xn+k ) tienen la misma dis-
tribución para todo entero k y n > 0.
Es fácil ver que si Xt es estrictamente estacionario y E (Xt2 ) < ∞
para todo t, entonces también en débilmente estacionario.
Modelos Estacionarios y Función de Auto-Correlación
Definiciones
Definición
Para una serie estacionaria la función de covarianza cumple con:
Definición
Sea {Xt } una serie de tiempo estacionaria. Su función de auto-
covarianza esta dada por
γX (k)
ρX (k) = = Corr(Xt , Xt+k )
γX (0)
Modelos Estacionarios y Función de Auto-Correlación
Ejemplos
Ruido IID
Si {Xt } es un Ruido IID, con E (Xt ) = 0 y E (Xt ) = σ 2 < ∞ para
todo t. Entonces
2
σ , si k = 0
γX (t, t + k) =
0, si k =6 0
Ruido Blanco
Si {Xt } es una secuencia de variables aleatorias NO correlacionadas
de media cero y varianza σ 2 , es claro entonces que {Xt } es esta-
cionario con función de auto-covarianza como la de un Ruido IID. A
esta secuencia la llamaremos Ruido Blanco y la denotaremos como
{Xt } ∼ RB(0, σ 2 ).
Paseo Aleatorio
Si {St } es un paseo aleatorio con E (St ) = 0 y Var(St ) = t σ 2 < ∞
para todo t. Su función de auto-covarianza esta dada por:
Xt = Zt + θ Zt−1 , t ∈ Z,
E (Xt ) = 0
E (Xt2 ) = σ 2 (1 + θ2 )
Modelos Estacionarios y Función de Auto-Correlación
Ejemplos
Xt = φ Xt−1 + Zt , t ∈ Z,
E (Xt ) = 0
σ2
, si k = 0
1 − φ2
γX (k) =
φ|k| σ 2
, si k 6= 0
1 − φ2
Modelos Estacionarios y Función de Auto-Correlación
Auto-correlación Muestral
Definición
Sean x1 , . . . , xn observaciones de una serie de tiempo.
I La media muestral de x1 , . . . , xn es:
n
1X
x= xt
n
t=1
Definición
I La función de auto-correlación es:
γ̂(k)
ρ̂(k) = ,
γ̂(0)
Z1− α2 Z1− α2
ρ̂(k) − √ ; ρ̂(k) + √
n n
Modelos Estacionarios y Función de Auto-Correlación
Auto-correlación Muestral
●
2
● ●
● ● ● ●
● ● ●
● ●●
● ● ●
● ● ● ●
● ● ●
● ●
● ● ● ● ● ●
● ● ●
1
● ● ●
● ●
● ● ● ●
● ● ● ● ●
● ● ● ● ● ● ●
● ●● ● ●
● ● ● ● ●
● ● ●● ●
● ● ● ● ● ● ● ● ●
●● ● ●● ●● ● ● ●
●
● ●
● ● ● ● ●
● ● ●
0
● ● ●
● ● ● ● ●
● ● ● ● ● ●
● ● ● ● ●
● ● ● ●
● ● ● ●
● ● ● ●
● ● ●● ● ● ●
● ● ● ● ●● ●
● ● ● ●● ● ● ●
● ● ● ●
● ● ● ●
● ●
−1
●
● ● ● ●
● ● ● ●
● ●
● ●
● ● ●
● ●● ●
● ● ●
● ● ●
● ● ●●
● ●
−2
●
●
●
●
●
Time
Modelos Estacionarios y Función de Auto-Correlación
Auto-correlación Muestral
0.4
0.2
0.0
0 10 20 30 40
Lag
Modelos Estacionarios y Función de Auto-Correlación
Auto-correlación Muestral
Ventas mensuales de Vino Tinto en Australia, Enero 1980 -
Julio 1995.
1.0
0.8
0.6
ACF
0.4
0.2
0.0
0 10 20 30 40
Lag
Modelos Estacionarios y Función de Auto-Correlación
Auto-correlación Muestral
Lake Huron
Xt = α0 + α1t + Yt
582
●
●
● ● ●
●
● ● ●
●
● ●
● ● ● ●
580
● ● ● ●
● ● ● ● ● ●
● ● ● ● ● ●
● ● ● ● ● ●
● ● ● ● ● ● ● ●
● ● ● ● ● ● ●
● ● ● ●
● ● ●
● ● ● ●
● ● ● ●
578
● ● ● ● ● ●
● ● ●
● ● ● ●
●
● ●
● ● ●
● ● ● ● ● ● ●
● ●
576
●
●
Time
Yt
●
● ● ●
2
● ● ●
● ●
● ● ● ●
● ● ●
● ●
1
● ● ●
● ● ● ●
● ● ● ● ● ●
● ● ● ●
● ● ● ● ● ● ●
● ● ● ● ● ●
●
0
● ● ●
● ● ● ● ● ● ● ●
● ● ●
● ● ● ● ● ●
● ● ● ●
● ●
−1
● ● ●
● ● ● ● ● ● ●
● ●
● ●
● ● ● ●
−2
●
● ●
●
●
Time
ACF Yt
1.0
0.6
ACF
0.2
−0.2
0 10 20 30 40
Lag
Estimación - Eliminación de Tendencia y Estacionalidad
Xt = mt + st + Yt ,
●
●
● ●
8.0
●
●
● ●
●
● ●● ● ●●
● ●
● ● ●
● ● ●
● ● ● ●
● ● ● ●●●
● ● ● ● ● ●● ●
● ● ● ● ● ● ●
● ●
● ●● ● ● ● ●● ●
●
● ● ● ●
● ● ●
● ● ● ●
7.5
● ● ● ● ●
● ●
● ●● ● ● ● ●
● ● ●●
●●
●● ● ● ●
● ●● ●● ●●● ● ●● ●
● ● ●
● ●● ● ● ●
●
● ● ● ●
● ●● ● ●
● ● ● ● ● ● ●
● ●
● ●● ● ●
7.0
● ● ●
● ● ● ●
● ●
● ● ● ●●● ● ● ● ●
●● ● ● ● ●
● ●
● ●● ●
● ● ●
● ●
●
●
● ●
6.5
●
●
●
●
●
●
6.0
● ●
●
5.5
● ●
●
●
5.0
● ●
(Thousands)
●
●
●
4.5
●
●
●
4.0
●
●
●
● ●
● ●
●
3.5
●
● ●
●
●
500
●
● ●
●
● ●
● ●
●
● ●
●
0
● ●
●
● ● ●
●
●
● ● ●
●
−500
m̂t = α Xt + (1 − α) m̂t−1 , t = 2, . . . , n
y m̂1 = X1 .
Estimación - Eliminación de Tendencia y Estacionalidad
Modelo No Estacional con Tendencia
●
6.0
● ●
●
5.5
● ●
●
●
5.0
● ●
(Thousands)
●
●
●
4.5
●
●
●
4.0
●
●
●
● ●
● ●
●
3.5
●
● ●
●
B j Xt = Xt−j , ∇j Xt = ∇ ∇j−1 Xt ,
con ∇0 Xt = Xt .
Estimación - Eliminación de Tendencia y Estacionalidad
Modelo No Estacional con Tendencia
∇2 Xt = ∇ ∇ Xt
= (1 − B) (1 − B) Xt
= (1 − 2 B + B 2 ) Xt
= Xt − 2 Xt−1 + Xt−2
Estimación - Eliminación de Tendencia y Estacionalidad
Modelo No Estacional con Tendencia
●
10
●
5
●
●
●
(millons)
● ●
●
● ● ●
0
●
● ●
●
−5
Xt = mt + st + Yt , t = 1, . . . , n
d
X
donde E (Yt ) = 0, st+d = st y sj = 0.
j=1
Estimación - Eliminación de Tendencia y Estacionalidad
Modelo Estacional con Tendencia
Auto-correlación Muestral
Para muestras grandes de tamaño n, la autocorrelación muestral de
una secuencia iid Y1 ,. . . ,Yn con varianza finita son aproximadamente
iid con distribución Normal(0, 1/n). Para un nivel de confianza del
95% si ρ̂(k) ∈ ±1.96/n, la hipótesis H0 : ρ(k) = 0 no es rechazada.
Test para Ruido Estimado
Test de Portmanteau
En vez de realizar test para ρ(k) con |k| = 1, 2, . . .. Es posible hacer
un solo estadı́stico
k
X
Q=n ρ̂2 (j) ∼ χ2 (k)
j=1
●
0.8
●
●
●
0.6
●
●
p−value
●
0.4
●
●
●
●
● ●
0.2
●
●
●
● ●
●
●
0.0
5 10 15 20
Lag
Test para Ruido Estimado
Normalidad
Para testear la hipótesis de normalidad se puede hacer mediante:
I Jarque Bera.
I Shapiro-Wilk.
I Kolmogorov-Smirnov.
o graficamente
I Histograma.
I QQ-Norm.
Test para Ruido Estimado
0.4
0.3
Density
0.2
0.1
0.0
−3 −2 −1 0 1 2 3
x
Test para Ruido Estimado
● ●
●
● ●
●●
●●●●
●●
●●●●
2
●
●●
●●
●●●●●●●●
●
●●
●●
●●
●●
●●
●
●●
●●
●
●
●
●●
●
●●
●
●
●●
●
●
●
●●
●
●
●●
●
●
●●
●
●
●●
●●
●
●
●●
●
●
●
●●
●
●
●●
●●
●
●●
●
●●
●●
●
●●
●●
●
●
●●
●
●●
●●
●
●●
●
●●
●
●●
●
●●
●
●●
●
●
●
1
●
●
●
●●
●
●
●
●
●●
●
●
●
●
●
●●
●
●
●●
●
●●
●●
●
●
●
Sample Quantiles
●
●
●●
●
●
●●
●
●●
●
●
●●
●
●
●●
●●
●●
●
●●
●
●
●●
●
●●
●
●
●●
●
●●
●
●
●
●●
●●
●
●●
●●
●
●
●●
●
●
●●
●
●
●●
●
●●
●
●●
●
●●
●
●●
●
●
●●
●
●
●●
●
●●
●
●
●●
●
0
●
●
●●
●
●
●●
●
●
●●
●
●●
●
●
●
●
●
●●
●
●●
●
●●
●
●
●●
●
●●
●●
●
●
●●
●
●●
●
●
●●
●
●
●●
●
●●
●
●●
●
●
●
●●
●
●●
●●
●
●●
●
●
●
●●
●
●●
●
●
●
●●
●
●
●●
●
●
●●
●
●
●●
●
●
●●
●●
●
●●
●
●
●●
●
●●
●
●●
●
●
●
●
−1
●
●
●●
●
●●
●
●●
●
●●
●
●●
●●
●
●●
●
●●
●
●●
●●
●
●●
●●
●
●●
●
●●
●●
●
●●
●
●
●●
●
●
●●
●
●●
●
●
●●
●
●●
●
●●
●
●
●●
●
●●
●
●●
●
●●
●
●●
●
●●
●
●
●●
●●
●
●
●●
●
●●
●
●●
●
●●
●●
−2
●●
●●●
●●●
●●●●●●●
●
●●●●
●●
● ● ●●
● ●
●
●
−3
−3 −2 −1 0 1 2 3
Theoretical Quantiles