PONTIFICIA UNIVERSIDAD CATÓLICA DE CHILE

FACULTAD DE MATEMÁTICAS
DEPARTAMENTO DE ESTADÍSTICA

INTERROGACIÓN 2
PARTE I
Métodos Bayesianos - EYP2805 - EYP280I

Profesor : Ana Marı́a Araneda

Ayudante : Jessica Pavani
Fecha : 17 de octubre de 2019

1. Considere la secuencia de variables aleatorias permutables x1 , . . . , xn , con versosimilitud Nor-

mal de parámetros µ y σ 2 .
a) Encuentre la densidad a priori de Jeffreys de (µ, σ 2 ).

Solución: Sea θ = (µ, σ 2 ). Entonces:

n
n 1 X
log p(x|θ) = − log(2πσ 2 ) − 2 (xi − µ)2
2 2σ
i=1

De donde:
∂ log p(x|θ) n
= (x̄ − µ)
∂µ σ2
2
∂ log p(x|θ) n
= − 2
∂µ2 σ
∂ 2 log p(x|θ) n
= − 4 (x̄ − µ)
∂µ∂σ 2 σ
n
∂ log p(x|θ) n 1 X
= − + (xi − µ)2
∂σ 2 2σ 2 2σ 4
i=1
n
∂ 2 log p(x|θ) n 1 X
= − (xi − µ)2 .
∂(σ 2 )2 2σ 4 σ 6
i=1

Luego, se tiene que:

 2  
∂ log p(x|θ)  n
−E 2
θ =
∂µ  σ2
 2  
∂ log p(x|θ)  n
−E 2
θ = (E(x̄|θ) − µ) = 0
∂µ∂σ  σ4
n    !
xi − µ 2 
 2  
∂ log p(x|θ)  n 1 X
−E θ = − 4 + 4E θ
∂(σ 2 )2  2σ σ σ 
i=1
n n n
= − 4 + 4 = 4,
2σ σ 2σ

Métodos Bayesianos 1 Segundo Semestre 2019

 dado que:
n   
X xi − µ 2 
 θ ∼ Xn2 .
σ 
i=1
Luego, el determinante pedido corresponde a:
n n
· − 0 ∝ (σ 2 )−3 . [0,8]
σ 2 2σ 4
(es posible recibir puntaje parcial)
Finalmente, la distribución a priori de Jeffreys corresponde a:
p(µ, σ 2 ) ∝ (σ 2 )−3/2 , µ ∈ R, σ 2 ∈ R+ . [0,4]
b) Utilizando las propiedades de estas distribuciones, encuentre la distribución a priori de
Jeffreys de (µ, log σ). Justifique.

Solución: Por la propiedad de invarianza de la distribución a priori de Jeffreys, podemos

obtener la distribución a priori de (µ, log σ) a través de un cambio de variable. Note que,
según la distribución a priori de Jeffreys, µ y σ 2 son independientes, luego, podemos
trabajar de manera univariada. Sea:
dσ 2
φ = log σ, σ 2 = e2φ , = 2e2φ > 0,
dφ
luego,
p(φ) ∝ (e2φ )−3/2 e2φ = e−φ φ ∈ R.
Finalmente, por independencia entre µ y φ, y dado que µ posee una distribución a priori
plana en R:
p(µ, φ) ∝ e−φ , µ ∈ R, φ ∈ R.
[0,8] por argumentar y mostrar que comprende propiedad de invarianza, [0,4] por
resultado
c) Derive la distribución a posteriori de µ dado σ 2

Solución: Se tiene la distribución a posteriori conjunta:

p(µ, σ 2 |x) ∝ p(µ, σ 2 ) p(x|µ, σ 2 )
n
( )
2 −3/2 2 −n/2 1 X 2
= (σ ) (σ ) exp − 2 (xi − µ)
2σ
i=1
 
2 −(n/2+3/2) 1 2 2
= (σ ) exp − 2 ((n − 1)S + n(x̄ − µ) ) ,
2σ
donde:
n
2 1 X
S = (xi − x̄)2 .
n−1
i=1
Luego, n n o
p(µ|x, σ 2 ) ∝ exp − 2 (µ − x̄)2 ) , µ ∈ R,
2σ
que corresponde al kernel de una distribución
σ2
 
Normal x̄, . [1,2]
n
(es posible recibir puntaje parcial)

Métodos Bayesianos 2 Segundo Semestre 2019

 d) Derive la distribución a posteriori marginal de σ 2 .

Solución: Se tiene:
 
1
p(µ, σ 2 |x) ∝ (σ 2 )−(n/2+3/2) exp − 2 (n − 1)S 2
2σ
n n o 1 1/2

2
exp − 2 (x̄ − µ) (σ 2 )1/2
2σ σ2
| {z }
∝p(µ|x,σ 2 )
 
2 −(n/2+1) 1
∝ (σ ) exp − 2 (n − 1)S p(µ|x, σ 2 ),
2
2σ
Luego,  
2 2 −(n/2+1) 1 2
p(σ |x) ∝ (σ ) exp − 2 (n − 1)S ,
2σ
que corresponde al kernel de una distribución:
X 2 − inversa(n, s2 ),
con:
n
2 1X
s = (xi − x̄)2 .
n
i=1
[1,2] (es posible recibir puntaje parcial)
e) Derive la distribución a posteriori marginal de µ.

Solución: Se tiene:
Z
p(µ|x) = p(µ, σ 2 |x) dσ 2
Z  
2 −(n/2+3/2) 1
∝ (σ ) exp − 2 A dσ 2 ,
R+ 2σ
donde:
A = (n − 1)S 2 + n(x̄ − µ)2 .
Hacemos el cambio de variable en la integral:
A A A
z= , σ2 = , dσ 2 = − dz.
2σ 2 2z 2z 2
Luego,
Z
−(n/2+1/2)
p(µ|x) ∝ A z n/2−1/2 e−z dz
R+
∝ A−(n/2+1/2)
∝ ((n − 1)S 2 + n(x̄ − µ)2 )−(n/2+1/2)
 −(n/2+1/2)
n 2
∝ 1+ (x̄ − µ)
(n − 1)S 2
"  2 !−(n+1)/2
1 µ − x̄
∝ 1+ √ ,
n n − 1S/n

Métodos Bayesianos 3 Segundo Semestre 2019

 que corresponde al kernel de una distribución:
 
n−1 2
tn x̄, S .
n2

[1,2] (es posible recibir puntaje parcial)

[1,0] punto base

Métodos Bayesianos 4 Segundo Semestre 2019