Inferencia Bayesiana

Inferencia Bayesiana

Ms Carlos Lpez de Castilla Vsquez

UNALM

Ms Carlos Lpez de Castilla Vsquez

Inferencia Bayesiana

Inferencia Bayesiana
Teora de decisin

Teora de decisin Estimacin puntual Intervalos de credibilidad Pruebas de hiptesis

La teora de decisin es un rea de suma importancia en estadstica ya que muchos problemas del mundo real pueden tomar la forma de un problema de decisin. El proceso de inferencia estadstica puede ser entendido como un problema de decisin. Luego de observar un conjunto de datos: qu valor debo utilizar para estimar el parmetro? El enfoque bayesiano es el nico que considera toda la informacin disponible para la toma decisiones.

Ms Carlos Lpez de Castilla Vsquez

Inferencia Bayesiana

Inferencia Bayesiana

Teora de decisin Estimacin puntual Intervalos de credibilidad Pruebas de hiptesis

Elementos en la teora de decisin

Un espacio paramtrico que describa todos los posibles estados de la naturaleza. Un conjunto de acciones A sobre las cuales tomar la decisin. Una funcin prdida L (, a) que determina la prdida en la que se incurre al tomar la decisin a cuando el verdadero estado de la naturaleza es . Una distribucin posterior f (/x ) que contenga toda la informacin disponible sobre el parmetro.

Ms Carlos Lpez de Castilla Vsquez

Inferencia Bayesiana

Inferencia Bayesiana
Prdida esperada posterior

Teora de decisin Estimacin puntual Intervalos de credibilidad Pruebas de hiptesis

Dada la distribucin posterior, la idea es optar por la accin que minimice la prdida esperada posterior (o maximice la ganancia). Se busca minimizar la siguiente expresin:
(a, x ) =

L (, a) f (/x ) d

En la expresin anterior, (a, x ) es la prdida esperada al tomar la accin a habiendo observado el valor x.

Ms Carlos Lpez de Castilla Vsquez

Inferencia Bayesiana

Inferencia Bayesiana

Teora de decisin Estimacin puntual Intervalos de credibilidad Pruebas de hiptesis

Regla de decisin y riesgo de Bayes

Distintos valores de x determinarn distintos valores de a que minimicen (a, x ). El conjunto de estos valores, denotados por d (x ), constituyen la regla de decisin de Bayes. Dada una regla de Bayes se puede calcular el riesgo asociado a este conjunto de acciones usando el riesgo de Bayes:

RB (d ) =

(d (x ) , x ) f (x ) dx

Ms Carlos Lpez de Castilla Vsquez

Inferencia Bayesiana

Inferencia Bayesiana
Estimacin puntual

Teora de decisin Estimacin puntual Intervalos de credibilidad Pruebas de hiptesis

La distribucin posterior ofrece un resumen completo del proceso de inferencia sobre el parmetro . Sin embargo, en algunos casos es necesario obtener un valor estimado del parmetro desconocido: qu valor elegir como estimador de ? El problema de estimacin se convierte en un problema de decisin y para resolverlo se requiere especicar una funcin prdida. La eleccin de una funcin prdida en un problema especco depender del contexto.

Ms Carlos Lpez de Castilla Vsquez

Inferencia Bayesiana

Inferencia Bayesiana
Funcin prdida cuadrtica

Teora de decisin Estimacin puntual Intervalos de credibilidad Pruebas de hiptesis

Theorem La funcin prdida cuadrtica se dene por: L (, a) = ( a)2 El estimador de Bayes para bajo la funcin prdida cuadrtica es la media de la distribucin posterior.

Ms Carlos Lpez de Castilla Vsquez

Inferencia Bayesiana

Inferencia Bayesiana
Funcin prdida valor absoluto

Teora de decisin Estimacin puntual Intervalos de credibilidad Pruebas de hiptesis

Theorem La funcin prdida valor absoluto se dene por: L (, a) = | a| El estimador de Bayes para bajo la funcin prdida valor absoluto es la mediana de la distribucin posterior.

Ms Carlos Lpez de Castilla Vsquez

Inferencia Bayesiana

Inferencia Bayesiana
Funcin prdida 0-1

Teora de decisin Estimacin puntual Intervalos de credibilidad Pruebas de hiptesis

Theorem La funcin prdida 0-1 se dene por: L (, a) = 0 si |a | 1 si |a | >

El estimador de Bayes para bajo la funcin prdida 0-1 es la moda de la distribucin posterior.

Ms Carlos Lpez de Castilla Vsquez

Inferencia Bayesiana

Inferencia Bayesiana
Intervalos de credibilidad

Teora de decisin Estimacin puntual Intervalos de credibilidad Pruebas de hiptesis

Los intervalos de credibilidad pueden ser interpretados como los intervalos dentro de los cuales se encuentra el parmetro con cierta probabilidad. La interpretacin anterior no es posible y representa un problema en los intervalos clsicos en los que el parmetro es considerado un valor constante (en este caso, la interpretacin es frecuencial). Una dicultad con los intervalos de credibilidad bayesianos es que estos pueden ser denidos de varias maneras: los intervalos centrales y los intervalos de maxima densidad posterior.

Ms Carlos Lpez de Castilla Vsquez

Inferencia Bayesiana

Inferencia Bayesiana
Pruebas de hiptesis

Teora de decisin Estimacin puntual Intervalos de credibilidad Pruebas de hiptesis

Una prueba de hiptesis consiste en tomar una decisin entre dos alternativas: H0 : 0 y H1 : 1 . En el anlisis bayesiano, el contraste de hiptesis se evala en trminos de la probabilidad a priori y la probabilidad posterior correspondientes a H0 y H1 , dadas por: A favor de H0 A favor de H1

A priori Posterior

0 = Pr ( 0 /f ()) 0 = Pr ( 0 /f (/x ))

1 = Pr ( 1 /f ()) 1 = Pr ( 1 /f (/x ))

Ms Carlos Lpez de Castilla Vsquez

Inferencia Bayesiana

Inferencia Bayesiana
Pruebas de hiptesis

Teora de decisin Estimacin puntual Intervalos de credibilidad Pruebas de hiptesis

A partir de estas probabilidades es posible calcular el odds a priori 1 /0 , el odds posterior 1 /0 y el factor de Bayes a favor de H1 (anlogo bayesiano de la razn de verosimilitud) dado por: B=
0 1 0 1 Pr (x / 1 ) Pr (x / 1 ) 1 /0 = = = 1 /0 1 0 1 0 Pr (x / 0 ) Pr (x / 0 )

Ms Carlos Lpez de Castilla Vsquez

Inferencia Bayesiana