Seccin : Bsqueda de estimadores Previo : Nocin de verosimilitud Siguiente : Intervalos de confianza

Ejemplos de mxima verosimilitud

En la mayor parte de los casos de inters prctico, la ley y por tanto tambin la verosimilitud, tienen una expresin calculable en funcin de . Para calcular el mximo de la verosimilitud, es necesario determinar los valores para los cuales la derivada de la verosimilitud se anula, pero por definicin la verosimilitud es un producto de probabilidades o de densidades, lo cual puede ser bastante complicado de derivar. Es preferible derivar una suma, y es por esto que comenzamos por substituir la verosimilitud por su logaritmo. Al ser el logaritmo una funcin creciente, es equivalente maximizar o . Una vez determinado el valor de para el cual la derivada se anula, hay que asegurarse con la ayuda de la segunda derivada que el punto en cuestin es realmente un mximo. Trataremos a continuacin los casos de algunas familias clsicas. Leyes de Bernoulli: El conjunto de los valores posibles es El parmetro desconocido es . Si muestra, la verosimilitud vale: .

es una

Su logaritmo es:

La derivada con respecto a

es:

Ella se anula en:

La segunda derivada es:

Ella es estrictamente negativa, el valor mximo. Si

es efectivamente un

es una muestra de la ley de Bernoulli de es:

parmetro , el estimador de mxima verosimilitud de

es decir la frecuencia emprica.

Leyes geomtricas: El conjunto de valores posibles es parmetro Si desconocido es

, el .

es una muestra entera, la verosimilitud vale:

Su logaritmo es:

La derivada con respecto a

es:

Ella se anula en:

La segunda derivada es:

Ella es estrictamente negativa, el valor mximo. Si

es efectivamente un

es una muestra de la ley geomtrica de es:

parmetro , el estimador de mxima verosimilitud de

es decir el inverso de la media emprica, lo que es coherente con el hecho que el parmetro es el inverso de la esperanza.

Leyes exponenciales: El parmetro desconocido es . Se trata en este caso de leyes continuas, la verosimilitud es por tanto un producto de valores de la densidad. Para una -tupla de nmeros reales positivos ella vale:

Su logaritmo es:

La derivada con respecto a

es:

Ella se anula en:

La segunda derivada es:

Ella es estrictamente negativa, el valor

es efectivamente un

mximo. Si es una muestra de la ley exponencial de parmetro , el estimador de mxima verosimilitud de es:

es decir el inverso de la media emprica, lo que es coherente con el hecho que el parmetro es el inverso de la esperanza.

Leyes normales: Para un parmetro multidimensional el principio es el mismo, pero los clculos de optimizacin son ms complicados. Para las leyes normales hay dos parmetros desconocidos. Para evitar confusiones en las notaciones de las derivadas, denotaremos por al parmetro de la varianza, usualmente denotado por . Para una -tupla de nmeros reales la verosimilitud vale:

Su logaritmo es:

Las derivadas parciales con respecto a los parmetros

son:

Ellas se anulan en:

y Las segundas derivadas parciales son:

Por tanto la matriz hessiana (matriz de las segundas derivadas parciales) en el punto es:

Sus valores propios son negativos, el punto un mximo. Si parmetros y , los

es efectivamente

es una muestra de la ley normal de estimadores de mxima la

verosimilitud de y son respectivamente la media y varianza empricas de la muestra, tal como era de esperar.

El mtodo de mxima verosimilitud (MLE) es uno de los ms robustos y poderosos de los mtodos modernos para obtener una aproximacin de la confiabilidad. La evaluacin por el mtodo de mxima verosimilitud procura encontrar los valores ms probables de los parmetros de la distribucin para un conjunto de datos. Maximizando el valor de lo que se conoce como la funcin de verosimilitud La funcin de verosimilitud se basa en la funcin de la densidad de la probabilidad fdp para una distribucin dada. Como ejemplo considere una fdp genrica:

Donde x representa los datos (tiempo a la falla), y 1, 2, ...,k son los parmetros que se estimarn y k el nmero de parmetros a evaluar. Por ejemplo para una distribucin de Weibull de dos parmetros, beta y theta son los parmetros que se deben estimar. Para un conjunto de datos de observacin completa, la funcin de verosimilitud es un producto de la funcin de la densidad de la probabilidad, con un elemento por cada punto en el conjunto de datos:

R es el nmero de observaciones independientes que corresponden al tiempo a la falla en un anlisis de ciclo de vida, xi es la isimo tiempo a la falla. Matemticamente es ms fcil manipular esta funcin tomando su logaritmo. Luego la funcin logartmica de la verosimilitud se expresa de la siguiente forma:

Por lo tanto para encontrar los valores de los parmetros 1, 2, ...,k se debe maximizar L . Esto comnmente se hace tomando la derivada parcial de la ecuacin de para cada uno de los parmetros e igualndolos a cero:

Esto resulta en un nmero de ecuaciones con un igual nmero de variables, las cuales pueden resolverse simultneamente. Si existen las soluciones de forma cerrada para las derivadas parciales la solucin puede ser relativamente simple. En las situaciones donde no se da el caso, se necesitan emplear algunos mtodos numricos. El mtodo de estimacin de mxima verosimilitud tiene varias propiedades que hacen atractiva su aplicacin. Por ejemplo: Es consistentemente asinttico, que significa que mientras que el tamao de muestra aumenta, las estimaciones convergen a los valores correctos. Es asinttico eficiente, que significa que para conjuntos de datos grandes produce las estimaciones ms exactas. Es asinttico imparcial, que significa que para conjuntos de datos grandes uno espera conseguir el valor correcto en promedio. La distribucin de las estimaciones mismas es normal, si el conjunto de datos es bastante grande. Todas stas son caractersticas excelentes para conjuntos de muestras grandes. Desgraciadamente, el tamao necesario de la muestra para alcanzar estas caractersticas puede ser bastante grande: treinta a cincuenta hasta cientos de muestras de tiempos exactos de falla, dependiendo de la aplicacin. Con pocas muestras, los mtodos pueden ser desgraciadamente polarizados o tendenciosos. Se han conocido resultados, por ejemplo, que la estimacin por mxima verosimilitud del parmetro de forma para la distribucin Weibull ha sido polarizacin para tamaos de muestras pequeos, y el efecto puede aumentar dependiendo de la cantidad de datos censurados. Esta polarizacin puede causar discrepancias importantes en el anlisis. En general, la recomendacin de la literatura es utilizar tcnicas de regresin (grficas de riesgo y probabilidad) cuando la muestra de datos es pequea y sin censura. Cuando hay muchos datos censurados y/o cuando el tamao de muestra es suficiente, Mxima verosimilitud (MLE) debe ser preferido. Superficie de la funcin de verosimilitud

La representacin tridimensional de la funcin logartmica de la verosimilitud para dos parmetros, los parmetros estn en los ejes Y y X, y los valores logartmicos de la verosimilitud en el eje Z. En la siguiente grfica es un ejemplo de la superficie de la funcin de verosimilitud para una distribucin Weibull de dos parmetros. Los valores del logaritmo de la verosimilitud estn normalizados a un valor de 100 %

En esta grfica la cima de la superficie de la funcin verosimilitud corresponde a los valores de los parmetros que maximizan la funcin de verosimilitud. Ejemplo de MLE para la Distribucin exponencial Este ejemplo es para una distribucin de un solo parmetro y por lo tanto hay una sola ecuacin diferencial a resolver. Adems esta ecuacin diferencial est en forma cerrada, debido a la naturaleza misma de la funcin de la densidad de la probabilidad. La funcin de verosimilitud para la distribucin exponencial se representa a continuacin:

Donde lambda es el parmetro a estimar. Tomamos el logaritmo natural de la funcin de verosimilitud debido a que matemticamente es ms fcil de manipular tenemos la siguiente expresin.

Si se deriva la ecuacin con respecto a e iguala a cero se obtiene como resultado

Reordenando los trminos o resolviendo por la expresin queda:

Esta es la solucin de forma cerrada para la estimacin de la mxima verosimilitud para la distribucin exponencial de un solo parmetro. Obviamente, este es el ejemplo ms sencillo, pero sirve para ilustrar el proceso. La metodologa es ms compleja para distribuciones con mltiples parmetros o que no tengan una solucin cerrada. Referencias 1. Gupta S., Order Statistics from the Gamma Distribution, Technometrics, Vol. pp 243 -262, 1962. 2. Howard, B. T. y G. A. Dodson, High Stress Aging to Failure of Semiconductor Devices, Proceedings of the Seventh National Symposium on Reliability and Quality Control, 1961.

3. B. S. Dhillon, Design Reliability Fundamentals and Applications, CRC Press, United States of America, 1999. TA 174.D4929 4. Schafer Ray E., Singpurwalla Nozer D., Mann R. Nancy, Methods for Statistical Analysis of Reliability and Life Data, John Wiley & Sons. 5. Informacin general de las distribuciones: Weibull, Exponencial, Normal y Log_normal www.itl.nist.gov/div898/handbook/. 6. Beckwith, Thomas G., Buck, N. Lewis, Maragoni, Rod D., Mechanical Measurements, Third edition, Addison-Wesley, Reading, Massachusetts, 1981 7. http://www.weibull.com/