Sistemas Expertos Basados en

Probabilidades
Msc. Paulina Morillo
Universidad Politénica Salesiana
  Los sistemas basados en reglas generalmente
no tienen en cuenta la incertidumbre
 Los objetos y reglas son tratados de forma
determinista
Introducción  Limitación: en la mayor parte de las
aplicaciones, la incertidumbre es lo común y no
la excepción
 Se introducen factores de certeza
 Pregunta típica: dado que el paciente presenta un conjunto de
síntomas, ¿cuál de las enfermedades posibles es la que tiene el
Incertidumbre paciente?

 Los hechos o datos pueden no ser conocidos con exactitud.

(subjetividad, imprecisión, ausencia de información, errores,
datos ausentes, etc.)
 El conocimiento no es determinista.(un mismo conjunto de
síntomas puede estar asociado a diferentes enfermedades)
 Clara necesidad de contar con sistemas expertos que traten
situaciones de incertidumbre.
 Desventajas:
Altísimo nº parámetros necesarios
Imposibilidad de una asignación o estimación
precisa de los parámetros
Las hipótesis poco realistas de independencia.
SE basados en Otras alternativas para tratar la incertidumbre:
probabilidades  factores de certeza
 credibilidades
 plausibilidades
 necesidades
 posibilidades
 Lindley (1987) dice:
“La única descripción satisfactoria de la
incertidumbre es la probabilidad. Esto
quiere decir que toda afirmación incierta
debe estar en forma de una probabilidad,
SE basados en que varias incertidumbres deben ser
probabilidades combinadas usando las reglas de la
probabilidad, y que el cálculo de
probabilidades es adecuado para manejar
situaciones que implican incertidumbre.
En particular, las descripciones alternativas
de la incertidumbre son innecesarias.”
 Medida de probabilidad.
Repaso Distribuciones de probabilidad.
Conceptos de Dependencia e independencia.
Probabilidad
Teorema de Bayes.
 Espacio Muestral (S): conjunto que incluye
todos los posibles resultados de un cierto
experimento
Repaso Objetivo: asignar a todo subconjunto de S
Conceptos de un número real que mida el grado de
Probabilidad incertidumbre sobre su realización. Para
ellos se define las medidas de
probabilidad.
 Medidas de probabilidad:
Una función 𝑝 que proyecta los subconjuntos
𝐴 ⊆ 𝑆 en el intervalo [0, 1] se llama medida de
probabilidad si satisface los siguientes axiomas:
Repaso Axioma 1 (Normalización) 𝑝(𝑆) = 1.
Conceptos de Axioma 2 (Aditividad) Para cualquier sucesión
Probabilidad infinita, 𝐴1, 𝐴2, . . . , de subconjuntos disjuntos
de S, se cumple la igualdad
∞ ∞

𝑝 ራ 𝐴𝑖 = ෍ 𝑝(𝐴𝑖 )
𝑖=1 𝑖=1
 Propiedades:
Propiedad 1 (Normalización) 𝑝(∅) = 0
establece que la evidencia asociada a una ausencia completa de
información es cero.
Propiedad 2 (Monotonocidad) Si 𝐴 ⊆ 𝐵 ⊆ 𝑆, entonces 𝑝(𝐴) ≤ 𝑝(𝐵).
Muestra que la evidencia de que un elemento pertenezca a un conjunto
dado 𝐴 no debe decrecer con la adición de elementos a 𝐴.

Repaso Propiedad 3 (Continuidad-consistencia) ∀ sucesión creciente 𝐴1 ⊆ 𝐴2 ⊆

⋯ o 𝐴1 ⊇ 𝐴2 ⊇ ⋯ decreciente de subconjuntos de S se tiene
Conceptos de lim 𝑝 𝐴𝑖 = lim 𝑝 𝐴𝑖
𝑖→∞ 𝑖→∞

Probabilidad Si se eligen dos sucesiones de conjuntos que convergen al mismo

subconjunto de 𝑆, se debe obtener la misma evidencia o incertidumbre.
Propiedad 4 (Inclusión-Exclusión) dado cualquier par de subconjunto 𝐴 y
𝐵 de 𝑆 se cumple siempre la igualdad: 𝑝 𝐴 ∩ 𝐵 = 𝑝 𝐴 + 𝑝 𝐵 −
𝑝 𝐴∩𝐵 .
Establece que las probabilidades de los conjuntos 𝐴, 𝐵, 𝐴 ∩ 𝐵, y 𝐴 ∪
𝐵 no son independientes, sino que están relacionadas por la fórmula
anterior.
 Ejemplo: Lanzamiento de un dado no
Trucado
Repaso 𝑆 = {1, 2, 3, 4, 5, 6}
Conceptos de
𝑝(𝑆) = 1,
Probabilidad
𝑝({1}) = 1/6, 𝑝({3}) = 1/6, y
𝑝({1, 3}) = 𝑝({1}) + 𝑝({3}) = 1/3
 Distribuciones de probabilidad
Sea {𝑋1 , . . . , 𝑋𝑛 } un conjunto de variables
aleatorias discretas y {𝑥1 , . . . , 𝑥𝑛 } el conjunto
de sus posibles realizaciones.
Sea 𝑝(𝑥1 , . . . , 𝑥𝑛 ) la función de probabilidad
conjunta de las variables de 𝑋:
Repaso 𝑝(𝑥1 , . . . , 𝑥𝑛 )=𝑝(𝑋1 = 𝑥1 , . . . , 𝑋𝑛 = 𝑥𝑛 )
Conceptos de Entonces, la función de probabilidad marginal
Probabilidad de la iésima variable se obtiene mediante la
fórmula

𝑝 𝑥𝑖 = 𝑝 𝑋𝑖 = 𝑥𝑖 = ෍ 𝑝(𝑥1 , . . . , 𝑥𝑛 )
𝑥1,…,𝑥𝑖−1 ,𝑥𝑖+1 ,…𝑥𝑛
 Distribuciones de probabilidad
El conocimiento de la ocurrencia de un suceso
puede modificar las probabilidades de otros.

Ejemplo: la probabilidad de que un paciente

Repaso tenga una enfermedad puede cambiar tras el
Conceptos de conocimiento de los resultados de un análisis
Probabilidad de sangre.
Así, cada vez que se dispone de nueva
información, las probabilidades de los sucesos
pueden, y suelen, cambiar. ➔ Esto conduce al
concepto de probabilidad condicional.
 Probabilidad Condicional
Sean 𝑋 e 𝑌 dos conjuntos disjuntos de
variables tales que 𝑝(𝑦) > 0. Entonces, la
probabilidad condicional (función de
Repaso probabilidad condicionada) de 𝑋 dado 𝑌 = 𝑦
Conceptos de viene dada por
Probabilidad 𝑝 𝑋 = 𝑥|𝑌 = 𝑦 = 𝑝 𝑥 𝑦 =
𝑝 𝑥, 𝑦
𝑝 𝑦
La ecuación implica que la función de probabilidad
conjunta de 𝑋 e 𝑌 puede escribirse como:
𝑝 𝑥, 𝑦 = 𝑝 𝑦 𝑝(𝑥|𝑦)
 Dependencia e Independencia
Sean 𝑋 e 𝑌 dos subconjuntos disjuntos del
conjunto de variables aleatorias {𝑋1, . . . , 𝑋𝑛}.
Entonces se dice que 𝑋 es independiente de 𝑌 si y
solamente si 𝑝(𝑥|𝑦) = 𝑝(𝑥), para todos los
Repaso valores posibles 𝑥 e 𝑦 de 𝑋 e 𝑌;
Conceptos de En otro caso, 𝑋 se dice dependiente de 𝑌.
Probabilidad La ecuación significa que si 𝑋 es independiente
de 𝑌, entonces nuestro conocimiento de 𝑌 no
afecta nuestro conocimiento sobre 𝑋, es decir 𝑌
no tiene información sobre 𝑋 o la información
que aporta es irrelevante para 𝑌
 Ejemplo: (Probabilidades conjuntas)

Probabilidad conjunta

Repaso
Conceptos de
Probabilidad
 Ejemplo: (Probabilidades conjuntas)

Repaso
Conceptos de
Probabilidad
 Ejemplo: (Probabilidades condicionales)

Repaso
Conceptos de
Probabilidad
 Ejemplo: (Dependencia condicional)
Si 𝑋 e 𝑌 son condicionalmente independientes
dado 𝑍, es necesario comprobar si
𝑝 𝑥, 𝑦, 𝑧
𝑝 𝑥 𝑦, 𝑧 = = 𝑝(𝑥|𝑧)
Repaso 𝑝 𝑦, 𝑧
Conceptos de
Probabilidad
 Ejemplo: (Dependencia e Independencia)
Considérense las siguientes características
(variables y sus posibles valores) de las personas
de una población dada:
 Sexo = {hombre, mujer}
 Fumador = {sí (f), no (𝑓)}
Repaso 

Estado Civil = {casado (c), no casado (𝑐)}
Embarazo = {sí (e), no (𝑒)}
Conceptos de La función de probabilidad conjunta de estas
Probabilidad cuatro variables se tiene en esta tabla:
 Teorema de Bayes
Aplicación Diagnóstico Médico
𝐸 conjunto de posibles enfermedades 𝑒𝑖
𝑆 conjuntos de síntomas asociados a las enfermedades 𝑠𝑖
La probabilidad 𝑝(𝑒𝑖 ) se llama probabilidad marginal,
Repaso prior, “a priori” o inicial de la enfermedad 𝐸 = 𝑒𝑖 puesto
que puede ser obtenida antes de conocer los síntomas.
Conceptos de La probabilidad 𝑝(𝑒𝑖 |𝑠1 , . . . , 𝑠𝑘 ) es la probabilidad
Probabilidad posterior, “a posteriori” o condicional de la enfermedad
𝐸 = 𝑒𝑖 , puesto que se calcula después de conocer los
síntomas 𝑆1 = 𝑠1 , … , 𝑆𝑘 = 𝑠𝑘 .
La probabilidad 𝑝(𝑠1 , . . . , 𝑠𝑘 |𝑒𝑖 ) se conoce por el nombre
de verosimilitud de que un paciente con la enfermedad
𝐸 = 𝑒𝑖 tenga los síntomas 𝑆1 = 𝑠1 , … , 𝑆𝑘 = 𝑠𝑘 .
 El teorema de Bayes se usa para actualizar la
probabilidad “a posteriori” usando ambas, la
probabilidad “a priori” y la verosimilitud
Repaso
𝑝(𝑒𝑖 )𝑝(𝑠1 , . . . , 𝑠𝑘 |𝑒𝑖 )
Conceptos de 𝑝 𝑒𝑖 𝑠1 , . . . , 𝑠𝑘 =
σ𝑒𝑖 𝑝(𝑒𝑖 )𝑝(𝑠1 , . . . , 𝑠𝑘 |𝑒𝑖 )
Probabilidad
El denominador de esta expresión se conoce
como teorema de la probabilidad total
 Ejemplo:
Un centro médico tiene una BD con las historias clínicas
de N = 1000 pacientes. Estas historias clínicas se resumen
gráficamente en la figura.
Objetivo: Determinar la enfermedad de un paciente en
base a sus síntomas.
Repaso
Conceptos de
Probabilidad
 Ejemplo:
Un centro médico tiene una BD con las historias clínicas
de N = 1000 pacientes. Estas historias clínicas se resumen
gráficamente en la figura.
Objetivo: Determinar la enfermedad de un paciente en
base a sus síntomas.
Repaso Pasos:
Conceptos de  Determinar las cardinalidades de los conjuntos
 Calcular las probabilidades marginales
Probabilidad  Calcular verosimilitudes
 Calcular las probabilidades a posteriori
 • variables y cardinalidades
BC • Probabilidades marginales y
verosimilitudes

SE basados en Motor de
Inferencia
• Calculo de probabilidades
“a posteriori”
probabilidades
Subsistemas
de • Parámetros con
Explicación
valores altos de 𝑝
SE basados en probabilidades Vs SE basados en reglas
SE basados en probabilidades Vs SE basados en reglas
SE basados en probabilidades Vs SE basados en reglas
  Enrique Castillo, José Manuel Gutiérrez, Ali S.Hadi.
Sistemas Expertos y Modelos de Redes
Probabilísticas
Referencias http://personales.unican.es/gutierjm/papers/BookC
GH.pdf