Inteligencia Artificial

Oscar Bedoya
oscarbed@eisc.univalle.edu.co
* Redes bayesianas
* Teorema de Bayes
* Aplicaciones
 Redes Bayesianas

Probabilidad incondicional – Probabilidad condicional

• La probabilidad de que una variable aleatoria pueda o no ocurrir se
conoce como probabilidad incondicional o a priori
p(A): probabilidad incondicional o a priori

• La probabilidad de que una variable aleatoria pueda o no ocurrir,

dadas ciertas evidencias, se conoce como probabilidad condicional
p(A|E): probabilidad condicional, probabilidad de que se
de A dado que ha ocurrido E
 Redes Bayesianas

Probabilidad incondicional
p(Caries)=0.1
• La probabilidad a priori o incondicional de que una persona tenga
caries es del 10%
• Esta información se obtiene a partir de la observación de los
casos vistos hasta el momento
• Si no hay más información disponible, se tiene que p(Caries)=0.1
 Redes Bayesianas

Probabilidad condicional
p(Caries|DolorDientes)=0.8
• Se cuenta con evidencia acerca de una situación particular
• Las probabilidades a priori pierden vigencia
 Redes Bayesianas

Probabilidad condicional
p(Caries|DolorDientes)=0.8
• Si se llega a saber más información, digamos C, se deberá
considerar la probabilidad
p(Caries | DolorDientes, C)
 Redes Bayesianas

Regla del producto

p(A|B)=p(AB)/p(B)
 Redes Bayesianas

Distribución de probabilidad conjunta

• La distribución de probabilidad conjunta es una tabla en la que
hay un valor en cada celda que especifica la probabilidad de que se
produzcan dos eventos determinados

DolorDientes DolorDientes
Caries 0.06 0.04
Caries 0.01 0.89
 Redes Bayesianas

Distribución de probabilidad conjunta

• La distribución de probabilidad conjunta es una tabla en la que
hay un valor en cada celda que especifica la probabilidad de que se
produzcan dos eventos determinados

DolorDientes DolorDientes
Caries 0.06 0.04
Caries 0.01 0.89

p(Caries)
p(CariesDolorDientes)
p(CariesDolorDientes)
p(Caries|DolorDientes)
 Redes Bayesianas

Distribución de probabilidad conjunta

• La distribución de probabilidad conjunta es una tabla en la que
hay un valor en cada celda que especifica la probabilidad de que se
produzcan dos eventos determinados

DolorDientes DolorDientes
Caries 0.06 0.04
Caries 0.01 0.89

p(Caries)=0.06+0.04=0.1
 Redes Bayesianas

Distribución de probabilidad conjunta

• La distribución de probabilidad conjunta es una tabla en la que
hay un valor en cada celda que especifica la probabilidad de que se
produzcan dos eventos determinados

DolorDientes DolorDientes
Caries 0.06 0.04
Caries 0.01 0.89

p(CariesDolorDientes)=(0.06+0.04)+(0.06+0.01)-0.06=0.11
 Redes Bayesianas

Distribución de probabilidad conjunta

• La distribución de probabilidad conjunta es una tabla en la que
hay un valor en cada celda que especifica la probabilidad de que se
produzcan dos eventos determinados

DolorDientes DolorDientes
Caries 0.06 0.04
Caries 0.01 0.89

p(CariesDolorDientes)=0.06
 Redes Bayesianas

Distribución de probabilidad conjunta

• La distribución de probabilidad conjunta es una tabla en la que
hay un valor en cada celda que especifica la probabilidad de que se
produzcan dos eventos determinados

DolorDientes DolorDientes
Caries 0.06 0.04
Caries 0.01 0.89

p(Caries|DolorDientes)=p(CariesDolorDientes)/p(DolorDientes)
=0.06/(0.06+0.01)
=0.85
 Redes Bayesianas

Distribución de probabilidad conjunta

• Considere la siguiente probabilidad conjunta:

GanoIA GanoIA
GanoParcial1 0.80 0.10
GanoParcial1 0.05 0.05

p(GanoIA)
p(GanoIA|GanoParcial1)
p(GanoIA|GanoParcial1)
p(GanoIAGanoParcial1)
p(GanoIAGanoParcial1)
 Redes Bayesianas

Distribución de probabilidad conjunta

• Considere la siguiente probabilidad conjunta:

GanoIA GanoIA
GanoParcial1 0.80 0.10
GanoParcial1 0.05 0.05

p(GanoIA)=0.85
p(GanoIA|GanoParcial1)=0.05/0.1=0.5
p(GanoIA|GanoParcial1)=0.1/0.9=0.111
p(GanoIAGanoParcial1)=0.8
p(GanoIAGanoParcial1)=0.85+0.9-0.8=0.95
 Redes Bayesianas

Falacia de la probabilidad condicional

• Asumir que P(A|B) es casi igual a P(B|A)
• ¿Cómo calcular P(B|A) si se conoce P(A|B)?
 Redes Bayesianas

Regla de Bayes
• p(B|A)=(p(A|B)*p(B))/p(A)

Thomas Bayes (1702 - 1761)

Reverendo de la iglesia presbiteriana
 Redes Bayesianas

Regla de Bayes
Un doctor sabe que la meningitis provoca una rigidez en el cuello del
paciente el 50% de las veces. El doctor conoce también algunos
hechos incondicionales, la probabilidad a priori de que un paciente
sufra meningitis es de 1/50000 y la probabilidad a priori de que
algún paciente padezca rigidez en el cuello es de 1/20
 Redes Bayesianas

Regla de Bayes
Un doctor sabe que la meningitis provoca una rigidez en el cuello del
paciente el 50% de las veces. El doctor conoce también algunos
hechos incondicionales, la probabilidad a priori de que un paciente
sufra meningitis es de 1/50000 y la probabilidad a priori de que
algún paciente padezca rigidez en el cuello es de 1/20
p(R|M)=0.5
p(M)=1/50000
p(R)=1/20
 Redes Bayesianas

Regla de Bayes
Un doctor sabe que la meningitis provoca una rigidez en el cuello del
paciente el 50% de las veces. El doctor conoce también algunos
hechos incondicionales, la probabilidad a priori de que un paciente
sufra meningitis es de 1/50000 y la probabilidad a priori de que
algún paciente padezca rigidez en el cuello es de 1/20
p(R|M)=0.5
p(M)=1/50000
p(R)=1/20
Se quiere saber la probabilidad de que alguien sufra de Meningitis
dado que tiene rigidez en el cuello
 Redes Bayesianas

Regla de Bayes
Un doctor sabe que la meningitis provoca una rigidez en el cuello del
paciente el 50% de las veces. El doctor conoce también algunos
hechos incondicionales, la probabilidad a priori de que un paciente
sufra meningitis es de 1/50000 y la probabilidad a priori de que
algún paciente padezca rigidez en el cuello es de 1/20
p(R|M)=0.5
p(M)=1/50000
p(R)=1/20
Por lo tanto,
p(M|R)=(p(R|M)*p(M))/p(R)
=1/5000=0.0002
 Redes Bayesianas

Regla de Bayes
Un doctor sabe que la meningitis provoca una rigidez en el cuello del
paciente el 50% de las veces. El doctor conoce también algunos
hechos incondicionales, la probabilidad a priori de que un paciente
sufra meningitis es de 1/50000 y la probabilidad a priori de que
algún paciente padezca rigidez en el cuello es de 1/20
p(R|M)=0.5
p(M)=1/50000
p(R)=1/20
Por lo tanto,
p(M|R)=(p(R|M)*p(M))/p(R) 1 de cada 5000
pacientes que padecen
=1/5000=0.0002 de rigidez en el cuello
tendrán meningitis
 Redes Bayesianas

Red bayesiana
• Modelo probabilístico multivariado que
relaciona un conjunto de variables
aleatorias mediante un grafo dirigido que
indica explícitamente influencia causal
• Modelo desarrollado por Judea Pearl
• El motor de inferencia se basa en el
teorema de Bayes

Judea Pearl (1936 - )

Tel Aviv
 Redes Bayesianas

• Una red bayesiana es una estructura de datos que se representa

mediante un grafo dirigido acíclico que muestra la dependencia entre
las variables

E: edad del vehículo, {0-5, 5-10, >10}

E K K: cantidad de kilómetros recorridos
L: luces, encienden o no
R: ruido en el motor

Avería

L R
 Redes Bayesianas

• Una red bayesiana es una estructura de datos que se representa

mediante un grafo dirigido acíclico que muestra la dependencia entre
las variables

Se debe calcular para cada nodo la

E K probabilidad condicionada a los valores
de sus padres, los nodos sin padres
tienen simplemente probabilidad a priori

Avería p(E), p(K), p(A|E,K), p(L|A), p(R|A)

L R
Redes Bayesianas
 Redes Bayesianas

Considere la siguiente situación planteada por Judea Pearl y con base

en la evidencia estime la probabilidad de robo
 Redes Bayesianas

Considere la siguiente situación:

• Se ha instalado una alarma en la ciudad para detectar robos
• La alarma también es sensible a invasión de extraterrestres
• Se dispone de dos vecinos: Juan y María
• Juan tiene defectos en su sentido auditivo y en ocasiones no escucha
la señal de alarma
• María suele estar charlando con sus amiguitas y puede que no escuche
la alarma
 Redes Bayesianas

Robo Invasión

Alarma

Juan María
 Redes Bayesianas

p(R)* Robo Invasión p(I)*

Alarma

Juan María

* Probabilidad a priori
 Redes Bayesianas

p(R)* Robo Invasión p(I)*

Alarma

Juan María

Robo Invasión P(Alarma| Robo, Invasión)

V V 0.35
V F 0.12
F V 0.23
F F 0.01
 Redes Bayesianas

Regla de Bayes
Si se cuenta con evidencia base A y C se tiene
p(B|A,C)=(p(A,C|B)*p(B))/p(A)
 Redes Bayesianas

p(R)* Robo Invasión p(I)*

Alarma p(A|R,I)

Juan María

p(J|A) p(M|A)
 Redes Bayesianas

Cloudy

Sprinkles Rain

WetGrass
 Redes Bayesianas

p(Cloudy)=0.5
p(Cloudy)=0.5 Cloudy

Sprinkles Rain

WetGrass
 Redes Bayesianas

Cloudy

Sprinkles Rain

WetGrass

Cloudy P(Sprinkles|Cloudy)

V 0.1
F 0.5
 Redes Bayesianas

Cloudy

Sprinkles Rain

WetGrass

Cloudy P(Rain|Cloudy)

V 0.8
F 0.2
 Redes Bayesianas

Cloudy

Sprinkles Rain

WetGrass
Sprinkles Rain P(WetGrass|Sprinkles,Rain)

V V 0.51
V F 0.19
F V 0.15
F F 0.001
Redes Bayesianas
Redes Bayesianas
 Redes Bayesianas

Clasificadores Bayesianos utilizados como filtros de spam

• Las características de un mensaje se representan como un vector:

rich free look easy

1 0 0 1

Cada dimensión se corresponde con una posible palabra que puede

aparecer en un correo
 Redes Bayesianas

Clasificadores Bayesianos utilizados como filtros de spam

rich

p(spam|rich)
spam
p(¬spam|rich)
 Redes Bayesianas

Clasificadores Bayesianos utilizados como filtros de spam

rich

p(spam|rich)
spam
p(¬spam|rich)

p(spam|rich)=p(rich|spam)*p(spam)/p(rich)
 Redes Bayesianas

Clasificadores Bayesianos utilizados como filtros de spam

easy

rich look

spam

p(spam|rich,look)
 Redes Bayesianas

Clasificadores Bayesianos utilizados como filtros de spam

• Paul Graham (2002). A plan for spam.