Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos,RedesBayesianasysusaplicaciones
SemanaESIDE,Abril2005
lvaroMarnIllera
alvaro@rigel.deusto.es
SistemasExpertos,RedesBayesianasysusaplicaciones
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
Temasatratar
SistemasExpertos,RedesBayesianasysusaplicaciones
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
InteligenciaArtificial
Aprendizaje
Razonamiento
Resolucin de problemas
...
SistemasExpertos,RedesBayesianasysusaplicaciones 1/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
InteligenciaArtificial
1943-1956
Estudios centrados en Redes Neuronales.
Demostracin de Teoremas y Ajedrez.
1952-1969:
Creacin de sistemas que resuelvan cualquier problema.
Avances limitados por los recursos computacionales.
1966-1974:
Algoritmos genticos.
Problemas en la representacin del conocimiento.
1969-1979:
DENDRAL, MYCIN...
1980-1988:
Las empresas se interesan por la IA. Control industrial y robtica.
1988-... :
Resolucin de problemas del mundo real.
Sistemas especializados que cooperan remember UNIX?
SistemasExpertos,RedesBayesianasysusaplicaciones 2/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
InteligenciaArtificial
SistemasExpertos,RedesBayesianasysusaplicaciones 3/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
Toma de decisiones
...
SistemasExpertos,RedesBayesianasysusaplicaciones 4/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
Meteorologa.
Transacciones bancarias.
Diagnstico mdico.
Administracin local.
SistemasExpertos,RedesBayesianasysusaplicaciones 5/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
Base de
Hechos Usuario final
SistemasExpertos,RedesBayesianasysusaplicaciones 6/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
Base de Conocimiento
Conocimientos del experto humano codificado (esttico).
Base de Hechos
Memoria temporal de trabajo (dinmico).
Motor de Inferencia
Combina BC y BH para deducir nuevos hechos => resolver problema.
Interfaz de Usuario
Comunicacin entre el SE y el usuario final.
Mdulo de Explicacin
Justificacin y explicacin de los resultados obtenidos.
Mdulo de Adquisicin de Conocimiento
Aadir nuevo conocimiento a la BC.
Mdulo de Aprendizaje
Aprender a partir de la resolucin de problemas.
SistemasExpertos,RedesBayesianasysusaplicaciones 7/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
SistemasExpertos,RedesBayesianasysusaplicaciones 8/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
Mediados de los sesenta (IA): Alan Newell y Herbert Simon desarrollan
GPS (General Problem Solver).
SistemasExpertos,RedesBayesianasysusaplicaciones 9/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
SistemasExpertos,RedesBayesianasysusaplicaciones 10/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
Tipos de sistemas expertos (segn naturaleza del problema):
SistemasExpertos,RedesBayesianasysusaplicaciones 11/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
Pero...Qu es exactamente la incertidumbre?
Se define como la falta de certidumbre o certeza, siendo certeza el
conocimiento seguro y claro de algo.
En qu situaciones se da incertidumbre?
Cuando los hechos o datos pueden no ser conocidos con
SistemasExpertos,RedesBayesianasysusaplicaciones 12/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
SistemasExpertos,RedesBayesianasysusaplicaciones 13/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
SistemasExpertos,RedesBayesianasysusaplicaciones 14/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
Sistemas Expertos basados en reglas
Ejemplo de regla:
IF TarjetaNoValida
THEN PagoNoAutorizado
ELSE PagoAutorizado
SistemasExpertos,RedesBayesianasysusaplicaciones 15/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
El Motor de Inferencia
SistemasExpertos,RedesBayesianasysusaplicaciones 16/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
Reglas de inferencia
SistemasExpertos,RedesBayesianasysusaplicaciones 17/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos
Encaminamiento (de reglas) hacia delante
Obtiene nuevos hechos a partir de la evaluacin de reglas.
SistemasExpertos,RedesBayesianasysusaplicaciones 18/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
Conceptosbsicosestadsticos
Haremos un breve repaso al mtodo probabilista clsico.
SistemasExpertos,RedesBayesianasysusaplicaciones 19/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
Conceptosbsicosestadsticos
SistemasExpertos,RedesBayesianasysusaplicaciones 20/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
Conceptosbsicosestadsticos
SistemasExpertos,RedesBayesianasysusaplicaciones 21/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
Conceptosbsicosestadsticos
Ej: Supongamos una poblacin de 500personas, cuya distribucin por
edades(X1) y sexos(X2) es:
Probabilidades marginales:
Pjoven=P(x1j)=135/500=0'270
Pmujer=P(x2m)=254/500=0'508
Probabilidades conjutas:
P(x1j,x2m)=68/500=0'136
P(x1a,x2m)=126/500=0'252
Probabilidades condicionales:
P(x1t|x2v)=P(x1t,x2v)/P(x2v)
= 0'114/0'492 = 0'23171
SistemasExpertos,RedesBayesianasysusaplicaciones 22/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
Conceptosbsicosestadsticos
SistemasExpertos,RedesBayesianasysusaplicaciones 23/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
Conceptosbsicosestadsticos
SistemasExpertos,RedesBayesianasysusaplicaciones 24/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
Conceptosbsicosestadsticos
Representacin grfica de dependencias/independencias
SistemasExpertos,RedesBayesianasysusaplicaciones 25/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
Conceptosbsicosestadsticos
SistemasExpertos,RedesBayesianasysusaplicaciones 26/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
Conceptosbsicosestadsticos
Causalidad Vs Correlacin
Causalidad implica correlacin pero no a la inversa.
Un estudio demostr que haba una fuerte correlacin entre el n de cigeas
de una ciudad y el n de nacimientos de nios. Traen las cigeas a los nios?
O es acaso la presencia de nios quien atrae a las cigeas?
SistemasExpertos,RedesBayesianasysusaplicaciones 27/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
RedesBayesianas
[Neapolitan 90]
SistemasExpertos,RedesBayesianasysusaplicaciones 28/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
RedesBayesianas
DAG + CPD
SistemasExpertos,RedesBayesianasysusaplicaciones 29/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
RedesBayesianas
SistemasExpertos,RedesBayesianasysusaplicaciones 30/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
RedesBayesianas
Teorema de Bayes:
SistemasExpertos,RedesBayesianasysusaplicaciones 31/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
RedesBayesianas
SistemasExpertos,RedesBayesianasysusaplicaciones 32/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
RedesBayesianas
Ejemplo: congreso con 50 personas de 3 universidades (23,18,9).
1:30% Ciencias, 40% de Ing, 25% Humanidades y 5% Economa.
2:25% Ciencias, 35% de Ing, 30% Humanidades y 10% Economa
3:20% Ciencias, 50% de Ing, 10% Humanidades y 20% Economa.
A la salida, nos encontramos un profesor a)Probabilidad de que sea de la tercera
universidad? b)Y si nos enteramos de que es de Economa Cul sera?
Solucin:
a) Probabilidad a priori : P(x)=9/50=0'18=18%
b) Para esta respuesta, hacemos la siguiente tabla(x=uni|y=especialidad):
Aplicando Bayes:
= 37'9%
SistemasExpertos,RedesBayesianasysusaplicaciones 33/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
RedesBayesianas
P(C=true)=0'5
P(S=true|C=false)=0'5
P(S=false|C=true)=0'9
P(R=true|C=true)=0'8
P(R=false|C=true)=0'2
P(W=true|S=t,R=f)=0'9
P(W=false|S=t,R=t)=0'01
HUGIN
SistemasExpertos,RedesBayesianasysusaplicaciones 34/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
RedesBayesianas
Aprendizaje paramtrico
Aprende las probabilidades de la red en base a casos dados,
por ej un archivo pasado con los valores de cada variable.
Existen distintos algoritmos de aprendizaje, entre ellos:
EM (Expansin-Maximizacin):
SistemasExpertos,RedesBayesianasysusaplicaciones 35/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
RedesBayesianas
Aprendizaje estructural
Estos algoritmos son capaces de aprender enlaces.
Existen 2 tipos de aprendizaje de estructural:
- Basados en tests de independencia (algoritmos PC,NPC...)
- Puntuacin y bsqueda (Score & Search)
Para puntuar, se va penalizando para conseguir cul es el grafo
ms ptimo (AIC,BIC).
Para la bsqueda, algoritmos como K2, LK2,Montecarlo, B...
Algunos algoritmos, no reconsideran los enlaces ya existentes en
la red (puede ser interesante).
SistemasExpertos,RedesBayesianasysusaplicaciones 36/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
CadenasdeMarkov
SistemasExpertos,RedesBayesianasysusaplicaciones 37/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
CadenasdeMarkov
SistemasExpertos,RedesBayesianasysusaplicaciones 38/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
CadenasdeMarkov
Un proceso de Markov es un proceso que se va moviendo de estado en
estado dependiendo exclusivamente de los N estados anteriores.
SistemasExpertos,RedesBayesianasysusaplicaciones 39/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
CadenasdeMarkov
En un proceso de Markov aparte de los estados, est la matriz de
transiciones entre estados, que indica la probabilidad de pasar de un
estado a otro o a s mismo.
Adems hace falta tener una matriz que indique como se encuentra el
sistema al inicio, vector de probabilidades iniciales.
SistemasExpertos,RedesBayesianasysusaplicaciones 40/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
CadenasdeMarkov
SistemasExpertos,RedesBayesianasysusaplicaciones 41/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
CadenasdeMarkov
Empapado Hmedo Fresco Seco
SistemasExpertos,RedesBayesianasysusaplicaciones 42/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
CadenasdeMarkov
La conexin entre los estados ocultos y las variables observables,
smbolos, representa la probabilidad de generar un smbolo en
particular desde un determinado estado oculto.
P(Obs|Sun)+P(Obs|Cloud)+P(Obs|Rain) = 1
SistemasExpertos,RedesBayesianasysusaplicaciones 43/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
CadenasdeMarkov
Soluciones a varios problemas:
SistemasExpertos,RedesBayesianasysusaplicaciones 44/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
CadenasdeMarkov
Evaluacin: Se quiere saber qu HMM ha generado una determinada
secuencia ms probablemente. Se usa el algoritmo Forward para
calcular la probabilidad de cada secuencia en cada sistema HMM y se
obtiene el ms probable de generar dicha secuencia.
SistemasExpertos,RedesBayesianasysusaplicaciones 45/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
ESIDEDEPIAN
SistemasExpertos,RedesBayesianasysusaplicaciones 46/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
ESIDEDEPIAN
SistemasExpertos,RedesBayesianasysusaplicaciones 47/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
ESIDEDEPIAN
Objetivos principales:
Aprendizaje no supervisado
Inferencia de conclusiones
Alcanzando estos dos objetivos, se consigue:
Ir mas all de la deteccin de intrusiones.
Deteccin y prevencin ataques.
Requisitos de administracin mnimos
SistemasExpertos,RedesBayesianasysusaplicaciones 48/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
ESIDEDEPIAN
SistemasExpertos,RedesBayesianasysusaplicaciones 49/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
ESIDEDEPIAN
SistemasExpertos,RedesBayesianasysusaplicaciones 50/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
ESIDEDEPIAN
Arquitectura:
Maestro o Supervisores (Master)
Supervisan el aprendizaje de los agentes analizadores (esclavos).
Relacin n:m
Snort modificado para el envo de informacin.
Esclavos o Analizadores (Slave)
Reciben paquetes etiquetados del/los maestros
Analizan en dos fases: Inferencia y Aprendizaje
Comunicacin cifrada entre maestros y esclavos
SistemasExpertos,RedesBayesianasysusaplicaciones 51/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
ESIDEDEPIAN
Reaccin temprana a ataques documentados
Gracias al esquema maestro-esclavo
Capacidad de reaccin ante ataques no documentados y de
adquisicin de nuevo conocimiento
Gracias al poder de las redes bayesianas
Uso de un estndar de facto
El uso de Snort como maestro proporciona una base slida
para el aprendizaje del sistema.
SistemasExpertos,RedesBayesianasysusaplicaciones 52/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
openPNL
http://www.intel.com/research/mrl/pnl/
http://www.sourceforge.net/projects/openpnl/
SistemasExpertos,RedesBayesianasysusaplicaciones 53/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
openPNL
Intel Labs: USA, Rusia y China
SistemasExpertos,RedesBayesianasysusaplicaciones 54/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos,RedesBayesianasysusaplicaciones 55/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos,RedesBayesianasysusaplicaciones 56/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
SistemasExpertos,RedesBayesianasysusaplicaciones 57/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
openPNLArquitectura
Graph Factor
Factor
Factor
Factor
Factor
Model Model Domain
Inference engine
Learning engine
Structure learning
SistemasExpertos,RedesBayesianasysusaplicaciones 58/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
openPNLArquitecturacomputacional
Graphical models
Operations on factors
SistemasExpertos,RedesBayesianasysusaplicaciones 59/60
UniversidaddeDeusto
Universidad de Deusto
.........
Facultad de Ingenieria SemanaESIDE2005
P(Fin=true)=1
Jos M. Gutirrez (Univ. Cantabria):
http://personales.unican.es/gutierjm/
Francisco Javier Dez Vegas (UNED):
http://www.ia.uned.es/~fjdiez/
Asignatura de Inteligencia Artificial en ESIDE:
http://asignaturas.deusto.es/ia/
Hugin: http://www.hugin.com
Elvira: http://www.ia.uned.es/~elvira/
ESIDE-DEPIAN: eside-ids@deusto.es
SistemasExpertos,RedesBayesianasysusaplicaciones 60/60