Documentos de Académico
Documentos de Profesional
Documentos de Cultura
6 AP Aprendizaje PDF
6 AP Aprendizaje PDF
cbea
LSI - FIB
IA - Curso 2014/2015
1 Introducción
2 Aprendizaje inductivo
3 Árboles de decisión
4 Aprendizaje Bayesiano
1 Introducción
2 Aprendizaje inductivo
3 Árboles de decisión
4 Aprendizaje Bayesiano
Aprendizaje Automático
Las técnicas que hemos visto hasta ahora nos permiten crear sistemas
que resuelven tareas que necesitan inteligencia
La limitación de estos sistemas reside en que sólo resuelven los
problemas ya previstos
Sólo podemos considerar que un sistema es realmente inteligente si es
capaz de observar su entorno y aprender de él
La autentica inteligencia reside en adaptarse, tener capacidad de
integrar nuevo conocimiento, resolver nuevos problemas, aprender de
errores
Objetivos
¿Funciona?
Tipos de aprendizaje
1 Introducción
2 Aprendizaje inductivo
3 Árboles de decisión
4 Aprendizaje Bayesiano
Aprendizaje Inductivo
Aprendizaje Inductivo
1 Introducción
2 Aprendizaje inductivo
3 Árboles de decisión
4 Aprendizaje Bayesiano
Árboles de decisión
Árboles de decisión
4a
4b
2b
2a
Teoría de la Información
Cantidad de información
Entropia
Ganancia de información
Bits que aún han de ser codificados
G(X , A, C) = I(X , C) − E (X , A, C)
C1 C2 C3 I(X,C)
A=v1 A=v3
A=v2
C1 C2 C3 C1 C2 C3 C1 C2 C3
E(X,A,C)
ID3 algoritmo
Algoritmo: ID3 (X : Ejemplos, C: Clasificación, A: Atributos)
si todos los ejemplos son de la misma clase
entonces
retorna una hoja con el nombre de la clase
sino
Calcular la cantidad de información de los ejemplos (I)
para cada atribute en A hacer
Calcular la entropia (E) y la ganancia de información (G)
fin
Escoger el atributo que maximiza G (a)
Borrar a de la lista de atributos (A)
Generar el nodo raíz para el atributo a
para cada partición generada por los valores del atributo a hacer
Árboli =ID3(ejemplos de X con a=vi , clasificación, resto de atributos)
generar una nueva rama con a=vi y Árboli
fin
retorna El nodo raíz para a
fin
Ejemplo (1)
Ejemplo (2)
Ejemplo (3)
Ejemplo (4)
Este atributo nos genera una partición que forma el primer nivel del árbol.
DECADA
70
90
80
+ - - +
Ejemplo (5)
Ejemplo (6)
Ejemplo (7)
Ejemplo (8)
70 80 90
GENERO
1,2,8 3,6
+ -
COMEDIA DRAMA ACCION
5 4 7
+ - -
1 Introducción
2 Aprendizaje inductivo
3 Árboles de decisión
4 Aprendizaje Bayesiano
Aprendizaje bayesiano
Inferencia Bayesiana
P(h) · P(E|h)
P(h|E) =
P(E)
P(Amigo) · P(Nuestra|Amigo)
P(Amigo|Nuestra) =
P(Nuestra)
Dado que nuestra opinión es positiva (los datos) y dado que el resultado
ha de sumar 1 para ser una probabilidad:
Esto quiere decir que es muy probable que a nuestro amigo le vaya a
gustar la novela
c b e a (LSI - FIB) Aprendizaje Automático IA - Curso 2014/2015 38 / 46
Aprendizaje Bayesiano
Aprendizaje Bayesiano
Aprendizaje Bayesiano
...
P(H|E) = P(H) × P(E1 |H) × P(E2 |H) · · · × P(En |H)