Aprendizaje Supervisado

Anlisis Discriminante
(Lineal y Cuadrtico)
Modelo general de los mtodos de Clasificacin
|Id Reembolso Estado Ingresos
Civil Anuales Fraude Algoritmo
de
1 S Soltero 125K No
Aprendizaje
2 No Casado 100K No Generar
3 No Soltero 70K No el
4 S Casado 120K No Modelo
Divorcia
5 No 95K S
do
6 No Casado 60K No
10

Modelo
Tabla de Aprendizaje
Id Reembolso Estado Ingresos
Civil Anuales Fraude
Aplicar
7 No Soltero 80K No el
8 Si Casado 100K No Evaluar Modelo Nuevos
9 No Soltero 70K No Individuos
10

Tabla de Testing
 Definicin de Clasificacin
Dada una base de datos = {1 , 2 , , } de tuplas o registros
(individuos) y un conjunto de clases = {1 , 2 , , }, el
problema de la clasificacin es encontrar una funcin :
tal que cada es asignada una clase .

: podra ser una Red Neuronal, un rbol de Decisin, un

modelo basado en Anlisis Discriminante, o una Red Beyesiana.
 Ejemplo: Crditos en un Banco
Tabla de Aprendizaje
Variable
Discriminante

Con la Tabla de Aprendizaje se entrena (aprende) el modelo matemtico

de prediccin, es decir, a partir de esta tabla se calcula la funcin f de la
definicin anterior.
 Ejemplo: Crditos en un Banco
Tabla de Testing
Variable
Discriminante

Con la Tabla de Testing se valida el modelo matemtico de prediccin, es

decir, se verifica que los resultados en individuos que no participaron en la
construccin del modelo es bueno o aceptable.
Algunas veces, sobre todo cuando hay pocos datos, se utiliza la Tabla de
Aprendizaje tambin como de Tabla Testing.
 Ejemplo: Crditos en un Banco
Nuevos Individuos
Variable
Discriminante

Con la Tabla de Nuevos Individuos se predice si estos sern o no

buenos pagadores.
Idea: Se proyecta el nuevo individuo en
suplementario y se asigna a la clase ms cercana,
pero qu significa clase ms cercana?
Supongamos que la matriz de datos (tabla de aprendizaje)
est etiquetada separando por bloques las k distintas
clases que se quieren clasificar con (Xj )1 j k y el tamao
de cada clase es el nmero de filas de dicha clase, en R,
nrow(Xj) = nj.

La regla de Clasificacin: Asigne cada nuevo individuo con

valores en las variables x como sigue:
 Idea: Se proyecta el nuevo individuo en
suplementario y se asigna a la clase ms
cercana

v5 v1
v2
v3 v8

v4

v6
 Qu significa la distancia en este contexto?

Definimos el Centro de Gravedad de la Clase o

Centroide como sigue:

Entonces la distancia al clase significa la distancia al

Centro de Gravedad de la Clase o Centroide como sigue:
 Escogiendo la Frmula para distancia

Fisher propuso usar lo siguiente, primero se descompone

la tabla de aprendizaje como sigue:

Luego calcular:

Luego el Centro de Gravedad es el centro de gravedad de

la proyeccin:
 Anlisis Discriminante Lineal
Consiste en asignar el nuevo individuo x a la clase con
centro de gravedad proyectado ms cercano:

Centroide ms cercano

Lnea de separacin
dada por el ADL
 El paquete MASS contiene la
funcin lda para realizar Anlisis
Discriminante Lineal

Instalando y usando el paquete MASS:

install.packages(MASS,dependencies=TRUE)
library(MASS)
Ejemplo con IRIS.CSV
Ejemplo con la tabla de datos IRIS
IRIS Informacin de variables:
1.sepal largo en cm
2.sepal ancho en cm
3.petal largo en cm
4.petal ancho en cm
5.clase:
Iris Setosa
Iris Versicolor
Iris Virginica
> library(scatterplot3d)
> scatterplot3d(datos$p.ancho,datos$s.largo,datos$s.ancho)
Ejemplo 1: iris.csv
 Ejemplo 2:
Credit-Scoring
MuestraAprendizajeCredito2500.csv
MuestraTestCredito2500.csv
Descripcin de Variables
MontoCredito MontoCuota
1= Muy Bajo 1 =Muy Bajo
2= Bajo 2 =Bajo
3= Medio 3 =Medio
4= Alto 4 =Alto

IngresoNeto GradoAcademico
1= Muy Bajo 1 =Bachiller
2= Bajo 2 =Licenciatura
3= Medio 3 =Maestra
4= Alto 4 =Doctorado

CoeficienteCreditoAvaluo BuenPagador
1= Muy Bajo 1 =NO
2= Bajo 2 =Si
3= Medio
4= Alto
Anlisis Discriminante Cuadrtico

ADL

ADC
Anlisis Discriminante Cuadrtico
Datos IRIS con separacin Lineal y Cuadrtica

Lineal

Cuadrtica
Ejemplo con IRIS.CSV
Ejemplo con la tabla de datos IRIS
IRIS Informacin de variables:
1.sepal largo en cm
2.sepal ancho en cm
3.petal largo en cm
4.petal ancho en cm
5.clase:
Iris Setosa
Iris Versicolor
Iris Virginica
 Ejemplo 2:
Credit-Scoring
MuestraAprendizajeCredito2500.csv
MuestraTestCredito2500.csv
Gracias.