Aprendizaje de Maquinas Simulacion

1
>REPLACETHISLINEWITHYOURPAPERIDENTIFICATIONNUMBER(DOUBLECLICKHERETOEDIT)<
Predicciones2.0
1
USING DATA MINING TO PREDICT SECONDARY

SCHOOL STUDENT PERFORMANCE (Math) //cambiar a
espaol
Abstract
En este documento se pretende mostrar el trabajo de modelado realizado sobre unabase de datosdeestudiantesdedos
escuelas secundarias portuguesas que incluyen atributos tales como las calificaciones del estudiante, demogrficos, caractersticas
sociales y escolares relacionadas, para predecir el comportamiento de sus notas enelarea de matematicasyal mismo tiempohacer
comparaciones con los resultados de otros autores sobre la misma base de datos o algunas similares... tratado como un problema de
regresin para el cual se simularon resultados de varios mtodosdeaprendizajedemaquina(Regresinmltiple, VentanadeParzen,
Redes Neuronales Artificiales y RandomForest)parahallar elmtodoptimoparala solucin delproblemaypredecir elrendimiento
delosnuevosestudiantesingresadosalsistemalosresultadosmuestranque...
Index Terms
Modelos fenomenolgicos, aprendizaje de maquina, Regresin, Student Performance, Simulation, Regresin
Mltiple,VentanadeParzen,RandomForest,RedesNeuronales.
I.
I
NTRODUCTION
Este documento aborda un problema de aprendizaje de maquina especialmente diseado para evaluar el rendimiento de los
estudiantesdesecundariaenelareadematematicasdedoscolegiosenPortugal...
II.
DESCRIPCIONDELPROBLEMA
Este documento aborda un problema de aprendizaje de maquina especialmente diseado para evaluar el rendimiento de los
estudiantes de secundaria en el rea de matemticas conbasesdedatostomadasdedoscolegiosenPortugal,lascualesincluyen
atributosde los datos d
iscretizados tales como las calificaciones del estudiante,aspectosdemogrficosy caractersticassociales
y escolares relacionadas. El problema se basa en predecir el rendimiento de un nuevo estudiante ingresado al sistema ...fue
tratado comoun problema de regresin donde se busca unasalida numrica entre cero (0%) y veinte (100%), la cual indica la
notadelestudiantealfinaldelao.
Variablesdeentrada
Las variables de entrada tomadas para este experimento fueron las siguientes (las variables de entrada al sistema no estn
organizadasenelmismoordenenquesonmostradasacontinuacin).
1schoolstudent'sschool(binary:'GP'GabrielPereiraor'MS'MousinhodaSilveira)
2sexstudent'ssex(binary:'F'femaleor'M'male)
3agestudent'sage(numeric:from15to22)
4addressstudent'shomeaddresstype(binary:'U'urbanor'R'rural)
5famsizefamilysize(binary:'LE3'lessorequalto3or'GT3'greaterthan3)
6Pstatusparent'scohabitationstatus(binary:'T'livingtogetheror'A'apart)
7 Medu mother's education (numeric: 0 none, 1 primary education (4th grade), 2 5thto 9th grade, 3 secondary
educationor4highereducation)
8 Fedu father's education (numeric: 0 none, 1 primary education (4th grade), 2 5th to 9th grade, 3 secondary
educationor4highereducation)
9Mjobmother'sjob(nominal:'teacher','health'carerelated,civil'services'(e.g.administrativeorpolice),'at_home'or'other')
10Fjobfather'sjob(nominal:'teacher','health'carerelated,civil'services'(e.g.administrativeorpolice),'at_home'or'other')
11reasonreasontochoosethisschool(nominal:closeto'home',school'reputation','course'preferenceor'other')
12guardianstudent'sguardian(nominal:'mother','father'or'other')
1
2
Predicciones2.0
13traveltimehometoschooltraveltime(numeric:1<15min.,215to30min.,330min.to1hour,or4>1hour)
14studytimeweeklystudytime(numeric:1<2hours,22to5hours,35to10hours,or4>10hours)
15failuresnumberofpastclassfailures(numeric:nif1<=n<3,else4)
16schoolsupextraeducationalsupport(binary:yesorno)
17famsupfamilyeducationalsupport(binary:yesorno)
18paidextrapaidclasseswithinthecoursesubject(MathorPortuguese)(binary:yesorno)
19activitiesextracurricularactivities(binary:yesorno)
20nurseryattendednurseryschool(binary:yesorno)
21higherwantstotakehighereducation(binary:yesorno)
22internetInternetaccessathome(binary:yesorno)
23romanticwitharomanticrelationship(binary:yesorno)
24famrelqualityoffamilyrelationships(numeric:from1verybadto5excellent)
25freetimefreetimeafterschool(numeric:from1verylowto5veryhigh)
26gooutgoingoutwithfriends(numeric:from1verylowto5veryhigh)
27Dalcworkdayalcoholconsumption(numeric:from1verylowto5veryhigh)
28Walcweekendalcoholconsumption(numeric:from1verylowto5veryhigh)
29healthcurrenthealthstatus(numeric:from1verybadto5verygood)
30absencesnumberofschoolabsences(numeric:from0to93)
Variablesdesalida
Nuestravariabledesalidaesnicaeindicalanotadelestudianteafinaldelao.
G3finalgrade(numeric:from0to20,outputtarget)
III.
TRABAJOSPREVIOS
Se han investigado algunos artculos de divulgacin cientfica (slo artculos de revista) para identificar algunos trabajos
similares sobre bases de datos de estudiantes de secundaria, tales como el de Paulo Cortez y Alice Silva [1] los cuales, con
nuestra misma basede datos asumen el problema comouna regresin yunaclasificacinparaintentarpredecirelfracasoenlas
pruebasdematemticas,paraterminarhallandoRandomForestcomoelmejormodeloparaelproblemaderegresinqueeselde
nuestro inters, con unECM de 3.90. Sin embargo otros estudios como losde M.Ramaswami[2][4]se buscan otrasformasde
resolver estetipodeproblemasconmtodoscomoBayesianNetworks(BN) yCHIAD,usando basesdedatosmuysimilarescon
variables de tipo personal, socioeconmico, psicolgico,ambientales y academicos para describiry predecir elrendimiento de
los estudiantes en las escuelas secundarias [2], mientras que Ramesh, V y Ramar, K [3] tratan el problema como una
clasificacin para hallarel mejor mtodo para clasificar alos estudiantesconaltoobajodesempeo enlasescuelassecundarias,
deacuerdoalasvariablesqueinfluyenaltamenteensurendimientoacadmico.
En M.Ramaswami y R.Bhaskaran [2] seusa un modelode prediccin CHIAD paraanalizar la interrelacion entre las variables
que se utilizan para predecir el resultado deldesempeoenlaeducacinsuperior delaescuelasecundaria.LosmodelosCHIAD
de prediccin del rendimiento fueron construidos con un predictor de variables desiete clases. Una tcnica de regresin lineal
simple fue usada para construir el modelo de regresin, despus de la codificacin de los valores categricos de todas las
variables predictoras en valores numricos. La exactitud de prediccin del rendimiento de los estudiantes que se encontr a
travs de este modelofuedel39,23%.DuranteelprocesodeconstruccindemodelosdeprediccinCHAIDseusel mtodode
validacincruzada(k=10)paralavalidacin.
Mientras en M. Ramaswami [4] han usado el mtodo de BN classifier como una herramienta para predecir el rendimiento
acadmico de los estudiantes, presentan una base de datos con 5650 objetos y 35 atributos para estudiantes de la escuela
secundaria en India. Se entren la Red Bayesiana con 2, 3, 5 y 7categorasde valorde clase con un mtodo de validacin
cruzada con K=10. Los resultados revelaron que la mayor precisin se obtiene con el algoritmo de bsqueda TAN y es de
84.91%para2clases.
3
Predicciones2.0
IV.
EXPERIMENTOS
Los experimentos fueron realizadoscon cuatro diferentesmodelos de prediccin, ellos son, Regresin Mltiple(RM),Ventana
de Parzen (VP), RedesNeuronales Artificiales (RNA) y Random Forest (RF). con una metodologa devalidacin cruzadacon
K=10 y con la base de datos del UCI Machine Learning Repository, Student Performance Data Set [x], con un numero de
muestrasde649y33caractersticas.
Normalizacindelasmuestrasusandozscore
Validacincruzada,k=10,sedividelasmuestrasen10.
Intervalodeconfianzade95%
Parael caso de la regresin se us unatasa de aprendizaje de 0.1. y seusa el algoritmo degradientedescendente. Los mejores
resultadosseobservancuandoseutilizanpolinomiosdegradobajo
Gradodel
polinomio
Regresin
RMSE
2
R
IC
4.2027
0.4028
0.0854
4.339
0.38904
0.021876
4.6591
0.33545
0.23012
4.8278
0.49758
0.39702
4.8121
0.41408
0.35095
Para el mtodo de ventana de parzen se us el estimador

de NadarayaWatson. Para valores pequeos de h este
mtodo daba como resultado errores grandes, indicando queeranecesarioampliarlavecindad(darlems

pesoalasmuestrasmsalejadas)paraobtenermejoresresultados
VentanadeParzen
RMSE
IC
2
R
0.3
5.2074
0.6653
0.4679
0.7
4.7876
0.64573
0.2352
4.4865
0.5435
0.0703
4
Predicciones2.0
1.5
4.0947
0.48788
0.13541
1.8
4.0493
0.47328
0.15929
4.06
0.45193
0.15498
Se us la red neuronal perceptrn multicapacon dos capas ocultas y unacapa desalidaconsolounaneurona,cadacapa oculta
tiene el mismo nmero de neuronas. Lafuncion de activacionen las capasoculta es tangente hiperblicayenlacapadesalida
unafuncinlineal.
Nmerode
neuronas
enlacapa
oculta
Redesneuronales
RMSE
IC
R
4.5941
0.49674
0.0826
4.4334
0.34431
0.0339
10
4.4913
0.40474
0.0444
16
4.4809
0.46587
0.0372
20
4.6977
0.33492
0.1682
30
5.1563
0.40507
0.4700
Se us un random forest para resolver un problema de regresin, losrbolescrecensinpodaryluegosecalculanlas secuencias

ptimasdepodaparalossubarboles
Nmero
de
arboles
RandomForest
RMSE
4.1259
0.37542
0.11694
4.0336
0.39646
0.16015
13
4.0623
0.40799
0.15067
IC
2
R
5
Predicciones2.0
20
3.9786
0.40632
0.18361
25
3.9703
0.40677
0.18836
30
3.9457
0.41165
0.19922
31
3.9272
0.39826
0.20565
35
3.9593
0.41543
0.19
LISTO
Tambienseutilizounaregresinporvectoresdesoporteconlossiguientesresultados
//LISTA
Ingrese 1 para regresin multiple, 2 para ventana de parzen,3 para redes neuronales, 4 para randomforest, 5 para vectores de
soporte:5
MaquinasSoporteVectorial
Gamma:10boxConstraint0.7
raizcuadradadelerrorcuadraticomedio=3.9959IC:0.40222Determinacion:0.17523
Gamma:10boxConstraint1
6
Predicciones2.0
V.
SELECCINYEXTRACCINDECARACTERSTICAS
Correlacindeparson
SerealizunanlisisdecorrelacindeparsonentrecadacaracteristicaylasalidaY.Seencuentraquelascaractersticas8,9,16
y22tienenunacorrelacininsignificanteconlasalidaY.Seeliminanestascaractersticasysemiraelresultadoconlostres
modelosquedieronmejorresultadoenelpuntoIV(Randomforest,ventanadeparzenySVM)
SVM//paracambiarsidaeltiempo
Eliminandocaracteristicasconcorrelacioninsignificante
Ingrese1pararegresinmultiple,2paraventanadeparzen,3pararedesneuronales,4pararandomforest:5
7
Predicciones2.0
AnalisisPCA
Se realiza un anlisis usando PCA. Se tiene queutilizando28componentes seexplicamasdel98%dela varianzaysemostrar

suresultadoentresmodelos
SVM//voyLISTA
*****PCA*****
Numerodecaractersticasqueexplicanunavarianzamayoral85%:20
8
Predicciones2.0
VentanaParzen//Voy..LISTA
*****PCA*****
Numerodecaracteristicasqueexplicanunavarianzamayoral85%:20
Ventanadeparzen
H:0.3
H:0.7
H:1
H:1.5
H:1.8
H:2
RANDOMFOREST//...LISTA
*****PCA*****
Numerodecaracteristicasqueexplicanunavarianzamayoral85%:20
RandomForest
Numerodearboles:25
Numerodearboles:31
Numerodearboles:35
Numerodearboles:37
Numerodearboles:40
Numerodearboles:45
9
Predicciones2.0
Numerodearboles:55
SFS
Serealizounaselecciondecaracteristicasusandoelmetodosequencialforwardselectionusandocomofuncinobjetivoelerror
cuadrticomediousandorandomforest.LascaracteristicasseleccionadasporelmetodoSFSfueron4,8,12,16,20
SVM
//...LISTO
*****SFS*****
10
Predicciones2.0
Ventanadeparzen//LISTA
Ventanadeparzen
H:0.3
H:0.7
H:1
H:1.5
H:1.8
H:2
RandomForest//LISTA
*****SFS*****
RandomForest
Numerodearboles:8
Numerodearboles:13
Numerodearboles:17
Numerodearboles:20
Numerodearboles:25
Numerodearboles:30
Numerodearboles:35
11
Predicciones2.0
LASSO
Seutilizolatecnicalassoparaselecciondecaracteristicas.ElresultadodeLassoesquesepuedendescartarlascaracteristicas1,
5,14y23
svm//LISTA
Ingrese1pararegresinmultiple,2paraventanadeparzen,3pararedesneuronales,4pararandomforest,5paravectoresde
soporte:5
****LASSO****
12
Predicciones2.0
Ventanaparzen//VoyLISTA
soporte:2
****LASSO****
Ventanadeparzen
H:0.3
H:0.7
H:1
H:1.5
H:1.8
H:2
RandomForest//voy
soporte:4
****LASSO****
RandomForest
Numerodearboles:5
Numerodearboles:8
Numerodearboles:13
Numerodearboles:20
Numerodearboles:25
Numerodearboles:30
Numerodearboles:31
Numerodearboles:35
13
Predicciones2.0
Numerodearboles:40
VI.
ANLISISDERESULTADOS
Los resultados han demostrado quees dificilrealizar predicciones sobre el desempeo de los estudiantes, esto esdebido a que
aunque existen muchas variables que pueden influir (no todas consideradas en este trabajo) esdeterminante las capacidades y
motivacin del alumno a la hora de su desempeo acadmico. El mejor modelo delos considerados anteriormente fue random
forest,una de las razones es que el mtodo de random forest no se vetan afectado por problemas de datosnobalanceados(La
mayoradelosalumnostienenasacarpuntajeporencimade10).
Comotrabajofuturoseinvestigarculesvariablessonmsimportantesenladeterminacindelanotadelosalumnos
VII.
PREDICCIONESDELMEJORMODELO
14
Predicciones2.0
VIII.
Conclusion
En el trabajodepredecireldesempeodelosestudiantes usandotcnicasdeinteligenciaartificiallamayoradeesfuerzossehan
realizadotratandolasituacincomounproblemadeclasificacin(desempeobajo,medio,alto,etc)pordosrazonesprincipales:
La primera esquealserunproblematancomplejo,muchas variablesycasosatpicos,esdificilobtenerbuenos resultados silo
que se buscaes exactitudenlanota.Lasegundaraznes quenoestan importantepronosticarlanotaexactadeunestudiante,lo
que se buscaes tener unaidea de quevariables desempeanun papel ms importante y un desempeo probabledel estudiante
(rendimientobajooalto)parapoderdefiniraccionesarealizar.
Los resultados han demostrado quees difcilrealizar prediccionessobreeldesempeodelos estudiantes,esto esdebidoaque

aunque existen muchas variables que pueden influir (no todas consideradas en este trabajo) esdeterminante las capacidades y
motivacin del alumno a la hora de su desempeo acadmico Elmejor modelode los considerados anteriormente fueRandom
Forest con un RMSE de3.92,muycercano alobtenidoenPauloCortezyAliceSilva[1],unadelasrazoneses queelmtodode
Random Forest no se ve tan afectado porproblemas de datos nobalanceados(Lamayora delosalumnostienenasacarpuntaje
porencimade10).
15
Predicciones2.0
IX.
REFERENCIAS
[1]
Cortez,PauloandSilva,Alice,USINGDATAMININGTOPREDICTSECONDARYSCHOOLSTUDENTPERFORMANCE,
[2] Ramesh,Vand Ramar, K, PredictingStudentPerformance:AStatisticaland Data MiningApproach,International JournalofComputerApplications,

[3]
[4]
Vol.67,,No.8,February2013.
Ramaswami, M, Student Performance Prediction, International Journal of Computational Intelligenceand Informatics,Vol. 1, No: 4, JanuaryMarch
2012.
Ramaswami, M, Bhaskaran, R,A CHAID Based Performance Prediction Model in Educational Data Mining, IJCSI InternationalJournalofComputer
ScienceIssues,Vol7,No1,January2010.
//cambiaresto
TecnologynoTECnology,//FUBUTEC
Z=1o2//pesosalasclasesminoritarias=2
Grafica,SoloparaRF
CorregirelDoc//losprrafosquenoestanalineadosylasreferencias
Clasificaciondelmejormodelo
05
5101015
1520
//hacerSmote
Box
Gam
MquinasdeSoporteVectorial
Constrain
ma
t
RMSE
IC
R2
0.5
4.4028
0.41882
0.00531
0.5
10
4.0316
0.42114
0.15963
0.5
25
3.9715
0.42765
0.18556
0.5
30
3.9949
0.42132
0.17459
4.4085
0.41461
0.00219
10
4.0021
0.45797
0.17222
25
4.0033
0.43847
0.16837
30
3.9967
0.43805
0.17343
10
4.4224
0.41432
0.00434
10
10
4.2411
0.48112
0.05707
10
25
4.2431
0.51793
0.05783
16
Predicciones2.0
10
30
4.2342
0.4923
0.06175
20
4.4216
0.41125
0.00438
20
10
4.2788
0.47978
0.03893
20
25
4.3975
0.50396
0.01882
20
30
4.3517
0.5046
0.00154

Aprendizaje de Maquinas Simulacion

Cargado por

Información del documento

Título original

Derechos de autor

Formatos disponibles

Compartir este documento

Compartir o incrustar documentos

Opciones para compartir

¿Le pareció útil este documento?

¿Este contenido es inapropiado?

Copyright:

Formatos disponibles

Aprendizaje de Maquinas Simulacion

Cargado por

Copyright:

Formatos disponibles

1

USING DATA MINING TO PREDICT SECONDARY

Para el mtodo de ventana de parzen se us el estimador

mtodo daba como resultado errores grandes, indicando queeranecesarioampliarlavecindad(darlems

Se us un random forest para resolver un problema de regresin, losrbolescrecensinpodaryluegosecalculanlas secuencias

Se realiza un anlisis usando PCA. Se tiene queutilizando28componentes seexplicamasdel98%dela varianzaysemostrar

Los resultados han demostrado quees difcilrealizar prediccionessobreeldesempeodelos estudiantes,esto esdebidoaque

[2] Ramesh,Vand Ramar, K, PredictingStudentPerformance:AStatisticaland Data MiningApproach,International JournalofComputerApplications,

También podría gustarte