Tarea N°1:
Clustering & Reducción de Dimensionalidad
Valeria González Araya
COM4402 – Introducción a Inteligencia Artificial
Escuela de Ingeniería, Universidad de O’Higgins
12 Abril, 2023
Resumen— El siguiente trabajo se centra en distintas técnicas de
clustering para aprendizaje no supervisado, los algoritmos de
clustering definidos, la implementación de reducción de
dimensionalidad para el set de datos y las distintas métricas de
desempeño de los algoritmos serán los componentes claves para
realizar un análisis detallado respecto a la base de datos “Mice
Protein Expression Data Set” que contiene datos de los niveles de
expresión de proteínas en ratas. A través de los distintos
algoritmos y mediciones de éstos se podrá llegar a la conclusión
de cuál de los algoritmos de clasificación implementados para
esta base de datos es el más óptimo en comparación a los otros.
Keywords— Aprendizaje no supervisado, clustering, algoritmos
de clustering, métricas, reducción de dimensionalidad.
I. INTRODUCCIÓN
En el presente trabajo se utilizarán técnicas de
clustering y reducción de dimensionalidad aplicadas
a la base de datos “Mice Protein Expression Data
Set” proporcionada por la UC Irvine Machine
Learning Repository. Esta base de datos contiene
información sobre la expresión de 77 proteínas en
muestras de tejido cerebral de ratones, para ello se
contó con 38 ratones de control y 34 ratones
trisómicos o syndrome de Down, dado que algunos
ratones fueron estimulados para aprender y/o
inyectados con memantina.
En lo que sigue, se hará una limpieza de la base de
datos a utilizar para luego implementar algoritmos
de; K-Means, K-Means++, DBSCAN, Clustering
aglomerativo y PCA. Con los resultados obtenidos
será posible medir mediante métricas el desempeño
de cada una de estas técnicas identificando
patrones, relaciones o características importantes
que sean relevantes en la expresión de proteínas en
el cerebro de las ratas.
II. MARCO TEÓRICO
Aprendizaje no supervisado o también conocido
como machine learning es un tipo de enfoque de
aprendizaje automático donde a través de un
algoritmo se entrena, analizan y agrupan conjuntos
de datos sin necesidad de recurrir a etiquetas o
salidas de clases previamente conocidas. A
diferencia del aprendizaje supervisado, este tipo de
algoritmo es capaz de descubrir grupos o patrones
de manera automática. El enfoque principal de los
modelos de aprendizaje no supervisado es realizar
tareas de agrupamiento, asociación y reducción de
dimensionalidad. Dependiendo de las similitudes o
disimilitudes presentes en los datos es cómo se irán
agrupando los datos o formando los clusters,
algunos de estos algoritmos de agrupamiento son:
A. K-Means
Es un tipo de agrupación en clusters exclusiva o
de agrupamiento duro. En esta técnica de
agrupamiento se divide un conjunto de datos en
“K” clusters, donde cada uno de estos tendrá un
centro de cluster denominado “centroide”. La
dinámica de este algoritmo comienza con la
inicialización, donde se seleccionarán K puntos de
datos, los cuales pueden ser de manera aleatoria o
mediante otros métodos, para que sean los
centroides iniciales, luego cada punto de dato se irá
asignando al centroide más cercano y esto se hará
en función de una medida de distancia, que en este
caso es distancia euclidiana.
El tercer paso será volver a calcular los centroides
utilizando los miembros actuales de los grupos, esto
implica calcular el centroide promedio de todos los
puntos en cada cluster. Lo que sigue es realizar
iteraciones, donde el segundo y tercer paso se irán
1
repitiendo hasta cumplir un “criterio de
convergencia”, comúnmente este criterio se basa en
ver cuándo los centroides dejan de cambiar
significativamente, pero también podría ser el dar
un número máximo de iteraciones alcanzadas.
Finalmente, obtenida la convergencia se obtendrán
los K conjuntos de clusters, que serán la
representación de agrupaciones de puntos de datos
con similitudes en función de la medida de
distancia que se utilizó.
B. K-Means++
Esta técnica de agrupamiento es una variante del
algoritmo de K-Means, a diferencia de éste en
K-Means++ se evita el “problema de sensibilidad
de inicialización”, pues en K- Means la
inicialización de los centroides se hace de manera
aleatoria lo que produce algunas veces una
convergencia lenta o llegar a encontrar soluciones
subóptimas. El algoritmo de K-Means++ mejora la
inicialización de los centroides y a su vez el proceso
y calidad de la agrupación, esto lo hace
seleccionando los centroides iniciales de tal manera
que estén más alejados entre sí en el espacio de
datos.
La inicialización del algoritmo comienza
seleccionando un centroide al azar de los datos,
luego para cada punto de datos se calculará su
distancia en función del centroide más cercano que
ya ha sido seleccionado. Posteriormente, se
selecciona el siguiente centroide inicial con una
probabilidad proporcional a la distancia al centroide
más cercano elevada al cuadrado, por esto los
puntos de datos que están más lejos de los
centroides existentes tendrán una mayor
probabilidad de ser elegidos centroides iniciales.
Finalmente se deberá repetir el paso dos y tres,
mencionados anteriormente, hasta seleccionar K
centroides iniciales.
C. DBSCAN
Density-Based Spatial Clustering of Applications
with Noise (DBSCAN) es un algoritmo de
clustering que utiliza como parámetro la densidad y
distancia a la que se encuentran el número de
puntos. La principal diferencia, en relación a otros
algoritmos de clustering, es que en DBSCAN no
será necesario especificar el número de clusters a
formar (K), pues este método encontrará
automáticamente el número de clusters y detectará
además los puntos outliers o de ruido.
Para el proceso de agrupación de DBSCAN
primero se deben definir dos parámetros; el radio de
búsqueda o épsilon y el mínimo número de puntos
dentro del radio de búsqueda, pues con estos datos
se podrá considerar un punto como “denso”
(minPts). Luego, las observaciones obtenidas se
podrán ir clasificando en tres tipos: “puntos core”,
“puntos alcanzables” y “puntos ruido”.
Puntos core o núcleos serán aquellos puntos que
cumplan las reglas de densidad establecidas en el
modelo, es decir, puntos que tengan al menos
minPts puntos dentro de su radio épsilon. Puntos
alcanzables o borde serán puntos que se encuentran
a una distancia épsilon de un core point, pero no
poseen una cantidad suficiente de puntos dentro del
radio épsilon de búsqueda, en otras palabras, a pesar
de no cumplir con las reglas de densidad
establecidas tienen cerca otros puntos core. Por
último, los puntos ruido u outliers serán puntos que
no cumplen las condiciones para ser etiquetados
como core points o border points.
El algoritmo de DBSCAN comenzará calculando
una matriz de distancia para los diferentes puntos,
esto normalmente se hace utilizando la distancia
euclidiana. Luego, se clasifica cada punto como
punto core, punto alcanzable u outliers. Los puntos
que hayan sido clasificados como puntos core serán
pertenecientes a un cluster, un cluster se formará
por la unión de todos los puntos que están
densamente conectados. Finalmente, el último paso
será etiquetar outliers, esto se basa en encontrar
puntos que no son parte de ningún cluster los cuales
se clasificarán como puntos ruido.
D. Clustering aglomerativo
Clustering Aglomerativo o Agrupamiento
Jerárquico (HCA), es un algoritmo de agrupamiento
que puede categorizar en dos maneras: Clustering
2
Aglomerativo o Clustering Divisivo. Para los
conceptos de esta tarea solo nos enfocaremos en
Clustering Aglomerativo.
En clustering aglomerativo los datos se irán
agrupando en base su distancia y similitud entre sí,
el procedimiento que sigue este algoritmo es en
primer lugar, aislar sus puntos de datos como
grupos separados para luego fusionar de forma
repetitiva o iterativa respecto a la similitud de los
datos, de esta forma se van generando los clusters.
Para medir la similitud entre los datos existen 4
métodos: Vínculo de Ward, Vínculo promedio,
Vínculo completo o máximo y Vínculo único o
mínimo.
El vínculo de Ward establece que la distancia entre
dos grupos de clusters se define en base al aumento
en la suma de los cuadrados luego de fusionar los
clusters. El vínculo promedio es la distancia media
en cada cluster entre dos puntos. Vínculo completo
o máximo es un método definido por la distancia
máxima de dos puntos en cada uno de los clusters.
Por último, vínculo único o mínimo será la mínima
distancia entre dos puntos para cada cluster. Para
calcular estas métricas comúnmente se utiliza
distancia euclidiana, pero otras métricas como
distancia Manhattan también pueden ser utilizadas.
E. PCA
Análisis de componentes principales o PCA es un
método que tiene como objetivo reducir la
dimensionalidad de los datos, para utilizar este
método se necesitará calcular los vectores y valores
propios de la matriz de varianzas-covarianzas de las
variables. Con los valores propios calculados de la
matriz se obtiene la proporción de varianza
explicada por cada componente, este porcentaje es
el que siempre se busca maximizar con la suma de
los componentes. Cabe aclarar que para este
proceso solo se seleccionan los componentes que
más aportan al total de la varianza, generalmente
será el 80% del total de la varianza explicada.
Teniendo claro el funcionamiento de estos
algoritmos, se entrará a profundizar en otro de los
elementos importantes para la elaboración de este
trabajo, lo cual hace referencia a la utilización de
métricas de evaluación para los clusters generados,
para medir estos rendimientos se usarán las
métricas de; Inertia, Homogeneity, Completeness,
V-Meashure, Índice de Rand Ajustado, Información
Mutua Ajustada y Silhoutte.
A. Inertia
La inertia o inercia mide qué tan bien K-Means
agrupa un conjunto de datos, se calcula midiendo la
distancia entre cada punto de datos y su centroide,
elevando al cuadrado esta distancia y sumando
estos cuadrados en un grupo. Un buen modelo es
uno con baja inercia y un bajo número de
conglomerados (K) sin embargo, esto es una
compensación, porque a medida que K aumenta la
inercia disminuye [1].
B. Homogeneity
Métrica que mide la corrección de las
asignaciones de grupos que se derivan del
aprendizaje supervisado. Mide que cada grupo
contenga miembros de solo una clase, es decir, la
precisión con la que se hizo el cluster.
C. Completeness:
Esta métrica también mide la corrección de las
asignaciones de clusters, pero a diferencia de otras
acá lo que se evalúa es si todos los miembros de
una clase determinada se asignaron al mismo grupo
al cual pertenecen realmente.
D. V-Measure
Esta métrica mide la corrección de las
asignaciones de grupos mediante el análisis de
entropía condicional. Una puntuación más alta
significa una mayor similitud [1]. Para calcular esta
métrica se debe computar la media armónica de
métrica de homogeneidad y la de completeness.
E. Índice de Rand Ajustado (ARI)
El índice Rand mide la similitud entre las
asignaciones de grupos al hacer comparaciones por
pares. Una puntuación más alta significa una mayor
similitud [1]. Para cada par de puntos se considerará
un cluster como correcto si se tiene un verdadero
3
positivo o de igual modo, cuando se tenga un
verdadero negativo, como el predecir que el par de
puntos está en distintos clusters siendo que en
realidad sí lo están. Particularmente esta métrica no
considera el azar, por lo mismo podría pasar que si
la asignación de los grupos es de manera aleatoria
se generen muchos verdaderos negativos. Para
solucionar este problema se utiliza mayormente el
índice de Rand ajustado (ARI), este se ajusta por
probabilidad dado que se resta la normalización de
probabilidad.
F. Información Mutua Ajustada (AMI)
Información mutua o MI, mide el acuerdo entre
las asignaciones de clúster. Una puntuación más
alta significa una mayor similitud [1]. La
información Mutua Ajustada (AMI) es el MI
normalizado ajustado de manera aleatoria, mediante
el descuento de un término de normalización al
azar.
G. Silhouette
Silhouette es la distancia entre una muestra y el
grupo más cercano del que la muestra no forma
parte. El mejor valor es 1 y el peor valor es -1. Los
valores cercanos a 0 indican clústeres superpuestos.
Los valores negativos generalmente indican que una
muestra se ha asignado al conglomerado
equivocado, ya que un conglomerado diferente es
más similar [2].
III. METODOLOGÍA
Para comenzar, se importaron las librerías a
utilizar, en este caso fueron; numpy, pandas y
sklearn, luego se cargó la base de datos “Mice
Protein Expression Data Set” asignándola a la
variable denominada “data”. Se realizó la primera
visualización set de datos y se observó que este
contenía un total de 1080 filas y 82 columnas.
Obtenido esto se comienza a realizar la limpieza de
datos:
A. Valores NaN
La columna BCL2_N es eliminada dado que
contiene muchos valores “NaN” o no numéricos,
los cuales no son permitidos a la hora de utilizar las
funciones de clustering de la librería de sklearn,
para esto se realizó una copia de la data original
denominada “df”, luego a df se le elimina la
columna BCL2_N utilizando “drop()”. Del mismo
modo, se procedió a eliminar todas las filas que
contuvieran algún valor NaN utilizando el método
“dropna”. Realizando esto, disminuyó a 612 filas y
81 columnas.
Figura 1: Códigos utilizados para la eliminación de valores NaN.
B. Datos de tipo object
El Segundo paso fue revisar el tipo de dato
contenido en cada columna de df, esto se hace
utilizando el método “info()” para un data frame.
De esto resultó que se tenían 5 columnas de tipo
“object”, específicamente; MouseID, Genotype,
Treatment, Behavior y class, y todas las restantes de
tipo “float64”.
Para las columnas tipo object se realizó una
revisión sobre los datos que contenían y se
determinó eliminar las columnas; MouseID,
Genotype, Treatment y Behavior, pues MouseID,
representaba el número identificador para cada rata,
pero en el análisis de los algoritmos no resulta ser
un dato de interés. Luego, para las columnas
Genotype, Treatment y Behavior también se decidió
eliminarlas, debido a que los valores que poseían
eran de tipo string y para la implementación de los
algoritmos no se podría trabajar con ellas. La única
columna de tipo object que se mantiene en el set de
datos es la columna “clas”, pues esta representa la
clasificación que se le da a la rata dependiendo de
las observaciones vistas, lo cual es un dato de
importancia al momento de implementar las
métricas para cada algoritmo.
Figura 2: Códigos utilizados para la eliminación de columnas de desinterés.
Luego, se procede a hacer una segunda revisión
del tipo de dato que contiene cada columna de df y
se observa que todas las columnas son de tipo int64,
4
es decir, de tipo numérico excepto por la columna
“class” que continúa siendo de tipo object, en este
caso el que esta columna no sea de tipo numérica no
afectará en la implementación de los algoritmos,
pues solo será utilizada para medir las métricas de
estos.
IMPLEMENTACIÓN DE ALGORITMOS (PARTE 2 & 3)
Ya teniendo lista la limpieza del data frame, se
procede a realizar la implementación de los
algoritmos de clustering, para ello primero se
realizó una división de df, donde una variable estará
encargada de contener todas las columnas de df
exceptuando la columna class, por otra parte, una
segunda variable será responsable de considerar los
datos de la columna class. Las variables “X” e “y”
representan la división, mencionada anteriormente.
Figura 3: Códigos utilizados para la división de la data set
Luego para entrenar los algoritmos se utilizaron
los siguientes parámetros:
● K-Means (con inicialización al azar), usando
8 clusters.
● K-Means++, usando 8 clusters.
● DBSCAN con épsilon por defecto.
● DBSCAN con épsilon 0.7.
● DBSCAN con épsilon 0.2.
● DBSCAN con épsilon por defecto,
agregando outliers a cluster extra.
● DBSCAN con épsilon 0.7, agregando
outliers a cluster extra.
● DBSCAN con épsilon 0.2, agregando
outliers a cluster extra.
● Clustering aglomerativo, usando 8 clusters.
A. K-Means y K-Means++
Para la implementación de K-Means y
K-Means++ se crearon 2 nuevas variables
“kmeans”, para K-Means y “kmeans_” para
K-Means++. En cada una de ellas se utilizó la
función “KMeans” de Sklearn:
KMeans(init, n_clusters, n_init, random_state) [4].
Los parámetros utilizados en esta función son:
● init: Es el método de inicialización. Para
este caso se utilizó init = “k-means++”,
para K-Means++ e init = “random” para
K-Means.
● n_clusters: Corresponde al total de
clusters y centroides a formar. En este
caso se utilizó un total de 8 tanto en
K-Means como en K-Means++.
● n_init: Número de veces que se ejecuta el
algoritmo K-Means con semillas de
centroide diferentes. En ambos casos se
utilizó un valor de 10.
● random_state: Determina la generación
de números aleatorios para la
inicialización del centroide. Para ambos
casos se usó random_state = 0.
Finalmente se implementa la función
bench_k_means(kmeans, name, data, labels), que
fue facilitada por el profesor a cargo del curso para
la elaboración de este trabajo, donde su utilidad será
medir la precisión de la o las agrupaciones
generadas por cada uno de estos algoritmos.
Figura 4: Códigos implementados para los algoritmos de K-Means y
K-Means++.
B. DBSCAN
Para DBSCAN se crearon 4 nuevas variables;
“dbscan”, “dbscan_07”, “dbscan_02”,
“DBSCAN_out”, “DBSCAN07_out” y
“DBSCAN02_out”, a cada una de estas nuevas
variables se le asignó la función “DBSCAN” de
sklearn, cuya función viene dada por:
DBSCAN(eps , min_samples) [5].
Los parámetros introducidos en esta función son:
● eps: Indica la distancia máxima entre dos
muestras para que una se considere en la
vecindad de la otra. En este caso, para
“dbscan” y “DBSCAN_out” se utilizó 0,5
(valor que tiene por defecto la función).
5
 Para “dbscan_07” y “DBSCAN07_out” se
utilizó eps = 0.7. Por último, para
“dbscan_02” y “DBSCAN02_out” se usó
eps = 0.2.
● min_samples: Es el número de muestras (o
peso total) en una vecindad para que un
punto se considere un punto central. Esto
incluye el punto en sí. Acá se utilizó el
mismo valor en todas las variables, esto es
min_samples = 0.5, que es el valor por
defecto que trae la función.
Finalmente, para cada una de las variables se mide
su nivel de precisión mediante la función
bench_clustering2(estim, name, data, labels,
use_outliers), que al igual que en el caso anterior,
fue facilitada por el profesor del curso.
Figura 5: Códigos utilizados para algoritmos de DBSCAN con distintos
parámetros.
C. Clustering Aglomerativo
Para este algoritmo primero se creó la variable
“AGC”, la cual tiene asociada la función de sklearn
“AgglomerativeClustering” con los siguientes
parámetros:
AgglomerativeClustering(n_clusters, affinity, linkag
e) [6].
● n_clusters: Indica el número de clusters
que se quiere buscar. Para este caso se
utilizó n_clusters = 8.
● affinity: Es la métrica de distancia que se
utilizará para medir las instancias en una
matriz de características. En este caso se
usó affinity = “euclidean”, métrica que por
defecto tiene la función.
● linkage: Corresponde al criterio de
vinculación a utilizar, este se encarga de
determinar qué distancia usar entre
conjuntos de observación, para esto el
algoritmo fusionará los pares de clústeres
que minimizan este criterio. Acá se utilizó
linkage = “ward”, pues es el parámetro por
defecto que tiene la función, además el
criterio ward minimiza la varianza de los
grupos que se fusionan.
Por último, se implementa la función
bench_clustering2(estim, name, data, labels,
use_outliers), donde a diferencia de DBSCAN se
utiliza estim = AGC.
Figura 6: Códigos utilizados para algoritmos de clustering aglomerativo.
REDUCCIÓN DE DIMENSIONALIDAD E IMPLEMENTACIÓN DE
ALGORITMOS (PARTE 2 & 4)
Respecto a la reducción de la dimensionalidad, se
disminuyó la matriz de observaciones a un total de
dos columnas utilizando PCA, esto se hizo con la
función “PCA()”de la librería sklearn, luego se
entrenaron los mismos algoritmos nombrados con
anterioridad usando las mismas funciones y
métricas indicadas.
Figura 7: Códigos utilizados para disminuir la dimensionalidad de los datos
con PCA.
A. K-Means y K-Means++
Acá nuevamente se entrenan los datos con los
algoritmos de K-Means y K-Means++, pero en este
caso la data que se usará será la que se obtuvo
después de la aplicación de PCA, es decir, “X_pca”.
Figura 8: Códigos utilizados para K-Means y K-Means++ con la data de 2
dimensiones.
B. DBSCAN
6
 Al igual que la parte anterior se entrenan los datos
con los mismos parámetros para el algoritmo de
DBSCAN, salvo por la data utilizada, la cual es
nuevamente la que tiene reducción de
dimensionalidad, es decir, “X_pca”.
Figura 9: Códigos utilizados para DBSCAN con y sin outliers utilizando la
data de 2 dimensiones.
C. Clustering Aglomerativo
Acá los datos son entrenados con los mismos
parámetros de la primera parte de la tarea, salvo la
base de datos utilizada, la cual es reemplazada por
la data que tiene la aplicación de PCA.
Figura 10: Códigos utilizados para clustering aglomerativo utilizando la data
de 2 dimensiones.
IV. RESULTADOS
Los resultados obtenidos de la implementación de
los algoritmos con y sin PCA pueden ser
observados mediantes la Tabla I y Tabla II:
TABLA I
RESULTADOS DE LOS ALGORITMOS SIN REDUCCIÓN DE DIMENSIONALIDAD (PCA)
TABLA II
RESULTADOS DE LOS ALGORITMOS CON REDUCCIÓN DE DIMENSIONALIDAD (PCA)
V. ANÁLISIS DE RESULTADOS
De la Tabla I, se concluye que para la métrica de
completeness el algoritmo de DBSCAN con épsilon
por defecto (0.5) posee la mejor agrupación en
comparación a los otros algoritmos siendo esta de
12 clusters. Para esta métrica el algoritmo alcanza
un valor de 0.705, un valor bastante cercano a 1 si
se consideran todos los algoritmos analizados, esto
quiere decir que DBSCAN con radio 0.5 tiene el
mayor número de elementos agrupados de forma
correcta. Por otro lado, respecto a esta misma
métrica, el algoritmo de K-Means resultó ser el que
tenía el valor de completeness más bajo, siendo este
un 0.268, lo que significa que los elementos de una
clase o categoría están divididos en múltiples
clusters, es decir, una mala agrupación de los
elementos.
Respecto a los resultados de los algoritmos para la
métrica de homogeneidad se tiene que el algoritmo
de DBSCAN resulta ser el que posee la mayor
cantidad de clústeres puros en términos de su
contenido categórico, pues para esta métrica se
obtiene un valor igual a 1, lo cual es el valor
máximo que se puede obtener en esta medición. Un
valor igual a 1 en la homogeneidad significa que
todos los clústeres obtenidos contienen sólo
elementos de una misma categoría. Por otra parte, el
valor más bajo de homogeneity se obtuvo al evaluar
el algoritmo de DBSCAN_out resultando ser de
0.107, esto quiere decir que los clusters formados
contienen elementos de otras categorías.
En relación a V-measure, se concluye que el
algoritmo de DBSCAN es el que posee una mejor
completitud y homogeneidad de los clústeres
formados, en comparación a los clusters generados
por los otros algoritmos, para esta métrica se obtuvo
un valor igual a 0.827, lo que es muy cercano a 1.
En cuanto a el valor más bajo para esta métrica se
obtiene con el algoritmo de DBSCAN_out, este
valor es de 0.165, lo que quiere decir que se tiene
una baja completitud y homogeneidad en los
clusters.
Finalmente, sobre la métrica de silhouette se
obtiene el mejor parámetro con el algoritmo de
7
DBSCAN, el cual es igual a 0.693 esto quiere decir
que la mayoría de los objetos presentes en un
cluster son bastante similares en comparación con
los otros clusters, en otras palabras, los objetos
dentro de un clúster son similares entre sí y están
bien separados de otros clústeres. Por otro lado, si
no se considera el algoritmo de DBSCAN_0.2 y
DBSCAN_0.2_out, se tiene que DBSCAN_out
tiene el valor más bajo para esta métrica con -0.349,
lo que se traduce en una mala agrupación de los
objetos.
Un último comentario o análisis sobre los
resultados obtenidos para; completeness,
homogeneity, v-measure y silhouette, son los
algoritmos que resultaron tener continuamente un
valor de -1, lo anterior se debe a que en el caso de
DBSCAN_0.2 el número de clusters formados fue
igual a 0, lo que afecta directamente en el cálculo
de sus métricas, pues ningún elemento fue
agrupado, lo mismo sucede con DBSCAN_0.2_out,
en este caso se formó solo un cluster y
probablemente el cluster formado sea producto de
los outliers presentes y no de la agrupación correcta
de los datos.
En relación a los resultados obtenidos de la Tabla
II, desarrollada a partir de reducción de
dimensionalidad, se tiene que para el algoritmo de
DBSCAN_07_out se tiene el valor más alto de la
métrica de completeness en comparación a todos
los otros algoritmos, este valor es de 0.335, si bien
es el más alto en comparación a las otros valores
obtenidos no es un valor óptimo, pues está bastante
alejado de 1 por esta misma razón no se puede
asegurar que los elementos que pertenecen a una
misma categoría esten siendo agrupados juntos en
un mismo clúster. Para esta misma métrica, al
implementar DBSCAN_out se tiene el número más
bajo de esta medición, resultando ser 0.116, en este
caso sí se puede asegurar con certeza que es un
valor bastante bajo, entonces se traduce en que los
elementos de una misma categoría están siendo
divididos en múltiples clústeres.
Para el caso de la métrica de homogeneity, el
mejor número se obtiene con DBSCAN_0.2, el cual
es equivalente a 0.284, al igual que se comentó en
el párrafo anterior este valor no asegura que todos
los clústeres obtenidos contienen sólo elementos de
una misma categoría, pues el valor obtenido está
bastante lejos de un valor igual a 1, el cual se
querría tener en el mejor de los casos, por lo
anterior se interpreta que los clusters obtenidos no
son puros en términos de su contenido categórico.
De este mismo modo se discrimina el algoritmo que
posee el menor valor obtenido en esta métrica, cuyo
número es de 0.005 con DBSCAN_07_out.
Sobre V-measure, el valor más alto se obtiene al
utilizar el algoritmo de DBSCAN_0.2, resultando
ser de 0.284, nuevamente se tiene un valor muy por
debajo del umbral de un valor máximo igual a 1,
por lo que no se puede decir tajantemente que para
este algoritmo se tengan clusters tanto completos
como homogéneos, más bien solo se puede afirmar
que es el algoritmo implementado que tiene el valor
mayor en la métrica de V-measure. Por otra parte, el
valor más bajo disponible con esta métrica se
obtiene a partir de la implementación del algoritmo
de DBSCAN_07_out, con este se tiene un valor de
0.010, lo que representa una baja completitud y
homogeneidad en los clústeres formados.
Por último, para la métrica de silhouette se obtuvo
el mejor valor con el algoritmo de
DBSCAN_07_out cuyo valor fue de 0.505, en otra
palabras, los objetos dentro de un clúster son
bastante similares entre sí y están bien separados de
otros clústeres. No ocurre lo mismo con el cas del
algoritmo de DBSCAN_02_out, en donde se tiene
un valor de -0.205, es decir, los objetos dentro de un
clúster son similares pero están demasiado cerca de
otros clústeres, obteniéndose una mala agrupación.
Finalmente, al igual que con la Tabla 1, se
obtuvieron algunos resultados constantemente con
valores igual a -1 para los algoritmos de DBSCAN
y DBSCAN_0.7, estos resultados se explican al ver
la cantidad de clusters formados por estos
algoritmos, los cuales inciden directamente para el
cálculo de estas métricas.
Haciendo una comparativa entre las dos tablas se
puede ver fácilmente que la mayoría de los
8
algoritmos obtuvieron mejores mediciones de sus
métricas cuando se trabajó con la base de datos no
reducida en dimensiones (Tabla I), esto puede
deberse a que al momento de aplicar PCA (Tabla II)
sólo se dejaron 2 columnas como “principales” de
una base de datos original que tenía 77 columnas, lo
que se traduce en una gran pérdida de información
o elementos importantes para poder construir los
clusters correctos.
Pasando a otro análisis entre los algoritmos, es
importante enfatizar en el cambio respecto al
número de clusters que se genera para los
algoritmos de DBSCAN con y sin outliers, por
ejemplo para la Tabla I, los resultados obtenidos
sobre el número de clusters implementando
DBSCAN sin outliers es de; 12 para un épsilon de
0.5, 43 para un épsilon de 0.7 y 0 para un épsilon de
0.2, mientras que los clusters formados con
DBSCAN con outliers fueron de 13 para un épsilon
de 0.5, 44 para un épsilon de 0.7 y 1 para un épsilon
de 0.2, es decir que al agregar outliers aumenta en
una unidad la cantidad de clusters formada. Lo
mismo sucede si se analizan los resultados de los
clusters para los algoritmos de DBSCAN con y sin
outliers de la Tabla II.
Finalmente y haciendo un cierre a éste análisis, se
puede concluir que el hecho de haber implementado
reducción de dimensionalidad a la base de datos
perjudicó netamente al correcto agrupamiento de
los datos, pues el rendimiento de las métricas para
cada algoritmo fue peor en comparación a la data
con la que se trabajó en la Tabla I.
VI. CONCLUSIÓN
En conclusión, la aplicación de técnicas de
clustering y reducción de dimensionalidad en la
base de datos "Mice Protein Expression Data Set"
ha demostrado ser valiosa para analizar la estructura
de datos e identificar patrones de agrupamiento.
Además de implementar los algoritmos de
K-means, K-means++, DBSCAN y clustering
aglomerativo, se evaluaron las métricas de
desempeño de; completeness, homogeneity,
V-measure y coeficiente de silhouette para evaluar
la calidad de los clusters obtenidos con los
algoritmos
De esta implementación resultó ser el algoritmo de
DBSCAN con epsilón = 0.5 el que obtuvo los
mejores resultados en las métricas analizadas, lo
que quiere decir que realizó de mejor manera el
agrupamiento de los datos, por otro lado el
algoritmo de DBSCAN_out fue quién resultó tener
los peores desempeños en cuanto al agrupamiento
de los datos. En cuanto a la base de datos con
reducción de dimensionalidad para todos los
algoritmos se obtuvieron métricas con desempeños
bajos, destacándose el algoritmo de
DBSCAN_07_out por tener la mayor cantidad de
métricas con valores cercanos a 0. Otra conclusión
sobre la implementación de la técnica de PCA es
que al reducir la base de datos a 2 dimensiones
hubo mucha pérdida de información importante, por
lo que se obtuvieron métricas de un bajo umbral
para los algoritmos implementados con esta nueva
base de datos reducida.
Para terminar, en general la combinación de
técnicas de clustering junto con la reducción de
dimensionalidad, mediante técnicas como PCA
permitió identificar patrones de agrupamiento en la
base de datos "Mice Protein Expression Data Set".
Las métricas de desempeño proporcionan una
evaluación cuantitativa de la calidad de los clusters
obtenidos. Sin embargo, es importante tener en
cuenta que la selección y ajuste adecuado de los
algoritmos y parámetros, son factores relevantes y
de carácter clave para obtener resultados confiables
y significativos en los análisis de clustering.
REFERENCIAS
[1] "Intro to Machine Learning: Clustering: K-Means Cheatsheet |
Codecademy". Codecademy.
https://www.codecademy.com/learn/machine-learning/modules/dspath-
clustering/cheatsheet (accedido el 15 de abril de 2023).
[2] K. J. Wong. "7 Evaluation Metrics for Clustering Algorithms".
Medium.
https://towardsdatascience.com/7-evaluation-metrics-for-clustering-alg
orithms-bdc537ff54d2 (accedido el 15 de abril de 2023).
[3] "sklearn.metrics.silhouette_score". scikit-learn.
https://scikit-learn.org/stable/modules/generated/sklearn.metrics.silhou
ette_score.html (accedido el 15 de abril de 2023).
[4] "sklearn.cluster.KMeans". scikit-learn.
https://scikit-learn.org/stable/modules/generated/sklearn.cluster.KMean
s.html (accedido el 15 de abril de 2023).
9
[5] "sklearn.cluster.dbscan". scikit-learn.
https://scikit-learn.org/stable/modules/generated/dbscan-function.html#
sklearn.cluster.dbscan (accedido el 15 de abril de 2023).

10