Algoritmos de Clustering

El clustering es un modelo de aprendizaje automático no supervisado que se centra en agrupar puntos de datos similares basándose en sus características o patrones. En lugar de depender de etiquetas predefinidas, el clustering descubre estructuras naturales en los datos, lo que lo hace especialmente útil para el análisis exploratorio y la segmentación. Profundicemos en cómo funciona el clustering y exploremos los diferentes tipos de algoritmos de clustering que se pueden utilizar para construir modelos de clustering efectivos.

A continuación se presentan los algoritmos de clustering soportados en Catalyst QuickML, junto con su tipo de Clustering, explicación, casos de uso del mundo real y parámetros clave.

K-Means

Explicación: K-Means particiona los datos en k clusters minimizando la varianza dentro de cada cluster, medida como la suma de las distancias euclidianas al cuadrado entre los puntos de datos y sus centroides de cluster. Funciona realizando iterativamente dos pasos: (1) asignar cada punto de datos al centroide más cercano (asignación dura), y (2) recalcular los centroides como la media de todos los puntos en el cluster. Este proceso se repite hasta que las asignaciones ya no cambian o se alcanza un número máximo de iteraciones.

Fórmula matemática:

 min(C1, C2, ..., Ck) Σ(i=1 to k) Σ(x ∈ Ci) ||x − μi||² 

Donde:

• Ci = cluster i
• μi = centroide (media) del cluster i
• ∣∣x−μi∣∣2 = distancia euclidiana al cuadrado entre el punto de datos x y el centroide μi

Caso de uso: Las empresas de retail utilizan K-Means para segmentar clientes en grupos como “económico”, “regular” y “premium” basándose en hábitos de gasto.

Parámetros clave:

MiniBatchKMeans

Explicación: MiniBatchKMeans es una versión más rápida y eficiente en memoria de K-Means que procesa pequeños subconjuntos aleatorios (mini-lotes) de los datos en cada iteración en lugar del conjunto de datos completo. Al usar estos mini-lotes para actualizar los centroides, converge mucho más rápido mientras da resultados cercanos al K-Means estándar. Esto lo hace especialmente útil para grandes conjuntos de datos o datos en streaming, donde ejecutar K-Means completo sería demasiado lento o consumiría muchos recursos.

Fórmula matemática:

 min(C1, C2, ..., Ck) Σ(i=1 to k) Σ(x ∈ Bt ∩ Ci) ||x − μi||² 

Donde Bt es un mini-lote aleatorio en la iteración t.

Caso de uso: Las plataformas de comercio electrónico con millones de usuarios agrupan el comportamiento de navegación en tiempo real para recomendaciones de productos.

Parámetros clave:

Fuzzy C-Means

Explicación: Fuzzy C-Means es similar a K-Means pero permite asignaciones suaves, lo que significa que cada punto de datos puede pertenecer a múltiples clusters con diferentes grados de membresía. En lugar de asignar cada punto a un solo cluster, Fuzzy C-Means calcula una probabilidad de membresía para cada cluster basándose en la distancia del punto a cada centroide. Esto es particularmente útil para datos donde los clusters se superponen, ya que proporciona una vista más matizada de la membresía en lugar de forzar una elección estricta.

Fórmula matemática:

 J = Σ(i=1 to k) Σ(j=1 to n) uij^m ||xj − ci||² 

Donde:

• uij = grado de membresía del punto de datos xj en el cluster i
• m = parámetro de difusidad (m>1)
• ci = centroide del cluster i

Caso de uso: Las aplicaciones de música agrupan usuarios cuyos gustos se superponen entre múltiples géneros (pop, rock, electrónica).

Parámetro clave:

K-Medians

Explicación: K-Medians funciona como K-Means pero utiliza la mediana en lugar de la media para calcular los centros de cluster. Este pequeño cambio hace que el algoritmo sea más robusto frente a valores atípicos, ya que las medianas son menos influenciadas por valores extremos. El algoritmo sigue alternando entre asignar puntos al centro de cluster más cercano y recalcular los centros, pero al usar medianas, produce clusters que representan mejor el punto de datos típico en distribuciones sesgadas o de colas pesadas.

Fórmula matemática:

 min(C1, ..., Ck) Σ(i=1 to k) Σ(x ∈ Ci) ||x − mi|| 

Donde mi es la mediana de todos los puntos en el cluster i.

Caso de uso: Las organizaciones de atención médica utilizan K-Medians para agrupar pacientes basándose en los costos medianos de tratamiento o duraciones de estancia hospitalaria, asegurando que los clusters no estén sesgados por unos pocos pacientes con facturas excepcionalmente altas o estancias inusualmente largas.

Parámetros clave:

K-Modes

Explicación: K-Modes está diseñado para clustering de datos categóricos. Reemplaza las medias con modas (el valor de categoría más frecuente en cada cluster) y utiliza una medida de disimilitud de coincidencia simple para asignar puntos a clusters. Esto lo hace adecuado para escenarios donde la distancia numérica no tiene sentido, como agrupar clientes por preferencias o categorías de productos. El algoritmo actualiza iterativamente las modas del cluster hasta que ya no cambian, produciendo grupos definidos por los valores de categoría más comunes.

Fórmula matemática:

 min(C1, ..., Ck) Σ(i=1 to k) Σ(x ∈ Ci) d(x, θi) 

Donde d(x,θi) es el número de discrepancias entre los atributos categóricos de x y la moda θi.

Caso de uso: Los minoristas agrupan clientes usando datos categóricos como “prefiere online/offline”, “electrónica/ropa”, “descuento/lujo”.

Parámetros clave:

Affinity Propagation

Explicación: Affinity Propagation agrupa datos intercambiando mensajes de similitud entre pares de puntos hasta que algunos puntos se identifican como “ejemplares”, que actúan como centros de cluster. A diferencia de K-Means, no necesita especificar el número de clusters de antemano — el algoritmo determina automáticamente cuántos clusters formar basándose en las similitudes de entrada y un parámetro de “preferencia” que controla qué tan probable es que cada punto se convierta en un ejemplar. Esto lo hace especialmente útil cuando el número natural de clusters es desconocido.

Caso de uso: En servicio al cliente, puede agrupar consultas de soporte entrantes en clusters sin conocimiento previo de cuántas categorías existen.

Parámetros clave:

Birch – Balanced Iterative Reducing and Clustering using Hierarchies

Explicación: BIRCH está diseñado para conjuntos de datos grandes o en streaming. Construye incrementalmente un árbol CF (Clustering Feature), que almacena resúmenes compactos de puntos de datos, y utiliza estos resúmenes para realizar el clustering. El árbol CF permite a BIRCH agrupar rápidamente los datos entrantes sin tener que almacenar o procesar el conjunto de datos completo de una vez. Después de construir el árbol, un paso final de clustering global (a menudo usando K-Means) puede refinar los clusters. Este enfoque hace que BIRCH sea extremadamente eficiente en memoria y escalable.

Caso de uso: En aplicaciones IoT, Birch puede agrupar flujos continuos de datos de sensores (como el monitoreo de tráfico de ciudades inteligentes) en grupos significativos en tiempo real.

Parámetros clave:

K-Prototypes

Explicación: K-Prototypes extiende K-Means y K-Modes para manejar conjuntos de datos que contienen tanto variables numéricas como categóricas. Calcula los centros de cluster usando medias para las características numéricas y modas para las características categóricas, combinando ambos usando un parámetro de ponderación que equilibra su influencia. Esto hace posible agrupar datos de tipo mixto sin un preprocesamiento extensivo o conversión.

Fórmula matemática:

 d(x, y) = Σ(j ∈ num) (xj − yj)² + γ Σ(j ∈ cat) δ(xj, yj) 

Donde:

• δ(xj,yj)=0 si son iguales, en caso contrario 1
• γ = peso que equilibra las distancias numéricas y categóricas

Caso de uso: En analítica de recursos humanos, las empresas pueden agrupar empleados basándose en datos mixtos — numéricos (por ejemplo, años de experiencia, salario) y categóricos (por ejemplo, departamento, rol) — para identificar patrones en la fuerza laboral.

Parámetros clave:

MeanShift

Explicación: MeanShift encuentra clusters tratando los puntos de datos como muestras de una función de densidad de probabilidad y desplazándolos iterativamente hacia la región más cercana de mayor densidad (moda). Los puntos que convergen a la misma moda forman un cluster. Este enfoque puede determinar automáticamente el número de clusters y funciona bien con clusters de forma arbitraria, pero su rendimiento depende de la elección del ancho de banda (el tamaño del kernel usado para la estimación de densidad).

Fórmula matemática:

 m(x) = Σ(xi ∈ N(x)) K(xi − x) xi / Σ(xi ∈ N(x)) K(xi − x) 

Donde:

• K es la función kernel (por ejemplo, Gaussiana)
• N(x) es el vecindario alrededor de x

Caso de uso: Segmentación de imágenes donde regiones como “cielo”, “agua” y “tierra” forman clusters de píxeles similares.

Parámetros clave:

DBSCAN

Explicación: DBSCAN (Density-Based Spatial Clustering of Applications with Noise) agrupa puntos que están densamente empaquetados juntos (regiones densas) en clusters y etiqueta los puntos que se encuentran solos en regiones de baja densidad como ruido. No requiere especificar el número de clusters de antemano, lo que lo hace ideal para conjuntos de datos con clusters de forma irregular o cuando se quiere identificar valores atípicos explícitamente. Su rendimiento depende en gran medida de los parámetros eps (radio del vecindario) y min_samples (número mínimo de puntos en una región densa).

Fórmula matemática:

 |Nε(p)| ≥ minPts 

Donde p es un punto núcleo y Nε(p) = conjunto de puntos dentro de la distancia ε de p.

Caso de uso: Los sistemas bancarios agrupan patrones de transacciones normales, mientras que los sospechosos aislados se señalan como fraude.

Parámetros clave:

CLARA

Explicación: CLARA (Clustering Large Applications) es una versión escalable del algoritmo Partitioning Around Medoids (PAM) que funciona agrupando múltiples pequeñas muestras aleatorias de los datos en lugar del conjunto de datos completo. Luego evalúa la calidad del clustering en el conjunto de datos completo y selecciona el mejor conjunto de medoides. Este enfoque de muestreo hace que CLARA sea factible para conjuntos de datos muy grandes donde ejecutar PAM directamente sería computacionalmente costoso.

Fórmula matemática:

Ejecuta K-Medoids en pequeñas muestras aleatorias St de los datos:

 min(M) Σ(x ∈ St) d(x, m(x)) 

Luego evalúa el costo total en el conjunto de datos completo para elegir la mejor muestra.

Caso de uso: Los operadores de telecomunicaciones agrupan millones de registros de llamadas en categorías como “llamadas internacionales” usando muestras de datos en lugar del conjunto de datos completo.

Parámetros clave:

CLARANS

Explicación: CLARANS (Clustering Large Applications based on Randomized Search) mejora a CLARA utilizando una técnica de búsqueda aleatorizada para explorar diferentes configuraciones posibles de medoides. En lugar de verificar todos los intercambios posibles, explora solo un subconjunto de vecinos en cada paso, lo que logra un equilibrio entre eficiencia y calidad de clustering. Esto hace que CLARANS sea mejor para encontrar soluciones casi óptimas para grandes conjuntos de datos sin cálculos exhaustivos.

Concepto matemático:

Busca iterativamente mejores medoides usando intercambios locales aleatorizados:

 min(M) Σ(x ∈ D) d(x, m(x)) 

CLARANS explora soluciones vecinas aleatorias en lugar de todas las posibilidades, equilibrando velocidad y precisión.

Caso de uso: Las autoridades de transporte urbano agrupan rutas de autobús por patrones de viaje para optimizar la programación.

Parámetros clave:

K-Medoids

Explicación: K-Medoids es similar a K-Means, pero en lugar de usar la media de los puntos de datos como centro del cluster, utiliza un punto de datos real llamado medoide. Esto lo hace más robusto al ruido y a los valores atípicos ya que los medoides son menos influenciados por valores extremos en comparación con los centroides. K-Medoids se utiliza frecuentemente cuando los conjuntos de datos contienen muchos valores atípicos o cuando la interpretabilidad de los clusters a través de puntos de datos reales es importante.

Fórmula matemática:

 min(M) Σ(i=1 to k) Σ(x ∈ Ci) d(x, mi) 

Donde:

• M={m1,…,mk} son medoides (puntos de datos reales)
• d(x,mi) es una métrica de distancia (por ejemplo, Euclidiana, Manhattan)

Caso de uso: En atención médica, K-Medoids puede agrupar registros de pacientes basándose en síntomas y resultados de pruebas, usando perfiles reales de pacientes como medoides representativos. Esto asegura que los clusters no estén sesgados por pacientes con condiciones médicas inusualmente raras o extremas.

Parámetros clave:

Gaussian Mixture Model (GMM)

Explicación: GMM modela los datos como una mezcla de varias distribuciones Gaussianas (normales), cada una representando un cluster. A diferencia de K-Means, que asigna cada punto a exactamente un cluster, GMM asigna probabilidades para que cada punto pertenezca a cada cluster (clustering suave). Los parámetros del modelo (medias, covarianzas y pesos de mezcla) se optimizan usando el algoritmo de Expectation-Maximization (EM). Esto permite a GMM capturar clusters con diferentes formas, tamaños y orientaciones, haciéndolo más flexible que K-Means cuando los datos no están bien separados o tienen distribuciones elípticas.

Fórmula matemática:

 p(x) = Σ(i=1 to k) πi 𝓝(x | μi, Σi) 

Donde:

• πi = peso (probabilidad) del componente i
• μi = vector de media
• Σi = matriz de covarianza
• N(x∣μi,Σi) = distribución Gaussiana multivariada

Caso de uso: En analítica de marketing, GMM se utiliza para agrupar clientes en grupos superpuestos basándose en comportamiento y patrones de gasto, donde cada cliente puede tener una probabilidad de pertenecer a múltiples segmentos.

Parámetros clave: