深度聚类近年来始终保持较高的研究热度，相关学术论文持续涌现。本文旨在对现有深度聚类算法进行较为系统的梳理与总结。从整体来看，当前大多数深度聚类方法均可归纳为两个组成部分的结合：一方面是聚类损失函数，另一方面是网络损失函数。基于这一框架，我们可以从两个不同角度理解各类方法——一是考察其采用的聚类模型，二是分析其背后的神经网络结构。

1. 什么是深度聚类？

传统聚类通常先通过各类表示学习手段将数据转化为矢量化特征，然后在该特征空间上执行聚类。然而，随着数据复杂度和维度的持续提升，传统浅层聚类方法逐渐暴露出局限性。一个自然的解决思路随之出现：将表示学习与聚类两个环节置于同一框架下联合优化。这正是深度聚类的核心思想——同时学习特征表示并完成聚类，使两者相互促进、协同提升。

2. 从两个视角审视深度聚类

3. 基于聚类模型的深度聚类方法

3.1 基于K-means的深度聚类

3.2 基于谱聚类的深度聚类

3.3 基于子空间聚类的深度聚类

子空间聚类（Subspace Clustering, SC）的基本假设是数据来源于多个低维子空间的并集。深度版本的子空间聚类将自表达层嵌入神经网络，使网络能够自动学习更适用于子空间聚类的特征表示。

3.4 基于高斯混合模型的深度聚类

高斯混合模型（Gaussian Mixture Model, GMM）是生成式聚类的经典代表。深度GMM将先验假设与深度特征学习相结合，例如变分自编码器框架下的DGG模型即为典型实例。

3.5 基于互信息的深度聚类

互信息天然适用于衡量两个分布之间的依赖性，这一特性使其成为深度聚类中极为有效的训练信号。以COMPLETER为代表的方法，通过最大化对比预测任务中的互信息来学习有利于聚类的特征表示。

3.6 基于KL散度的深度聚类

通过最小化预测软标签分布与目标分布之间的KL散度，可以促使网络生成更清晰、更可靠的聚类分配。DEC、IDEC等里程碑式工作的核心思路均建立在此基础之上。

4. 基于神经网络模型的深度聚类方法

4.1 基于自编码器的深度聚类

自编码器是最常用的特征提取骨架。DEC、IDEC、DFKM和DCEC等经典方法均在自编码器的隐层输出上叠加聚类层，然后利用聚类损失反向指导特征学习过程。

4.2 基于变分自编码器的深度聚类

变分自编码器（VAE）继承了自编码器的优势，同时引入了概率建模能力。VaDE等研究工作通过VAE学习隐变量，并在隐空间上施加高斯混合先验，从而自然地实现聚类效果。

4.3 基于生成对抗网络的深度聚类

生成对抗网络（GAN）为深度聚类提供了独特的技术路径。以ClusterGAN为代表的方法，通过生成器与判别器之间的对抗博弈，迫使生成器拟合一个包含离散聚类结构的潜在空间。

4.4 基于孪生网络/对比学习的深度聚类

对比学习在无监督表示学习领域取得的成功，很快被引入深度聚类之中。对比聚类（Contrastive Clustering）等研究工作，利用对比损失拉近同类样本、推开异类样本，直接在特征空间形成清晰的聚类分界。

4.5 基于图神经网络的深度聚类

图神经网络能够显式建模样本之间的结构关系。结构深层聚类网络等方法将样本间关系构建为图，并通过图卷积聚合邻居信息，从而学习到更具判别力的聚类表示。

参考文献

[1] 第40期：基于深度神经网络的聚类算法——郭西风

[2] 物以类聚人以群分：聚类分析的一些挑战和进展

[3] A Survey of Deep Clustering Algorithms

[4] Deep Clustering | Deep Learning Notes

[5] 郭西风. 基于深度神经网络的图像聚类算法研究[D]. 国防科技大学, 2020.