英文:Unsupervised Learning 分类:foundation
在没有标注的情况下,仅从数据本身的结构中学习规律的学习范式。典型任务包括聚类(发现分组)、降维(压缩表示)与异常检测;大模型的预训练本质上就是超大规模的无监督(自监督)学习。
算法利用数据的内在结构:K-means、层次聚类发现簇,PCA、t-SNE、自编码器学习低维表示,自监督方法构造伪任务(预测下一词、掩码还原)从无标注文本中学习。无监督结果通常作为监督任务的特征或预训练底座。
从经典的聚类与降维,到 2013 年 Word2Vec、2018 年 BERT 掩码预训练,无监督/自监督学习成为大模型时代获取海量知识的根本途径,显著降低了对人工标注的依赖。
客户分群、异常交易检测、数据降维可视化、推荐冷启动;预训练语料构建与清洗也依赖无监督方法去重、去噪与聚类组织。
相关词条:Transformer · 注意力机制 · 自注意力 · 监督学习 · 强化学习