特征可视化

英文:Feature Visualization 分类:alignment

基本释义

生成"最能激活某神经元/通道"的输入图像(通过梯度上升优化输入),直观展示模型内部特征(如条纹、文字、人脸),是 CNN 与视觉模型可解释性的经典方法。

技术要点

技术:激活最大化(优化输入最大化神经元响应)、深度梦境(逐层放大特征)、GAN/扩散引导可视化;局限:特征叠加(单个神经元对应多概念)、非真实样本(过度抽象);工具:DeepDream、activation maximization 库。

应用场景

用于视觉模型可解释性(理解卷积核)、安全研究(检测敏感特征)、艺术生成(梦境风格)与教学;特征可视化是"看见模型所见"的窗口。

返回AI百科目录 · AI最前沿首页

相关词条:对齐 · 宪法 AI · 红队测试 · 激活分析 · 电路分析