英文:Feature Engineering 分类:foundation
从原始数据中构造、选择与变换供模型学习的输入特征的实践。在传统机器学习中决定模型上限,是数据科学家的核心工作;深度学习与大模型通过表示学习自动提取特征,使特征工程部分被自动化取代。
包括特征构造(交叉、离散化、聚合统计)、特征选择(过滤、包裹、嵌入法)、特征变换(归一化、标准化、对数化)与缺失值处理。好的特征应具有区分度、稳定性与可解释性;在线系统中特征一致性(训练/推理同源)是工程重点。
从专家手工特征(广告 CTR 的交叉特征)主导,到深度学习端到端学习特征,再到大模型时代以文本/向量为特征的自动化范式,特征工程的形态不断演变但思想(提升信号质量)始终存在。
传统机器学习业务(风控、推荐、营销)、特征平台(Feature Store)建设与 MLOps 流水线;在 LLM 应用中,提示词设计、检索元数据与结构化字段也可视为新形态的特征工程。
相关词条:Transformer · 注意力机制 · 自注意力 · 相似度搜索 · 数据增强