英文:Data Efficiency 分类:frontier
模型从单位数据量中获得能力的能力:高质量/高利用率数据让模型"学得更快更好",减少对海量数据的依赖。
方法:数据质量优先(去重/筛选)、合成数据(增强稀缺分布)、课程学习(难易递进)、训练策略(重复训练/加权采样);衡量:能力-数据量曲线(scaling law 的斜率)、数据效用分析;趋势:数据墙下的效率竞赛。
用于训练数据策略(高质量小数据 vs 海量低质)、合成数据工程、低成本训练与稀缺领域建模;数据效率是"数据墙时代"的突围方向。