数据效率

英文:Data Efficiency 分类:frontier

基本释义

模型从单位数据量中获得能力的能力:高质量/高利用率数据让模型"学得更快更好",减少对海量数据的依赖。

技术要点

方法:数据质量优先(去重/筛选)、合成数据(增强稀缺分布)、课程学习(难易递进)、训练策略(重复训练/加权采样);衡量:能力-数据量曲线(scaling law 的斜率)、数据效用分析;趋势:数据墙下的效率竞赛。

应用场景

用于训练数据策略(高质量小数据 vs 海量低质)、合成数据工程、低成本训练与稀缺领域建模;数据效率是"数据墙时代"的突围方向。

返回AI百科目录 · AI最前沿首页

相关词条:模型自进化 · 合成数据 · 长度外推 · 训练效率 · 算法效率