鲁棒性评测

英文：Robustness Evaluation　分类：eval

基本释义

评估模型在噪声、扰动、分布偏移与攻击下保持性能的能力，衡量模型"抗干扰"的真实稳定性，而非仅看干净样本得分。

技术要点

维度：输入扰动（噪声/改写）、分布偏移（领域漂移）、对抗攻击（恶意样本）、极端输入（超长/缺失）；指标：鲁棒性差距（干净-扰动）、最坏情况性能、退化曲线；方法：扰动集评测+压力测试。

应用场景

用于生产环境部署前验收（真实噪声）、自动驾驶安全（恶劣天气）、内容安全与金融风控；鲁棒性评测是"实验室到现实"的桥。

返回AI百科目录 · AI最前沿首页

相关词条：大模型评审 · 聊天机器人竞技场 · 数据治理 · 对抗性评测 · 公平性评测