HuggingFace Daily Papers· Vahid Jebraeeli, Jonathon Romero, Yijin Wang, Adrian Chan, Jianbang Zhang·2026-10-18 04:00· 8 天前精选AI 评分65

策略而非能力：安全评测衡量的是训练中采用的'不安全'定义

Policy Is Not Capability: Some Safety Benchmarks Measure Which Definition of "Unsafe" You Trained On

AI 导读

研究发现安全评测分数可能取决于训练标签定义而非模型能力，相同架构的十个模型在相同评测上得分差异高达23倍，微调0.03%参数就能让评测结果跨越整个区间。研究建议安全评测应报告污染度、种子下限和评测所依据的定义。

推荐理由

安全评测分数可能取决于训练标签定义而非模型能力，微调0.03%参数就能让评测结果跨越整个区间。