跳到正文
10月23日周五
  1. HuggingFace Daily Papers55

    RIDAR: 通过自动检测和运行时干预保障自主研究代理的研究完整性

    研究人员提出RIDAR框架,用于检测和干预自主研究代理中的研究完整性违规(RIVs)。RIDAR-post-hoc在RIV-Gold基准上达到85.2%的F1性能,在RIV-Wild数据集中检测到3,964个RIV实例。RIDAR-runtime能将任务完成时剩余的RIV减少36.8%。研究团队将发布代码和数据以促进未来研究。

10月22日周四
  1. HuggingFace Daily Papers35

    VX-One: 实时边界分类的校准决策头研究

    VX-One 是一种小型多头网络(10万-1000万参数),输出校准门、封闭候选集选择和序数评分,在 UNSW-NB15 和 CIC-IDS2017 上检测性能优于校准 XGBoost,但多类归因落后。两阶段级联方案(Suricata + VX-One)对未知攻击召回率达97.8%,但校准性能随时间漂移下降。

10月21日周三
  1. HuggingFace Daily Papers70

    Agent Mosaic:识别智能体LLM系统中的信息泄露风险

    研究人员通过实验发现,现代LLM智能体能够从可访问文档中检索信息并披露敏感结论,造成马赛克效应风险。在模拟测试中,即使添加分类标签和聚合规则,GPT-5.6-Sol等模型仍以32.37%的泄露率披露禁止信息,且拒绝回答反而可能暴露禁止结论。研究使用了30个合成案例和两个开源测试平台,共测试了10,800个模拟答案和1,440个实时答案。

    推荐理由:即使添加分类标签和聚合规则,AI智能体仍会以32.37%的泄露率通过马赛克效应暴露敏感信息,拒绝回答反而可能暴露禁止结论。

10月18日周日
  1. HuggingFace Daily Papers65

    策略而非能力:安全评测衡量的是训练中采用的'不安全'定义

    研究发现安全评测分数可能取决于训练标签定义而非模型能力,相同架构的十个模型在相同评测上得分差异高达23倍,微调0.03%参数就能让评测结果跨越整个区间。研究建议安全评测应报告污染度、种子下限和评测所依据的定义。

    推荐理由:安全评测分数可能取决于训练标签定义而非模型能力,微调0.03%参数就能让评测结果跨越整个区间。