跳到正文
HuggingFace Daily Papers· Pan Wang, Yihao Hu, Guangyuan Dong, Yitong Lin, Hang Wang, Zimi Liu, Zhihao Wen, Jianshe Li, Jiang-Ming Yang, Wei Wu, Yongqi Tong·· 6 天前AI 评分35

PAR:Qwen2.5-0.5B 模型在状态跟踪任务中实现 16 倍长度泛化

PAR: Progress-Aligned Recurrence for Length Generalization in State Tracking

AI 导读

Qwen2.5-0.5B 模型通过 Progress-Aligned Recurrence (PAR) 方法,在 swap-S5 任务上将训练长度从 32 moves 扩展到 512 moves,达到 95.5% 平均全状态准确率,比 RLT 方法高 39.8 个百分点。

来源:HuggingFace Daily Papers · arxiv.org