HuggingFace Daily Papers· Pan Wang, Yihao Hu, Guangyuan Dong, Yitong Lin, Hang Wang, Zimi Liu, Zhihao Wen, Jianshe Li, Jiang-Ming Yang, Wei Wu, Yongqi Tong·· 6 天前AI 评分35
PAR:Qwen2.5-0.5B 模型在状态跟踪任务中实现 16 倍长度泛化
PAR: Progress-Aligned Recurrence for Length Generalization in State Tracking
AI 导读
Qwen2.5-0.5B 模型通过 Progress-Aligned Recurrence (PAR) 方法,在 swap-S5 任务上将训练长度从 32 moves 扩展到 512 moves,达到 95.5% 平均全状态准确率,比 RLT 方法高 39.8 个百分点。
来源:HuggingFace Daily Papers · arxiv.org