Bridged Self-Distillation 用于在线学习的统一框架

研究提出 Bridged Self-Distillation (BSD)，通过外部教师生成推理轨迹，学生模型在无上下文时生成输出，并由自身副本进行评分，实现对不同教师场景的统一蒸馏。BSD 在共享词表、跨词表和闭源 API 教师场景中均优于基线模型，提供了一种新颖的蒸馏路径。代码已开源。