#Meta

Meta Expert: 跨层专家共享提升 MoE 存储与检索效率

研究提出跨层共享的 Meta Expert 替代传统分层 Local Expert，在激活数量和专家粒度固定时，仅用 70-80% 专家即可匹配普通 MoE 性能，同时降低参数冗余和交叉熵损失，提升下游任务准确率。