Hugging Face Blog·· 12 天前精选AI 评分78
LiquidAI 发布 LFM2.5-24B-A2B 推理模型
Run fast, private agents on-device with LFM2.5-24B-A2B
AI 导读
LiquidAI 发布 LFM2.5-24B-A2B 推理模型,这是一个24B参数但仅2B活跃参数的模型,专为在设备上快速、私密运行智能体而设计。该模型在16项基准测试中表现出色,在工具使用和智能体工作流方面领先或匹敌更大规模的模型,推理速度在Apple M5 Max上达到184 tok/s,在NVIDIA B300 GPU上可达21K输出tok/s。
推荐理由
模型以2B活跃参数实现推理能力,在设备上运行速度快且成本低,适合构建本地智能体。
来源:Hugging Face Blog · huggingface.co