跳到正文
Hugging Face Blog·· 12 天前精选AI 评分78

LiquidAI 发布 LFM2.5-24B-A2B 推理模型

Run fast, private agents on-device with LFM2.5-24B-A2B

AI 导读

LiquidAI 发布 LFM2.5-24B-A2B 推理模型,这是一个24B参数但仅2B活跃参数的模型,专为在设备上快速、私密运行智能体而设计。该模型在16项基准测试中表现出色,在工具使用和智能体工作流方面领先或匹敌更大规模的模型,推理速度在Apple M5 Max上达到184 tok/s,在NVIDIA B300 GPU上可达21K输出tok/s。

推荐理由

模型以2B活跃参数实现推理能力,在设备上运行速度快且成本低,适合构建本地智能体。

来源:Hugging Face Blog · huggingface.co