Berkeley AI Research·· 2026-07-29精选AI 评分81
从CUDA到MLX:K-Search如何将数十年的内核专业知识引入Apple Silicon
From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon
AI 导读
加州大学伯克利分校的研究团队开发了K-Search框架,通过结构化的CUDA到MLX翻译层,将NVIDIA的内核专业知识自动迁移到Apple Silicon芯片上。实验表明,该方法在注意力内核上实现了接近专家水平的性能(0.97倍速度提升),在Mamba SSM内核上实现了比社区实现高20倍的预填充速度。
推荐理由
原文展示了如何将CUDA内核专业知识自动迁移到Apple Silicon,实现了接近专家水平的性能。
来源:Berkeley AI Research · bair.berkeley.edu