K-Search 如何将 CUDA 内核优化经验迁移到 Apple Silicon
K-Search 新增 MLX 后端和结构化 CUDA-to-MLX 翻译层，将已有 CUDA 内核知识转化为适配 Apple Silicon 的优化策略。其 Attention 内核达到原生 MLX Attention 内核的 0.97x 性能，Mamba SSM 内核在 M1 Max 上凭借并行扫描获得相对社区 mlx-lm 实现最高约 20x 的预填充吞吐提升。
K-Search 新增 MLX 后端和结构化 CUDA-to-MLX 翻译层，将已有 CUDA 内核知识转化为适配 Apple Silicon 的优化策略。其 Attention 内核达到原生 MLX Attention 内核的 0.97x 性能，Mamba SSM 内核在 M1 Max 上凭借并行扫描获得相对社区 mlx-lm 实现最高约 20x 的预填充吞吐提升。