Skip to content
Ollama Blog·· Mar 30SelectedAI score76

Ollama 在 Apple Silicon 上通过 MLX 加速预览

Ollama is now powered by MLX on Apple Silicon in preview

AI brief

Ollama 0.19 预览版在 Apple Silicon 上基于 MLX 框架加速,M5/M5 Pro/M5 Max 利用新 GPU 神经加速器提升 TTFT 和生成速度。引入 NVIDIA NVFP4 格式支持,并升级缓存以提高响应效率。

Why it matters

Apple Silicon 上运行 Ollama 的速度变化和 NVFP4 支持,可帮助用户评估本地推理的性能边界。

Source: Ollama Blog · ollama.com