浙江
Ollama 近日發布更新，將蘋果自家機器學習框架 MLX 引入其本地大模型運行方案，在搭載 Apple 芯片的 Mac 上實現顯著性能提升。 官方介紹稱，新版本在提示預填階段（prefill）的處理速度提升約 1.6 倍，在生成回復階段（decode）的速度幾乎提升一倍，使本地大模型推理整體響應更為迅速。 尤其是配備 M5 系列芯片的機型受益最大，這得益于蘋果在新一代芯片中加入的 GPU Neural Accelerator（神經加速器）。
本次更新還改進了內存管理策略，在長時間使用場景下能夠更高效地利用系統統一內存，從而讓依托 Ollama 的本地 AI 編碼工具和聊天助手在持續會話中保持更流暢的交互體驗。 Ollama 表示，此次性能增強將特別有利于在 macOS 上運行個人助理類模型（如 OpenClaw）以及代碼助手類代理（如 Claude Code、OpenCode、Codex 等）的用戶，使這類工具更接近“即時響應”的使用感受。
目前，這一基于 MLX 的加速版本以 Ollama 0.19 預覽版形式提供下載：
https://ollama.com/blog/mlx
官方建議用戶在配備超過 32GB 統一內存的 Mac 上運行，以獲得更理想的性能表現。 預覽階段僅支持阿里旗下的 Qwen3.5 模型，但 Ollama 已明確表示，后續會逐步為更多 AI 模型加入支持。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
