ollama v0.12.10 版本更新詳解——新增 embedding 模型支持與多項(xiàng)優(yōu)化

近日，ollama 發(fā)布了v0.12.10版本（發(fā)布日期：2025年11月7日），本次更新在功能與性能方面均有提升。其中最重要的亮點(diǎn)是ollama run現(xiàn)已支持運(yùn)行 embedding 模型，用于從文本生成向量嵌入。同時(shí)，多個(gè)針對(duì)性能與穩(wěn)定性的改進(jìn)也被加入本版本。本文將詳細(xì)解析 v0.12.10 的主要更新內(nèi)容。

1. ollama run 支持 embedding 模型

在 v0.12.10 中，ollama run命令不僅能運(yùn)行傳統(tǒng)的推理模型，還可以直接運(yùn)行 embedding 模型，從文本生成對(duì)應(yīng)的向量嵌入。

示例用法：

ollama run embeddinggemma "Hello world"

該功能還支持通過(guò)標(biāo)準(zhǔn)輸入提供內(nèi)容，例如：

echo "Hello world" | ollama run embeddinggemma

這一改動(dòng)使得向量化處理文本的流程更加簡(jiǎn)潔、高效，便于在搜索、推薦、語(yǔ)義匹配等應(yīng)用中直接使用生成的 embeddings。

2. 模型運(yùn)行兼容性修復(fù)

• ? 修復(fù)了在運(yùn)行qwen3-vl:235b和qwen3-vl:235b-instruct模型時(shí)出現(xiàn)的錯(cuò)誤，提升了相關(guān)視覺(jué)-語(yǔ)言模型的穩(wěn)定性。

• ?啟用 Flash Attention for Vulkan（目前需要從源碼構(gòu)建）。

• ?新增 Vulkan 內(nèi)存檢測(cè)：針對(duì) Intel GPU，使用DXGI + PDH進(jìn)行內(nèi)存檢測(cè)，提升 GPU 資源監(jiān)控能力。

• ?/api/chat接口在調(diào)用工具（Tool）時(shí)，現(xiàn)在會(huì)返回Tool Call ID，便于開(kāi)發(fā)者在多工具調(diào)用場(chǎng)景下進(jìn)行跟蹤和管理。

• ? 修復(fù)了因CPU 發(fā)現(xiàn)過(guò)程引起的卡死問(wèn)題，提升了系統(tǒng)的穩(wěn)定性。

• ? 在交互模式下，當(dāng)用戶切換到云模型時(shí)，ollama 會(huì)顯示登錄指引，增強(qiáng)用戶體驗(yàn)。

• ? 修復(fù)讀取過(guò)期 VRAM 數(shù)據(jù)的問(wèn)題，優(yōu)化顯存數(shù)據(jù)處理。

ollama v0.12.10 的更新重點(diǎn)在于：

1. 1.ollama run現(xiàn)在可以直接運(yùn)行 embedding 模型，為文本向量化提供了高效途徑。

2. 2. 修復(fù)了多項(xiàng)模型運(yùn)行的兼容性問(wèn)題，特別是針對(duì)視覺(jué)語(yǔ)言模型。

3. 3. 增強(qiáng)了 Vulkan 的功能與 GPU 內(nèi)存檢測(cè)能力。

4. 4. 提供 API 返回工具調(diào)用 ID，更好地支持開(kāi)發(fā)者調(diào)試與管理。

5. 5. 優(yōu)化了交互體驗(yàn)并提升了系統(tǒng)穩(wěn)定性。

我們相信人工智能為普通人提供了一種“增強(qiáng)工具”，并致力于分享全方位的AI知識(shí)。在這里，您可以找到最新的AI科普文章、工具評(píng)測(cè)、提升效率的秘籍以及行業(yè)洞察。 歡迎關(guān)注“福大大架構(gòu)師每日一題”，發(fā)消息可獲得面試資料，讓AI助力您的未來(lái)發(fā)展。