<cite id="ffb66"></cite><cite id="ffb66"><track id="ffb66"></track></cite>
      <legend id="ffb66"><li id="ffb66"></li></legend>
      色婷婷久,激情色播,久久久无码专区,亚洲中文字幕av,国产成人A片,av无码免费,精品久久国产,99视频精品3
      網易首頁 > 網易號 > 正文 申請入駐

      企業想在Windows上離線部署Dify?管住手!

      0
      分享至

      金絲大環刀,解剖AI的工程難題。正文2567字。

      一直想研究下Dify,但沒有問題入手,上周末,終于等來了。

      我從卡茲克的學習群里,認識了一位做教育的老師,她有個痛點:

      “有個項目正在做英文手冊內容自動生成,已經有辦法做到,但是效果很差,就想著用AI做,所以也在學工作流,不能上網,涉及知識產品,只能本地部署。”

      很多企事業單位習慣Windows辦公,又有保密的需求,確實會遇到這種問題。

      對比了Dify,Coze,n8n,我選擇用Dify完成她這個需求,優勢有四點:

      1. 數據安全與私有化: 通過本地部署,你的所有知識產權文檔、模型、生成內容全部保留在內網,符合最核心的要求。

      2. 內置知識庫引擎: 這是它超越n8n的關鍵。你不需要關心如何分段、如何向量化。你只需要創建一個知識庫,然后像上傳文件一樣把你的.pdf, .docx, .md等格式的舊手冊和資料傳進去。Dify會幫你處理好最繁瑣的“前半段”工作。

      3. 無縫連接本地模型: Dify設置中可以直接配置連接本地的Ollama、LM Studio等工具跑的LLM(如Llama3, Qwen)和嵌入模型,整個鏈路完全內網化。

      4. 專注效果調優: 它把工程上的臟活累活都干了,讓開發者可以把寶貴的時間花在最有價值的事情上:設計和優化Prompt模板,調整知識庫的檢索策略,從而提升最終生成內容的質量。

      總結下,對于“英文手冊內容自動生成”這個任務,其技術本質是一個典型的RAG應用。需要讓AI模型參考你提供的“知識產品”(已有的手冊、技術文檔、設計規范),然后按照指令生成新的內容。


      Docker這么成熟,Dify也都發布兩年了,應該沒什么坑,我來試一把!

      結果一試,就把我整個周末搭進去了(都是淚)!

      一、離線安裝問題,依賴與模型的雙重考驗

      整個部署需要用到的軟件:Docker、Dify、Ollama及qwen2 1.5b。

      看上去有很直接很簡單的辦法,從一臺能聯網的電腦上,把dify依賴的鏡像都下載好,再導出成tar包,再導入windows上,啟動。

      實際操作起來才知道有多少坑。

      首先是需要的鏡像文件多,Dify自身加上依賴,竟然有9個鏡像之多

      docker save -o dify-web.tar langgenius/dify-web:1.7.1

      執行完9次命令,一看:


      dify-api.tar 就有兩個G!Dify依賴redis緩存,nginx web服務器 ,PostgreSQL數據庫,squid 代理緩存服務器(它要這個干嘛。。。)

      漫長的導出和拷貝傳遞到windows

      docker load -i dify-web.tar docker load -i dify-api.tar docker load -i postgres.tar docker load -i nginx.tar docker load -i dify-sandbox.tar docker load -i squid.tar docker load -i redis.tar docker load -i plugin-daemon.tar docker load -i weaviate.tar

      docker compose up -d

      然后發現啟動不起來!

      問了Cursor,才知道是mac是arm64平臺,windows上只能用amd64鏡像。更改導出腳本,重新Load

      docker buildx build --platform linux/amd64 -t langgenius/dify-web:1.7.1 . docker save -o dify-web.tar langgenius/dify-web:1.7.1 docker buildx build --platform linux/amd64 -t langgenius/dify-api:1.7.1 . docker save -o dify-api.tar langgenius/dify-api:1.7.1 docker buildx build --platform linux/amd64 -t langgenius/dify-sandbox:0.2.12 . docker save -o dify-sandbox.tar langgenius/dify-sandbox:0.2.12 docker buildx build --platform linux/amd64 -t postgres:15-alpine . docker save -o postgres.tar postgres:15-alpine docker buildx build --platform linux/amd64 -t nginx:latest . docker save -o nginx.tar nginx:latest docker buildx build --platform linux/amd64 -t ubuntu/squid:latest . docker save -o squid.tar ubuntu/squid:latest docker buildx build --platform linux/amd64 -t redis:6-alpine . docker save -o redis.tar redis:6-alpine docker buildx build --platform linux/amd64 -t langgenius/dify-plugin-daemon:0.2.0-local . docker save -o plugin-daemon.tar langgenius/dify-plugin-daemon:0.2.0-local docker buildx build --platform linux/amd64 -t semitechnologies/weaviate:1.19.0 . docker save -o weaviate.tar semitechnologies/weaviate:1.19.0

      雖然很麻煩,但是做對一次,還是能解決的。

      大模型文件小時候簡單點,從ollama的模型目錄里打包完,拷貝到windows上指定的模型目錄即可。大的時候拷貝一次是個很繁瑣的事兒。

      二、權限問題,噩夢

      windows默認是沒有虛擬化的,需要打開 WSL(Windows Subsystem for Linux)。進入bois,然后高級設置里,打開CPU里的 VMX之類的虛擬化技術的設置

      然后在Windows功能里也要開啟虛擬機平臺


      但這只是開始。

      Dify容器需要將數據(如知識庫文件、數據庫文件)持久化到宿主機上。當容器內的Linux用戶(如root)去讀寫掛載在Windows文件系統(NTFS)上的卷時,文件所有權和讀寫權限(chmod, chown)的映射會變得混亂不堪。

      我正好裝在FAT32分區上,導致插件都裝不上, 研究了半天。

      三、性能問題

      Windows本身不直接支持Docker容器。因此,所謂的“Windows部署”,本質上是在Windows內部運行一個Linux子系統(WSL2),再在WSL2里運行Docker,最后在Docker里運行Dify。

      “Windows -> WSL2 -> Docker -> Dify” ,四層套娃!這本身就是巨大的性能和管理隱患。

      1. 性能損耗: 文件系統在Windows和WSL2之間的讀寫性能,相比原生Linux會有多大折扣?當Dify的知識庫需要處理大量文檔(GB級別)時,這個I/O瓶頸會不會讓你的數據清洗過程慢到無法忍受?

      2. 資源黑洞: WSL2默認會貪婪地“吃掉”你的內存。你如何精確地限制它的資源使用,防止它影響到Windows Server上運行的其他關鍵業務?

      四、運維的“無盡折磨”—— 監控、備份與升級

      在原生Linux環境下,我們有大量成熟的工具來監控容器的性能、進行數據的自動備份。但在Windows這套“俄羅斯套娃”環境里,一切都變得別扭。

      1. 監控的盲區: 你常用的監控Agent,是應該裝在Windows上,還是WSL2里,還是Dify的容器內?你能否輕松地監控到容器內部某個進程的CPU和內存占用?

      2. 備份的可靠性: 當你備份掛載在Windows上的PostgreSQL數據目錄時,能保證數據的一致性和完整性嗎?會不會因為文件鎖定的問題導致備份失敗?

      3. “不可能的”升級: 當Dify發布新版本時,你在離線環境下,需要重復一遍上述所有“搬運”和“配置”的噩夢。這個過程,你敢在生產環境中輕易嘗試嗎?

      后記

      在mac上,我很快就生成了一版,英文手冊工作流,非常簡單絲滑


      綁定0.0.0.0 啟動 :OLLAMA_HOST=0.0.0.0:11434 ollama serve

      安裝ollama插件,然后選擇模型,訪問地址設置成

      http://host.docker.internal:11434/ ,然后用AI寫一個dsl,導入, 就ok了。
      而Windows環境,我還在裝Ollama插件中。。。

      總結下,雖然技術上“可行”,但在企業生產環境中,使用Windows離線部署Dify,是一條充滿荊棘、事倍功半、且運維成本極高的技術路線。

      你花費80%的精力,可能只是在解決由Windows環境本身帶來的各種稀奇古怪的問題,而不是在優化Dify的應用效果。

      我的建議:

      1. 最佳方案: 強烈建議公司申請一臺獨立的、哪怕是低配的Linux服務器(如CentOS或Ubuntu Server)用于部署Dify和AI相關服務。這是最標準、最穩定、社區支持最好、長期成本最低的方案。

      2. 次選方案: 如果別無選擇,務必使用Windows Server + Hyper-V,在Hyper-V里創建一個完整的Linux虛擬機來運行Docker和Dify。這比使用WSL2要更穩定、資源隔離更徹底,更接近生產環境的要求。

      記住,作為研發工程師,我們的職責不只是“讓它跑起來”,更是要“讓它穩定、高效、可維護地一直跑下去”。選擇正確的技術棧,是這一切的開始。

      回復【Dify】,討論研究AI工作流的工程問題。

      我是刀哥,大廠架構師,出海創業者,深入研究AI工具和AI編程。關注我,了解更多AI知識!

      特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

      Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

      相關推薦
      熱點推薦
      15-12!這就是史密斯的改變,曾被伊森掩蓋的火箭探花秀終迎正名

      15-12!這就是史密斯的改變,曾被伊森掩蓋的火箭探花秀終迎正名

      奕辰說球
      2025-12-31 11:26:48
      就在今天!12月31日,孫穎莎一身紅裝現身母校,登上雜志封面

      就在今天!12月31日,孫穎莎一身紅裝現身母校,登上雜志封面

      皮皮觀天下
      2025-12-31 10:37:22
      隱婚生子真相大白4個月,43歲房祖名真實現狀曝光,成龍沒說謊

      隱婚生子真相大白4個月,43歲房祖名真實現狀曝光,成龍沒說謊

      攬星河的筆記
      2025-12-29 20:12:01
      鄭青已任浙江省高院黨組書記,此前任遼寧省高院院長

      鄭青已任浙江省高院黨組書記,此前任遼寧省高院院長

      澎湃新聞
      2025-12-30 18:18:29
      為什么成功人士的精力都非常旺盛?網友:幾乎不管任何瑣碎的事情

      為什么成功人士的精力都非常旺盛?網友:幾乎不管任何瑣碎的事情

      另子維愛讀史
      2025-12-29 17:29:04
      F4互撕 | 都是苦出身、性格各有bug,緣何只有朱孝天掀桌?

      F4互撕 | 都是苦出身、性格各有bug,緣何只有朱孝天掀桌?

      扒點半吃瓜
      2025-12-30 07:00:08
      茹子楠:雖然要說再見,但梅州客家永遠在我心里

      茹子楠:雖然要說再見,但梅州客家永遠在我心里

      足球報
      2025-12-31 11:17:54
      不被允許的欲望:老年人性需求正在演變為重大公共衛生風險

      不被允許的欲望:老年人性需求正在演變為重大公共衛生風險

      黑噪音
      2025-12-27 20:51:40
      泰王33歲小妾歐拉弄:當眾效仿47歲蘇提達,差點就被當成了王后

      泰王33歲小妾歐拉弄:當眾效仿47歲蘇提達,差點就被當成了王后

      笑傲春秋
      2025-12-30 12:06:42
      肥腸再次成為關注對象!研究發現:常吃肥腸,身體會收獲3大好處

      肥腸再次成為關注對象!研究發現:常吃肥腸,身體會收獲3大好處

      全球軍事記
      2025-12-29 21:28:37
      曾被吹捧上天,如今卻淪為笑柄的6個坑人物品,大家別再買了!

      曾被吹捧上天,如今卻淪為笑柄的6個坑人物品,大家別再買了!

      室內設計師有料兒
      2025-12-27 17:07:20
      初中畢業裝貴婦,8萬退休金是編的,別墅是租的,就是帶貨的

      初中畢業裝貴婦,8萬退休金是編的,別墅是租的,就是帶貨的

      西樓知趣雜談
      2025-12-30 13:16:05
      “普京官邸遇襲”事件發酵,烏外長點名批3國,稱“感到失望”

      “普京官邸遇襲”事件發酵,烏外長點名批3國,稱“感到失望”

      鳳凰衛視
      2025-12-31 10:17:04
      雷軍發文道歉:跨年直播推遲到1月3日晚7點

      雷軍發文道歉:跨年直播推遲到1月3日晚7點

      財聞
      2025-12-31 09:16:18
      尊界S800本月交付突破4000臺:一己之力干翻BBA+保時捷

      尊界S800本月交付突破4000臺:一己之力干翻BBA+保時捷

      快科技
      2025-12-31 10:07:05
      自作孽!放走2大主力,迷信31歲老將,老牌勁旅,如今成CBA魚腩隊

      自作孽!放走2大主力,迷信31歲老將,老牌勁旅,如今成CBA魚腩隊

      金山話體育
      2025-12-28 11:24:53
      學生偷拍并舉報課堂內容,教師被解雇,教授坦言:“我開始害怕我的學生”

      學生偷拍并舉報課堂內容,教師被解雇,教授坦言:“我開始害怕我的學生”

      化學人生
      2025-12-30 21:03:29
      澤連斯基:希望特朗普訪烏,最好是乘飛機來烏克蘭而不是波蘭

      澤連斯基:希望特朗普訪烏,最好是乘飛機來烏克蘭而不是波蘭

      極目新聞
      2025-12-31 08:42:15
      “我屬于耶穌” 28歲熱蘇斯重傷后重生:替補55秒破門 363天球荒

      “我屬于耶穌” 28歲熱蘇斯重傷后重生:替補55秒破門 363天球荒

      風過鄉
      2025-12-31 06:53:50
      給墊底隊送分!阿莫林遭7萬人狂噓+名宿質問,仍嘴硬:少了8主力

      給墊底隊送分!阿莫林遭7萬人狂噓+名宿質問,仍嘴硬:少了8主力

      我愛英超
      2025-12-31 07:45:49
      2025-12-31 12:51:00
      刀哥聊AI
      刀哥聊AI
      深度評測AI工具、AI大模型,資深大廠架構師,出海智能硬件創業者
      100文章數 11關注度
      往期回顧 全部

      科技要聞

      老羅,演砸了,也封神了?

      頭條要聞

      杭州一業主群來了豪氣鄰居 砸1600萬給小區外立面升級

      頭條要聞

      杭州一業主群來了豪氣鄰居 砸1600萬給小區外立面升級

      體育要聞

      2025全球射手榜:姆巴佩66球 梅西第6C羅第9

      娛樂要聞

      告別2025年!大S、方大同離世青春退場

      財經要聞

      朱光耀:美關稅政策正使WTO名存實亡

      汽車要聞

      奇瑞QQ3量產版曝光! 軸距2米7配8155芯片

      態度原創

      游戲
      藝術
      時尚
      數碼
      教育

      大手抵不過熱愛!《GTA:罪惡都市》網頁版恢復上線

      藝術要聞

      中國博物館全書!看遍中國8000年頂流審美

      是顏值派更是實力派,李斯丹妮的高能生活不設限

      數碼要聞

      五部門:做好2026年家電以舊換新、數碼和智能產品購新補貼工作

      教育要聞

      新年獻詞——很多事兒,不到一定年齡想不明白

      無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 国产免费av网站| 亚洲va中文字幕无码久久 | 日韩?欧美?国产| 亚洲色欲网| 国产成人精品日本亚洲网站| 正在播放国产【乱子】| 午夜综合网| A在线视频| 亚洲日韩乱码一区二区三区四区| 清纯小美女主播流白浆| 国产 麻豆 日韩 欧美 久久| 日韩成人无码毛片| 一本色道久久亚洲综合精品| 天天躁久久躁日日躁| 国产精品国产主播在线观看| 日韩丨亚洲丨制服|痴汉| 枞阳县| 国产丰满麻豆videossexhd| 少妇激情av一区二区三区| 伊人久久中文字幕| av无码天堂| 暖暖 在线 日本 免费 中文| 欧美日韩亚洲国产| 色诱久久| 国产超级va在线观看视频| 成人性做爰片免费视频| 国产成人AV男人的天堂| 营山县| 99国产精品久久久久久久日本竹| 99在线精品国自产拍中文字幕| 免费看无码网站成人A片| 成人人妻精品| 国产精品久久久久7777按摩| 无码一区中文字幕| 日本丰满老熟妇乱子伦| 亚洲最大成人小说网| 亚洲国产av无码综合原创国产 | 泸溪县| 狼人干?五月天| 国产亚洲AV| 伊人久久大香线蕉av五月天|