16 台 DGX Spark 叢集：2TB 統一記憶體、真實建置案例

他買了 16 台 DGX Spark，把它們放進家裡的伺服器機架，組成一個 2TB 統一記憶體的叢集。這篇 Reddit 貼文得到 1,620 個 upvote，幾個月後他把叢集擴充到 36 台，4.6TB 記憶體。這不是一個公司或研究機構的故事，是一個人在家做的事。

這篇要說清楚這個叢集能跑什麼、用了什麼網路設備、真實的使用方式是什麼，以及如果你也想做同樣的事，最小可行版本是什麼配置。

這篇適合誰看

• 想了解 DGX Spark 叢集的極限在哪裡
• 對本機 AI 主權（不依賴任何雲端）有強烈需求
• 想建立多 agent 推論基礎設施的開發者
• 純粹對「有人在家放 36 台 DGX Spark」這件事很好奇

兩次建置的規格

項目	第一次（2026 年 4 月）	第二次（2026 年 8 月）
DGX Spark 台數	16 台	36 台
統一記憶體	2 TB	4.6 TB
交換機	FS 24x200G QSFP56	FS 24x200G + 8x400G 交換機
連線方式	16x QSFP56 DAC	24x DAC + 6x 400G→2x200G breakout
可跑最大模型	Kimi K3	Kimi K3 等 SOTA 模型

Reddit 用戶 Kurcide 記錄的 36x DGX Spark 擴充，增加原因包括：想把 16 個節點專門跑 SOTA 模型（如 Kimi K3），另外保留節點做 rerank/embedding、影片生成、圖像生成、音訊處理同時並行。此外加入兩套 RTX Pro 6000 系統（4x Max Q 低功耗 + 8x 企業伺服器）取代原本的 H100 和 GH200。資料來源：Reddit r/LocalLLaMA 串 1vvv7iv，790 upvotes。

叢集的實際用途：不只是跑一個大模型

很多人以為大叢集就是跑一個更大的模型。實際上 Kurcide 的用法更接近「AI 能力叢集」的概念：把 36 台分成多個功能模組，每個模組負責不同的推論任務，由 Hermes 加上自建的 memory sidecar 系統統一排程。

• 16 個節點：跑 SOTA 模型（Kimi K3 等）
• 部分節點：embedding、rerank（RAG 管道用）
• 部分節點：影片生成
• 部分節點：圖像生成、音訊處理
• 整體排程：Hermes + 自建 persistent agent memory sidecar

網路設備的選擇邏輯

叢集效能的瓶頸通常是節點之間的頻寬，特別是做 tensor parallel（TP）推論時，每個 token 都需要節點之間的通訊。

Reddit 用戶 ciprianveg 的 16x DGX Spark 建置記錄顯示：從 200G 降到 100G 連線，token generation 速度只差 2%，但 prefill 速度降低 20%。結論是：如果主要做推論（decode），100G 夠用；如果大量做長 prompt prefill，200G 是必要的。400G 連線對 prefill 有額外加速，但相對花費更高。資料來源：Reddit r/LocalLLaMA 串 1vdcgpm，1,045 upvotes。

為什麼不買 B200 或 B300？

叢集主人 Kurcide 直接回答了這個問題，理由很實際：

• 散熱和電力問題：B200/B300 在家庭環境的冷卻需求遠超 DGX Spark，36 台 Spark 在功耗上仍是可管理的
• 資料主權：整個系統在家裡，零雲端依賴，不需要依靠任何第三方儲存
• 流動性：想升級時比較容易轉手
• 彈性配置：Spark + Pro 6000 組合比單一大型 GPU 更容易針對不同任務優化

最小可行版本：從 4 台開始

你不需要 36 台才能體驗叢集的威力。4 台 DGX Spark（512GB）+ 1 台 MikroTik CRS804 交換機 + 4 條 QSFP56 DAC 線（交換器設定與接線細節）是最小可行的叢集配置，總硬體成本約 NT$850,000–880,000（含交換機與線材，機器以 2026 年 9 月台灣零售價每台約 NT$199,000 計）。這個配置可以讓 DeepSeek V4.1 Flash 以 84.9 tok/s 的速度跑，支援 1M context，對大多數研究和開發用途已經夠用。

結論

DGX Spark 作為單台機器性價比可以被質疑，但它在叢集化的擴充性上是目前桌上型 AI 設備裡沒有對手的。你可以從 1 台開始，按需增加，不需要重新設計架構。Mac Studio 做不到這件事，自組 GPU 伺服器管理成本高很多。這是 DGX Spark 叢集最核心的價值主張。

立即開始：從 4 台的最小可行叢集起步

蓋斯克科技協助規劃地端 AI 叢集，從幾台開始、怎麼接、電力與散熱怎麼配都能一起評估。

我們提供：

• 依模型大小與人數決定台數
• 200G 交換器選型、接線與頻寬驗證
• 叢集網路與辦公室網路的隔離
• 電力、散熱與擺放位置評估

延伸閱讀：DGX Spark 雙機怎麼接？ConnectX-7 200G 網路設定｜買一台還是兩台？DGX Spark 1x vs 2x 效能對決｜DGX Spark 台灣完整購買指南｜地端 LLM 主機大車拼：DGX Spark vs Mac vs RTX 5090

更多關於16 台 DGX Spark 叢集：2TB 統一記憶體、真實建置案例的常見問題FAQ

這樣的叢集電費是多少？

單台 DGX Spark 推論負載下約 150–250W，16 台在高負載下約 2.4–4kW，台灣電費每度約 4–6 元，全力跑 24 小時一個月約 NTD 7,000–17,000 的電費。正常使用（不是 24/7 全力）大約 NTD 3,000–8,000/月。

DGX Spark 叢集需要專業機架嗎？

不需要機架，DGX Spark 本身是桌上型設備，可以疊放（建議留空氣循環空間）。但 16 台以上的認真建置，機架確實會讓佈線和散熱管理更容易。

這種叢集怎麼做軟體管理？

社群公開的多台部署專案大多用 vLLM 或 SGLang 做 tensor parallel。NVIDIA Developer Forum 有持續更新的叢集設定食譜，是目前最可靠的參考資料。

資料來源

Reddit r/LocalLLaMA 串 1sz0lyk（16x DGX Sparks，1,620 upvotes）、Reddit r/LocalLLaMA 串 1vvv7iv（36x “The All Spark” 擴充，790 upvotes）、Reddit r/LocalLLaMA 串 1vdcgpm（16xGB10 叢集設定，1,045 upvotes）、X @aijoey（4 台叢集 browser 視覺化）。