在r/LocalLLaMA論壇上，一位用戶分享了他成功將三台DGX Sparks進行集群的經驗。儘管NVIDIA官方僅支持兩節點集群，他卻通過撰寫約1500行的原始C語言代碼，實現了三節點的連接。該用戶在面對NCCL在多子網絡下的限制時，選擇自行開發一個自定義的NCCL網絡插件。這一創新方案不僅克服了子網絡的障礙，還實現了三節點之間的實時分佈式推理，數據傳輸速度達到超過8GB/s，幾乎達到100 Gbps的線速率。這一成果展示了在官方不支持的情況下，通過技術創新仍能達成高效能的可能性。
在r/LocalLLaMA論壇上，一位用戶分享了他成功將三台DGX Sparks進行集群的經驗。儘管NVIDIA官方僅支持兩節點集群，他卻通過撰寫約1500行的原始C語言代碼，實現了三節點的連接。該用戶在面對NCCL在多子網絡下的限制時，選擇自行開發一個自定義的NCCL網絡插件。這一創新方案不僅克服了子網絡的障礙，還實現了三節點之間的實時分佈式推理，數據傳輸速度達到超過8GB/s，幾乎達到100 Gbps的線速率。這一成果展示了在官方不支持的情況下，通過技術創新仍能達成高效能的可能性。