Ahmad分析:GPU仍是代理商的最佳選擇

科技KOL Ahmad在其最新影片中指出,GPU仍然是代理商的最佳選擇。他展示了MiniMax-M2.1在八張RTX 3090顯示卡上運行的情況,這套系統的總成本約為6,000美元。影片中顯示,該系統能以每秒約2,000個標記的速度處理提示,並且輸出速度在開始時為每秒約400個標記,最終穩定在每秒約80個標記。這些數據顯示,GPU在高效能計算方面的優勢,特別是在需要快速處理大量數據的應用場景中。

來源:https://x.com/TheAhmadOsman/status/2017367396739125550


Posted

in

by