Joe Horn 的啟示錄

幾間 VPS 供應商 ( Linode, DigitalOcean, Vultr ) 的 GPU 方案測試

基於個人好奇,挑了我列在 VPS Referrals 頁面的供應商建立機器,用 LLM:Benchmark 作點測試…

Akamai Cloud (原 Linode) 在東亞區可以用 NVIDIA Quadro RTX 6000 與 NVIDIA RTX 4000 Ada。

Vultr 列出許多 GPU 的選擇,但高階的方案目前都還不能選。我選用東京的 2 x NVIDIA A100 PCIe 方案,US$ 4.795/hr,價格與其他受測方案差不多。

DigitalOean 的 GPU 方案目前都在美洲區,我選用多倫多的 1 x NVIDIA H100 方案,US$ 3.39/hr

先表列測試結果 (數值單位是 tokens/s),內詳附圖…

phi4:14bdeepseek-r1:14bdeepseek-r1:32b
RTX4000 Ada x4 Medium 方案34.7034.0415.83
RTX6000 GPU x4 方案46.0443.1422.99
2 x NVIDIA A100 PCIe 方案69.8957.6234.54
1 x NVIDIA H100 方案120.40102.0061.10

Akamai Cloud (原 Linode)RTX4000 Ada x4 Medium 方案

Linode / Akamai CloudDedicated 128 GB + RTX6000 GPU x4 方案

Vultr2 x NVIDIA A100 PCIe 方案

DigitalOean 的 1 x NVIDIA H100 方案

Exit mobile version