Serverless GPU 價格戰 2026:Beam Beta9 vs Modal 成本對比
2026 年揀 serverless GPU 平台,多數人第一件事就係打開 Modal 同 Beam 嘅 pricing page 對牌價:Modal H100 列 $3.95/hr,Beam H100 列 $3.50/hr,睇落差唔多,揀個鍾意嘅就算。呢個諗法會令你個 monthly bill 輕鬆相差 4 倍,甚至 12 倍——關鍵唔係牌價,而係你讀唔讀得明藏喺 pricing page 細字入面嘅生產環境附加費、regional multiplier,同最重要嘅:你有冇諗過自己開源托管呢條路。
Modal 嘅 serverless GPU 體驗的確係一流:Python decorator 一啪就部署好,per-second billing,autoscale to zero,$30 免費額度俾你玩到夠。但當你將同一份 workload 搬上 production,尤其係需要 non-preemptible 執行同 US region 嘅時候,Modal 嘅定價機制會產生一個你未必預料到嘅乘數效應。同一時間,Beam Beta9 開源咗(AGPL-3.0),你可以自己㨃起成個 infrastructure,而 Beam 自己嘅 managed cloud 定價亦冇呢啲隱藏乘數。
本文逐個場景數: prototyping、production LLM inference、batch processing、high-throughput 推論——究竟邊個平台喺邊個場景真正慳錢。
Modal 嘅「牌價陷阱」:list price vs effective price
先講清楚 Modal 嘅真實成本結構。2026 年 5 月 Modal 嘅公開牌價如下:H100 $3.95/hr、A100 80GB $2.50/hr、L40S $1.95/hr、A10 $1.10/hr、L4 $0.80/hr、T4 $0.59/hr。CPU $0.047/hr per core,記憶體 $0.008/hr per GiB,全部 per-second billing。睇落好合理,尤其係佢個「比傳統 cloud 節省 30%」嘅宣傳口號。
問題出喺 production 環境嘅乘數。Modal 文檔清楚列明:如果你需要 non-preemptible execution(即係你啲 job 唔可以被搶佔,production workload 九成都係呢個類別),價格係標準嘅 3 倍。如果你仲要用 US region,再加 1.25 倍 regional multiplier。夾埋即係 3.75 倍。
用實際數字計:H100 牌價 $3.95/hr × 3.75 = $14.81/hr。A100 80GB $2.50/hr × 3.75 = $9.38/hr。你以為自己用緊 $3.95 一粒鐘嘅 H100,實際上 production 緊嘅時候係 $14.81。每個月跑 500 小時(約每日 16 小時),H100 單 GPU 成本就由 $1,975 變成 $7,405。呢個差距足以令你重新審視自己嘅 infrastructure 選擇。
Beam Beta9 嘅 managed cloud 冇呢種 production multiplier。Beam 嘅定價直接咁寫:H100 $3.50/hr、A10G $1.05/hr、RTX 4090 $0.69/hr,冇 region 加價、冇 preemptible 分級。你睇到嘅牌價就係你俾嘅價錢。但 Beam 嘅 GPU concurrency 有限制——Free plan 得 5 個 GPU container,Pro plan $89/月先有 50 個,Team plan $349/月先俾 unlimited。Modal Starter plan 已經有 10 GPU concurrency。
自托管 Beta9:開源嘅成本優勢同隱藏成本
Beta9 係 Beam 背後嘅開源引擎,AGPL-3.0 授權,你可以完全免費地㨃起自己嘅 serverless GPU 集群。呢條路嘅成本結構完全唔同:你俾嘅係硬件折舊 + 電費 + 網絡 + 維護時間,唔係 per-hour GPU 租賃。
假設你自備一張 RTX 4090(約 $1,600 USD),用 Beta9 開源跑 inference。呢張卡可以用 3 年,折舊約 $0.06/hr。電費約 $0.15/hr(450W @ $0.12/kWh)。即係 total cost of ownership 約 $0.21/hr——相比 Modal H100 嘅 effective $14.81/hr,相差 70 倍。當然呢個比較唔完全公道:RTX 4090 得 24GB VRAM,H100 有 80GB,效能差距明顯。但你用 A10G 24GB 做對比嘅話,Beam managed $1.05/hr vs 自托管 $0.21/hr,仍然係 5 倍差距。
更重要嘅係 Beta9 嘅 heterogeneous scheduling:你可以同時接入多種硬件——自家 RTX 4090、租返嚟嘅 H100、甚至 Apple Silicon Mac Studio。Beta9 嘅 scheduler 會自動將 workload 分配到最適合嘅硬件。對於需要 GDPR 合規嘅 EU workload,呢個 flexibility 係 Modal 俾唔到嘅,因為 Modal 只有自家 data center,而且 US entity 有 CLOUD Act 風險。
不過自托管唔係免費午餐。Beta9 嘅 control plane 需要你自己 maintain——Redis、etcd、container registry,全部要你自己搞。社羣仲係好細(1.7k stars vs Modal 嘅龐大用戶群),遇到問題要自己睇 code 或者等 GitHub Issues 回覆。Production reliability 完全取決於你自己嘅運維能力。如果你嘅時間成本高,呢 part 好容易食晒你慳返嚟嘅 GPU 錢。
逐場景計數:prototype、production、batch
場景一:Prototype / 實驗(< 100 小時 / 月)
呢個場景 Modal 完勝。$30/月免費額度,加上一流嘅 developer experience——@app.function(gpu="H100") 就得咗,cold start 8-12 秒,log 同 monitoring 內置。Beam 同樣有 $30 免費額度(15 hours credit),但 GPU concurrency 限制比較緊。自托管喺呢個階段完全唔值得——你仲未知道自己個 product 得唔得,唔應該投入 infra 時間。
場景二:Production LLM inference(500-1000 小時 / 月,持續流量)
呢度開始見真章。假設你 serve 一個 13B 參數模型,用 A100 80GB,每日 16 小時持續流量。
- Modal effective cost(US non-preemptible):$9.38/hr × 500 hrs = $4,690/月
- Beam managed:A100 約 $2.50/hr × 500 hrs = $1,250/月
- Beam A10G(24GB 夠行 13B 量化):$1.05/hr × 500 hrs = $525/月
- Beta9 自托管 RTX 4090(24GB,量化 13B):~$0.21/hr × 500 hrs = $105/月
Modal vs Beam managed 已經差 3.7 倍。Modal vs 自托管差 44 倍。當你個月 bill 由 $4,690 降到 $525,你老闆或者你個 bank account 會好開心。
但要留意:A10G 同 RTX 4090 只有 24GB VRAM,13B 模型一定要做 4-bit 量化,batch size 受限,throughput 會低過 A100/H100。如果你需要高 throughput 同低 latency,H100 嘅 80GB VRAM 同更快嘅記憶體頻寬係冇得代替嘅。
場景三:Batch processing / 非即時
Batch workload 係 serverless GPU 嘅 sweet spot。Modal 嘅 per-second billing 喺呢度發揮得最好——你每個 batch job 可能只係行幾秒,scale-to-zero 令你唔使俾 idle 錢。Beam 同樣係 per-millisecond billing。
分別在於:Modal 對 batch workload 嘅 multiplier 仍然適用。如果你行緊 non-preemptible batch,一樣要食 3.75 倍。但 batch job 通常可以接受 preemptible(kill 咗重新排隊就得),所以你可以用標準價格。咁樣 Modal H100 batch 就係 $3.95/hr vs Beam H100 $3.50/hr,差距唔大。
Batch 場景下自托管反而冇咁著數——因為 batch 通常係 bursty,你買咗張卡長期放喺度就要食折舊,就算 idle 都係俾緊錢。Serverless 嘅 pay-per-use model 喺呢度贏返。
冇免費午餐:hidden costs 同 trade-offs
講咗咁多邊個平,都要講清楚每個選項嘅 hidden costs。
Modal 嘅最大 hidden cost 係 production multiplier,呢個我已經詳細拆解過。另外 Modal 仲有 network egress 收費($0.09/GB,首 1GB 免費),同 volume storage $0.09/GB/mo。如果你 serve 大量 text generation,egress 可以加到 10-20% 嘅額外成本。仲有 cold start 問題——Modal cold start 約 8-12 秒,呢段時間照計錢。如果你 model 好大(70B),load model 嘅時間可以好可觀。
Beam 嘅 hidden cost 主要係 concurrency limits。Free plan 得 5 個 GPU container,突然嘅 traffic spike 會令你排隊。Pro plan $89/月俾你 50 個,但呢 $89 係月費唔係 credit,無論你用唔用都要俾。Team plan $349/月先 unlimited。如果你只係細 team,呢個月費可能佔你成本嘅相當比重。另外 Beam 雖然話 cold start 唔計錢,但 container 嘅 startup time 佢哋「唔 charge 嘅 part」只係 infra spin-up,code loading 仍然計錢——呢個係常見嘅誤解。
Beta9 自托管嘅 hidden cost 係你嘅時間。Setting up Beta9 control plane、troubleshooting container networking、monitoring GPU health——全部要你自己做。引用一個個案:有人慳到 $210/month,但花咗 40 小時去建構個系統。你個時間值幾多錢?如果你個 startup 要 fast iteration,呢 40 小時可能係致命嘅分散注意力。
仲有一個風險:Beta9 嘅社羣仲細。遇到 bug 你冇 Modal 嗰種 instant Slack support,要靠 GitHub Issues。Production outage 嘅時候,你係靠自己。Beam 嘅 managed cloud 有 SLA,自托管係冇嘅。
我嘅建議
以我角度,2026 年嘅最佳策略係 三層架構:
第一層,prototype 同實驗——用 Modal。$30 免費 credit、最好嘅 DX、唔使煩 infra。你應該喺呢個階段證明你個 product 嘅 product-market fit。
第二層,production inference(中等規模,< 500 小時/月)——用 Beam managed cloud。價錢公道、冇 production multiplier、storage 免費、cold start 唔計錢。尤其係如果你嘅 workload 可以用 A10G 或者 RTX 4090 搞掂,成本優勢好明顯。H100 workload 嘅話,Beam 嘅 $3.50/hr 對比 Modal 嘅 $14.81/hr,每個月差 $5,000+,唔係講笑。
第三層,高吞吐 production(> 1,000 小時/月)——認真考慮 Beta9 自托管,或者 hybrid 策略:用自托管嘅 GPU 處理 steady-state traffic,用 Beam/Modal 嘅 serverless 處理 spikes。買一張 H100(或者租 dedicated server),行 Beta9,俾你 control 晒成個 stack,成本仲可以再砍一半。
最後提一句:serverless GPU market 2026 年仲係好早期,pricing 變化快過你個 product roadmap。每個季度 check 一次 pricing page,同埋唔好俾「per-second billing」呢個口號迷住——per-second 係好,但每小時嘅 effective rate 先係你睇實嗰個數。