免費 LLM 大混戰:154 個模型任你用,仲要一條 DNS query 搞掂
2026 年仲俾錢用 ChatGPT?你大概 out 咗。而家開源模型嘅推理質素已經追到 GPT-4 級數,而存取方式更加顛覆到你唔信——有人整咗個工具,用一條 DNS query 就可以 call LLM。冇錯,你冇睇錯,DNS query,即係你平時上網搵 IP 嗰個 protocol。呢篇嘢唔係未來預測,而係今日已經發生緊嘅事。
154 個免費模型背後嘅生態邏輯
先講個數字:154。呢個唔係模型總數,而係你可以免費用到、唔使綁信用卡、冇 rate limit 陷阱嘅模型數量。背後嘅推動力係 free-coding-models 呢個社群項目,佢哋做咗一件好簡單但好有力嘅事——整合咗所有公開嘅免費 LLM 端點,每個都經過實際測試,證明确實免費、確實用得。
點解會有咁多免費模型?因為開源社群嘅訓練成本已經降到一個臨界點。Qwen3、Llama 4、DeepSeek-V3 呢類模型嘅推理效率大幅提升,加上量化技術(GGUF、AWQ、GPTQ)成熟,普通開發者喺自己部機都 run 到以前要數據中心級別嘅模型。雲端 GPU 提供商之間嘅價格戰更加令推理成本趨近於零。
更重要嘅係,呢啲免費端點各有定位。有啲專攻 coding(DeepSeek Coder 系),有啲擅長長上下文(32K、128K 甚至 1M token),有啲係多模態。你唔需要一個模型打天下,而係可以按任務揀模型——呢種「模型路由」思維,正正係下一個要講嘅核心基建。
DNSChat:最意想不到嘅 API Gateway
DNSChat 係我近排見過最「香港式」嘅 hack——用最少 infrastructure 解決最大問題。佢嘅原理極之優雅:將 LLM API call 封裝成 DNS query。你 send 一個 TXT record lookup,query 入面包住你嘅 prompt,DNS server 背後接上 LLM,response 就係模型嘅回覆。
聽落好似 gimmick,但實際上有幾個殺傷力極大嘅優勢。第一,DNS 係全世界最穩定嘅 protocol 之一,幾乎唔會被 block,防火牆好難分辨你係做緊正常 DNS lookup 定 call LLM。第二,DNS query 嘅 overhead 極低,connectionless、stateless,比起傳統 HTTP API 嘅 handshake 省咗一大截 latency。第三,任何語言任何平台都可以整 DNS query,唔使裝 SDK、唔使 handle OAuth、唔使理 API key rotation。
當然,呢個設計有取捨。DNS response size 有限制(一般 512 bytes 未經擴展),所以 DNSChat 目前適合 short-form task——補全 code、翻譯短句、快速分類。但佢示範嘅方向好重要:當 AI 變成 infrastructure,access 嘅方式就會趨向底層 protocol 級別。以後 call LLM 可能同 call DNS 一樣自然。
IntenseRP:免費模型嘅路由中樞
免費模型有一個致命弱點:唔可靠。今日用到嘅端點聽日可能死咗,速度時快時慢,回覆質素飄忽。IntenseRP 就係為咗呢個問題而出現嘅。
IntenseRP 係一個推理路由 proxy,佢嘅核心功能係:你 call 一個 unified endpoint,佢喺背後幫你試 154 個免費模型,根據 latency、quality、availability 自動 routing。如果一個端點 timeout,佢 silent failover 去下一個。如果一個模型 output 明顯差(例如重複 loop 或 empty response),佢自動 retry 用另一個模型。
呢種設計哲學叫做「resilience by routing」,唔係強化單一節點,而係用 redundancy 換 reliability。對於用 free tier 起 product 嘅開發者嚟講,呢個 pattern 係 game changer——你唔需要俾錢就可以有 production-grade 嘅可用性。IntenseRP 仲提供咗一個好有心嘅功能:你可以自訂 routing rule,例如「coding 問題優先行 DeepSeek,creative writing 行 Qwen,fallback 行 Llama」,成個 pipeline configurable。
砌一條免費 AI Stack 嘅實戰建議
講完工具,講實際點砌。如果你係香港嘅 indie developer 或者 startup,想用最少成本搭一條 AI pipeline,我會建議呢個組合:
底層用 free-coding-models 嘅端點 list 做 model pool,中間層行 IntenseRP 做 routing 同 fallback,邊緣 case 或者 ultra-short task 用 DNSChat 做零成本存取。呢個 stack 嘅成本係零,但 cover 到嘅 scenarios 涵蓋 code generation、text summarization、classification、translation、甚至簡單嘅 RAG pipeline。
有幾點要注意。第一,免費模型嘅 context window 同速度始終有 tradeoff,production 用一定要設 timeout 同 retry logic。第二,唔好假設免費永遠係免費——呢啲端點背後有人埋單,用嘅時候要有節制,唔好 abus。第三,monitor 係必須嘅,IntenseRP 已經包咗基本 health check,但你始終要知邊個端點 performance 唔對路。
2026 年的 reality 係:AI 嘅 access cost 已經接近零,真正嘅 bottleneck 唔再係 compute budget,而係你對手上有咩工具嘅認知同整合能力。DNS query 用得、154 個模型任你 routing、成個 stack 免費——呢啲唔係 demo,而係今日已經 ready 嘅 infrastructure。問題只係:你會唔會用佢嚟起啲乜。