三只貓
Rich Mindset Zone
richmindsetzone.com
← All posts

2026 企業 AI 部署三條路:Onyx vs GPT-RAG vs Lollms,香港金融合規點樣揀

如果你仲以為企業 AI 部署只係「揀個模型、駁條 API、收工」,咁你大概率會喺 compliance 呢個位炸到體無完膚。2026 年嘅香港金融機構,面對金管局嘅外判指引、個人資料私隱專員公署嘅跨境數據要求,以及越來越多 audit 權限從 IT 部門移到合規部門,AI 部署唔再係 engineering 決定,而係 risk management 決定。問題係,今日市面上三條主流路線——Onyx、GPT-RAG、Lollms——各有完全唔同嘅 compliance profile 同 cost structure,揀錯一條,輕則浪費半年時間,重則 model 落咗 production 先被合規 ban 返轉頭。

Onyx:開源 all-in-one,合規最可控但營運成本最高

Onyx 前身係 Onyx AI(原名 OnyxRAG),2025 年完成重大重寫,成為一個真正嘅 open-source all-in-one RAG 平台。對香港金融機構嚟講,Onyx 最大嘅賣點係數據主權——你可以成個 stack 放喺自己 data centre 或者香港境內嘅私有雲,文件、vector embeddings、模型 inference 全部唔使出境。呢一點喺金管局 SA-2 指引下係極大優勢,尤其係處理 account statements、交易紀錄呢類敏感數據時,合規部門基本上唔會出聲。

但 Onyx 有兩個硬傷。第一,佢預設用嘅 connector 同 auth model 係為北美 SaaS 場景設計嘅,你要喺香港環境用 AD/LDAP 或者銀色認證做 SSO,全部要自己改;第二,Onyx 嘅 production deployment 需要至少三條 independent pipelines——document processing、embedding、inference——每一條都要 monitoring、scaling、backup,對 infra 團隊嘅要求唔低。結論係:如果你有專屬 infra team 而合規要求又好 tight,Onyx 係最安全嘅選擇;但如果得一個 DevOps 兼顧十樣嘢,你要認真計呢筆營運帳。

GPT-RAG:Azure 鎖定,最快落地但綁死合規上限

Microsoft 嘅 GPT-RAG 其實唔係一個 product,而係一個 reference architecture,行喺 Azure AI Search 加 Azure OpenAI Service 之上。對香港嚟講,佢最大嘅力量亦係最大嘅弱點:Azure 嘅香港 region 已經有齊 GPT-4o 同 Phi-4 嘅服務,latency 低,compliance doc 齊,基本上合規部門見到 Microsoft 個名就放心。2025 年 Microsoft 仲推出咗 Azure AI 嘅數據邊界功能,你可以指定所有 data processing 留在香港 region,唔會去美國。

但呢條路嘅 trap 好隱蔽。第一,你一旦用咗 Azure AI Search 做 vector store,再行 Semantic Kernel 做 orchestration,你其實已經綁死喺 Microsoft 嘅生態系統——第日想轉成本更低嘅 infra 或者要遷走去多雲,成本幾乎等於重新寫過個 RAG 系統。第二,Azure OpenAI Service 嘅 content filtering 對金融合規嚟講係兩面刃:一方面佢幫你擋咗敏感內容生成嘅風險,另一方面呢個 filter 係 black box,你冇辦法自訂佢嘅邊界,遇上需要分析 fraud 或者 AML 案例嘅 edge case,model 會莫名奇妙被 block。對於香港啲中小型金融機構嚟講,GPT-RAG 最適合做 MVP——三個月內出到 demo,但 production 前你一定要同 Microsoft 傾清楚 content filter 嘅合規界線,否則 audit 嗰日你先發現某個 use case 行唔到,就太遲。

Lollms:輕量私有,成本極低但只適合特定場景

Lollms(Lord of Large Language Models)係一條完全相反嘅路線:佢行本地 LLM,用 Ollama 或者 llamafile 做 backend,前端係一個輕量 web UI,全部可以放喺一部 Mac Studio 或者 RTX 工作站上面行。對香港嘅 startup 或者 boutique 財富管理公司嚟講,Lollms 嘅誘惑力好大——唔使俾 API 月費,數據完全唔出境,成個 stack 一個 IT 人可以打理。

但 Lollms 嘅限制同樣明顯。2026 年嘅本地模型雖然已經好勁(Llama 4、Qwen 3 嘅 70B 參數版本),但要做到金融場景要求嘅精準度——例如啱啱好引用到某份 PDF 入面嘅特定 clause——你仍然需要一個可靠嘅 RAG layer。Lollms 原身嘅 RAG implementation 比較基本,你要另外駁 LangChain 或者搭建獨立的 vector database。更重要嘅係,香港金管局對 model governance 嘅要求——version control、reproducibility、解釋性——Lollms 嘅開源 workflow 好難滿足 audit trail 嘅要求。所以我嘅建議係:Lollms 適合做內部知識庫、開發者 prototyping、或者非客戶面向嘅輔助工具,但唔建議做 front-office 或者直接影響客戶決策嘅系統。

WebMCP Nexus:2026 嘅新變數

值得一提嘅係 WebMCP Nexus,呢個係 2025 年底冒起嘅新 entry,行 Model Context Protocol 做標準化 tool calling 層,等你可以用同一套 interface 駁唔同嘅 model provider 同 data source。對香港場景嚟講,佢最大嘅價值係 abstraction——你唔使 lock 死喺某一個 model provider,可以因應每個 use case 嘅 compliance requirement 動態切換(例如敏感數據用本地模型,一般查詢用 cloud API)。WebMCP Nexus 目前仲係早期階段,production readiness 未經大型金融機構驗證,但如果你係做緊 2027 年嘅 roadmap planning,呢個值得放入 radar。

點樣揀?一個簡單嘅決策框架

如果你嘅團隊得三個人而金管局 deadline 喺三個月後,行 GPT-RAG——最快落地、compliance doc 最齊全、出事有人孭。如果你有 infra 團隊而且數據主權係 non-negotiable(例如處理緊客戶資產數據),行 Onyx——前期慢但後期靈活。如果你只係想做內部 productivity tool 或者 PoC,行 Lollms——成本最低、試錯最快。記住:喺香港金融業,AI 部署嘅 bottleneck 永遠唔係模型能力,而係合規架構同營運 capacity。揀一個同你嘅組織成熟度匹配嘅路線,好過揀一個技術上好靚但你 carry 唔到嘅方案。