AI 摘要
- 法律科技新創 Harvey 改用 Kimi K3 等開放權重架構扭轉負毛利局面。
- 多家矽谷新創為降低 API 成本紛紛轉向客製化自建模型。
- 投資人示警自建模型需考量高額研發投入與專業人才門檻。
為了解決企業規模擴張伴隨而來的模型調用成本黑洞，美國法律科技新創 Harvey 在面對旗下 AI 代理服務毛利率重挫至 -50% 的危機後，果斷採用由中國月之暗面（Moonshot AI）推出的開放權重模型 Kimi K3 作為核心架構，搭配自研分流路由系統，成功讓營運毛利在數月內轉虧為盈，揭開矽谷軟體新創擺脫單一巨頭 API 綁定的轉型序幕。
營運成本失控促成架構轉移：Harvey 導入 Kimi K3 止血
獲得紅杉資本注資的法律科技新創 Harvey，在今年 3 月針對 AI 代理推出重大更新後，雖然迅速帶動企業客戶使用量呈爆發式成長，但財務結構卻承受劇烈衝擊。由於底層深度依賴專利商業模型的調用，每次法律檢索均需自掏腰包支付巨額費用，導致公司毛利率在短短三個月內從原本健康的 50% 暴跌至 6 月的 -50%。
為扭轉「越成長越虧損」的困境，Harvey 於 8 月正式推出客製化模型方案，並轉向採用開放權重模型 Kimi K3。業內人士指出，Kimi K3 在複雜推論與長文理解層面已逼近 Anthropic 等旗艦商業模型水準，但運算與授權成本顯著降低。結合內部的智慧路由調用架構，這項調整讓 Harvey 順利將毛利率拉回正值，證明開放權重架構在垂直商業應用上的可行性。
專用封閉模型與開放權重架構效益對比
當企業級應用的用戶體量持續擴大，純粹依賴單一巨頭 API 的商業模式正面臨嚴苛檢驗。以下為新創企業採用專利封閉模型與改採開放權重客製架構的具體差異：
| 評估維度 | 專有封閉模型 API（如 OpenAI、Anthropic） | 客製化開放權重模型（如 Kimi K3、自建架構） |
|---|---|---|
| 授權與調用成本 | 按每次調用計費，高頻使用下成本呈線性暴增 | 開源或開放權重授權，大幅降低重複調用費用 |
| 毛利率波動性 | 規模擴張時容易侵蝕利潤，甚至面臨負毛利風險 | 可透過本地部署與流程分流，穩定維持獲利空間 |
| 技術自主性 | 依賴服務商介面與政策更新，主控權受限 | 掌握技術主控權，可針對垂直情境深度最佳化 |
| 前期研發門檻 | 即插即用，前期資本與人力投入需求極低 | 需投入高昂微調預算並依賴頂尖機器學習人才 |
矽谷軟體新創集體轉向客製化與開放生態
Harvey 轉向開放體系的案例並非單一現象。包括醫療科技新創 Abridge 正透過 NVIDIA 的開放模型微調臨床醫療情境專用系統；AI 客服平台 Decagon 旗下亦有 80% 查詢量交由自建模型處理。此外，金融科技新創 Ramp、Rogo，以及程式輔助工具 Cursor 與 Cognition，均積極導入客製化模型以取得更佳的性價比優勢。
創投機構如紅杉資本（Sequoia Capital）與 General Catalyst 亦開始積極鼓勵被投資企業佈局開放架構，除了降低單一供應商的漲價風險，更能確保在模型監管政策動盪之際維持營運自主權。
自建模型潛在挑戰：人才與固定成本考量
儘管開放權重與自建模型具備成本優勢，投資界亦指出潛在風險。Menlo Ventures 合夥人馬特・克拉寧（Matt Kraning）分析，訓練與微調客製化模型需要龐大的前期資本支出，且需具備高薪的機器學習專家團隊。若企業缺乏足夠的技術實力盲目跟進，自建研發的固定成本反而可能在規模化效益顯現前成為財務重擔，新創仍需在模型效能、前期投資與長遠營收間取得謹慎平衡。
Reference Link : techbang.com
