Together AI 融 8 億美元,英偉達入局做 Token 工廠

推理成本戰

2026-07-17 07:08

Together AI 宣佈完成 8 億美元 C 輪融資,投資方名單很長:Aramco Ventures、英偉達、Vista Equity、General Catalyst、Salesforce Ventures、March Capital 等都在列。除了股權,它還拿到了超過 500 兆瓦(MW)的算力承諾,由新投資人獨立出資建設。

這家公司的定位很清晰:做面向開放模型和定製模型的「生產平臺」。創始人反覆強調一個判斷——大模型競爭的下半場,比的不再是模型誰更聰明,而是整個技術棧的成本效率:模型、核心、編譯器、推理系統、訓練基礎設施、硬體利用率,一個都少不了。

開放權重模型是它的最大槓桿。DeepSeek、Nemotron、MiniMax、Kimi、GLM 這些模型,質量上追平了專有前沿模型,又給了開發者定製和微調的自由。採用開放模型的企業,通常能把成本降 6 到 20 倍。Together AI 舉了個例子:客戶 Decagon 切換過來後,推理成本直接降了六倍。

為了把成本真正壓下來,Together AI 做了不少底層活。它釋出了針對英偉達 Blackwell 架構的 FlashAttention-4,推出 Together Megakernel 和 together.compile 做核心級最佳化,還擴充套件了訓練後 API,支援工具呼叫、推理和視覺語言模型。它已經成為全球最大的 AI Token 生成方之一。

英偉達入局這筆融資,意味深長。當算力巨頭親自下注推理最佳化層,說明競爭焦點已從「誰有最多卡」轉向「誰能把每張卡的利用率榨到極致」。Together AI 這類公司,本質上是在幫企業繞開自建叢集的天價投入,按需買 Token。

說白了,當企業把 AI 從演示工具變成核心生產設施,推理算力的消耗會指數級放大。誰能更高效地把 Token 生產出來,誰就握住了這輪 AI 基建裡最穩的那塊生意。對開發者來說,開放模型加專業推理平臺的組合,正在成為對抗閉源高定價的一條現實路徑。那些被大廠 API 賬單壓得喘不過氣的中小團隊,終於有了把成本結構打下來的第二選擇。