Supermicro 攜手 IBM 及 NVIDIA 推出 KV Cache 解決方案，展現顯著推論效能優勢

• 這套 KV（鍵值）cache 解決方案整合 Supermicro Petascale 儲存伺服器、IBM Storage Scale 軟件、NVIDIA Dynamo 推論軟件及 NVIDIA Spectrum-X 乙太網絡交換器
• 效能測試顯示，相較未使用 KV cache 的系統，這套解決方案可縮短長上下文視窗下的首個詞元生成時間（TTFT）
• 客戶可透過提升 GPU 使用率、吞吐量及基建擴展能力，大幅改善推論效率

加州聖荷西2026年11月5日 /美通社/ -- Supermicro, Inc.（納斯達克股票代碼：SMCI）今日宣佈，攜手 IBM 及 NVIDIA 推出全新的 KV cache 儲存解決方案。Supermicro 是一家涵蓋 AI、企業級運算、儲存及 5G/邊緣領域的整體 IT 解決方案供應商，提供 Data Center Building Block Solutions®（DCBBS）。這套聯合解決方案整合了採用 AMD EPYC 9005 系列處理器（「Turin」）的 Supermicro Petascale 全快閃儲存伺服器、IBM Storage Scale 軟件，以及 NVIDIA Dynamo 推論框架軟件和 Spectrum-X 乙太網絡。

這些技術相結合，可大幅縮短 AI 模型開始生成回應所需的時間。隨著企業採用代理式及長上下文 AI 工作流程，這項優勢尤其重要。利用本地 GPU 記憶體以外的儲存空間擴展 KV cache 容量，可提升 GPU 使用率及推論吞吐量，同時支援 KV cache 內容的高可用性，並在不中斷服務的情況下擴展 KV cache 容量。由此構建的推論架構更易擴展、更具韌性，帶來更快捷、回應更靈敏的 AI 體驗。

Supermicro 總裁兼行政總裁 Charles Liang 表示：「隨著 AI 工作負載由訓練延伸至推論，企業及新型雲端服務供應商在部署代理式 AI，以及長上下文、多輪互動生成式 AI 所需的高吞吐量推論工作負載時，需要消除瓶頸，提升 GPU 效率。我們與 IBM 及 NVIDIA 聯合推出的解決方案，清楚展示了這些效能優勢。」

如欲觀看本新聞稿的影片摘要，請按此。

推論工作負載分為兩個階段：預填充及解碼。在預填充階段，輸入文字會轉換為詞元（token），再由大型語言模型（LLM）處理，生成推論所需的中間鍵值（KV）狀態。透過將這些已計算的 KV 狀態儲存於持久化 KV cache，系統可重用這些狀態，毋須為後續請求重新計算相同的上下文。代理式工作流程、編程助手、長上下文檢索增強生成（RAG）、多模態 AI 及多輪互動應用，在處理大型程式碼庫、文件、對話、圖像及其他上下文時，可能產生大量 KV 狀態，迅速超出 GPU 及 CPU 的記憶體容量，因此需要將 KV cache 轉存至大容量共用網絡儲存空間。

Supermicro、IBM 及 NVIDIA 的 KV cache 解決方案提供了這個持久化儲存層，有助提升推論效率、吞吐量及擴展能力，同時減少重複運算。

這套 KV cache 解決方案為客戶帶來的主要優勢包括：

• 聯合方案驗證：Supermicro、IBM 及 NVIDIA 進行了廣泛的叢集層面測試，以評估效能，測試涵蓋高併發，以及其他工作負載造成網絡流量干擾的情境。
• 顯著提升推論速度及效能一致性：Supermicro 與 NVIDIA 使用一個擁有 1,200 億個參數的大型語言模型進行聯合測試。結果顯示，當提示輸入長度為 130,000 個詞元時，持久化 KV cache 使首個詞元生成時間（TTFT）比未使用 cache 時快達 56 倍。^[1] 當輸入長度由 30,000 個詞元增加至 130,000 個詞元時，使用 KV cache 的系統，其 TTFT 僅增加 0.377 秒，未使用 cache 的系統則增加 29.55 秒，讓長上下文工作負載的效能更為一致。
• 提升 GPU 使用率及吞吐量：透過將經常重用的上下文保存在 GPU 記憶體以外，並維持可供使用的狀態，這套解決方案有助減少 GPU 閒置時間、提升推論吞吐量，並在毋須按相同比例增加 GPU 資源的情況下，支援更高併發量。
• 企業級韌性及可信 AI 營運：持久化、高可用的 KV cache 有助保護已快取的推論狀態，同時支援 GPU 節點及叢集之間的共用存取，提升大規模 AI 服務的韌性及儲存效率。
• 經驗證、可直接部署的 AI 基建：Supermicro、IBM 及 NVIDIA 在高併發及工作負載互相干擾的情境下，聯合驗證了這套整合架構。架構結合 NVIDIA Dynamo、IBM Storage Scale 軟件、Supermicro Petascale 伺服器及 NVIDIA Spectrum-X 網絡。
• 加快部署服務：Supermicro 的廠內機架整合及現場部署服務，可將這套解決方案的部署時間由數星期縮短至數天。

IBM 儲存業務總經理 Sam Werner 表示：「企業需要從根本上改善 AI 推論的擴展方式。IBM、Supermicro 及 NVIDIA 正攜手提供高效能、具韌性的 KV cache 解決方案，協助客戶充分發揮 GPU 投資價值，讓儲存容量獨立於運算資源擴展，並大幅提升基建效率。這次合作是推動企業 AI 推論變得更易擴展、更可靠及更具成本效益的重要一步。」

NVIDIA AI 推論產品主管 Shruti Koparkar 表示：「代理式 AI 及長上下文應用，需要在多個步驟之間有效重用上下文。NVIDIA Dynamo 有助協調分散式推論，讓企業從每個 GPU 獲得更多可用吞吐量。透過將 NVIDIA Dynamo 及 Spectrum-X 乙太網絡，與 Supermicro Petascale 儲存伺服器及 IBM Storage Scale 結合，這套 KV cache 解決方案建立了高效能共用儲存層，可減少重複運算、縮短首個詞元生成時間，並協助客戶擴展具韌性的 AI 推論服務。」

如欲了解更多 Supermicro 及 IBM 解決方案資訊，請按此；如欲閱讀 IBM Redbook《Context without Limits: A High-Performance KV Cache Platform for Large-Scale AI Inference》，請按此。

關於 Super Micro Computer, Inc.
Supermicro（納斯達克股票代碼：SMCI）是全球應用程式最佳化整體 IT 解決方案的領導者。Supermicro 在美國加州聖荷西成立和營運，致力為企業、雲端、AI 及 5G Telco/Edge IT 基礎架構提供率先上市的創新。我們是全方位 IT 解決方案供應商，提供伺服器、AI、儲存、物聯網、交換系統、軟件和支援服務。Supermicro 的主機板、電源和機箱設計專業知識進一步增強我們的發展和生產，並為我們的全球客戶提供從雲端到邊緣的新一代創新。我們的產品均由公司內部（在美國、亞洲和荷蘭）設計和製造，並利用全球營運實現規模、效率和最佳化，從而改善 TCO 和降低對環境的影響（綠色運算）。屢獲殊榮的 Server Building Block Solutions® 產品組合，允許客戶從由我們靈活兼可重複使用的構建塊構建的廣泛系統系列中進行選擇，而為客戶的確切工作負載和應用進行最佳化。這些構建塊支援廣泛外形尺寸、處理器、記憶體、GPU、儲存、網絡、電源和冷卻解決方案（空調、自然風冷或液體冷卻）。

Supermicro、Server Building Block Solutions 和 We Keep IT Green，均為 Super Micro Computer, Inc. 的商標及/或註冊商標。

全部其他品牌、名稱和商標均為其各自擁有者的財產。

¹測試結果詳見 IBM Redbook：https://www.redbooks.ibm.com/docs/MD260021/MD260021.html 

Supermicro 攜手 IBM 及 NVIDIA 推出 KV Cache 解決方案，展現顯著推論效能優勢

** 本新聞稿由 PR Newswire 通過自動發布系统提供，內容由客戶承擔全部責任。**

- 第140屆廣交會上的交流折射出市場擴張、營運資金需求以及穩定幣在跨境貿易中日益重要的作用

香港2026年11月5日 /美通社/ -- 如果在第140屆廣交會的第三期展館裡隨機詢問一位出口商，今年的采購商來自哪裡，得到的答案和五年前已大不相同。除了熟悉的西歐與北美客戶，還有大量來自中東、南亞、北非的采購商，大批量采購鞋履、服裝、汽車零部件以及醫療設備，這類需求已經不再是小眾話題。

一名服裝出口商稱南亞市場訂單持續增長。一名剛完成資質核驗的北非汽車零部件采購商正在下單。一家參展旅游平台沒有要求產品演示，反而咨詢API對接方案。這些都不是孤立個案。它們展現出本屆廣交會相當一部分需求的真實來源，而需求版圖的變化速度，已經超過配套金融基礎設施的建設進度。

真實需求湧現，金融網絡仍在追趕

傳統觀點認為這些市場屬於邊緣市場，原因是服務難度較大。這種看法顛倒了問題本質。難點不在於購買力不足，而在於連通這些貿易通道與供應商的金融底層體系，尚未跟上當前的需求規模。覆蓋這些地區的代理銀行網絡普遍薄弱，本幣兌換穩定性較差，常規電匯往往需要數日才能到賬，手續費也難以提前預估。

正因如此，在今年展位旁的溝通中，采購商越來越少詢問價格，更多聚焦結算方式：是否支持穩定幣通道、能否實現API直連。這並不是貿易展上出現了對加密貨幣的偏好，而是在常規銀行體系難以提供確定性保障的貿易通道裡，各方在尋求穩定可靠的結算方案。

本屆廣交會第三期的重點品類——服裝、鞋履、汽車零部件和醫療設備，大多遵循緊湊的季節性排產計劃，圍繞年末需求組織生產。工廠需要在采購商尾款到賬前，提前投入原材料與人力。當與地理距離遙遠的新采購商之間的款項要經由多家代理銀行流轉、耗時數日才能完成結算，這絕非小小的不便，而是會直接擠壓工廠在旺季可周轉的營運資金。

對這些出口商而言，真正的風險不再僅僅是采購商是否付款，而是款項能否及時到賬，保障生產與發貨按計劃推進。旺季日程沒有緩沖空間，付款延遲等同於現金流危機。

兩個通道，一套系統

PhotonPay光子易搭建的基礎設施正是為了解決這一痛點。其多資產錢包同時支持法幣與穩定幣，企業無需將其作為獨立系統分開管理。本地收款渠道覆蓋二十多種貨幣，方便出口商在采購商所在地就近收款。法幣與穩定幣出入金服務無縫對接，全天候外匯兌換不受銀行營業時間限制，支持以法幣或穩定幣向全球200多個國家和地區付款。

對連通式金融基礎設施的需求，並不局限於企業自主處理跨境交易。旅游平台、跨境ERP服務商及其他科技企業越來越希望將金融服務直接嵌入自身產品與業務流程。依托嵌入式金融能力，PhotonPay光子易可以讓平台接入全球賬戶、支付及發卡服務，無需自行搭建底層金融基礎設施。目前該公司已與超過100家企業與平台伙伴建立合作，將其金融操作系統(Financial OS)拓展到更多商業應用場景。

PhotonPay光子易近期完成了4000萬美元C輪融資，用於加速開發以穩定幣為核心的金融操作系統。本輪資金將用於拓展多資產錢包功能、全球發卡業務、重點市場的本地清算基礎設施，並開發可供AI智能體調用的金融執行層。上述投入將共同強化連接全球流動性與本地金融網絡的基礎設施，為平台後續落地高度自動化的金融工作流程做好准備。

隨著出口商的采購商群體不斷拓展至更廣泛的市場，高效的資金流轉能力將日益成為全球競爭力的重要一環。企業不只是要開發新客戶，更需要靈活的金融基礎設施，支持跨境收款、換匯與資金調配。貿易路線不斷拓展，配套的金融基礎設施必須同步跟上。

關於PhotonPay光子易

PhotonPay光子易於2015年在香港成立，是一家全球化金融科技企業，致力於打造以穩定幣為核心的新一代金融操作系統(Financial OS)。該平台采用優先適配API的架構，整合支持穩定幣與法幣的多資產錢包、全球資金收付、外匯兌換、全球發卡、嵌入式金融以及本地清算基礎設施，打通數字金融與傳統金融通道，形成一體化金融體系。

PhotonPay光子易在全球設有16個辦事處，員工近600人，在美洲、歐洲和亞洲持有34項支付與金融牌照及監管許可，服務覆蓋200多個國家和地區的企業客戶。

詳情請訪問：www.photonpay.com。

免責聲明

本文僅供一般參考，不構成法律、監管、稅務、會計或投資建議，也不屬於任何產品或服務的要約或招攬。PhotonPay光子易的產品與服務的可用范圍、功能特性及監管要求，會因用戶所在地、商業模式以及適用法律法規而存在差異。文中對功能、性能、效率、成本節約、合規支持的描述（包括但不限於「實時」 、「全天候」 、「高效」 、「合規」 解決方案等相關表述）均為願景性或前瞻性描述。受市場環境、技術限制與監管政策變動的影響，實際結果可能有所不同。PhotonPay光子易不對特定結果的實現作出任何明示或暗示的聲明、保證或承諾。

** 本新聞稿由 PR Newswire 通過自動發布系统提供，內容由客戶承擔全部責任。**