TrueFoundry今日宣布,澳洲領先的網上博彩服務供應商Sportsbet有限公司,已選用TrueFoundry作為其企業人工智能閘道。TrueFoundry是一個為受規管代理式人工智能而設的企業人工智能閘道平台。該平台將作為自行託管方案,部署於Sportsbet的AWS基礎設施內,並將成為Sportsbet各工程團隊所有大型語言模型流量、連接MCP的代理工具呼叫及人工智能工作負載的中央控制平台。
這次實施方案初步針對Sportsbet開發人員建立及使用的人工智能代理,旨在滿足人工智能可持續運行的核心要求,包括亞毫秒級開銷的請求治理,以及為在平台上開發的工程師提供精細存取控制。
Sportsbet選用TrueFoundry企業人工智能閘道,以治理並加速其組織內的人工智能應用。 AP圖片
對於一個定價及責任決策均在毫秒內完成的業務而言,延遲不僅是性能指標,更是商業指標。TrueFoundry透過與模型呼叫並行運行驗證防護欄來解決此問題,確保政策執行不會為關鍵路徑增加任何可測量的延遲。
TrueFoundry的人工智能閘道將為Sportsbet提供:
Sportsbet正將TrueFoundry部署於一系列即時應用場景。一個現有、供業務分析師及產品經理透過Jira整合草擬產品需求文件及用戶故事的生產代理,已透過TrueFoundry閘道重新平台化,以獲取使用指標、防護欄及MCP路由工具的可見性。同時,Sportsbet正優先建立一個全新的代理對代理工作流程,即一個日誌到警報的缺陷檢測循環。該平台亦支援透過閘道路由編碼助理流量,以支援Sportsbet更廣泛的工程生產力計劃。
Sportsbet數據及人工智能總經理尼爾·基廷表示:「人工智能正在重塑我們建立產品及客戶體驗的方式,Sportsbet旨在引領而非追隨。最困難的部分從來不是試點,而是將人工智能轉變為大規模運營業務的核心能力。TrueFoundry協助我們更快地從實驗轉向生產,並從第一天起內置受規管實時業務所需的治理及控制,而非後期附加。」
Sportsbet企業人工智能主管托馬斯·培根指出:「人工智能發展迅速,但在博彩業,其他一切亦然。TrueFoundry為我們提供所需的治理及可見性,同時不會拖慢客戶所依賴的系統,並使我們能夠在整個業務中擴展人工智能時,掌控我們的數據及基礎設施。」
TrueFoundry行政總裁尼昆吉表示:「Sportsbet的運營速度及規模,意味著人工智能治理不能事後附加,必須從一開始就內置於請求路徑中。我們正是為此而建立TrueFoundry:協助企業在人工智能方面快速發展,同時不損害安全性、延遲或控制。Sportsbet的部署展示了一個成熟的人工智能閘道計劃應有的面貌:自主基礎設施、精細存取策略,以及對每個模型呼叫及代理工具調用的全面可觀察性。」
(美聯社)