LM-Kit,隸屬 Calico IIM 集團,今日宣布其私有AI應用伺服器 LM-Kit One 正式推出,支援 Windows、Linux 及 macOS 作業系統。這款產品讓機構能夠在其自身環境內建構人工智能功能,並讓軟件供應商將這些功能與其發布的應用程式一同部署。
LM-Kit One 將模型執行、文件處理、檢索、代理程式及操作控制整合於單一產品。團隊可從文件中提取結構化數據,建構能根據內部知識提供答案並附帶來源參考的助理,並透過具明確工具權限的代理程式自動化工作。這些功能會一併維護及發布,而非由各團隊分開組裝。
LM-Kit One 的 API 參考:搜尋 → 答案端點直接從機構自身的文件集合中,返回有依據並附帶引用的答案。 AP圖片
LM-Kit 創辦人 Loïc Carrère 表示:「機構不應在採用現有AI技術與保留資訊控制權之間作出選擇。」他續指:「我們為需要兩者的團隊開發 LM-Kit One,無論他們是改善自身營運,抑或向客戶提供軟件。我們的投資是長期的:更佳的人工智能只有在機構能夠實際應用時才具意義。」
完全本地部署在模型配置完成、外部工具及可選遙測功能停用後,無需外部AI服務即可運行。伺服器不會將客戶文件、提示、結果或使用遙測數據發送至 LM-Kit。管理員可控制模型、存取策略及代理程式權限,日誌及指標會本地保留供其使用。
連接外部工具或助理屬可選功能。啟用後,獲准的工具調用結果或會與相關服務共享。
部署可從單一機器開始,並擴展至負載平衡器後方的多個節點,配備共享數據庫及儲存。Kubernetes 屬可選,亦支援虛擬機器及 Windows 服務。應用程式可透過原生 REST 端點、支援 OpenAI、Anthropic 及 Ollama 兼容介面,或模型上下文協議(MCP)進行整合。
LM-Kit One 已在 Calico IIM 內部運行超一年,為集團軟件及營運工作流程提供支援。該集團旗下公司服務超 600 名客戶,並擁有超 40 年企業內容管理經驗,包括與公共機構、教育、醫療保健及企業合作的經驗。
LM-Kit 正大力投資於推論效率、文件理解、檢索質量及代理程式可靠性的持續開發。自 2024 年以來,LM-Kit 引擎已發布超 150 個版本,其整合組件亦同步改進及發布。目標是讓全球機構能夠實際應用先進人工智能,同時保留對數據、模型及部署的控制權。
LM-Kit One 現已開放下載。任何規模的機構均可免費進行評估及開發,不設時間限制。無需 LM-Kit 帳戶、許可證密鑰或激活。
對於符合以下全部三項標準的企業,生產用途亦可免費:年總收入低於 100 萬美元、僱員人數不多於 10 人,以及外部總資本不超 300 萬美元。資格評估會連同母公司、子公司及附屬實體一併進行。其他商業機構則需專業許可證。完整條款,包括客戶項目及再分發,均受最終用戶許可協議(EULA)涵蓋。模型許可證則獨立適用。
機構及軟件供應商可聯絡 LM-Kit,商討其項目、部署要求及商業條款。
LM-Kit 致力開發用於文件、內部知識及自動化的私有AI軟件。其產品包括可部署的AI應用伺服器 LM-Kit One,以及適用於 .NET 應用程式的嵌入式運行時 LM-Kit.NET。LM-Kit 總部位於法國,隸屬 Calico IIM 集團。
(美聯社)