研究：90%伺服器「裸奔」，泄密風險極高。企業AI部署時需注意。

以大模型為核心嘅人工智慧技術，正成為創新同產業升級嘅關鍵引擎。越來越多香港企業同內地機關、單位開始推進大模型私有化部署，用於辦公、研發同公共服務等領域。
但國安部提醒：技術躍升同時，安全風險亦同步增加。研究發現，近90%私有化部署嘅伺服器處於「裸奔」狀態，部分模型存在明顯漏洞，容易被攻擊。敏感資料洩露、關鍵基礎設施被控、用戶利益受損等問題日益突出。因此，網路安全防護必須與技術發展同步反覆運算。

需加重視的潛在風險

——敏感性資料安全問題。大模型在訓練、推理、使用過程中會涉及海量資料，如使用者在輸入資料時不當存儲和處理，特別是違規在未設防模型中處理涉密資料、個人隱私資料、商業敏感性資料時，存在資料被非法獲取、洩露風險。

——關鍵領域安全問題。人工智慧離不開高科技設備，如這類設備被植入後門程式會讓智慧工廠、金融機構、能源設施等關鍵領域面臨風險。違法犯罪分子如惡意利用大模型部署的安全性漏洞破壞相關系統，將可能導致公共服務中斷、企業經濟損失、安全事故頻發等惡性事件，干擾經濟正常運轉和社會有序運行。

——侵犯用戶利益。普通使用者如未加防護使用大模型服務工具，攻擊者也可以遠端調用介面竊取模型參數、訓練資料、知識庫等核心資產，或刪除、污染私有模型檔，導致模型失效或輸出偏差。同時，攻擊者可通過未授權的介面調用模型推理功能，濫用GPU資源。如處理資料量過大，大模型伺服器就會因算力耗盡導致癱瘓。

大模型安全風險的產生原因

——開源框架存在不足。許多單位為了快速上線服務，直接使用開源框架，預設開啟不設密碼的公網訪問模式，不配置合理的安全防護措施，忽略最基本的防火牆配置。攻擊者未經授權即可自由訪問模型服務、竊取敏感性資料，甚至通過歷史漏洞執行惡意指令，從而導致資料洩露和服務中斷。

——風險意識存在欠缺。部分管理者對AI安全的認知相對滯後，部分群眾認為「安全是專家的事」，不了解部署AI服務需要像保護銀行卡密碼一樣謹慎，在享受AI帶來便利時未考慮背後隱藏的風險。

——安防教育有待加強。一些企事業單位缺乏必要的安全防範教育，導致員工國家安全意識和素養不高，安全防範意識不強，對於大模型缺乏用心管理，安防教育缺乏必要的認識。

——專門法律存在空白。我國近年來已經出台了多部關於人工智慧和網路資料方面的政策法規和指導意見，但隨著人工智慧迅猛發展，應運而生的法律問題尚需進一步完善相關立法。

國家安全機關提示

大模型是推動科技進步的重要力量，但其安全防護須臾不可鬆懈，無論是開發者、企業還是普通用戶，都應提高警惕，共同守護技術紅利不被惡意利用。

——做好安全防護，築牢安全防範屏障。AI企業在開發和應用大模型的過程中需重視自身應承擔的安全責任和義務，可通過加強與安全廠商聯繫合作，以嚴密的安全技術保障和運行監測，強化大模型運行時的安全性、可靠性和穩定性。

——培養安全意識，打造協同防禦生態。單位元、企業在部署大模型前，需要進行全面的風險評估和安全規劃，通過制定安全政策、開展安全培訓等方式，提高全員安全意識。廣大民眾要增強大模型使用的安全意識，注意學習相關安全知識，養成良好使用習慣，選擇從官方管道下載大模型工具，使用時不要隨意連接陌生網路，確保大模型應用安全穩定。