HKGAI黃紅英博士：AI安全從管控轉主動預測　「港話通」用戶破63萬實踐「看得見、存得下、算得清」

香港科技大學首席內地事務官、香港生成式人工智能研發中心(HKGAI)首席運營官、香港科技大學人工智能媒體博士後研究員黃紅英博士星期二(20日)應邀出席由香港特區政府數字辦公室舉辦的「網絡安全論壇」。面對生成式 AI(Generative AI)帶來的安全變局，黃紅英博士在會上分享了 HKGAI 的研發實踐經驗。她強調，AI 安全需實現從管控到主動預測的跨越，AI 安全需要透過嚴謹的工程化手段，讓AI 行為做到「看得見、存得下、算得清」。

「港話通」（HKChat）已登陸「智方便」平台。資料圖片

黃紅英博士首先介紹了由HKGAI 研發的本地 AI 助手「港話通」的發展情況。她指出，「港話通」自去年 11 月 20 日正式上線以來，短短兩個月內，註冊用戶已突破 63 萬。面對大量用戶每日提出的本地化問題——從「哪裏的叉燒包最好吃?」到「如何由科大前往政府總部出席會議?」，黃博士坦言這是「壓力與動力並存」。她指出，用戶需要的不是通用的標準答案，而是比一般搜尋引擎更聰明、更實時且具備香港語境的精準回應。針對公眾關注的 AI 安全議題，黃博士希望將風險控制在「可看見、可接受」的範圍內。

生成式 AI與傳統軟件差異決定安全防護升級必然性

黃紅英博士指出生成式 AI 與傳統軟件的本質差異:「傳統軟件是按固定規則執行，但生成式 AI 是基於數據和上下文生成內容，所以風險不僅是系統本身，而是貫穿數據、由輸入到輸出的全過程。」

「當前不少 AI 安全建設仍停留在『堵漏洞』階段，但隨著技術在公共服務、法律諮詢等領域的深度應用，被動防禦已無法匹配業務需求，主動預測才是破解安全難題的關鍵。」

圖一:黃紅英博士(中)20日應邀出席由香港特區政府數字辦公室舉辦的「網絡安全論壇」。

築牢基礎能力:主動預測的核心前提

談及HKGAI 的實踐經驗，黃紅英博士強調，實現主動預測的前提是築牢基礎能力。「很多時候 AI 安全風險難以預警，並非算法不足，而是系統『看不清、算不清』。」HKGAI 在產品研發中，首先補齊日誌、調用鏈、輸入輸出全流程數據沉澱，確保模型行為可追溯、可監測;同時通過自研評測框架形成可分析、可復盤的安全數據體系，為主動預測提供數據支撐。

針對生成式 AI面臨的數據風險、語言誘導、幻覺問題，黃紅英博士介紹了 HKGAI 的分層防控策略:

• 在數據源頭構建本地可追溯知識庫，如「港法通」的嚴格回答是基於香港官方法條與判例，同時會強制引用來源;

• 在系統層加入輸入約束、提示詞審核與安全重寫機制，抵禦越獄誘導;

• 通過 RAG、Agent 搜索及輸出校驗機制，約束模型行為，降低幻覺風險。

港話通

三大重點佈局推動「主動預測」落地

展望未來6至12個月，黃紅英博士認為推動網絡安全從「被動防禦」走向「主動預測」的最大障礙是在於未打好基礎建設。「如果日誌不統一、連模型一次異常輸出是怎麼來的都搞不清楚，根本不可能做到提前預警。」她建議業界應優先處理三大範疇:

1. 補齊可觀測性:完善日誌與調用鏈，確保模型行為從頭到尾都有跡可循。

2. 數據驅動評估:解決數據零碎問題，將評估從「人盯人」升級為數據驅動、可量化的體系。

3. 培養複合型團隊:建立「懂模型、懂數據且懂安全」的團隊，將安全考量前置於設計階段。

呼籲用戶共創:反饋機制助模型迭代

黃紅英博士特別提到「修復機制」，呼籲市民在使用「港話通」時，若發現資訊滯後或錯誤，可以即時作出反饋。她表示，來自真實用戶的指正是優化模型最寶貴的養分，HKGAI 亦期待與全港市民共同改進這款屬於香港的本土大模型。

她表示，生成式 AI 的創新應用與安全防護是辯證統一的關係。HKGAI將持續以「看得見、存得下、算得清」為原則，培養「懂模型、懂數據、懂安全」的複合型人才，持續探索主動預測式 AI 安全體系，為香港 AI 產業高質量發展築牢安全屏障，助力 AI 技術在更多領域安全落地。

香港生成式人工智能研發中心（HKGAI）旗下AI智能助理「港話通」，宣佈與京東集團旗下的本地連鎖零售商「京東佳寶超市」正式達成戰略合作。雙方將圍繞用户增長、服務升級及技術融合三大維度展開深度合作，共同推動AI與零售場景的深度融合。

在香港科技大學首席副校長、HKGAI主任郭毅可教授（左一）及京東集團副總裁、首席經濟學家沈建光博士（右一）共同見證下，「港話通」與「京東佳寶超市」代表正式簽訂合作協議。

港產AI與零售巨頭強強聯手

是次合作標誌著本地AI技術與實體零售的深度結合。「港話通」作為香港本地研發的AI聊天機械人，目前擁有超過72萬註冊用户，憑藉其「兩文三語」特色與深厚的本地知識庫，已成為市民廣泛使用的智能助手。另一方面，「京東佳寶超市」紮根香港零售市場近30年，背靠京東集團的超級供應鏈，並已初步建立起線上線下融合的「新零售」佈局。雙方期望透過資源互補，構建「AI+零售」的新型合作生態。

三大核心合作內容

根據合作協議，雙方將重點推進以下三大核心領域：

首先，在用户雙向賦能方面，雙方將憑藉各自的用户基礎與渠道優勢，互相推動新用户增長，實現客羣精準互補，從而擴大市場覆蓋範圍。

其次，雙方將全面打通積分體系，實現「港話通」與「京東佳寶超市」積分系統的雙向互換。此舉旨在讓雙方用户能享受更多消費福利與便捷權益，從而提升顧客忠誠度。

第三，在技術場景融合上，「港話通」將輸出成熟的智能對話技術，全面升級「京東佳寶超市」的AI對話購物功能。未來用户可透過自然語言交互，完成商品查詢、落單及諮詢等操作，以大幅提升購物效率與體驗。

京東集團副總裁、首席經濟學家沈建光博士（右）、京東佳寶業務負責人林曉毅先生（左）與香港科技大學首席副校長、HKGAI主任郭毅可教授（中） 一同握手合影。

助力香港零售數碼轉型

是次合作被視為「港話通」推動科研成果市場化、拓展AI應用場景的重要一步，同時也是「京東佳寶超市」加速數碼化升級、提升服務競爭力的關鍵佈局。雙方負責人均表示，未來將持續深化合作，不斷拓展合作邊界，優化整體服務體驗，推動AI與零售業的深度融合，以期為香港數碼經濟發展注入新動能。