HKGAI黃紅英博士：AI安全從管控轉主動預測　「港話通」用戶破63萬實踐「看得見、存得下、算得清」

香港科技大學首席內地事務官、香港生成式人工智能研發中心(HKGAI)首席運營官、香港科技大學人工智能媒體博士後研究員黃紅英博士星期二(20日)應邀出席由香港特區政府數字辦公室舉辦的「網絡安全論壇」。面對生成式 AI(Generative AI)帶來的安全變局，黃紅英博士在會上分享了 HKGAI 的研發實踐經驗。她強調，AI 安全需實現從管控到主動預測的跨越，AI 安全需要透過嚴謹的工程化手段，讓AI 行為做到「看得見、存得下、算得清」。

「港話通」（HKChat）已登陸「智方便」平台。資料圖片

黃紅英博士首先介紹了由HKGAI 研發的本地 AI 助手「港話通」的發展情況。她指出，「港話通」自去年 11 月 20 日正式上線以來，短短兩個月內，註冊用戶已突破 63 萬。面對大量用戶每日提出的本地化問題——從「哪裏的叉燒包最好吃?」到「如何由科大前往政府總部出席會議?」，黃博士坦言這是「壓力與動力並存」。她指出，用戶需要的不是通用的標準答案，而是比一般搜尋引擎更聰明、更實時且具備香港語境的精準回應。針對公眾關注的 AI 安全議題，黃博士希望將風險控制在「可看見、可接受」的範圍內。

生成式 AI與傳統軟件差異決定安全防護升級必然性

黃紅英博士指出生成式 AI 與傳統軟件的本質差異:「傳統軟件是按固定規則執行，但生成式 AI 是基於數據和上下文生成內容，所以風險不僅是系統本身，而是貫穿數據、由輸入到輸出的全過程。」

「當前不少 AI 安全建設仍停留在『堵漏洞』階段，但隨著技術在公共服務、法律諮詢等領域的深度應用，被動防禦已無法匹配業務需求，主動預測才是破解安全難題的關鍵。」

圖一:黃紅英博士(中)20日應邀出席由香港特區政府數字辦公室舉辦的「網絡安全論壇」。

築牢基礎能力:主動預測的核心前提

談及HKGAI 的實踐經驗，黃紅英博士強調，實現主動預測的前提是築牢基礎能力。「很多時候 AI 安全風險難以預警，並非算法不足，而是系統『看不清、算不清』。」HKGAI 在產品研發中，首先補齊日誌、調用鏈、輸入輸出全流程數據沉澱，確保模型行為可追溯、可監測;同時通過自研評測框架形成可分析、可復盤的安全數據體系，為主動預測提供數據支撐。

針對生成式 AI面臨的數據風險、語言誘導、幻覺問題，黃紅英博士介紹了 HKGAI 的分層防控策略:

• 在數據源頭構建本地可追溯知識庫，如「港法通」的嚴格回答是基於香港官方法條與判例，同時會強制引用來源;

• 在系統層加入輸入約束、提示詞審核與安全重寫機制，抵禦越獄誘導;

• 通過 RAG、Agent 搜索及輸出校驗機制，約束模型行為，降低幻覺風險。

港話通

三大重點佈局推動「主動預測」落地

展望未來6至12個月，黃紅英博士認為推動網絡安全從「被動防禦」走向「主動預測」的最大障礙是在於未打好基礎建設。「如果日誌不統一、連模型一次異常輸出是怎麼來的都搞不清楚，根本不可能做到提前預警。」她建議業界應優先處理三大範疇:

1. 補齊可觀測性:完善日誌與調用鏈，確保模型行為從頭到尾都有跡可循。

2. 數據驅動評估:解決數據零碎問題，將評估從「人盯人」升級為數據驅動、可量化的體系。

3. 培養複合型團隊:建立「懂模型、懂數據且懂安全」的團隊，將安全考量前置於設計階段。

呼籲用戶共創:反饋機制助模型迭代

黃紅英博士特別提到「修復機制」，呼籲市民在使用「港話通」時，若發現資訊滯後或錯誤，可以即時作出反饋。她表示，來自真實用戶的指正是優化模型最寶貴的養分，HKGAI 亦期待與全港市民共同改進這款屬於香港的本土大模型。

她表示，生成式 AI 的創新應用與安全防護是辯證統一的關係。HKGAI將持續以「看得見、存得下、算得清」為原則，培養「懂模型、懂數據、懂安全」的複合型人才，持續探索主動預測式 AI 安全體系，為香港 AI 產業高質量發展築牢安全屏障，助力 AI 技術在更多領域安全落地。

由香港特區政府「AIR@InnoHK」創新香港研發平台資助成立、香港科技大學主導的香港生成式人工智能研發中心（HKGAI），展示專為本港家庭研發的旗艦級 AI 應用「港校通」，這個貫穿選校、申請與執行的平台，將引領本地教育科技正式邁向「超級智能體（Agentic）」時代 。

香港生成式人工智能研發中心（HKGAI）於「學與教博覽 2026」展示最新研發AI 應用。

「港校通」是基於本港自主研發的 HKGAI V3 大模型開發的垂直應用。它並非市面上一般只會單輪問答的聊天機械人（Chatbot），而是一套由多個智能體協同的 AI 選校系統。系統將複雜的選校建議及學校對比任務，交由「深度研究」與「深度對比」智能體並行處理；而地圖通勤、資料核查及截止日期提醒等穩定任務，則由「可審計的確定性模塊」執行。系統在技術架構上嚴防 AI 幻覺，確保資訊的確定性與安全邊界。

AI 選校及申請支援平台「港校通」旨在協助家長整合零散升學資訊，推進子女升學申請。

過去，本地家長為子女升學問題四處張羅，往往需要在各大網上論壇及群組翻查資訊。「港校通」則以四大核心優勢，把零散資訊整合為一條清晰的升學之路：

香港科技大學首席內地事務官、香港生成式人工智能研發中心首席運營官黃紅英（左二）與中心職員在場推廣「港校通」新功能。

• 搵得到（覆蓋廣）：全面覆蓋香港 18 區逾 2,100 所中小學與幼稚園資料，並深度結合政府空間數據共享平台（CSDI）數據。

• 信得過（可信高）：重要資訊力求標註來源與更新時間，並將資訊按可靠度分級呈現，清晰區分官方資料、聚合數據與社區經驗，讓家長掌握可核驗的決策依據。

• 比得清（對比深）：圍繞家庭的獨特偏好與上下文，提供直觀的「深度分析四層結構」（基礎事實、差異解讀、畫像適配及下一步行動）。

• 推得動（執行強）：主動協助家長整理資料缺失、申請狀態及進度，將繁瑣流程轉化為清晰的待辦清單，避免家長漏看資料或錯過黃金申請期。

「港校通」的定位不止於提供選校建議，更致力推進升學申請。HKGAI 強調，中心在開發教育軟件時，一直緊扣「AI 提議、人類裁決、證據留港」的核心原則。在協助家長整理申請文件跟進進度的過程中，系統於所有關鍵節點均須經家長親自確認，絕不會擅自代辦或越權決定。

香港生成式人工智能研發中心首席產品戰略官陳迪源（右二）與中心職員在場推廣「港校通」新功能。

「學與教博覽 2026」於 6 月 25 日至 27 日一連三天在香港會議展覽中心 Hall 3B-E 舉行，市民可親臨 B35 展位，現場體驗「港校通」及 HKGAI V3 系列超級智能體的最新科研落地成果。