黃志光：生成式AI技術及應用指引是「活指引」 需定期更新

數字辦公室早前公布《生成式人工智能技術及應用指引》，數字政策專員黃志光表示，人工智能AI發展潛能大，既要促進AI科技應用，亦要留意帶來的風險，因此要有相關指引，針對三大持份者，包括技術開發者、應用提供者及用家，關注當中的安全風險及道德倫理，平衡科技創新和應用。

數字政策辦公室數字政策專員黃志光。巴士的報記者攝

黃志光接受港台節目訪問形容，這是一個「活的指引」，需要定期更新，初步認為每年甚或短過一年就要以風險為本進行更新，視乎程度有多高，再建議三大持份者加強相關的關注。

生成式人工智能技術及應用指引

有關指引建議危害及影響市民安全的用途、潛意識操控等屬於「不可接受風險」，建議全面禁止。被問到是否要立法，黃志光認為，香港自由市場容許發展不同科技應用，對於有較高風險的行業，已有專責的法例規管，舉例說，醫療有很的規管框架，如有額外風險，就再加強。

他指出，相關技術發展得太快，如果在模型開發時，提供一些「黑箱數據」，當中可能帶有歧視性，如果用家接受模型提供的內容，就會變成事實的全部。

近期在科技圈爆紅的開源軟體Moltbot（原稱Clawdbot），不再只是回答問題，而是能直接操作電腦、具備長期記憶，24小時為使用者處理任務，宛如一位專屬於你的數碼助理。

宛如「住在」你的電腦內

傳統AI如ChatGPT僅限於文字互動，Moltbot則宛如「住在」你的電腦內，擁有與人類同等級的系統權限。它可連接Anthropic Claude、Google Gemini或OpenAI等大型AI模型作為「大腦」，並且透過你常用的通訊軟件（如Telegram、iMessage等）接收指令，在電腦上開啟瀏覽器、整理文件、發郵件，甚至執行複雜的程式開發工作。

具有三大核心亮點

Moltbot三大核心亮點包括：

一、長期記憶與主動性：系統會自動紀錄對話細節與使用者偏好。例如，若使用者曾提過固定發送電子報，Moltbot會根據過往內容，主動擬定草稿並提醒確認，而非被動等待指令。

二、全方位執行力：它能串接多種辦公軟體（如Notion、行事曆），並能根據網路即時資訊進行研究，將繁瑣的資料蒐集與彙整過程自動化。

三、手機即控制台：透過通訊軟件串接，使用者即便不在電腦前，也能隨時隨地交辦任務，讓家中或辦公室的電腦成為不間斷的工作站。

運行成本包括付費訂閱AI模型

Moltbot的運行成本包括付費訂閱AI模型，以及一台穩定待命的電腦。蘋果Mac Mini被視為絕佳平台，原因在於它安靜且低功耗，方便24小時待命。網上甚至有人一口氣買了12台Mac mini，建立一支「數碼軍團」，讓不同的AI代理分別負責讀財報、寫推文、處理郵件，宛如一個小型自動化公司。

Moltbot則宛如「住在」你的電腦內，擁有與人類同等級的系統權限。Moltbot官網圖

存在三大致命隱憂

英國科技媒體The Register指出Moltbot存在三大致命隱憂：1. 公網曝露：數百個配置不當的實例導致私密對話與憑證在網絡上「裸奔」。2. 供應鏈風險：Moltbot技能庫未經審核，可能被黑客利用惡意插件執行指令。3. 明文儲存：部分敏感資訊未經加密儲存於本地端，易遭盜資軟體攻擊。

Google Cloud資安副總Heather Adkins等專家建議一般使用者不要安裝Moltbot。專家認為，現代作業系統建立的沙盒與權限隔離機制正被AI代理以「功能需求」為由拆解，使其成為系統強大卻脆弱的後門。

儘管Moltbot開發團隊已修復部分配置錯誤，但其安全模型被視為過時且極具風險。對於非技術人員，這工具可能從「生產力神器」轉為資安惡夢。