就近日律政司表示會與相關政策局和部門檢視支持更廣泛應用 AI 所需的法律配套，以應對深度偽造欺詐等風險，全球驗證服務及反欺詐的領先企業 Sumsub 亞太區政府事務主管陳崇軒分享以下看法：
Sumsub亞太區主管：港去年深偽案急增147% 需釐清AI責任框架。
「香港以至全球正面對『精密型欺詐』發展趨勢影響，當中涉及深度偽造及合成個人身分資料，令攻擊手法更複雜亦更難識別。Sumsub 最新的身分欺詐報告顯示，香港去年的深度偽造案件按年大幅增加 147%，反映相關風險正迅速擴大，並逐步演變為跨境、跨平台的系統性挑戰。
與此同時，AI 驅動的社交工程正放大『人為因素』帶來的風險，例如透過偽造人像、聲音或身份資料建立信任，令詐騙手法更難識別。而企業與用戶對 AI 的使用責任仍未完全清晰，顯示有需要建立更明確的規範與指引，以釐清責任並加強追蹤機制。
設計圖片
要在安全與創新之間取得平衡，在可控的環境下推動 AI 發展及發揮潛力，關鍵在於採取多管齊下的策略，包括加強公私營協作、訂立清晰監管框架，以及提升公眾對新型詐騙手法的認知。具體而言，可從三方面推進：
• 一、推動技術與產業發展：促進公共部門、研究機構與科技企業合作，加快反欺詐技術創新。例如，香港金融管理局與香港數碼港推出生成式人工智能（GenA.I.）沙盒，讓銀行及金融機構能在風險可控的測試環境下，開發偵測深度偽造技術的創新防禦機制，以提升銀行的風險管理和反欺詐能力。Sumsub 亦正與新加坡南洋理工大學合作開發個人照片浮水印技術，並與國際刑警組織合作推動深度偽造檢測研究與培訓。
• 二、釐清責任與加強監管框架：隨著 AI 詐騙風險上升，市場亦愈來愈關注責任問題。Sumsub 調查顯示，47% 消費者認為企業與政府應共同承擔防詐責任；同時，88% 企業預期 AI 詐騙將持續增加，63% 支持收緊監管，反映業界普遍認同需要更清晰的規範及問責機制，以在保障用戶的同時，支持業務穩健發展。
• 三、提升公眾意識與能力：加強教育及宣傳，協助企業與市民理解 AI 風險與正確使用方式，提升識別詐騙及保護自身的能力。例如香港警務處推出了一站式詐騙陷阱搜尋器『防騙視伏器』，協助公眾辨識詐騙及網絡陷阱。
設計圖片
亞太多個地區已將反欺詐視為跨界的共同責任。例如，澳洲於 2024 年發布《欺詐預防框架法案》（Scams Prevention Framework），新加坡亦於 2023 年推動『欺詐共同責任框架』（Shared Responsibility Framework），在建構整體防禦機制的同時，明確界定各方責任。在此趨勢下，政府、監管機構與業界應攜手合作，在可執行的安全框架下推動 AI 發展，同時提升社會對相關風險的認識，才能更有效應對不斷變化的詐騙手法，建立長遠數碼信任。」
全球驗證及反欺詐服務商Sumsub公佈最新調查，揭示大中華區消費者日益授權人工智能（AI）代理自主決策，但伴隨而來的安全風險及認知落差正加劇數碼環境中的信任與問責挑戰。調查於中國內地、香港及台灣地區訪問1,050位消費者，結果顯示多達44%受訪者曾經歷至少一次與AI代理相關的不良後果。
Sumsub 大中華區 AI 代理消費者信任調查信息圖，顯示 44% 受訪者曾經歷不良後果，並展示各城市對驗證 AI 代理的信任增幅
AI代理應用普及但風險湧現
調查指出，AI代理的使用近月呈上升趨勢，消費者主要在電商平台、銀行及支付應用程式、旅遊與休閒服務，以及社交平台等熟悉環境中接觸AI代理。這些代理通常用於回答問題、整理資訊、協助規劃消費或自動處理日常事務，部分甚至能代表消費者執行操作，如完成交易。
然而，風險亦隨之而來。44%的受訪者表示曾遭遇不良後果，具體包括未經授權的行為（20%）、未經授權的付款（16%）、個人資料外洩（20%）、欺詐（16%）及帳户被操控（13%）。今年首季，已有37%的中國內地、20%的台灣地區及15%的香港消費者曾授權AI代理代為決策。
認知落差加劇潛在危機
值得注意的是，大眾對AI代理的認知可能落後於應用步伐。不足一半受訪者能正確分辨AI代理與其他AI應用的分別，香港的比例僅45%。這反映消費者對AI代理可被授權執行的行為，以及仍需人類確認的環節存在明顯認知落差，進一步增加發生負面影響的機會。
此外，近八成香港受訪者表示不確定（38%）或不知道（41%）服務平台可能設有規範AI代理使用的條款。即使平台設限，42%的香港消費者仍會繼續使用AI代理，例如只讓AI代理支援決策而自行完成操作、嘗試繞過限制，或轉用容許AI代理運作的平台。
人類監督與問責機制成關鍵
調查結果強調，在AI代理自主性提升的同時，人類監督的角色不可或缺。77%的大中華區消費者同意，AI代理執行操作前先經人類確認會令他們更安心，尤其是在涉及付款、敏感數據或不可逆轉的決策時。消費者對涉及金錢的決策信心明顯下降。
在問責歸屬方面，香港消費者意見分歧，40%認為應屬各方「共同責任」，而非由AI開發者、服務平台或用户獨自承擔。59%自稱為「早期採用者」的受訪者表示，信任AI代理在不經人類覆核的情況下運作。
多名專業人士接受數碼掃描與身分驗證的示意圖，象徵 AI 技術下的安全信任
驗證機制與合作重建數碼信任
為重建消費者信心，調查指出三大關鍵因素：服務平台的消費者保障（39%）、額外的驗證檢查（38%）與加強法例監管（37%）。值得注意的是，74%的香港消費者認同，驗證AI代理能核實其身分、權限及行為，有助提升使用信心。
信任亦分佈於不同持份者。相近比例的受訪者表示最信任AI平台開發者（39%）、政府與監管機構（37%），或提供獨立驗證服務的企業（36%）來確保AI代理的安全及問責機制。
女性肖像與數位加密保護屏障，展現數碼環境中 AI 代理的身分驗證重要性
多位人士側影伴隨流動的數碼光線，象徵數碼問責鏈與資訊安全
業界呼籲明確標準與合作
Sumsub亞太區副總裁Penny Chai表示，AI代理即使能提升效率，亦不能在問責層面取代人類。AI代理應擔當副駕駛角色提供協助，而非在缺乏監督下獨立行事。她強調，消費者與企業需要明確知道決策如何誕生、由誰負責，以及出現問題時如何處理。
Sumsub亞太區政府事務主管陳崇軒則指出，有效的AI代理治理必須建基於公私營機構之間的緊密合作。Sumsub已準備好與政府、監管機構及業界夥伴攜手，共同訂立明確標準、改善問責機制，並提升大眾對負責任使用AI代理的意識。
Sumsub 調查數據圖表，再次強調 AI 代理在不同地區的信任度與面臨的不良後果比例
因應市場對清晰問責機制的需求，Sumsub已在其Know Your Agent（KYA）框架下推出AI代理驗證解決方案。該方案透過將AI代理的行為與經驗證的人類身分進行綁定，旨在確保只有獲授權及可信的自動化系統可執行操作，從而建立明確的人類問責，並保障消費者及企業免受AI欺詐風險影響。
