Sumsub 調查顯示大中華區消費者日益使用 AI 代理代為決策 逾四成曾經歷不良後果

全球驗證及反欺詐服務商Sumsub公佈最新調查，揭示大中華區消費者日益授權人工智能（AI）代理自主決策，但伴隨而來的安全風險及認知落差正加劇數碼環境中的信任與問責挑戰。調查於中國內地、香港及台灣地區訪問1,050位消費者，結果顯示多達44%受訪者曾經歷至少一次與AI代理相關的不良後果。

Sumsub 大中華區 AI 代理消費者信任調查信息圖，顯示 44% 受訪者曾經歷不良後果，並展示各城市對驗證 AI 代理的信任增幅

AI代理應用普及但風險湧現

調查指出，AI代理的使用近月呈上升趨勢，消費者主要在電商平台、銀行及支付應用程式、旅遊與休閒服務，以及社交平台等熟悉環境中接觸AI代理。這些代理通常用於回答問題、整理資訊、協助規劃消費或自動處理日常事務，部分甚至能代表消費者執行操作，如完成交易。

然而，風險亦隨之而來。44%的受訪者表示曾遭遇不良後果，具體包括未經授權的行為（20%）、未經授權的付款（16%）、個人資料外洩（20%）、欺詐（16%）及帳户被操控（13%）。今年首季，已有37%的中國內地、20%的台灣地區及15%的香港消費者曾授權AI代理代為決策。

認知落差加劇潛在危機

值得注意的是，大眾對AI代理的認知可能落後於應用步伐。不足一半受訪者能正確分辨AI代理與其他AI應用的分別，香港的比例僅45%。這反映消費者對AI代理可被授權執行的行為，以及仍需人類確認的環節存在明顯認知落差，進一步增加發生負面影響的機會。

此外，近八成香港受訪者表示不確定（38%）或不知道（41%）服務平台可能設有規範AI代理使用的條款。即使平台設限，42%的香港消費者仍會繼續使用AI代理，例如只讓AI代理支援決策而自行完成操作、嘗試繞過限制，或轉用容許AI代理運作的平台。

人類監督與問責機制成關鍵

調查結果強調，在AI代理自主性提升的同時，人類監督的角色不可或缺。77%的大中華區消費者同意，AI代理執行操作前先經人類確認會令他們更安心，尤其是在涉及付款、敏感數據或不可逆轉的決策時。消費者對涉及金錢的決策信心明顯下降。

在問責歸屬方面，香港消費者意見分歧，40%認為應屬各方「共同責任」，而非由AI開發者、服務平台或用户獨自承擔。59%自稱為「早期採用者」的受訪者表示，信任AI代理在不經人類覆核的情況下運作。

多名專業人士接受數碼掃描與身分驗證的示意圖，象徵 AI 技術下的安全信任

驗證機制與合作重建數碼信任

為重建消費者信心，調查指出三大關鍵因素：服務平台的消費者保障（39%）、額外的驗證檢查（38%）與加強法例監管（37%）。值得注意的是，74%的香港消費者認同，驗證AI代理能核實其身分、權限及行為，有助提升使用信心。

信任亦分佈於不同持份者。相近比例的受訪者表示最信任AI平台開發者（39%）、政府與監管機構（37%），或提供獨立驗證服務的企業（36%）來確保AI代理的安全及問責機制。

女性肖像與數位加密保護屏障，展現數碼環境中 AI 代理的身分驗證重要性

多位人士側影伴隨流動的數碼光線，象徵數碼問責鏈與資訊安全

業界呼籲明確標準與合作

Sumsub亞太區副總裁Penny Chai表示，AI代理即使能提升效率，亦不能在問責層面取代人類。AI代理應擔當副駕駛角色提供協助，而非在缺乏監督下獨立行事。她強調，消費者與企業需要明確知道決策如何誕生、由誰負責，以及出現問題時如何處理。

Sumsub亞太區政府事務主管陳崇軒則指出，有效的AI代理治理必須建基於公私營機構之間的緊密合作。Sumsub已準備好與政府、監管機構及業界夥伴攜手，共同訂立明確標準、改善問責機制，並提升大眾對負責任使用AI代理的意識。

Sumsub 調查數據圖表，再次強調 AI 代理在不同地區的信任度與面臨的不良後果比例

因應市場對清晰問責機制的需求，Sumsub已在其Know Your Agent（KYA）框架下推出AI代理驗證解決方案。該方案透過將AI代理的行為與經驗證的人類身分進行綁定，旨在確保只有獲授權及可信的自動化系統可執行操作，從而建立明確的人類問責，並保障消費者及企業免受AI欺詐風險影響。

颱風紅霞早前吹襲香港，漁農自然護理署經初步調查後發現，部分養魚區的魚排及漁船受到不同程度的影響。漁護署宣布，將根據既定準則發放緊急救援基金，為受影響的合資格養魚戶及漁民提供援助。

受影響的養魚戶及捕撈漁民可由明日（7月28日）起，向漁護署提交緊急救援基金申請。其中，養魚戶的申請截止日期為8月5日；捕撈漁民的申請截止日期則為9月7日。

合資格的受影響養魚戶可前往以下地點遞交申請：漁護署漁業牌照事務組辦事處（九龍長沙灣道303號長沙灣政府合署8樓）、香港仔漁業辦事處（香港仔石排灣道100號A）、大埔漁業辦事處（新界大埔三門仔漁安街3號）或西貢漁業辦事處（新界西貢親民街34號西貢政府合署5樓）。

至於受影響的捕撈漁民，則可前往漁業支援服務科辦事處（九龍長沙灣道303號長沙灣政府合署8樓）辦理申請。此外，養魚戶及捕撈漁民亦可透過網上渠道提交申請，網址為 https://bit.ly/46KCHU2。

如有任何查詢，受影響人士可於辦公時間致電2150 7109（養魚戶）或3426 2010（捕撈漁民）。