Sumsub 調查顯示大中華區消費者日益使用 AI 代理代為決策 逾四成曾經歷不良後果

全球驗證及反欺詐服務商Sumsub公佈最新調查，揭示大中華區消費者日益授權人工智能（AI）代理自主決策，但伴隨而來的安全風險及認知落差正加劇數碼環境中的信任與問責挑戰。調查於中國內地、香港及台灣地區訪問1,050位消費者，結果顯示多達44%受訪者曾經歷至少一次與AI代理相關的不良後果。

Sumsub 大中華區 AI 代理消費者信任調查信息圖，顯示 44% 受訪者曾經歷不良後果，並展示各城市對驗證 AI 代理的信任增幅

AI代理應用普及但風險湧現

調查指出，AI代理的使用近月呈上升趨勢，消費者主要在電商平台、銀行及支付應用程式、旅遊與休閒服務，以及社交平台等熟悉環境中接觸AI代理。這些代理通常用於回答問題、整理資訊、協助規劃消費或自動處理日常事務，部分甚至能代表消費者執行操作，如完成交易。

然而，風險亦隨之而來。44%的受訪者表示曾遭遇不良後果，具體包括未經授權的行為（20%）、未經授權的付款（16%）、個人資料外洩（20%）、欺詐（16%）及帳户被操控（13%）。今年首季，已有37%的中國內地、20%的台灣地區及15%的香港消費者曾授權AI代理代為決策。

認知落差加劇潛在危機

值得注意的是，大眾對AI代理的認知可能落後於應用步伐。不足一半受訪者能正確分辨AI代理與其他AI應用的分別，香港的比例僅45%。這反映消費者對AI代理可被授權執行的行為，以及仍需人類確認的環節存在明顯認知落差，進一步增加發生負面影響的機會。

此外，近八成香港受訪者表示不確定（38%）或不知道（41%）服務平台可能設有規範AI代理使用的條款。即使平台設限，42%的香港消費者仍會繼續使用AI代理，例如只讓AI代理支援決策而自行完成操作、嘗試繞過限制，或轉用容許AI代理運作的平台。

人類監督與問責機制成關鍵

調查結果強調，在AI代理自主性提升的同時，人類監督的角色不可或缺。77%的大中華區消費者同意，AI代理執行操作前先經人類確認會令他們更安心，尤其是在涉及付款、敏感數據或不可逆轉的決策時。消費者對涉及金錢的決策信心明顯下降。

在問責歸屬方面，香港消費者意見分歧，40%認為應屬各方「共同責任」，而非由AI開發者、服務平台或用户獨自承擔。59%自稱為「早期採用者」的受訪者表示，信任AI代理在不經人類覆核的情況下運作。

多名專業人士接受數碼掃描與身分驗證的示意圖，象徵 AI 技術下的安全信任

驗證機制與合作重建數碼信任

為重建消費者信心，調查指出三大關鍵因素：服務平台的消費者保障（39%）、額外的驗證檢查（38%）與加強法例監管（37%）。值得注意的是，74%的香港消費者認同，驗證AI代理能核實其身分、權限及行為，有助提升使用信心。

信任亦分佈於不同持份者。相近比例的受訪者表示最信任AI平台開發者（39%）、政府與監管機構（37%），或提供獨立驗證服務的企業（36%）來確保AI代理的安全及問責機制。

女性肖像與數位加密保護屏障，展現數碼環境中 AI 代理的身分驗證重要性

多位人士側影伴隨流動的數碼光線，象徵數碼問責鏈與資訊安全

業界呼籲明確標準與合作

Sumsub亞太區副總裁Penny Chai表示，AI代理即使能提升效率，亦不能在問責層面取代人類。AI代理應擔當副駕駛角色提供協助，而非在缺乏監督下獨立行事。她強調，消費者與企業需要明確知道決策如何誕生、由誰負責，以及出現問題時如何處理。

Sumsub亞太區政府事務主管陳崇軒則指出，有效的AI代理治理必須建基於公私營機構之間的緊密合作。Sumsub已準備好與政府、監管機構及業界夥伴攜手，共同訂立明確標準、改善問責機制，並提升大眾對負責任使用AI代理的意識。

Sumsub 調查數據圖表，再次強調 AI 代理在不同地區的信任度與面臨的不良後果比例

因應市場對清晰問責機制的需求，Sumsub已在其Know Your Agent（KYA）框架下推出AI代理驗證解決方案。該方案透過將AI代理的行為與經驗證的人類身分進行綁定，旨在確保只有獲授權及可信的自動化系統可執行操作，從而建立明確的人類問責，並保障消費者及企業免受AI欺詐風險影響。

衍生集團（06893）今日（5月20日）正式公布人事變動，前新城廣播行政總裁馬浚偉即日起出任集團副主席、執行董事及聯席行政總裁，與現任董事會代理主席關麗雯共同領導公司。

馬浚偉出任衍生集團副主席、執行董事及聯席行政總裁。

辭任新城後火速履新

馬浚偉於本月11日突然以個人理由辭去新城廣播行政總裁職務，並於今日履新衍生集團。他將與關麗雯共同擔任公司聯席行政總裁，負責監督集團的整體管理及策略規劃。

54歲的馬浚偉於2023年底加入新城廣播擔任首席營運總監，並於去年6月獲晉升為行政總裁。在此之前，他曾擔任電視廣播藝員訓練班校長及香港電台創作總監。

馬浚偉（資料圖片）

年薪252萬簽3年約

根據公告，馬浚偉已與衍生集團訂立為期3年的服務協議。他有權就其獲委任為公司執行董事、董事會副主席及聯席行政總裁收取每年252萬元的薪酬，並可能獲發酌情花紅。

董事會相信，馬浚偉在企業管理及多渠道營運方面的背景將支持集團的業務活動，其營運經驗將為管理團隊提供有用指導，以提高營運效率並支持集團的發展策略。

關麗雯調任聯席CEO

同時，董事會宣布，自周三（21日）起，現任董事會代理主席、行政總裁兼執行董事關麗雯將調任為公司聯席行政總裁，其擔任董事會代理主席及執行董事的職位維持不變。

馬浚偉：期待開展中醫藥新篇章

馬浚偉本人表示，衷心感謝新城廣播的諒解並接受其請辭，同時感激過去兩年半在新城廣播共事過的每一位同事及商業夥伴。展望未來，他對衍生集團的業務發展充滿信心，期待與集團上下同仁攜手，在中醫藥產業板塊上共同開展另一個更大、更強、造福更多家庭及社會的新篇章。

資料顯示，馬浚偉持續進修，於今年3月取得香港教育大學教學碩士學位，並於2023年5月取得英國伯明翰城市大學工商管理學士學位，此前於2020年8月完成北京大學光華管理學院的高級管理人員工商管理課程。

馬浚偉IG圖片