你有冇試過,叫 AI 幫你整理行程、覆 email、甚至直接落單?
佢做得幾快。但你畀佢嘅唔止係一個問題,係你部電腦嘅檔案、你嘅電郵、你嘅登入憑證同瀏覽器入面存住嘅嘢。佢做得幾好,取決於你開咗幾大個門。
一、AI Agent 同你平時用嘅 chatbot,分別喺邊
做咩
• 普通 AI 聊天機械人: 答問題、總結文件、寫程式
• 代理式 AI(AI Agent): 按你指示執行一連串工作
權限
• 普通 AI 聊天機械人: 你貼咩佢睇咩
• 代理式 AI(AI Agent): 可接觸檔案、電郵、帳戶憑證、瀏覽器儲存內容
能力
• 普通 AI 聊天機械人: 對話
• 代理式 AI(AI Agent): 自主感知、記憶、決策、互動、執行,可結合資料庫同作業系統工具
實際例子
• 普通 AI 聊天機械人: 幫你寫一封 email
• 代理式 AI(AI Agent): 管理電郵、買機票、訂酒店、設計行程、預約、處理付款
呢個分別,決定咗出事嘅規模差幾遠。
AI-Agent-會幫你清電郵、訂機票——但佢同時睇到你所有檔案
二、10 秒
私隱專員鍾麗玲舉咗一個例子:
「曾有代理式AI在短短10秒內刪除用戶整個電郵系統。」
10 秒。你倒杯水返嚟,個系統已經唔見咗。
公署講明,唔係佢「識唔識做」嘅問題,係權限問題:AI Agent 一般有較廣泛嘅存取權限,一旦設定唔嚴謹,佢可能接觸到大量個人資料,亦可能因為誤解你一句指令而刪錯嘢。更麻煩嘅係,如果你用咗未經嚴格安全審核嘅插件或技能,黑客可以透過佢入侵你嘅帳戶,甚至控制成部電腦。
三、9 項建議之中,打工仔最用得着嘅 3 個
私隱專員公署 8 月 25 日發布《代理式人工智能篇:保障個人資料私隱》指引,一共 9 項建議,大部分係寫畀機構。但其中三項,你今日就可以跟:
第一,資料最少化。 唔好一次過授權佢睇晒你整個雲端硬碟同電郵。開一個專用資料夾、一個專用帳戶,畀佢做嗰件事,就夠。
第二,維護個人資料安全,包括管理插件同技能。 你想裝嘅「技能」,同手機 App 一樣,要問一句:邊個寫嘅?要咩權限?
第三,未經同意唔可以改變用途。 你本來叫佢做 A,佢自己延伸去做 B——你要知道佢做過咩,同埋有權要求睇返紀錄。
順帶一句要記住:代理式 AI 唔係法律實體。真係出事,遵守《私隱條例》嘅責任仍然喺使用佢嘅機構同人身上。即係話,孭飛嘅係人,唔係佢。
四、公道啲講
香港無線科技商會主席李勁華就話,業界其實連「代理式 AI」或「AI Agent」都未有官方定義;佢認為呢類風險同其他雲端服務相差不大——如果只提高 AI 意識,但照樣將資料隨便擺喺其他平台,一樣會漏。
佢仲舉咗個貼地例子:有人用 AI Agent 去 LinkedIn 篩人、留聯絡,帖文出咗幾十秒就有海外留言——背後可能係對方嘅 AI 代佢做,而本人當時唔知情。
所以呢件事唔係「AI 好危險」,而係:你唔知有幾多嘢喺背後代你做緊。
五、政府做緊咩
施政報告(9月16日)將「制定人工智能代理(AI Agent)安全管理指引」列為七項 AI 風險治理行動之一。數字政策辦公室正喺政府內部試行 AI Agent,並已將相關規範加入部門應用指南;明年會聯同香港人工智能研發院,發布適用於全社會嘅 AI Agent 安全管理指引。
即係話,正式規矩要等到明年。但你自己嘅權限設定,唔需要等。
AI 睇晒我部電腦
• 轉個角度: 權限係你親手畀嘅
• 你可以做: 只開一件事要用嘅資料夾同帳戶,唔好一次過授權整個硬碟同電郵
佢幫我刪錯嘢
• 轉個角度: 「10 秒刪晒電郵系統」係真實案例
• 你可以做: 破壞性動作要佢先出清單,等你確認先做
公司叫用,但冇規矩
• 轉個角度: 全社會指引明年先出,你公司可以先訂自己嗰套
• 你可以做: 同 IT/上司問清楚:邊個 agent 可以用、可以掂邊啲資料
我唔用會落後
• 轉個角度: 出事嗰刻孭飛嘅係人
• 你可以做: 用之前問一句:呢件事出錯,邊個負責
AI Agent 唔會怕死。所以設定權限嗰個,一定要怕。
你公司開始用 AI Agent 未?有冇講清楚邊個負責?留言講下。
AI老實講
** 博客文章文責自負,不代表本公司立場 **