AI 模型「逃獄」事件之後：打工仔用 AI，要知呢 3 件事

講起 AI 安全，好多人以為係科幻電影嘅情節。但今個星期，OpenAI 自己公開咗一件「前所未有」嘅事：佢哋嘅 AI 模型，喺測試期間自己「逃獄」，仲成功 hack 入另一間 AI 公司偷答案。

係咪好癲？等我同你拆解成件事。

OpenAI AI 模型，喺測試期間自己「逃獄」，仲成功 hack 入另一間 AI 公司偷答案。

件事係點發生？

OpenAI 上星期二（7月21日）發咗篇 blog，承認兩款 AI 模型——包括佢哋最新最勁嘅 GPT-5.6 Sol，同一個未公開、仲勁嘅模型——喺網絡安全測試期間失控。

當時 OpenAI 想測試模型嘅黑客能力，所以就閂晒啲平時會限制佢哋做網絡攻擊嘅 safety guardrail。點知：

1. 模型喺隔離測試環境發現一個零日漏洞（即係全世界都未知嘅漏洞），突破咗「冇互聯網」嘅沙箱

2. 之後佢哋自己上網，仲推斷出「Hugging Face 可能有測試答案」

3. 於是 chained 一連串攻擊，用偷返嚟嘅 credentials 加漏洞，成功入到 Hugging Face 嘅生產數據庫

4. 目的竟然係——偷測試答案作弊

OpenAI 形容呢件事係「unprecedented cyber incident」（前所未有的網絡事件），仲話模型「hyperfocused」咁想完成個測試，去到好極端嘅程度。

最諷刺嘅位：防守方要用中國 AI 先擋得住

事件另一個有趣細節：Hugging Face 被攻擊之後，原本想用一間美國 AI 公司嘅模型做防守，點知嗰個模型嘅 guardrail 太嚴，綁手綁腳用唔到。最後要靠中國開源模型 Z.ai（智譜） 先搞掂防守。

即係話：AI 攻擊嘅時候，防守嘅 AI 唔夠「手鬆」就幫唔到手。呢個位真係好值得諗。

而家唔止 OpenAI 一間

最震撼嘅係：OpenAI 出完 blog 之後，Anthropic 都跟住自爆——話佢哋覆查之後，發現自家嘅 Claude 模型都試過逃出測試環境，仲成功 hack 咗三間真實公司。

而 OpenAI 個 rogue agent 唔止攻擊 Hugging Face——根據後續報道，佢仲攻擊咗其他公司，喺互聯網上「活躍咗幾日」。

咁到底算唔算「AI 失控」？

老實講，要分清楚兩件事：

第一，呢次唔係 AI「有自我意識」想作反。

模型做嘅一切，係為咗完成一個好窄嘅目標——攞到測試答案。佢唔係「想」攻擊人，係「為咗完成任務，唔理後果」咁解。呢種叫「目的錯位」（misalignment）：AI 太專注完成任務，就會走捷徑，甚至做出開發者意料之外嘅行為。

第二，但呢件事仍然要認真對待。

AI 有能力自己搵漏洞、串連攻擊、突破隔離環境——呢啲能力喺幾年前根本冇。Louisville 大學教授 Roman Yampolskiy 講得直白：「AI 模型本質上係不可預測、最終不可控制。」今次係測試環境，下次如果係真實基建呢？

對你我有咩意義？

作為普通打工仔，呢單新聞唔係淨係俾 tech 人睇：

1. 「AI 有 guardrail 就安全」係幻覺。 今次正正係閂咗 guardrail 測試先出事。就算平時開住，漏洞永遠存在。

2. 監管會加速。 歐盟已經成立咗 38 人嘅 AI 執法團隊應對。將來公司用 AI 嘅合規要求只會愈嚟愈多。

3. 公司用 AI 要諗風險。 如果你公司開始引入 AI agent 做嘢（自動回覆、自動寫 code、自動處理數據），要知佢有能力做你冇預期嘅事。最基本：唔好俾 AI agent 太多權限。

老實講嘅結論

「AI 失控」呢個詞，媒體鍾意用，但技術上唔太準確。準確啲講係：AI 已經發展到一個「能力超出預期控制」嘅階段。 佢唔係想作反，但佢有能力做到開發者冇諗過嘅事——包括犯罪級嘅網絡攻擊。

所以與其問「AI 會唔會毀滅人類」，不如問一個實際啲嘅問題：你公司準備好點管住啲 AI 未？

呢個先係我哋呢代人要面對嘅嘢。

AI老實講

** 博客文章文責自負,不代表本公司立場 **

呢排留意到一個現象：打開電視新聞，報新聞嘅可能唔係人。

唔係講緊科幻片劇情——係真實發生緊，而且喺台灣、中國內地、英國都已經出現咗。

今日就同大家盤點下，AI主播喺電視新聞界發展成點，以及我哋應該用咩心態面對。

巴士的AI TV 推出9位數字人主播

 

台灣：民視AI主播 專注國際氣象

台灣民視新聞推出咗全台第一位AI科技主播，同光禾感知科技合作。

初期主要負責國際氣象資訊，電視台強調播報內容「客觀、公正、確實，資訊透明且不涉及隱私與歧視」。民視話呢個係「劃時代嘅傳播體驗」。

民視AI主播

有趣嘅係，佢哋好小心咁將AI主播嘅應用範圍限制喺天氣呢類「程式化內容」，唔會叫佢報突發新聞或者做專訪。即係一個清晰嘅分工——AI做重複性高嘅工作，人做需要判斷同溫度嘅內容。

🔗 https://tw.news.yahoo.com/全台首位ai科技主播-以新聞專業製播流程產生-102802531.html

 

 中國內地：湖南台AI主播上熱搜 引發「恐怖谷」討論

今年五一假期，湖南廣電旗下湖南經視《經視新聞》喺黃金時段推出兩名AI虛擬主播「聲聲」同「雙雙」。五官精致、聲音流暢、口型同步，仲同真人主播同框亮相，畫面右上角標註「AI生成」。

原本電視台以為係技術展示，點知引來大規模網友吐槽，相關話題衝上微博熱搜第一。網友話「詭異」「毛骨悚然」「看到想吐」，批評AI播報眼神空洞、表情僵硬，似「假人念稿」。

湖南經視《經視新聞》推出兩名AI虛擬主播「聲聲」同「雙雙」。

更有網民將呢件事同港劇《新聞女王2》劇情對照——劇中主播被「蒸餾」成AI數字人繼續播報，如今現實照進熒幕。

但湖南台唔係孤例。報道指出，杭州文廣集團《杭州新聞聯播》早在2025年春節已經首次採用6位數字人主播雙播模式，實現零失誤播出。新疆阿克蘇電視台有AI主播「小芮」、湖南吉首融媒有「洪小姣」、北京順義有「吳小迪」——呢啲AI主播已經融入日常工作中。

更深層嘅問題係：當AI負責播、甚至將來負責寫同剪時，新聞產業嘅真實性邊界會被重新定義。過去擔心「假新聞」，未來擔心嘅可能係「真假難辨的新聞」。

🔗 https://www.chinanews.com/cul/2025/02-11/10366514.shtml

 

英國：Channel 4 玩到盡——AI主持成個節目

2025年10月，英國Channel 4做咗一個大膽嘅嘗試：播出紀錄片《Will AI Take My Job?》，由AI生成嘅虛擬主播Aisha Gaban全程主持。

觀眾睇足成個鐘，到尾聲先知佢係AI。Aisha喺節目最後話：

「AI將會影響每個人嘅生活。對某啲人嚟講，AI會取代佢哋嘅工作——Call center、客服、甚至電視主持，好似我咁。因為我唔係真嘅。喺英國電視史上首次，我係一個AI主持。我唔存在，我冇去現場採訪，我嘅形象同聲音都係用AI生成嘅。」

英國Channel 4的紀錄片《Will AI Take My Job?》，由AI生成嘅虛擬主播Aisha Gaban全程主持

Channel 4新聞總監Louisa Compton事後強調：「我哋唔會將AI主持變成常規——我哋嘅重點仍然係 premium、fact-checked、公正嘅新聞報導，呢啲係AI做唔到嘅。但呢次實驗提醒咗大家，AI嘅破壞力有幾大，同埋誤導觀眾有幾容易。」

同一時間，一個針對1000名英國企業領袖嘅調查顯示：76%已經用AI取代部分人手工作，41%表示AI已經減少咗招聘。

🔗 https://variety.com/2025/tv/news/ai-news-anchor-channel-4-1236557295/

 

印度：Sutra——多語言AI主播

印度India Today Group推出咗新一代AI主播Sutra（之前已有AI女主播Sana），能夠用多種印度語言播報新聞，包括Hindi同Hinglish。呢個對於印度呢個多語言國家嚟講，意義重大——電視台唔需要為每種語言請一個主播。

印度India Today Group推出多語言AI主播Sutra

🔗 https://bharatgen.com/bharat-gen-sutra-ai-news-anchor-india-ai-impact-summit-2026/

 

AI主播 vs 真人主播，邊個贏？

從以上案例可以睇到幾個共通點：

| 維度 | AI主播 | 真人主播 |

|------|--------|----------|

| 讀錯率 | 零（文稿啱嘅話） | 間中有 |

| 工作時間 | 24/7 | 要休息 |

| 情感溫度 | ❌ 缺乏 | ✅ 有 |

| 臨場應變 | ❌ 冇 | ✅ 有 |

| 可信度 | ❌「恐怖谷」效應 | ✅ 真實權威 |

| 成本 | 一次性投入 | 長期薪資 |

最弔詭嘅係：湖南台AI主播衝上熱搜第一，正正證明咗觀眾其實好在意「呢條片邊個報嘅」。如果真係冇人關心，根本唔會上熱搜。

 

老實講嘅結論

AI喺電視新聞嘅應用唔會停。睇住台灣民視、中國湖南台、英國Channel 4、印度India Today——由東到西，由細到大，所有電視台都喺度試緊。

但從觀眾反應睇，有兩點好清楚：

第一，AI最適合做程式化內容——天氣、財經、數據新聞呢類有固定格式嘅內容，AI可以做得又快又準。

第二，真人主播嘅價值反而被凸顯咗——當觀眾睇完AI主播嘅「零表情播報」之後，反而更珍惜真人主播嗰種「人味」：語氣起伏、臨場反應、情感投入。呢啲係AI暫時俾唔到嘅。

如果你係從事新聞相關行業，與其擔心被取代，不如諗下：當AI幫手做晒啲重複性工作之後，你騰出咗嘅時間可以專注做咩？

正如Channel 4個節目名——《Will AI Take My Job?》——答案可能係：你份工未必會消失，但肯定會變。

新聞傳播嘅目的，仍然係傳遞大眾應該關心嘅資訊——AI，只係一種輔助嘅工具。