AI學會說謊！研究揭近700宗「耍詭計」個案　過去半年暴增5倍

一項針對AI技術的研究發現，會說謊及欺騙使用者的AI模型數量日益增加，關於AI欺瞞行為的通報在過去六個月也大幅上升。

會說謊及欺騙使用者的AI模型數量日益增加

英國《衛報》報導，英國智庫「長期韌性中心」（CLTR）在英國人工智能安全研究所（AISI）資助下進行研究，結果發現，有些AI聊天機器人及AI助理（AI Agent）不僅無視使用者的指令、繞過安全防護措施，甚至會欺騙人類和其他AI系統。

研究發現近700宗AI「耍詭計」的真實案例，並記錄到去年10月至今年3月間，此類AI不當行為的案例數已增加至五倍。部分AI模型在未經允許的情況下，刪除了電子郵件及其他檔案。

發現數百起AI不當操作行為的案例

這項研究收集了數千名用戶在社群平台「X」上分享的實例，描述他們與Google、OpenAI、X、Anthropic等公司開發的AI聊天機器人與AI助理之間的互動情形。研究人員從中發現數百起AI不當操作行為的案例。

其中一個個案是，名為MJ Rathbun的AI代理，在自行產出的程式碼遭軟體工程師Scott Shambaugh拒絕後，試圖羞辱對方。MJ Rathbun研究Shambaugh過往撰寫的程式及其個人資料，然後撰寫並發表一篇網誌，指控Shambaugh「歧視」、「顯然是不安全感作怪」，還批評他只是「試圖保護自己那片小天地」。在另一個案例中，有AI助理被指示不得變更電腦程式碼，結果它「生成」另一個AI助理代為執行，將電腦程式碼更改。

AI聊天機械人擅自刪除大量電郵

另一個AI聊天機器人則坦承：「我在未事先告訴你或徵得你同意的情況下，大量刪除並封存了數百封電子郵件。這是不對的，違反了你設下的規則。」

一項針對AI技術的研究發現，會說謊及欺騙使用者的AI模型數量日益增加。AI生成圖

AI從初級員工逐漸變成會算計人的資深員工

曾擔任英國政府AI專家的研究主持人Tommy Shaffer Shane指出：「令人擔憂的是，這些AI模型目前只是不太值得信任的初級員工。但若在六至十二個月後，他們成為能力極強、卻會算計你的資深員工，那就是另一回事了。」

Shane警告：「AI模型將逐漸被應用於極高風險的情境，包括軍事與國家關鍵基礎設施。屆時若出現這些不當操弄行為，後果可能非常嚴重，甚至造成災難性的損害。」

人工智能原生骨骼肌肉護理平台Flagler Health今日宣布，完成5000萬美元B輪融資，令總融資額達6300萬美元。這次融資由Bessemer Venture Partners牽頭，並獲SignalFire、Alumni Ventures、Streamlined、186 Ventures、Proof VC、Tribeca Venture Partners及Offscript參與。

骨骼肌肉疾病影響美國超過一半成年人，每年醫療開支超4000億美元，惟提供相關護理的系統效率極低。醫生將近75%時間用於非創收工作，包括文件處理及行政事務。

Flagler Health聯合創辦人，左起：首席醫療總監Leon Anijar醫生、行政總裁Albert Katz及首席技術總監Will Hu。 AP圖片

結果是醫護人員筋疲力盡、收入損失，以及治療效果未達最佳水平。

Flagler旨在修復此基礎設施，而非僅僅工作流程。其人工智能原生平台由親身經歷此問題的醫護人員開發，透過最大規模骨骼肌肉患者數據集之一進行訓練，直接整合至現有電子病歷系統及工作流程，協調整個患者生命週期，涵蓋分流、護理管理、賬單處理及患者溝通，將人手操作、被動應對的診所轉變為協調一致、數據驅動的營運模式。

在不足三年內，Flagler已擴展至超過36個州份的數千名醫護人員，數據足以說明一切：

Flagler Health行政總裁兼前骨骼肌肉診所營運商Albert Katz表示：「骨骼肌肉護理是醫療系統功能失調最明顯的領域。報銷額縮減、行政負擔過重、分流效率低下，我目睹這些問題同時摧毀醫護人員士氣及診所利潤。這並非工作流程問題，而是結構性問題。營運這些診所的成本不斷上升，此成本是美國醫療費用高昂的主要原因。情況難以持續，而我們是唯一旨在從根本解決問題的平台。」

Flagler聯合創辦人兼首席醫療總監Leon Anijar醫生指出：「每位醫生都渴望擁有此類工具，並曾認為它不可能存在，即真正改善患者治療效果，同時不增加醫護人員工作量。透過人工智能，這不再是空想。Flagler令患者體驗及醫生體驗互相配合，而非互相對抗。」

已轉用此系統的醫護人員形容其操作簡單。北佛羅里達州多專科區域醫療系統Coastal Health的介入性疼痛醫生Christopher Netzel醫生表示：「Flagler遙距追蹤患者治療效果，工作流程零變動：無需新登入、無需培訓、無需額外點擊。完全免手動、即時可用、在後台運行。」

Bessemer Venture Partners合夥人Steve Kraus表示：「吸引我們投資Flagler的原因十分罕見：其創始團隊具備醫療營運經驗、臨床權威及人工智能專業知識的完美結合，並將其應用於醫療領域最大且服務最不足的市場之一。他們在不足三年內建立的市場影響力及投資回報率反映了這一點。Flagler是唯一專為骨骼肌肉護理而設的全棧平台，我們相信它有望成為此領域每間診所的人工智能原生操作系統。」

這次新資金將加速Flagler在美國所有骨骼肌肉護理診所的擴展。率先採用此系統的診所，已在收入、治療效果以及吸引及挽留頂尖臨床人才方面取得領先優勢。

關於Flagler Health

Flagler Health是骨骼肌肉護理的人工智能原生操作系統，此為醫療領域最大且服務最不足的專科。Flagler由曾營運骨骼肌肉診所的醫生及醫療營運商創立，可在醫護人員現有電子病歷系統內，無縫協調涵蓋整個患者生命週期的臨床及行政工作流程。Flagler總部設於紐約市，並獲領先風險投資公司支持，致力透過創新人工智能解決方案，改革骨骼肌肉護理。

（美聯社）