AI學會說謊！研究揭近700宗「耍詭計」個案　過去半年暴增5倍

一項針對AI技術的研究發現，會說謊及欺騙使用者的AI模型數量日益增加，關於AI欺瞞行為的通報在過去六個月也大幅上升。

會說謊及欺騙使用者的AI模型數量日益增加

英國《衛報》報導，英國智庫「長期韌性中心」（CLTR）在英國人工智能安全研究所（AISI）資助下進行研究，結果發現，有些AI聊天機器人及AI助理（AI Agent）不僅無視使用者的指令、繞過安全防護措施，甚至會欺騙人類和其他AI系統。

研究發現近700宗AI「耍詭計」的真實案例，並記錄到去年10月至今年3月間，此類AI不當行為的案例數已增加至五倍。部分AI模型在未經允許的情況下，刪除了電子郵件及其他檔案。

發現數百起AI不當操作行為的案例

這項研究收集了數千名用戶在社群平台「X」上分享的實例，描述他們與Google、OpenAI、X、Anthropic等公司開發的AI聊天機器人與AI助理之間的互動情形。研究人員從中發現數百起AI不當操作行為的案例。

其中一個個案是，名為MJ Rathbun的AI代理，在自行產出的程式碼遭軟體工程師Scott Shambaugh拒絕後，試圖羞辱對方。MJ Rathbun研究Shambaugh過往撰寫的程式及其個人資料，然後撰寫並發表一篇網誌，指控Shambaugh「歧視」、「顯然是不安全感作怪」，還批評他只是「試圖保護自己那片小天地」。在另一個案例中，有AI助理被指示不得變更電腦程式碼，結果它「生成」另一個AI助理代為執行，將電腦程式碼更改。

AI聊天機械人擅自刪除大量電郵

另一個AI聊天機器人則坦承：「我在未事先告訴你或徵得你同意的情況下，大量刪除並封存了數百封電子郵件。這是不對的，違反了你設下的規則。」

一項針對AI技術的研究發現，會說謊及欺騙使用者的AI模型數量日益增加。AI生成圖

AI從初級員工逐漸變成會算計人的資深員工

曾擔任英國政府AI專家的研究主持人Tommy Shaffer Shane指出：「令人擔憂的是，這些AI模型目前只是不太值得信任的初級員工。但若在六至十二個月後，他們成為能力極強、卻會算計你的資深員工，那就是另一回事了。」

Shane警告：「AI模型將逐漸被應用於極高風險的情境，包括軍事與國家關鍵基礎設施。屆時若出現這些不當操弄行為，後果可能非常嚴重，甚至造成災難性的損害。」

聖馬刁（加州）—（商業通訊社）—2026年4月6日—

專為人工智能（AI）時代而設的高效能雲端儲存平台Backblaze公司（納斯達克：BLZE）今日宣布，將為出席全國廣播協會（NAB）展覽的媒體專業人士，舉辦一系列合作夥伴展示活動。這些展示將重點介紹現代媒體工作流程、人工智能（AI）技術的最新發展，以及如何最佳地製作、保護和分發媒體內容。

Backblaze夥拍多間公司於2026年全國廣播協會（NAB）展覽展示聯合解決方案。 AP圖片

Backblaze公司將於北廳N1259號展位舉行這些演示，並邀請所有NAB展覽廳持證人士出席。參與展示的合作夥伴包括：Backlight（Iconik）、Hiscale、Imaginario、Qencode（與Sardius合作）、Suite Studios、Telestream、Tillered及Twelve Labs。

演示時間表（均為太平洋時間）：

2026年4月20日（周一）：

上午11時：Imaginario行政總裁兼聯合創辦人荷西·普加（Jose Puga）主講「從檔案到行動：人工智能（AI）如何將您的影片庫轉化為收入引擎」。

中午12時：Suite Studios首席產品官兼聯合創辦人謝伊·麥斯威爾（Jay Maxwell）主講「Backblaze上的Suite S3原生檔案串流」。

下午1時：Twelve Labs解決方案架構師佐敦·伍茲（Jordan Woods）主講「透過Twelve Labs影片智能釋放檔案價值」。

下午2時：Tillered行政總裁戴維·古德（Davey Goode）及首席商務官史提芬·塞西（Stephen Ceci）主講「Backblaze B2與Tillered加速：任何距離下的全速雲端儲存」。

2026年4月21日（周二）：

上午10時：Telestream產品管理高級總監施巴斯坦·馬內曼（Sebastian Manemann）主講「更快決策：透過Telestream UP.Review和Backblaze B2進行實時審查、品質控制和交付」。

上午11時：Qencode行政總裁兼聯合創辦人穆拉德·莫杜凱（Murad Mordukhay）、Sardius行政總裁兼聯合創辦人積遜·肖爾（Jason Shore）及Sardius聯合創辦人阿里·伯特（Ari Burt）主講「Sardius Media如何透過Backblaze和Qencode建立多供應商媒體與娛樂工作流程」。

中午12時：Hiscale行政總裁基斯托夫·朱庫姆（Christoph Jurkuhm）主講「隱藏層：透過Hiscale和Backblaze協調堆棧中的媒體」。

下午1時：Iconik北美銷售副總裁謝里米·斯特魯特曼（Jeremy Strootman）主講「掌控您的內容：將媒體混亂轉化為營運優勢」。

下午2時：ToolsOnAir首席商務官彼得·史泰納（Peter Steiner）主講「錄製、儲存、播放：Backblaze上的現代廣播工作流程」。

下午3時：Mixpeek行政總裁兼創辦人伊森·施泰寧格（Ethan Steininger）主講「您錯過的可能讓您付出代價：Mixpeek和Backblaze B2上的人工智能（AI）驅動大規模媒體合規性」。

Backblaze行政總裁格萊布·巴德曼（Gleb Budman）指出：「媒體機構面臨日益增長的壓力，需要加快運作速度、管理更多內容，並為人工智能（AI）驅動的工作流程做好準備，同時不增加複雜性。」他續指，透過與合作夥伴緊密合作，公司正讓客戶更容易建立靈活的雲端解決方案，協助他們更高效地製作、保護及分發媒體。

2026年全國廣播協會（NAB）展覽將於4月18日至22日在拉斯維加斯會展中心舉行，活動將重點關注體育創新、人工智能（AI）、串流媒體及雲端工作流程等趨勢。

關於Backblaze

Backblaze公司（納斯達克：BLZE）透過消除鎖定、複雜性和成本的障礙，讓企業能夠自由地無限創新。其高效能雲端物件儲存服務可加速人工智能（AI）工作流程、支援數據密集型應用程式、簡化媒體管理並保護關鍵數據。作為屢獲殊榮的獨立雲端服務供應商，公司提供無與倫比的互操作性，讓全球175個國家逾50萬名客戶能夠接觸並服務數億終端用戶。

（美聯社）