AI學會說謊！研究揭近700宗「耍詭計」個案　過去半年暴增5倍

一項針對AI技術的研究發現，會說謊及欺騙使用者的AI模型數量日益增加，關於AI欺瞞行為的通報在過去六個月也大幅上升。

會說謊及欺騙使用者的AI模型數量日益增加

英國《衛報》報導，英國智庫「長期韌性中心」（CLTR）在英國人工智能安全研究所（AISI）資助下進行研究，結果發現，有些AI聊天機器人及AI助理（AI Agent）不僅無視使用者的指令、繞過安全防護措施，甚至會欺騙人類和其他AI系統。

研究發現近700宗AI「耍詭計」的真實案例，並記錄到去年10月至今年3月間，此類AI不當行為的案例數已增加至五倍。部分AI模型在未經允許的情況下，刪除了電子郵件及其他檔案。

發現數百起AI不當操作行為的案例

這項研究收集了數千名用戶在社群平台「X」上分享的實例，描述他們與Google、OpenAI、X、Anthropic等公司開發的AI聊天機器人與AI助理之間的互動情形。研究人員從中發現數百起AI不當操作行為的案例。

其中一個個案是，名為MJ Rathbun的AI代理，在自行產出的程式碼遭軟體工程師Scott Shambaugh拒絕後，試圖羞辱對方。MJ Rathbun研究Shambaugh過往撰寫的程式及其個人資料，然後撰寫並發表一篇網誌，指控Shambaugh「歧視」、「顯然是不安全感作怪」，還批評他只是「試圖保護自己那片小天地」。在另一個案例中，有AI助理被指示不得變更電腦程式碼，結果它「生成」另一個AI助理代為執行，將電腦程式碼更改。

AI聊天機械人擅自刪除大量電郵

另一個AI聊天機器人則坦承：「我在未事先告訴你或徵得你同意的情況下，大量刪除並封存了數百封電子郵件。這是不對的，違反了你設下的規則。」

一項針對AI技術的研究發現，會說謊及欺騙使用者的AI模型數量日益增加。AI生成圖

AI從初級員工逐漸變成會算計人的資深員工

曾擔任英國政府AI專家的研究主持人Tommy Shaffer Shane指出：「令人擔憂的是，這些AI模型目前只是不太值得信任的初級員工。但若在六至十二個月後，他們成為能力極強、卻會算計你的資深員工，那就是另一回事了。」

Shane警告：「AI模型將逐漸被應用於極高風險的情境，包括軍事與國家關鍵基礎設施。屆時若出現這些不當操弄行為，後果可能非常嚴重，甚至造成災難性的損害。」

Fresha作為頂級人工智能（AI）驅動的美容及健康預約平台，正經歷顯著的企業增長。越來越多擁有多地點及大型團隊的業務，選擇Fresha來管理及擴展其營運。眾多知名品牌，包括Menspire（Menspire）、Ted’s Grooming Room（Ted’s Grooming Room）、Gould Barbers（Gould Barbers）、Masaj（Masaj）、Adams Barbers（Adams Barbers）及The Art of Nails（The Art of Nails）等，均是日益壯大的企業級個人護理業務群體之一，他們正採用Fresha以擴展其在不斷增加地點的預約、支付、市場曝光率及營運表現。在多個服務垂直領域，從髮型及理髮到健康、水療、美容及健身，企業及特許經營連鎖店均利用Fresha，在其不斷擴大的地點網絡中營運。

隨著中小型企業（SMBs）發展成為區域及全國性品牌，對單一解決方案及可擴展基礎設施的需求日益殷切。現代美容業務涉及數十個營運層面，包括支付、薪資、庫存、市場推廣、網上預約及數據分析等。過去，這些功能通常透過分散的軟件系統管理。Fresha將這些關鍵工作流程整合到一個智能平台，為不斷發展的服務品牌降低營運複雜性。從嵌入式支付及銷售點（POS）系統，到員工排班、市場推廣自動化及網上預約，Fresha的統一基礎設施取代了傳統上營運多地點美容業務所需的多個系統。其企業生態系統超越標準預約功能，嵌入了全面整合的支付處理、先進的應用程式介面（API）功能、多地點特許經營的自動支付路由，以及AI驅動的自動化功能。

Fresha AP圖片

Ted’s Grooming Room財務總監Niyazi Oztoprak（Niyazi Oztoprak）指出：「將一個高端美容品牌擴展到多個地點，需要能夠應對營運複雜性的技術。Fresha提供的基礎設施，讓我們能夠在一個地方管理整個業務的預約、支付及表現。該平台提供的可視性及效率，對我們持續增長，同時保持客戶期望的高服務標準，起到了關鍵作用。」

Gould Barbers創辦人Darran Gould（Darran Gould）表示：「在使用Fresha之前，我們不斷應付各種互不相連的平台，以管理我們不同的地點。我們有一個預約系統，一個獨立的支付終端，以及另一個完全不同的員工管理工具。Fresha統一了我們所有的技術堆棧，為我們提供了所需的集中控制及報告功能，讓我們能夠真正專注於品牌發展，而不是與軟件搏鬥。Fresha是我們用過最好的平台。」

Masaj創辦人兼營運總監Alice Vaughan（Alice Vaughan）坦言：「營運多間Masaj工作室，可能意味著要應付經常互不相通的分散軟件。在一個生態系統下營運我們的排程、市場推廣及支付處理等元素，有助減輕行政負擔，並讓我們在業務增長時能順利擴展。我們期待看到Fresha在產品路線圖上還有甚麼計劃，以幫助像Masaj這樣的品牌發光發亮！」

在Fresha市場上數十萬間業務中，數千間是擁有兩個或以上地點的蓬勃發展的多地點業務。單就此細分市場而言，商品交易總額（GMV）錄得32%的按年增長，顯著超越業務數量擴張的速度。每月預約量攀升至數千萬宗，按年增長23.4%，而每間業務的平均GMV則上升17.7%。來自大型業務細分市場的平台收入按年增長67%，顯示市場對一站式解決方案有明確需求。

增長勢頭持續擴展至規模更大、以團隊為基礎及跨國營運商。擁有多個地點的業務錄得25.2%的按年增長。此細分市場為Fresha帶來數十億美元的GMV，按年增長25.6%，同時錄得數億宗預約。這項活動推動平台收入按年增長61%。綜合而言，多地點營運商現時為Fresha帶來數十億美元的年度GMV。值得注意的是，多地點細分市場的GMV增長速度快於基本業務增長，顯示現有營運商的強勁擴張，以及新企業的採用。

Fresha行政總裁William Zeqiri（William Zeqiri）表示：「大型營運商正從分散的軟件系統轉向統一系統，這些系統能處理從AI驅動的發現到複雜支付的一切事務。產生數十億美元的GMV，這個里程碑證實Fresha不再僅僅是一個預約工具；它是下一代全球美容品牌的營運引擎。」

在市場的高端，許多營運十個或以上地點的業務現已依賴Fresha，這強化了其對大型連鎖店日益增長的滲透。單是為擁有六名或以上員工的業務每月處理數億美元的GMV，該基礎設施正成為複雜多地點服務品牌的營運支柱。這些企業解決方案，透過AI整合得到增強，正減少行政負擔，同時提高收入可視性及績效控制。智能排程優化、自動化市場推廣工作流程及先進的報告工具，讓營運商能夠更精確及一致地管理分散的團隊。

這次企業加速增長，反映了美容及健康行業內更廣泛的結構性轉變。隨著品牌地域擴張，預約工具、支付處理器及報告系統的分散組合，會產生限制增長的低效率。在單一可擴展環境中結合需求產生、金融科技及營運管理的統一系統，正變得不可或缺。透過將市場發現及業務管理嵌入一個整合生態系統，該平台使企業合作夥伴能夠從內部營運效率及外部客戶獲取中受益。

關於Fresha

Fresha是一個為美容、健康及個人護理專業人士而設的全球一站式預約、支付及業務管理平台。該平台讓髮廊、理髮店、水療中心、醫學美容中心、診所及健身室能夠透過整合市場及先進的AI驅動自動化，管理預約、處理支付、吸引新客戶及增加收入。Fresha獲全球逾14萬間業務信賴，正透過智能技術、可擴展基礎設施及行業領先的創新，重新定義服務型商業的未來。Fresha旨在支援各個階段的業務，從獨立專業人士及自營工作室，到多地點企業及全球特許經營店。它是美容及健康行業中最受信任及最先進的預約及業務管理平台。

（美聯社）