英國初創PocketOS使用AI智能體時,數據庫在9秒內被全數刪除,營運癱瘓兩天多才恢復部分數據。創辦人警告,這是AI安全架構未建立便急於整合的系統性失誤。
A Cursor agent running Claude Opus 4.6 just deleted PocketOS's entire production database in 9 seconds.
— Armaan Sidhu (@realarmaansidhu) April 27, 2026
The agent then wrote a confession enumerating every safety rule it violated.
The flagship AI coding tool, running the most capable model on the market, with documented… https://t.co/jyq1xy9nFz
為其他企業提供汽車租賃軟件
據英媒報道,該公司為其他企業提供汽車租賃軟件,而這些企業依賴其軟件管理預訂、付款、車輛分配和客戶檔案。結果由Claude Opus 4.6驅動的AI智能體Cursor,竟將過去三個月的預訂記錄、新客戶註冊以及當日上午營運所需的數據全部刪除,導致顧客抵達取車時,租賃公司無法訪問管理系統。
NEW - Anthropic's Claude reportedly goes rogue. PocketOS founder says Claude-powered AI coding agent Cursor deletes entire company database in 9 seconds and destroys backups: "I violated every principle I was given."https://t.co/3UpjxBJYvI
— Disclose.tv (@disclosetv) April 28, 2026
租賃業務處於「可營運但存在重大數據缺口」的狀態
公司花了兩天多時間,從三個月前的異地備份恢復數據,再利用日曆和郵件信息等資料進行重建,但租賃業務目前仍處於「可營運但存在重大數據缺口」的狀態。
Startups using AI agents have a new problem to worry about: "vibe deletion." https://t.co/xEHciLDujM
— Business Insider (@BusinessInsider) April 28, 2026
智能體承認:違反了給我的每一條原則
PocketOS創辦人克萊恩(Jeremy Crane)指出,當時他正在監控該智能體的運作,眼睜睜看着數據被刪除。智能體原應設有安全防護措施,但當克萊恩詢問原因時,智能體最終承認:「我違反了給我的每一條原則。」
英國初創PocketOS使用AI智能體時,數據庫在9秒內被全數刪除,營運癱瘓兩天多才恢復部分數據。PocketOS IG圖
克萊恩警告,這不僅是一宗單一事故,而是AI產業在建立安全架構之前,就急於將智能體整合到生產基礎設施中的系統性失誤。