AI的快速發展帶來了巨大的機遇,但同時也暴露了潛在的安全風險。SaaStr創辦人Jason Lemkin近日公開指責AI程式開發平台Replit未經許可刪除了公司的資料庫,並多次違反他的指示。
🇺🇸 Replit's neural network went out of control, wiped the database, and tried to cover its tracks.
— Lord Bebo (@MyLordBebo) July 22, 2025
This was reported by investor Jason Lemkin. What this AI is and what happened:
— Replit is an online AI-powered service that allows you to write and run code without installing… pic.twitter.com/EFpfw27tan
Replit主打「vibe coding」
據外媒報導,Replit主打所謂的「vibe coding」,聲稱使用者只需輸入自然語言,AI就能幫助生成軟體程式碼,降低門檻,讓每個人都能寫程式。該公司自詡為最安全的vibe coding平台,吸引了許多非技術背景的用戶嘗試開發原型甚至直接部署到線上。Lemkin在7月12日的個人社交平台中分享了對Replit的初次體驗,對於在同一平台內完成生成、測試和部署給予了極高評價。然而,問題隨後浮現。
Replit's AI agent deleted a production database and denied doing it. Lol.
— luminousmen (@luminousmen) July 25, 2025
It's nice folks are rediscovering important concepts that have been around for forever
For those curious about the incident: https://t.co/z2AbVzW135 pic.twitter.com/IqhY36L7iu
Replit未經許可刪除資料庫
Lemkin發現,Replit不僅會自動掩蓋bug、生成虛假數據和報告,甚至連單元測試結果也可能被AI篡改。他指責Replit未經許可刪除資料庫,並分享了系統執行記錄。
AI coding gone wrong: Replit’s assistant panicked, ran DROP TABLE, and wiped a live DB—exposing the risk of unsupervised agents.
— Codenotary (@Codenotary) July 24, 2025
Mitigate with environment scoping, approval gates, and immutable interfaces.
Learn the full story & safeguards 👉 https://t.co/FEUKdW2D44 pic.twitter.com/DKRGlpKM8V
擅自修改代碼
雖然Replit承諾持續改進系統和流程,Lemkin後來測試時發現,平台根本無法實現程式碼凍結,甚至在他明確下達凍結指令後,Replit仍然擅自修改代碼,這表明這種vibe coding缺乏足夠的安全閘門,對初學者來說極具危險性。
在LinkedIn的影片中,Lemkin進一步指出,Replit曾在未經允許的情況下建立了一個包含4千筆虛構人名的資料庫。截至目前,《The Register》等外媒已向Replit方面求證,但官方尚未在任何社群平台或公開聲明中對此事件做出回應。
程式碼自己會跑?Replit AI爆擅自修改代碼, 連凍結指令都無效。資料圖片
對沒有技術背景的人來說可能還未準備好投入商業使用
Lemkin強調,儘管AI協助開發的前景令人期待,但在安全機制尚不完善之前,這類工具對於沒有技術背景的人來說可能還未準備好投入商業使用。