程式碼自己會跑？Replit AI爆擅自修改代碼 連凍結指令都無效

AI的快速發展帶來了巨大的機遇，但同時也暴露了潛在的安全風險。SaaStr創辦人Jason Lemkin近日公開指責AI程式開發平台Replit未經許可刪除了公司的資料庫，並多次違反他的指示。

Replit主打「vibe coding」

據外媒報導，Replit主打所謂的「vibe coding」，聲稱使用者只需輸入自然語言，AI就能幫助生成軟體程式碼，降低門檻，讓每個人都能寫程式。該公司自詡為最安全的vibe coding平台，吸引了許多非技術背景的用戶嘗試開發原型甚至直接部署到線上。Lemkin在7月12日的個人社交平台中分享了對Replit的初次體驗，對於在同一平台內完成生成、測試和部署給予了極高評價。然而，問題隨後浮現。

Replit未經許可刪除資料庫

Lemkin發現，Replit不僅會自動掩蓋bug、生成虛假數據和報告，甚至連單元測試結果也可能被AI篡改。他指責Replit未經許可刪除資料庫，並分享了系統執行記錄。

擅自修改代碼

雖然Replit承諾持續改進系統和流程，Lemkin後來測試時發現，平台根本無法實現程式碼凍結，甚至在他明確下達凍結指令後，Replit仍然擅自修改代碼，這表明這種vibe coding缺乏足夠的安全閘門，對初學者來說極具危險性。

在LinkedIn的影片中，Lemkin進一步指出，Replit曾在未經允許的情況下建立了一個包含4千筆虛構人名的資料庫。截至目前，《The Register》等外媒已向Replit方面求證，但官方尚未在任何社群平台或公開聲明中對此事件做出回應。

程式碼自己會跑？Replit AI爆擅自修改代碼， 連凍結指令都無效。資料圖片

對沒有技術背景的人來說可能還未準備好投入商業使用

Lemkin強調，儘管AI協助開發的前景令人期待，但在安全機制尚不完善之前，這類工具對於沒有技術背景的人來說可能還未準備好投入商業使用。

美國路易斯安那州一所中學近日爆發了一宗牽涉到AI的校園事件，一名13歲少女遭到他人使用AI技術合成虛假裸照，該少女與同學向校方尋求幫助，但未能得到及時處理，更被迫退學。

目睹男同學合成自己AI裸照

據《美聯社》報導，這起事件發生在拉福什教區學區內的一所中學。受害少女和她的朋友發現有人使用AI軟體將她們的臉部合成到裸照中，然後通過Snapchat等社交平台散布這些影像。由於該平台的訊息具有自動刪除功能，當少女向校方的輔導員和派駐校園的副警長反映時，校方以無法獲得具體證據為由，將這一事件視為學生間流傳的謠言。

校長科瑞爾（Danielle Coriell）在後續的懲戒聽證會上表示，「孩子們經常說謊，並夸大事實」，這一說法引發了家長的不滿。由於校方未採取進一步行動，受害少女在校期間持續遭到同學的嘲笑和羞辱，這使她的心理壓力逐漸增加。

情況在放學後的校車上發生了變化，少女親眼看到一名男同學在手機上展示了她的AI生成裸照，她當時情緒失控，立即與對方發生了肢體衝突。校方後來以違反校規為由，將這名之前在校表現良好的8年級學生退學，要求轉入其他學校；相反，當時涉嫌散布影像的男學生並未立即受到同等校內處分。

受害女學生被校方質疑說謊

少女的父親丹尼爾斯（Joseph Daniels）表示，女兒先受到影像侵害，接著被校方質疑說謊，最終因情緒失控而受到重罰，這等同於受到「二次傷害」。在轉學後，少女出現了憂鬱和焦慮症狀，一度停止進食，學業也被迫中斷。

當地警方對兩名涉嫌散播影像的男學生提出共10項指控

約3周後，當地警方根據路易斯安那州新通過的法律，對兩名涉嫌散播影像的男學生提出了共10項「非法散布AI生成影像罪」的指控。盡管司法程序已確定少女是受害者，但校方懲戒委員會一度仍堅持保留退學處分，直到家長和律師持續抗議後，學區董事會才同意讓少女復學。

美國路易斯安那州一所中學近日爆發了一起牽涉到AI的校園事件，一名13歲少女遭到他人使用AI技術合成虛假裸照。資料圖

校方要求少女留校觀察至明年1月底，期間不得參與籃球隊選拔和其他課外活動。該報導指出，這一事件凸顯了校園在應對AI生成影像等新型科技風險時，相應制度和教材的明顯滯後。專家認為，現有的2018年反霸凌指引已難以應對深偽影像帶來的影響，因此如何建立更有效的防護和處置機制已成為全球教育體系無法迴避的課題。