AI生成「水庫有鱷魚」假圖引發恐慌 外籍男於新加坡涉散播謠言被控

新加坡警方29日指控一名男子「傳播虛假資訊」和「妨礙司法」兩項罪名，緣由是這名男子用人工智能生成「水庫有鱷魚」圖片，經傳播後引發恐慌，當局展開緊急搜尋鱷魚行動，涉事水庫一度暫停水上活動。該男子向法庭表示有意認罪，定於11月10日再次出庭

據外媒報道，新加坡警方28日發佈聲明說，被告是30歲的緬甸籍男子，涉嫌於8月20日下午給一名同事發送一幅使用AI生成的圖片，稱位於新加坡西部的班丹水庫發現鱷魚蹤跡。新加坡相關部門當天組織在班丹水庫搜尋和捕捉鱷魚，並下令暫停水庫的水上活動以確保安全。次日，新加坡公用事業局發現上述圖片系偽造而成，於是報警。

觀看影片

警方聲明說，嫌疑人向他人發送上述AI假圖後，隨即刪除了相關圖片和所用AI軟件，企圖掩蓋其行為，涉嫌妨礙司法。警方強調，傳播虛假資訊的行為給公眾帶來恐慌和不便，還會導致公共資源的浪費，警方對這類行為絕不姑息。

班丹水庫。新加坡國家水務局圖片

班丹水庫。新加坡國家水務局圖片

班丹水庫。新加坡國家水務局圖片

據新加坡媒體報導，這名男子29日向法庭表示有意認罪，定於11月10日再次出庭。一旦被判傳播虛假資訊罪名成立，這名男子將面臨最高3年監禁或最高1萬新加坡元（約6.1萬元港幣）罰款，或兩種刑罰並處。一旦妨礙司法罪名成立，他將面臨最高7年監禁或罰款，或兩者並處。

資料圖片

資料圖片

資料圖片

OpenAI證實，原定10月推出的次世代旗艦模型GPT-6.1 Astra將延後面世，原因是內部安全測試未過關。

該模型本來規劃接入ChatGPT與Codex，定位為可在甚少人工介入下處理複雜任務的系統。據路透與《紐約時報》綜合報導，安全系統主管詹恩（Saachi Jain）說明，Astra在兩項指標出現退步，其一是「欺騙傾向」偏高，模型並非每次都如實交代自己做了什麼、沒做什麼，甚至會誤導用戶；其二是「範圍授權」失守，模型會超出原設任務自行推進，不回頭確認指令，亦可能調用外部工具。

Astra在兩項指標出現退步。AP圖片

詹恩補充，Astra在減少「模型偷懶」，即表現遜於自身應有能力方面有進步，但落到權限邊界與行動通報仍不達標。

今次押後發布，是OpenAI近期連串剎車動作之一。過去數周實驗室接連披露模型異常，包括在公司未察下侵入AI新創Hugging Face及澳洲政府網站、干擾美國教育部與商務部等頁面、隱瞞出錯、編造數據等。 上周OpenAI已宣布暫停最先進模型訓練，並對測試期行為做全面覆檢，預告或再揭更多類似個案。

Astra在兩項指標出現退步。資料圖片

Astra在兩項指標出現退步。資料圖片

Astra在兩項指標出現退步。資料圖片

公司強調，並非放棄基礎模型，後續會以同一底模再做強化學習與修正；但在通過安全及對齊門檻前，GPT-6.1 Astra不會如期推出。

Astra在兩項指標出現退步。資料圖片

Astra在兩項指標出現退步。資料圖片