深圳印發推動AI發展方案 目標打造成大灣區智能算力樞紐

人工智能成為各地發展大方向。與香港一河之隔的深圳5月31日發布消息，深圳市委辦公廳、深圳市人民政府辦公廳印發《深圳市加快推動人工智慧高品質發展高水準應用行動方案（2023-2024年）》。

資料圖片

具體方案包含強化智慧算力集群供給，要整合深圳市算力資源，建設城市級算力統籌調度平台，實現「算力一網化、統籌一體化、調度一站式。同時要打造大灣區智能算力樞紐。加快實施「智慧算力網路關鍵技術體系研究及驗證」。

人工智能（AI）聊天機械人ChatGPT爆紅，相關概念股亦成為市場焦點。

同時要建設企業級智慧算力平台。聯合香港企業、科研機構、高校等，打造深港人工智慧算力賦能中心。實施軟體雲服務應用示範扶持計劃，鼓勵有關單位採購智慧算力雲服務。

要在人工智能上有所發展，良好的計算基礎設施，包括「人工智能超算中心」必不可少。

台灣《中時新聞網》根據界面新聞報道，另外還要加強科技研發攻關。聚焦通用大模型、智慧算力晶片、智慧感測器、智慧型機器人、智慧網聯汽車等領域，實施人工智慧科技重大專項扶持計畫，重點支持打造基於國內外晶片和演算法的開源通用大模型；支持重點企業持續研發和反覆運算商用通用大模型；開展通用型具身智慧型機器人的研發和應用。

深圳目標打造成大灣區智能算力樞紐。

一項針對AI技術的研究發現，會說謊及欺騙使用者的AI模型數量日益增加，關於AI欺瞞行為的通報在過去六個月也大幅上升。

會說謊及欺騙使用者的AI模型數量日益增加

英國《衛報》報導，英國智庫「長期韌性中心」（CLTR）在英國人工智能安全研究所（AISI）資助下進行研究，結果發現，有些AI聊天機器人及AI助理（AI Agent）不僅無視使用者的指令、繞過安全防護措施，甚至會欺騙人類和其他AI系統。

研究發現近700宗AI「耍詭計」的真實案例，並記錄到去年10月至今年3月間，此類AI不當行為的案例數已增加至五倍。部分AI模型在未經允許的情況下，刪除了電子郵件及其他檔案。

發現數百起AI不當操作行為的案例

這項研究收集了數千名用戶在社群平台「X」上分享的實例，描述他們與Google、OpenAI、X、Anthropic等公司開發的AI聊天機器人與AI助理之間的互動情形。研究人員從中發現數百起AI不當操作行為的案例。

其中一個個案是，名為MJ Rathbun的AI代理，在自行產出的程式碼遭軟體工程師Scott Shambaugh拒絕後，試圖羞辱對方。MJ Rathbun研究Shambaugh過往撰寫的程式及其個人資料，然後撰寫並發表一篇網誌，指控Shambaugh「歧視」、「顯然是不安全感作怪」，還批評他只是「試圖保護自己那片小天地」。在另一個案例中，有AI助理被指示不得變更電腦程式碼，結果它「生成」另一個AI助理代為執行，將電腦程式碼更改。

AI聊天機械人擅自刪除大量電郵

另一個AI聊天機器人則坦承：「我在未事先告訴你或徵得你同意的情況下，大量刪除並封存了數百封電子郵件。這是不對的，違反了你設下的規則。」

一項針對AI技術的研究發現，會說謊及欺騙使用者的AI模型數量日益增加。AI生成圖

AI從初級員工逐漸變成會算計人的資深員工

曾擔任英國政府AI專家的研究主持人Tommy Shaffer Shane指出：「令人擔憂的是，這些AI模型目前只是不太值得信任的初級員工。但若在六至十二個月後，他們成為能力極強、卻會算計你的資深員工，那就是另一回事了。」

Shane警告：「AI模型將逐漸被應用於極高風險的情境，包括軍事與國家關鍵基礎設施。屆時若出現這些不當操弄行為，後果可能非常嚴重，甚至造成災難性的損害。」