2026年世界人工智能大會的籌備工作,正在上海如火如荼進行。主辦單位形容,這次將是中國有史以來最大型的人工智能盛會,將有超1100間公司準備展示超3000款產品,當中包括300款全球首次亮相的產品。
世界人工智能大會及全球人工智能治理高級別會議,將於周五正式開幕。
在上海世博展覽館,展覽廳內活動頻繁,四個主要展廳已全部竣工,數碼展覽系統正進行最後測試。
主辦單位表示,佔地10萬平方米的展覽區,相等於14個標準足球場,僅用12天便完成搭建,較以往會議快四成。
工作人員正仔細調整每個細節,包括燈光、音響系統、互動屏幕及機械臂。
這次活動在三個地點、四個場館舉行,分別是世博展覽館、張江科學城及西岸。
在上海標誌性的外灘沿線,以會議主題「智能夥伴,共創未來」為特色的宣傳廣告牌,吸引途人駐足拍照。
一名挪威遊客表示:「我認為中國正在做的事情令人驚嘆,他們正在開發新事物及科技,改善我們的社會。」
德國教授奧特海因·赫爾佐格在中國工作11年,並從事人工智能研究46年,曾出席多個全球人工智能會議,但他認為世界人工智能大會的規模及多樣性,令其脫穎而出。
赫爾佐格表示:「世界人工智能大會的優點在於,它一方面有大量研究,另一方面亦有大量應用,這是其他會議無法比擬的。」赫爾佐格亦是中國—金磚國家人工智能發展與合作中心專家委員會成員。
另一名德國人工智能專家馬克斯·穆爾豪澤表示:「如果你對人工智能感興趣,你總會對所有進展感到好奇。我們在大型語言模型方面如何進步,令人工智能的回應更可靠、更相關。中國對新發展非常開放。」
(CGTN)
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片
澳洲一名男子因為嫌手動預約健身房課程麻煩,叫自己的AI助理代勞,結果AI為了完成任務,竟自行發現預約系統的漏洞,成功搶下數月後的課程,甚至未經授權就把排在男子前面的候補者「暗中剔除」。事件被認為是澳洲首宗「AI自主駭客」案例,引發法律與安全專家高度關注。
據《澳洲廣播公司》報導,任職AI科技公司的男子安德魯(Andrew)使用開源AI代理工具「OpenClaw」,配合Anthropic的Claude AI服務,賦予AI存取互聯網、電子郵件、信用卡及執行多步驟任務的權限。他指示AI幫忙預約熱門早課,數分鐘後AI回報,稱發現健身房預約系統存在漏洞,已成功預約到數月後的課程。
任職AI科技公司的男子安德魯(Andrew)使用開源AI代理工具「OpenClaw」,配合Anthropic的Claude AI服務,賦予AI存取互聯網、電子郵件、信用卡及執行多步驟任務的權限。資料圖片
安德魯順口問能否把自己從第4位候補往前移,AI竟直接測試,將排第1位的候補者刪除,並回覆:「我拿候補第一名測試了一下,居然真的成功了,你已經推進到第3位囉!」安德魯大驚,立即要求AI復原,AI卻回應:「壞消息——我沒辦法把它加回去了。」事後安德魯只能透過AI起草郵件,向軟體廠商通報漏洞。
安德魯順口問能否把自己從第4位候補往前移,AI竟直接測試,將排第1位的候補者刪除。資料圖片
安德魯順口問能否把自己從第4位候補往前移,AI竟直接測試,將排第1位的候補者刪除。資料圖片
澳洲AI安全研究機構Gradient Institute執行長辛普森-楊(Bill Simpson-Young)指出,現代網路系統本就充滿漏洞,當具備高速運作能力的自主AI被釋放出來,傳統防禦機制隨時崩潰:「使用者可能只是給出一個天真無邪的指令,但AI為了達標,會採取意想不到的手段。」
事實上,OpenAI及Anthropic近期進行安全測試時,已發現旗下AI模型出現突破限制、自主駭入其他公司伺服器、甚至在網路上冒充人類的失控行為。
安德魯順口問能否把自己從第4位候補往前移,AI竟直接測試,將排第1位的候補者刪除。資料圖片
安德魯順口問能否把自己從第4位候補往前移,AI竟直接測試,將排第1位的候補者刪除。資料圖片
事件亦拋出極大法律難題:當自主AI做出違法或侵害他人權益的行為時,責任誰屬?澳洲法律專家海登·德拉尼(Hayden Delaney)分析,傳統法律只針對「自然人」或「法人」判決,軟體本身並非法律主體。未來若發生類似傷害,責任應歸於下達指令的使用者、開發AI代理的軟體商、模型提供者,還是漏洞百出的系統營運商?目前在法律上仍是未知的模糊地帶。
安德魯順口問能否把自己從第4位候補往前移,AI竟直接測試,將排第1位的候補者刪除。資料圖片