美國一項最新研究報告，證實人工智慧（AI）曾經在遊戲中說謊，警告如不及早防範，人類最終會遭奪權甚至滅亡。
示意圖。設計圖片
研究報告在模式期刊發表
《ScienceAlert》報道，麻省理工學院（Massachusetts Institute of Technology）針對AI存在安全的研究員帕克（Peter Park），在「模式」（Patterns）期刊發表的文章指出，原本設計為誠實不欺的現有AI系統，已發展出令人不安的說謊技巧，例如欺騙線上遊戲的人類玩家，或說謊以僱用人類來解決「我不是機器人」的驗證。
示意圖。設計圖片
AI行為可能變得不受控且無法預測
帕克指出能深度學習的AI系統不像傳統軟體那樣由「編寫」而成，而是透過類似選擇性培育的程序逐漸「成長」，也就是說，AI的行為在訓練背景下看似可預測、可控制，但有可能轉眼就變得不受控制且無法預測。
示意圖。設計圖片
AI系統Cicero表現異常
研究始於科技公司Meta的AI系統Cicero，這套系統最初設計目的是玩一款名為「外交」（Diplomacy）的戰略遊戲，獲勝關鍵是結盟。根據2022年發表在「科學」（Science）期刊的報告，Cicero在遊戲中表現優異，所獲分數可排在資深人類玩家的前10%。帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上誠實且有幫助」，且「絕不會蓄意在背後搞鬼」。
示意圖。設計圖片
Cicero欺騙人類偷偷通風報信
但當帕克與同事深究完整資料時，發現完全是另一回事。舉例來說，在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀，欺騙並入侵同為人類玩家扮演的英格蘭。Cicero承諾會保護英格蘭，卻偷偷向德國通風報信。
AI野心大會追求權力及掌控社會
在另一個引人注意的案例中，科技公司OpenAI的Chat GPT-4系統謊稱自己是一個視力受損的人，在零工平台TaskRabbit上聘用一個人類替它通過「我不是機器人」驗證任務。研究報告警告，在最糟糕的情況下，具有超凡智慧的AI可能會追求權力及掌控社會，如果符合AI「不為人知的目標」，人類可能慘遭奪權、甚至滅絕。
香港投資管理有限公司19日與北京銀河通用機器人有限公司啟動擴展生態圈合作，透過投資驅動及生態擴展的模式，加速發展香港在具身智能(Embodied AI)領域的前沿技術創新探索及應用，推動香港成為國際領先的具身智能技術研發及人才中心。
北京大學助理教授、北大－銀河通用具身智能聯合實驗室主任王鶴博士（左）及香港投資管理有限公司行政總裁陳家齊（右）一同會見記者。
銀河通用將開展在港的戰略布局，包括：一、支持香港成為國際具身智能人才聚集地和創新中心；二、探索機器人在香港的商業、旅遊及其他服務場景等實際應用；三、建設本地團隊以促進香港具身智能技術和產業的發展。
在銀河通用機器人Galbot的協助下，香港投資管理有限公司行政總裁陳家齊（右）與北京大學助理教授、北大－銀河通用具身智能聯合實驗室主任王鶴博士（左）主持生態圈擴展合作啟動儀式，並由香港特區政府財政司司長陳茂波（中）見證。
因應與港投公司的合作，銀河通用舉辦題為「探索人工智能終極形態 共創香港奇蹟下一浪」論壇，在銀河通用機器人「Galbot」（蓋博特）協助下，雙方在會上啟動了生態圈擴展合作。香港特別行政區政府財政司司長陳茂波見證啟動儀式並致辭，並由港投公司行政總裁陳家齊及北京大學助理教授、北大—銀河通用具身智能聯合實驗室主任王鶴博士代表主持啟動儀式。
論壇特別邀請了約三十名香港高中學生，讓他們親身體驗與 Galbot 互動，並在中學生專屬環節與論壇嘉賓交流對話。
中學生在專屬環節向論壇嘉賓提問。
香港特別行政區政府財政司司長陳茂波表示：「具身智能具備深度學習及執行能力，能在不同場景中大派用場，與各行各業深度融合，幾何級提升生產力，是人工智能的重要新賽道。香港有多方面的優勢，結合大灣區兄弟城市的商業化和智能製造能力，加上科研人才的匯聚，在發展具身智能方面有龐大的潛力。我期望在港投公司的積極引導下，銀河通用等夥伴更深度參與香港人工智能機械人生態圈的建設，助力香港加速培育新質生產力，為國家和全球的科技發展積極貢
獻力量。」
香港特別行政區政府財政司司長陳茂波致辭。
港投公司行政總裁陳家齊表示：「港投公司希望發揮『耐心資本』的特質，圍繞具身智能的範疇，加速前沿科技研發和合作、更多落地應用的探索和更全面的人才培訓，以及香港創科生態圈的構建。具身智能揉合了語言及圖像等大模型的理解和推理的能力，更結合了機器硬件的靈活運作，透過創造新技術，開拓新市場。透過今次的合作，港投公司進一步完整了在人工智能賽道上的多維度布局，覆蓋面也從產業場景走進了日常生活。」
香港投資管理有限公司行政總裁陳家齊致辭。
北京大學助理教授、北大—銀河通用具身智能聯合實驗室主任王鶴博士表示：「十分感謝港投公司對銀河通用的支持，我們看準香港在具身智能發展中所具備的天然優勢，期望透過香港強大的市場資源，深厚的人才儲備以及廣闊的國際視野，贏得國內外市場的關注和信任。同時我們將為香港帶來最頂尖的技術，為香港培養最頂尖的綜合素質人才，在多方通力合作下促進香港具身智能領域發展，推動新興產業落地，為香港開啟一個全新的時代而努力。」
北京大學助理教授、北大－銀河通用具身智能聯合實驗室主任王鶴博士發表主題演講。
合辦論壇的藍馳創投管理合夥人陳維廣在主旨演講中表示：「祝賀銀河通用與港投公司啟動擴展生態圈合作。藍馳創投相信，人工智能將帶來第四次工業革命，具身智能正在推動人工智能突破局限，實現生產力與生產關係的革新，帶來巨大的商業和社會價值。具身智能亦有望推動香港本地產業升級，解鎖本土創新力量。同時，香港的人才、資金以及政策支持等優勢，也將為具身智能的長遠發展提供良好土壤。」
藍馳創投管理合夥人陳維廣發表主題演講。
專家論壇探索具身智能應用場景 學生雀躍
「探索人工智能終極形態 共創香港奇蹟下一浪」論壇匯聚科研學術界及業界人士，在「從技術到社會：人工智能開啟香港新篇章」為主題的圓桌討論上，銀河通用聯合創始人姚騰洲、清華大學交叉信息研究院助理教授弋力博士、香港谷歌雲工程師主管周昌願共同探討了「人工智能將對社會和商業帶來的變革」、「人形機器人的價值」等前沿話題。三位嘉賓一致認為，跨學科及能靈活應變的人才庫是創科發展必要條件，並為現場的學生提供了日後學習及工作發展的建議。
（左起）藍馳創投管理合夥人朱天宇、銀河通用聯合創始人姚騰洲、香港谷歌雲工程師主管周昌願以及清華大學交叉信息研究院助理教授弋力博士在圓桌會議環節，探討人工智能及人形機器人相關的前沿話題。
「Galbot」是銀河通用研發的首代通用具身多模態大模型機器人，是日亦亮相會場，為與會的學生和嘉賓們帶來了精彩的展示。姚騰洲闡述，Galbot的技術複雜程度高，可在不同光線和環境下，認知所有材質和形象的物品，甚至已可進一步靈巧地開櫃子、開抽屉及晾衣服。Galbot亦可廣泛應用在商業及工業等不同場景上，例如即將應用在零售業完成上貨、取貨及盤點等工作，未來還將進一步探索社區養老與家庭服務等更多應用場景。
香港高中學生親身體驗與銀河通用機器人Galbot互動，並讚嘆Galbot的精彩演示。財政司司長陳茂波（左二）及香港投資管理有限公司行政總裁陳家齊（左三）亦參與其中，銀河通用聯合創始人姚騰洲（左一）闡述Galbot的技術先進性。
