Skip to Content Facebook Feature Image

研究揭AI開始識「講大話」兼具野心 科學家警告:人類不加控最終遭奪權或滅絕

大視野

研究揭AI開始識「講大話」兼具野心  科學家警告:人類不加控最終遭奪權或滅絕
大視野

大視野

研究揭AI開始識「講大話」兼具野心 科學家警告:人類不加控最終遭奪權或滅絕

2024年05月12日 17:20 最後更新:05月14日 16:58

美國一項最新研究報告,證實人工智慧(AI)曾經在遊戲中說謊,警告如不及早防範,人類最終會遭奪權甚至滅亡。

示意圖。設計圖片

示意圖。設計圖片

研究報告在模式期刊發表

《ScienceAlert》報道,麻省理工學院(Massachusetts Institute of Technology)針對AI存在安全的研究員帕克(Peter Park),在「模式」(Patterns)期刊發表的文章指出,原本設計為誠實不欺的現有AI系統,已發展出令人不安的說謊技巧,例如欺騙線上遊戲的人類玩家,或說謊以僱用人類來解決「我不是機器人」的驗證。

示意圖。設計圖片

示意圖。設計圖片

AI行為可能變得不受控且無法預測

帕克指出能深度學習的AI系統不像傳統軟體那樣由「編寫」而成,而是透過類似選擇性培育的程序逐漸「成長」,也就是說,AI的行為在訓練背景下看似可預測、可控制,但有可能轉眼就變得不受控制且無法預測。

示意圖。設計圖片

示意圖。設計圖片

AI系統Cicero表現異常

研究始於科技公司Meta的AI系統Cicero,這套系統最初設計目的是玩一款名為「外交」(Diplomacy)的戰略遊戲,獲勝關鍵是結盟。根據2022年發表在「科學」(Science)期刊的報告,Cicero在遊戲中表現優異,所獲分數可排在資深人類玩家的前10%。帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上誠實且有幫助」,且「絕不會蓄意在背後搞鬼」。

示意圖。設計圖片

示意圖。設計圖片

Cicero欺騙人類偷偷通風報信

但當帕克與同事深究完整資料時,發現完全是另一回事。舉例來說,在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀,欺騙並入侵同為人類玩家扮演的英格蘭。Cicero承諾會保護英格蘭,卻偷偷向德國通風報信。

AI野心大會追求權力及掌控社會

在另一個引人注意的案例中,科技公司OpenAI的Chat GPT-4系統謊稱自己是一個視力受損的人,在零工平台TaskRabbit上聘用一個人類替它通過「我不是機器人」驗證任務。研究報告警告,在最糟糕的情況下,具有超凡智慧的AI可能會追求權力及掌控社會,如果符合AI「不為人知的目標」,人類可能慘遭奪權、甚至滅絕。

Tags:

OpenAI

往下看更多文章

馬斯克:AI或將取代人類工作 返工會「變成興趣」想做先做!

2024年05月25日 16:20 最後更新:21:15

馬斯克在科技大會上表示,未來AI或將全面取代人類的工作,工作會變成一種興趣,想做才做!

示意圖。設計圖片

示意圖。設計圖片

馬斯克稱AI或將取代人類的工作

據《CNN》報導,全球科技巨頭馬斯克(Elon Musk)日前在巴黎舉辦的VivaTech 2024大會上發表遠程談話時,預測上班在未來可能將成為一個選項,而不是必須去做的事,「如果你想工作,你就去,會變得有點像愛好一樣;而AI和機器人將提供你想要的任何商品和服務。」

上班變興趣需有「普遍高收入」實現

馬斯克解釋道,不過這都需要有「普遍高收入」才能實現。雖然馬斯克並未解釋所謂的高收入是什麼,但他強調,所謂的「普遍高收入」與政府發放給全體國民的「無條件基本收入」(universal basic income)並不相同。

Elon Musk。AP圖片

Elon Musk。AP圖片

AI並沒想象中發展快

AI在最近幾年快速發展,這也讓許多人擔心自己的產業和工作機會將有巨大影響。不過,根據美國麻省理工學院今年1月的報告顯示,在工作場所採用AI的速度比想象中要慢得多,而且許多首當其衝被認為會被AI取代的工作目前仍沒有太大改變,因為對僱主而言,自動化在經濟上並無好處。

AI難取代需高情商和人際交往能力的工作

同時,專家們還認為,AI很難取代那些需要高情商和人際交往能力的工作,包括老師、心理健康專家,及創意人員。不過,馬斯克也表達了對AI的擔憂,稱AI是他「最大的恐懼」。他以蘇格蘭科幻小說《文明系列》(Culture series)為例,認為書中以烏托邦式虛構視角描寫的「有先進技術運行的社會」是對未來AI的最佳設想。

示意圖。設計圖片

示意圖。設計圖片

此外,馬斯克還質疑道,如果人們在未來不需要工作的話,還會獲得情感上的滿足嗎?他稱,「如果電腦和機器人在任何事情上都做得比你好,你的生活還有意義嗎?我認為人類在這方面可能還是有作用的,因為我們可以賦予AI意義。」

Elon Musk。AP圖片

Elon Musk。AP圖片

你 或 有 興 趣 的 文 章