圖靈獎得主兼公開密鑰加密技術先驅惠特菲爾德·迪菲表示,科幻作家艾西莫夫於1942年提出的「機械人三大定律」,不足以應對現今人工智能領域的挑戰。
惠特菲爾德·迪菲接受中國環球電視網訪問時指出,目前圍繞人工智能安全的討論,過於側重規管系統的產出,而非保護人權。他強調人類不應讓人工智能代為決策。
惠特菲爾德·迪菲稱,儘管第一定律規定機械人不能傷害人類,但現代的自主無人機已引發外界關注,機器可能作出致命決定。
他表示:「這些概念已有90年歷史,它們對我們現今所做的事情描述甚少。但第一定律指機械人不能傷害人類,這是首要原則。正如你所見,有無人機外出殺人,即是說,人們正爭論無人機是否應自主殺人。我不知道它們是否已經這樣做,但這肯定不是一個被廣泛視為絕對反對的事情。」
至於第二定律,即機械人應服從人類,惠特菲爾德·迪菲指現時的「護欄」機制,允許人工智能拒絕某些指令,正考驗這項定律。
他續指:「第二定律是機械人應服從人類,而『護欄』正是針對此點。聲稱機械人應服從人類,即是說機械人不應被允許成為人與人之間競爭的工具。我們利用機器作為主要工具,讓一群人控制另一群人。監控系統、交通閘門等,都是控制人類的主要例子。」
惠特菲爾德·迪菲進一步質疑第三定律,稱不清楚這項原則如何實際應用。
他表示:「在我看來,第三定律有點奇怪,它說機械人應保護自己,除非這違反了前兩條定律。令我印象深刻的是,新聞不斷出現關於大型語言模型的軼事,它們做了一些我們不感興趣的事情,但它們認為這符合自身利益,需要這樣做,於是刪除了我們所有檔案,以便有足夠記憶體執行它們想做的事情。」
(CGTN)
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片