AI或將有自主意識？國外科學家籲制定計劃應對各種可能

國外有哲學家與電腦科學家發表報告，呼籲AI公司應評估系統是否具備意識或自主決策能力，並建立AI福祉政策。

哲學家與電腦科學家發表針對AI報告

據《自然》期刊（Nature）報導，一群哲學家與電腦科學家近日在論文預印平台arXiv發表報告，呼籲AI公司應評估系統是否具備意識或自主決策能力，並建立AI福祉政策，以應對這些可能性。

發展辨別意識的方法

研究指出，若人們無法辨識AI是否具備意識，可能無意間忽視或傷害，甚至引發其痛苦，那麼也就會有難以預測的後果。而世人對「AI福祉」（AI welfare）需求持懷疑態度。

英國薩塞克斯大學（University of Sussex）神經學家賽斯（Anil Seth）認為，具有意識的AI出現也許還很遙遠，或不可能，但如果發生的話，影響非常深遠，不能忽視。

unsplash設計圖片

數學家美生（Jonathan Mason）認為，隨著AI技術普及，現階段應優先發展評估AI是否具有意識的方法「如果我們對如此依賴的事物知之甚少，甚至不知道它是否具有感知能力，那是非常不明智的。」

AI福祉處於過渡階段

報告指出，AI福祉處於過渡階段，作者之一費許（Kyle Fish）最近受聘於美國AI公司「人存原理」（Anthropic，暫譯） 擔任AI福祉研究員，這是頂尖AI公司中第一次出現這類型的工作職位，報告初期研究亦由該公司資助。

世人尚未重視AI或可能產生的意識

有關AI意識的研究尚未普遍受到重視，雖然有部分科學家曾呼籲支持相關研究，但今年9月，聯合國AI高級諮詢機構發布AI治理報告，也沒有談到有關AI意識的議題。

洛杉磯科技創業家瓊斯（Mike Johns）去年12月於亞利桑那州鳳凰城搭乘Waymo無人駕駛的士時，因車輛故障致使無人駕駛系統一直瘋狂扭軚在原地兜圈，被困在車內數分鐘險些錯過航班。

美創業家搭Waymo無人駕駛的士遇瘋狂扭軚兜圈

據外媒報導，瓊斯在前往鳳凰城天港機場（Sky Harbor Airport）的途中，無人駕駛的士開始在停車場內繞圈，總共行駛了八圈。他在車內撥打電話給Waymo客服求助，並拍下影片上傳到LinkedIn，影片中可以聽到他向客服詢問，「我繫著安全帶，無法下車。這車是被黑客入侵了嗎？到底發生了什麼事？」

無法遠程控制車輛

起初，瓊斯以為這是朋友的惡作劇，但當車輛持續繞行停車場中央島時，他意識到問題的嚴重性。他形容這一幕如同科幻驚悚片，客服人員建議他打開Waymo應用程式，但坦言無法遠程控制車輛。

對這次體驗感到沮喪  

Waymo公司表示，問題在幾分鐘內解決，瓊斯最終趕上了延誤的航班。然而，瓊斯對這次體驗感到沮喪，甚至無法判斷與他通話的客服人員是人類還是AI。他批評道，「這就是今天數碼時代的問題。一個不成熟的產品，缺乏與消費者的有效溝通。」

不會放棄使用無人駕駛的士  但仍有漏洞需要修補

儘管這次經歷讓他感到震驚，瓊斯表示並不會放棄使用無人駕駛的士。他認為這是未來的趨勢，只是目前仍有「需要修補的漏洞」。他笑稱，「我們有故障需要解決。」

Mike Johns Linkedin圖片

Waymo：「循環事件」已透過定期軟體更新修復

Waymo指，這次「循環事件」已透過定期的軟件更新修復，且瓊斯未被收取該次旅程的費用。目前，Waymo在舊金山、洛杉磯、鳳凰城及奧斯汀提供Waymo服務，去年完成超過400萬次全無人駕駛行程。然而，該公司無人駕駛的士此前出現的事件，包括一輛Waymo撞死狗隻和另一事件中導致騎單車者受傷，已引發外界對其安全性的擔憂。

瓊斯表示，此次經歷為他撰寫的一本關於人工智能如何影響工作的書提供了靈感，「我成了自己的案例研究。」