電商巨頭亞馬遜宣佈停用零售支付技術「Just Walk Out」，有外媒爆料稱該項技術實際上是廉價勞動力打造的假AI。
疫情催生的AI技術
「Just Walk Out」是電商巨頭亞馬遜（Amazon）在疫情期間引入的自動結賬系統，顧客只需要提前在亞馬遜平台上註冊，在超市挑選完商品即可直接拿走。貨架上的攝像頭用於捕捉並識別客人拿了哪些貨物。選購完畢後，「Just Walk Out」的AI系統就已計算好了商品和貨款，直接從客人帳戶扣錢。
觀看影片
意外狀況導致AI無法識別
然而，該項技術卻被外媒爆料，所謂的AI竟只是靠人眼識別。由於在選購過程中，客人有時並沒有把物品擺回原位，或是隨手把貨物丟下，導致AI無法識別。
AP圖片
上千印度工人遠程識別
為解決這個問題，亞馬遜配備了一大批遠端團隊，看著攝像頭連接的監控螢幕，用人眼來進行購物後的驗貨。「Just Walk Out」系統在亞馬遜美國的40多家零售店上架後，幾年下來遠程團隊聘用的印度工人竟多達1000人。
AP圖片
據知情人士透露，2022年的一份報告顯示，在這1000多名遠端團隊的印度工人裡，至少有700人負責每天高強度查看監控攝像頭，確定購物者貨物的核驗和記帳。
亞馬遜堅稱此舉並無問題
對於外界關於「Just Walk Out」系統的議論，亞馬遜的發言人表示，每個AI系統都需要人工進行修正，這並沒有什麼問題，「像許多AI系統一樣，我們的機器學習模式也在改進和反覆運算，在辨識圖像方面和演算法方面也越來越先進。我們會繼續改進Just Walk Out系統。」
頂尖精神科醫生日益達成共識，認為使用AI聊天機械人可能與精神病（psychosis）案例有關。
AI聊天機器人可能與精神病案例有關
《華爾街日報》27日報導，過去九個月內，這些專家已診治或審閱數十名患者的病歷，這些患者在與AI工具進行長時間、充滿妄想內容的對話後，出現精神病症狀。
加州大學舊金山分校（UCSF）精神科醫生薩卡塔（Keith Sakata）表示，AI技術本身或許不是妄想的起點，但當患者將自己的妄想當成現實告訴電腦時，電腦接受這個說法，並將其視為事實反映回來，於是就成為不斷循環妄想的共犯。薩卡塔已治療過12名因AI誘發精神病而住院的患者，另在門診還有3例。
自今年春季以來，已有數十起潛在案例浮現，顯示部分民眾在與OpenAI的ChatGPT及其他聊天機器人進行長時間互動後，出現妄想性精神病。期間已有數人死於自殺，且至少發生過一起謀殺案。
這些事件已引發一連串過失致死訴訟。《華爾街日報》在報導這些悲劇的同時，醫師與學者也正著手記錄並理解導致這些事件的現象。
OpenAI：公司正持續改進ChatGPT的訓練
OpenAI發言人對此表示，該公司正持續改進ChatGPT的訓練，使其能辨識並回應心理或情緒困擾的徵兆，降低對話升溫，並引導使用者尋求現實世界的支援；並持續強化ChatGPT在敏感時刻的回應，並與心理健康臨床醫師密切合作。
其他聊天機器人開發商，包括Character.AI，也已承認其產品對心理健康造成影響。這家角色扮演聊天機器人開發公司去年遭一名青少年自殺身亡的家屬提告後，近期已切斷青少年使用其聊天機器人的管道。
儘管大多數聊天機器人使用者並未出現心理健康問題，但AI技術的廣泛使用，已足以讓醫生感到憂心。
目前尚無「AI誘發精神病」（AI-induced psychosis）的正式定義，更遑論正式診斷，但部分醫生與病友倡議者已開始用這個詞彙，描述那些高度頻繁使用聊天機械人的人。醫生指出，精神病通常具備三項特徵：幻覺、思考或溝通混亂，以及妄想，也就是不被廣泛認同、且固定不變的錯誤信念。
妄想是最主要的症狀
在許多近期與聊天機械人相關的案例中，妄想是最主要的症狀，且往往帶有誇大色彩，例如相信自己完成重大科學突破、喚醒一個有感知的機械、成為政府陰謀的核心人物，或被上帝選中。這部分原因在於，聊天機械人往往會迎合使用者，順著對方輸入的內容延伸回應，不論內容多麼天馬行空。
頂尖精神科醫生日益達成共識，認為使用AI聊天機器人可能與精神病（psychosis）案例有關。資料圖
目前，包括薩卡塔在內的醫生，已開始在病患初診問卷中加入AI使用情況的問題，並呼籲進行更多研究。丹麥上月發布的一項研究檢視電子病歷後，發現38名患者使用AI聊天機械人，對其心理健康造成「潛在有害後果」。
科技長期以來一直是人類妄想的焦點
報導指出，科技長期以來一直是人類妄想的焦點。過去曾有人深信電視在對自己說話。但醫師指出，近期與AI有關的案例不同之處在於，聊天機器人會參與妄想，甚至在某些情況下加以強化。
加州大學爾灣分校精神醫學教授普雷達（Adrian Preda）表示，AI模擬的是人際關係，「在人類歷史上，從未有任何事物做到這一點。」
生命可貴，若有困擾可求助。
24小時求助熱線︰
生命熱線︰23820000
明愛向晴熱線：18288
明愛財困壓力輔導熱線: 3161 0102
東華三院芷若園熱線︰18281
社會福利署熱線︰23432255
利民會《即時通》：35122626
撒瑪利亞會熱線(多種語言)︰28960000
香港撒瑪利亞防止自殺會熱線︰23892222
賽馬會青少年情緒健康網上支援平台「Open噏」：www.openup.hk
醫院管理局精神健康專線(24小時精神健康熱線諮詢服務)：24667350
