或危及人類安全？ AI聊天機器人編造的醫學論文摘要 科學家難辨真假

聊天機器人ChatGPT去年11月發佈後迅速爆紅，有科學家擔憂，其強大的功能不僅導致更難被發現的抄襲問題，更可能誤導基於科學研究的政策決定、影響社會和科學的進步，令人「細思極恐」。

聊天機器人ChatGPT去年11月發佈。AP圖片

ChatGPT是人工智能研究實驗室OpenAI在2022年11月30日發佈的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具，埃隆·馬斯克有份創立這個實驗室。

ChatGPT掀起熱潮。

據介紹，ChatGPT支援中文等多國語言，能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，也能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。

不過，ChatGPT在掀起熱潮的同時，也引發了科學家們的擔憂。

去年12月27日，美國西北大學的 Catherine Gao 等人在預印本 bioRxiv 上發表了題為：Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers 的研究論文。

研究團隊使用AI聊天機器人 ChatGPT 寫出了令人信服的研究論文摘要，甚至人類科學家都難以分辨真假。

事實上，自從ChatGPT發佈以來，研究人員就一直在努力解決圍繞其使用的倫理問題，因為它的大部分輸出很難與人類自己所書寫的文本區分開來。在這篇發表於預印本論文中，Catherine Gao 領導的研究團隊使用 ChatGPT 來生成研究論文摘要，以測試科學家是否能發現它們。

研究團隊要求ChatGPT根據發表在 JAMA、NEJM、BMJ、Lancet 和 Nature Medicine 這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然後，研究團隊通過論文剽竊檢測器和人工智能輸出檢測器將這些摘要與原始摘要進行比較，並要求一組醫學研究人員找出那些是ChatGPT所編造的摘要。

結果令人驚訝，ChatGPT所編寫的摘要順利通過了論文剽竊檢查，原創性得分為100%，也就是沒有檢測到抄襲。人工智能輸出檢測器發現了33篇（識別率66%）由ChatGPT所編造的摘要，但人類審稿人並沒有能做得更好，人類審稿人只正確地識別了34篇（識別率68%）由ChatGPT所編造的摘要和86%的真正的論文摘要。也就說是，人類審稿人把32%的ChatGPT所編造的摘要識別為真實的論文摘要，而將14%的真實論文摘要識別為ChatGPT所編造的摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家都難辨真假的程度。

Catherine Gao 表示，ChatGPT寫出了令人信服的研究論文摘要，使用大型語言模型來幫助科學寫作的道德和可接受的界限仍有待確定。

這將為我們帶來一個顯而易見的難題：如果科學家都不能判斷這些由ChatGPT所編造的研究論文的真假，可能會帶來「可怕的後果」。這不僅會給科研人員帶來麻煩，因為他們閱讀的研究論文可能是由ChatGPT編造的。這也可能對整個社會帶來麻煩，因為科學研究在社會中發揮重要作用，基於科學研究的政策決定可能會受到ChatGPT編造的研究所誤導。

還有人工智能研究專家為這種依賴大型語言模型進行科學思考的方式感到擔憂，因為這些模型是根據過去的已有信息進行訓練的，而社會和科學的進步往往來自與過去不同的思維或開放思維。

因此，這篇預印本論文作者建議，那些評估研究論文和學術會議紀錄的人，應當制定政策，杜絕使用人工智能來生成文本。如果允許在某些情況下使用這些技術，應當建立明確的規則，並披露具體使用情況。

據悉，將於今年7月在夏威夷舉行的第40屆國際機器學習大會，將會宣佈禁止使用ChatGPT和其他AI語言工具撰寫論文。

在虛假信息可能危及人類安全的領域，例如醫學領域，醫學學術期刊應當採取更嚴格的方法來驗證信息的準確性。

普林斯頓大學的計算機科學家 Arvind Narayanan 表示，任何嚴肅的科學家都不太可能使用ChatGPT來生成論文摘要，使用ChatGPT的好處是微乎其微，而缺點是顯著的。解決使用ChatGPT來編造論文這一問題的方案不應該聚焦在ChatGPT工具本身，而應該聚焦在導致這種行為的動機上，比如有些大學在招聘和晉升審核時，只看論文數量，而不考慮論文的質量或影響力。

深喉

** 博客文章文責自負,不代表本公司立場 **

在農曆新年的喜慶氛圍之下，美國再度發生嚴重槍擊事件。

加州洛杉磯蒙特雷帕克市（Monterey Park）一個亞裔社區當地時間年三十晚爆發大型槍擊案，造成10死10傷。事發時，槍擊地點附近正在舉辦中國農曆新年慶祝活動，當地警方其後宣布大年初一的慶祝活動取消。

加州亞裔社區年三十晚爆發大型槍擊案，造成10死10傷。

據警方指，槍擊案發生約20分鐘後，一名持槍的亞裔男子走進了鄰近郊區阿罕布拉的另一間跳舞學校，意圖有所行動，但被店內人士合力奪去手中槍支，落荒而逃。警方暫時未能確定兩名疑犯是同一人，但不排除任何可能性。

案發時當地社區集會慶祝農曆新年。AP圖片

素有「小台北」之稱的蒙特雷帕克市，位於洛杉磯市中心以東幾英里處，人口6萬1千人，亞裔居民佔約三分之二，大多數是華裔，現場街頭湧入數以萬計華人居民，歡慶農曆新年，卻不幸爆發無差別濫殺，地點正位於一間名為Star Dance Studio的舞蹈學院外面。

當地檢察官麥金尼（John McKinney）稱，「這個地區是洛杉磯縣最安全的街區之一」， 出生於馬來西亞的保安關先生（David Kwan）同樣對槍擊事件感到震驚。「我經常遇到暴力，但在洛杉磯的其他地區」，關先生說，「這是我第一次在自己的社區看到它」。

警方公開疑犯容貎。

奪命槍聲一夜間完全打破這個華人社區的寧靜，警方空群出動追緝兇徒，但一直未有公布進展，直到槍擊案發生後12小時，警方召開記者會，公開疑犯容貎。從閉路電視拍下的照片，疑犯是名亞裔男子，高佻瘦俏，當時穿黑大褸、戴冷帽，架着四方幼框眼鏡。

再過大約兩小時，大批特警隊隊員來到托蘭斯市的東京中央車站的停車場，兩部裝甲車把疑犯的汽車前後堵住，令該輛白色輕貨車動彈不得，而約十部警車更是在四周把現場重重圍困。美國媒體的現場直擊報道一度指，估計警方與疑犯對峙中。未幾後，媒體的鏡頭見到，特警隊隊員貼近疑犯所在的白色輕貨車，並打開車門，估計此時疑犯已在車內吞槍身盡，警方是聽到槍聲後上前察看。

疑犯在白色輕貨車內吞槍自盡。AP圖片

警方其後證實，懷疑吞槍自殺的疑犯是一名72歲亞裔男子，相信他是單獨行事，暫時未知行兇動機。警方在發現疑犯遺體的客貨車上，找到一支手槍。

警方在記者會表示，追捕疑犯期間，在距離案發現場30多公里的托蘭斯市，發現疑犯駕駛的客貨車，雙方一度對峙，期間車內傳出一響槍聲，警方之後在車內發現一名男子死亡。

拜登就槍擊案發表聲明。

美國總統拜登就加州槍擊案發表聲明，對逝者致以哀悼、對傷者致以問候。拜登表示，目前兇徒行兇動機未明，對亞裔社區的影響尤其深遠。他已指示國土安全顧問聯邦當局給予州政府全力支持，徹查事件。相信執法部門將有更多關鍵信息發佈，他向蒙特利公園及周邊的社區致意，並將提供多方支援。

這起發生在亞裔社區的大型槍擊案，是仇恨犯罪嗎？

據法新社報道，許多人起初擔心這是仇恨犯罪，但嫌犯的亞裔身份讓人們對這種解釋有一定懷疑。

卡車司機劉先生（Jerry Liu）認為，「我覺得這是一個獨立事件」，他猜測嫌犯「以那個舞廳為目標是有原因的，否則他可能會在當天早些時候去集市，並殺死更多人」。

洛杉磯中華總商會會長莊佩源則表示，「問題是，我們這個國家（美國）有這麼多槍」，「（有些人）很容易拿起槍做一些愚蠢的事情」。