或危及人類安全？ AI聊天機器人編造的醫學論文摘要 科學家難辨真假

聊天機器人ChatGPT去年11月發佈後迅速爆紅，有科學家擔憂，其強大的功能不僅導致更難被發現的抄襲問題，更可能誤導基於科學研究的政策決定、影響社會和科學的進步，令人「細思極恐」。

聊天機器人ChatGPT去年11月發佈。AP圖片

ChatGPT是人工智能研究實驗室OpenAI在2022年11月30日發佈的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具，埃隆·馬斯克有份創立這個實驗室。

ChatGPT掀起熱潮。

據介紹，ChatGPT支援中文等多國語言，能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，也能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。

不過，ChatGPT在掀起熱潮的同時，也引發了科學家們的擔憂。

去年12月27日，美國西北大學的 Catherine Gao 等人在預印本 bioRxiv 上發表了題為：Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers 的研究論文。

研究團隊使用AI聊天機器人 ChatGPT 寫出了令人信服的研究論文摘要，甚至人類科學家都難以分辨真假。

事實上，自從ChatGPT發佈以來，研究人員就一直在努力解決圍繞其使用的倫理問題，因為它的大部分輸出很難與人類自己所書寫的文本區分開來。在這篇發表於預印本論文中，Catherine Gao 領導的研究團隊使用 ChatGPT 來生成研究論文摘要，以測試科學家是否能發現它們。

研究團隊要求ChatGPT根據發表在 JAMA、NEJM、BMJ、Lancet 和 Nature Medicine 這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然後，研究團隊通過論文剽竊檢測器和人工智能輸出檢測器將這些摘要與原始摘要進行比較，並要求一組醫學研究人員找出那些是ChatGPT所編造的摘要。

結果令人驚訝，ChatGPT所編寫的摘要順利通過了論文剽竊檢查，原創性得分為100%，也就是沒有檢測到抄襲。人工智能輸出檢測器發現了33篇（識別率66%）由ChatGPT所編造的摘要，但人類審稿人並沒有能做得更好，人類審稿人只正確地識別了34篇（識別率68%）由ChatGPT所編造的摘要和86%的真正的論文摘要。也就說是，人類審稿人把32%的ChatGPT所編造的摘要識別為真實的論文摘要，而將14%的真實論文摘要識別為ChatGPT所編造的摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家都難辨真假的程度。

Catherine Gao 表示，ChatGPT寫出了令人信服的研究論文摘要，使用大型語言模型來幫助科學寫作的道德和可接受的界限仍有待確定。

這將為我們帶來一個顯而易見的難題：如果科學家都不能判斷這些由ChatGPT所編造的研究論文的真假，可能會帶來「可怕的後果」。這不僅會給科研人員帶來麻煩，因為他們閱讀的研究論文可能是由ChatGPT編造的。這也可能對整個社會帶來麻煩，因為科學研究在社會中發揮重要作用，基於科學研究的政策決定可能會受到ChatGPT編造的研究所誤導。

還有人工智能研究專家為這種依賴大型語言模型進行科學思考的方式感到擔憂，因為這些模型是根據過去的已有信息進行訓練的，而社會和科學的進步往往來自與過去不同的思維或開放思維。

因此，這篇預印本論文作者建議，那些評估研究論文和學術會議紀錄的人，應當制定政策，杜絕使用人工智能來生成文本。如果允許在某些情況下使用這些技術，應當建立明確的規則，並披露具體使用情況。

據悉，將於今年7月在夏威夷舉行的第40屆國際機器學習大會，將會宣佈禁止使用ChatGPT和其他AI語言工具撰寫論文。

在虛假信息可能危及人類安全的領域，例如醫學領域，醫學學術期刊應當採取更嚴格的方法來驗證信息的準確性。

普林斯頓大學的計算機科學家 Arvind Narayanan 表示，任何嚴肅的科學家都不太可能使用ChatGPT來生成論文摘要，使用ChatGPT的好處是微乎其微，而缺點是顯著的。解決使用ChatGPT來編造論文這一問題的方案不應該聚焦在ChatGPT工具本身，而應該聚焦在導致這種行為的動機上，比如有些大學在招聘和晉升審核時，只看論文數量，而不考慮論文的質量或影響力。

深喉

** 博客文章文責自負,不代表本公司立場 **

在澳洲悉尼邦迪海灘槍擊事件現場，一男子從背後突襲持槍暴徒，徒手奪槍，救了眾多人命，成為事件的英雄。

12月14日晚，恰逢光明節的首個夜晚。一場由查巴德猶太教組織主辦的海濱慶祝活動在澳洲悉尼邦迪海灘步道舉行，吸引了逾千名澳洲猶太人參與。

兩名持槍暴徒突然從附近的人行天橋上，使用高威力步槍向人群掃射。其中一名襲擊者為24歲的納維德・阿克拉姆，另一名同夥身份尚未公開。官方將這起事件定性為由反猶主義驅動的恐怖襲擊。

艾哈邁德挺身而出，鎖喉奪槍。

事發時一名身穿白衫黑褲的中年男子挺身而出，從旁鎖喉，搶走其中一個槍擊暴徒阿克拉姆的步槍，他自己也身中兩彈，成為社交媒體瘋狂讚譽的英雄，他的名字叫做艾哈邁德・艾爾・艾哈邁德。

艾哈邁德奪槍後，沒有回擊。

悉尼一名網友通過Instagram帳號發佈了現場目擊者用手機拍攝的視頻，這段影像隨後在全球範圍內引發分析與關注。畫面記錄下艾爾・艾哈邁德制伏槍手的全過程：身著白色襯衫的他躲在海濱停車場一輛停放的汽車後方，趁歹徒換彈短短5秒的視窗期，猛地沖上前，用鎖喉的方式將槍手阿克拉姆撲倒。在激烈的地面纏鬥中，艾爾・艾哈邁德成功奪下步槍，短暫將槍口對準倉皇逃竄的襲擊者。當時另一個槍手向他開槍，然後朝著天橋方向撤退，頻頻回頭張望。但艾爾・艾哈邁德並未向槍手開槍，而是扔下武器向後撤離。其家人表示，這是他在突發狀況下，出於本能做出的緩和局勢之舉。

艾哈邁德(白衣者)事後受傷坐下。

艾爾・艾哈邁德遭到藏身高處的第二名襲擊者槍擊，身中兩槍，失血嚴重，但未傷及性命。他隨即被救護車送往聖喬治醫院。焦急守候在醫院外的表兄弟穆斯塔法向澳洲第7新聞網表示：「他還在手術室裡，我們不清楚裡面的具體情況……只盼著他能平安無事。他絕對是一位英雄。」

新南威爾士州州長克里斯・明斯盛讚這一壯舉：「是我見過的最難以置信的一幕」，並指出艾爾・艾哈邁德的行動為救援人員爭取了寶貴時間，挽救了無數人的生命。

事發後數小時內，澳洲第7新聞網等本土媒體便披露了救人英雄艾爾・艾哈邁德的身份，他的事蹟很快在海外發酵，成為平民英勇無畏精神的典範。英國《太陽報》將這段視頻稱為 「勇敢水果店老闆挫敗恐怖襲擊的震撼瞬間」，《每日星報》則著重報導了他制伏歹徒後的沉著表現——儘管他中了槍，他仍坐在地上與周圍路人交談。英國穆斯林媒體平臺《五柱網》盛讚他是一名「穆斯林父親」，稱他在襲擊事件中挺身而出，打破了外界對穆斯林群體的刻板印象。以色列《國土報》與猶太新聞資訊平臺JFeed則特別強調了這一充滿反差的情節：「一位穆斯林人士挺身而出救助猶太受害者」。

社交媒體上掀起了全球致敬的熱潮：澳洲Reddit論壇的相關帖子在事件發生後幾小時內收穫超2.8萬次點贊，網友們稱他「是澳洲精神最真實的化身」。在社交平臺X上，歐盟副大使奧蕾莉・博納爾等各界人士發文讚揚他的「勇敢與無私」，相關視頻片段的播放量高達230萬次。

目前，他的水果店因家人呼籲尊重隱私而處於歇業狀態。民間發起多項倡議，呼籲為他頒發澳洲勇敢勳章等榮譽，州長明斯也承諾將給予其國家級表彰。艾爾・艾哈邁德的故事通過刷屏的視頻與霸榜新聞標題，超越了這場悲劇本身：一位薩瑟蘭郡的果蔬店老闆，在槍聲響起的瞬間做出抉擇，印證了英雄壯舉往往源於平凡之人的一念之間。

然而，美國有線電視新聞網CNN在報導中指出，這起事件深刻反映出澳洲反猶主義事件的激增態勢——自2023年以來，相關案件數量 「呈爆炸式增長」。英國《每日電訊報》則披露，襲擊者阿克拉姆的車內發現了簡易爆炸裝置等可疑包裹，這一細節凸顯出此次襲擊陰謀的周密性。