或危及人類安全？ AI聊天機器人編造的醫學論文摘要 科學家難辨真假

聊天機器人ChatGPT去年11月發佈後迅速爆紅，有科學家擔憂，其強大的功能不僅導致更難被發現的抄襲問題，更可能誤導基於科學研究的政策決定、影響社會和科學的進步，令人「細思極恐」。

聊天機器人ChatGPT去年11月發佈。AP圖片

ChatGPT是人工智能研究實驗室OpenAI在2022年11月30日發佈的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具，埃隆·馬斯克有份創立這個實驗室。

ChatGPT掀起熱潮。

據介紹，ChatGPT支援中文等多國語言，能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，也能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。

不過，ChatGPT在掀起熱潮的同時，也引發了科學家們的擔憂。

去年12月27日，美國西北大學的 Catherine Gao 等人在預印本 bioRxiv 上發表了題為：Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers 的研究論文。

研究團隊使用AI聊天機器人 ChatGPT 寫出了令人信服的研究論文摘要，甚至人類科學家都難以分辨真假。

事實上，自從ChatGPT發佈以來，研究人員就一直在努力解決圍繞其使用的倫理問題，因為它的大部分輸出很難與人類自己所書寫的文本區分開來。在這篇發表於預印本論文中，Catherine Gao 領導的研究團隊使用 ChatGPT 來生成研究論文摘要，以測試科學家是否能發現它們。

研究團隊要求ChatGPT根據發表在 JAMA、NEJM、BMJ、Lancet 和 Nature Medicine 這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然後，研究團隊通過論文剽竊檢測器和人工智能輸出檢測器將這些摘要與原始摘要進行比較，並要求一組醫學研究人員找出那些是ChatGPT所編造的摘要。

結果令人驚訝，ChatGPT所編寫的摘要順利通過了論文剽竊檢查，原創性得分為100%，也就是沒有檢測到抄襲。人工智能輸出檢測器發現了33篇（識別率66%）由ChatGPT所編造的摘要，但人類審稿人並沒有能做得更好，人類審稿人只正確地識別了34篇（識別率68%）由ChatGPT所編造的摘要和86%的真正的論文摘要。也就說是，人類審稿人把32%的ChatGPT所編造的摘要識別為真實的論文摘要，而將14%的真實論文摘要識別為ChatGPT所編造的摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家都難辨真假的程度。

Catherine Gao 表示，ChatGPT寫出了令人信服的研究論文摘要，使用大型語言模型來幫助科學寫作的道德和可接受的界限仍有待確定。

這將為我們帶來一個顯而易見的難題：如果科學家都不能判斷這些由ChatGPT所編造的研究論文的真假，可能會帶來「可怕的後果」。這不僅會給科研人員帶來麻煩，因為他們閱讀的研究論文可能是由ChatGPT編造的。這也可能對整個社會帶來麻煩，因為科學研究在社會中發揮重要作用，基於科學研究的政策決定可能會受到ChatGPT編造的研究所誤導。

還有人工智能研究專家為這種依賴大型語言模型進行科學思考的方式感到擔憂，因為這些模型是根據過去的已有信息進行訓練的，而社會和科學的進步往往來自與過去不同的思維或開放思維。

因此，這篇預印本論文作者建議，那些評估研究論文和學術會議紀錄的人，應當制定政策，杜絕使用人工智能來生成文本。如果允許在某些情況下使用這些技術，應當建立明確的規則，並披露具體使用情況。

據悉，將於今年7月在夏威夷舉行的第40屆國際機器學習大會，將會宣佈禁止使用ChatGPT和其他AI語言工具撰寫論文。

在虛假信息可能危及人類安全的領域，例如醫學領域，醫學學術期刊應當採取更嚴格的方法來驗證信息的準確性。

普林斯頓大學的計算機科學家 Arvind Narayanan 表示，任何嚴肅的科學家都不太可能使用ChatGPT來生成論文摘要，使用ChatGPT的好處是微乎其微，而缺點是顯著的。解決使用ChatGPT來編造論文這一問題的方案不應該聚焦在ChatGPT工具本身，而應該聚焦在導致這種行為的動機上，比如有些大學在招聘和晉升審核時，只看論文數量，而不考慮論文的質量或影響力。

深喉

** 博客文章文責自負,不代表本公司立場 **

日媒報道，美軍原打算將駐沖繩海軍陸戰隊步兵部隊轉移至美屬關島，並改編為具備快速反應能力部隊，惟考慮到台海有可能爆發衝突，改為讓部隊繼續留在沖繩縣宇流麻市的海軍陸戰隊第三遠征軍，以維持對中國的威懾力。但軍事專家分析，日本想藉此渲染美國對日本的支持，而美國則想利用日本這隻「棋子」加強所謂「第一島鏈」的防守，但中國解放軍遠程飛彈打擊能力增強，關島也已在打擊範圍內，美軍從沖繩撤到關島其實意義不大。

此前，日美政府已就將駐紮在沖繩內約1.9萬名美海軍陸戰隊員中的約9,000人轉移部署至日本之外達成共識。

駐沖繩美軍基地。AP資料圖片

2024年6月，美國海軍陸戰隊曾表示，駐沖繩的美軍部隊將從2024年12月開始撤離，其中4,000人撤到關島，5,000人撤回夏威夷及美國本土，是自2006年日美政府就駐日美軍重組計畫達成共識以來，美軍首次向海外轉移部署。

但共同社27日報道，因考慮到台灣「突發事態」，試圖維持對中國的威懾力，美軍修改原先擬將駐沖繩海軍陸戰隊步兵部隊轉移至美屬關島的計劃，以沖繩縣名護市等地的施瓦布軍營（Camp Schwab）為據點的步兵部隊，將繼續留在沖繩「隸屬海軍陸戰隊第三遠征軍，維持核心任務」。而此前的構想是將該部隊轉移至關島，改編為規模較小、具備迅速反應能力的「海軍陸戰隊瀕海作戰團」（MLR）。

報道還指，相關修改已加入海軍陸戰隊10月更新的文件《兵力設計》，這可能會對日美政府已達成協議的海軍陸戰隊移師關島計畫產生影響。

報道也提及，中國正迅速強化限制美軍靠近近海的反介入/區域拒止（A2/AD）能力。相關人士透露，美軍內部因此對將步兵部隊從距離台灣較近的沖繩轉移至距離更遠的關島出現異議。

對修改計劃的理由，美國海軍陸戰隊總部解釋，海軍陸戰隊為維護地區和平與穩定，要展現對敵對勢力採取重大行動的態勢。

日本內閣官房長官木原稔就此次修改可能產生的影響則表示，日美之間已經達成的共識並未發生變化。但據報道，一名日本政府高官認為，海軍陸戰隊正謹慎研究包括其他部隊轉移方案在內的計劃。

《環球時報》報道，軍事專家張軍社表示，日美對美軍撤離計劃，目前並未表示完全停止，下一步美軍如何行動仍待觀察。但有兩點較明確：一是再證實美國海軍陸戰隊並不想完全從沖繩撤出；二是美軍可能比原計劃留下更多人員，這與美國新發布的「國家安全戰略」中提出的堅守「第一島鏈」、控制「第二島鏈」策略目標一致。

張軍社認為，鑑於解放軍遠程飛彈打擊能力增強，美軍可能認為從沖繩撤到關島意義不大，因為關島也已在打擊範圍內。

駐日美軍在沖繩街頭巡邏。

但日媒炒作此消息正值日本首相高市早苗的涉台錯誤言論引起國內外批評，張軍社認為，日本想藉此渲染美國對日本的支持，「從長遠看，日本企圖將『台灣有事』、『美國有事』與自身聯繫起來，牽強附會地關聯美軍調整撤軍問題，藉此炫耀美日同盟。實際上，美國不會為了台灣犧牲大兵性命。」與此同時，日美出爾反爾的做法，肯定會讓沖繩民眾感失望，並表示強烈反對。

事實上，美軍方媒體《星條旗報》(Stars and Stripes) 28日報道，駐日美軍計畫在年底重新派兵在沖繩街頭持槍巡邏，已引起日本民眾反響。報道稱，負責的美軍憲兵將主要在當地夜生活區巡邏，且可能不再由當地警方陪同。

過去曾有當地民眾抗議美軍噪音影響生活。新華社資料圖片

今年11月，一段美軍在沖繩街頭巡邏的影片讓日本民眾大為不滿，質疑美軍持槍巡邏的必要性。該月22日，美軍憲兵誤把一名深夜在酒吧飲酒的美國平民男子當成違紀的美軍官兵，在攔截執法時將對方摔倒在地，影片被曝光後遭批評，隨後駐日美軍宣布巡邏暫停。

日本政府表示，日方願意在維持駐日美軍紀律和社區秩序等方面與美方繼續合作，駐日美軍也指已加強對憲兵的訓練教育，避免在巡邏中再發生意外。