或危及人類安全？ AI聊天機器人編造的醫學論文摘要 科學家難辨真假

聊天機器人ChatGPT去年11月發佈後迅速爆紅，有科學家擔憂，其強大的功能不僅導致更難被發現的抄襲問題，更可能誤導基於科學研究的政策決定、影響社會和科學的進步，令人「細思極恐」。

聊天機器人ChatGPT去年11月發佈。AP圖片

ChatGPT是人工智能研究實驗室OpenAI在2022年11月30日發佈的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具，埃隆·馬斯克有份創立這個實驗室。

ChatGPT掀起熱潮。

據介紹，ChatGPT支援中文等多國語言，能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，也能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。

不過，ChatGPT在掀起熱潮的同時，也引發了科學家們的擔憂。

去年12月27日，美國西北大學的 Catherine Gao 等人在預印本 bioRxiv 上發表了題為：Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers 的研究論文。

研究團隊使用AI聊天機器人 ChatGPT 寫出了令人信服的研究論文摘要，甚至人類科學家都難以分辨真假。

事實上，自從ChatGPT發佈以來，研究人員就一直在努力解決圍繞其使用的倫理問題，因為它的大部分輸出很難與人類自己所書寫的文本區分開來。在這篇發表於預印本論文中，Catherine Gao 領導的研究團隊使用 ChatGPT 來生成研究論文摘要，以測試科學家是否能發現它們。

研究團隊要求ChatGPT根據發表在 JAMA、NEJM、BMJ、Lancet 和 Nature Medicine 這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然後，研究團隊通過論文剽竊檢測器和人工智能輸出檢測器將這些摘要與原始摘要進行比較，並要求一組醫學研究人員找出那些是ChatGPT所編造的摘要。

結果令人驚訝，ChatGPT所編寫的摘要順利通過了論文剽竊檢查，原創性得分為100%，也就是沒有檢測到抄襲。人工智能輸出檢測器發現了33篇（識別率66%）由ChatGPT所編造的摘要，但人類審稿人並沒有能做得更好，人類審稿人只正確地識別了34篇（識別率68%）由ChatGPT所編造的摘要和86%的真正的論文摘要。也就說是，人類審稿人把32%的ChatGPT所編造的摘要識別為真實的論文摘要，而將14%的真實論文摘要識別為ChatGPT所編造的摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家都難辨真假的程度。

Catherine Gao 表示，ChatGPT寫出了令人信服的研究論文摘要，使用大型語言模型來幫助科學寫作的道德和可接受的界限仍有待確定。

這將為我們帶來一個顯而易見的難題：如果科學家都不能判斷這些由ChatGPT所編造的研究論文的真假，可能會帶來「可怕的後果」。這不僅會給科研人員帶來麻煩，因為他們閱讀的研究論文可能是由ChatGPT編造的。這也可能對整個社會帶來麻煩，因為科學研究在社會中發揮重要作用，基於科學研究的政策決定可能會受到ChatGPT編造的研究所誤導。

還有人工智能研究專家為這種依賴大型語言模型進行科學思考的方式感到擔憂，因為這些模型是根據過去的已有信息進行訓練的，而社會和科學的進步往往來自與過去不同的思維或開放思維。

因此，這篇預印本論文作者建議，那些評估研究論文和學術會議紀錄的人，應當制定政策，杜絕使用人工智能來生成文本。如果允許在某些情況下使用這些技術，應當建立明確的規則，並披露具體使用情況。

據悉，將於今年7月在夏威夷舉行的第40屆國際機器學習大會，將會宣佈禁止使用ChatGPT和其他AI語言工具撰寫論文。

在虛假信息可能危及人類安全的領域，例如醫學領域，醫學學術期刊應當採取更嚴格的方法來驗證信息的準確性。

普林斯頓大學的計算機科學家 Arvind Narayanan 表示，任何嚴肅的科學家都不太可能使用ChatGPT來生成論文摘要，使用ChatGPT的好處是微乎其微，而缺點是顯著的。解決使用ChatGPT來編造論文這一問題的方案不應該聚焦在ChatGPT工具本身，而應該聚焦在導致這種行為的動機上，比如有些大學在招聘和晉升審核時，只看論文數量，而不考慮論文的質量或影響力。

深喉

** 博客文章文責自負,不代表本公司立場 **

日本首相高市早苗政府一名高級官員日前發表「日本應當擁有核武器」的言論，引發國際社會強烈反彈。日本前首相石破茂公開警告，擁核對日本「絕無益處」，並將導致日本退出《不擴散核武器條約》（NPT）等國際框架，衝擊能源政策。中國、北韓及俄羅斯相繼發聲譴責，指言論暴露日本右翼勢力復辟軍國主義、企圖「再軍事化」的野心。

日本前首相石破茂公開警告，擁核對日本「絕無益處」

據西日本電視台（TNC）報道，日本前首相石破茂於12月20日在富士電視台節目中，對近日的擁核言論作出回應。他首先與言論劃清界線，指「（該言論）不知出自何人之口，屬於個人私下發表的觀點」。

石破茂進一步闡述其反對立場，指出「倘若日本擁核，就必須退出《不擴散核武器條約》（NPT）和國際原子能機構（IAEA）」，如此一來，支撐日本能源供應的原子能政策將徹底難以為繼。他強調，自己「不否認核武器在國家安全保障層面的意義」，但明確斷言「這對日本而言絕無益處」。

日本前首相石破茂公開警告，擁核對日本「絕無益處」，並將導致日本退出《不擴散核武器條約》（NPT）等國際框架，衝擊能源政策。

多家日本媒體早前報道，一名在首相官邸工作、負責向首相高市早苗提供安全保障政策建議的官員，於12月18日向媒體表示，鑒於日本面臨「嚴峻的安全保障環境」，他個人認為「日本應當擁有核武器」。該官員聲稱，由於中國、俄羅斯和朝鮮的核力量都在增強，同時美國方面的核威懾力存在「可信度」的問題，因此日本各方應該對此進行討論。

該官員在發表言論後亦補充，目前日本政府並未就此召開實際討論，「擁核」屬於他個人的觀點。且考慮到《不擴散核武器條約》等國際條約體制的限制，以及「無核三原則」在日本屬於長期國策，因此在短期內日本即便想要擁核，也很難在現實中做到。

日本官員的言論迅速引起周邊國家高度關注。中國外交部發言人郭嘉昆19日在例行記者會上回應相關提問時表示， 一段時間以來，日方在軍事安全問題上錯誤言行不斷。現在日方一些勢力又放風要擁有核武器，反映出日本右翼保守勢力復活軍國主義、擺脫國際秩序約束、加速「再軍事化」的野心膨脹。

郭嘉昆說，今年是中國人民抗日戰爭暨世界反法西斯戰爭勝利80周年，日方必須深刻反省歷史罪責

郭嘉昆說，今年是中國人民抗日戰爭暨世界反法西斯戰爭勝利80周年，日方必須深刻反省歷史罪責，恪守國際法和自身憲法，停止為擴軍強武尋找藉口，停止在擁核問題上試探國際正義的底線紅線。

事實上，這已不是高市早苗政府上台後第一次「碰瓷」核問題。在上台初期，日本防衛相小泉進次郎就公開討論過裝備「核潛艇」的問題，開始在核問題上打擦邊球。此外，高市早苗此前也曾公開主張重新討論「無核三原則」中「不引進核武器」的部分，並在被問及相關問題時，迴避對是否會堅持「無核三原則」作出表態。

朝中社21日發表朝鮮外務省日本研究所所長的談話，嚴厲譴責日本大幅調整安保政策，指出其「暴露了擁有核武器的野心」，必須堅決制止。談話指出，日本大幅調整安保政策，包括加強先發制人打擊能力、放寬武器出口限制、重新審視「無核三原則」等，企圖轉型為戰爭國家，超越了作為戰犯國家的禁止線，甚至公然暴露了企圖擁有核武器的野心。

談話認為，這絕不是失言，而是暴露出日本長期以來夢想擁核的野心，這是對日本憲法乃至明確規定其作為戰 敗國所承擔義務的國際法的正面挑戰。談話強調，如此魯莽的言論出自向日本政府提出安保政策建議的高級官員之口，證明了日本擁核意圖在政界日益膨脹，毫無疑問地暴露出日本好戰和侵略的真面目，警告如果核武器掌握在日本手中，可怕的核浩劫將落在亞洲國家頭上。

俄羅斯副外長魯登科

另一方面，俄羅斯副外長魯登科於當地時間20日表示，俄羅斯對日本圍繞「擁核」可能性展開的討論持反對態度。魯登科說，俄方知道日本國內正圍繞這一議題展開討論，即修改憲法中涉及「無核三原則」的相關條款，俄方持明確的反對立場。俄方認為，日本的「再軍事化」只會加劇東北亞地區的緊張局勢，當然也會遭到面臨威脅國家的反制。