或危及人類安全？ AI聊天機器人編造的醫學論文摘要 科學家難辨真假

聊天機器人ChatGPT去年11月發佈後迅速爆紅，有科學家擔憂，其強大的功能不僅導致更難被發現的抄襲問題，更可能誤導基於科學研究的政策決定、影響社會和科學的進步，令人「細思極恐」。

聊天機器人ChatGPT去年11月發佈。AP圖片

ChatGPT是人工智能研究實驗室OpenAI在2022年11月30日發佈的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具，埃隆·馬斯克有份創立這個實驗室。

ChatGPT掀起熱潮。

據介紹，ChatGPT支援中文等多國語言，能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，也能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。

不過，ChatGPT在掀起熱潮的同時，也引發了科學家們的擔憂。

去年12月27日，美國西北大學的 Catherine Gao 等人在預印本 bioRxiv 上發表了題為：Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers 的研究論文。

研究團隊使用AI聊天機器人 ChatGPT 寫出了令人信服的研究論文摘要，甚至人類科學家都難以分辨真假。

事實上，自從ChatGPT發佈以來，研究人員就一直在努力解決圍繞其使用的倫理問題，因為它的大部分輸出很難與人類自己所書寫的文本區分開來。在這篇發表於預印本論文中，Catherine Gao 領導的研究團隊使用 ChatGPT 來生成研究論文摘要，以測試科學家是否能發現它們。

研究團隊要求ChatGPT根據發表在 JAMA、NEJM、BMJ、Lancet 和 Nature Medicine 這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然後，研究團隊通過論文剽竊檢測器和人工智能輸出檢測器將這些摘要與原始摘要進行比較，並要求一組醫學研究人員找出那些是ChatGPT所編造的摘要。

結果令人驚訝，ChatGPT所編寫的摘要順利通過了論文剽竊檢查，原創性得分為100%，也就是沒有檢測到抄襲。人工智能輸出檢測器發現了33篇（識別率66%）由ChatGPT所編造的摘要，但人類審稿人並沒有能做得更好，人類審稿人只正確地識別了34篇（識別率68%）由ChatGPT所編造的摘要和86%的真正的論文摘要。也就說是，人類審稿人把32%的ChatGPT所編造的摘要識別為真實的論文摘要，而將14%的真實論文摘要識別為ChatGPT所編造的摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家都難辨真假的程度。

Catherine Gao 表示，ChatGPT寫出了令人信服的研究論文摘要，使用大型語言模型來幫助科學寫作的道德和可接受的界限仍有待確定。

這將為我們帶來一個顯而易見的難題：如果科學家都不能判斷這些由ChatGPT所編造的研究論文的真假，可能會帶來「可怕的後果」。這不僅會給科研人員帶來麻煩，因為他們閱讀的研究論文可能是由ChatGPT編造的。這也可能對整個社會帶來麻煩，因為科學研究在社會中發揮重要作用，基於科學研究的政策決定可能會受到ChatGPT編造的研究所誤導。

還有人工智能研究專家為這種依賴大型語言模型進行科學思考的方式感到擔憂，因為這些模型是根據過去的已有信息進行訓練的，而社會和科學的進步往往來自與過去不同的思維或開放思維。

因此，這篇預印本論文作者建議，那些評估研究論文和學術會議紀錄的人，應當制定政策，杜絕使用人工智能來生成文本。如果允許在某些情況下使用這些技術，應當建立明確的規則，並披露具體使用情況。

據悉，將於今年7月在夏威夷舉行的第40屆國際機器學習大會，將會宣佈禁止使用ChatGPT和其他AI語言工具撰寫論文。

在虛假信息可能危及人類安全的領域，例如醫學領域，醫學學術期刊應當採取更嚴格的方法來驗證信息的準確性。

普林斯頓大學的計算機科學家 Arvind Narayanan 表示，任何嚴肅的科學家都不太可能使用ChatGPT來生成論文摘要，使用ChatGPT的好處是微乎其微，而缺點是顯著的。解決使用ChatGPT來編造論文這一問題的方案不應該聚焦在ChatGPT工具本身，而應該聚焦在導致這種行為的動機上，比如有些大學在招聘和晉升審核時，只看論文數量，而不考慮論文的質量或影響力。

深喉

** 博客文章文責自負,不代表本公司立場 **

拜登簽署一項對TikTok的剝離法案，TikTok回應聲明中直接將該法案稱為「禁令」，並稱公司將在法庭上提出質疑，力爭勝利。

當地4月23日，一位TikTok內容生產者舉著標語稱「既然你們關心的只有錢，TikTok增加了242億美元的GDP」。AP圖片

TikTok CEO周受資公開回應剝離法案。來源：TikTok視頻截圖

當地時間4月24日，美國總統拜登簽署了價值950億美元的一攬子對外援助法案，該法案還涉及强制字節跳動剝離旗下應用TikTok美國業務。在相關條款中，字節跳動被限期約九個月剝離其美國業務，否則將面臨美國全國禁令。此外，如果拜登確定出售事宜取得進展，他還可行使一次90天的延期權力。

此前，今年3月13日，關於限期剝離TikTok的法案在眾議院獲得壓倒性的通過，意圖迫使TikTok出售給美國企業，否則就將面臨被美國應用商店禁止的風險。

不同的是，美國眾議院在3月通過的法案中，規定TikTok出售期限為180天，而此次新法案將給予270天的期限，在出售期間還可能再延長90天。

當地4月23日，一位TikTok內容生產者在美國國會大廈外舉著「TikTok將我的生活變得更好」的標語。AP圖片

當地時間4月24日，在TikTok官方賬號發布的兩分鐘視頻中，周受資表示：「不要搞錯了，這就是一項禁令，一項對於Tiktok、對於你和你的聲音的禁令......請放心，我們不會去任何地方。事實和憲法都站在我們這一邊，我們期待再次獲勝。」

周受資表示，該法案將會把TikTok從「在我們平台上找到社區和連接的1.7億美國用戶身邊奪走」，不要被政治家的言論迷惑，「TikTok禁令才是他們的最終目標」：「請放心，我們不會離開。我們很有信心，將繼續在法庭裏為你們的權利奮鬥。」

AP資料圖片

周受資還在視頻中提到，TikTok的社區中有超過700萬名企業商家。他邀請用戶分享TikTok如何影響他們的生活，並稱TikTok將保持投資和創新，同時以「其他同行所沒有的」力度保證用戶信息安全。

對此，TikTok方面誓言通過法律途徑反擊。該公司在拜登簽署法案後表示，這項違憲法律就是對TikTok的禁令，公司將在法庭上提出質疑。「我們相信事實和法律顯然站在我們這一邊，我們最終會取得勝利。」

TikTok回應。X截圖

TikTok表示，公司已投入數十億美元來保護美國數據的安全，並重申這項禁令將摧毀700萬家企業，使1.7億美國人噤聲。「在繼續挑戰這一違憲禁令的同時，我們將繼續投資和創新，以確保TikTok仍是一個各行各業的美國人都可以安全地分享他們的經歷、尋找快樂和獲得靈感的空間。」

此前，中國商務部曾就涉TikTok法案回應稱，美方應切實尊重市場經濟和公平競爭原則，停止無理打壓別國企業，為各國企業在美投資經營提供開放、公平、公正和非歧視的環境。相關方應嚴格遵守中國法律法規，中方將采取一切必要措施，堅决維護自身合法權益。

一個男人在法院前舉著「釋放TikTok」的標語。AP資料圖片

今年3月13日，中國外交部發言人汪文斌對於禁止TikTok在美國運營的相關法案回應稱，近年來，儘管美方始終沒有找到TikTok威脅美國國家安全的證據，却始終沒有停止對TikTok的打壓，這種不能在公平競爭中取勝，就采取霸淩行徑的做法，擾亂的是企業的正常經營活動，損害的是國際投資者對投資環境的信心，破壞的是正常的國際經貿秩序，最終必將反噬美國自身。

中國外交部發言人汪文斌。

3月14日，外交部繼續表示，相關法案讓美國站在了公平競爭原則和國際經貿規則的對立面，如果所謂國家安全的理由可以用來任意打壓別國的優秀企業，那就毫無公平正義可言。看到別人的好東西就要想方設法據為己有，這完全是强盜邏輯。美方對TikTok事件的處理，將讓世界更加清楚地看到，美國所謂的「規則秩序」，究竟是有利於世界，還是只服務於美國自身。