Skip to Content Facebook Feature Image

或危及人類安全? AI聊天機器人編造的醫學論文摘要 科學家難辨真假

博客文章

或危及人類安全?  AI聊天機器人編造的醫學論文摘要 科學家難辨真假
博客文章

博客文章

或危及人類安全? AI聊天機器人編造的醫學論文摘要 科學家難辨真假

2023年01月24日 11:02 最後更新:11:13

聊天機器人ChatGPT去年11月發佈後迅速爆紅,有科學家擔憂,其強大的功能不僅導致更難被發現的抄襲問題,更可能誤導基於科學研究的政策決定、影響社會和科學的進步,令人「細思極恐」。

聊天機器人ChatGPT去年11月發佈。AP圖片

聊天機器人ChatGPT去年11月發佈。AP圖片

ChatGPT是人工智能研究實驗室OpenAI在2022年11月30日發佈的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具,埃隆·馬斯克有份創立這個實驗室。

ChatGPT掀起熱潮。

ChatGPT掀起熱潮。

據介紹,ChatGPT支援中文等多國語言,能夠通過學習和理解人類的語言來進行對話,還能根據聊天的上下文進行互動,真正像人類一樣來聊天交流,也能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。

不過,ChatGPT在掀起熱潮的同時,也引發了科學家們的擔憂。

去年12月27日,美國西北大學的 Catherine Gao 等人在預印本 bioRxiv 上發表了題為:Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers 的研究論文。

研究團隊使用AI聊天機器人 ChatGPT 寫出了令人信服的研究論文摘要,甚至人類科學家都難以分辨真假。

事實上,自從ChatGPT發佈以來,研究人員就一直在努力解決圍繞其使用的倫理問題,因為它的大部分輸出很難與人類自己所書寫的文本區分開來。在這篇發表於預印本論文中,Catherine Gao 領導的研究團隊使用 ChatGPT 來生成研究論文摘要,以測試科學家是否能發現它們。

研究團隊要求ChatGPT根據發表在 JAMA、NEJM、BMJ、Lancet 和 Nature Medicine 這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然後,研究團隊通過論文剽竊檢測器和人工智能輸出檢測器將這些摘要與原始摘要進行比較,並要求一組醫學研究人員找出那些是ChatGPT所編造的摘要。

結果令人驚訝,ChatGPT所編寫的摘要順利通過了論文剽竊檢查,原創性得分為100%,也就是沒有檢測到抄襲。人工智能輸出檢測器發現了33篇(識別率66%)由ChatGPT所編造的摘要,但人類審稿人並沒有能做得更好,人類審稿人只正確地識別了34篇(識別率68%)由ChatGPT所編造的摘要和86%的真正的論文摘要。也就說是,人類審稿人把32%的ChatGPT所編造的摘要識別為真實的論文摘要,而將14%的真實論文摘要識別為ChatGPT所編造的摘要。這意味著,ChatGPT在編造研究論文摘要方面,達到了人類專家都難辨真假的程度。

Catherine Gao 表示,ChatGPT寫出了令人信服的研究論文摘要,使用大型語言模型來幫助科學寫作的道德和可接受的界限仍有待確定。

這將為我們帶來一個顯而易見的難題:如果科學家都不能判斷這些由ChatGPT所編造的研究論文的真假,可能會帶來「可怕的後果」。這不僅會給科研人員帶來麻煩,因為他們閱讀的研究論文可能是由ChatGPT編造的。這也可能對整個社會帶來麻煩,因為科學研究在社會中發揮重要作用,基於科學研究的政策決定可能會受到ChatGPT編造的研究所誤導。

還有人工智能研究專家為這種依賴大型語言模型進行科學思考的方式感到擔憂,因為這些模型是根據過去的已有信息進行訓練的,而社會和科學的進步往往來自與過去不同的思維或開放思維。

因此,這篇預印本論文作者建議,那些評估研究論文和學術會議紀錄的人,應當制定政策,杜絕使用人工智能來生成文本。如果允許在某些情況下使用這些技術,應當建立明確的規則,並披露具體使用情況。

據悉,將於今年7月在夏威夷舉行的第40屆國際機器學習大會,將會宣佈禁止使用ChatGPT和其他AI語言工具撰寫論文。

在虛假信息可能危及人類安全的領域,例如醫學領域,醫學學術期刊應當採取更嚴格的方法來驗證信息的準確性。

普林斯頓大學的計算機科學家 Arvind Narayanan 表示,任何嚴肅的科學家都不太可能使用ChatGPT來生成論文摘要,使用ChatGPT的好處是微乎其微,而缺點是顯著的。解決使用ChatGPT來編造論文這一問題的方案不應該聚焦在ChatGPT工具本身,而應該聚焦在導致這種行為的動機上,比如有些大學在招聘和晉升審核時,只看論文數量,而不考慮論文的質量或影響力。




深喉

** 博客文章文責自負,不代表本公司立場 **

往下看更多文章

尹錫悅遇上大麻煩? 突然推遲訪歐行程 夫人收名牌手袋風波未平息

2024年02月19日 18:59 最後更新:19:00

尹錫悅不惜冒著「外交失禮」的炮火推遲訪歐行程,轉而重視「國政」,或許是不得不為之,但成效恐怕不見得太好。

尹錫悅。AP圖片

尹錫悅。AP圖片

據環球網援引韓聯社等韓媒報道,韓國總統尹錫悅原定於18日開始對德國和丹麥進行為期一周的訪問。然而在出訪前4天,韓國總統府突然向媒體表示,考慮到近期各種因素,尹錫悅最終决定推遲訪問行程,目前還沒有確定未來的出訪時間表。

韓國媒體稱,韓國方面是在13日晚才向德國和丹麥方面通報了推遲訪問一事。韓國政府一名消息人士表示:「對方國家已經理解(推遲出訪),因此外交影響不會太大。但從準備出訪的立場來看,確實留下了遺憾。」

韓國在野黨和媒體對此反應强烈。韓國最大在野黨共同民主黨表示,「這不僅是外交失禮,而且有損國家威信和尊嚴。」《東亞日報》質問:「難道不是總統及其幕僚們一再體察民心失敗,才導致現在這一外交失禮嗎?」

到底是什麽原因讓尹錫悅在啓程前四天「突然推遲」訪歐計劃,目前還不得而知。但韓國媒體普遍認為,是「國政問題」捆住了尹錫悅出訪的手脚。

韓國媒體分析認為,尹錫悅夫人金建希此前涉嫌收受名牌手袋一事受到外媒關注,這可能是尹錫悅取消訪問的原因之一。

尹錫悅夫人金建希早前收受旅美牧師崔在永贈送的名牌手袋,並遭偷拍錄影。

尹錫悅夫人金建希早前收受旅美牧師崔在永贈送的名牌手袋,並遭偷拍錄影。

去年11月,韓國網媒「首爾之聲」發布獨家報道,指金建希於2022年從旅美牧師崔在英處收受了價值相當於300萬韓元(約合1.76萬港元)的名牌手袋,並發布了現場視頻。

當時尹錫悅與金建希還沒有入住龍山區的總統官邸,金建希的辦公室位於瑞草洞公寓。崔在英打著與金建希父親是同鄉的名義上門送手袋,並用手錶偷拍了相關視頻。

在「首爾之聲」發布相關視頻後,金建希方指責偷拍行為是故意陷害,並在去年12月與尹錫悅一起訪問了荷蘭。

但出訪荷蘭並沒有讓「第一夫人收手袋」事件平息。去年12月28日,韓國國會在在野黨主導下通過了《金建希女士特檢法》並送交尹錫悅政府,尹錫悅立即行使了否决權。

今年2月7日,尹錫悅在KBS電視台第一頻道播出的獨家訪談節目中,再次被問及是否計劃任命一名特別調查員負責調查總統家庭成員的腐敗問題,或設立「第一夫人」私人秘書辦公室等問題時,尹錫悅稱金建希「不够冷漠無情」,沒能拒絕對方的送禮。此外,他還指送手袋的人帶著偷拍設備,表明此事是一個政治陰謀。

雖然尹錫悅堅决站在支持其夫人的立場上,但「手袋風波」仍可能對他此次訪歐産生影響。韓國總統府人士也承認說:「稍有不慎,海外出訪就會沒有效果,國政負擔也會成為負擔。」

另一個迫使尹錫悅突然取消訪歐的原因可能是4月的國會選舉。韓國媒體報道說,尹錫悅所在的執政黨國民力量黨擔心,尹錫悅硬要出訪的話將會導致輿論惡化,該黨人士把這種擔心轉達給了龍山總統府。

國民力量黨擔心的是輿論惡化,可能讓該黨在4月10日啓動的國會選舉中陷入被動局面。

目前韓國國會選舉的形勢極其複雜,主要「選手」是尹錫悅與非常對策委員長韓東勛領導的國民力量黨和以李在明為首的共同民主黨。兩大政黨互不相讓,國民力量黨現在高喊「審判共同民主黨」,而共同民主黨則表示「將終止政權獨霸」。

在如此激烈的對峙局面下又出現了「第三勢力」。曾擔任過共同民主黨黨首的前國務總理李洛淵已宣布退黨並創建新黨,無獨有偶的是,曾擔任國民力量黨黨首的李俊錫也宣布要創建新黨。「第三勢力」的出現有可能瓜分國民力量黨和共同民主黨的選票。

在本届國會中,國民力量黨本就不占優。而民調顯示,4月的國會選舉對國民力量黨也未必有利。多家韓國民調機構的民調顯示,目前尹錫悅施政表現的差評率高達60%左右。

在這種情况下,對於4月的國會選舉,主張「政權審判論」的論調占了上風。韓國蓋洛普於去年12月5日至7日進行的調查顯示,支持「政權審判論」的為51%,支持「政府支援論」的為35%。在仁川,二者的差距更大。

這次韓國國會選舉是尹錫悅當總統第三年舉行的選舉。過去,在總統任期中期的國會選舉中,總統所在政黨失利的情况其實並不多見。但由於「手袋風波」和「差評率」過高等因素的影響,尹錫悅顯然不能掉以輕心。

自尹錫悅政府上台以來,就確立了「外交優先」的施政方針。據媒體統計,僅2023年一年,尹錫悅至少有62天在國外參加公開的外交活動,光是乘坐韓國總統專機就出訪13次,訪問了20個國家。

與尹錫悅頻繁出訪相比,2023年,只有日本、盧森堡和新西蘭的領導人訪問了韓國。日本首相岸田文雄訪韓還是回訪。

過去,韓國採取的是與「中等强國」相匹配的外交方針,且以朝鮮半島為重中之重。如今尹錫悅政府多次表示將把韓國打造為「全球樞紐國家」,外交排序也改為全球-印太地區-朝鮮半島。

韓國為此付出的代價極其昂貴。今年2月朝鮮宣布調整對韓關係政策,表示「北南不再是同一民族,而是敵對方、交戰方」。

與此同時,韓國經濟持續下滑。2022年,韓國經濟總量從世界排名第10位掉到了第13位,貿易逆差達472億美元,為2008年國際金融危機以來首次。2023年前三季度,韓國經濟總量一度被墨西哥超越,全年貿易逆差100億美元。

《新京報》評論,顯然,「外交優先」的策略並沒有改善韓國的經濟狀况和地緣安全形勢,也沒有給尹錫悅帶來政治加分。在這種情况下,尹錫悅冒著「外交失禮」的炮火取消訪歐行程,改為重視「國政」,可謂不得不為之。

只是,如果這次取消訪歐行程,只是為了平息「手袋風波」和4月韓國國會選舉的權宜之計,效果恐怕不會太好。

你 或 有 興 趣 的 文 章