聊天機器人ChatGPT去年11月發佈後迅速爆紅，有科學家擔憂，其強大的功能不僅導致更難被發現的抄襲問題，更可能誤導基於科學研究的政策決定、影響社會和科學的進步，令人「細思極恐」。
聊天機器人ChatGPT去年11月發佈。AP圖片
ChatGPT是人工智能研究實驗室OpenAI在2022年11月30日發佈的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具，埃隆·馬斯克有份創立這個實驗室。
ChatGPT掀起熱潮。
據介紹，ChatGPT支援中文等多國語言，能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，也能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。
不過，ChatGPT在掀起熱潮的同時，也引發了科學家們的擔憂。
去年12月27日，美國西北大學的 Catherine Gao 等人在預印本 bioRxiv 上發表了題為：Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers 的研究論文。
研究團隊使用AI聊天機器人 ChatGPT 寫出了令人信服的研究論文摘要，甚至人類科學家都難以分辨真假。
事實上，自從ChatGPT發佈以來，研究人員就一直在努力解決圍繞其使用的倫理問題，因為它的大部分輸出很難與人類自己所書寫的文本區分開來。在這篇發表於預印本論文中，Catherine Gao 領導的研究團隊使用 ChatGPT 來生成研究論文摘要，以測試科學家是否能發現它們。
研究團隊要求ChatGPT根據發表在 JAMA、NEJM、BMJ、Lancet 和 Nature Medicine 這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然後，研究團隊通過論文剽竊檢測器和人工智能輸出檢測器將這些摘要與原始摘要進行比較，並要求一組醫學研究人員找出那些是ChatGPT所編造的摘要。
結果令人驚訝，ChatGPT所編寫的摘要順利通過了論文剽竊檢查，原創性得分為100%，也就是沒有檢測到抄襲。人工智能輸出檢測器發現了33篇（識別率66%）由ChatGPT所編造的摘要，但人類審稿人並沒有能做得更好，人類審稿人只正確地識別了34篇（識別率68%）由ChatGPT所編造的摘要和86%的真正的論文摘要。也就說是，人類審稿人把32%的ChatGPT所編造的摘要識別為真實的論文摘要，而將14%的真實論文摘要識別為ChatGPT所編造的摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家都難辨真假的程度。
Catherine Gao 表示，ChatGPT寫出了令人信服的研究論文摘要，使用大型語言模型來幫助科學寫作的道德和可接受的界限仍有待確定。
這將為我們帶來一個顯而易見的難題：如果科學家都不能判斷這些由ChatGPT所編造的研究論文的真假，可能會帶來「可怕的後果」。這不僅會給科研人員帶來麻煩，因為他們閱讀的研究論文可能是由ChatGPT編造的。這也可能對整個社會帶來麻煩，因為科學研究在社會中發揮重要作用，基於科學研究的政策決定可能會受到ChatGPT編造的研究所誤導。
還有人工智能研究專家為這種依賴大型語言模型進行科學思考的方式感到擔憂，因為這些模型是根據過去的已有信息進行訓練的，而社會和科學的進步往往來自與過去不同的思維或開放思維。
因此，這篇預印本論文作者建議，那些評估研究論文和學術會議紀錄的人，應當制定政策，杜絕使用人工智能來生成文本。如果允許在某些情況下使用這些技術，應當建立明確的規則，並披露具體使用情況。
據悉，將於今年7月在夏威夷舉行的第40屆國際機器學習大會，將會宣佈禁止使用ChatGPT和其他AI語言工具撰寫論文。
在虛假信息可能危及人類安全的領域，例如醫學領域，醫學學術期刊應當採取更嚴格的方法來驗證信息的準確性。
普林斯頓大學的計算機科學家 Arvind Narayanan 表示，任何嚴肅的科學家都不太可能使用ChatGPT來生成論文摘要，使用ChatGPT的好處是微乎其微，而缺點是顯著的。解決使用ChatGPT來編造論文這一問題的方案不應該聚焦在ChatGPT工具本身，而應該聚焦在導致這種行為的動機上，比如有些大學在招聘和晉升審核時，只看論文數量，而不考慮論文的質量或影響力。
深喉
** 博客文章文責自負,不代表本公司立場 **
美國總統特朗普第二任期快滿一周年之際，作為「白宮大管家」的白宮幕僚長懷爾斯（Susie Wiles）接受《名利場》雜誌（Vanity Fair）訪問，毫無保留大爆白宮內幕，不單形容特朗普是「酒鬼型人格」、副總統萬斯是「陰謀論者」、億萬富豪馬斯克是一個公開承認的「氯胺酮使用者」及「怪人」，還承認了特朗普政府的「清算」行為及內部重大經濟政策上的嚴重分歧。
綜合美媒報道，白宮幕僚長蘇西·懷爾斯（Susie Wiles）12月16日與《名利場》雜誌作家克里斯·惠普爾（Chris Whipple）進行第11次深度訪談，懷爾斯將不飲酒的特朗普形容為具有「酒鬼型人格」（alcoholic's personality），稱美國副總統萬斯是「一個十年的陰謀論者」（conspiracy theorist for a decade），又指億萬富豪馬斯克是「一個公開的氯胺酮使用者」（avowed ketamine user）及「古怪的人」（an odd, odd duck）。
白宮幕僚長蘇西·懷爾斯形容，特朗普具「酒鬼型人格」。AP資料圖片
作為特朗普復出的「頭號功臣」，懷爾斯說，其已故的父親是一名著名體育評論員帕特·薩默羅爾（Pat Summerall），也一名曾經的酗酒者，所以她很了解他們，當他們喝酒時，性格會被無限放大，特朗普雖然不喝酒，但他就像那些人一樣，持有一種「認為自己無所不能」、「什麽都行、零限制」的特質。
懷爾斯透露，她曾試圖在特朗普上任之初與他達成一項「鬆散的協議」，即在90天內結束所有的清算行為，但她承認，最終沒有發生，也不成功，雖然特朗普並非醒來就在想復仇，但「當機會來臨時，他就會去做。」
她以紐約州總檢察長詹樂霞（Letitia James）為例，後者曾因商業欺詐案對特朗普處以近5億美元罰款，懷爾斯坦言「那可能就是一次報復」，當被問及是否建議特朗普收手時，懷爾斯說：「對她不行。她拿了他五億美元。」
對副總統萬斯（JD Vance），懷爾斯毫不客氣直言，萬斯從激烈的「反特」批評者變為其忠實盟友，是一場赤裸裸的政治算計，「他的轉變發生在他競選參議員時，我認為這種轉變更多是——某種程度上的政治投機。」
懷爾斯形容，億萬富豪馬斯克是「一個公開的氯胺酮使用者」及「古怪的人」。AP圖片
至於馬斯克（Elon Musk），據懷爾斯形容，「應對馬斯克的挑戰在於你得跟上他的節奏」，她描述了一個令人匪夷所思的場景，「馬斯克白天甚至會睡在行政辦公樓的睡袋裡」，「他是一個非常、非常古怪的傢伙，我想天才都是這樣。但這（對白宮運作）真的沒什麽幫助。」
最令懷爾斯感到「驚愕」（aghast）的是馬斯克對美國國際開發署（USAID）的「清洗」，馬斯克主導了大規模的裁員和機構癱瘓，甚至在社交平台轉發關於史太林和希特拉的驚人言論，對此懷爾斯直言：「我覺得那是他在『微量服用迷幻劑』（microdosing）的時候發的。」
儘管懷爾斯隨後在《紐約時報》訪問中試圖否認關於馬斯克涉毒的言論，稱其「荒謬」，但錄音卻證實她的驚人語錄。
懷爾斯指，萬斯從激烈的「反特」批評者變為其忠實盟友，是一場赤裸裸的政治算計。AP圖片
另懷爾斯還揭露了特朗普核心團隊的緊張關係。特朗普曾公開表示，副總統萬斯極有可能成為其繼任人，而懷爾斯就評價了萬斯和國務卿魯比奧，當中有鮮明對比。她認為，魯比奧轉向支持特朗普是基於原則，「他不會違背自己的原則」，但萬斯的轉變則更多是「政治性」。
懷爾斯透露，白宮內部對特朗普關稅政策有有巨大分歧。AP資料圖片
對於特朗普掀起的全球關稅戰，懷爾斯透露，其實白宮內部對此有有巨大分歧。她回憶指「我們曾告訴特朗普，今天先別談關稅，等到團隊完全達成一致再說，但特朗普無視，直接宣布了政策。」結果，正如懷爾斯所言「這比我預期的要痛苦得多。」
懷爾斯坦言，自己讀過「愛潑斯坦檔案」，特朗普的名字出現在其中。
懷爾斯也提到另一個更敏感的議題「愛潑斯坦醜聞」。她坦言，自己讀過「愛潑斯坦檔案」，特朗普的名字出現在其中，「當時在（愛潑斯坦的）飛機上……他的名字出現在乘客名單上…他們當時都挺年輕，單身…我知道『單身』這詞有點過時了，但就是那種年輕、單身、花花公子聚在一起。」
但懷爾斯將矛頭直指司法部長邦迪（Pam Bondi），「我認為她完全搞砸了（completely whiffed）」，「她給了大家幾本毫無內容的空文件夾（binders full of nothingness），然後她說客戶名單就在她桌上，但根本沒有客戶名單。」
她還披露關於前美國總統克林頓的調查結果，儘管特朗普多年來一直聲稱克林頓曾去過愛潑斯坦的私人島嶼聖詹姆斯島，但懷爾斯澄清「沒有證據……總統在那一點上搞錯了」，特朗普曾毫無證據地聲稱「克林頓曾到訪愛潑斯坦私人島嶼據說有 28 次。」
另外，懷爾斯還透露，特朗普對委內瑞拉的戰略「他想一直炸毀船隻，直到馬杜羅（委內瑞拉總統）認輸為止，比我聰明得多的人都說他會這麼做。」
儘管種種辛辣的評價，懷爾斯對自己在白宮的角色定位卻異常清晰，就是她「不來踩剎車」的。萬斯曾在採訪中描述，「Susie的觀點完全相反，她認為自己是一個促進者。」懷爾斯自己也說「我不是一個縱容者，我也不是一個潑婦，我想時間會證明我是否有效。」但當要就具體決策進行博弈時，她承認「有幾次我被投票否決了。」 她更總結，「如果出現平局，那就是他（特朗普）贏。」
但特朗普事後接受《紐約郵報》專訪時為懷爾斯辯護，強調她表現出色，指《名利場》文章涉嫌誤導。
