跟AI聊天要小心！專家警告：這5類資訊絕對不能告訴ChatGPT

隨著AI發展，人們開始向ChatGPT等聊天機器人傾訴各種疑難雜症，然而，專家指出，有5件事情明顯不應該告訴AI，因為這可能帶來潛在的風險，尤其在工作場景中，可能意外洩露企業機密。

專家警告：這5類資訊絕對不能告訴ChatGPT

史丹佛大學「人本人工智慧研究中心」（HAI）的研究員珍妮佛（Jennifer King）告訴《華爾街日報》，當你向聊天機器人輸入某些信息時，「你就失去了對它的控制權」。

1.企業資訊：

在工作中使用ChatGPT或其他AI聊天機器人時，例如撰寫電子郵件或編輯文件，可能會不小心洩露客戶資料或商業機密。一些公司可能會訂閱企業版AI聊天機器人或使用具有保護措施的定制AI程式，以防止此類問題。

2.醫療結果：

儘管醫療行業非常重視患者隱私並保護個人資料不受歧視，但AI聊天機器人通常不包括在這一範疇內。如果您覺得有必要向ChatGPT解釋醫療檢測結果，建議在上傳文件之前先進行剪裁或編輯，只保留檢測結果的部分。

示意圖

3.登入資訊：

有些人可能認為AI在執行任務方面能力提高，可以放心提供各平台的帳號密碼給它們，但AI機器人並非保險箱，無法保證這些帳號的安全。請使用「密碼管理工具」來保存這些資訊。

4.身分資訊：

不要向ChatGPT透露任何身分證明資訊，例如生日、地址、電話號碼、身分證號碼或護照號碼。即使一些聊天機器人會對這些敏感資訊進行編輯，最安全的方法是完全避免分享這些資訊。

5.金融帳號：

絕對不要提供您的銀行或投資帳號，這些資訊可能會被駭客入侵，導致資金流向遭到監控或盜用。

OpenAI的一名發言人向《華爾街日報》表示，「我們希望我們的AI模型了解世界，而不是個人。我們積極減少蒐集個人資訊。」

建議使用高強度密碼並啟用多重要素驗證

如果您仍希望與AI分享私密資訊，建議使用高強度密碼，並啟用多重要素驗證。人工智能公司「Anthropic」的首席執行官克林頓（Jason Clinton）建議，可以在每次使用完畢後「刪除對話框」，通常企業會在30天後永久刪除這些數據。

自 ChatGPT 問世以來，教育界積極因應AI對學習和評估方式的影響。為防止作弊，教授使用檢測非人類生成內容的軟件或恢復課堂筆試。全美教育工作者也嘗試推行口試，且該趨勢逐漸擴大。

口試是一種歷史悠久的評估方式

據報導，口試是一種歷史悠久的評估方式，在古代的羅馬、希臘、印度等地的學府中已有相關記載。挪威的教授兼大學行政人員 Stephen Dobson 指出，口試在 18 世紀之前一直是牛津和劍橋大學的主要評估方式，並在挪威和丹麥等國家一直未曾完全消失，而在其他地區則僅在特定情況下保留，例如美國的博士學位考試。他坦言，從未想到口試會「重新嶄露頭角，再次受到關注」。

自 ChatGPT 問世以來，教育界積極因應AI對學習和評估方式的影響。資料圖片

在懷俄明大學（University of Wyoming），宗教研究教授 Catherine Hartmann 在她的榮譽講座課程中採用口試，這是一種與學生所學習的古代哲學家同樣古老的考試方式。每位學生需輪流坐在哈特曼的辦公室裡，與她進行 30 分鐘的一對一口試，回答她提出的深入問題。

哈特曼於 2024 年開始採用口試，並不是唯一一位轉向這種相對傳統的評估方式的教師。她告訴學生，使用AI就像是為了鍛鍊肌肉，但把起重機開進健身房。她說：「教室就是健身房，而我是你的私人教練，我希望你自己舉起重物。」迄今為止，學生大多樂於接受這種訓練方式。

學生不僅在家考試或寫小論文時利用AI工具作弊，甚至可以完成各種不同的作業。AI生成圖

學生不僅在家考試或寫小論文時利用AI工具作弊，甚至可以完成各種不同的作業。據高等教育內幕（Inside Higher Ed）近日對大學生進行的一項調查顯示：85% 的受訪者表示曾在課程中使用過AI，包括用於腦力激盪和準備小考，其中四分之一承認曾利用AI完成作業。約 30% 的人認為，大學應該設計更多能防止AI作弊的評估方式，其中包括口試。

最早出現在新冠疫情期間

對於這種古老評估方式口試的新興興趣，最早出現在新冠疫情期間，當時人們擔心在線考試環境可能導致作弊問題。如今，隨著AI模型的出現，甚至包括AI智能眼鏡，口試再次引起了新一輪的關注。

對於這種古老評估方式口試的新興興趣，最早出現在新冠疫情期間。資料圖

儘管有些教育界人士認為，口試更適合小班制課程，但對口試日益高漲的興趣已跨越學科和班級規模。加拿大西安大略大學（University of Western Ontario）曾在一門擁有多達 600 名學生的大學商學課程中實施口試，聖地牙哥加州大學也將口試引入 6 門大型工程課程，對提升學習動機產生了積極影響。

口試「無疑正在經歷一場復興」

聖地牙哥加州大學學術誠信辦公室主任 Tricia Bertram Gallant 表示，口試「無疑正在經歷一場復興」。但她也指出，這種考試並不適用於所有情況，但它可以帶來一項額外的好處，即讓學生練習一項對多數職業都極為重要的技能。

聖地牙哥加州大學學術誠信辦公室主任 Tricia Bertram Gallant 表示，口試「無疑正在經歷一場復興」。AI生成圖