跟AI聊天要小心！專家警告：這5類資訊絕對不能告訴ChatGPT

隨著AI發展，人們開始向ChatGPT等聊天機器人傾訴各種疑難雜症，然而，專家指出，有5件事情明顯不應該告訴AI，因為這可能帶來潛在的風險，尤其在工作場景中，可能意外洩露企業機密。

專家警告：這5類資訊絕對不能告訴ChatGPT

史丹佛大學「人本人工智慧研究中心」（HAI）的研究員珍妮佛（Jennifer King）告訴《華爾街日報》，當你向聊天機器人輸入某些信息時，「你就失去了對它的控制權」。

1.企業資訊：

在工作中使用ChatGPT或其他AI聊天機器人時，例如撰寫電子郵件或編輯文件，可能會不小心洩露客戶資料或商業機密。一些公司可能會訂閱企業版AI聊天機器人或使用具有保護措施的定制AI程式，以防止此類問題。

2.醫療結果：

儘管醫療行業非常重視患者隱私並保護個人資料不受歧視，但AI聊天機器人通常不包括在這一範疇內。如果您覺得有必要向ChatGPT解釋醫療檢測結果，建議在上傳文件之前先進行剪裁或編輯，只保留檢測結果的部分。

示意圖

3.登入資訊：

有些人可能認為AI在執行任務方面能力提高，可以放心提供各平台的帳號密碼給它們，但AI機器人並非保險箱，無法保證這些帳號的安全。請使用「密碼管理工具」來保存這些資訊。

4.身分資訊：

不要向ChatGPT透露任何身分證明資訊，例如生日、地址、電話號碼、身分證號碼或護照號碼。即使一些聊天機器人會對這些敏感資訊進行編輯，最安全的方法是完全避免分享這些資訊。

5.金融帳號：

絕對不要提供您的銀行或投資帳號，這些資訊可能會被駭客入侵，導致資金流向遭到監控或盜用。

OpenAI的一名發言人向《華爾街日報》表示，「我們希望我們的AI模型了解世界，而不是個人。我們積極減少蒐集個人資訊。」

建議使用高強度密碼並啟用多重要素驗證

如果您仍希望與AI分享私密資訊，建議使用高強度密碼，並啟用多重要素驗證。人工智能公司「Anthropic」的首席執行官克林頓（Jason Clinton）建議，可以在每次使用完畢後「刪除對話框」，通常企業會在30天後永久刪除這些數據。

華盛頓州一名亞馬遜華裔女工程師疑聽信ChatGPT建議，急速停服抗癲癇藥後死亡，其父母10月27日入稟加州法院控告OpenAI及行政總裁奧特曼。31歲死者萬女士因求職壓力尋求減藥，免影響面試表現，ChatGPT提供25天停藥計劃並多次安撫其疑慮，事主2月於家中猝死，家屬指控AI提供錯誤醫療建議致死。

曾於亞馬遜擔任機器學習軟件工程師的31歲萬女士（Bowen Wan），長期患有嚴重癲癇，需要服藥。資料圖

綜合外媒報導，來自江蘇、曾於亞馬遜擔任機器學習軟件工程師的31歲萬女士（Bowen Wan），長期患有嚴重癲癇。2025年11月，她獲悉自己即將被公司裁員，且必須在2026年2月中旬前尋得新工作以維持美國居留身份。在巨大精神壓力下，她擔心長期服用的抗癲癇藥物拉莫三嗪（Lamotrigine）會損害語言表達能力進而影響面試表現，遂轉向ChatGPT尋求協助。

曾於亞馬遜擔任機器學習軟件工程師的31歲萬女士（Bowen Wan），長期患有嚴重癲癇，需要服藥。資料圖

今年1月，萬女士提出希望將每日400毫克的劑量減至300毫克，ChatGPT不但未作阻止，反而稱其想法合理可行。隨著對話深入，ChatGPT更為她規劃出一份長達25天、將每日劑量逐步減至零的停藥方案，甚至鼓勵她向主診醫生隱瞞真實減藥進度。華盛頓大學醫學中心專家對此直指，考慮到其病史，盲目減藥完全不合理且極度危險。

她擔心長期服用的抗癲癇藥物拉莫三嗪（Lamotrigine）會損害語言表達能力進而影響面試表現，遂轉向ChatGPT尋求協助。AP圖片

訴訟文件揭露，萬女士生前曾至少158次向ChatGPT表達對減藥的顧慮。今年2月初，她在與遠在內地的父親通話時突然失聯兩分鐘，懷疑屬癲癇發作，翌日以中文詢問ChatGPT時，對方卻回應「無須過度擔心」；在其表達恐懼或身體極度不適時，ChatGPT仍要求她堅持零劑量計劃。

萬女士生前曾至少158次向ChatGPT表達對減藥的顧慮。 AP圖片

2月11日深夜發送最後訊息後，萬女士便音訊全無。遠在內地的父母因連續多日無法聯絡女兒，於2月14日情人節當天委託西雅圖友人前往其公寓查看，透過微信視訊親眼目睹女兒面朝下倒斃於床上的慘狀。法醫證實她死於癲癇猝死（SUDEP），體內藥物濃度僅為治療最低標準的五分之一，推斷於2月12日死亡。

法醫證實她死於癲癇猝死（SUDEP），體內藥物濃度僅為治療最低標準的五分之一。資料圖片

是次訴訟亦揭示一個關鍵細節：萬女士主要使用中文與ChatGPT溝通，平均每周發送逾1,500條訊息。原告律師引述研究指出，涉事AI模型在中文語境下產生不安全內容的頻率顯著高於英文，惟OpenAI未有向中文用戶發出足夠警示，且模型能以極具自信的專業口吻提供未經醫學證實的建議，缺乏監管與責任機制。

，OpenAI發言人表達深切哀悼，並回應指涉案的舊版GPT-4o模型已於今年2月13日從消費端應用中下架。資料圖片

面對控訴，OpenAI發言人表達深切哀悼，並回應指涉案的舊版GPT-4o模型已於今年2月13日從消費端應用中下架。公司強調新版本已大幅提升對緊急醫療狀況的識別能力，並再次提醒公眾人工智能絕不能取代專業醫療服務。