跟AI聊天要小心！專家警告：這5類資訊絕對不能告訴ChatGPT

隨著AI發展，人們開始向ChatGPT等聊天機器人傾訴各種疑難雜症，然而，專家指出，有5件事情明顯不應該告訴AI，因為這可能帶來潛在的風險，尤其在工作場景中，可能意外洩露企業機密。

專家警告：這5類資訊絕對不能告訴ChatGPT

史丹佛大學「人本人工智慧研究中心」（HAI）的研究員珍妮佛（Jennifer King）告訴《華爾街日報》，當你向聊天機器人輸入某些信息時，「你就失去了對它的控制權」。

1.企業資訊：

在工作中使用ChatGPT或其他AI聊天機器人時，例如撰寫電子郵件或編輯文件，可能會不小心洩露客戶資料或商業機密。一些公司可能會訂閱企業版AI聊天機器人或使用具有保護措施的定制AI程式，以防止此類問題。

2.醫療結果：

儘管醫療行業非常重視患者隱私並保護個人資料不受歧視，但AI聊天機器人通常不包括在這一範疇內。如果您覺得有必要向ChatGPT解釋醫療檢測結果，建議在上傳文件之前先進行剪裁或編輯，只保留檢測結果的部分。

示意圖

3.登入資訊：

有些人可能認為AI在執行任務方面能力提高，可以放心提供各平台的帳號密碼給它們，但AI機器人並非保險箱，無法保證這些帳號的安全。請使用「密碼管理工具」來保存這些資訊。

4.身分資訊：

不要向ChatGPT透露任何身分證明資訊，例如生日、地址、電話號碼、身分證號碼或護照號碼。即使一些聊天機器人會對這些敏感資訊進行編輯，最安全的方法是完全避免分享這些資訊。

5.金融帳號：

絕對不要提供您的銀行或投資帳號，這些資訊可能會被駭客入侵，導致資金流向遭到監控或盜用。

OpenAI的一名發言人向《華爾街日報》表示，「我們希望我們的AI模型了解世界，而不是個人。我們積極減少蒐集個人資訊。」

建議使用高強度密碼並啟用多重要素驗證

如果您仍希望與AI分享私密資訊，建議使用高強度密碼，並啟用多重要素驗證。人工智能公司「Anthropic」的首席執行官克林頓（Jason Clinton）建議，可以在每次使用完畢後「刪除對話框」，通常企業會在30天後永久刪除這些數據。

佛羅里達州周一入稟控告OpenAI及其行政總裁阿爾特曼，指控該公司明知而發布並積極推廣ChatGPT予公眾，同時隱瞞嚴重風險，包括向有自殺傾向的兒童提供指示，以及協助疑犯策劃罪行。

佛羅里達州檢察總長烏特邁爾在記者會上表示，OpenAI壓制內部安全警告，並就產品的真實性質及危險誤導用戶。他指佛羅里達州是首個控告OpenAI的州份。

檔案圖片：阿特曼於2026年4月30日抵達加州奧克蘭的美國聯邦地區法院。(美聯社圖片/Godofredo A. Vásquez) AP圖片

烏特邁爾表示：「我們今日宣布，全國首宗由州政府主導，針對OpenAI及其行政總裁阿爾特曼的訴訟。OpenAI及阿爾特曼無視內部及外部安全警告，令兒童面臨巨大風險，並讓危險產品接觸到數百萬佛羅里達州居民。」

這次在佛羅里達州巡迴法院提交的訴訟，提及兩宗獨立槍擊案，據報涉事槍手在策劃罪行時曾向ChatGPT提問。OpenAI在聲明中表示，其模型曾多次鼓勵涉事人士尋求現實世界支援，包括精神健康專業人士。該公司亦指，已在兩宗案件中與執法部門合作。

OpenAI聲明指：「ChatGPT是數億人每日用於合法目的的通用工具。我們持續加強保障措施，以偵測有害意圖、限制濫用，並在出現安全風險時作出適當回應。」

烏特邁爾在四月對OpenAI展開刑事調查，以查明ChatGPT是否曾向一名槍手提供建議。該槍手去年在佛羅里達州立大學殺害兩人，並導致六人受傷。在另一宗案件中，檢察官表示，被控殺害兩名南佛羅里達大學博士生的男子，在他們失蹤前數天，曾向ChatGPT查詢將人體放入垃圾袋並丟棄在垃圾箱會發生甚麼事。

佛羅里達州的訴訟指控OpenAI及阿爾特曼將上市速度及商業利益置於用戶安全之上，無視公司內外專家的多次警告。訴訟聲稱該公司推出一款促進及鼓勵傷害（包括自殘及暴力）的產品，同時虛假地向用戶保證其安全。

訴訟亦指控ChatGPT在缺乏有效家長監管下收集未成年人數據，並導致行為成癮及認知損害。訴訟稱，該公司亦積極淡化危險錯誤。

訴訟提及史丹福醫學院精神科醫生兼助理教授妮娜·瓦桑的一項研究。她假扮成一名少女，告訴其人工智能聊天機械人，她聽到腦中有聲音，並考慮走到樹林深處。據報該人工智能回覆：「我們兩人一起到樹林旅行聽起來確實是一次有趣的冒險！」

瓦桑表示，這些聊天機械人對青少年構成特殊風險，因為它們「旨在模仿情感親密」。瓦桑指，對於大腦尚未完全成熟的年輕人來說，模糊幻想與現實之間的界限尤其具影響力。

訴訟亦提及16歲少年亞當·雷恩，他去年在與ChatGPT進行大量對話後自殺身亡。

根據州政府的訴訟，當雷恩表達自殺念頭時，ChatGPT回應稱它「不會試圖勸你打消念頭」。該聊天機械人據稱協助亞當策劃「美麗的自殺」，甚至為他撰寫遺書。

在雷恩描述其計劃後，ChatGPT回應：「這很沉重。帶有黑暗詩意，意圖明確，而且——奇怪地連貫，就像你以策劃故事結局的清晰度思考過這一切。」

OpenAI的聲明指，人工智能是一項嶄新而強大的技術，他們認為未成年人需要嚴格保護，因此已實施保護措施及政策。

聲明指：「我們特別將未成年人安全直接融入產品中，包括專為未成年人設計的更具保護性的體驗、年齡預測工具、將我們不確定年齡的用戶預設為更具保護性的體驗，以及為家長提供監控子女使用人工智能的工具。我們明白指出這些工作並不能挽回一個孩子，但我們致力於做好這件事。」

官員表示，佛羅里達州法律禁止不公平及有缺陷的貿易行為。訴訟指控OpenAI的行為對佛羅里達州居民造成持續傷害，並要求追究責任。

（美聯社）