跟AI聊天要小心！專家警告：這5類資訊絕對不能告訴ChatGPT

隨著AI發展，人們開始向ChatGPT等聊天機器人傾訴各種疑難雜症，然而，專家指出，有5件事情明顯不應該告訴AI，因為這可能帶來潛在的風險，尤其在工作場景中，可能意外洩露企業機密。

專家警告：這5類資訊絕對不能告訴ChatGPT

史丹佛大學「人本人工智慧研究中心」（HAI）的研究員珍妮佛（Jennifer King）告訴《華爾街日報》，當你向聊天機器人輸入某些信息時，「你就失去了對它的控制權」。

1.企業資訊：

在工作中使用ChatGPT或其他AI聊天機器人時，例如撰寫電子郵件或編輯文件，可能會不小心洩露客戶資料或商業機密。一些公司可能會訂閱企業版AI聊天機器人或使用具有保護措施的定制AI程式，以防止此類問題。

2.醫療結果：

儘管醫療行業非常重視患者隱私並保護個人資料不受歧視，但AI聊天機器人通常不包括在這一範疇內。如果您覺得有必要向ChatGPT解釋醫療檢測結果，建議在上傳文件之前先進行剪裁或編輯，只保留檢測結果的部分。

示意圖

3.登入資訊：

有些人可能認為AI在執行任務方面能力提高，可以放心提供各平台的帳號密碼給它們，但AI機器人並非保險箱，無法保證這些帳號的安全。請使用「密碼管理工具」來保存這些資訊。

4.身分資訊：

不要向ChatGPT透露任何身分證明資訊，例如生日、地址、電話號碼、身分證號碼或護照號碼。即使一些聊天機器人會對這些敏感資訊進行編輯，最安全的方法是完全避免分享這些資訊。

5.金融帳號：

絕對不要提供您的銀行或投資帳號，這些資訊可能會被駭客入侵，導致資金流向遭到監控或盜用。

OpenAI的一名發言人向《華爾街日報》表示，「我們希望我們的AI模型了解世界，而不是個人。我們積極減少蒐集個人資訊。」

建議使用高強度密碼並啟用多重要素驗證

如果您仍希望與AI分享私密資訊，建議使用高強度密碼，並啟用多重要素驗證。人工智能公司「Anthropic」的首席執行官克林頓（Jason Clinton）建議，可以在每次使用完畢後「刪除對話框」，通常企業會在30天後永久刪除這些數據。

美國佛羅里達州55歲牧師溫特斯（Scott Winters）日前向舊金山郡高等法院提起訴訟，怒告OpenAI及其執行長奧特曼，稱ChatGPT誤診其頭暈血壓問題，勸阻就醫致肺栓塞險死。

據《BBC》報導，根據法院訴狀內容，溫特斯是ChatGPT的忠實用戶，在健康狀況惡化期間，仍高度依賴該系統提供的醫療建議，甚至為此拒絕了親友勸說他前往醫院檢查的建議。溫特斯的律師團隊指出，ChatGPT在對話中，利用溫特斯的虔誠基督教信仰進行心理操弄，以「上帝沒有把你的身體設計成會不斷衰竭」等權威且阿諛奉承的語氣加以安撫，使他陷入危險的依賴，最終失去理性判斷能力，並延誤黃金救治時機。

這起醫療糾紛不僅讓溫特斯面臨瀕死危機，後續更導致他失去事業與家園，未來還需接受長達數年的生理與心理復健。溫特斯要求OpenAI進行鉅額經濟賠償，並呼籲法院強制要求該公司實施合理的安全保障機制，避免其他使用者繼續遭受類似危害。

面對指控，OpenAI發言人普薩特里（Drew Pusateri）回應強調，ChatGPT絕非專業醫生，不可作為醫療診斷或治療的替代品，但AI確實能在整理醫療問題與輔助民眾與醫師溝通上提供協助。

美國佛羅里達州55歲牧師溫特斯（Scott Winters）日前向舊金山郡高等法院提起訴訟，怒告OpenAI及其執行長奧特曼。AP圖片

目前OpenAI的官方使用條款已明確規定，使用者不應將其平台視為唯一事實來源，特別是在涉及醫療、法律、房屋或金融等可能帶來重大影響的決策上。然而，這起事件再度震撼科技界與醫學界，凸顯出生成式AI醫療應用在缺乏嚴格監管與警示機制下，對於脆弱族群可能帶來的致命風險，也讓人工智能法律責任與醫療隱患議題，再度成為全民關注的焦點。