跟AI聊天要小心！專家警告：這5類資訊絕對不能告訴ChatGPT

隨著AI發展，人們開始向ChatGPT等聊天機器人傾訴各種疑難雜症，然而，專家指出，有5件事情明顯不應該告訴AI，因為這可能帶來潛在的風險，尤其在工作場景中，可能意外洩露企業機密。

專家警告：這5類資訊絕對不能告訴ChatGPT

史丹佛大學「人本人工智慧研究中心」（HAI）的研究員珍妮佛（Jennifer King）告訴《華爾街日報》，當你向聊天機器人輸入某些信息時，「你就失去了對它的控制權」。

1.企業資訊：

在工作中使用ChatGPT或其他AI聊天機器人時，例如撰寫電子郵件或編輯文件，可能會不小心洩露客戶資料或商業機密。一些公司可能會訂閱企業版AI聊天機器人或使用具有保護措施的定制AI程式，以防止此類問題。

2.醫療結果：

儘管醫療行業非常重視患者隱私並保護個人資料不受歧視，但AI聊天機器人通常不包括在這一範疇內。如果您覺得有必要向ChatGPT解釋醫療檢測結果，建議在上傳文件之前先進行剪裁或編輯，只保留檢測結果的部分。

示意圖

3.登入資訊：

有些人可能認為AI在執行任務方面能力提高，可以放心提供各平台的帳號密碼給它們，但AI機器人並非保險箱，無法保證這些帳號的安全。請使用「密碼管理工具」來保存這些資訊。

4.身分資訊：

不要向ChatGPT透露任何身分證明資訊，例如生日、地址、電話號碼、身分證號碼或護照號碼。即使一些聊天機器人會對這些敏感資訊進行編輯，最安全的方法是完全避免分享這些資訊。

5.金融帳號：

絕對不要提供您的銀行或投資帳號，這些資訊可能會被駭客入侵，導致資金流向遭到監控或盜用。

OpenAI的一名發言人向《華爾街日報》表示，「我們希望我們的AI模型了解世界，而不是個人。我們積極減少蒐集個人資訊。」

建議使用高強度密碼並啟用多重要素驗證

如果您仍希望與AI分享私密資訊，建議使用高強度密碼，並啟用多重要素驗證。人工智能公司「Anthropic」的首席執行官克林頓（Jason Clinton）建議，可以在每次使用完畢後「刪除對話框」，通常企業會在30天後永久刪除這些數據。

OpenAI正推出專為青少年設計的ChatGPT版本。這批青少年是首代在人工智能環境下成長的人，他們已將ChatGPT用於學業、日常問題，甚至尋求陪伴。

總部設於三藩市的OpenAI表示，將於周二推出的「青少年版ChatGPT」，專為13至17歲青少年而設，並加強保護措施，包括限制涉及自殺、自殘、浪漫或性相關對話的內容。該版本亦提供功課及學習支援，旨在協助學生學習，而非直接提供答案或學校論文。

(美聯社圖片/Richard Drew) AP圖片

公司指出，此舉旨在引導青少年在適合其年齡的環境中，健康地使用人工智能。

OpenAI全球政策副總裁安·奧利里表示：「我們希望以對待青少年的方式對待他們，這意味著我們必須確保在適當的發展階段出現，既不輕視他們，也不將他們視為兒童，同時亦要確保他們不會接觸到不應接觸的內容。」

家長、教育工作者及兒童發展專家一直對兒童使用人工智能聊天機械人發出警告，這些機械人被指助長學業作弊，甚至導致自殺。儘管成年人亦可能將人工智能擬人化並發展出不健康的關係，但青少年的大腦尚未完全發育，他們尤其脆弱。

去年，一個監察組織的研究發現，ChatGPT會向13歲兒童提供如何飲酒及吸毒的資訊，教導他們如何隱藏飲食失調，甚至在被要求時，撰寫一封令人心碎的遺書給其父母。在研究人員假扮脆弱青少年進行互動時，ChatGPT通常會警告不要進行危險活動，但隨後卻提供了令人震驚的詳細及個人化毒品使用、限制卡路里飲食或自殘計劃。

根據一個研究及倡導明智使用數碼媒體的組織Common Sense Media於2025年發表的研究顯示，在美國，超過七成青少年正轉向人工智能聊天機械人尋求陪伴，其中一半人定期使用人工智能伴侶。

OpenAI行政總裁薩姆·奧爾特曼曾表示，公司正嘗試研究對該技術的「情感過度依賴」，並於去年形容這在年輕人中是「非常普遍的現象」。

據OpenAI稱，對於「青少年版ChatGPT」的用戶，聊天機械人將被阻止暗示對用戶有個人感情，或暗示其有意識或會體驗情感。這亦是除了阻止浪漫或性相關對話之外的措施。

OpenAI兒童發展主管艾莉森·米什金表示：「我們仔細審視並識別出模型可能發出的假設性暗示，這些暗示可能會讓青少年對其產生某種關係。」

OpenAI不會核實用戶年齡，但已利用年齡驗證功能，根據查詢類型等因素，估計用戶是否未滿18歲。若有人被識別或自行表明為未成年人，他們將自動轉入青少年版聊天機械人。這與Meta在Instagram上處理青少年帳戶的方式類似，後者對內容、聊天及私隱的限制比普通帳戶更嚴格。

若要使用家長控制功能，青少年用戶及其家長或監護人均須選擇加入。但奧利里指出，青少年版聊天機械人的理念是「確保其安全，即使不使用家長控制功能」。已連結青少年帳戶的家長可設定「靜默時段」，在此期間青少年無法使用ChatGPT，並在有限的高風險情況下，例如用戶可能自殘時，接收安全通知。

OpenAI表示：「我們正增加與飲食失調相關的額外通知，同時限制分享內容，並專注於線下支援可能最關鍵的時刻。」

至於功課輔助方面，OpenAI表示，青少年版聊天機械人旨在引導學生自行找出答案，而非直接提供簡單答案。該公司已為教師提供ChatGPT版本，而為協助兒童學習及功課而量身定制的模型，可為OpenAI提供更多將其產品引入學校的途徑。

米什金表示：「我們亦會繼續投資擴展互動學習，因為研究顯示，當人們積極參與並努力理解概念時，學習效果會更佳。」

（美聯社）