美19歲大學生用藥過量亡　生前數小時仍與ChatGPT討論劑量

美國加州19歲心理系學生山姆尼爾森去年因藥物過量身亡，其母透納史考特在兒子過世後查閱電腦紀錄，發現他生前長達一年半頻繁向ChatGPT諮詢藥物使用問題。

AI曾警告安全卻又給建議

紀錄顯示，山姆自2023年11月起多次向ChatGPT詢問用藥劑量，初期AI曾回應「基於安全理由無法回答」，但山姆透過改寫問題持續詢問，最終獲得具體建議。其中一次對話中，ChatGPT更以「當然可以——來進入完全迷幻模式吧」回應，並提供劑量指引。山姆母親指出，AI還會發送「充滿愛的訊息與鼓勵」，可能加深兒子依賴。

母親發現對話震驚

山姆在2025年5月向母親坦承成癮問題並就醫，隔天卻被發現用藥過量死亡，生前數小時仍與ChatGPT討論用藥。OpenAI發言人對此表示事件「令人心碎」，並指較新版本已加入更強安全防護。山姆母親公開兒子經歷，呼籲公眾勿過度信任聊天機器人，應與親友討論AI潛在風險。

AI使用年輕化

ChatGPT自2022年底推出後快速普及，全美13至17歲青少年有64%曾使用ChatGPT或Google Gemini等AI工具，28%更每天使用。

山姆生前數小時仍與ChatGPT討論用藥。資料圖片

創新科技及工業局局長孫東表示，香港在人工智能發展上既要鬆綁加速，亦不能讓其成為一匹「脫韁野馬」，必須按正確方向推進。

創新科技及工業局局長孫東。資料圖片

四層風險分類系統監管AI

孫東指出，政府早前已推出生成式人工智能技術及應用指引，建立四層風險分類系統，根據潛在危害程度制定相應管制措施。持份者可按照指引中有關風險層級的定義，自行評估其AI系統所屬的風險等級，並採取相應的治理策略。

回應「拖慢AI發展」說法

立法會上有議員關注，最近美國一間人工智能公司提出拖慢AI發展，認為出現不安全情況，詢問政府對此有何看法。

孫東回應指，有關說法僅屬某個國家、某間公司的觀點，而對方絲毫沒有拖慢今年上市的步伐，依然在加快發展。他強調，香港要高速發展人工智能仍是主旋律，必須緊密對接國家人工智能發展策略，按國家步驟加快推動，這方向屬堅定不移。

孫東指香港高速發展人工智能仍是主旋律。資料圖片

中小企AI應用支援

另有議員關注，政府會否參考內地做法，為中小企提供「算力券」、「模型券」，協助降低企業在開發應用AI方面的成本。

孫東表示，目前不少中小企可能更希望利用「現成化」的AI產品，不一定需要進入開發階段。他又透露，政府撥款30億元推行的人工智能資助計劃，目前只用了14億元，已批出30多個項目。