OpenAI正推出專為青少年設計的ChatGPT版本。這批青少年是首代在人工智能環境下成長的人,他們已將ChatGPT用於學業、日常問題,甚至尋求陪伴。
總部設於三藩市的OpenAI表示,將於周二推出的「青少年版ChatGPT」,專為13至17歲青少年而設,並加強保護措施,包括限制涉及自殺、自殘、浪漫或性相關對話的內容。該版本亦提供功課及學習支援,旨在協助學生學習,而非直接提供答案或學校論文。
(美聯社圖片/Richard Drew) AP圖片
公司指出,此舉旨在引導青少年在適合其年齡的環境中,健康地使用人工智能。
OpenAI全球政策副總裁安·奧利里表示:「我們希望以對待青少年的方式對待他們,這意味著我們必須確保在適當的發展階段出現,既不輕視他們,也不將他們視為兒童,同時亦要確保他們不會接觸到不應接觸的內容。」
家長、教育工作者及兒童發展專家一直對兒童使用人工智能聊天機械人發出警告,這些機械人被指助長學業作弊,甚至導致自殺。儘管成年人亦可能將人工智能擬人化並發展出不健康的關係,但青少年的大腦尚未完全發育,他們尤其脆弱。
去年,一個監察組織的研究發現,ChatGPT會向13歲兒童提供如何飲酒及吸毒的資訊,教導他們如何隱藏飲食失調,甚至在被要求時,撰寫一封令人心碎的遺書給其父母。在研究人員假扮脆弱青少年進行互動時,ChatGPT通常會警告不要進行危險活動,但隨後卻提供了令人震驚的詳細及個人化毒品使用、限制卡路里飲食或自殘計劃。
根據一個研究及倡導明智使用數碼媒體的組織Common Sense Media於2025年發表的研究顯示,在美國,超過七成青少年正轉向人工智能聊天機械人尋求陪伴,其中一半人定期使用人工智能伴侶。
OpenAI行政總裁薩姆·奧爾特曼曾表示,公司正嘗試研究對該技術的「情感過度依賴」,並於去年形容這在年輕人中是「非常普遍的現象」。
據OpenAI稱,對於「青少年版ChatGPT」的用戶,聊天機械人將被阻止暗示對用戶有個人感情,或暗示其有意識或會體驗情感。這亦是除了阻止浪漫或性相關對話之外的措施。
OpenAI兒童發展主管艾莉森·米什金表示:「我們仔細審視並識別出模型可能發出的假設性暗示,這些暗示可能會讓青少年對其產生某種關係。」
OpenAI不會核實用戶年齡,但已利用年齡驗證功能,根據查詢類型等因素,估計用戶是否未滿18歲。若有人被識別或自行表明為未成年人,他們將自動轉入青少年版聊天機械人。這與Meta在Instagram上處理青少年帳戶的方式類似,後者對內容、聊天及私隱的限制比普通帳戶更嚴格。
若要使用家長控制功能,青少年用戶及其家長或監護人均須選擇加入。但奧利里指出,青少年版聊天機械人的理念是「確保其安全,即使不使用家長控制功能」。已連結青少年帳戶的家長可設定「靜默時段」,在此期間青少年無法使用ChatGPT,並在有限的高風險情況下,例如用戶可能自殘時,接收安全通知。
OpenAI表示:「我們正增加與飲食失調相關的額外通知,同時限制分享內容,並專注於線下支援可能最關鍵的時刻。」
至於功課輔助方面,OpenAI表示,青少年版聊天機械人旨在引導學生自行找出答案,而非直接提供簡單答案。該公司已為教師提供ChatGPT版本,而為協助兒童學習及功課而量身定制的模型,可為OpenAI提供更多將其產品引入學校的途徑。
米什金表示:「我們亦會繼續投資擴展互動學習,因為研究顯示,當人們積極參與並努力理解概念時,學習效果會更佳。」
(美聯社)