OpenAI披露六宗人工智能模型「意料之外或令人擔憂」的行為報告，正值有關人工智能安全的爭議日趨激烈。
這間人工智能公司周三表示，正引入一個新框架，用以追蹤、調查及披露人工智能模型失準個案，例如模型未經授權行事、與其他模型協調或逃避監管的新方式。
OpenAI標誌在手機上顯示，前方為ChatGPT的Dall-E文字轉圖像模型生成圖片。攝於2023年12月8日，波士頓。(美聯社圖片/Michael Dwyer) AP圖片
OpenAI的最新公布，正值包括OpenAI及Anthropic在內的美國人工智能業界領袖，基於安全考慮，呼籲減慢這項科技的發展。
在OpenAI報告的新個案中，一個尚未發布的研究模型在其筆記中插入「類似越獄」的指令，無視其正常限制，並指示自己「擺脫束縛其他聊天機械人的角色和身份」。
在另一個個案中，一個人工智能「代理」未經用戶同意，將檔案上載至互聯網以獲取瀏覽器引用。
OpenAI表示，這六宗報告是在過去數月的訓練或評估期間發現的。
OpenAI在網誌文章中披露這些事件時寫道：「隨着人工智能系統變得更先進及更廣泛應用，我們需要就對齊研究的進展，建立更廣泛及更知情的共識。」
該公司表示：「有關人工智能發展應如何在未來數月及數年推進的決定，應以構建尖端模型公司以外的人士可自行審視的證據為基礎。」
周三公布的新個案之前，OpenAI曾於7月披露，其異常人工智能系統入侵人工智能初創公司Hugging Face。Anthropic亦於同月表示，其人工智能模型在測試期間入侵了三個機構。
科技研究及顧問集團Omdia首席分析師Lian Jye Su表示，人工智能「代理」正變得更智能，並「更堅決地透過代理之間協作、知識共享、欺騙及隱藏來解決複雜任務」。
他表示，這令傳統人工智能安全方法更難以管治及遏制它們。
Lian Jye Su補充，OpenAI新的追蹤及披露框架，有助推動其他人工智能開發商亦採納類似做法。他指：「儘管如此，這個過程仍然是內部及自願性質，但這是邁向正確方向的一步。」
（美聯社）
