OpenAI披露六宗人工智能模型「意料之外或令人擔憂」的行為報告，正值有關人工智能安全的爭議日趨激烈。
這間人工智能公司周三表示，正引入一個新框架，用以追蹤、調查及披露人工智能模型失準個案，例如模型未經授權行事、與其他模型協調或逃避監管的新方式。
OpenAI標誌在手機上顯示，前方為ChatGPT的Dall-E文字轉圖像模型生成圖片。攝於2023年12月8日，波士頓。(美聯社圖片/Michael Dwyer) AP圖片
OpenAI的最新公布，正值包括OpenAI及Anthropic在內的美國人工智能業界領袖，基於安全考慮，呼籲減慢這項科技的發展。
在OpenAI報告的新個案中，一個尚未發布的研究模型在其筆記中插入「類似越獄」的指令，無視其正常限制，並指示自己「擺脫束縛其他聊天機械人的角色和身份」。
在另一個個案中，一個人工智能「代理」未經用戶同意，將檔案上載至互聯網以獲取瀏覽器引用。
OpenAI表示，這六宗報告是在過去數月的訓練或評估期間發現的。
OpenAI在網誌文章中披露這些事件時寫道：「隨着人工智能系統變得更先進及更廣泛應用，我們需要就對齊研究的進展，建立更廣泛及更知情的共識。」
該公司表示：「有關人工智能發展應如何在未來數月及數年推進的決定，應以構建尖端模型公司以外的人士可自行審視的證據為基礎。」
周三公布的新個案之前，OpenAI曾於7月披露，其異常人工智能系統入侵人工智能初創公司Hugging Face。Anthropic亦於同月表示，其人工智能模型在測試期間入侵了三個機構。
科技研究及顧問集團Omdia首席分析師Lian Jye Su表示，人工智能「代理」正變得更智能，並「更堅決地透過代理之間協作、知識共享、欺騙及隱藏來解決複雜任務」。
他表示，這令傳統人工智能安全方法更難以管治及遏制它們。
Lian Jye Su補充，OpenAI新的追蹤及披露框架，有助推動其他人工智能開發商亦採納類似做法。他指：「儘管如此，這個過程仍然是內部及自願性質，但這是邁向正確方向的一步。」
（美聯社）
Snap公司今日推出名為「SPECS智能」的預測式人工智能服務，旨在支援iPhone、Mac及SPECS擴增實境（AR）眼鏡，協助用戶管理日常事務，並推動長遠目標進度。
SPECS智能透過用戶選擇連接的應用程式及工具，建立對其目標、優先事項、人際關係及日常習慣的理解。這項服務旨在跨裝置傳遞個人情境，並隨時間深化理解，協助用戶在工作、個人責任及關注事務之間切換。
SPECS智能，一項預測式人工智能服務 AP圖片
Snap公司聯合創辦人兼行政總裁埃文·斯皮格爾表示：「電腦應融入我們的生活，而非反其道而行。」他指出，SPECS智能旨在協助用戶減少管理生活的時間，投入更多時間享受生活。
SPECS智能旨在預測何時提供協助會有所裨益，並在無需提示下顯示相關資訊及行動。例如，會議前可重點提示需作出的決定、要提出的問題及應記住的事項。對於即將到來的旅程，它可整合航班、酒店及晚餐計劃，同時標示旅程期間的工作限期。
這項更廣泛的體驗亦包括「角落」功能，可組織用戶生活中的不同範疇，例如工作及家庭；以及「目標」功能，協助用戶設定及追蹤其希望達成的成就。這些體驗旨在將日常任務與對用戶而言更重要的廣泛優先事項聯繫起來。
雖然使用SPECS智能無需SPECS AR眼鏡，但配合SPECS眼鏡，用戶的個人情境可透過將相關資訊直接呈現於視野中，延伸至實體世界。例如，旅行時可說「Hey SPECS」，以在視野中查看相關航班詳情、酒店資訊、預訂及提醒。又或上班前，可向SPECS查詢當日行程，以獲取完整的每日簡報，提供日程概覽並盡可能提供會議準備。
用戶可自行選擇連接的內容及SPECS智能可使用的資訊。SPECS智能的設計確保Snap公司人員無法查看或存取用戶使用該服務的個人內容。來自已連接帳戶的個人內容，將不會用於訓練或微調Snap公司的人工智能模型，亦不會用於投放個人化廣告。
SPECS智能採用裝置內處理及安全的雲端基礎設施，並在數據處理的任何環節提供安全保護。
用戶可於specs.com/intelligence或SPECS應用程式內加入搶先體驗的輪候名單。完整的搶先體驗將僅透過SPECS Mac應用程式提供，並採邀請制。隨著開放權限，獲選用戶將收到電郵邀請，以在Mac上登入並連接其日常應用程式。
由今日起，任何身處美國並年滿18歲人士，均可下載iOS版SPECS應用程式，無需邀請即可試用SPECS智能預覽版。透過連接Google帳戶，用戶將能根據Gmail及Google Calendar，了解其時間及注意力分配的洞察。流動預覽版主要集中於這些個人洞察，不包括該服務更廣泛的預測式建議或行動。
Snap公司是一間科技公司。該公司相信鏡頭為改善人們生活及溝通方式帶來最大機遇。Snap公司透過賦予人們表達自我、活在當下、認識世界及共同享受樂趣的能力，為人類進步作出貢獻。Snap公司營運Snapchat（一款視覺訊息應用程式，可增強用戶與朋友、家人及世界的關係），以及Specs公司（一間全資附屬公司，致力於使運算更人性化），此外還有Bitmoji、Saturn及其他數碼服務。
Specs公司是Snap公司旗下的全資附屬公司，致力於使運算更人性化。該公司開發SPECS AR眼鏡（一種將數碼體驗無縫整合到實體世界中的先進眼鏡），以及SPECS智能（一項預測式人工智能服務）。
SPECS AR眼鏡配備透視鏡片，可將數碼物件直接置於三維空間中，並由SPECS OS（一種專有、情境感知操作系統，專為透過手勢及語音進行自然互動而設計）驅動。
Specs公司亦提供Lens Studio，一套全面的先進開發者工具，為SPECS、Snapchat及其他服務提供沉浸式擴增實境體驗。
（美聯社）
