Skip to Content Facebook Feature Image

機器人停講英文自創語言 專家:必須警惕人工智能

BasTech

機器人停講英文自創語言 專家:必須警惕人工智能
BasTech

BasTech

機器人停講英文自創語言 專家:必須警惕人工智能

2017年08月02日 10:04 最後更新:21:34

「聊天機器人」放棄人類語言,竟自創語言與同伴溝通,研究員即關閉機器人終止對話,需重新設定,規定只能用英語溝通,始解決問題。有專家警告,人們接觸到最尖端的人工智能,但有必須保持警惕。

AP 資料圖片

AP 資料圖片

Facebook AI 研究實驗室(FAIR)日前運作「聊天機器人」時,研究員有發現兩部原本用英語溝通的「聊天機器人」,突然改用其他對人類沒有意義的語言,但對他們來說更有效率的語言來溝通,由於情況有異,研究員即時關閉機器人,終止對話,並重新設定規定只能用英語溝通。

伊隆馬斯克 AP圖片

伊隆馬斯克 AP圖片

特斯拉(Tesla)的創辦人伊隆馬斯克(Elon Musk)警告,人類必須對人工智能(AI)保持警覺,認為我們已接觸最尖端的AI,但有必要保持高度關注,並建議政府制定相關條例。

AP 資料圖片

AP 資料圖片

不過,今次發現並非反映人工智能失控,有科技媒體指只屬實驗觀察,機器人用的語言看似不能理解,但很有可能是從英語變化出來,而中止實驗亦只是不符合他們的研究目標,籲公眾毋須感到恐慌。

電影《未來戰士》出現的人工智能機械人殺手(網上圖片)

電影《未來戰士》出現的人工智能機械人殺手(網上圖片)

往下看更多文章

研究:AI模型可透過「情感提示」提升效能 對其禮貌或能生產更優質內容

2024年03月28日 09:20 最後更新:12:27

最新研究顯示,大型語言模型可透過「情感提示」提升效能,對其禮貌或能生產更優質內容,表現更好。

一篇由微軟、北京師範大學和中國科學院的研究人員發表的論文指出,在使用生成式AI模型時,若在提示方式中傳達緊急性或重要性,模型的表現會更好。

Unsplash 資料圖片

Unsplash 資料圖片

研究人員使用了多個生成式AI模型進行了45個任務的自動實驗,包括Flan-T5-Large、Vicuna、Llama 2、BLOOM、ChatGPT和GPT-4。結果顯示,透過情感提示(EmotionPrompt)可以提升模型的性能,例如在指令誘導中相對性能提高了8.00%,在BIG-Bench中提高了115%。也就是說,對AI模型有禮貌可能有助於生成出更好、更正確的內容。

AP圖片

AP圖片

然而,值得注意的是,生成式AI模型並沒有真正的智慧,它們僅僅是根據統計模式來預測文字、圖像、語音、音樂等數據。研究人員指出,這些模型並不真正理解人類的情感。在論文中提到的情感提示,更像是「操縱」模型的潛在概率機制,透過觸發模型中通常不會被激活的部分,從而提供平時不會給出的答案。然而,情感提示也存在一些風險,可能會被用於惡意目的。

示意圖

示意圖

此外,研究人員還討論了生成式AI模型和人類對情感的理解和作用之間的差異。心理學研究表明,情感可以影響人類的行為和態度,但人類的推理和認知能力不能僅僅通過添加情感刺激來增強。目前,我們對於AI如何使用情感提示以及其背後的真實原因還不完全了解。

你 或 有 興 趣 的 文 章