Google母公司Alphabet周三股價一度急挫8.9%,跌破100美元大關,市值蒸發1100億美元,據多家外媒報道,原因是Google新推出的人工智能(AI)聊天機器人Bard出師不利,在宣傳短片中「答錯問題」,公司的活動亦未能令人有耳目一新,令市場擔心該公司不及競爭對手微軟。
AP圖片
外媒報道,google較早時在網上發布AI 聊天機器人Bard,被用戶提問關於詹姆斯·韋伯(James Webb)太空望遠鏡有哪些新發現,Bard在回答中提到該望遠鏡是用來拍攝太陽系外行星的第一張照片。但根據美國太空總署資料,太陽系外行星的第一張照片是由歐洲南方天文台的「甚大望遠鏡」於2004年所拍,即Bard的答案有誤。
AP圖片
外媒用「 Google AI 聊天機器人Bard在推銷廣告中回答錯誤後 Alphabet 股價暴跌」為題,形容Alphabet的股價下跌事件。
資料圖片
Google在一份聲明中表示,Bard的回應「突顯了嚴格測試過程的重要性」。該公司稱,會把外部反饋與自己的內部測試結合起來,以確保Bard的回應「在質量、安全和真實信息的基礎上達到高標準」。
最新研究顯示,大型語言模型可透過「情感提示」提升效能,對其禮貌或能生產更優質內容,表現更好。
一篇由微軟、北京師範大學和中國科學院的研究人員發表的論文指出,在使用生成式AI模型時,若在提示方式中傳達緊急性或重要性,模型的表現會更好。
Unsplash 資料圖片
研究人員使用了多個生成式AI模型進行了45個任務的自動實驗,包括Flan-T5-Large、Vicuna、Llama 2、BLOOM、ChatGPT和GPT-4。結果顯示,透過情感提示(EmotionPrompt)可以提升模型的性能,例如在指令誘導中相對性能提高了8.00%,在BIG-Bench中提高了115%。也就是說,對AI模型有禮貌可能有助於生成出更好、更正確的內容。
AP圖片
然而,值得注意的是,生成式AI模型並沒有真正的智慧,它們僅僅是根據統計模式來預測文字、圖像、語音、音樂等數據。研究人員指出,這些模型並不真正理解人類的情感。在論文中提到的情感提示,更像是「操縱」模型的潛在概率機制,透過觸發模型中通常不會被激活的部分,從而提供平時不會給出的答案。然而,情感提示也存在一些風險,可能會被用於惡意目的。
示意圖
此外,研究人員還討論了生成式AI模型和人類對情感的理解和作用之間的差異。心理學研究表明,情感可以影響人類的行為和態度,但人類的推理和認知能力不能僅僅通過添加情感刺激來增強。目前,我們對於AI如何使用情感提示以及其背後的真實原因還不完全了解。