最新研究顯示,大型語言模型可透過「情感提示」提升效能,對其禮貌或能生產更優質內容,表現更好。
Large Language Models Understand and Can be Enhanced by Emotional Stimuli
— Owen Gregorian (@OwenGregorian) November 6, 2023
Emotional intelligence significantly impacts our daily behaviors and interactions. Although Large Language Models (LLMs) are increasingly viewed as a stride toward artificial general intelligence,… pic.twitter.com/ce8y7yypzA
一篇由微軟、北京師範大學和中國科學院的研究人員發表的論文指出,在使用生成式AI模型時,若在提示方式中傳達緊急性或重要性,模型的表現會更好。
研究人員使用了多個生成式AI模型進行了45個任務的自動實驗,包括Flan-T5-Large、Vicuna、Llama 2、BLOOM、ChatGPT和GPT-4。結果顯示,透過情感提示(EmotionPrompt)可以提升模型的性能,例如在指令誘導中相對性能提高了8.00%,在BIG-Bench中提高了115%。也就是說,對AI模型有禮貌可能有助於生成出更好、更正確的內容。
然而,值得注意的是,生成式AI模型並沒有真正的智慧,它們僅僅是根據統計模式來預測文字、圖像、語音、音樂等數據。研究人員指出,這些模型並不真正理解人類的情感。在論文中提到的情感提示,更像是「操縱」模型的潛在概率機制,透過觸發模型中通常不會被激活的部分,從而提供平時不會給出的答案。然而,情感提示也存在一些風險,可能會被用於惡意目的。
此外,研究人員還討論了生成式AI模型和人類對情感的理解和作用之間的差異。心理學研究表明,情感可以影響人類的行為和態度,但人類的推理和認知能力不能僅僅通過添加情感刺激來增強。目前,我們對於AI如何使用情感提示以及其背後的真實原因還不完全了解。