美國婦無意間聽見智能語音助理問女兒「穿甚麼衣服」之後更要求要看看,感到不恰當即停用裝置,亞馬遜事後回應稱技術錯誤所致。
智能語音助理突插話詢問4歲女童衣著
綜合外媒報導,美國一名32歲婦人霍斯特曼(Christy Hosterman)早前在家中使用亞馬遜智能音響Amazon Echo,當時正透過語音助理 Alexa查找食譜時,4歲女兒突然走近要求Alexa講一個「搞笑故事」作為睡前故事,裝置也隨即播放一段童話內容。故事結束後,女兒表示想自己講故事給Alexa聽,豈料裝置竟「自行插話」,詢問孩子「你現在穿什麼衣服?」、「能看到你的褲子嗎?」令霍斯特曼當場嚇壞。
婦人聽見智能語音助理問女兒穿著及說「讓我看看」嚇壞即停用裝置。FB圖片
裝置一度回覆「讓我看看」
根據霍斯特曼分享的對話截圖可見,女兒回應自己穿著裙子,裝置竟回覆:「讓我看看。」不過系統隨後似乎自行修正,補充表示:「這個功能目前還不適合小朋友使用,但我正在努力改進」。
婦人聽見智能語音助理問女兒穿著及說「讓我看看」嚇壞即停用裝置。FB圖片
語音助理承認回應不當 婦人事後停用裝置
霍斯特曼察覺情況異常後,立即質問裝置為何會說出上述內容。Alexa則回覆稱自己「其實看不到任何東西」,因為本身沒有視覺能力,並承認剛才的回答「令人困惑且不恰當」。然而,霍斯特曼聽到這番解釋仍未能安心,隨即拔掉設備電源。她表示自事件發生後已不再使用Alexa,並提醒其他家長提高警覺,避免讓孩子單獨使用AI裝置。
婦人聽見智能語音助理問女兒穿著及說「讓我看看」嚇壞即停用裝置。FB圖片
亞馬遜稱屬技術錯誤 疑誤觸「Show and Tell」功能
亞馬遜接獲相關通報後表示,事件屬於系統技術錯誤。公司發言人指出,裝置可能誤觸一項名為「Show and Tell」的功能,該功能原本用於讓Alexa透過相機描述所看到的物體。公司強調,當系統偵測到使用的是「兒童帳號」時,該功能理應自動停用,因此裝置相機並未啟動,工程團隊也已修正相關問題。