Skip to Content Facebook Feature Image

IG用AI系統識別冒犯內容 遇關鍵字即警告遭批過度敏感

BasTech

IG用AI系統識別冒犯內容 遇關鍵字即警告遭批過度敏感
BasTech

BasTech

IG用AI系統識別冒犯內容 遇關鍵字即警告遭批過度敏感

2019年12月17日 15:35 最後更新:16:05

系統未能分析整句文字的真正意思

為打擊網絡欺凌,社交平台Instagram(IG)宣布,利用人工智能(AI)系統偵測用戶貼文有否包含語言爆力及冒犯的內容,提醒用戶修改。有關功能陸續開放予不同地區用戶,預計明年擴展至全球用戶。不過,系統過度敏感,只要出現「肥」、「死」、「醜」等關鍵字,都會出現提示字句。

若留言「肥死人」亦會出現提示字句。

若留言「肥死人」亦會出現提示字句。

IG為加強反欺凌,運用AI工具檢查並過濾用戶帖文內容,如發現含有令人不悅或帶有攻擊性的內容,會出示提示未句,警告用戶內容與其他被舉報的文字相似,給予用戶修改的機會。

類似的功能早在今年7月已開始,當時是針對用戶的冒犯性的留言進行提示,現時只是將功能範圍擴大至帖文內容。收到警告的用戶,可選擇修改留言或忽略警告。

Instagram利用人工智能(AI)系統偵測用戶帖文內容,打擊網絡欺凌。

Instagram利用人工智能(AI)系統偵測用戶帖文內容,打擊網絡欺凌。

不過,IG的AI系統被網民批評過度敏感,只要偵測到相關字眼就會出現警告,未能分析整句文字的真正意思,笑指IG的人工智能系統不太聰明。

雖然香港仍未開放帖文辨識功能,但當測試留言辨識功能時,發現即使在美食圖片留下「肥死了」、「笑死人」、「醜死鬼」等開玩笑式留言,都會出現提示字句。

近年,IG陸續推出多項打擊網絡欺凌的功能,去年增設「限制」(Restrict)功能,允許用戶選封鎖個別帳戶及禁止個別帳戶留言。

往下看更多文章

造車失利後 傳蘋果研發家用機械人技術

2024年04月05日 15:20 最後更新:18:24

消息指美國蘋果公司在放棄了長達10年的電動車計畫後,目前正在研究推動個人機械人技術。

據報導,美國蘋果公司目前正在研究推動個人機械人技術。這項技術包括開發一款可以在家中跟隨用戶移動的家用機械人。此外,蘋果還在研發一種先進的桌上家用設備,利用機械人移動來調整顯示屏的角度和方向,並模擬一些動作,例如點頭。

消息指蘋果公司正研究個人機械人技術

據彭博社引述的消息人士古爾曼透露,蘋果公司的團隊正在研究個人機械人技術,可能成為該公司下一個重大項目之一。他表示,蘋果正在研究使用人工智能演算法,讓機械人能夠在複雜的家庭環境中移動,並能夠執行一些家務任務,例如在廚房幫助洗碗。

機械人技術研究工作仍處於早期研究階段

然而,由於工程挑戰的困難,這項技術在近10年內可能難以實現。目前,機械人技術的研究工作正進行在蘋果的硬件工程部門和機器學習團隊中,但蘋果尚未正式批准這兩個項目,目前仍處於早期研究階段。蘋果公司對於這些報導尚未做出證實。

蘋果面臨營收來源壓力

儘管研發工作仍在起步階段,尚不清楚這些產品最終是否會面世,但蘋果面臨著尋找新的營收來源的壓力。該公司在2月放棄了經過10年開發的電動車項目,而混合實境頭戴裝置預計還需要幾年時間才能成為主要利潤來源。

AP圖片

AP圖片

通過機械人技術,蘋果可以在家用設備市場上獲得更大的競爭優勢,同時也能從人工智能的發展中獲益。目前還不清楚蘋果將使用何種方法來實現這一目標。

HomePod或是固定裝置

據報導,蘋果開發的固定在桌上的裝置可能是傳聞中帶有機械臂和顯示屏的HomePod。據稱該產品在產品路線圖上多次被蘋果移除和恢復,因此是否最終會有實際產品問世仍然存在不確定性。

Getty圖片

Getty圖片

報導還提到,蘋果團隊對於桌上型機械人計畫早在幾年前就表示興趣,他們考慮讓顯示屏模擬FaceTime對話中的人的頭部動作,例如點頭。該產品還具有在視訊通話中精確鎖定人群中某一個人的功能。

你 或 有 興 趣 的 文 章