IG用AI系統識別冒犯內容 遇關鍵字即警告遭批過度敏感

系統未能分析整句文字的真正意思

為打擊網絡欺凌，社交平台Instagram（IＧ）宣布，利用人工智能（AI）系統偵測用戶貼文有否包含語言爆力及冒犯的內容，提醒用戶修改。有關功能陸續開放予不同地區用戶，預計明年擴展至全球用戶。不過，系統過度敏感，只要出現「肥」、「死」、「醜」等關鍵字，都會出現提示字句。

若留言「肥死人」亦會出現提示字句。

IG為加強反欺凌，運用AI工具檢查並過濾用戶帖文內容，如發現含有令人不悅或帶有攻擊性的內容，會出示提示未句，警告用戶內容與其他被舉報的文字相似，給予用戶修改的機會。

類似的功能早在今年7月已開始，當時是針對用戶的冒犯性的留言進行提示，現時只是將功能範圍擴大至帖文內容。收到警告的用戶，可選擇修改留言或忽略警告。

Instagram利用人工智能（AI）系統偵測用戶帖文內容，打擊網絡欺凌。

不過，IG的AI系統被網民批評過度敏感，只要偵測到相關字眼就會出現警告，未能分析整句文字的真正意思，笑指IG的人工智能系統不太聰明。

雖然香港仍未開放帖文辨識功能，但當測試留言辨識功能時，發現即使在美食圖片留下「肥死了」、「笑死人」、「醜死鬼」等開玩笑式留言，都會出現提示字句。

近年，IG陸續推出多項打擊網絡欺凌的功能，去年增設「限制」（Restrict）功能，允許用戶選封鎖個別帳戶及禁止個別帳戶留言。

香港新聞博覽館舉辦專題講座，由大數據治理公會召集人及數字化經濟委員會成員車品覺講述人工智能的最新發展，市民可以如何應用相關技術，以及正確分辨有用真實的資訊。

香港新聞博覽館舉行「人工智能的應用和素養」講座。

講座題為「人工智能的應用和素養，車品覺先介紹人工智能的起源和歷史。他表示，人工智能為市民帶來方便，但同時亦帶來社會問題，因此科技應向更健康趨勢發展。

車品覺指出，全球未來十年將會是強人工智能年代，具備與人類同等或超越人類智慧，而現時一些專業範疇已開始由人工智能取代，例如營養師、心理醫生等職業。但他提醒，商業應用未必追得上科技發展，亦有成本效益問題，企業要避免「跟車太貼」。而本港是否有足夠需求智能科技仍是未知之數，加上科技變化大，社會需要逐步走，並在過程中作檢討。而科技發展重視用戶體驗，令用家感興趣使用，設計要避免過於複雜。

車品覺認為全球未來十年將會是強人工智能年代。

另外，財政預算案早前提出，數字經濟將是一個很重要的新動能，而人工智能超算中心首階段設施最快今年亦會投入服務。車品覺表示，本港要做好「超級聯繫人」的角色，善用國家資源，並輔助不同企業推動數字經濟，「算力」要與大數據互相配合運用，才可發展成國際數據樞紐中心。

車品覺建議，市民使用人工智能時，應擔任導演角色，提出思考和問題，與人工智能互相溝通，不是被動地要求解答及感到恐懼，亦可以比較不同的程式軟件，才會為生活帶來更多進步和方便。