德國柏林藝術家西蒙.韋克特(Simon Weckert)設計出一件名為「數碼迷彩」(Digital Camouflage)的夏威夷恤,靠精心計算的圖案干擾AI人形辨識系統,令穿著者在部分監控鏡頭前「消失」。
醜到AI認唔出人,德國藝術家推數碼迷彩恤衫讓人在鏡頭前「消失」。IG圖片@simonweckert
這件恤衫表面看似色彩繽紛、令人眼花撩亂的抽象圖案,但每一道線條和顏色都經過刻意設計,目標是干擾AI的「人形辨識」功能。 韋克特解釋,圖案利用飽和的粉紅、橙和綠色過渡,製造強烈「視覺噪音」,令神經網絡無法將身體各部分拼合成單一「人形」輪廓。 設計過程本身亦依賴AI完成,韋克特透過「對抗迴圈」(adversarial loop)反覆測試:先產生圖案,再交給開源物件偵測系統YOLO判斷,觀察AI對「人形」的信心指數,接著調整圖案並再次測試,直至AI的辨識信心大幅崩潰。
醜到AI認唔出人,德國藝術家推數碼迷彩恤衫讓人在鏡頭前「消失」。IG圖片@simonweckert
在韋克特分享的演示片段中,當他將恤衫放在鏡頭前,原本能準確標示「PERSON」並畫出綠色方框的AI系統,即時無法識別穿著者為「人」。移開恤衫後,系統又恢復正常辨識。 今年6月他在柏林Kottbusser Tor一個正在運作的監控鏡頭前成功測試,證實穿著該恤衫的行人未被系統穩定標示為「人」。
醜到AI認唔出人,德國藝術家推數碼迷彩恤衫讓人在鏡頭前「消失」。IG圖片@simonweckert
韋克特表示,「數碼迷彩」是針對柏林今年在Kottbusser Tor交通樞紐安裝的AI視頻監控系統而設計。 該系統旨在分析 footage 並標記特定行為,引發隱私爭議。 他形容這件恤衫是一種「對抗攻擊」(adversarial attack),針對物件識別系統搜尋人形時依賴的特徵,令機器不再將穿著者登記為「人」。
醜到AI認唔出人,德國藝術家推數碼迷彩恤衫讓人在鏡頭前「消失」。IG圖片@simonweckert
這件恤衫目前透過韋克特個人網站發售,定價88美元(約686港元)。 不過,專家提醒,此類「對抗服飾」僅能在特定條件下欺騙部分早期電腦視覺模型,無法抵禦熱成像、雷達或多傳感器監控系統,亦未必能騙過現代人臉識別或步態分析技術。
醜到AI認唔出人,德國藝術家推數碼迷彩恤衫讓人在鏡頭前「消失」。IG圖片@simonweckert
醜到AI認唔出人,德國藝術家推數碼迷彩恤衫讓人在鏡頭前「消失」。IG圖片@simonweckert
在 Instagram 查看这篇帖子