美國一位母親只是分享女兒在車上唱歌的日常片段,Meta的AI助手竟自動追問「後座的兒童乘客是誰」,一步步拼湊出女兒的姓名、出生日期、住址,甚至連早已刪除的照片都翻了出來。
猶他州女子羅賓斯(Kalie Robins)近日在Instagram分享一段與女兒在車上合唱的短片,影片並無標明女兒姓名或拍攝地點。
羅賓斯在社交平台分享與女兒唱歌片段後,系統隨即主動詢問後座兒童的身分。
片段同步發布至Facebook後,貼文下方竟然彈出一個Meta AI建議的提示詞按鈕,寫著:「後座的小乘客是誰?」羅賓斯見狀覺得奇怪,出於好奇點擊了進去,想看看AI會作何回答。
點擊進去之後,AI隨即生成一段文字回覆,當中竟然直接指出片中女兒的身分,連另一個從未在這段影片露面的女兒亦一併被牽扯出來,並列在同一份回覆當中。看到這個答案,羅賓斯開始感到毛骨悚然。
更令她意外的是,看完第一個回覆之後,畫面下方竟然又再彈出新的提示詞按鈕,一個接一個地出現,包括「女兒幾歲」「她出生時體重多少」。羅賓斯忍不住一直點擊下去,AI便接連生成更多資料,最後連兩名女兒最喜歡的沙灘、書籍及日常興趣,都被整理成一份檔案列了出來。
羅賓斯形容,親友及長輩多年來在Facebook上分享的生活點滴,看似零散瑣碎,卻被AI逐一交叉比對、拼湊成一份詳盡的家庭檔案,而這些資訊絕大多數並非由她本人發布。
系統透過交叉比對親友發布的舊貼文,整理出家庭成員年齡與生活細節。
更令這位媽媽崩潰的是,AI連一張她多年前已從個人頁面刪除的舊照片都翻了出來,最後甚至主動詢問「羅賓斯住在哪裡」,並嘗試透過新舊打卡記錄鎖定她的實際居住地址。
事件經《Futurism》9月8日報道後迅速發酵,Meta三日後透過科技媒體《The Verge》回應,承認這項AI提示功能「未如預期」,並表示已經修正相關設定。
不過,關於那張「已刪除」的照片,Meta向另一間媒體CNET提供的解釋卻與羅賓斯的說法有出入——Meta指該照片其實是在羅賓斯拍攝這段影片前才剛被刪除,系統當時存在一個暫時性技術故障,令舊照片短暫仍可被讀取,而非如羅賓斯所指翻查到「多年前」的舊資料。兩種說法目前並存,孰真孰假仍有待進一步查證。
上述是羅賓斯與兩名女兒的遭遇,反映的是AI主動挖掘個人隱私的問題。而另一宗性質截然不同的案件,主角並非羅賓斯,而是一名現年20歲的加州女子,法庭文件中稱她為Kaley。羅賓斯個案涉及私隱被AI擅自翻查,Kaley個案關注的則是社交媒體演算機制對青少年心理造成的長期負面影響。兩案性質不同,但均指向Meta這家科技巨頭,引發為人父母者對子女網絡安全的高度警惕。
其實在羅賓斯風波爆出之前約兩星期,Meta才剛與美國29個州達成一項總額高達180億美元(約1,404億港元)的兒童私隱和解案。促成這項巨額和解的其中一宗指標官司,主角正是很小就重度沉迷社交媒體的加州女子Kaley。
美國多個州份早前入稟控告社交平台演算法危害青少年心理健康,促成巨額和解案。
Kaley 6歲開始觀看YouTube,9歲開始使用Instagram。她在法庭上作供時表示,自己漸漸停止與家人相處,整天對著手機。到了10歲,她已出現焦慮及抑鬱徵狀,甚至躲在洗手間內,只為查看貼文獲得多少個「讚好」。
為了追求更多「讚好」,Kaley甚至嘗試透過第三方平台付費「買讚」。她其後確診患上身體畸形恐懼症(Body Dysmorphic Disorder,一種過度關注自身外貌缺點的心理疾病),長期覺得自己樣貌有問題。陪審團今年3月裁定,Meta與YouTube須就Kaley個案承擔法律責任,其中Meta須承擔七成責任。
事件曝光至今,羅賓斯已開始促請親友刪除或隱藏過往分享的家庭照片,盡量減少在Meta平台上留下的個人數碼足跡。而Kaley亦已挺身而出,在法庭完成作供。
羅賓斯憂慮家庭私隱隨時遭AI無端起底,Kaley則經歷了社交媒體對童年及青春期的深度侵蝕。兩件事表面看似獨立,一宗牽涉AI侵犯私隱,另一宗涉及成癮官司賠償,但兩相印證,無疑為廣大家長敲響警鐘,重新審視未成年子女日常使用各類應用程式的安全隱患。
深喉
** 博客文章文責自負,不代表本公司立場 **