Skip to Content Facebook Feature Image

AI深偽技術影響印度大選選情 死人演講 總理跳舞?假訊息氾濫難規管

博客文章

AI深偽技術影響印度大選選情  死人演講 總理跳舞?假訊息氾濫難規管
博客文章

博客文章

AI深偽技術影響印度大選選情 死人演講 總理跳舞?假訊息氾濫難規管

2024年05月18日 12:53 最後更新:13:06

有史以來規模最大的2024印度大選,目前已進入關鍵的投票階段,然而當地網絡卻充斥各種以AI工具生成的深度偽造(Deepfake)的內容,包括政治人物熱舞、已身故人士演講等,這些毫無監管的虛假訊息混淆視聽,嚴重影響選情令人堪憂。

AI令已故的人物起死回生(影片截圖)

AI令已故的人物起死回生(影片截圖)

據英媒BBC報道,早前印度南部的一名事實核查員Muralikrishnan Chinnadurai在觀看英國一場以泰米爾語進行的直播活動發現,一名自稱是恐怖組織「泰米爾猛虎」頭目女兒Duwaraka的中年婦正呼籲世界各地的泰米爾人繼續為自由鬥爭。其實早在2009年時年23歲的Duwaraka已在一場空襲中喪生,至今連遺體都沒找到。

印度大選(AP圖片)

印度大選(AP圖片)

而仔細觀察會發現,這名女子其實是利用AI人工智能生成的虛擬形象,用來煽動泰米爾納德邦(Tamil Nadu)民眾的情緒,然而這離奇的一幕僅是印度大選前夕氾濫網絡假消息的冰山一角。

印度大選進入關鍵的投票階段,網上出現大量與選舉相關的以AI生成的內容,從競選影片到個性化語音,甚至有模仿候選人聲音的自動撥打電話,以假亂真、難以辨識的各類假訊息令人防不勝防。

印度總理Narendra Modi(AP圖片)

印度總理Narendra Modi(AP圖片)

利用AI工具,甚至可以令原本嚴肅的政治人物展示前所未有的「脫序」形象,他們身著休閒運動服,伴隨音樂搖擺熱舞。印度總理莫迪(Narendra Modi)早前就充分利用新興技術有效地進行競選活動,通過使用政府創建的AI語言翻譯工具Bhashini,成功實現印地語和泰米爾語的即時翻譯。他還在X平台上轉推一段AI生成的自己跳舞的影片,並表示:「我和大家一樣喜歡看自己跳舞。在選舉高峰期展現的這種創造力確實令人愉悅。」

莫迪轉載自己跳舞的影片:

上月,網上也流傳出兩名寶萊塢明星為反對黨國大黨站台的影片,但兩人均報警指是未經自己允許的換臉視頻。而莫迪總理隨後亦表示擔憂AI被用來歪曲由他本人以及其他執政黨高層領導人所表達的言論。深偽換臉案件頻發,警方雖陸續逮捕嫌疑人,但實際上並無相關法律來執行,最終都不了了之。

印度Deepfaker(TID)創始人賈杜恩指公司創造了工具,以協助人們使用開源AI軟件為印度政客製作競選材料。他堅持在任何製作的內容上都加上免責聲明,以標明不是真實的,但要完全控制仍很難。他也提到現在製作一個換臉影片十分容易,任何人都可以做到。「我們以前需要7到8天的時間來創作,現在只需要一部電腦,3分鐘就可以完成」

IG賬號專門分享AI製圖:

 
 
 
 
 
在 Instagram 查看這則貼文
 
 
 
 
 
 
 
 
 
 
 

Sahid SK(@sahixd)分享的貼文

西孟加拉邦一家營銷公司的職員謝克先生就見到他創作的作品未經許可被政客或政治頁面分享到社交媒體上,也沒有署名和提到是用AI製作的。

據BBC報導,如今印度對此類深偽內容創作者還缺乏監管,有創作者在採訪時表示,自己完全是依靠個人道德來決定要做什麼和不做什麼。此外,深偽色情影片和錄音也成為攻擊政治對手的常見手段。隨著智能工具更加先進,事情也變得更加複雜,專家們擔心這些虛假新聞可能影響現實選情。

有專家表示,這些假新聞已經進入主流媒體,但目前印度選舉委員會仍對此保持沉默。印度前選舉委員會委員庫雷希(SY Qureshi)表示,「謠言一直是選舉活動的一部分,但在社交媒體時代,它可能像野火般蔓延。」

在制定關於人工智能的相關法律方面,印度政府一直未有任何舉措,直到今年3月,Google AI Gemini在回應關於「莫迪是否是法西斯」的敏感話題後,引起軒然大波,政府才開始採取行動,印度信息技術部長拉吉夫·詹德拉塞卡爾表示,這違反了該國的信息技術法。

此後,印度政府要求科技公司在公開發布「不可靠」或「未經充分測試」的生成式AI模型或工具之前,必須獲得其明確許可,亦警告使用類似工具可能會威脅「選舉過程」的完整性。




深喉

** 博客文章文責自負,不代表本公司立場 **

Tags:

英國

中吉烏鐵路建設項目的進展,又觸動了美國的敏感神經。

去年3月,蘭州新區首趟數字化「中吉烏」國際多式聯運貨運班列發車。央視新聞圖片

去年3月,蘭州新區首趟數字化「中吉烏」國際多式聯運貨運班列發車。央視新聞圖片

中吉烏鐵路項目三國政府間協定簽署不到兩周,該鐵路建設又迎來新進展。據俄羅斯《獨立報》報道,18日,吉爾吉斯斯坦議會開始審議中國-吉爾吉斯斯坦-烏茲別克斯坦鐵路建設合作的法律草案。

專家們表示,這條鐵路對促進沿綫各國乃至整個地區互聯互通、加强經貿往來意義重大,也因此吸引多方關注。有吉爾吉斯斯坦專家稱,美國也正緊盯這一鐵路的建設情况。

「美國或將千方百計阻礙這一鐵路的建設。」吉爾吉斯斯坦《比什凱克晚報》18日以此為題報道稱,出於對中國在中亞地區影響力增强的擔憂,美國不太可能忽視中吉烏鐵路項目的啓動。去年5月,中國和中亞五國在西安首次舉行峰會,進一步加深合作關係。美國緊隨其後借用中亞五國總統出席聯合國大會的機會,首次召開「C5+1」總統級別對話峰會。

報道稱,對於中吉烏鐵路建設,美國采取的相關措施可能包括控制媒體散布所謂的「獨立」調查消息,以詆毀鐵路建設和項目參與者。由美國政府資助的吉爾吉斯斯坦非政府組織可能會提出有關生態危害、影響居民生活等問題。

蘭州大學政治與國際關係學院教授汪金國19日接受《環球時報》記者采訪時表示,近年來,美國出於牽制中俄的戰略考慮,加緊拉攏中亞國家。美國時下關注中吉烏鐵路的建設進展,主要有以下考量:首先,從與中國在中亞地區的地緣政治競爭角度而言,中吉烏鐵路建設落地,將强化中國在該地區的國際影響力,從而不利於美國爭奪在中亞地區關鍵事務上的話語權和影響力;其次,中亞地區擁有豐富的能源和礦産資源,對於全球能源供應和經濟發展具有重要意義;此外,中吉烏鐵路建設還將强化中國與歐洲、阿拉伯和南亞地區的聯繫,有利於中國鞏固在全球供應鏈中的地位。

尹錫悅訪問烏茲別克斯坦。烏茲別克斯坦駐美大使館圖片

尹錫悅訪問烏茲別克斯坦。烏茲別克斯坦駐美大使館圖片

值得一提的是,中吉烏鐵路項目三國政府間協定簽署一周後,14日,在韓國總統尹錫悅對烏茲別克斯坦進行國事訪問期間,韓國機車車輛製造商現代羅特姆和烏茲別克斯坦鐵路公司簽署《烏茲別克斯坦鐵路公司六列高速列車供貨合同》。據韓聯社報道,這項合作達2700億韓元。韓方將向烏茲別克斯坦出口6列時速可達250公里的高速列車,每列7節車厢,共42節。

不少媒體也關注到「烏茲別克斯坦購買韓國高速列車技術」,並以「烏放弃中國高鐵技術,轉身與他國簽訂單」為題進行報道。事實上,韓國向烏茲別克斯坦提供的高速列車服務並非中吉烏鐵路段,專家介紹稱,中吉烏鐵路終點在烏茲別克斯坦的東部城市安集延,未到塔什幹,而韓國列車服務涉及的路綫是從塔什幹往西通行。

除了韓國之外,烏茲別克斯坦與西班牙、俄羅斯、中國等國在這一領域都有合作。中吉烏鐵路項目三國政府間協定簽署後,中國相關企業西部建設、八一鋼鐵、航天智裝、凱發電氣等紛紛表示將緊密跟踪中吉烏鐵路項目進展,並積極參與項目招投標。

中吉烏鐵路路線圖。

中吉烏鐵路路線圖。

中吉烏鐵路起自新疆喀什,經吉爾吉斯斯坦進入烏茲別克斯坦境內,未來可向西亞、南亞延伸。對吉爾吉斯斯坦而言,中吉烏鐵路的修建將完善本國鐵路網。烏茲別克斯坦致力於「交匯」東西向的中吉烏鐵路與南北向的鐵爾梅茲—馬扎裏沙裏夫—喀布爾—白沙瓦鐵路,從而推動本國成為國際性交通運輸樞紐。

汪金國表示,此前,從中國經中亞通往歐洲和阿拉伯世界的主要陸路通道是通過哈薩克斯坦和俄羅斯。中吉烏鐵路將使中國到歐洲的陸地運輸路綫縮短近900公里,貨物運輸時間縮短約8天。

他認為,更短、更快和成本更低的陸路運輸綫路,將大大增加內陸國吉爾吉斯斯坦和烏茲別克斯坦的貨運通行量,兩國每年可依靠貨物過境取得豐厚收益,同時將帶來大量就業機會;其次,中吉烏鐵路的建成將徹底打破中亞地區沒有出海口的限制,縮短中亞産品至世界其他主要市場的運輸周期;此外,在俄烏衝突對中亞地區的貿易和跨境運輸造成衝擊的背景下,中亞地區國家希望有能够規避西方制裁限制的代替選項,中吉烏鐵路不經過俄羅斯境內,可以滿足這些國家針對西方制裁風險的對沖需求。

從長遠角度看,汪金國認為,中亞有機會成為整個歐亞大陸的重要交通樞紐。中吉烏鐵路將成為連接中國與中亞、南亞和歐洲的新出口,對中國進出口路綫多元化、釋放新疆和西部地區經濟外貿潜力有重要意義。

你 或 有 興 趣 的 文 章