視頻中，“印尼總統(tǒng)普拉博沃”說：“誰還沒收到我的援助？你現(xiàn)在需要什么？”

不疑有詐的印尼人按照要求，聯(lián)系一個(gè)即時(shí)通信社交平臺(tái)WhatsApp號(hào)碼，然后轉(zhuǎn)賬25萬至100萬印尼盾（約合人民幣109.75元至438.99元）的“行政費(fèi)”，卻沒有收到援助，這才發(fā)現(xiàn)上當(dāng)受騙。

據(jù)印尼媒體報(bào)道，因推動(dòng)免費(fèi)營養(yǎng)餐等福利政策被選民熟知并最終成功當(dāng)選的印尼總統(tǒng)普拉博沃，他的頭像頻遭犯罪者盜用制作“深偽”視頻。自去年10月普拉博沃宣誓就職以來，至少有22個(gè)TikTok賬戶以類似的“假裝普拉博沃”手法欺騙民眾；其中一個(gè)賬戶有7.7萬名追隨者，1月以來上傳了100個(gè)視頻，大部分是普拉博沃要派錢的“深偽”視頻。TikTok說，已刪除其中一個(gè)“深偽”視頻及其相關(guān)賬戶，并承諾會(huì)繼續(xù)刪除任何違反平臺(tái)準(zhǔn)則的視頻。

新華社此前報(bào)道，生成式AI和大模型技術(shù)的應(yīng)用，讓世界進(jìn)入了數(shù)字信息“眼見不一定為實(shí)，耳聽不一定為真”的時(shí)代。聲音、視頻、圖像等多模態(tài)AI“深度偽造”內(nèi)容的出現(xiàn)，營造出越來越多的虛假信息迷霧。

印尼總統(tǒng)普拉博沃  視覺中國 資料圖

據(jù)《雅加達(dá)環(huán)球報(bào)》報(bào)道，圍繞著普拉博沃提出的免費(fèi)營養(yǎng)餐項(xiàng)目，東爪哇諫義里市曾出現(xiàn)餐飲企業(yè)招標(biāo)詐騙事件。印尼警方今年2月還逮捕了兩名利用“深偽”視頻詐騙的嫌犯，其中一人成功騙走6500萬印尼盾。

但調(diào)查發(fā)現(xiàn)，這類深偽視頻的傳播范圍遠(yuǎn)遠(yuǎn)超過警方公布的兩起案件。

印尼事實(shí)查核機(jī)構(gòu)Mafindo的聯(lián)合創(chuàng)始人阿里博沃說，深偽欺詐在網(wǎng)上廣泛傳播，他的團(tuán)隊(duì)每周都會(huì)發(fā)現(xiàn)新的視頻?！拔覀冏⒁獾竭@些視頻的品質(zhì)隨著時(shí)間流逝變得越來越強(qiáng)?，F(xiàn)在要區(qū)分‘深偽’視頻和真視頻已變得更加困難了。我們面對(duì)的挑戰(zhàn)在于這些視頻實(shí)在太多了。”他說。

在印尼之外，還有許多國家面臨“深偽”引起的犯罪或管理問題。據(jù)《環(huán)球時(shí)報(bào)》報(bào)道，去年11月，為打擊日益猖獗的“深度偽造”性犯罪事件，韓國政府推出該國首個(gè)政府應(yīng)對(duì)方案，并計(jì)劃推動(dòng)修訂相關(guān)立法。

去年10月15日，新加坡國會(huì)三讀通過《選舉（維護(hù)網(wǎng)絡(luò)廣告誠信）法令》。這項(xiàng)法律禁止在選舉期間使用“深度偽造”和其他數(shù)字技術(shù)制作有關(guān)候選人的廣告內(nèi)容。