原創(chuàng) 數(shù)字生命卡茲克 數(shù)字生命卡茲克

這幾天，大家都刷到韓國(guó)#N號(hào)房2.0#事件的新聞了嗎？

曾經(jīng)席卷韓國(guó)的N號(hào)房，又雙叒叕重來了。

而這次，主要的犯罪工具其實(shí)就是AI中一直飽受爭(zhēng)議的Deepfake（深度偽造），或者可以就簡(jiǎn)單的理解為，AI換臉。

說實(shí)話，距離N號(hào)房事件的曝光，已經(jīng)過去整整4年了。

2021年，隨著主犯趙主彬的落網(wǎng)以及40年的刑期，轟動(dòng)整個(gè)韓國(guó)的N號(hào)房事件，看似落下了帷幕。

但是就像你在家里發(fā)現(xiàn)了一只蟑螂一樣，你掀翻家里的所有角落，一定能再發(fā)現(xiàn)無數(shù)只蟑螂。

而如今在新時(shí)代AI技術(shù)的加持下，他們拋棄了舊時(shí)代的偷拍，帶著Deepfake，又卷土重來了。

或者說，他們從來都沒有消失過，只是從2021年的灰燼，重新燃起了熊熊大火。

這些犯罪者，利用Deepfake，合成身邊女性同學(xué)、朋友的色情照片和視頻，在Telegram上通過聊天室的方式進(jìn)行瘋狂傳播。

他們甚至按照共同的學(xué)校、地區(qū)，來建了N個(gè)群。

一起用身邊的熟人作樂，甚至是威脅，還以AI視頻+公開受害女性身份、家庭住址為理由，向受害人索要錢財(cái)。

這一次，最大的受害者群體，是學(xué)生。

而最大的加害者群體，也是學(xué)生。

比如有一位女教師就被告知自己的涉黃圖片在聊天室里被傳播，而上傳者正是她的學(xué)生。

她的學(xué)生利用和女教師的合照、女教師發(fā)在KakaoTalk （韓國(guó)版微信）上的照片，用deepfake定制了她的色情影像，甚至他還在定制的時(shí)候注明了身材要求、姿勢(shì)要求。

在一個(gè) 22.7 萬人參與的 Telegram 聊天室，只需要女性的照片，就能在幾秒內(nèi)生成被用Deepfake換過臉的色情內(nèi)容。

22 萬什么概念？韓國(guó) 2023 年新生兒人數(shù)只有 23 萬，總?cè)丝跀?shù)只有 5000 多萬。

而這，只是其中一個(gè)頻道。

至于報(bào)警？呵。

在韓國(guó)的土壤上，N號(hào)房，蔓延開去后，就再也停不下來了。

這密密麻麻的紅點(diǎn)，就是軌跡。

為了對(duì)抗，許多韓國(guó)女性在社交媒體上發(fā)帖，呼吁韓國(guó)和外界對(duì)Deepfake犯罪事件的關(guān)注。

在韓國(guó)國(guó)內(nèi)發(fā)帖已經(jīng)幾乎無用，他們就像三體中的降臨派一樣，祈求外部輿論，能來凈化國(guó)內(nèi)。

她們?cè)赬上用英文發(fā)帖，甚至還在微博用中文求助：

所有人都知道，家丑不可外揚(yáng)。

試問，如果在韓國(guó)內(nèi)部，還能有解決的辦法，她們會(huì)祈求三體人降臨，來治愈她們的一切嗎，你能想象到，這是有多無助，多絕望嗎？

但是，土壤的問題，我覺得，真的，挺無解的。

這塊就不深說了，也不好說，有興趣的，可以自己去深扒一下。

說實(shí)話，我覺得，韓國(guó)這波Deepfake的N號(hào)房問題，不止是韓國(guó)問題，只是韓國(guó)那邊實(shí)在太爛了，最先暴露出來而已。

這是全世界女性的問題。

土壤的事情，我們幾乎做不了任何東西，但是從技術(shù)上，我覺得，我們還是可以有一些有薄弱的解的。

Deepfake的換臉視頻，至少在現(xiàn)在這個(gè)時(shí)間點(diǎn)看，不是完美無瑕全無破綻，所以，那如果，我們至少，能識(shí)別出AI換臉視頻呢？

其實(shí)在這件事爆出來的時(shí)候，我就一直在看各種東西，在找識(shí)別的方法。但我畢竟不是技術(shù)人，很慢，又很笨。

直到今天，我在抖音和微博上，看到同一個(gè)熱搜。

真的，如同天上降真主，真乃人間太歲神。

她把他們的模型直接開源了，用來對(duì)抗Deepfake。

我也不知道為什么，我有點(diǎn)想哭。

“Girls help girls”具像化的呈現(xiàn)，或許也是女性工程師更能共情女性面對(duì)Deepfake犯罪時(shí)的恐慌和無助。

這位工程師名叫張欣怡，是來自中科院的博士。今年她和中科院的團(tuán)隊(duì)正好參與了外灘大會(huì)Deepfake攻防賽。

也就是9月3日當(dāng)晚，大會(huì)也公布了三強(qiáng)名單，張欣怡和她所在的團(tuán)隊(duì)VisionRush赫然在列。

張欣怡說：

“經(jīng)團(tuán)隊(duì)同意，已將近期參加在上海舉辦的外灘大會(huì)AI創(chuàng)新賽·全球Deepfake（深度偽造技術(shù)）攻防挑戰(zhàn)賽的AI模型向全球開源。”

是的，他們直接開源了。

這個(gè)模型叫DeepfakeDefenders，在Github上就能找到。

鏈接在此：https://github.com/VisionRush/DeepFakeDefenders

外灘大會(huì)設(shè)立了100萬元人民幣的獎(jiǎng)金池，但張欣怡和她的團(tuán)隊(duì)并沒有止步于這個(gè)比賽，而是為了能夠幫助更多人，將獲獎(jiǎng)的項(xiàng)目直接開源。

并且張欣怡本人@啦啦啦啦啦啦啦0-0也在微博表示后續(xù)會(huì)繼續(xù)開發(fā)應(yīng)用，降低大眾的使用門檻。他們是真的希望可以幫助到更多人！

中科院的這套Deepfake檢測(cè)系統(tǒng)，還是很有意思的。

我硬著頭皮啃了半天代碼，可惜電腦不太行，沒能順利跑通case。

但是我花了一晚上跟幾個(gè)做計(jì)算機(jī)視覺的朋友請(qǐng)教學(xué)習(xí)了一下它是怎么工作的。

本質(zhì)上，還是模仿人類視覺系統(tǒng)的工作原理。

我稍微用比喻講得通俗易懂一點(diǎn)，大家應(yīng)該就能明白為什么中科院的這個(gè)DeepfakeDefenders系統(tǒng)能準(zhǔn)確地識(shí)別出深度偽造的圖片了。

讓我們把這個(gè)系統(tǒng)想象成一個(gè)超級(jí)細(xì)心、眼力賊強(qiáng)又經(jīng)驗(yàn)豐富的超級(jí)偵探。

這位偵探有兩只眼睛，一只叫ConvNeXt（一種純卷積神經(jīng)網(wǎng)絡(luò)），另一只叫RepLKNet（一種新型的卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)）。這兩只眼睛各有特點(diǎn)，能從不同角度觀察圖片的細(xì)節(jié)。

現(xiàn)在，我們給偵探一張照片，讓他判斷這張照片是真的還是假的(深度偽造)。

他會(huì)怎么做呢?

首先，他會(huì)用ConvNeXt這只眼睛仔細(xì)觀察照片。它就像是一個(gè)放大鏡，能同時(shí)看到照片的整體和局部細(xì)節(jié)。此時(shí)偵探會(huì)注意照片中的色彩變化、紋理特征，甚至是像素級(jí)別的細(xì)微差異。

然后呢，偵探會(huì)用RepLKNet這只眼睛再看一遍。這只眼睛更像是一個(gè)廣角鏡頭，能看到更大范圍的信息，特別擅長(zhǎng)發(fā)現(xiàn)那些可能藏在照片任何角落的偽造痕跡。

但是光靠看還不夠，偵探還有一個(gè)特殊的“鑒別工具箱”。

他會(huì)從工具箱里拿出各種“濾鏡”，在看照片時(shí)戴上不同的鏡片。

有的濾鏡會(huì)改變照片的亮度和對(duì)比度；有的會(huì)旋轉(zhuǎn)或翻轉(zhuǎn)照片；還有一種特殊的SRM濾鏡，能讓那些肉眼難以察覺的細(xì)微痕跡變得更明顯。

通過這些不同的“濾鏡”，偵探就能從多個(gè)角度反復(fù)檢查照片，不放過任何可疑的地方。

在做出最后判斷之前，他還會(huì)回想起他以前偵查過的無數(shù)真假照片（也就是訓(xùn)練過程）。他會(huì)把當(dāng)前的照片和記憶中的那些照片進(jìn)行比較，看看有沒有相似的特征。

最后的最后，偵探會(huì)綜合所有觀察結(jié)果，給出一個(gè)判斷：這張照片是真的，還是假的。

當(dāng)然，上面這段解釋和比喻也只是我自己的理解。

如有不對(duì)，歡迎大佬在評(píng)論區(qū)指教。

坦率的講，Deepfake掀起的這次N號(hào)房事件，對(duì)我的觸動(dòng)真的很大。

如果從去年很早就關(guān)注我的老粉可能會(huì)知道，我寫過大模型、寫過AI繪圖、寫過TTS、寫過SVC、寫過AI視頻、寫過AI 3D。

我寫了200多篇文章，但唯獨(dú)，從來沒有寫AI換臉或者Deepfake的任何內(nèi)容。

因?yàn)椋珼eepfake，是一把雙刃劍，更是潘多拉魔盒。

在電影制作中，它讓我們得以欣賞到“年輕版”的小羅伯特唐尼在《美國(guó)隊(duì)長(zhǎng)3》中的精彩表演，也讓吳京和劉德華在《流浪地球2》“重返二十歲”。

令人驚嘆的視覺效果背后，是技術(shù)為人類創(chuàng)造力插上的翅膀。

但是，當(dāng)這項(xiàng)技術(shù)被一些不法分子濫用時(shí)，我們只能被迫面臨著一個(gè)又一個(gè)令人不寒而栗的現(xiàn)實(shí)。

不僅僅是N號(hào)房用Deepfake來侵犯女性，還有各種詐騙。

比如今年2月，詐騙者通過公司的YouTube視頻和從其他公開渠道獲取的媒體資料，成功地仿造了英國(guó)公司高層管理人員的形象和聲音，再利用Deepfake技術(shù)制作偽冒視頻，造成多人參與視頻會(huì)議的效果，騙取財(cái)務(wù)職員2億港元。

那些傳統(tǒng)的身份驗(yàn)證方式（如視頻通話確認(rèn)）在面對(duì)如此高超的Deepfake技術(shù)時(shí)，早已顯得力不從心。

當(dāng)我們的形象可以被隨意篡改，我們的聲音可以被任意模仿，我們的行為可以被肆意偽造。

它撕裂了社會(huì)信任的基礎(chǔ)，動(dòng)搖了人們對(duì)現(xiàn)實(shí)的認(rèn)知。

在一個(gè)連“我是我”都無法確定的世界里，真相變得可疑，現(xiàn)實(shí)變得模糊。

正如張欣怡所說，“在臉被偷走的同時(shí)，我們的身份、名譽(yù)、隱私、尊重也都被偷走了?！?/p>

是她，是我，更是所有人。

“這個(gè)世界有黑暗，也有照亮黑暗的光。如果一個(gè)人的火把太小，我們就把火把傳給世界的每一個(gè)人?！?/p>

但是，好在，我們還有我們。

在這場(chǎng)大戰(zhàn)中，我們既是戰(zhàn)士，也是戰(zhàn)場(chǎng)本身。

舉起一束黑暗中的火把。

筑起另一座自由的羅馬。

謝謝你。

張欣怡。

原標(biāo)題：《她決定開源AI模型，正面宣戰(zhàn)“N號(hào)房2.0”?！?/p>

閱讀原文