·肉眼分辨圖片真假可以觀察圖中手指數(shù)量是否正常、眼神是否怪異、發(fā)絲看起來是否真實(shí)等。生成的照片通常存在光影瑕疵，缺乏曝光等照片基本參數(shù)。也可以觀察牙齒清晰與否，缺乏單個(gè)牙齒的輪廓可能是辨別深度偽造的一個(gè)線索。

·更高效的方法是用AI對(duì)抗AI。OpenAI宣布將推出一款工具，用于檢測(cè)由AI圖像生成器DALL-E 3創(chuàng)建的圖像。微軟開發(fā)了一種身份驗(yàn)證工具，可以分析照片或視頻，并對(duì)其是否被操縱給出評(píng)分。

深度偽造變得越來越容易，人們也越來越難以分辨真假。

生成式人工智能工具的興起令欺騙性圖片、視頻和音頻激增，如何識(shí)別AI生成的深度偽造圖像？

像文生圖工具DALL-E、Midjourney和文生視頻工具Sora，只需要輸入一個(gè)請(qǐng)求，系統(tǒng)就會(huì)輸出圖像和視頻，深度偽造變得越來越容易，人們也越來越難以分辨真假。這些假圖像可能看起來無害，但可以用來詐騙、操縱選舉等。例如今年4月印度大選期間，兩位寶萊塢演員批評(píng)印度總理莫迪的假視頻就在網(wǎng)上瘋傳。

如何識(shí)別深度偽造？美聯(lián)社給出了幾個(gè)方法。在深度偽造早期，技術(shù)并不完美，經(jīng)常會(huì)留下操縱跡象，例如照片中有6個(gè)手指的手、眼鏡鏡片形狀不同等明顯錯(cuò)誤。但隨著AI的進(jìn)步，這種觀察變得困難。咨詢公司Latent Space Advisory創(chuàng)始人亨利·艾德爾（Henry Ajder）說，一些廣為流傳的建議，比如在深度偽造視頻中尋找人們不自然的眨眼模式不再成立，不過仍有一些跡象可以尋找。一些人工智能深度偽造照片尤其是人物照片有一種電子光澤、“一種美學(xué)上的平滑效果”讓皮膚看起來“非常光滑”。不過，艾德爾也表示，創(chuàng)造性的提示有時(shí)可以消除這種光滑效果以及其他AI操縱的跡象。

信也科技算法科學(xué)家呂強(qiáng)對(duì)澎湃科技（m.dbgt.com.cn）表示，要通過肉眼分辨圖片是否為合成，可以重點(diǎn)觀察圖片中的細(xì)節(jié)，例如觀察圖片中的手指數(shù)量是否正常、眼神是否怪異、發(fā)絲看起來是否真實(shí)等，如果一個(gè)眼睛看前、一個(gè)眼睛看左就有問題。另外，生成的照片通常在光影上存在瑕疵，并缺乏照片基本參數(shù)，例如曝光等。

檢查陰影和光線的一致性是識(shí)別方式之一，通常來講，拍攝對(duì)象的焦點(diǎn)清晰，看起來栩栩如生，但背景中的元素可能沒有那么逼真或被修飾過。如果圖像中的公眾人物做了一些看起來“夸張、不現(xiàn)實(shí)或不符合性格”的事，這也可能是深度偽造。此外，換臉是常見的深度偽造方法之一，據(jù)美聯(lián)社報(bào)道，可以仔細(xì)觀察臉部邊緣，面部膚色與頭部或身體的其他部位是否匹配。如果懷疑一個(gè)說話視頻是深度偽造，可以觀察嘴唇動(dòng)作是否與音頻完美匹配。艾德爾建議觀察牙齒是清晰還是模糊、與現(xiàn)實(shí)生活中的樣子是否一致。網(wǎng)絡(luò)安全公司諾頓表示，算法可能還不夠復(fù)雜，無法生成單個(gè)牙齒，因此缺乏單個(gè)牙齒的輪廓可能是辨別深度偽造的一個(gè)線索。

不過，人工智能發(fā)展迅速，大模型正在接受訓(xùn)練，以生產(chǎn)質(zhì)量越來越高、缺陷越來越少的內(nèi)容，所以不能保證這些建議在一年后仍然有效。更高效的方法是用AI對(duì)抗AI。呂強(qiáng)表示，利用AI的方式識(shí)別，首先需要構(gòu)建一個(gè)包括真圖和假圖的訓(xùn)練數(shù)據(jù)集，再利用大模型學(xué)習(xí)兩類圖片的不同特征，例如用AI學(xué)習(xí)圖片曝光細(xì)節(jié)，“一張很灰暗的圖片出現(xiàn)了一張整體偏白的人臉，這張圖片可能就是經(jīng)過人臉替換的。但有些人對(duì)光線不敏感，人眼可能就識(shí)別不出來?！碑?dāng)大模型擁有了各類細(xì)節(jié)的識(shí)別能力后，“把這些能力匯總起來，就構(gòu)成了一個(gè)真假圖片的辨別矩陣，然后對(duì)矩陣結(jié)果打分，最終給出來一個(gè)真假圖片的評(píng)判結(jié)果?！辈贿^，他也表示，利用AI識(shí)別生成圖片，算法復(fù)雜度并非難點(diǎn)，挑戰(zhàn)在數(shù)據(jù)。“第一可能沒有那么多假樣本，第二要想讓假樣本覆蓋到很多領(lǐng)域也有挑戰(zhàn)。”

目前，微軟開發(fā)了一種身份驗(yàn)證工具，可以分析照片或視頻，并對(duì)其是否被操縱給出評(píng)分。OpenAI最近也宣布將推出一款工具，用于檢測(cè)由AI圖像生成器DALL-E 3創(chuàng)建的圖像。OpenAI表示，在內(nèi)部測(cè)試中，該工具在98%的時(shí)間內(nèi)正確識(shí)別了DALL-E 3生成的圖像，并且可以最小的影響處理常見修改，如壓縮、裁剪和飽和度變化。此外，OpenAI還加入了一個(gè)包括谷歌、微軟和Adobe在內(nèi)的行業(yè)組織，并計(jì)劃提供一個(gè)有助于追蹤不同媒體來源的標(biāo)準(zhǔn)。芯片制造商英特爾的FakeCatcher則使用算法分析圖像像素來確定真假。據(jù)CNN今年2月報(bào)道，Meta也在努力識(shí)別和標(biāo)記共享在其平臺(tái)上的由第三方工具創(chuàng)建的AI生成圖像。

在國內(nèi)，商湯數(shù)字水印技術(shù)可將特定信息嵌入到多模態(tài)的數(shù)字載體中，支持圖像、視頻、音頻、文本等多模態(tài)數(shù)字載體，可以隱蔽嵌入水印信息，不影響原始內(nèi)容質(zhì)量和用戶感知，同時(shí)抵御攻擊，以免被刪除或修改。商湯科技表示，數(shù)字水印技術(shù)可用于版權(quán)保護(hù)、防偽溯源等場(chǎng)景，在裁剪、壓縮等不同程度干擾下，能保證超過99%的水印提取精度，且不會(huì)損失畫質(zhì)精度而影響數(shù)據(jù)質(zhì)量。