9月1日起，AI生成內(nèi)容必須依法打上“電子水印”。

今年3月，國(guó)家網(wǎng)信辦等四部門聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》）。《標(biāo)識(shí)辦法》指出，利用人工智能技術(shù)生成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息，必須添加顯式和隱式兩種標(biāo)識(shí)。顯式標(biāo)識(shí)指可以被用戶明顯感知到的標(biāo)識(shí)，隱式標(biāo)識(shí)指在生成內(nèi)容的數(shù)據(jù)中添加的標(biāo)識(shí)。

標(biāo)識(shí)AI生成內(nèi)容，內(nèi)容發(fā)布者負(fù)主要責(zé)任

澎湃新聞梳理社交媒體平臺(tái)相關(guān)用戶協(xié)議發(fā)現(xiàn)，B站、抖音、微博、小紅書等平臺(tái)要求內(nèi)容發(fā)布者主動(dòng)標(biāo)識(shí)AI生成內(nèi)容。對(duì)于不主動(dòng)標(biāo)識(shí)AI生成內(nèi)容的行為，部分平臺(tái)采取了限流、下架內(nèi)容、封號(hào)等措施。抖音還對(duì)未主動(dòng)標(biāo)識(shí)AI生成內(nèi)容的行為，采取取消營(yíng)利、抹除粉絲等措施。

此外，大部分平臺(tái)對(duì)未標(biāo)識(shí)的AI生成內(nèi)容采取了“自動(dòng)標(biāo)記”的補(bǔ)漏措施，但實(shí)際效果差強(qiáng)人意。記者使用“AI圖像”在各平臺(tái)檢索后，依然能夠找到大量未標(biāo)示的AI生成內(nèi)容。值得一提的是，部分平臺(tái)對(duì)AI標(biāo)識(shí)的有關(guān)規(guī)定，最早可以追溯到《標(biāo)識(shí)辦法》出臺(tái)前。這意味著很多平臺(tái)在治理AI生成內(nèi)容標(biāo)識(shí)上做了長(zhǎng)期的實(shí)踐和探索，僅依靠平臺(tái)規(guī)則和防范機(jī)制，很難完全規(guī)避未標(biāo)示AI生成內(nèi)容的傳播。廣東財(cái)經(jīng)大學(xué)法學(xué)院教授姚志偉在接受南都記者采訪時(shí)表示，新規(guī)對(duì)內(nèi)容傳播平臺(tái)提出的技術(shù)要求較高，中小內(nèi)容平臺(tái)能否有效落地執(zhí)行還需觀察。

內(nèi)容發(fā)布者不主動(dòng)標(biāo)識(shí)AI生成內(nèi)容的原因是多種多樣的，但本質(zhì)還是想吃到AI內(nèi)容帶來(lái)的流量以及起號(hào)、變現(xiàn)紅利。一項(xiàng)關(guān)于深度偽造內(nèi)容AI標(biāo)識(shí)對(duì)用戶態(tài)度及轉(zhuǎn)發(fā)意愿影響的研究指出，內(nèi)容發(fā)布者的標(biāo)識(shí)提醒能夠有效激發(fā)用戶對(duì)深度偽造內(nèi)容的識(shí)別和處理，但會(huì)降低用戶對(duì)發(fā)布內(nèi)容的態(tài)度和分享意愿。

平臺(tái)對(duì)AI生成內(nèi)容可以說(shuō)是“又愛(ài)又恨”。一方面，AI生成內(nèi)容是熱門內(nèi)容創(chuàng)作賽道，抖音、小紅書等平臺(tái)都推出了扶持AI內(nèi)容創(chuàng)作的計(jì)劃，給與AI生成內(nèi)容流量?jī)A斜和推廣；另一方面，一些用戶在使用AI起號(hào)、做號(hào)時(shí)沒(méi)有底線思維，傳播謠言、虛假信息、色情擦邊內(nèi)容的違規(guī)行為屢禁不止。

造謠、擦邊、換臉是AI濫用的重災(zāi)區(qū)

2025年4月，中央網(wǎng)信辦開展了為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)。上海市委網(wǎng)信辦指導(dǎo)小紅書、嗶哩嗶哩、拼多多等15家重點(diǎn)網(wǎng)站平臺(tái)，共攔截清理相關(guān)違法違規(guī)信息82萬(wàn)余條，處置違規(guī)賬號(hào)1400余個(gè)，下線違規(guī)智能體2700余個(gè)。經(jīng)整治，網(wǎng)絡(luò)違規(guī)AI信息顯著減少。

澎湃新聞統(tǒng)計(jì)B站、小紅書、微博發(fā)布的“清朗·整治AI技術(shù)濫用”治理周報(bào)典型案例發(fā)現(xiàn)，虛假宣傳（謠言）、低俗擦邊、違規(guī)營(yíng)銷推廣AI產(chǎn)品信息（AI換臉、換聲等）是各平臺(tái)比較突出的共性問(wèn)題。此外，B站在AI技術(shù)濫用的治理重點(diǎn)中還將以下內(nèi)容列為違規(guī)內(nèi)容，包括AI生成國(guó)際軍事虛假內(nèi)容、AI生成低俗獵奇視頻、AI生成虛擬外國(guó)幼兒教育專家教授育兒內(nèi)容、AI生成歷史人物穿越、AI大模型助考/高考押題預(yù)測(cè)等。

據(jù)網(wǎng)信上海消息，通過(guò)政策指導(dǎo)、生態(tài)協(xié)同與技術(shù)落地，稀宇科技、階躍星辰、通義、小紅書、嗶哩嗶哩、Soul等已基本完成顯式標(biāo)識(shí)規(guī)范上線，加快開發(fā)上線隱式標(biāo)識(shí)和傳播鏈互認(rèn)驗(yàn)證，小紅書牽頭編制圖片模態(tài)元數(shù)據(jù)標(biāo)識(shí)實(shí)踐指南，上海標(biāo)識(shí)工作取得階段性成效。