生成式人工智能（AIGC）是人工智能由1.0時(shí)代進(jìn)入2.0時(shí)代的重要標(biāo)志。隨著人工智能通用大模型的問世，全球?qū)IGC技術(shù)的強(qiáng)大潛力有了更加深刻的認(rèn)識(shí)。面對(duì)風(fēng)口，機(jī)遇與挑戰(zhàn)并存。媒體融合的下一個(gè)十年，AIGC又將如何重構(gòu)媒體生態(tài)？

7月22日，在澎湃新聞網(wǎng)主辦的“堅(jiān)守媒體初心，擁抱AI時(shí)代”2023外灘新媒體年會(huì)上，多位來自業(yè)界的嘉賓就相關(guān)話題展開了圓桌對(duì)話。

參與討論的嘉賓有之江實(shí)驗(yàn)室科藝融合研究中心主任耿衛(wèi)東、傳播大腦科技（浙江）股份有限公司副總經(jīng)理兼CTO張健、寧波日?qǐng)?bào)報(bào)業(yè)集團(tuán)編委吳育新、騰訊云天御內(nèi)容風(fēng)控總監(jiān)周耀輝。本場圓桌論壇由澎湃新聞副總編輯黃楊主持。

“AIGC如何重構(gòu)媒體生態(tài)”圓桌論壇現(xiàn)場

技術(shù)賦能傳媒生態(tài)

今年初，浙江省舉全省之力打造的媒體統(tǒng)一技術(shù)支撐平臺(tái)傳播大腦橫空出世，引發(fā)了行業(yè)內(nèi)外的極大關(guān)注。作為賦能下一個(gè)十年媒體深度融合的重要布局，其提出的目標(biāo)是打造引領(lǐng)媒體變革的技術(shù)集成中心、數(shù)據(jù)交互中臺(tái)、融合傳播中樞，讓更多媒體“共享開源技術(shù)，共建開放生態(tài)”，以移動(dòng)互聯(lián)網(wǎng)新思維新技術(shù)，賦能媒體深度融合發(fā)展。

傳播大腦科技（浙江）股份有限公司副總經(jīng)理兼CTO張健在論壇上介紹，雖然成立時(shí)間不長，但目前傳播大腦已經(jīng)有了三項(xiàng)主要成果。

澎湃新聞副總編輯黃楊

首先是新型的智能化媒體技術(shù)平臺(tái)，即“天目藍(lán)云”，它為各級(jí)媒體提供的豐富應(yīng)用，包括流程、直播等能力。第二個(gè)是前不久正式發(fā)布的媒體行業(yè)專業(yè)大模型“傳播大模型”平臺(tái)，通過緊跟傳媒發(fā)展的前沿，持續(xù)為媒體行業(yè)進(jìn)行業(yè)務(wù)賦能。第三項(xiàng)成果，是持續(xù)進(jìn)行的一張網(wǎng)的建設(shè)。通過建構(gòu)數(shù)據(jù)、運(yùn)營、用戶一張網(wǎng)，從數(shù)據(jù)層面把全省的內(nèi)容、運(yùn)營數(shù)據(jù)做打通，為全省的媒體賦能。

“作為一個(gè)省級(jí)的技術(shù)支撐平臺(tái)，最重要的是要有非常完整的業(yè)務(wù)體系。流程完整的業(yè)務(wù)體系和豐富的技術(shù)經(jīng)驗(yàn)?zāi)軌蛑巫龊肂端的媒體服務(wù)，為全省的媒體單位賦能?！睆埥≈赋?，媒體技術(shù)平臺(tái)一定要有足夠強(qiáng)的To B的業(yè)務(wù)模式，以此支撐起為媒體做服務(wù)的價(jià)值。同時(shí)也要有足夠強(qiáng)的C端洞悉能力，理解用戶到底需要什么。最后還要明確，用戶、媒體、監(jiān)管是一個(gè)完整的閉環(huán)，不僅要了解用戶需要什么，還要感知監(jiān)管的需求，進(jìn)而讓整個(gè)業(yè)務(wù)體系變成閉環(huán)。

傳播大腦科技（浙江）股份有限公司副總經(jīng)理兼CTO張健

寧波日?qǐng)?bào)報(bào)業(yè)集團(tuán)編委吳育新表示，對(duì)客戶端來說，光做新聞是遠(yuǎn)遠(yuǎn)不夠的，還要努力搭建平臺(tái)，構(gòu)建自己的生態(tài)。他以甬派客戶端去年底上線的網(wǎng)絡(luò)小說頻道為例，表示要提高用戶的粘性需要有多樣化的思考和表達(dá)。

“網(wǎng)絡(luò)小說要生成圖片很不容易，沒有設(shè)計(jì)師做圖時(shí)編輯很是為難，直接使用網(wǎng)絡(luò)圖片又會(huì)牽扯版權(quán)問題?，F(xiàn)在我們的編輯通過ChatGPT做成大圖，通過這一形式吸引用戶，增強(qiáng)用戶粘性?！眳怯孪Ｍ?，未來媒體能夠結(jié)合AIGC的特點(diǎn)，探索自身生態(tài)建設(shè)。

寧波日?qǐng)?bào)報(bào)業(yè)集團(tuán)編委吳育新

AIGC的內(nèi)容安全之困

“科技向善”是眾多科技工作者的信仰，但面對(duì)AIGC可能帶來的內(nèi)容風(fēng)險(xiǎn)，虛實(shí)混融中該如何守住真實(shí)底線？ 在圓桌論壇現(xiàn)場，澎湃新聞副總編輯黃楊也提出了這個(gè)問題。

騰訊云天御內(nèi)容風(fēng)控總監(jiān)周耀輝表示，從UGC（用戶生產(chǎn)內(nèi)容）、PGC（專業(yè)生產(chǎn)內(nèi)容）到AIGC，內(nèi)容安全建設(shè)有了一些新變化。首先是對(duì)內(nèi)容型平臺(tái)來說，會(huì)出現(xiàn)新的不合規(guī)內(nèi)容類型，比如說前段出現(xiàn)的AI深度合成偽造的人臉詐騙，還有AI創(chuàng)作工具在電商平臺(tái)的“盜圖抄店”，這些都是應(yīng)當(dāng)引起警惕的。

此外，對(duì)于非內(nèi)容型的平臺(tái)，AIGC會(huì)有內(nèi)容挖掘的需求，需要在前期對(duì)AI模型開展規(guī)范化訓(xùn)練。比如說在智能客服的場景，如果AIGC參與問答，會(huì)有不可預(yù)測的風(fēng)險(xiǎn)，用戶很容易被AIGC惡意誘導(dǎo)回答一些內(nèi)容，從而泄露個(gè)人隱私。

“最后一點(diǎn)，不僅是要杜絕低俗類或者暴力血腥類內(nèi)容的傳播，我們也希望減少低質(zhì)量的內(nèi)容擴(kuò)散。在UGC平臺(tái)上，當(dāng)用戶掌握了AIGC的工具以后，可能會(huì)生產(chǎn)出不少質(zhì)量不高的文章，這種內(nèi)容對(duì)平臺(tái)生態(tài)幫助不大，我們也嘗試在一些場景中把AIGC生成的內(nèi)容降權(quán)。”周耀輝說。

國家7部門近日聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》為AIGC的規(guī)范發(fā)展劃定了“紅線”和“底線”，對(duì)各方都將帶來新的挑戰(zhàn)。周耀輝表示，內(nèi)容風(fēng)控是攻防對(duì)抗不斷演進(jìn)的過程，面對(duì)AIGC生成的海量內(nèi)容帶來的內(nèi)容安全風(fēng)險(xiǎn)，可以“用魔法打敗魔法”。

“騰訊在微信、騰訊視頻、騰訊新聞都有過用AIGC去輔助內(nèi)容審核的經(jīng)驗(yàn)。簡單來說，內(nèi)容的智能審核需要對(duì)圖片進(jìn)行分類，對(duì)模型進(jìn)行訓(xùn)練和預(yù)訓(xùn)練，從而加快模型訓(xùn)練的速度，降低訓(xùn)練的成本?！敝芤x表示。

周耀輝強(qiáng)調(diào)，人工智能不是萬能的，可以通過人機(jī)協(xié)同提升準(zhǔn)確率。他建議媒體可以通過資深編輯的審校把關(guān)，與機(jī)器審核進(jìn)行聯(lián)動(dòng)，降低內(nèi)容審核成本。

騰訊云天御內(nèi)容風(fēng)控總監(jiān)周耀輝

所有的技術(shù)都有優(yōu)勢，同樣所有的技術(shù)都存在局限性。在人工智能領(lǐng)域，AI出現(xiàn)錯(cuò)誤或者偏差，導(dǎo)致生成不準(zhǔn)確、錯(cuò)誤甚至荒誕結(jié)果的現(xiàn)象被稱為AI“幻覺”。它可能發(fā)生在多個(gè)層面上，如文本的胡編亂造、事實(shí)的錯(cuò)誤捏造、無用代碼的生成，甚至編造出相關(guān)參考文獻(xiàn)。

“大模型解決了常識(shí)性的問題，讓人們覺得它無所不能。但是真正應(yīng)用它的時(shí)候，光有常識(shí)是不夠的，一定要結(jié)合專業(yè)領(lǐng)域的知識(shí)，相互結(jié)合才能更好地為我們的生態(tài)服務(wù)?！敝瓕?shí)驗(yàn)室科藝融合研究中心主任耿衛(wèi)東表示，可以把大模型看成上知天文、下知地理的諸葛亮，但有了諸葛亮打算做什么？最好的角色是做劉備，必須有理想有目標(biāo)，在這個(gè)前提下請(qǐng)軍師幫忙，最后達(dá)到想要的結(jié)果。

之江實(shí)驗(yàn)室科藝融合研究中心主任耿衛(wèi)東

人工智能時(shí)代，主流媒體更需要堅(jiān)持真實(shí)權(quán)威的底線。吳育新表示，針對(duì)不時(shí)出現(xiàn)的用ChatGPT編造假新聞的情況。要在技術(shù)前置進(jìn)行優(yōu)化，不斷完善ChatGPT的算法，防止虛假內(nèi)容的輸出。另一方面，媒體的專業(yè)素養(yǎng)不能丟，媒體從業(yè)者對(duì)于技術(shù)不要過度依賴。

“從目前來看，AIGC對(duì)大多數(shù)媒體來說只是到門口。但風(fēng)吹到我們腳底下的話還要一段時(shí)間，我們要有心理準(zhǔn)備，現(xiàn)在還沒有到豬都能吹起來的地步?！眳怯抡f。

打造傳媒業(yè)的數(shù)據(jù)大模型

AIGC 技術(shù)的突破性進(jìn)展引發(fā)內(nèi)容生產(chǎn)方式變革，也對(duì)主流媒體以先進(jìn)技術(shù)賦能的思路、框架、方法、路徑提出了新要求。

“在媒體里，我們的每一篇稿子是專業(yè)的記者編輯花了很多精力高質(zhì)量生產(chǎn)出來的，這些都是大模型訓(xùn)練所必須的數(shù)據(jù)?！睆埥≌J(rèn)為，從大模型的演進(jìn)來說，當(dāng)下最主要的問題是每家媒體擁有的數(shù)據(jù)量太少了，各家數(shù)據(jù)的格式又存在較大差異，如果都從網(wǎng)上抓取要進(jìn)行清洗和格式優(yōu)化，太浪費(fèi)資源和時(shí)間。如果可以通過建設(shè)傳媒業(yè)數(shù)據(jù)大模型的機(jī)會(huì)，把各家媒體的數(shù)據(jù)整合到一起，研發(fā)屬于傳媒行業(yè)的數(shù)據(jù)大模型，將是很有意義的一件事。

“從產(chǎn)品的演進(jìn)來說，通用化的大模型產(chǎn)品發(fā)展到接下來的私有化大模型產(chǎn)品，大模型的能力和本地資源形成合力，可以助力傳媒業(yè)盡快過渡到真正的智媒時(shí)代。”張健表示。

“迎接媒體融合轉(zhuǎn)型的下一個(gè)十年，需要合作伙伴們的抱團(tuán)取暖，通過人工智能驅(qū)動(dòng)媒體的融合轉(zhuǎn)型，用魔法打敗魔法，用大用戶大生態(tài)構(gòu)建未來全媒體傳播的信息基礎(chǔ)?！迸炫刃侣劯笨偩庉孅S楊在總結(jié)中表示。