2024年11月以來，落實(shí)中央網(wǎng)信辦等四部門聯(lián)合部署要求，上海市委網(wǎng)信辦會同市通管局、市公安局、市市場監(jiān)管局推進(jìn)開展“清朗浦江·網(wǎng)絡(luò)平臺算法典型問題治理”專項(xiàng)行動。為鞏固專項(xiàng)治理成果，加強(qiáng)業(yè)務(wù)合規(guī)指導(dǎo)，近期上海市委網(wǎng)信辦會同上海互聯(lián)網(wǎng)應(yīng)急中心編寫了《上海屬地網(wǎng)絡(luò)平臺算法治理合規(guī)指引（試行）》（下稱《指引》），并于2025年4月1日起正式實(shí)施。

《指引》共七章，分為十七條細(xì)則，在興趣管理、推薦內(nèi)容、加強(qiáng)特殊群體權(quán)益保護(hù)等方面均作出引導(dǎo)提示。

《指引》圍繞個性化推薦、熱搜榜單、調(diào)度決策等算法場景，對“信息繭房”、違規(guī)操縱熱搜榜單、騎手“困在”算法里、大數(shù)據(jù)“殺熟”等社會關(guān)注度高的算法典型問題，對屬地網(wǎng)絡(luò)平臺提出16條合規(guī)要求，強(qiáng)調(diào)要堅(jiān)持算法導(dǎo)向正確、公平公正、公開透明、自主可控、責(zé)任落實(shí)原則，促進(jìn)算法應(yīng)用向上向善，保障用戶合法權(quán)益。

興趣管理自主化、推薦內(nèi)容清朗化

在個性化推薦場景方面，《指引》著重強(qiáng)調(diào)，要保障用戶的自主選擇權(quán)和體驗(yàn)。《指引》提出，用戶應(yīng)能便捷關(guān)閉個性化推薦，關(guān)閉后平臺不得靜默開啟或頻繁打擾。同時(shí)，平臺需提供完善的興趣標(biāo)簽管理，注冊時(shí)不得強(qiáng)制用戶選擇標(biāo)簽，并且要不斷完善“不感興趣”等負(fù)反饋功能，細(xì)化多維度反饋選項(xiàng)。

澎湃新聞了解到，近日，在網(wǎng)信部門指導(dǎo)下，小紅書、嗶哩嗶哩上新“一鍵破繭”功能，通過圖表向用戶直觀展示目前瀏覽內(nèi)容的“信息繭房”程度，同時(shí)支持用戶自主調(diào)節(jié)個性化推薦的內(nèi)容偏好。

《指引》明確要求平臺推薦內(nèi)容清朗化。要積極利用算法技術(shù)，推動平臺內(nèi)容生態(tài)治理。不一味以用戶偏好為導(dǎo)向，要在算法推薦中引入“賬號信用分”“作品質(zhì)量分”等類似正向指標(biāo)，提高內(nèi)容合規(guī)指標(biāo)比重。從算法分發(fā)源頭，加大優(yōu)質(zhì)內(nèi)容、作者的流量傾斜，完善違規(guī)信息特征庫，抑制不良信息出現(xiàn)頻率。

同時(shí)，《指引》提出，使用消費(fèi)者信息時(shí)要做減法。不得以個性化推薦為名過度收集超出算法本身功能必要范圍的用戶個人信息，如設(shè)備價(jià)格、收入水平等；商品或服務(wù)定價(jià)不得使用不合理的與用戶特征相關(guān)因素，包括年齡、性別、瀏覽記錄、消費(fèi)水平、設(shè)備類型等。優(yōu)惠促銷活動要明確說明優(yōu)惠規(guī)則，如適用范圍、參與條件、用戶身份限制等，不得包含歧視性條件，如購買能力等。

算法應(yīng)用向上向善，加強(qiáng)特殊群體權(quán)益保護(hù)

《指引》要求，網(wǎng)絡(luò)平臺提供算法相關(guān)服務(wù)，要堅(jiān)持算法導(dǎo)向正確、公平公正、公開透明、自主可控、責(zé)任落實(shí)原則，促進(jìn)算法應(yīng)用向上向善，保障用戶合法權(quán)益。

澎湃新聞注意到，在特殊群體權(quán)益保護(hù)方面，《指引》要求健全涉未成年人內(nèi)容審核機(jī)制，完善未成年人模式，不得向未成年人用戶推送侵害其身心健康的網(wǎng)絡(luò)信息，不得設(shè)置誘導(dǎo)未成年人用戶沉迷、過度消費(fèi)等的算法模型。持續(xù)優(yōu)化面向老年人的算法推薦服務(wù)，減少向老年人推送保健產(chǎn)品、老年人用品和金融產(chǎn)品等營銷信息，不推送不實(shí)新聞、反科學(xué)、封建迷信等容易引發(fā)恐慌情緒的內(nèi)容。

同時(shí)，《指引》還載明，要對生成合成內(nèi)容進(jìn)行顯著標(biāo)識，提升生成合成信息檢測識別能力，及時(shí)發(fā)現(xiàn)處理違法違規(guī)生成合成信息。要在生成合成類內(nèi)容的用戶發(fā)布流程中，通過必選項(xiàng)等方式顯著要求用戶選擇標(biāo)識。要建立完善兼顧用戶體驗(yàn)和安全可靠的模型評價(jià)體系，不能過度依賴用戶互動反饋和停留時(shí)長等業(yè)務(wù)標(biāo)準(zhǔn)。模型訓(xùn)練數(shù)據(jù)覆蓋類別要全面、價(jià)值觀要對齊。

此外，要健全算法透明公示機(jī)制，主要算法“應(yīng)備盡備”。備案算法要在其對外提供服務(wù)的網(wǎng)站、應(yīng)用程序的顯著位置標(biāo)明其備案編號及公示鏈接，要求在首頁操作4步內(nèi)可達(dá)。要建立算法溝通機(jī)制，線上要設(shè)置便捷的公眾投訴舉報(bào)入口，包括服務(wù)熱線、舉報(bào)郵箱等。

針對同質(zhì)化推送營造“信息繭房”、違規(guī)操縱干預(yù)榜單炒作熱點(diǎn)、利用算法實(shí)施大數(shù)據(jù)“殺熟”等典型問題，2024年11月，中央網(wǎng)信辦、工信部、公安部、國家市場監(jiān)督管理總局啟動“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項(xiàng)行動。

2024年底，為指導(dǎo)平臺進(jìn)一步定位問題、落實(shí)整改措施，上海市委網(wǎng)信辦聯(lián)合相關(guān)部門召開算法治理合規(guī)指導(dǎo)會。針對相關(guān)問題，上海市委網(wǎng)信辦要求網(wǎng)站平臺落實(shí)算法治理主體責(zé)任，結(jié)合專項(xiàng)行動重點(diǎn)任務(wù)舉一反三自查整改，進(jìn)一步引導(dǎo)算法應(yīng)用公平公正、透明可釋，充分保障網(wǎng)民合法權(quán)益。此后，屬地網(wǎng)站平臺積極行動，加強(qiáng)算法功能迭代升級，推出多項(xiàng)創(chuàng)新舉措，進(jìn)一步保障網(wǎng)民合法權(quán)益。

2025年初，在上海市委網(wǎng)信辦指導(dǎo)下，小紅書、得物、喜馬拉雅、嗶哩嗶哩、拼多多等多家網(wǎng)站平臺陸續(xù)發(fā)布“清朗浦江·網(wǎng)絡(luò)平臺算法典型問題治理”專項(xiàng)行動治理公告，并公布網(wǎng)民投訴舉報(bào)反饋渠道，表態(tài)主動接受社會監(jiān)督，將根據(jù)網(wǎng)民反映的問題調(diào)整優(yōu)化算法應(yīng)用，促進(jìn)算法應(yīng)用向上向善。

蘭州大學(xué)信息科學(xué)與工程學(xué)院副教授劉忻在接受媒體采訪時(shí)表示，算法作為一種工具，其使用方向決定善惡，作為一系列代碼的集合，它在某些領(lǐng)域?qū)儆诤诵馁Y產(chǎn)，查看算法模型對執(zhí)法者來說需要一定門檻，這是目前規(guī)范算法的薄弱環(huán)節(jié)之一。從技術(shù)角度看，需盡快完善大數(shù)據(jù)算法模型制定依據(jù)和檢測辦法；從管理角度看，需加強(qiáng)監(jiān)管機(jī)制，明晰市場準(zhǔn)入制度，讓大數(shù)據(jù)走出技術(shù)“暗房”。

此次上海發(fā)布網(wǎng)絡(luò)平臺算法治理合規(guī)指引，有望進(jìn)一步凈化網(wǎng)絡(luò)空間，提升用戶體驗(yàn)，促進(jìn)互聯(lián)網(wǎng)行業(yè)的健康發(fā)展。