11月24日，網(wǎng)信中國發(fā)布《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項(xiàng)行動的通知》（下文簡稱《通知》），有關(guān)工作方案主要任務(wù)包括：重點(diǎn)整治同質(zhì)化推送營造“信息繭房”、違規(guī)操縱干預(yù)榜單炒作熱點(diǎn)、盲目追求利益侵害新就業(yè)形態(tài)勞動者權(quán)益、利用算法實(shí)施大數(shù)據(jù)“殺熟”、算法向上向善服務(wù)缺失侵害用戶合法權(quán)益等重點(diǎn)問題，督促企業(yè)深入對照自查整改，進(jìn)一步提升算法安全能力。

此次《通知》內(nèi)容具體包括：第一，深入整治“信息繭房”、誘導(dǎo)沉迷問題。嚴(yán)禁推送高度同質(zhì)化內(nèi)容誘導(dǎo)用戶沉迷。不得強(qiáng)制要求用戶選擇興趣標(biāo)簽，不得將違法和不良信息記入用戶標(biāo)簽并據(jù)以推送信息，不得超范圍收集用戶個人信息用于內(nèi)容推送。

第二，提升榜單透明度打擊操縱榜單行為，嚴(yán)管不法分子惡意利用榜單排序規(guī)則操縱榜單、炒作熱點(diǎn)行為。第三，嚴(yán)防一味壓縮配送時間導(dǎo)致配送超時率、交通違章率、事故發(fā)生率上升等問題。第四，嚴(yán)禁利用算法實(shí)施大數(shù)據(jù)“殺熟”。第五，增強(qiáng)算法向上向善服務(wù)保護(hù)網(wǎng)民合法權(quán)益。第六，落實(shí)算法安全主體責(zé)任。

《通知》出臺的背景，是算法推薦模式盛行之下，內(nèi)容生產(chǎn)方式、傳播介質(zhì)、運(yùn)轉(zhuǎn)模式以及用戶信息行為模式都發(fā)生轉(zhuǎn)變，由此帶來對網(wǎng)絡(luò)輿論場的沖擊，導(dǎo)致網(wǎng)絡(luò)輿論生態(tài)面臨挑戰(zhàn)。

此次《通知》對算法治理工作提出具體目標(biāo)，包括算法導(dǎo)向正確、公平公正、公開透明、自主可控、責(zé)任落實(shí)。如不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等的算法模型；不得利用算法干預(yù)信息呈現(xiàn)，實(shí)施影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理行為；定期審核、評估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，常態(tài)化開展算法安全自評估。

《通知》要求此次專項(xiàng)行動自即日起至2025年2月14日，組織企業(yè)自查自糾，簡單問題立即整改，復(fù)雜問題明確整改舉措和期限。積極落實(shí)屬地管理責(zé)任，對照《算法專項(xiàng)治理清單指引》（附件），對企業(yè)自查自糾情況進(jìn)行深入評估。對自查不認(rèn)真、整改不徹底的企業(yè)，及時組織技術(shù)力量進(jìn)行核查并督促整改。

同時，《通知》要求各地網(wǎng)信部門要發(fā)揮統(tǒng)籌協(xié)調(diào)作用，牽頭開展專項(xiàng)行動。加強(qiáng)與屬地電信、公安、市場監(jiān)管等相關(guān)部門聯(lián)動，細(xì)化工作分工，壓實(shí)工作責(zé)任。運(yùn)用好央地各方有效技術(shù)支撐力量，積極有效推動各項(xiàng)任務(wù)落實(shí)，確保取得工作成效。

目前，算法治理已是行業(yè)共識，《通知》也并非行業(yè)首次提出規(guī)范。復(fù)旦大學(xué)管理學(xué)院信息管理與商業(yè)智能系教授張成洪撰文表示，當(dāng)算法決策或應(yīng)用結(jié)果損害特定主體權(quán)益時，由于規(guī)則和原則不明確，可能導(dǎo)致利益救濟(jì)不足的風(fēng)險；濫用或誤用算法也是一個潛在的風(fēng)險，算法產(chǎn)生的決策效果可能會破壞社會的公正和社會凝聚力。因此我們迫切需要對AI算法進(jìn)行有效的治理。

2021年9月，《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》出臺；2021年11月19日，《互聯(lián)網(wǎng)信息服務(wù)算法應(yīng)用自律公約》發(fā)布；2021年12月31日，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》發(fā)布；2024年7月11日，《互聯(lián)網(wǎng)信息服務(wù)算法推薦合規(guī)自律公約》發(fā)布。

同時，算法的復(fù)雜使得算法治理不可一蹴而就，清華大學(xué)人工智能國際治理研究院副院長、人工智能治理研究中心（清華大學(xué)）主任梁正表示，算法治理面臨多重挑戰(zhàn)，包括技術(shù)固有的“黑箱”特征，即隨著模型的日趨復(fù)雜、數(shù)據(jù)日趨多元，算法的不可解釋、不可控性有增加的傾向。

其次，梁正認(rèn)為，如何在效率和公共利益最大化之間的權(quán)衡，是算法治理時要考慮的重要部分。以及針對算法合規(guī)審計(jì)，缺乏獨(dú)立專業(yè)的第三方機(jī)構(gòu)和成熟統(tǒng)一的評估標(biāo)準(zhǔn)，同樣是目前國內(nèi)算法治理存在的困境。許多平臺都是自主做相關(guān)工作，但平臺是否能夠完全承擔(dān)相應(yīng)責(zé)任，無論從意愿還是能力上都有待商榷。

張成洪認(rèn)為，AI算法治理至少要包含三個層次。第一個是算法治理的政策法規(guī)，由國家行業(yè)的主管部門制定政策，給予指導(dǎo)；第二是算法合規(guī)性的審計(jì)，依據(jù)法律法規(guī)或者行業(yè)要求對企業(yè)展開檢查和監(jiān)管，可能由企業(yè)內(nèi)部做，也可能需要行業(yè)或國家成立專門的監(jiān)管機(jī)構(gòu)去做；第三開發(fā)出合規(guī)合法的AI算法，這對開發(fā)人員、對算法工程師是有要求的。

工信部信息通信經(jīng)濟(jì)專家委員會委員盤和林對記者表示，算法推薦并不適用于避風(fēng)港原則，不可單純通過該原則封閉自身算法規(guī)則機(jī)制，之前法律已要求各大平臺有責(zé)任對平臺數(shù)據(jù)采集和算法進(jìn)行備案。通過對推薦算法進(jìn)行報備，由監(jiān)管部門對算法的合理性進(jìn)行審查。

至于此次《通知》對行業(yè)算法治理的影響，盤和林對記者表示，此次通知后，行業(yè)將有一輪具體行動，僅靠平臺自查不可行，第三方機(jī)構(gòu)和成熟統(tǒng)一的評估標(biāo)準(zhǔn)可能在此次指導(dǎo)文件發(fā)布后逐步完善。該過程需要時間，也需要政府側(cè)配備相關(guān)人才等資源。

(本文來自第一財(cái)經(jīng))

.portal{background: #f8f8f8; padding: 10px; border-radius: 5px;line-height: 24px;}