2025年9月1日起，國(guó)家互聯(lián)網(wǎng)信息辦公室聯(lián)合多部門發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》）正式生效，標(biāo)志著我國(guó)內(nèi)容標(biāo)識(shí)制度進(jìn)入正式落地實(shí)施階段。在我國(guó)深入實(shí)施“人工智能+”行動(dòng)背景下，探索推進(jìn)內(nèi)容標(biāo)識(shí)制度實(shí)踐，對(duì)于提升我國(guó)人工智能安全能力水平，加快形成動(dòng)態(tài)敏捷、多元協(xié)同的人工智能治理格局，保障人工智能健康發(fā)展具有重要意義。

　　一、智能經(jīng)濟(jì)加速，安全護(hù)航更顯重要緊迫

　　近日，國(guó)務(wù)院《關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見(jiàn)》明確提出“推動(dòng)人工智能與經(jīng)濟(jì)社會(huì)各行業(yè)各領(lǐng)域廣泛深度融合”，將“人工智能+”升級(jí)為國(guó)家戰(zhàn)略行動(dòng)，全面激發(fā)產(chǎn)業(yè)變革新動(dòng)能、培育智能經(jīng)濟(jì)新范式。在此背景下，傳統(tǒng)信息內(nèi)容風(fēng)險(xiǎn)可能體現(xiàn)出新特性、新形式、新問(wèn)題。一是內(nèi)容生成質(zhì)量提升，加大辨別難度。相較于以往，大模型通過(guò)海量多模態(tài)數(shù)據(jù)訓(xùn)練，可生成高度逼真的多模態(tài)信息內(nèi)容，例如復(fù)刻權(quán)威媒體的行文范式、模擬特定人物的形象風(fēng)格，導(dǎo)致大量用戶誤信。二是人工智能跨界融合，擴(kuò)大風(fēng)險(xiǎn)范圍。伴隨人工智能加速應(yīng)用于醫(yī)療、商業(yè)、金融等領(lǐng)域，虛假信息風(fēng)險(xiǎn)可能導(dǎo)致醫(yī)療誤診、虛假宣傳、市場(chǎng)波動(dòng)等問(wèn)題。以智能終端為例，虛假信息生成呈現(xiàn)即時(shí)交互、多感官觸達(dá)等特征，可能助長(zhǎng)虛假誘導(dǎo)性消費(fèi)購(gòu)物行為等。三是內(nèi)容傳播路徑多樣，源頭溯源困難。人工智能生成內(nèi)容呈現(xiàn)去中心化、跨平臺(tái)化和跨境傳播特征，信息源頭隱匿化，追溯難度顯著增加。同時(shí)，人工智能生成內(nèi)容易于被批量篡改和重組，進(jìn)一步加劇溯源困境。當(dāng)前，AI內(nèi)容識(shí)別溯源已從技術(shù)問(wèn)題升級(jí)為系統(tǒng)性治理難題，亟需通過(guò)內(nèi)容標(biāo)識(shí)制度構(gòu)建“可識(shí)別、可追溯、可問(wèn)責(zé)”的安全防線，為智能經(jīng)濟(jì)高質(zhì)量發(fā)展筑牢根基。

　　二、明確標(biāo)識(shí)要求，筑牢AI“技治+法治”防線

　　為有效化解生成合成內(nèi)容難識(shí)別難溯源困境，《標(biāo)識(shí)辦法》從標(biāo)識(shí)義務(wù)、標(biāo)識(shí)主體、監(jiān)管協(xié)調(diào)等方面明確內(nèi)容標(biāo)識(shí)制度要求，構(gòu)建人工智能生成合成風(fēng)險(xiǎn)“技治+法治”雙重防線。

　　一是提出顯式隱式雙標(biāo)識(shí)義務(wù)，細(xì)化不同內(nèi)容標(biāo)識(shí)要求。《標(biāo)識(shí)辦法》和相關(guān)標(biāo)準(zhǔn)根據(jù)內(nèi)容類型與風(fēng)險(xiǎn)等級(jí)，構(gòu)建了顯式與隱式雙重標(biāo)識(shí)要求，為AI標(biāo)識(shí)提供基本框架：一方面，針對(duì)可能導(dǎo)致公眾混淆或者誤認(rèn)的內(nèi)容，要求添加顯式標(biāo)識(shí)，并根據(jù)文本、音頻、圖片、視頻等不同的服務(wù)場(chǎng)景明確標(biāo)識(shí)位置、樣式、區(qū)域和大小等具體要求，既實(shí)現(xiàn)對(duì)用戶的提示警示效果，又盡量保障用戶良好體驗(yàn)。另一方面，要求服務(wù)提供者在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)，嵌入生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼等信息，為內(nèi)容溯源與責(zé)任認(rèn)定提供技術(shù)保障。

　　二是打通全鏈條治理路徑，科學(xué)設(shè)定主體責(zé)任義務(wù)。《標(biāo)識(shí)辦法》的內(nèi)容標(biāo)識(shí)要求覆蓋設(shè)計(jì)開(kāi)發(fā)、上架分發(fā)、用戶使用、內(nèi)容傳播和責(zé)任追溯等全鏈條，依據(jù)生成合成內(nèi)容服務(wù)提供者、內(nèi)容傳播服務(wù)提供者、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)、用戶等不同主體在潛在風(fēng)險(xiǎn)構(gòu)成中的作用和合規(guī)能力，科學(xué)劃分責(zé)任義務(wù)，實(shí)現(xiàn)生成合成內(nèi)容上下游鏈條的全覆蓋。例如，今日頭條、快手、小紅書(shū)、嗶哩嗶哩、喜馬拉雅等制作平臺(tái)、傳播平臺(tái)均發(fā)布公告，創(chuàng)新探索內(nèi)容標(biāo)識(shí)制度落地方案，落實(shí)雙標(biāo)識(shí)、標(biāo)識(shí)檢測(cè)等義務(wù)，并提供“作者聲明”等功能，激勵(lì)人工智能向善應(yīng)用，保障正常合規(guī)使用AI工具。這既體現(xiàn)了對(duì)技術(shù)創(chuàng)新的包容和鼓勵(lì)，又彰顯了對(duì)潛在風(fēng)險(xiǎn)的高度警惕和有效防范。

　　三是銜接現(xiàn)有法律法規(guī)體系，推進(jìn)多部門監(jiān)管統(tǒng)籌協(xié)調(diào)。作為人工智能治理的重要一環(huán)，《標(biāo)識(shí)辦法》既與《網(wǎng)絡(luò)安全法》一脈相承，又與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等有效銜接，在總則部分就明確指出其與現(xiàn)有法律、行政法規(guī)和部門規(guī)章的緊密聯(lián)系，并在“服務(wù)提供者”等關(guān)鍵概念上沿襲已有規(guī)定。與此同時(shí)，《標(biāo)識(shí)辦法》明確相關(guān)主管部門管理職責(zé)，強(qiáng)化標(biāo)識(shí)管理與算法備案、安全評(píng)估等制度的銜接協(xié)調(diào)。例如《標(biāo)識(shí)辦法》規(guī)定，服務(wù)提供者在履行算法備案、安全評(píng)估等手續(xù)時(shí)，應(yīng)當(dāng)按照本辦法提供生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料，并加強(qiáng)標(biāo)識(shí)信息共享。

　　三、堅(jiān)持系統(tǒng)觀念，加快內(nèi)容標(biāo)識(shí)制度落實(shí)落細(xì)

　　總體來(lái)看，《標(biāo)識(shí)辦法》構(gòu)建的標(biāo)識(shí)制度打破了生成合成內(nèi)容帶來(lái)的信任赤字，形成生成即標(biāo)識(shí)、傳播必核驗(yàn)的閉環(huán)管理，為全球人工智能治理貢獻(xiàn)了重要的中國(guó)智慧。未來(lái)，在實(shí)施中要依據(jù)實(shí)踐，為規(guī)則填補(bǔ)細(xì)節(jié)，為技術(shù)注入倫理，共同推動(dòng)全體人民共享人工智能發(fā)展成果。

　　一是內(nèi)容標(biāo)識(shí)是踐行以技治技的先行探索，堅(jiān)持分類施策逐步全面覆蓋。“以技治技”是應(yīng)對(duì)AI技術(shù)濫用風(fēng)險(xiǎn)的重要理念。作為“以技治技”的關(guān)鍵實(shí)踐，內(nèi)容標(biāo)識(shí)通過(guò)為AI生成內(nèi)容打標(biāo)，化解“人工智能+”應(yīng)用中難識(shí)別、難追溯等問(wèn)題，維護(hù)用戶合法權(quán)益和社會(huì)公共利益。然而，標(biāo)識(shí)制度的細(xì)化落地受到技術(shù)成熟度、產(chǎn)業(yè)差異、場(chǎng)景復(fù)雜性等多重因素影響，細(xì)化落地并非簡(jiǎn)單的技術(shù)疊加，而是技術(shù)、產(chǎn)業(yè)、監(jiān)管、標(biāo)準(zhǔn)多維度協(xié)同的系統(tǒng)工程，需在技術(shù)上分階段覆蓋、在主體上分層次引導(dǎo)、在場(chǎng)景上分類型施策，循序漸進(jìn)激發(fā)和實(shí)現(xiàn)內(nèi)容標(biāo)識(shí)的制度價(jià)值。

　　二是內(nèi)容標(biāo)識(shí)是優(yōu)化行業(yè)生態(tài)的共同需求，推動(dòng)多方協(xié)同加快普及適用。用戶信任是釋放AI內(nèi)容價(jià)值的基礎(chǔ)，若用戶對(duì)信息內(nèi)容真?zhèn)坞y辨、風(fēng)險(xiǎn)未知，則會(huì)本能抵制，制約技術(shù)應(yīng)用創(chuàng)新發(fā)展。內(nèi)容標(biāo)識(shí)制度試圖通過(guò)“透明化”重建用戶信任，有效追溯違法違規(guī)責(zé)任主體，推動(dòng)釋放技術(shù)對(duì)實(shí)體經(jīng)濟(jì)的賦能價(jià)值。在落地實(shí)踐中，部分頭部企業(yè)已在內(nèi)容標(biāo)識(shí)策略、多模態(tài)鑒偽技術(shù)等方面積極探索，形成行業(yè)最佳實(shí)踐。推動(dòng)內(nèi)容標(biāo)識(shí)的普及適用，需要全行業(yè)強(qiáng)化協(xié)同，建立跨平臺(tái)協(xié)同機(jī)制，著力推動(dòng)技術(shù)標(biāo)準(zhǔn)統(tǒng)一、安全能力普惠，共同推動(dòng)標(biāo)識(shí)制度全面落地。

　　三是內(nèi)容標(biāo)識(shí)是推進(jìn)國(guó)際合作的重要方向，構(gòu)筑標(biāo)準(zhǔn)引領(lǐng)增強(qiáng)國(guó)際互信。當(dāng)前，人形機(jī)器人、智能體等AI應(yīng)用快速發(fā)展，進(jìn)一步加速人工智能全球風(fēng)險(xiǎn)傳播速度、加劇責(zé)任跨境追溯難度。內(nèi)容標(biāo)識(shí)作為技術(shù)規(guī)制的“通用語(yǔ)言”，可成為彌合各國(guó)監(jiān)管差異、推進(jìn)國(guó)際合作的有效抓手。為配合《標(biāo)識(shí)辦法》有效落地，我國(guó)先后發(fā)布《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》及7項(xiàng)標(biāo)準(zhǔn)實(shí)踐指南，推動(dòng)內(nèi)容標(biāo)識(shí)制度的工程化、技術(shù)化、標(biāo)準(zhǔn)化。未來(lái)，系列標(biāo)準(zhǔn)將在實(shí)踐中積累形成“內(nèi)容標(biāo)識(shí)工具包”，成為可推廣可復(fù)制的國(guó)際公共產(chǎn)品，推動(dòng)安全可信AI惠及更多國(guó)家和人民。

　　作者：李強(qiáng)治　中國(guó)信息通信研究院政策與經(jīng)濟(jì)研究所副所長(zhǎng)